In 1881 emigreert hij samen met zijn jonge vrouw Debora naar Palestina, dan dan nog in Turks bezit is. Hij is ervan overtuigd dat het Hebreeuws, de Heilige taal van de Tenach, weer een levende taal moet worden. Daarvoor gaat hij erg ver. In het bijzijn van zijn kinderen mag bij wijze van experiment slechts in het Hebreeuws worden gesproken, zodat die taal hun moedertaal zal worden. In strijd om een eigen taal en een eigen land voor de Joden, moet Ben Jehoeda de nodige problemen trotseren. De eerste jaren in Palestina is het echt pionieren voor hem en zijn gezin, zonder geld en bezittingen. Hij begint zijn eigen tijdschrift waarin hij vlammende betogen schrijft en maakt daarmee veel vijanden.