В юности Иосиф, как и вся демократическая русская молодежь того времени, был увлечен идеями толстовства. "Великий писатель земли русской" Лев Толстой проповедовал среди своих многочисленных последователей идеи жизни на земле, крестьянская коммуна рассматривалась им как идеал общественных отношений. На молодого Иосифа Трумпельдора огромное впечатление произвело знакомство с толстовцами, создавшими свои общины неподалеку от Ростова-на-Дону, в Новочеркасске и в станице Старочеркасской. Среди них можно отметить Василия Часовникова и Александру Гриневу, находившихся в личной переписке со Львом Толстым и активно пропагандировавших его идеи. Возможно, именно общение с ними привело Трумпельдора к толстовству, под их влиянием он уже в четырнадцать лет стал убежденным вегетарианцем и оставался им на протяжении всей жизни, отказался от курения и употребления спиртного, сделал для себя нормой физическое и духовное закаливание, ограничил себя в развлечениях и предметах роскоши.
Почти шестимиллионное российское еврейство пребывало в отчаянном положении — запертое в огромное гетто, носившее название "черты оседлости", в стране, где антисемитизм был государственной политикой царских властей, где многотомное русское "Законодательство о евреях" непрерывно пополнялось новыми законами и законодательными актами, лишавшими российских евреев элементарных гражданских прав — у евреев не было перспектив. Суть политики царского правительства в отношении евреев нашла отражение в известном заявлении обер-прокурора Синода К.П.Победоносцева: "Одна треть их вымрет, еще одна уедет из России, а остатки бесследно растворятся в среде окружающего населения".
Еврейская молодежь, лишенная будущего в России, искала путей выхода из тупика. Одни шли в революционные организации, считая, что спасением угнетаемого еврейского народа станет революция, которая разрушит антисемитские ограничения царских властей и принесет свободу и равноправие всем гражданам России, в том числе и евреям. Для других путеводной звездой становились идеи сионизма, декларировавшего, что только в своем государстве, воссозданном на исторической Родине — на Земле Израиля — еврейский народ обретет подлинную свободу и независимость как равный среди равных в семье народов.
Сионизм — национально-освободительное движение еврейского народа за возрождение национального государства на исторической Родине в Палестине, на рубеже XIX-XX веков решительно завоевывал сердца молодых российских евреев.
Идеи об исходе российского еврейства на свою историческую Родину родились в кружках еврейской интеллигенции после погромов 1881 года, ставших своего рода переломным рубежом для еврейского общества — до той поры многие искренне верили, что образование и освоение русской культуры позволят ассимилированным русским евреям войти в русское общество и постепенно получить гражданское равноправие. Погромы показали тщетность таких надежд.
Первым осознал новую реальность казалось бы полностью ассимилированный еврей военный врач Лев Пинскер, награжденный орденами за участие в обороне Севастополя во время Крымской войны. В 1882 году Пинскер опубликовал свою брошюру "Автоэмансипация". В ней Пинскер подчеркивал бедственное состояние еврейских масс и их униженное, ненормальное положение в странах рассеяния как всюду чуждой этнической группы, не поддающейся ассимиляции и не имеющей своей родины. Единственным решением этой проблемы Пинскер считал автоэмансипацию, то есть приобретение еврейским народом собственной территории на своей исторической Родине — в Палестине.
Уже в 1884 году сторонники Пинскера, называвшие себя "Ховевей Цион" (в переводе с иврита -"возлюбившие Сион") провели съезд в городе Катовице, на котором была сформулирована идея палестинофильского движения как возвращения евреев к сельскохозяйственному труду и создания в Палестине еврейской сельскохозяйственной базы.
Вдохновленные идеями палестинофильства, первые группы энтузиастов — российских студентов и гимназистов, объединились в организацию "БИЛУ". Это слово представляет собой аббревиатуру из начальных букв слов библейского стиха, что в переводе на русский означает: "Дом Иакова! Вставайте и пойдем!" (Исайя. 2: 5). Билуйцы отправились в Палестину, находившуюся тогда под турецким правлением, с целью создания там еврейских сельскохозяйственных поселений.