Бен-Гурион сразу принялся за дело. Все административные службы организации он перевел в Иерусалим, сведя число членов Исполнительного комитета до семи человек, что сделало его работу более эффективной. Получить поддержку американских евреев ему казалось делом не менее срочным и важным: «Америка, — пишет он находящемуся там эмиссару социалистического движения, — это огромная, гигантская сфера деятельности… Мировое сионистское движение не может существовать без мощного движения, имеющего поддержку в Америке. Там все — массы, сила, деньги. Если мы мечтаем о великом будущем, то без Америки о нем можно забыть». Завоевывая все больше и больше симпатий в Великобритании, он постепенно завязывает отношения с депутатами и министрами, учится ориентироваться в хитросплетениях британской политики, но из осторожности предпочитает держаться в тени Хаима Вейцмана.
В 30-х годах он активно ищет пути для установления перемирия с арабскими националистами. Это не в первый раз. В 1921 году он направил предостережение тем, кто культивировал «иллюзию, что страна Израиль была незанятой территорией и что мы можем делать там все, что угодно, невзирая на ее обитателей». Долгое время его идеи об арабо-еврейских отношениях были весьма простодушны, если не наивны. Только в начале 30-х годов он решится их пересмотреть (что окажется весьма болезненным) и постарается объективно оценить ситуацию.
Впервые он задумался об этом еще в 1914 году и без устали повторял, что у арабов прав не меньше, чем у евреев. Таким образом он выступал против их выселения и экспроприации принадлежащих им земель. «Ни при каких условиях нельзя допустить выселения из страны ее нынешних жителей. Задача сионизма не в этом». Он неустанно объяснял, что большая часть земель находилась в запустении и что там — и только там — должны были селиться евреи; землю следовало приобретать по ее истинной стоимости и позволить арабским крестьянам оставаться на месте. Бен-Гурион был убежден, что феллахи лишены чувства привязанности к родине, что понятие национальности им чуждо, что они «привязаны исключительно к своей земле». Он дошел до того, что предложил еврейским сельскохозяйственным поселениям оказать финансовую помощь «бедным порабощенным крестьянам» с тем, чтобы те смогли остаться на своей земле.
Вернувшись в конце мировой войны в Палестину, он принимает другую точку зрения: теперь он сторонник жесткой, единой марксистской линии, согласно которой еврейские и арабские трудящиеся принадлежали бы к одному классу и должны были бы плечо к плечу выступить на борьбу против богатых эксплуататоров-эфенди, которые настраивают их друг против друга. Так он провозгласил единство еврейского и арабского рабочего класса.
Однако кровавые события 1929 года производят на него тяжелое впечатление и заставляют пересмотреть свои взгляды. Он начинает с обвинения «банд погромщиков… подстрекателей, жаждущих крови» и британской администрации, подчеркивая, что большинство арабских крестьян не участвовали в убийствах, и видя корни насилия в религиозной пропаганде. Это не мешает ему требовать немедленного увеличения иммиграции и 100 % обеспечения работой еврейских трудящихся. Он разрабатывает детальный «план безопасности»:
«Невозможно долго прожить в стране, которая строится под защитой штыков и, что еще хуже, штыков чужих. Главное — это разрешить наши оборонные проблемы своими собственными силами».
Он просит окружить Иерусалим пригородами и еврейскими деревнями, настаивает на том, чтобы десятки тысяч поселенцев приехали в Палестину, что позволит создать еврейскую автономную систему обороны.
После нескольких месяцев колебаний у него, наконец, открылись глаза: в ноябре 1929 года во время дискуссии он впервые упоминает «арабское национальное движение» без обвинений в адрес англичан или эфенди и даже не ссылаясь на классовую борьбу: «Араб, живущий на земле Израилевой, не может быть сионистом. Он не может хотеть, чтобы евреи составляли большинство. В этом и заключается истинный политический конфликт… Как и они, мы стремимся к большинству, но нашему большинству». Это уже совершенно новое понимание арабо-еврейской проблемы, это холодный реализм, который вскоре определит его политику по отношению к арабам. Много лет спустя он признается, что «арабское национальное движение родилось почти в одно время с политическим сионизмом».
Отчаявшись найти «гуманный» ответ и «марксистское» решение «арабской проблемы», Бен-Гурион видит только один путь: продлить британские полномочия в Палестине до того момента, когда «еврейское большинство» станет реальностью, а сообщество сможет обеспечить свою политическую и военную независимость. Для этого нужно попытаться договориться с руководителями палестинских арабов, что позволит создать обстановку терпимости и взаимопонимания.