«Будучи ни в чём не повинным 19-летним парнем, я подвергся аресту и был посажен в тюрьму, где господствует произвол охранников, где к политическим заключенным относятся хуже, чем к уголовникам. Хотя я был подследственным и моя вина не была ещё доказана судом, ко мне применялся режим каторжника, меня заковывали в наручники, подвергали избиениям. По мнению начальников Лукишской и Стефановской тюрем и прокурора Пиотровского, я должен был сносить эти надругательства с христианским смирением, чтобы доказать, что не являюсь коммунистом. Я, однако, считал своим долгом протестовать против тюремного произвола и не боялся этого делать, так как совесть моя была чиста…»
Выйдя из тюрьмы, Иосиф снова включился в подпольную партийную работу, а в августе 1933 года был неожиданно вызван повесткой в прокуратуру, и ему в двухнедельный срок предложили покинуть Польшу. Поскольку Григулевич в Польше был уже сильно заметной личностью, Литовское комсомольское бюро рекомендовало ему выехать через Варшаву в Париж, где находился один из польских центров эмиграции.
«Я мог бы уехать в Советский Союз, и это было бы для меня величайшим счастьем, – отмечал Григулевич в своих воспоминаниях, – но я видел свой долг в продолжении борьбы против капитала и фашизма».
В Варшаве, на пути во Францию, Григулевич впервые соприкоснулся с деятельностью Международной организации помощи революционерам (МОПР). На явочной квартире ему передали контактные адреса, деньги на поездку и паспорт с «железной» визой, во Францию. В начале октября 1933 года Иосиф прибыл в Париж и, не теряя времени, отправился на встречу с представителем польской компартии во Франции З. Модзалевским, который взял новичка под опеку».
Модзалевский помог Иосифу поступить в Высшую школу социальных наук Сорбонны и ввел в польскую редколлегию журнала МОПР. Он поставил перед Григулевичем задачу: «Приобретай опыт международной политической работы, чтобы в будущем тебе можно было давать более серьёзные партийные поручения».
Иосиф колесил по французской столице и её пролетарским предместьям, совершенствуя своё ораторское мастерство на митингах и встречах. В кампании за политическую амнистию в Польше он постоянно выступал первым. «Тяжелая артиллерия» – секретарь ЦК КПФ Жак Дюкло, писатель-пацифист Анри Барбюс, друг Маркса Шарль Раппопорт – выступала последней, «на бис», как вспоминал потом Григулевич.
Особенно насыщен событиями был для Иосифа 1934 год. Фашизм захватывал в Европе всё новые позиции, на что Коминтерн отвечал стратегией «народных фронтов». Благодаря журналу Иосиф быстро усвоил специфику работы в МОПР, что доказал на практике. Из группы молодых литовских эмигрантов-пролетариев он создал боевую мопровскую ячейку, члены которой с наилучшей стороны проявили себя в акциях за освобождение Г. Димитрова.
В августе 1934 года по предложению представителя Коминтерна во Франции Эдуарда Герека Григулевич был направлен в Аргентину, г. Буэнос-Айрес. В подкладке пиджака Иосифа было зашито письмо Модзалевского к аргентинским товарищам, в котором сообщалось, что «предъявитель сего» командируется Коминтерном для участия в оргработе по линии МОПР.
Григулевич был в восторге от проявленного к нему доверия, возможности повидаться с отцом и познакомиться с неведомым континентом, о котором он почти ничего не знал. Из французского порта Шербур Иосиф убыл на пароходе, который после двухнедельного пути вошёл в порт Буэнос-Айреса. Один из тех, кто встречал Григулевича, напишет через несколько лет: «На палубе, чуть в стороне от пассажиров, крепко держался за поручни молодой человек лет двадцати, стройный, со смуглым лицом, тёмной волнистой шевелюрой и живым взглядом. Он пристально всматривался в толпу встречавших. Наконец еле заметная улыбка промелькнула на его губах: Иосиф узнал отца (как же он постарел после почти десятилетней разлуки) и, конечно же, его спутника». Это был Франсиско Муньос Диас, член ЦК компартии Аргентины, с которым Григулевичу доводилось встречаться в Париже по мопровским делам.
По прибытии в Аргентину Иосиф сразу начал брать уроки испанского языка у местного учителя, активно общался с местными жителями, среди которых много было еврейских переселенцев из Восточной и Юго-Восточной Европы, решивших посвятить себя аграрному труду. Столицей еврейских сельскохозяйственных поселений в Аргентине являлся Моисесвиль, основанный в конце XIX столетия, а непререкаемым авторитетом – Альберто Герчунофф, видный журналист, один из организаторов аргентинского Еврейского общества.