Прожив у отца в провинции Энтре-Риос почти полгода, Григулевич получил направленную с курьером депешу от секретаря аргентинского филиала МОПРа Карла Духовного, вызывавшего его на связь в условленном месте Буэнос-Айреса. Когда Иосиф стал объяснять выздоровевшему к тому времени отцу, что должен вернуться во Францию, тот начал уговаривать его, чтобы он остался в Аргентине и нашел бы в ней свое поле политической деятельности. Пообещав подумать над его предложением, Григулевич отправился в Буэнос-Айрес.
Там с ним встретились и беседовали первые лица аргентинской компартии и филиала Коминтерна Витторио Кодовилья, Родольфо Гиольди, Муньес Диас и Карл Духовный. Они, как и отец, стали усиленно уговаривать его остаться в Аргентине и помочь им в борьбе с засильем немцев, с насаждаемым в стране фашистским «новым порядком» и с теми, кто разделяет нацистскую идеологию. Поняв, что местные партийные функционеры действительно нуждаются в его помощи и весьма заинтересованы в нем, Григулевич, овладевший к тому времени испанским языком, согласился с их предложением.
Через некоторое время ему были сделаны документы на имя аргентинца Хосе Ротти из провинции Энтре-Риос, где проживал его отец, имевший фабрику по производству лекарственных препаратов из диких трав. Для прикрытия своей нелегальной политической деятельности и поездок по стране Григулевич оформил себе удостоверение инспектора-контролера аптекарских магазинов от отцовской фабрики,
Новая политическая деятельность Хосе Ротти на латиноамериканском континенте началась с постоянных командировок по стране. Он побывал в девятнадцати из двадцати двух аргентинских провинций, в которых занимался не только пропагандистской работой, но и участвовал в многочисленных дискуссиях по внутрипартийным вопросам и в мобилизации общественного мнения против распространения «коричневой чумы» фашизма. За недозволенную политическую деятельность Хосе Ротти в числе других аргентинцев дважды арестовывался полицией.
Когда же фашизм проявил себя демонстративно в Испании и там началась гражданская война с мятежниками генерала Франко, Григулевич в ответ на призыв Исполкома Коминтерна встать всем на защиту Республики, не колеблясь, при финансовой поддержке отца и выданных послом Испании в Аргентине, известным на Пиренеях писателем-антифашистом Осорио-и-Гальярдо, документов на имя Хосе Окампо незамедлительно отправился в Барселону, а оттуда в Мадрид. Там он снова встретился со знакомым ему руководителем группы инструкторов Исполкома Коминтерна Витторио Кодовильо и генеральным секретарем ЦК испанской компартии Хосе Диасом. Они поселили его в отель «Гэйлорд» вместе с советским кинооператором из Москвы Романом Карменом, а на другой день представили командующему знаменитым Пятым полком республиканской армии, национальному герою Испании Энрике Листеру. Легендарный комполка распорядился назначить его своим советником по международным вопросам и одновременно политическим консультантом комиссара Контрераса. Тогда же Листер познакомил его с добровольцем из Мексики, командиром танкового подразделения Давидом Альфаро Сикейросом — известным художником-монументалистом. «Но поскольку аргентинскому милисиано[4] с испанской фамилией Окампо придется участвовать и в боевых операциях, то направьте его сначала в военно-учебный центр», — распорядился Энрике Листер.
Месяц Григулевич учился стрелять из разных видов оружия, бросать гранаты из окопов и водить машину, потом с оценкой «отлично» окончил двухнедельные курсы младших командиров. А через день ему доверили уже командовать небольшой интернациональной группой в боевой оборонительной операции перед Университетским городком Мадрида. Была поставлена задача — не дать противнику захватить Толедский мост и войти по нему в столицу Испании. Боевое крещение коминтерновец Григулевич выдержал успешно, слава о его боевой группе мгновенно распространилась по всему Центральному фронту. Вскоре после этого его перевели на должность помощника начальника штаба Мадридского фронта.
Но Григулевич не тот человек, чтобы превращаться в «штабную крысу», ему удается убедить начштаба генерала Висенте Рохо отпустить его на передовые позиции линии фронта. Назначенный командиром роты он принимает участие в самых жарких боях под Гвадалахарой, Бриуэгой, Сигуэнсой, Брунете и на Сарагосском направлении. После блистательной победы республиканцев в Бриуэгской битве командование Двенадцатой интербригады устроило званый ужин. На него были приглашены советники из Красной армии и органов госбезопасности СССР, военные писатели Эрнест Хемингуэй, Илья Эренбург и Михаил Кольцов.