Ключевым эпизодом своего пребывания в Испании Григулевич считал участие в подавлении мятежа в Барселоне в мае 1937 года. В Каталонии действовала враждебная коммунистам политическая организация под названием «Рабочая партия марксистского единства» (ПОУМ). Возглавлял эту партию Андрес Нин, в прошлом — активный соратник Троцкого.
Григулевич позже напишет: «В Мадриде я руководил группой социалистов, которую использовали в различных сложных ситуациях. Однажды меня вызывает мой шеф и говорит: “В Барселоне произошло восстание. Все наши попытки арестовать кого-либо из зачинщиков не имели успеха.
Ты можешь выехать со своей группой?” Отвечаю: “Конечно могу”. “Поезжай в Барселону и арестуй всех вожаков. Только действуй решительно”. Группа выехала в Барселону на машинах. Там мне сказали, что я должен арестовать трёх человек из “федерации анархистов Иберика”. Поехали по данному нам адресу, и что мы застали там? Андалузцев с налитыми кровью тазами, которые предложили нам угоститься… водкой, русской икрой и борщом. Говорят по-русски, жутко матерятся… Ничего не понимаю! И кем же они для нас оказались?
В 1922 году был убит председатель Совета министров Испании. Так вот, это их рук дело. Они бросили в него бомбу! Затем укрылись в Париже, а в 1926 году — подались в Москву. Вернулись на родину в 1931 году. В СССР они поженились на русских и украинках, которые работали официантками в столовых. И единственное, чему те смогли научить своих мужей, — это пить водку, есть борщ, ругаться матом и плохо говорить по-русски. Они остались такими же анархистами, какими приехали в Москву. Итак, я выкладываю на стол пистолет и говорю: “Собирайтесь в дальнюю дорогу”.—“В какую дорогу?” — “К сожалению, должен вас арестовать”.
Мятеж был подавлен за два дня. Пролилось много крови. Потери с обеих сторон достигали трёх тысяч человек. Вспоминая о боях в Барселоне, Григулевич всегда повторял: «Никому не пожелаю пережить такое. Там я по-настоящему понял смысл слов: “звериный оскал гражданской войны”. Несколько раз я был на волоске от гибели. До сих пор не знаю, кто стрелял в меня — свои или чужие, мятежники?»
В Испании Иосиф познакомился с политкомиссаром интербригад Андре Марти. В годы Гражданской войны в России А. Марти был руководителем восстания французских военных моряков на Черном море. Иосиф часто бывал в штаб-квартире Марти, выполняя поручения Белкина.
В секретной канцелярии Марти он получал опечатанные сургучом пакеты с паспортами и другими личными документами погибших интербригадовцев. Один из этих паспортов, который принадлежал студенту-аргентинцу, Иосиф получит в 1938 году из рук резидента НКВД в Нью-Йорке Петра Гутцайта для использования в качестве документа прикрытия в Мексике и Соединенных Штатах.
Позднее, подбирая людей в разведывательную сеть в Буэнос-Айресе и Сантьяго-де-Чили, Григулевич с особым доверием относился к тем кандидатам, о которых когда-то с похвалой отзывался Марти.
Именно поэтому он считал несправедливым, даже клеветническим, то, каким изображен Андре Марти в романе Эрнеста Хемингуэя «По ком звонит колокол». Григулевича познакомил с Хемингуэем Михаил Кольцов, но дальнейшего развития это знакомство не получило. Может быть, из-за тех самых выпадов в адрес Андре Марти. Григулевич называет Хемингуэя «писателем, стремящимся к успеху», а его роман — произведением с «троцкистской подкладкой». Не менее постыдной является попытка Хемингуэя очернить Рубена Руиса (сын Долорес Ибаррури), «укрывающимся якобы от опасностей войны в далёкой Москве». «Теперь понятно, насколько подлыми выглядят эти инсинуации, — подчеркнул Григулевич. — Сейчас все знают, что лейтенант Рубен Руис Ибаррури погиб в бою, сражаясь против фашистов в России…»
О возвращении в Москву в своих автобиографических заметках Григулевич повествует следующее:
«В конце 1937 года я тяжело заболел[5] и был отправлен в Москву на лечение. Поездом с испанским паспортом из
Барселоны я пересёк всю Европу. Поезд проследовал через Варшаву и Вильнюс, но, соблюдая конспирацию, я никого не смог повидать из своих товарищей. Наконец поезд прибыл на станцию Негорелое. На огромной арке, разделявшей два мира, сверкал написанный золотыми буквами лозунг: “Пролетарии всех стран, соединяйтесь!” Новый мир, который я защищал в борьбе с юношеских лет, служению которому посвятил свою жизнь, гостеприимно распахивал свои широкие двери».