Весной 1929 года, после разгрома китайской полицией советского консульства в Харбине, отозван в Москву и направлен в Турцию на должность легального резидента в Стамбуле под прикрытием атташе консульства СССР Леонида Александровича Наумова. Резидентура ОГПУ в Турции не работала против страны пребывания, а сосредоточила усилия на добывании информации в иностранных посольствах в Константинополе. Большое количество секретных документов добывалось в японском, французском и австрийском посольствах. С середины 1928 года в Стамбуле существовала нелегальная резидентура, работавшая по всему Ближневосточному региону. Во главе ее сначала был Яков Блюмкин, а после его ареста в 1929 году за связь со Львом Троцким – Георгий Агабеков. В задачу Эйтингона, в том числе, входила организация связи Агабекова с Центром. Помимо этого, в декабре 1929 года он по поручению ИНО принял агентуру в Греции после ареста там нелегального резидента ОГПУ.
В июне 1930 года Агабеков бежал на Запад. Опасаясь провала, Центр в срочном порядке отозвал Эйтингона в Москву. По возвращении в Центр Эйтингон, сделавший псевдоним «Леонид Александрович Наумов» своим именем, был назначен заместителем Якова Серебрянского – начальника Особой группы (ОГ) при Председателе ОГПУ («группа Яши»).
В период работы в ОГ Эйтингон несколько раз выезжал за рубеж, в том числе в Калифорнию, где руководил созданием там глубоко законспирированной нелегальной агентурной сети. Однако сработаться с «Яшей» Эйтингону не удалось, и в 1931 году он перешел на должность начальника 8-го отделения ИНО ОГПУ и в скором времени был командирован во Францию, а затем в Бельгию. По возвращении в Москву с марта 1933 года – начальник 1-го отделения (нелегальная разведка) ИНО, и во второй половине 1933 года вновь направлен за рубеж: для работы в нелегальных резидентурах в США.
В 1936 году, после начала Гражданской войны в Испании, Наумов-Эйтингон под именем Леонида Александровича Котова направлен в Мадрид в качестве заместителя Александра Орлова(«Шведа») – резидента НКВД и главного советника по безопасности при республиканском правительстве. В задачи «генерала Котова» входила подготовка испанских сил госбезопасности, руководство партизанскими операциями республиканцев в тылу противника. Он также участвовал в ликвидации руководителей испанской Рабочей партии марксистского единства (ПОУМ).
После побега на Запад «Шведа» в июле 1938 года «Котов» возглавил резидентуру. Центр поручил ему восстановить связь с одним из членов «Кембриджской пятерки» Гаем Берджесом(«Медхеном»).
После поражения республиканцев в 1939 году Эйтингон руководил эвакуацией советских специалистов и добровольцев из Испании в СССР, затем перебрался во Францию, где в течение нескольких месяцев реорганизовывал и восстанавливал остатки испанской агентурной сети НКВД. В Париже Эйтингон («Пьер») наладил работу с «Медхеном», который в марте 1939 года был передан на связь легальному резиденту НКВД в Лондоне А. В. Горскому. Во Франции «Пьеру» удалось привлечь к сотрудничеству с советской разведкой племянника главы испанской фаланги Примо де Риверы, который до 1942 года был важным источником информации о планах Франко и Гитлера.
Еще в 1937–1938 годах Иосиф Сталин принял решение положить конец международному троцкистскому движению путем физического устранения его лидера – Льва Троцкого («Старика»), однако целый ряд попыток внедриться в его окружение и осуществить указание вождя по различным причинам не увенчался успехом. В марте 1939 года Сталин вернулся к проблеме «Старика», перебравшегося к тому времени в Мексику.
Общее руководство операцией, получившей кодовое наименование «Утка», было поручено Павлу Судоплатову. Тот, в свою очередь, предложил возложить непосредственную организацию и осуществление операции на месте на Наумова-Эйтингона.
Первая попытка ликвидировать «Старика», предпринятая 20 мая 1940 года во время нападения на его виллу в Койоакане группы боевиков во главе с известным художником Давидом Сикейросом, закончилась неудачей. Тогда был приведен в действие второй вариант, где главная роль отводилась молодому испанскому коммунисту Рамону Меркадеру, привлеченному Эйтингоном к сотрудничеству с советской разведкой еще в Испании.