Вскоре после расстрела Ягоды главой НКВД стал Ежов, начался новый этап чисток, беспощадное избавление от врагов народа.
16 сентября 1936 года Орлов въехал в советскую миссию в Мадриде в Гейлорд-отель, недалеко от Прадо, где размещалось и большинство военных советников. Там жил под псевдонимом Михаил Кольцов и одно время Эрнест Хемингуэй.
Работа закипела.
Основная деятельность Орлова — это оказание испанцам помощи в создании собственной разведки и контрразведки, естественно, под контролем НКВД.
Орлов разоблачал не только истиннных шпионов Франко, но и «очищал» республиканские ряды от троцкистов и других марксистских, но не просталинских сил. По сути дела, ему вменялось в обязанность «сталинизировать» республиканскую Испанию, что вызывало неоднократные резкие протесты со стороны республиканских лидеров.
Контрразведывательная работа Орлова строилась по советскому образцу: через два месяца после прибытия он сообщил о разоблачении резидентуры французской разведки, в архивах сохранились его многочисленные доклады о шпионах в республиканских рядах, с его помощью были выявлены подпольные фалангистские группы среди республиканцев, по его инициативе были развернуты партизанские действия против Франко.
Однако главным объектом ненависти НКВД в Испании был протроцкистский ПОУМ. Тут Орлов показал хорошую чекистскую подготовку: мадридской контрразведке, контролируемой коммунистами, вместе со списками подпольных фалангистов были переданы поддельные документы о связи шефа ПОУМа Андреса Нина и еще нескольких «марксистов» с Франко. 16 июня 1937 года Нин и еще сорок руководителей ПОУМа были арестованы, их войска распущены, штаб закрыт, а ПОУМ объявлен незаконной организацией. Суда над Нином не дождались, вскоре он был выкраден из тюрьмы (некоторые документы говорят о прямом участии Орлова) и бесследно исчез.
Мощнейшей операцией, которую удалось провести под прямым руководством Орлова, был вывоз в Москву золота республиканского правительства, проведенный на нескольких судах (Сталин золото не вернул, сказав, что оно потрачено на помощь республиканцам).
Агент НКВД Хенкин, прибывший в числе голодных и измотанных интербригадовцев в Испанию, так описал свою встречу с генералом в шикарном люксе отеля в Валенсии: «Я был поражен его ухоженным видом. Он был чисто выбрит, и от него пахло хорошим одеколоном. На нем были фланелевые брюки и шелковая рубашка без галстука. На ремне висел «вальтер» калибра 7.65 в открытой замшевой кобуре». Изголодавшегося агента больше всего потряс завтрак Орлова, который был ввезен на тролли слугою в белом фраке. «Орлов намазал маслом тост, откусил уголок и стал есть яичницу с ветчиной, иногда прихлебывая кофе… Вытерев круассаном желток с тарелки и допив кофе, он закурил «Лаки страйк».
Генералу, надо полагать, и в голову не пришло предложить чашку кофе рядовому сотруднику.
Ежовщина по указанию «отца народов» распространяла свои щупальца и за кордон. Если в конце двадцатых — начале тридцатых годов террор там проводили лишь против белогвардейцев (похищение в Париже генерала Кутепова, умершего от сердечного приступа по дороге, похищение оттуда же генерала Миллера, расстрелянного в Москве), то теперь дошла очередь и до своих.
«Литерные» дела (или по-старобольшевистски «эксы») реализовывались под руководством Михаила Шпигельгласа, заместителя начальника разведки.
Террор разрастался.
После ареста Ягоды и его приближенных вскоре выбросилось из окна несколько видных чекистов. Начальника разведки Абрама Слуцкого заместитель Ежова Фриновский угостил чаем в своем кабинете, после чего тот скончался от «сердечного приступа», на похоронах опытные чекисты видели на лице покойного пятна — следы цианистого калия.
Европу бороздили «мобильные группы», выслеживая и экзекутируя «врагов народа» из числа сотрудников, агентов и «неверных» коммунистов. Многие из них просто исчезли и до сих пор не известны точные обстоятельства их смерти. В июле 1937 года был ликвидирован бывший резидент в Турции Агабеков, связавшийся с англичанами, в июле 1938 года исчез секретарь Троцкого Р. Клемент, обезглавленный труп которого вскоре нашли в Сене. Еще раньше при таинственных обстоятельствах умер в больнице сын Троцкого — Лев Седов, был убит резидент НКВД в Швейцарии И. Рейсс.
Орлов почувствовал смертельную опасность для себя в октябре 1937 года, когда в Испанию приехал Шпигельглас в поисках самолета для вывоза агента НКВД — бывшего царского генерала Скоблина, выдавшего и Кутепова, и Миллера и скрывавшегося в советской миссии в Париже (Орлов помог арендовать самолет).