Первым резидентом нелегальной разведки в США являлся Валентин Борисович Маркин. Он родился в апреле 1903 года в городе Грозном в семье железнодорожника, учился в коммерческом училище, окончил пять классов. В 1920 году был на комсомольской работе в Кабардино-Балкарии, в 1922 году поступил в Коммунистический университет имени Свердлова. С мая 1923 года — секретарь ячейки РКП(б) на текстильной фабрике города Вятки, с 1924 года — секретарь партячейки типографии «Рабочая газета» в Москве, член Краснопресненского райкома партии, депутат Моссовета. С 1926 года — сотрудник IV (Разведывательного) Управления Штаба РККА, работал в Германии. В 1930–1932 годах — аспирант Института мирового хозяйства и мировой политики. Одновременно являлся руководителем Агитпропа в Коминтерне.
В 1932 году направлен нелегальным резидентом в США по линии ИНО ОГПУ. В оперативной переписке проходил под псевдонимами «Оскар» и «Дэвис». Работать «Дэвису» приходилось в непростых условиях. До установления дипломатических отношений в 1933 году между СССР и США связь Центра с нелегальной резидентурой поддерживалась через специальных курьеров, в основном матросов коммерческих рейсов, которые доставляли добытые материалы в Париж в непроявленной пленке. Указания Центра также направлялись в нелегальную резиденту-ру в Париж, а оттуда пересылались с курьерами в Нью-Йорк. В. Маркин исчез в 1934 году при невыясненных обстоятельствах. Предположительно — стал жертвой дорожной катастрофы или погиб от рук гангстеров.
После установления дипломатических отношений между СССР и США в Нью-Йорке была создана «легальная» резидентура ИНО ОГПУ, через которую разведчики-нелегалы поддерживали связь с Центром. Нью-йоркская резидентура являлась главным аппаратом советской внешней разведки в США. Первым «легальным» резидентом внешней разведки в США был Петр Гутцайт (оперативный псевдоним — «Николай»), который также представлял в этой стране научно-техническую разведку. Одновременно в Вашингтоне, Сан-Франциско и Лос-Анджелесе были созданы подчинявшиеся ей «легальные» резидентуры.
Петр Давидович Гутцайт родился в 1901 году в Екатеринослав-ской губернии в семье мелкого торговца. Окончил сельскую школу. До 1917 года работал лодочником на переправе через Днепр, затем бурильщиком и рабочим каменоломни. В 1919 году вступил в рабочую коммунистическую ячейку. С приходом белогвардейских войск на Юг России скрывался в подполье. После восстановления советской власти в Екатеринославе служил в речной милиции.
В 1920 году по рекомендации уездного комитета партии был назначен в уездную ЧК комиссаром, участвовал в борьбе против бандитизма. Учился на курсах Высшей партийной школы ОГПУ. В 1923 году П. Гутцайт — уполномоченный Секретного отдела ОГПУ, затем — сотрудник его Экономического управления (ЭКУ). В 1933 году переходит на работу во внешнюю разведку. С марта 1933 года — начальник 8-го отделения ИНО ОГПУ. В конце того же года — «легальный» резидент в Нью-Йорке. В стране находился с паспортом на имя П. Д. Гусева и под прикрытием должности сотрудника полпредства СССР в Вашингтоне.
В 1938 году отозван в Москву и назначен начальником отделения научно-технической разведки. 16 октября 1938 года арестован по обвинению в троцкизме. В вину ему вменялся провал первого покушения на Троцкого, основную работу по которому вела резидентура НКВД в США. 21 февраля 1939 года Военная коллегия Верховного суда приговорила его к высшей мере наказания, и в тот же день майор госбезопасности Петр Гутцайт был расстрелян. Реабилитирован посмертно 29 сентября 1956 года.
Загранаппараты советской внешней разведки в США в предвоенные годы добывали важную разведывательную информацию.
Успешно они справлялись и с работой по линии научно-технической разведки, приобретая образцы современного по тем меркам американского вооружения. Только в 1939–1940 годах советскими разведчиками в США было получено свыше 30 тысяч листов технической документации, около 1100 комплектов чертежей и свыше 30 образцов технических новинок.
В 1934 году после гибели разведчика-нелегала «Дэвиса» Центр принял решение усилить его нелегальную резидентуру двумя опытными разведчиками-нелегалами — Б. Я. Базаровым и И. А. Ахмеровым. Резидентом разведки НКВД стал Борис Базаров. Прибыв в Нью-Йорк, он по паролям и явкам восстановил связь с агентурой погибшего резидента. Разобравшись с «наследством» «Дэвиса», он нашел, что ее сотрудники нарушают правила конспирации. Они не только знают друг друга, но и поддерживают отношения между собой, встречаются на конспиративных квартирах, общаются семьями. По его предложению Центр принял решение о реорганизации работы нелегальной резидентуры в Нью-Йорке. В частности, вся агентура была разбита на две группы, одну из которых возглавил Б. Базаров, а другую — Исхак Ахмеров.