Рихард стал чаще встречаться с японскими дипломатами в Шанхае и установил хорошие отношения с консулом и военным атташе, играя роль «истинного друга» Страны восходящего солнца. Зорге быстро нашел общий язык с этими людьми, чье руководство в Токио придерживалось идеологии исключительности японской нации, ее права на агрессию и применение военной силы для достижения своих целей. Немецкий корреспондент стал частым гостем на всех японских дипломатических мероприятиях, где сотрудники представительства откровенно делились важной информацией с гостем, которого считали своим сторонником.
Среди знакомых Зорге стали появляться японцы, проживавшие в Китае, которых он тщательно изучал, чтобы выбрать тех, кого можно использовать в интересах военной разведки как источников информации. Агнесса Смедли познакомила Рихарда с Одзаки Ходзуми, специальным корреспондентом японской газеты «Осака Асахи», который придерживался прогрессивных взглядов. В последующем он стал главным соратником Рамзая в разведывательной работе, от него регулярно поступала надежная и достоверная информация из японских кругов в Китае и из самой Японии.
Первоначально между двумя журналистами установились профессиональные отношения, что не потребовало от Зорге дополнительных усилий: двум высококлассным корреспондентам было что обсуждать друг с другом. Затем Рихард стал пользоваться все большим доверием своего знакомого, который разделял его марксистские взгляды на развитие стран региона. Японский коллега восхищался эрудицией Зорге, его способностью разобраться в любой самой сложной политической ситуации и стал все больше сближаться с ним. Одзаки рассказал Рихарду, что окончил в Токио элитный колледж, куда принимали только наиболее одаренных учеников. Там он помимо усиленной общеобразовательной программы изучал немецкий язык, поэтому они могли свободно разговаривать друг с другом. В дальнейшем Одзаки учился в университете, поступил в аспирантуру, после окончания которой стал заниматься наукой и журналистской деятельностью. У них было много общего в жизненном пути, во взглядах на развитие общества, в неприятии милитаризма как в Азии, так и в Европе. Зорге видел, что его знакомый детально владеет обстановкой в Китае, Японии, Юго-Восточной Азии, знает о планах и намерениях Японии и ведущих империалистических государств в регионе. После нескольких целенаправленных бесед, которые научился умело проводить разведчик во время своей работы в Китае, Одзаки согласился собирать информацию по заданиям Рамзая, используя все свои связи и знакомства.
Кроме того, японский журналист, понявший, что его немецкий коллега занимается деятельностью, явно выходящей за рамки работы корреспондента сельскохозяйственной газеты в Берлине, стал знакомить Зорге с другими японцами, которые могли быть привлечены для решения разведывательных задач. Одним из них был Тэйики Каваи, периодически совершавший поездки в Маньчжурию и имевший доступ к информации о ситуации в Северном Китае. На Зорге стали работать еще четыре японца, добывавших необходимые советской военной разведке сведения.
Таким образом, состав агентов-информаторов шанхайской нелегальной резидентуры, руководимой Рамзаем, расширился. От них поступало в Центр все больше разведданных, которые по радиосвязи передавались через Владивосток в Москву или переправлялись курьерами в Харбин, а оттуда на территорию СССР. В Разведуправление регулярно доставлялись оригиналы добытых документов или фотопленки с отснятыми секретными материалами. В резидентуре начала действовать небольшая фотолаборатория, где готовились материалы для отправки в Центр. Курьеру передавались 10–12 и более пленок.
Первое время всеми работами занимался сам Зорге: зашифровывал тексты радиограмм и фотографировал добытые агентами-источниками материалы. Вскоре, чтобы освободить Рамзая от этой кропотливой и занимающей много времени деятельности, Разведывательное управление прислало ему помощника. Прибывший в Китай польский коммунист Григорий Стронский (оперативный псевдоним Джон) стал выполнять обязанности шифровальщика и отвечать за все фотоработы.
Спустя некоторое время для усиления все более успешно работавшей резидентуры в Шанхай был направлен еще один советский разведчик — эстонец Карл Римм. Он служил в Красной армии, занимал высокую должность начальника штаба дивизии. Его боевой опыт, хорошее знание немецкого языка привлекли к нему внимание IV управления, и он был отобран для прохождения службы в военной разведке. После завершения курса специальной подготовки Римма назначили заместителем Рамзая, присвоив оперативный псевдоним Пауль. В Москве у него осталась жена Люба Ивановна Римм, которую спустя некоторое время Берзин также направил в Шанхай в качестве шифровальщика радиограмм Рамзая, так как их количество значительно возросло. Под псевдонимом Луиза она также вошла в состав резидентуры. Так закончилось формирование нелегальной группы советских военных разведчиков, работавших в Китае под руководством Рамзая.
Зорге продолжал активно вести вербовочную деятельность среди иностранцев, ему удалось привлечь к сотрудничеству жену немецкого архитектора Урсулу Кучински, проживавшую вместе с мужем в Шанхае. Ранее она вела партийную работу в Германии в интересах компартии, придерживалась прогрессивных взглядов. После ее изучения Рамзай прямо предложил ей работать на советскую военную разведку. Получив согласие, Рихард стал использовать ее квартиру для встреч со своими агентами-информаторами и для хранения в ней добытых источниками резидентуры материалов. Убедившись в надежности Урсулы, Зорге стал давать ей отдельные разведывательные поручения, а также использовать в качестве связной.
Рамзай сообщил в Центр о Кучински и рекомендовал направить ее в Москву для обучения в разведывательной школе. Он же предложил присвоить ей оперативный псевдоним Соня, которым она стала пользоваться во время своей последующей работы на военную разведку Красной армии. Оперативное чутье и талант Рамзая как разведчика подтвердились и в отношении Урсулы: после соответствующей подготовки она побывала еще в четырех командировках в качестве нелегала, в том числе резидента, и благополучно вернулась в СССР после окончания Второй мировой войны.
Зорге знал, что в Шанхае находилась группа Отдела международных связей Коминтерна, поддерживавшая контакты с представителями руководства Коммунистической партии Китая и компартий ряда других дальневосточных стран.
В ее состав входили несколько человек, включая немецкого коммуниста, которого Рихард знал по совместной работе в Германии, а затем в Исполкоме Коминтерна в Москве. Зорге однажды случайно встретил его в Шанхае, но профессиональных отношений друг с другом они не поддерживали. У коминтерновцев была отдельная связь со своим Центром в Москве, они решали вопросы оказания финансовой и организационной помощи КПК, выполняли другие специфические задачи, никак не связанные с разведывательной деятельностью Рамзая в Китае. Зорге несколько раз встречался со своим знакомым. Откровенно разговаривая с Рихардом, тот отмечал трудности своей работы в Китае из-за большого количества ненадежных лиц и провокаторов из числа местного населения, а также частого направления Коминтерном в страну слабо подготовленных и не знающих местную специфику сотрудников.
Вместе с тем общим в работе этих нелегальных структур в Шанхае являлось обеспечение безопасности своей деятельности, для чего был предусмотрен оперативный обмен любой настораживающей информации. Поэтому летом 1931 года после получения достоверных данных от своих местных источников Рамзай направил в Центр телеграмму, в которой просил Разведуправление сообщить Михаилу (один из руководителей Исполкома Коминтерна — Пятницкий, под руководством которого в свое время работал Зорге), что два его сотрудника, Генрих и Генриетта, арестованы. Существует опасность, что полицией найдены важные документы. Речь шла о руководителе группы ОМС X. Нуленсе и его супруге. О нем спецслужбы нанкинского правительства узнали от одного из руководителей КПК, захваченного ими.