Нелегальная резидентура могла начать работу. Рихард распределил обязанности между всеми членами группы. Сам он помимо общего руководства и обеспечения необходимых мер конспирации работает в германском посольстве и немецкой колонии, расширяет официальные контакты в японских кругах. Отто — используя свои связи, добывает информацию по военно-политическим и военно-промышленным вопросам. Джо — добывает сведения о состоянии армии и флота Японии, их техническом оснащении, производстве нового вооружения. Жиголо — используя свои официальные связи, добывает информацию о политике США, Англии и Франции в отношении Японии, организовывает фотокопирование документов. Бернхард обеспечивает устойчивую радиосвязь с Центром, а также оборудует вторую радиоквартиру в Токио. Женщины — жены Жиголо и Бернхарда — выполняют отдельные поручения, в случае необходимости используются в качестве курьеров. Членам группы запрещены контакты друг с другом без разрешения резидента.
Постепенно накапливалась информация, которую можно было направлять в Разведуправление, но беспокоило отсутствие радиосвязи.
В начале января 1934 года в Токио прибыл курьер из Москвы. Рамзай встретился с ним и после обмена паролями, не привлекая внимания окружающих, обменялся с незнакомым мужчиной небольшими пакетами одинакового цвета.
В своем пакете он передал письмо на имя Берзина, в котором сообщал, что начальный этап развертывания резидентуры проходит успешно, он установил доверительную связь с послом Германии, имеет доступ к важной информации немецкого диппредставительства, но радиосвязь с Центром организовать не удалось, кроме того, у Бернхарда проблемы с легализацией. Кроме того, посылал краткое донесение об обстановке в Японии, в котором подчеркивал, что в текущем году Япония не развяжет войну против СССР. Рихард вложил в пакет и короткое письмо жене, в нем было всего несколько строк: «Скучаю по дому… высылаю тебе 10 долларов, купи, что хочешь…»
Так началась практическая деятельность резидентуры «Рамзай». Весь 1934 год прошел в напряженной работе. Рихард основное внимание уделял работе в германском посольстве. К нему, как специалисту по проблемам Дальнего Востока, постоянно обращались многие дипломаты, в том числе военный и военно-морской атташе, а также глава торгового представительства Германии. Посол Дирксен по-прежнему пользовался его услугами, он все больше доверял Зорге, а разведчик получал от него еще более важные сведения.
Дирксен рассказал Рихарду, что его перед отъездом в Токио принимал Гитлер и прямо сказал об основной задаче нового посла: добиться политического сближения Германии с Японией на антисоветской основе. Однако японский МИД отнесся к немецкому предложению весьма прохладно. Японцы выжидали, предпочитая наблюдать за действиями руководства Третьего рейха во внутренней и внешней политике. При этом многие представители высшей власти и военных кругов Японии были настроены крайне антисоветски. Фон Дирксену было трудно объяснить Берлину причины такой сдержанности. Рихард помог послу разобраться в местной политической кухне и предложил оказать помощь в составлении донесения в министерство иностранных дел Германии. Посол был в восторге и через некоторое время сам обратился к Зорге с просьбой помочь подготовить важный политический доклад «Виды на сохранение мира в Восточной Азии». Рихард, получив текст этого документа, написанный сотрудниками посольства, внес ряд дополнений. Ему также удалось сфотографировать окончательный вариант доклада, в котором делался вывод, что в 1934–1935 годах на Дальнем Востоке большой войны не произойдет. Для непосредственного военного столкновения Японии с США нет ни объективных, ни субъективных предпосылок. В китайско-японских отношениях достигнута определенная стабильность и, несмотря на присутствие японцев в Северном Китае, начинать конфликт ни одна из сторон не хочет. Наибольшие же опасения вызывают японо-советские отношения, определяемые агрессивными намерениями Токио в отношении северного соседа. Однако японская армия еще не завершила программу перевооружения и в ближайшие один-два года воевать против сильного противника не готова. Дорабатывая этот документ, Зорге получил разрешение посла знакомиться в делопроизводстве диппредставительства с предыдущими донесениями подобной тематики. Он сблизился с двумя секретарями, работавшими там, которые позволяли ему не только получать, но и выносить документы из посольства под предлогом изучения в домашних условиях, где никто не мешал.
Помощь Рихарда заметно пошла на пользу подполковнику Отту. В Берлине обратили внимание, что документы, которые готовил этот старательный офицер, стали более содержательными. Особый интерес вызвал его доклад о японской военной разведке и ее антисоветских шпионских акциях. Поощрение не заставило себя ждать. В апреле Отт получил чин полковника и был назначен военным атташе в Японии. Трудно сказать, кто радовался больше — новоиспеченный полковник или его друг-журналист. Теперь Рихард мог читать все телеграммы из Берлина, помогать Отту писать ответы, готовить другие рапорты и донесения. Высокопоставленный друг ввел Зорге в круг своих официальных знакомых, среди которых помимо иностранных военных дипломатов было много информированных японских офицеров.
Неплохо шли дела и у других членов группы. Активно действовал Одзаки. Он регулярно общался не только со многими известными журналистами, но и с внешнеполитическим советником кабинета министров, уполномоченным правительства по вопросам экономики, секретарем канцелярии премьер-министра — все эти люди были его хорошими знакомыми. Он получал и передавал Рамзаю много внутриполитической информации и сведения о внешнеполитических шагах руководства Японии. Хорошо работал Мияги, быстро нашедший идейно близких ему людей, обладавших доступом к военной информации. Они знали настроения младшего и среднего офицерского состава, владели данными о закупках боевой техники для армии и флота. Кроме того, Мияги получил возможность добывать военные публикации закрытого характера. Вукелич ежедневно посещал местное информационное агентство «Домей», где получал разнообразную информацию, как опубликованную, так и не опубликованную из-за цензурных ограничений и потому представлявшую наибольший интерес. Бранко регулярно общался с корреспондентами британского информационного агентства «Рейтер», американского агентства «Юнайтед Пресс», а также американских и европейских газет, аккредитованных в Токио. Среди его знакомых- дипломатов были британский военный атташе, другие представители западных стран. Жиголо передавал Рамзаю большое количество внешнеполитической информации.
Главной проблемой, которую никак не удавалось решить Рихарду, являлось отсутствие радиосвязи с Центром. Бернхард уверял, что сделать это невозможно. По указанию резидента новая радиоквартира была оборудована в Токио в доме Вукелича, но связи не было и оттуда. По словам Бернхарда, рация не работала. Когда Рамзай в очередной раз информировал об этом Москву, в Японию была прислана хорошо подготовленная радистка из шанхайской нелегальной резидентуры. Она быстро выяснила, что техника исправна, а радист просто боялся выходить в эфир, опасаясь, что его запеленгуют. Это был тяжелый удар для Рихарда, он не ожидал, что его ближайший соратник окажется трусом и своим бездействием фактически парализует работу разведывательной группы. Он просил Центр срочно заменить радиста.
Бернхард всё же периодически стал передавать короткие радиограммы в Центр, но основные материалы Зорге направлял в Москву почтовой связью. Каждые два-три месяца курьеры забирали пакеты, в которых находилось от пяти до пятнадцати фотопленок с отснятыми документами, военные брошюры японской армии и аналитические доклады, написанные Зорге. Он лично занимался анализом всей добываемой членами группы информации и готовил итоговые документы. Рихард своими аналитическими способностями заслужил доверие и авторитет среди всех членов резидентуры. Составлять некоторые донесения о ситуации в Японии было не менее трудно, чем решать сложную логическую или математическую задачу, настолько непростой была обстановка, чтобы разобраться в ней и выявить истинные мотивы тех или иных решений. Но Рихард справлялся с этим быстро и сравнительно легко.