Кроме разведывательной работы Зорге должен был подтверждать свое пребывание в стране журналистской деятельностью. Он продолжал писать и направлять в Германию и Голландию свои статьи, в подготовку которых также вкладывал весь свой талант и детальное знание обстановки. Большинство из них пользовались успехом у читателей, некоторые материалы даже перепечатывались в СССР. Рихард Зорге вошел в число наиболее авторитетных европейских журналистов на Дальнем Востоке. Многие иностранные дипломаты в Токио стремились встретиться с ним, чтобы обсудить интересующие их вопросы по местным политическим реалиям. Рихард не снимал с себя маску нацистского журналиста, которая давала ему много преимуществ, хотя и ограничивала контакты с представителями западных стран.
В то же время Зорге был своим в партийной группе НСДАП, созданной в Токийско- Йокогамском землячестве Германии в Японии. Он стал инструктором по идеологической работе среди членов немецкой колонии, близко сошелся с руководителем партячейки нацистов Шарффом, которого часто приглашал в пивные бары и другие увеселительные заведения. Общение с ним и другими членами нацистской группы давало мало полезной разведчику информации, но закрепляло его положение в посольстве и германской колонии. Шарфф в октябре 1934 года собственноручно выписал Рихарду Зорге партийный билет члена НСДАП, что еще более повысило его авторитет в нацистских кругах. Благодаря этому Рихард установил контакт с местным националистом Накано Сайго, основавшим японскую фашистскую организацию «Тохокаи», в которую входили реакционно настроенные молодые офицеры. От них Рихарду удавалось получать интересную для него информацию.
В соответствии с планом операции в середине 1935 года Рамзай должен был приехать в Москву, доложить о результатах своей работы и получить новые указания. Он заблаговременно подготовил и отправил в Центр курьерской почтой отчет о проделанной работе, в котором сообщал, что ситуация в стране очень сложная, но он установил контакты со всеми членами своей группы, которые начали добывать необходимую информацию. Сам он успешно развивает личные связи в германском посольстве, в том числе с послом и военным атташе. От них получает не только устные сведения, но и закрытые документы. С местными кругами работа продолжается. Лично Рамзаю привлекать к сотрудничеству кого-либо из японцев сложно и опасно. Работа идет через Джо и Отто, но результатов пока нет. Он также настоятельно просил заменить радиста.
В мае 1935 года произошел провал в шанхайской нелегальной резидентуре, в которой раньше работал Зорге и через которую теперь поддерживал почтовую связь с Москвой. Резидент, арестованный в Шанхае английской полицией, лично знал Зорге. Именно он встречался с ним в Германии в качестве представителя Центра, когда Рихард готовился к командировке в Японию. В Разведуправлении опасались, что провал в Шанхае может затронуть и группу в Токио. Именно поэтому, а не только в связи с необходимостью лично заслушать Зорге по итогам первого этапа его работы в Японии, резидент получил указание прибыть в Москву.
В руководстве военной разведки в это время произошли серьезные изменения. После крупных провалов в Финляндии и во Франции, приведших к арестам нелегальных резидентов и значительной части их агентурной сети, деятельность IV управления была рассмотрена на заседании политбюро ЦК ВКП(б) и получила негативную оценку. Подобные провалы подрывали внешнеполитический авторитет СССР и вызывали рост антисоветских публикаций в мировой прессе. По предложению Сталина было признано целесообразным принять определенные меры, чтобы впредь не допускать подобного. Для совершенствования управления всеми операциями за рубежом было решено вывести Разведуправление из Штаба РККА и подчинить его непосредственно наркому обороны. Одновременно усиливалось руководство военной разведки за счет направления туда опытных кадров из Иностранного отдела ОГПУ, занимавшегося политической разведкой. Первым заместителем Берзина стал Артур Христианович Артузов, который привел с собой группу сотрудников ИНО. Он расставлял их на ключевые посты, стремясь контролировать всю работу управления. Руководить Вторым агентурным отделом, отвечавшим за работу в странах Востока, стал чекист Федор Яковлевич Карин. Он также стал менять его состав, объясняя это необходимостью повысить результативность работы. Новым начальником японского отделения назначили офицера Покладка, сотрудника Разведупра, который лично ранее не занимался агентурной деятельностью. Таким образом, руководство резидентурой в Токио стали осуществлять люди, которых Зорге совершенно не знал и которые также ничего не знали о его предыдущей работе в Китае и Японии.
На этом перемены не закончились. В феврале 1935 года произошел новый провал — в Дании, где был задержан нелегальный резидент военной разведки и арестована группа ценных агентов. Хотя его причиной явились грубые ошибки сотрудников резидентуры, нарушавших указания Центра, Берзин решил взять ответственность на себя и в апреле написал на имя наркома обороны рапорт с просьбой об отставке. Ворошилов ее принял и своим приказом освободил Берзина от должности начальника Разведывательного управления. В подписанном наркомом приказе выражалась уверенность, «что и в будущей своей работе т. Берзин вполне оправдает свой заслуженный авторитет одного из лучших людей Рабоче-Крестьянской Красной армии». Яна Карловича назначили вторым заместителем по политической части командующего войсками ОКДВА, отвечающим за работу военной разведки в этой армии. Он убыл на Дальний Восток к новому месту службы.
Военную разведку возглавил комкор Семен Петрович Урицкий. Это был опытный офицер, воевавший на фронтах Гражданской войны. За его плечами был опыт службы на различных политических и командных должностях. С начала 1934 года он работал заместителем начальника Бронетанкового управления РККА. Два года работал за рубежом, сначала возглавлял нелегальную резидентуру во Франции, а затем действовал в Германии по заданию военной разведки, что и определило выбор его кандидатуры. Урицкий получил указание Сталина вместе с пришедшими из ОГПУ чекистами «навести порядок» в военной разведке, устранить причины провалов и повысить эффективность разведывательной деятельности.
Добираться до Москвы Рихарду пришлось по сложному маршруту, чтобы скрыть свое посещение СССР. Морским путем он прибыл из Японии в США, где в Нью-Йорке курьер военной разведки передал ему австрийский паспорт на другую фамилию с советской въездной визой. Затем отплыл во Францию, а оттуда на поезде через Австрию, Чехословакию и Польшу попал в Советский Союз.
На вокзале его встречал незнакомый офицер. На следующий день он пришел в хорошо известное ему здание, но ему показалось, что он попал совсем в другую организацию.
Зорге ехал в Москву, ожидая услышать положительную оценку своей работы в Японии. Однако у него состоялся долгий и тяжелый разговор с Покладком, который отнесся к нему, как видел опытный разведчик, недружелюбно и старался выяснить какие-то компрометирующие сведения, касавшиеся его работы в Китае. Сложной оказалась и встреча с Кариным, который не столько выяснял особенности работы резидентуры в Токио, сколько вел прямой политический допрос. Зорге старался понять, чем это вызвано, и большие надежды возлагал наличную встречу с начальником Разведывательного управления.
Встреча с Урицким состоялась через несколько дней. Зорге уже информировали, что новый начальник управления, сменивший Берзина, отличается высокой требовательностью, непримиримостью к малейшим недостаткам и промахам в разведработе. Рихард немного опасался этой встречи, но ему было что доложить, он даже привез с собой несколько фотопленок с отснятыми в Токио секретными документами.
Беседа проходила в знакомом Рамзаю кабинете. Семен Петрович, не перебивая, выслушал доклад резидента, затем задал несколько уточняющих вопросов о том, как он смог получить возможность знакомиться с материалами германского посольства. Начальник управления, как и надеялся Зорге, положительно оценил работу его группы. Имея опыт нелегальной деятельности, Урицкий сразу понял, насколько важно то, чего добился Зорге. Семен Петрович поблагодарил Рихарда за отличную работу, отметил ценность направляемой им в Центр информации. На просьбу заменить радиста Бернхарда сказал, что скоро ему на замену прибудет известный Рихарду человек — Макс Клаузен. В заключение Семен Петрович пожелал Рихарду хорошо отдохнуть, но предупредил, что его отпуск будет непродолжительным, не более двух недель, так как в Японии назревают серьезные события и резидент должен в ближайшее время вернуться в страну. Перед его отъездом они еще раз встретятся, и он лично поставит Рамзаю новые задачи на следующий этап операции.