Дело супругов Фермерен вызвало у Гитлера приступ ярости, необычный даже для него. Отягчающим вину обстоятельством явился в глазах Гитлера тот факт, что начальник ведомства, где служил Фермерен, капитан запаса доктор Пауль Леверкюн уже давал ему повод для неприятных воспоминаний. Имя Леверкюна прежде упоминалось в связи с речью на собрании сторонников мира, с которой выступил посол фон Папен в день памяти героев 1943 года в Анкаре и которая послужила поводом для жалобы со стороны японского посла Ошимы Гитлеру. Эта речь вызвала широкий отклик в кругах общественности. Действительно, Леверкюн, несмотря на то, что ему было запрещено вести политическую деятельность, при молчаливом согласии начальника первого отдела разведки полковника Ганзена и Канариса, по соглашению с фон Папеном нащупывал возможности для начала мирных переговоров, что было в духе Канариса, но что, как потом выяснилось, вызвало подозрение у гестапо. Гнев, который вызвало у Гитлера дело супругов Фермерен, он перенес через Леверкюна на его начальника Канариса. В ярости Гитлер несколько раз называл имя Леверкюна как типичного представителя Канариса. «Канарис сам, — ругался Гитлер, — виноват в том, что такое свинство могло случиться». Известный наездник и эсэсовский генерал Фегеляйн, который был женат на сестре Евы Браун (что позднее, незадолго до окончания войны, не спасло его от распоряжения Гитлера убить своего «деверя»), взял на себя «честь» предложить по этому поводу Гитлеру, чтобы он «весь хлам», то есть всю разведку, отдал в ведомство Гиммлера. Во всяком случае, Гитлер вызвал Гиммлера к себе и потребовал, чтобы тот немедленно высказал ему свои соображения по поводу создания единой разведывательной службы. Канарис узнал через Кейтеля, что его борьба против СС окончилась победой противника. Кейтель как раз находился в Берлине. Йодль позвонил ему из штаб-квартиры фюрера и сообщил, что «фюрер» в связи с делом Фермерен распорядился, чтобы разведка была передана в главное управление имперской службы безопасности. Это было в феврале 1944 г.
В высших инстанциях службы СС еще имелись кое-какие расхождения во мнении о масштабах того, что нужно немедленно передать в подчинение службе безопасности. Гиммлер и Мюллер были намерены вначале не включать разведку в состав главного управления. По мнению Шелленберга, необходимо было объединить все учреждения зарубежной разведки. Наконец Кальтенбруннер решился предложить Гиммлеру текст распоряжения Гитлера, имевший, по показаниям сотрудников службы СС, следующее содержание:
1. Я приказываю учредить единую немецкую службу информации.
2. Руководство секретной службой информации я поручаю рейхсфюреру СС. Он и начальник верховного командования вермахта должны согласовать, при каких обстоятельствах военная разведка может быть переведена в секретную службу информации.
После того как Гиммлер выразил свое согласие с проектом приказа, Кальтенбруннер отправился в штаб-квартиру фюрера и после обсуждения текста с Кейтелем и Йодлем представил его на утверждение Гитлеру. Тот не возражал, только спросил Кальтенбруннера, если можно этому верить, дает ли ему этот приказ все, что он хочет. На что тот ответил, что теперь ему еще не хватает отделения информационной службы министерства иностранных дел. В этих словах вся жажда власти СС. Гитлер, похоже, никак не отреагировал на этот запрос.
Канарису ничего не оставалось делать после распоряжения Гитлера. Он был немедленно отправлен в отпуск и освобожден от должности. Переговоры между вермахтом и СС о передаче разведки в другие руки проводились под председательством начальника центрального управления вермахта генерал-лейтенанта Винтера, который был уполномочен к этому Кейтелем. Они велись в отдельности для оперативной группы зарубежья (аналогичный отдел при главном штабе вермахта остался, хотя и реорганизованный, за Гиммлером) ее начальником, контр-адмиралом Бюркнером, и для трех отделов разведки — генерал-майором фон Бентивеньи. Первый и второй отделы были объединены в единый отдел «военной разведки» и переданы в главное управление службы безопасности. Начальником отдела военной разведки стал бывший руководитель первого отдела полковник Ганзен. Для третьего отдела были приняты особые правила регулирования. Центральный отдел, которым ранее руководил Остер, был упразднен.
С горечью в сердце и с глубокой тревогой Канарис смотрел, как разрушается творение, которому он отдал все свои силы. Его не могла утешить уверенность в том, что победителям недолго осталось радоваться. Последней организации, которая была серьезным препятствием в политике тотального террора, больше не существовало. Ее отсутствие отозвалось болью, когда через несколько месяцев была предпринята отчаянная попытка по инициативе немцев устранить тирана и свергнуть систему.