Многие годы отношение Канариса к Гитлеру было весьма лояльным. Но между ними стоял Кейтель; он являлся своеобразным фильтром, который позднее передавал информацию от Канариса к Гитлеру только в дозированном виде.
Но кто же были те руководящие лица, которыми окружил себя Канарис? Начальником штаба и впоследствии руководителем центрального отдела был генерал Остер. В кругах абвера он характеризуется как тщеславный, непроницаемый, ловкий человек с моноклем, нелюбезный, холодный и необщительный. Его деланая манера говорить с сильным саксонским акцентом имела оттенок пренебрежительности. В гражданской одежде он предпочитал кричащие тона. Над его письменным столом висело многозначительное изречение: «Орел мух не ловил» (латинская пословица). По своим политическим взглядам Остер был ярым монархистом старой закваски и противником национал-социализма. В огромном аппарате абвера он завоевал для своего отдела ведущую роль.
Руководитель I отдела, полковник генштаба Пикенброк, описывается как незаурядная личность. Он был женат на дочери генерала Хассе. Жизнерадостный западный немец «был открытым человеком. Крупный и темноволосый, с редкими уже волосами, он был элегантным и светским человеком, чья тонкая ирония и широкий взгляд на жизнь оценивались всеми по достоинству».
Его преемником стал полковник генштаба Хансен. Стройный, высокий мужчина с открытым лицом. Он далеко не всегда был одного мнения с Канарисом; как друг Штауфенберга, он являлся членом Сопротивления. Но в то же время у него были настолько хорошие отношения с Главным управлением имперской безопасности, что позднее он возглавил остатки абвера, когда в 1944 году его влили в РСХА.
Во главе II отдела стоял генерал-полковник генштаба Гросскурт. Крупный блондин, в очках, он производил впечатление замкнутого человека, немного «гессенца». Он был участником движения Сопротивления, и вместе с Остером осенью 1939 года совершил поездку на фронт, чтобы прощупать готовность высших офицеров к путчу против Гитлера. Этот офицер вследствие событий, которые будут описаны позже, в конце 1939 года был переведен в Верховное главнокомандование и возглавил отдел военного дела. Здесь обрабатывалось все то, что не полагалось рассылать по другим ведомствам. При этом особенно важным было обстоятельство, что ОКВ не могло непосредственно отдавать приказы частям вермахта. Предложения ОКВ передавались по инстанциям частями вермахта как самостоятельные приказы.
Для армии разработка производилась в отделе военного дела. Здесь также трудился подполковник Шрадер в качестве доверенного лица Остера и Догнаньи.
На смену Гросскурту пришла личность совсем иного склада: бывший офицер австрийской военной разведки и контрразведки и впоследствии генерал Лахоузен, в чистом виде тип прежнего офицера k.u.k.[5] В отделе разведки австрийского генерального штаба он был консультантом по Чехословакии под началом генерала Бёма. Между абвером и этим ведомством еще до Канариса существовало взаимодействие в форме обмена разведданными по Чехословакии. Но Лахоузен позднее не предпринимал ничего, чтобы снабжать Канариса сведениями из австрийского генштаба.
Германским офицером связи с этим ведомством был руководитель отделения абвера граф Маронья-Редвиц. До аншлюса он руководил абвером в Мюнхене, затем возглавил абвер в Вене. О графе с сильно обезображенным лицом говорили, что это был в высшей степени благородный человек. Из-за сбора информации однажды он был осужден в Швейцарии. Через посредничество Маронья Лахоузен, который уже давно задумывался об аншлюсе, приехал в 1938 году в Берлин и быстро получил звание. Как прогермански настроенный австриец, он вначале был сторонником аншлюса, и, когда позже наступило разочарование, в Канарисе он увидел человека, который мог бы разрушить систему Гитлера. Выступление Лахоузена на Международном военном трибунале в Нюрнберге произвело сенсацию, но его критическая оценка не во всех пунктах была состоятельна. Лахоузен в абвере оставался по 1943 год. Летом 1943 года его сменил полковник Фрейтаг-Лорингховен.
Руководитель III отдела, полковник генштаба Бамлер, поддерживал очень хорошие отношения со службой контрразведки тайной государственной полиции. И все же уже в 1939 году он принял командование над войсковой частью. Его преемником стал полковник генштаба Бентивеньи, представлявший собой итальянский тип, маленький и щуплый, «абсолютно корректный и приличный человек». Его взаимоотношения с Канарисом, которого он не принимал из-за его «лукавого, неискреннего характера», не выходили за служебные рамки.