Этот и другие подобные случаи упрочили командование рейхсвера в намерении создать для строящейся 100 тысячной армии специальный отдел контрразведки в системе министерства рейхсвера. Его руководителем назначили майора Гемпа (впоследствии генерал-майор), который в годы войны работал у полковника Николаи в отделе «III-b». Он дал новой тайной военной разведслужбе название «Абвер» (по-немецки «защита, охрана». — Ред.), чтобы убедить всех, будто речь идет о чисто оборонительном мероприятии. Впрочем, под такой же маркой восстанавливали и генеральный штаб, тоже вопреки положениям Версальского договора. Он начал действовать под вывеской Войсковое управление министерства рейхсвера и, сохраняя старые традиции, занялся прежде всего подготовкой молодых офицеров в качестве «помощников командиров» подразделений и частей. Группа под названием «Абвер» первоначально входила в состав военно-стратегического отдела Войскового управления.
По складу характера майор Гемп был сильной личностью. Пользуясь своим опытом и основательным знанием материала, он сумел взять многое из наработанного в прежней службе разведки как в техническом, так и в методическом плане. Однако в тех трудных условиях, в которых находился тогда молодой рейхсвер, многое нужно было начинать заново, ибо предпосылки, позволявшие работать отделу «III-b» в Большом генеральном штабе, исчезли или изменились в той же степени, как и вся военная и политическая обстановка. Новую тайную военную службу следовало поначалу держать в достаточно скромных, малозаметных рамках. Поэтому абвер тогда насчитывал всего 2–3 офицера генерального штаба и примерно 5–7 вольнонаемных сотрудников, которых можно было уволить в любое время, и несколько писарей. Группа абвер имела два сектора — «Восток» и «Запад», которые занимались главным образом борьбой со шпионажем и диверсиями. Сбор сведений из за рубежа был тогда на втором плане. Поскольку финансовые средства были предельно скромными, о создании полноценной тайной службы военной разведки в ту пору никто и не думал.
Под руководством генерала фон Зекта рейхсвер тем временем превращался в элиту долгослужащих высококлассных военных специалистов и в идеальное ядро будущего вермахта. Войсковое управление стало его настоящим мозгом. Но для охраны пока еще чисто оборонительных мероприятий рейхсвера и сохранения в тайне многих усилий, не предназначенных для сведения общественности, все настойчивее требовалась хорошо функционирующая защита от шпионажа. Именно поэтому абвер-группа была подчинена непосредственно министру рейхсвера. Скрывать само ее существование необходимости не было. Более того, она возникла и начала развиваться совершенно официально под наблюдением межсоюзнической Контрольной комиссии как военный орган защиты от шпионажа. Это обозначение сохранилось и тогда, когда рухнули ограничения, наложенные Версальским договором. Абвер стал понятием, включавшим в себя всю тайную военную службу разведки, контрразведки и связи появившегося позже германского вермахта. Из абвер-группы рейхсвера выросло отделение Абвера в министерстве рейхсвера, а затем в имперском военном министерстве. Потом оно превратилось в отдел внешней разведки и контрразведки в верховном главнокомандовании вермахта и наконец — в октябре 1939 г. — в самостоятельное управление «Абвер/Аусланд» (Абвер/Заграница).
Поначалу абвер-группа состояла из трех подгрупп: I. Разведка, II. Шифровальная служба и служба радиоподслушивания, III. Контрразведка. В качестве непосредственных исполнительных органов в каждом из семи военных округов (корпусов) были созданы отделения абвера. Они располагались так: в 1 м округе в Кёнигсберге, во 2 м — в Штеттине, в 3 м — в Берлине, в 4 м — в Дрездене, в 5 м — в Штутгарте, в 6 м — в Мюнстере и в 7 м — в Мюнхене. В штате каждого из этих отделений, к которым позже добавилось еще одно — при штабе 2 й кавалерийской дивизии в Бреслау, вначале был один офицер генштаба, один офицер-помощник и один писарь. Например, в штабе 1 го округа за решение задач разведки отвечал капитан Вальтер Вайсс (в будущем — генерал-полковник и командующий одной из армий). В его распоряжении были трое офицеров (они служили как вольнонаемные), которые и занимались непосредственно вопросами разведки и контрразведки[19].