Повторно этот вопрос рассматривался ЦК в апреле 1921 года Политбюро. Было решено назначить заведующим Восточным отделом ВЧК петроградского хозяйственного работника, ранее служившего председателем ЧК в Саратове и Башкирии, уполномоченным ВЧК на Кавказе, Семена Лобова. Но и это назначение не состоялось окончательно. Восточный отдел был образован в составе Секретно-оперативного управления приказом по ГПУ только 2 июня 1922 года. Основой его послужило 14-е спецотделение Особого отдела ВЧК, начальником которого был Владимир Стырне. Новая структура должна была объединять работу чекистов на Кавказе, в Туркестанской, Башкирской, Татарской и Крымской автономных республиках, Хивинской и Бухарской народных советских республиках в сфере «специфической восточной контрреволюции и восточного шпионажа». Новому отделу вменялась разработка материалов Закордонной части ИНО из стран Востока; исполнение оперативных заданий Восточного отдела было обязательным для ИНО. Начальником отдела стал член Коллегии ГПУ Яков Христофорович Петерс, личность в органах к тому времени легендарная. Старый латышский революционер, побывавший в лондонской эмиграции, участник Октября, бессменный член Коллегии ВЧК-ОГПУ с первого дня — 20 декабря 1917-го, заместитель Дзержинского в 1918–1919 годах и его временный преемник в течение полутора месяцев после левоэсеровского выступления 6 июля 1918 года, побывавший во время гражданской войны со специальными заданиями ВЧК в Петрограде, Туле, на Украине, Северном Кавказе, Туркестане, к 1923 году Петерс совмещал несколько постов — руководил Главной инспекцией пограничных войск и войск ГПУ, работал в Центральной контрольной комиссии партии. Делами отдела занимались заместители Петерса и начальники отделений. Отделений в Восточном отделе было три. Первое занималось Ближним Востоком и Кавказом, возглавлял его по совместительству до перевода в Ташкент в январе 1923 года заместитель Петерса Владимир Стырне, второе — Средней Азией и Средним Востоком, начальником был Федор Эйхманс (бывший председатель Семиреченской ЧК, будущим первый начальник Управления лагерей ОГПУ, соратник и выдвиженец знаменитого чекиста Глеба Бокия). третье — Дальним Востоком. Им руководил наименее известный и наиболее образованный (учился в Лазаревском институте восточных языков в Москве) из всех Михаил Казас. В его отделение и попал на должность уполномоченного, а вскоре поднялся до помощника начальника отделения 24-летний Наум Эйтингон. Некоторые сослуживцы Эйтингона по Восточному отделу стали позднее заметными фигурами в органах ОГПУ, как, например, переведенный из Закавказской ЧК на должность уполномоченного 2-го отделения Хорен Петросян.
Работу молодой, но уже достаточно высокопоставленный чекист (должность его в сравнении с позднейшей структурой органов госбезопасности равнялась посту заместителя начальника управления в главке центрального аппарата) совмещал с учебой на восточном факультете Военной академии РККА, куда поступил в том же 1923 году. Это, видимо, было принято в Восточном отделе. В той же академии учились и другие уполномоченные Восточного отдела — коллега Эйтингона по Гомелю и Уфе Владимир Алексеев, Михаил Аллахвердов, Иван Шебеко и их начальник Михаил Казас (он также учился и в Институте востоковедения).
Военной академии Красной Армии в то время пришлось быть кузницей кадров советской разведки — как военной, так и чекистской. Специальных разведшкол еще не существовало. На Высших курсах ОГПУ, основанных в 1921 году, готовили сотрудников только для внутренних органов. А в Военной академии имелась достаточно мощная научная база, еще с дореволюционных времен.
Начальником академии ко времени поступления Эйтингона и Алексеева был Павел Павлович Лебедев, бывший генерал-майор царской армии, с 1918 года служивший в Красной Армии. В апреле 1924 года его сменил Михаил Васильевич Фрунзе, бывший одновременно заместителем наркомвоенмора и председателя Ревввоенсовета СССР, а также и комиссаром академии. А когда в январе 1925 года Фрунзе стал наркомом и председателем РВС вместо Льва Троцкого, начальником и комиссаром академии стал Роберт Эйдеман, бывший командующий Сибирским военным округом. После смерти Фрунзе с осени 1925 года академия носит его имя.