Штабс-капитан Смысловский, как и другие офицеры, был уволен. Гражданская война для Бориса Алексеевича закончилась. Он остался в Польше, где получил гражданство. Находясь в Варшаве, он познакомился с Александрой Федоровной Ивановой и в 1921 г. сочетался с ней законным браком. 4 июня 1922 г. у них родилась дочь Мария. Мария Борисовна Смысловская основную часть жизни провела в Польше. Во время Второй мировой войны она вышла замуж за бывшего рядового РККА Семена Яковлевича Шаронова, попавшего в немецкий плен под Харьковом в 1942 г. Шаронов, завербованный немецкой разведкой, служил переводчиком (зондерфюрером) в одном из специальных подразделений, подчинявшихся зондерштабу «Р», которым в 1942–1943 гг. руководил Смысловский.
Надо сказать, что Смысловский был женат трижды. Второй его супругой в конце 1930-х гг. стала Евгения Микке, происходившая из богатой мещанской семьи с немецкими корнями. Брак этот, по-видимому, был заключен по расчету, и долгим не был. Третьей супругой Смысловского стала Ирина Николаева Кочанович (позже — графиня Хольмстон-Смысловская; 1911–2000), молодая польская художница, на которой он женился в Аргентине.
В 1920-х гг. Смысловский обосновался в Варшаве, где между двумя мировыми войнами проживало несколько десятков тысяч русских эмигрантов. Материальное положении семьи Бориса Алексеевича было тяжелым. Ему постоянно приходилось искать работу, чтобы прокормить жену и маленькую дочь. В середине 1920-х годов он отправился в вольный город Данциг, где окончил немецкий Политический институт по специальности «механическая обработка дерева», получив диплом инженера-практика, после чего возвратился в Варшаву и стал работать торговым агентом и предпринимателем в области деревообрабатывающей индустрии, трудился на одной из мебельных фабрик в пригороде польской столицы.
Первые контакты Б.А. Смысловского с немецкой военной разведкой начались в середине 1920-х годов. Вероятнее всего, Смысловский вступил в контакт с абвером во время обучения в Политехническом институте в Данциге. Уже тогда, по всей видимости, он стал агентом, снабжавшим конфиденциальной информацией немецких разведчиков, живо интересовавшихся политической обстановкой внутри Польши. Кроме того, известно, что в это время он окончил специальные курсы для агентов в Кенигсберге.
В 1928 г. Борис Алексеевич Смысловский получил возможность поступить на разведывательные курсы при Войсковом управлении рейхсвера (Truppenamt) — именно под этим названием в 1920-е и в первой половине 1930-х гг. действовал немецкий Генштаб, а, собственно, курсы «замаскированной» Академии Генерального штаба (Kriegsakademie) германской армии.
По одной из версий, устроиться на курсы Смысловскому помог барон Каульбарс, русский офицер-кавалерист, адъютант шефа абвера — адмирала Канариса. Возможно также, что на курсы Борис Алексеевич смог устроиться благодаря протекции сотрудников разведки из Войскового управления, а точнее — из отдела по изучению иностранных армий. Кроме того, право поступить на курсы Смысловский, вероятно, получил за результативную работу в качестве агента (а потом и резидента), собиравшего сведения о польской армии под видом предпринимателя, связанного с деревообрабатывающей промышленностью.
В 1932 г. Смысловский окончил обучение на разведывательных курсах и был взят на службу в отдел иностранных армий Войскового управления. В то же время Смысловский, как сотрудник отдела иностранных армий, довольно много времени проводил в отделах IС при воинских соединениях и штабах, где получил основательную практику разведывательной и контрразведывательной работы.
В первой половине 1930-х гг. Смысловский служил в разведорганах Войскового управления, которое 16 марта 1935 г. — в день создания вермахта и введения всеобщей воинской повинности — стало называться Генеральным штабом сухопутных войск. К этому времени Борис Алексеевич оброс связями в отделе иностранных армий (его возглавлял тогда генерал-майор К. Шпальке) и в абвере.
1 сентября 1939 г. началась Вторая мировая война. Германский вермахт за считанные недели подавил сопротивление польских вооруженных сил и занял, согласно пакту Молотова-Риббентропа, значительную часть территории восточного соседа. Теперь внимание немецкой разведки переключилось на СССР, вероятность войны с которым становилась все более очевидной. На территории Генерал-губернаторства (бывшей Польши) появились стационарные органы абвера, проводившие свою работу во взаимодействии с отделом «Иностранные армии Востока». Здесь же работал и Смысловский. По заявлению ветеранов советских органов госбезопасности, он был сотрудником «Абвернебенштелле-Варшава» («АНСТ-Варшава»).