В центре Ганновера находился Большой железнодорожный вокзал. И именно в эту часть города стекались огромные толпы людей со всех уголков истерзанной Германии, среди них были дезертиры, бродяги и бездомные. Сюда стекались беженцы из других городов. Они искали работу, пытались раздобыть продукты, бессмысленно и лениво склонялись по городу, не зная, чем себя занять. Легко представить, что, несмотря на отчаянную нехватку сил и средств, полиция по мере возможности внимательно следила за тем, что происходило на вокзале и в его окрестностях, а Хаарманн помогал ей в этом. В полночь, в глухие ночные часы он обычно проходил по залам ожидания пассажиров третьего класса мимо скрючившихся во сне людей, внезапно будил какого-нибудь испуганного юнца, требовал показать билет и допытывался, откуда и куда он следует. Обычно юнец рассказывал, всхлипывая, какую-нибудь грустную историю, а добрый Хаарманн предлагал ему место для ночлега и еду в своем доме, расположенном в деловой части города.
Насколько это сейчас возможно установить, первым юношей, оказавшимся таким образом дома у милосердного Хаарманна, был убежавший из дома семнадцатилетний Фридель Роте. 29 сентября 1918 года его мать получила почтовую открытку, и так уж случилось, что в тот же самый день вернулся с войны отец Фриделя. Родители были полны решимости найти своего сына, и вскоре начали поиски. Одни из приятелей Фриделя сообщил им, что их пропавший сын познакомился с каким-то сыщиком, который и предложил тому крышу над головой. Нашлись и другие зацепки, и, приложив невероятные усилия, так как у полицейских властей были куда более важные дела, чем поиски беглых школьников, семье Фриделя все-таки удалось заставить полицейских произвести обыск в доме Хаарманна на Целларштрассе 27. Когда полицейские внезапно ворвались в дом Хаарманна, то там обнаружили Хаарманна и какого-то юношу в такой недвусмысленной позе, что, даже будучи дружками Фрица, они вынуждены были его арестовать. В соответствии со статьей 175 уголовного кодекса Германии за исключительно непотребные действия Хаарманн был приговорен к девяти месяцам тюремного заключения. Четыре года спустя в ожидании суда по обвинению в двадцати четырех убийствах Хаарманн показал: «В тот момент, когда полиция арестовала меня, голова Фриделя Роте лежала под газетой за кухонной плитой, позднее я ее выбросил в канал».
В сентябре 1919 года Хаарманн познакомился с Гансом Грансом, красивым молодым человеком, который позднее оказался вместе с ним на скамье подсудимых. Гране относился к тому опасному типу выродков-психопатов, который только в наши дни стал явлением довольно обычным. В нем соединились самые отвратительные человеческие пороки: жулик и вор, скандалист, тайный осведомитель и провокатор, убийца, громила, сутенер и, что хуже всего, шантажист. Влияние этого Ганимеда на Хаарманна было абсолютным. Именно по его наущению совершались многие убийства: в ноябре 1923 года семнадцатилетний Адольф Ханнаппель был убит лишь из-за того, что Грансу понравились его брюки; 5 января 1924 года за свою «франтовскую рубашку» поплатился жизнью тоже семнадцатилетний Эрнст Шпикер. Именно Гранс разрабатывал детали совершения преступлений, именно он очень часто и заманивал жертву.