Нападки на ганноверскую полицию имели, однако, серьезные основания. Выяснилось, что Хаарманн негласно работал все годы в уголовном розыске, уведомляя полицию о совершавшихся кражах. Многократный вор, скупшик краденого, заведомый гомосексуалист был в то же время агентом полиции. Та же самая полиция, которая десятки раз делала обыски у Хаарманна, на другой день после обыска давала ему поручения розыскного характера. Выяснилось также, что Хаарманн был совладельцем какого-то подозрительного частного сыскного бюро, имел какое-то удостоверение от этого бюро с печатью не то подложной, не то поставленной в каком-то официальном учреждении. Полиция знала об этом удостоверении, которым Хаарманн злоупотреблял, но не предпринимала ничего против Хаарманна. Если сопоставить все это с лежавшей в комнате и не обнаруженной при обыске головой убитого Роте, то станут понятны те ожесточенные нападки на ганноверскую полицию, которые были направлены на нее в связи с делом Хаарманна.
После находки пяти черепов, отношение полиции к Хаарманну продолжает быть весьма странным. Хаарманна не арестовывают. Довольствуются тем, что выписывают из другого города двух агентов и устанавливают за Хаарманном наблюдение. Неизвестно, как долго длилось бы это наблюдение, к каким результатам оно бы привело, и сколько еще молодых людей сделалось бы жертвою Хаарманна, если бы не невероятно смелое поведение самого Хаарманна, которое дало повод к его аресту.
Через несколько дней после установления наблюдения, Хаарманн явился в уголовный розыск в сопровождении молодого человека по фамилии Фромме и заявил, что этот юноша убежал из Берлина от своих родителей и что у него нет никаких документов. В уголовном розыске задержали обоих явившихся и учинили им допрос об их взаимоотношениях. Фромме сознался, что Хаарманн имел с ним половые сношения. Это признание дало основание для ареста Хаарманна. Было начато дознание против Хаарманна по 175-й статье, и одновременно продолжалось дознание по делу об убийстве неизвестных, черепа которых были найдены в реке. У Хаарманна в комнате был произведен очередной обыск, давший следующие результаты: было найдено большое количество верхней одежды и белья, а также были обнаружены следы крови. Наличность одежды и белья Хаарманн объяснил тем, что он торговал старым платьем и бельем. Это было верно, и объяснение казалось правдоподобным. Следы крови, по словам Хаарманна, происходили от кровотечений, которыми он страдал. Правильность этого последнего обстоятельства также была установлена. Против Хаарманна и на этот раз не только бесспорных, подавляющих, но даже сколько-нибудь серьезных улик не было.
Случай помог уголовному розыску. В газетах было объявлено, что желающие могут осматривать найденные в реке черепа, а также веши, обнаруженные при обыске у Хаарманна. Родственники пропавших за последние годы без вести, — таких в Ганновере насчитывалось сотни, — стали приходить в уголовный розыск. 21 июля некий Витцель по строению зубов и по шраму на лобной кости установил, что один из черепов принадлежит его исчезнувшему сыну. Однако это не говорило еще о виновности Хаарманна, так как юноша мог быть убит и брошен в реку и кем-нибудь другим. Но через несколько дней в здание полиции пришла мать убитого Витцеля. Совершенно случайно она встретилась в этом же здании с квартирной хозяйкой Хаарманна и ее пасынком. Костюм последнего бросился в глаза матери Витцеля. Она узнала в нем костюм своего сына, который был на нем в день исчезновения. Тотчас же пасынок хозяйки и она сама были допрошены. Оказалось, что костюм хозяйка получила от Хаарманна. Теперь стало несомненным, что Хаарманн убил Витцеля. Под тяжестью этой улики Хаарманн сознался в убийстве Витцеля, точно так же, как во многих других убийствах.
По указанию Хаарманна были произведены новые поиски в реке. Была отведена вода, и на указанном Хаарманном месте было найдено огромное количество человеческих костей. По заключению специалистов, эти кости принадлежали 24 убитым. Исчерпывался ли этими 24 список жертв Хаарманна? На этот вопрос трудно ответить. В Ганновере ежегодно исчезают бесследно сотни людей. В 1923 году, году особенно активной деятельности Хаарманна, в Ганновере исчезло около 600 человек. Сколько из них пришлось на долю Хаарманна — этот вопрос останется навсегда без ответа.