О том, что Канарис находится на Принц-Альбрехтштрассе, его друзья узнали через «дядю May». Тот в связи с допросом Канариса в августе, который проводил Гуппенкотен, попросил следователя разрешить заполнить Канарису несколько банковских чеков для поддержания его домашнего хозяйства. Гуппенкотен задумался, но его приветливая секретарша уже схватила чековую книжку и сказала, что это можно быстро сделать, в ответ на что шеф согласился. Действительно, секретарша уже через несколько минут вернулась с подписанными чеками. Товарищами Канариса по несчастью, находившимися на Принц-Альбрехтштрассе, были многочисленные члены оппозиции против Гитлера, в их числе Герделер, генералы Гальдер, Томас и Остер, бывший министр Попиц, государственный секретарь Планк, главный судья Зак, Герберт Геринг, двоюродный брат рейхсмаршала доктор Яльмар Шахт, который в начале сентября был отправлен в Заксенхаузен, далее доктор Йозеф Мюллер, Лидиг, Штрюнк и Гере, также сын генерала Линдемана, Небе и пастор Бонгёфер и многие другие. Канарис относился вместе с Остером и Мюллером к тем заключенным, которые подвергались особенно плохому обращению. На него были надеты наручники особого образца, доставлявшие ему мучительные страдания; длительное время он получал только одну треть тюремного питания и даже в период рождественских праздников страдал от голода. Ему приходилось исполнять самую грязную работу. Однажды, когда он вместе с Мюллером и Гере должен был мыть коридор, что имело, однако, свои положительные стороны, потому что друзья могли при этом переговариваться, один язвительный эсэсовец сказал ему: «Ну, маленький матрос, ты, наверное, не думал, что тебе придется когда-нибудь мыть коридор!»
Большинство узников оставались на Принц-Альбрехтштрассе до воздушного налета ночью 3 февраля 1945 г., во время которого было разрушено здание гестапо. Исключением был Герделер, которого 2 февраля забрали на казнь. 7 февраля заключенные, которые имели отношение к 20 июля, были увезены из Берлина. В предыдущую ночь прибыли еще несколько «гостей» и были временно размещены; 7 февраля их должны были также вывезти из Берлина. Среди них были доктор Яльмар Шахт, граф Готфрид фон Бисмарк, бывший прежде главой земельного правительства в Потсдаме, и бывший военный губернатор в Бельгии фон Фалькенхаузен. Так как водопровод и туалет были разрушены в результате воздушного налета, во дворе вырыли ямы. Это обстоятельство облегчило взаимопонимание между узниками «со стажем» и вновь прибывшими.
Отправка проходила 7 февраля. По неизвестным причинам заключенные были разделены на две группы. Первая, к которой принадлежали Канарис, Остер и Штрюнк, была отправлена во Флоссенбюрг, вторая, в которой были доктор Йозеф Мюллер, Лидиг и множество других, уже упоминавшихся заключенных, в Бухенвальд. Одна часть второй партии узников прибыла в начале апреля также во Флоссенбюрг.
Однако прежде, чем отправиться во Флоссенбюрг, нужно сначала коротко рассказать о методе допросов, проводимых в гестапо на Принц-Альбрехтштрассе. Гуппенкотен, о котором уже много раз говорилось, особенно активно участвовал на допросах самых важных заключенных, среди них, конечно, был и Канарис. Он не принадлежал к типу «людей с квадратным подбородком», которых можно было часто встретить среди эсэсовцев, а скорее производил впечатление образованного чиновника из аппарата управления или полиции. Он старался, по крайней мере в начале допроса, показать себя джентльменом; однако если это не приносило успеха, то он быстро менялся. Его внешний облик не мог надолго никого обмануть: в своем желании «разделаться» с узниками он не знал никаких моральных преград. Более человечным со многими заключенными был штандартенфюрер Панцингер, заместитель группенфюрера Мюллера, который время от времени подключался к допросам. Кроме того, в допросах на Принц-Альбрехштрасе принимали участие комиссары уголовной полиции Зондереггер, который еще в прошлом году был помощником Рёдера, Ланге, Шрей и Старвицкий; последний был особенно груб и любил переходить к рукоприкладству, бил заключенных, если они ему не покорялись.