В результате начатого Гиммлером расследования всё серьёзнее стали подозревать Штауффенберга: его поведение, а особенно внезапное исчезновение казалось теперь подозрительным и Кейтелю. Но пока ещё никто из окружения Гитлера не предполагал, что речь идёт не о покушении одного отдельного лица, а о начале предпринятой в более широком масштабе попытки восстания. А тем временем в ОКХ на Бендлерштрассе генерал Ольбрихт и его ближайшие соратники тщетно ожидали сигнала действовать — телефонного звонка из Растенбурга.
Около полудня Ольбрихт послал майора Хайэссена к полицей-президенту Берлина графу Хельдорфу договориться о действиях полиции по захвату важнейших зданий и аресту нацистских главарей. Однако в крайнем возбуждении майор захватил с собой устаревшую карту. Но куда важнее было то, что Хельдорф отказался от самостоятельных действий полиции и заявил, что она начнёт действовать только тогда, когда возьмёт власть армия. У Хельдорфа в это время находился Ганс Бернд Гизевиус, агент германского абвера, который, как уже указывалось, сотрудничал с американской секретной службой.
Граф Хельдорф являлся старым нацистом; будучи в 20-е и 30-е годы одним из главарей штурмовиков, он основательно приложил руку к кровавому террору против антифашистов. Теперь он был подобен крысе, пытающейся спастись с тонущего корабля. Роль Хельдорфа 20 июля заключалась в том, что, ровным счётом ничего не делая сам, он отпускал циничные замечания насчёт недостатков предпринятой операции и предоставлял действовать другим. Штауффенберг и прежде был о нём невысокого мнения.
Только в 15 часов 30 минут генерал-лейтенанту Тиле удалось установить телефонную связь Бендлерштрассе со ставкой. Оттуда он получил лишь лаконичное известие о состоявшемся покушении, но жив Гитлер или мёртв, сказано не было. Тогда Ольбрихт распорядился отдать около 15 часов 30 минут первые приказы о подъёме войск по боевой тревоге в соответствии с планом «Валькирия». Начальнику берлинского гарнизона генералу фон Корцфляйшу через офицера связи было приказано явиться на Бендлерштрассе для получения указаний. Подчинённого ему военного коменданта Берлина, участника заговора генерала фон Хазе, Ольбрихт известил по телефону о необходимости быть готовым к боевым действиям44. Тиле приказал сформировать отделение радиосвязи, которое должно было оборудовать радиостанцию в городской военной комендатуре45.
Около 16 часов Штауффенберг и Хефтен совершили посадку в Рангсдорфе, полагая, что военный государственный переворот уже идёт полным ходом. Хефтен позвонил на Бендлерштрассе и вызвал автомашину. Одновременно он подтвердил факт покушения и наверняка свершившееся — по его убеждению — уничтожение Гитлера. Теперь Ольбрихт и Мерц фон Квирнгейм форсировали введение в силу дальнейших приказов «Валькирия». В Берлине были подняты по боевой тревоге подчинённые фон Хазе войска: охранный батальон (отдельная часть силой до полка), гарнизон Шпандау, пиротехническое и оружейно-техническое училища супохутных войск. Командиры этих частей были вызваны для получения приказов в городскую комендатуру на Унтер-ден-Линден, 1. Здесь им были вручены заранее разработанные приказы занять определённые здания, министерства, казармы СС и транспортные узлы. Охранному батальону приказывалось оцепить правительственный квартал и взять Геббельса.
После 16 часов подполковник Бернардис начал поднимать по боевой тревоге войска, находившиеся вне Берлина: танковые училища в Крампнице и Вюндсдорфе, курсы усовершенствования танковых войск в Гросс-Глинике, пехотное училище в Дёберице и унтер-офицерское училище в Потсдаме. Некоторые из этих частей должны были поддержать берлинские войска; другие занять радиостанции, перерезать основные магистрали и выступить против соединений СС. Принадлежавшая к охранному батальону охрана здания на Бендлерштрассе получила приказ Мерца фон Квирнгейма перекрыть все входы и выходы и оказать сопротивление в случае возможной атаки частями СС.
После получения первых известий и отдачи первых приказов Ольбрихт отправился к генералу Фромму (которому только что вручили донесение), чтобы информировать его о происходящем и по возможности привлечь к участию в перевороте. Объявив, что получил сообщение от генерала Фельгибеля, гласящее: Гитлер погиб в результате покушения, Ольбрихт предложил командующему армией резерва дать войскам кодовый сигнал «Валькирия» и тем самым приказать вермахту взять в свои руки всю исполнительную власть. Однако Фромм пожелал получить сообщение о гибели Гитлера лично от Кейтеля и около 16 часов 10 минут позвонил в ставку фюрера. Тем временем установленный Гитлером запрет связи был отменён, и Кейтель сразу же взял трубку. На вопрос Фромма он ответил, что покушение имело место, но сам фюрер лишь легко ранен. Затем Кейтель спросил, вернулся ли уже полковник Штауффенберг. Получив такую информацию, Фромм отказался ввести в действие план «Валькирия». А пока всё это происходило, Мерц фон Квирнгейм от имени Фромма продолжал передавать войскам приказы «Валькирия».