В июле 1937 года, когда политическая атмосфера в стране была накалена до предела и при этом источник высокой температуры был обнаружен именно в войсках, Конева прямо с партийной конференции Белорусского военного округа вызвали к телефону — срочно прибыть в Москву к наркому обороны К. Е. Ворошилову.
У Конева с наркомом были хорошие, деловые отношения. Благодаря Ворошилову он теперь занимался любимым делом, потихоньку, не спеша, но последовательно, с ощущением твёрдой почвы под ногами, осваивал военную науку и теории и на полигонах, одновременно поднимался по служебной лестнице. Не ловчил, не обходил трудности по мелководью да вброд, всё давалось потом и постоянной кропотливой работой, работой и работой. Идеи партии принимал, борьбу её понимал. О том, что считал неправильным, помалкивал. На партийных собраниях вёл себя так, как подобает командиру, горячих на слово обрывал, хорошо понимая, чем это может кончиться.
И вот — звонок. Из Москвы. От наркома. Что он мог означать?
А означать он мог в то время всё что угодно.
Ещё весной, 29 мая, по «делу Тухачевского» был арестован командарм 1‑го ранга И. П. Уборевич. Вместе с ним другие военачальники РККА: комкоры А. И. Корк, Р. П. Эйдеман, Б. М. Фельдман, В. М. Примаков, В. К. Путна, командарм 1‑го ранга И. Э. Якир. 11 июня Специальное судебное присутствие Верховного суда СССР в составе В. В. Ульриха, маршалов Советского Союза В. К. Блюхера и С. М. Будённого, командармов Я. И. Алксниса, Б. М. Шапошникова, И. П. Белова, П. Е. Дыбенко и Н. Д. Каширина рассмотрело дело о военно–фашистском заговоре и приговорило его участников к расстрелу. Газеты тех дней пестрили заголовками и информационными сообщениями о ходе следствия и новых показаниях заговорщиков. «Военно–политический заговор против советской власти, стимулировавшийся и финансировавшийся германскими фашистами». «Органами Наркомвнудела раскрыта в армии долго существовавшая и безнаказанно орудовавшая, строго законспирированная контрреволюционная фашистская организация, возглавлявшаяся людьми, которые стояли во главе армии». Однажды ему попала в руки довольно популярная тогда «Литературная газета»: «И вот страна знает о поимке 8 шпионов: Тухачевского, Якира, Уборевича, Эйдемана, Примакова, Путны, Корка, Фельдмана…» В конце коллективного письма известных писателей, инженеров человеческих душ, негодующее: «Мы требуем расстрела шпионов!» Конев пробежал длинный список подписавших: Вс. Иванов, Вс. Вишневский, Фадеев, Федин, Алексей Толстой, Павленко… Завёрстанное рядом такое же негодующее письмо ленинградских писателей: Слонимского, Зощенко…
Шпионов расстреляли на следующий же день после обнародования приговора, то есть 12 июня. Но газеты требовали казни ещё неделю. Белорусским военным округом командовал командарм 1‑го ранга Иван Панфилович Белов. Во время судебных слушаний Белов находился в зале заседания в качестве члена Военного совета при наркоме обороны. Позже, когда Конев был уже за тысячи километров от Минска, на Дальнем Востоке, до него дошли слухи, что командующий округа крайне неосторожно повёл себя на заседании военного Совета 21 ноября 1937 года: заявил, что чистка, проводимая в войсках среди комсостава, отрицательно сказывается на ходе боевой и политической подготовки, что многие части практически парализованы.
Слухи оказались верными. Ивана Панфиловича Белова, что называется, прорвало: он заявил, что «было много перестраховочных представлений, было много слухов, когда люди сводили счёты, когда принимали за врага не того, кого надо. Люди, которых ни в партийном, ни в другом порядке не оценивали с плохой стороны, берутся органами НКВД». Герою гражданской войны, бывшему главкому Туркестанской республики и командующему Бухарской группой войск РККА, вероятно, простили бы и «перестраховочные представления», и «слухи», и то, что «принимали за врага не того, кого надо», но последняя фраза, сказанная им в запале об «органах НКВД», погубила Белова. Позже, уже в январе 1938 года, Конев узнает, что командарм 1‑го ранга Белов арестован. История с Уборевичем повторится. Белова расстреляют 29 июня 1938 года.
И вот — звонок из Москвы. Так брали многих. Чтобы не будоражить войска и семьи, не поднимать шум в гарнизонах, командармов, комкоров и комбригов вызывали в Москву, а там, на вокзале, их ждали машины с вежливыми офицерами сопровождения…
На всякий случай Конев спросил о цели вызова и… что иметь с собой.
— Обо всём узнаете на месте. Захватите с собой пару белья. Больше ничего.
Семья в то время жила с ним в Минске. Пришёл домой, сказал жене о срочном вызове в Москву. Анна Ефимовна сразу побледнела. Конев решил тему не развивать, но, уезжая, попрощался так, как если бы уезжал навсегда.