После отречения Николая II, 1 марта 1917 года В. А. Сухомлинов вновь был арестован. По этому поводу газета «Известия» Петроградского совета рабочих и солдатских депутатов 9 марта 1917 года от имени прапорщика 171 пехотного запасного полка Романа Лукича Чиркунова писала:
«28 числа народ, проходящий по Офицерской улице, был обстрелян из дома № 55, где проживал Сухомлинов. По просьбе собравшейся толпы, желавшей обстрелять этот дом, я с депутатами от этой же толпы произвел обыск чердаков и подвалов этого дома, причем в подвале мною найдено было два пулемета системы Кольта и 10 винтовок с запасом патронов и там же арестован переодетый в статское полицейский, оказавший сопротивление. На чердаках было арестовано пять неизвестных при трех револьверах. Все шестеро были отвезены в думу. За домом, где проживал Сухомлинов, был учрежден надзор.
1 марта мне сообщили, что по черному ходу будто бы прошел Сухомлинов и что около дома собралась толпа, желавшая учинить над ним самосуд. Указав толпе, что в наши задачи не входит производить самосуд, так как Сухомлинов не избежит суда, я с депутатами от той же толпы прошел в квартиру. Мне сказали, что Сухомлинова нет дома. Но при обыске Сухомлинов совершенно случайно был найден в своей спальне под периной и с подушкой на голове. Ему было предложено немедленно же одеться, Сухомлинов заявил, что пребывание его известно председателю Государственной думы Родзянко, которому он будто бы послал письмо. Сухомлинов утверждал, что он не скрывался. При обыске квартиры найден один револьвер. Об обыске составлен акт, оставленный у госпожи Сухомлиновой, за подписями всех присутствующих.
При выходе Сухомлинова толпа кричала: «Изменник! Продал родину!» и хотела сорвать с него погоны. Сухомлинов бледный, как полотно, и трясущийся поднял руку и стал клясться, что он невинен, спрашивал, почему Россия недовольна им, ведь он к началу войны выставил четыре с половиной миллиона войск, что пока он был во главе военного ведомства, все было благополучно.
После этой своей речи он был посажен в автомобиль и доставлен в Государственную думу».
Сам Сухомлинов в своих воспоминаниях пишет: «В то время, когда я так отстаивал свою голову, вспыхивает Февральская революция 1917 года, и какая-то компания вооруженных людей арестовывает меня на квартире и везет в Таврический дворец, где уже организовалась новая власть. Во время переезда в грузовом автомобиле субъект в очках держал против моего виска «браунинг», дуло которого стукалось мне в голову на ухабах. Полнейшее мое равнодушие к этому боевому его приему привело к тому, что он вскоре спрятал оружие в кобуру. Затем несколько вопросов относительно моего дела и совершенно спокойные мои ответы на них окончились тем, что первоначальное неприязненное ко мне отношение превратилось в благожелательное.
У Таврического дворца снаружи и в залах, по которым я проходил, была масса народу, и никаким оскорблениям я не подвергался, как об этом неверно сообщали газеты. Действительно, всего один долговязый, кавказского типа человек произнес из дальних рядов: «Изменник». Я остановился и, глядя на него в упор, громко ему ответил: «Неправда!» Тип настолько уменьшился тогда в росте, что головы его больше не стало видно, и я спокойно продолжал дорогу, без малейших каких-либо инцидентов».
Следствие длилось пять месяцев. В качестве соучастницы была привлечена также жена Сухомлинова. Суд проходил с 10 августа по 12 сентября 1917 года. Сухомлинову были предъявлены обвинения в измене, в бездействии власти и во взяточничестве. Большинство обвинений не подтвердилось, однако Сухомлинов был признан виновным в «недостаточной подготовке армии к войне» и 20 сентября 1917 приговорен к бессрочной каторге и лишению всех прав состояния. Правда, затем каторга была заменена на тюремное заключение, и Сухомлинов был заключен в Трубецкой бастион Петропавловской крепости. Жена Сухомлинова была оправдана.
После Октябрьской революции Сухомлинов был переведен в тюрьму «Кресты». 1 мая 1918 года он по амнистии, как достигший 70-летнего возраста, был освобожден и выехал в Финляндию, а оттуда в Германию. В эмиграции написал «Воспоминания», которые в 1924 году были изданы в Берлине, а в 1926 году и Советском Союзе.
Скончался в Берлине 2 февраля 1926 года.
Воспоминания современников о В. А. Сухомлинове достаточно пестрые. Так, бывший военный министр генерал А. Ф. Редигер писал: «Сухомлинов, по моему мнению, человек способный, он быстро схватывает всякий вопрос и разрешает его просто и ясно. Службу Генерального штаба он знал отлично, так как долго был начальником штаба округа. Сам он не работник, но умеет задать подчиненным работу, руководить ими, и в результате оказывалось, что работы, выполнявшиеся под его руководством, получались очень хорошие».