В Великую Отечественную войну в июне – сентябре 1941 начальник штаба танкового полка, участник боёв на Западном фронте. С октября 1941 – старший помощник начальника, а с апреля 1942 – начальник отдела Автобронетанкового управления, с июня 1942 – начальник штаба этого управления, с января 1943 по март 1944 начальник штаба Управления командующего бронетанковыми и механизированными войсками Карельского фронта. В марте – сентябре 1944 – командующий бронетанковыми и механизированными войсками 32-й армии того же фронта.
Участвовал в обороне и освобождении советского Заполярья, проявил личное мужество и высокие организаторские способности в управлении бронетанковыми войсками.
В 1947 окончил Военную академию бронетанковых и механизированных войск. После окончания академии с ноября 1947 командир танкового полка, в 1948-1949 начальник штаба танковой дивизии. В 1951 окончил военную академию Генштаба. С января 1952 командир механизированной дивизии, затем на штабных и командных должностях. В 1960-1964 начальник штаба – первый заместитель командующего войсками Московского военного округа, с июля 1964 первый заместитель, а с октября 1965 командующий войсками Ленинградского военного округа.
С апреля 1967 Соколов – первый заместитель министра обороны СССР. Указом Президиума Верховного Совета СССР от 28 апреля 1980 года "за личное мужество и умелое управление войсками, проявленные при оказании интернациональной помощи Демократической Республике Афганистан" Маршал Советского Союза Соколов удостоен звания Героя Советского Союза (медаль "Золотая Звезда" N 11438 с вручением второго ордена Ленина) С 22 декабря 1984 по 30 мая 1987 – Министр обороны СССР.
Потерял пост министра обороны после полёта Руста. Депутат Верховного Совета СССР 7-11 созывов. С июня 1987 по июль 1989 года – генеральный инспектор Группы генеральных инспекторов Министерства обороны СССР, впоследствии старший Группы (в должности оставался вплоть до её отмены в январе 1992 года). Некоторое время являлся советником Главнокомандующего Объединёнными Вооружёнными Силами СНГ, с сентября 1992 года – советник при Министерстве обороны Российской Федерации.
С начала 1990-х годов осуществлял координацию деятельности общественных организаций по делам ветеранов воинской службы, участвовал в работе комиссий по подготовке и проведению мероприятий в связи с памятными событиями военной истории Отечества: в 1994 году возглавил Фонд 50-летия Победы. 5 августа 2000 года Указом Президента РФ N 1441 утверждён в состав Российского организационного комитета "Победа" и избран заместителем председателя этой общественной организации. С 2002 года возглавляет клуб ветеранов-военачальников при Московском Доме ветеранов войн и Вооружённых Сил Картинки из прошлого Здание генерального штаба СА Кабинет начальника генерального штаба 18 июля 1972 года Воздух в здании генерального штаба был горячим и спертым, окон не открывали, чтобы не дышать гарью. Дежурный у знамени вытянулся, отдал генералу честь, Соколов кивнул и начал подниматься по лестнице к своему кабинету, здороваясь с попадавшимися навстречу офицерами. Многие офицеры из-за жары были без кителей, в одних рубашках, но Соколов замечаний не делал. В конце концов – действительно жарко, кондиционеров раз-два и обчелся, новое здание генштаба строить пока не начали, хотя в план на пятилетку включили. В конце концов, отсутствие кителя на мозгах не сказывается, а в Генштабе ценили именно думающих офицеров.
Но воспринимать Соколова как командира, снисходительного к промашкам и упущениям подчиненных было нельзя. Соколов был жестким, опытным и требовательным офицером, прошедшим, как говорится и Крым, и Рим, беспощадным к упущениям, влияющим на боеготовность. В армии до сих пор ходила легенда о его проверке в конце шестидесятых системы ПВО на севере. Прилетев с группой офицеров на КП дивизии ПВО он не стал выискивать недостатки в оформлении ленинской комнаты, как это делали одни, и пить водку с проверяемыми, как это делали другие. Несмотря на то, что светлого времени оставалось мало, а погодные условия были не из лучших, он потребовал вертолет и вылетел на позицию ЗРВ. Прибыв туда, он первым делом потребовал продемонстрировать проход команд и сигналов с КП командира дивизии на позиции дивизионов. Возвратясь на дивизионный КП, Соколов поднял одну эскадрилью ПВО по тревоге и приказал удалиться в глубь океана на 100 км, сделать разворот и обозначить нападение авиации противника на аэродром Анадырь. Вторая авиационная эскадрилья осталась на аэродроме, новой задачи не получала. С получением сигналов от РТС о целях была поднята и вторая авиационная эскадрилья. Она не успела произвести взлет, как была подвергнута удару. Выводы проверки и последовавшие за ними оргвыводы были серьезными…
Толкнув рукой свою дверь, генерал оказался в своей приемной. Его адъютант, подполковник Песков вскочил, отдавая честь.
Соколов мгновенно огляделся – пусто. Что еще раз доказывало, что вызов был неожиданным и о его присутствии в Москве не знает никто. Если бы эта информация разошлась по министерству, в приемной уже было бы не протолкнуться от ходоков и просителей из различных военных округов. Сейчас же в приемной никого не было.
– Кто? – спросил Соколов у своего адъютанта, поздоровавшись с ним за руку и кивнув на дверь его кабинета – Гречко… – тихо, словно чего-то опасаясь произнес адъютант Вот это номера… По уставу министр обороны как старший по званию и по должности должен был вызвать Соколова в свой кабинет, а не приезжать к нему. Если Гречко здесь – значит, произошло действительно что-то серьезное.