В годы Великой Отечественной войны полководческие и организаторские способности Бориса Михайловича проявились с наибольшей полнотой.
Навязанная германским фашизмом война Советскому Союзу потребовала от советского правительства и Верховного Командования мобилизации всех сил страны, перестройки на военный лад всего военного аппарата. Большой вклад в перестройку оперативного руководства внес Б.М. Шапошников, который решением Государственного Комитета Обороны в июле 1941 года вновь был назначен начальником Генерального штаба. Это решение широкими кругами командного состава действующей армии и особенно работниками Генерального штаба было встречено с большим удовлетворением.
В жизни Бориса Михайловича наступил наиболее ответственный и напряженный период, достойно увенчавший многолетний путь и самоотверженный труд Б.М. Шапошникова. Его глубокая вера в нашу победу и непреклонная воля к ее достижению вдохновляли и сплачивали Генеральный штаб в единый, крепкий и слаженный коллектив. В работе Генерального штаба был установлен четкий ритм, была налажена оперативная связь Ставки с войсками, обеспечена планомерная работа коллективов управлений Генштаба. Постоянно опираясь на коллектив Генштаба, и прежде всего на его партийную организацию, Борис Михайлович непрерывно совершенствовал методы и стиль работы большого и сложного центрального органа управления войсками, приводя ее в соответствие с требованиями войны.
Б.М. Шапошников постоянно держал Верховное Главное Командование в курсе событий на фронтах Великой Отечественной войны. Ежедневно он по два раза докладывал Верховному Главнокомандованию о положении дел на фронтах. Постепенно сложился такой порядок: без предварительного доклада соображений начальника Генерального штаба Ставка Верховного Главнокомандующего не принимала ответственных решений по ведению операций.
Особое внимание в это время он уделял организации управления войсками, перестройке работы штабов. Генеральный штаб под его руководством тщательно разрабатывал планы операций, передислокаций войск, организационных и штатных изменений, которые диктовались новой, военной обстановкой. Большое значение для улучшения военно-стратегического руководства имело новое положение о работе фронтовых управлений и управлений Генерального штаба. Оно было разработано по указанию Б.М. Шапошникова и введено в действие 10 августа 1941 года. В соответствии с этим положением специальной директивой было определено, что командования фронтов обязаны представлять Генштабу боевые донесения и оперативные сводки не позднее 2 часов ночи, а срочные донесения исключительно важного характера — передавать лично дежурному заместителю начальника Генерального штаба. Это и ряд других мероприятий способствовали повышению организованности в работе штабов, обеспечению более устойчивого управления войсками. Реорганизация полевых управлений и переформирование штабов фронтов и армий, обеспечение более четкой их работы позволили завершить перестройку органов управления с учетом требований войны.
Используя свой многолетний опыт генштабиста, Борис Михайлович настойчиво, последовательно, шаг за шагом, совершенствовал стиль и методы аппарата военно-стратегического и оперативного руководства. Он понимал, что сложный комплекс подразделений, составляющих Генеральный штаб, может успешно действовать лишь при условии, если его руководство будет проявлять гибкость в решении назревших вопросов перестройки и переформирований в войсках, если эти вопросы будут решаться на научной основе, на твердом фундаменте передового опыта, накопленного в ходе войны. Борис Михайлович, не допуская поспешности в работе, вдумчиво подходил к подбору работников Генштаба. Первостепенное значение он придавал работе ведущих управлений и отделов Генерального штаба, особенно тщательно подбирал в них кадры. Контроль, который осуществляло Политбюро ЦК ВКП(б) за работой Генштаба, за подбором его кадров, благотворно сказывался на деятельности Бориса Михайловича.