Июльские дни пролетели незаметно. 3 августа, как только Верховный Главнокомандующий возвратился из Потсдама в Москву, А. М. Василевский подробно доложил ему о ходе подготовки к наступлению. Встал вопрос о сроках начала войны. Александр Михайлович высказался за то, чтобы переход границы не откладывался далее 9—10 августа. Нужно было использовать благоприятную погоду, чтобы на полную мощь ввести в бой авиацию и танки. Оттяжка была не в наших интересах.
А. М. Василевский находился в большом напряжении. Весь груз ответственности за успех разгрома Квантунской армии лежал на нем.
7 августа поступила директива Ставки о начале военных действий. Советское правительство заявило правительству Японии, что с 9 августа Советский Союз считает себя в состоянии войны с Японией.
После того как в частях и дивизиях был получен приказ о наступлении, прошли митинги личного состава. Воины поклялись с честью выполнить свой долг перед Родиной.
Главком обратился к войскам. Он говорил о том, что Советская Армия, армия нашего великого народа, идет на помощь союзному Китаю и дружественному китайскому народу. Она и здесь, на Востоке, поднимает свои боевые знамена как армия-освободительница.
9 августа в 00 часов 10 минут по местному времени передовые отряды Забайкальского фронта открыли боевые действия. Началась война. Враг упорно сопротивлялся. Однако на всех направлениях наши части, ломая преграды на своем пути, успешно продвигались вперед. К исходу 14 августа войска Забайкальского фронта прошли от 250 до 400 километров и оказались в центральных районах Маньчжурии. Воины 1-го Дальневосточного фронта, взломав сильно укрепленную оборону японской армии, продвинулись в глубь Маньчжурии на 120—150 километров и завязали бои за город Муданьцзян. Больших успехов добились и войска 2-го Дальневосточного фронта. К исходу шестых суток военных действий Квантунская армия была расчленена и оказалась перед перспективой полного разгрома.
В первые дни А. М. Василевский находился в зоне штаба 1-го Дальневосточного фронта, оперативно решая вопросы ведения вооруженной борьбы. Все внимание его было сосредоточено на том, чтобы держать нити руководства действиями войск. По мере нарастания боевых успехов на первое место выдвинулись вопросы военно-политического характера.
Японское правительство, видя поражение Квантунской армии, 14 августа делает заявление о капитуляции. Но соответствующих приказов войскам в Маньчжурии не было отдано. Наши дивизии продолжали продвижение.
Через три дня главком обратился по радио к командующему Квантунской армией и категорически потребовал, чтобы тот отдал японским гарнизонам приказ сложить оружие. В тот же день японское командование поставило в известность главкома Василевского, что такой приказ отдан. Но и после этого отдельные гарнизоны японских войск продолжали сопротивляться.
А. М. Василевский все еще на командном пункте 1-го Дальневосточного фронта. Семь транспортных самолетов со 120 десантниками на борту поднялись в воздух и после двух часов полета высадились под прикрытием истребителей на аэродроме Харбина.
Десантники заняли круговую оборону. Для переговоров к ним прибыл начальник штаба Квантунской армии генерал-лейтенант X. Хата. Ему объявили условия капитуляции и предложили 19 августа явиться к главкому советских войск на командный пункт 1-го Дальневосточного фронта.
Переговоры состоялись в лесном домике неподалеку от советско-маньчжурской границы и продолжались несколько часов. X. Хата и сопровождающие его лица, как вспоминал А. М. Василевский, выглядели уныло. От «самурайской» самоуверенности не осталось и следа. Японцы приняли условия капитуляции. Уточнены были места разоружения и сдачи в плен каждой армии и дивизии, установлен порядок передачи складов с оружием и стратегическим сырьем.
Переговоры не принесли мира. Военные действия продолжались. С большим ожесточением сопротивлялся противник на Курильских островах. После переговоров с генералом Хата А. М. Василевский прибыл в Хабаровск, куда к тому времени переместился штаб главкома. Его усилия были направлены на завершение приема капитуляции противника. В штаб шел поток донесений. В них сообщалось о боевых успехах советских войск, о ходе сдачи в плен японских войск, о том, что местное население встречает советских воинов приветливо.