На севере войска 4-го Украинского фронта начали операцию 8 апреля. Гитлеровцы упорно сопротивлялись, но оборона их был прорвана, и 11 апреля наши части вступили в Джанкой. Приморская армия начала боевые действия в 22 часа 10 апреля, и к утру ее части освободили Керчь. Противник поспешно отходил на запад. 13 апреля враг был выбит из Евпатории, Симферополя и Феодосии, 14 апреля — из Бахчисарая и Судака, 15 апреля подвижные части 4-го Украинского фронта достигли внешнего оборонительного обвода Севастополя. В то же время войска Приморской армии освобождали одну за другой здравницы Южного берега Крыма. В ночь на 16 апреля они очистили от врага Ялту и подошли с востока к Севастополю…
Прекрасен весенний Крым! В эти дни на его солнечных дорогах Ворошилов вспоминал ноябрь 1920 года, когда он с бойцами 1-й Конной так же рвался к Севастополю, к морю, чтобы сбросить в него врага. Красоты Крыма, этого райского уголка нашей страны, неудержимо влекли гитлеровцев: они считали, что здесь до XVI века проживали предки «нации господ» — готы. Гитлер собирался выселить из Крыма советских людей и создать здесь немецкие колонии, Гиммлер уже приступил было к их организации… Теперь же, спешно покидая крымскую землю, захватчики уничтожали все, что успевали…
15 апреля Ворошилов, сопровождаемый заместителем командующего Отдельной Приморской армией генерал-лейтенантом К. С. Мельником, встретился в Сарабузе Болгарском с Василевским. Обсуждая проблемы взаимодействия войск во время предстоящего штурма Севастополя, маршалы пришли к мнению о целесообразности подчинения Приморской армии командованию 4-го Украинского фронта. Такого же мнения придерживался и Верховный Главнокомандующий. В ночь на 16 апреля был получен соответствующий приказ Ставки.
Утром 16 апреля в штабе 51-й армии в деревеньке Чистенькая, что в 8—10 километрах юго-западнее Симферополя, маршалы еще раз обсудили план штурма Севастополя. Гитлер требовал от своих войск защищать «последнюю крепость готов» до последней возможности. Штурм обещал быть сложным, на подступах к Севастополю враг уже оказывал исключительно упорное сопротивление, и Ворошилов едет в войска Приморской армии. Но Ставка отзывает его в Москву, 19 апреля он покидает Крым.
Весной 1944 года положение нашей страны существенно изменилось. Теперь следовало думать не только об окончательном очищении нашей земли от вражеских войск, но и о перенесении военных действий на территорию соседних стран. Можно было предвидеть, что великая освободительная миссия Советских Вооруженных Сил в странах Центральной и Юго-Восточной Европы потребует усиления партийно-политической, идеологической и морально-психологической работы в войсках. Политбюро ЦК созвало специальное совещание первых членов Военных советов фронтов. На совещании, открывшемся 5 мая 1944 года, с большой речью выступил Сталин.
Он охарактеризовал военную обстановку, подчеркнул неизбежность перенесения военных действий на территорию Германии, ее союзников и оккупированных ими стран. Сталин потребовал, чтобы политработники армии объективно и всесторонне информировали ЦК о положении в этих странах, о том, как население встречает Красную Армию. У бойцов и командиров, говорил Верховный, надо воспитывать не только желание победить, но и непреклонную веру в правоту дела, за которое они сражаются, идеологическую стойкость. Доклад Сталина оживлейно обсуждался. На этом совещании выступал и Ворошилов.
В последующие недели и месяцы он исполняет многообразные и многотрудные обязанности члена ГКО. В начале июля Ворошилов участвует в совещании Политбюро ЦК и Ставки, на котором был рассмотрен план боевых действий на заключительном этапе войны. Одновременно маршал продолжает и свое дипломатическое поприще.
После того как в июне — июле 1944 года советские войска нанесли поражение финской армии на Карельском перешейке и в Южной Карелии, правительство Финляндии решило наконец выйти из войны. Еще 29 июня 1944 года Ворошилов был назначен председателем Комиссии по перемирию с Финляндией, Венгрией и Румынией при Наркомате иностранных дел СССР. После длительных Колебаний финское правительство 25 августа обратилось с просьбой начать переговоры о перемирии. Ворошилов участвовал в состоявшихся 14–19 сентября в Москве переговорах. Они завершились подписанием соглашения о перемирии.
К тому времени Красная Армия очистила нашу землю от гитлеровских захватчиков, и боевые действия развернулись на территории Польши, Румынии, Венгрии. Задачи Красной Армии, несшей освобождение народам Европы от нацистского ига, были определены в специальных постановлениях ГКО, и Ворошилов участвовал в их разработке.