С 21.00 войска начали сниматься с линии фронта и двигаться по указанным им маршрутам к местам погрузки. Дымовые завесы в гаванях надежно прикрывали причальную линию, поэтому посадка происходила без помех. 28–29 августа с 22.00 до 4.00 на суда было принято выше 20 тысяч бойцов и гражданского населения, а также около 15 тысяч тонн различных грузов.
В сумерках 27 августа на боевые корабли перешли члены правительства, Президиума Верховного Совета и Центрального Комитета Коммунистической партии Эстонии.
Командиры штаба, политического управления и учреждений флота погрузились на штабной корабль «Вирония». В 4.00 28 августа берег покинул Военный совет флота. На крейсере «Киров» был поднят флаг командующего Краснознаменным Балтийским флотом. В 7.00 на лидер «Минск» перешел начальник штаба флота контр-адмирал Ю. А. Пантелеев, назначенный командиром отряда прикрытия, и последним в 8.00 оставил таллинскую землю начальник тыла флота генерал-майор М. И. Москаленко.
Намеченные планом выходы конвоев вечером 27 августа не состоялись, так как мелкие корабли и катерные тральщики не могли из-за штормовой погоды выйти в море. Это привело к тому, что вражеские минные поля флоту пришлось преодолевать не днем, а ночью. Конвой № 1 начал выход только к полудню 28 августа. Он состоял из 27 крупных транспортов, боевых кораблей охранения и тихоходных тральщиков. Командовал конвоем капитан 2-го ранга Н. Г. Богданов.
В 14.00 вышел конвой № 4, состоявший из 20 вспомогательных кораблей с охранением под командованием капитана 3-го ранга С. А. Глуховцева.
В 15.00 стали сниматься с якорей корабли и суда конвоя № 2, которым командовал капитан 2-го ранга Н. В. Антонов. В состав этого конвоя входили транспорты и корабли охранения, всего 22 вымпела. Через 20 минут двинулся и последний — конвой № 3 — под командованием капитана 2-го ранга А. Ф. Янсона в составе 24 больших транспортов с охранением. Выход конвоев из Таллина вскоре был обнаружен разведывательной авиацией противника. Вслед за самолетами-разведчиками над конвоями появились группы бомбардировщиков, по 3–4 самолета в каждой. Налеты авиации продолжались в течение всего перехода. Благодаря близости аэродромов по обоим берегам Финского залива самолеты люфтваффе, сбросив бомбы на транспорты, успевали за короткий срок перезарядиться и вновь лететь на бомбардировку кораблей и судов. В 16.00 снялся с якоря отряд главных сил, который состоял из 25 кораблей различных классов, сопровождаемый спасательными и ледокольными судами. Построившись в походный ордер, корабли нагоняли конвои, прикрывая их зенитным огнем. Отряд главных сил должен был занять место в голове конвоев и прикрыть их огнем артиллерии в районе мыса Юминда — острова Гогланд. Через час вслед за пятью базовыми тральщиками вышел в море отряд прикрытия в составе 20 кораблей. Отряд должен был прикрыть транспорты в районе островов Кэри, Вайндло и идти за главными силами на дистанции 35 кабельтовых. После того как отряд прошел траверс острова Аэгна, находившиеся на острове 12-дюймовые батареи были подорваны, чтобы они не достались врагу. Вечером при очередном налете авиации противника прямым попаданием бомбы был потоплен ледокол «Волдемарс», команду которого подобрали катера охранения. В это же время открыла огонь с мыса Юминда береговая 10-дюймовая немецкая батарея. Корабли охранения поставили дымовые завесы. Крейсер «Киров» огнем главного калибра заставил германскую батарею замолчать. В 21.00 последними покинули Таллинскую бухту корабли арьергарда под командованием контр-адмирала Ю. Ф. Ралля, которые до этого производили последние минные постановки в бухте Копли-Лахт, в Суропском проливе, при входе на Таллинский рейд и в Купеческой гавани. В воротах гавани были затоплены старый минный заградитель «Амур» и 3 шхуны. Всего было выставлено более 100 различных мин, на которых после отхода советских частей из Таллина подорвалось несколько немецких кораблей. Налеты бомбардировщиков люфтваффе отражались огнем корабельной артиллерии, и бомбы вначале падали в стороне от конвоев. С наступлением сумерек от прямого попадания бомб погиб штабной корабль «Вирония». 6 немецких торпедных катеров, выйдя из финских шхер, атаковали лидер «Минск». Огнем орудий «Минска» и эскадренного миноносца «Скорый» 4 катера были уничтожены, а 2 скрылись. На меридиане мыса Юминда в тралах конвоя № 1 стали взрываться мины. Тралы приходилось менять, что задерживало общее движение конвоев. Корабли и суда шли без огней, им было трудно удерживаться в строю, и они выходили из протраленной полосы.