За авангардом следовали остальные суда эскадры. Для шведов атака оказалась неожиданной, тем не менее эскадру Балле они встретили организованным и достаточно мощным огнем. По всей линии почти сразу же завязалось ожесточенное сражение. Шведский вице-адмирал Эренсверд вводил в сражение все новые и новые силы. Через два часа на русских судах все мачты и реи были сбиты, в бортах зияли пробоины, на исходе были боеприпасы. В шканечном журнале шебеки «Летучая» записано: «…неприятельский ядра перебили на шебеке нашей почти все бегучие снасти, перебили штаги, ванты, побили и переранили многих людей, ядра неприятельские летели сквозь оба борта». Получил серьезное ранение командир шебеки лейтенант Егор Рябинин, вскоре погиб командир фрегата «Симеон» капитан-лейтенант Григорий Грин, получили ранения капитан 1 ранга Винтер, командир шебеки «Быстрая» лейтенант Сарандинаки, командир бомбардирского корабля «Перун» капитан-лейтенат Сенявин. Вместо Сарандинаки в командование шебекой вступил прапорщик морского батальона Николай Ковако. За отличие его произвели в лейтенанты. Одно за другим выходили из строя орудия. Но не меньше досталось и шведам: их две канонерские лодки пошли ко дну.
О начале Роченсальмского сражения вице-адмирал Нассау-Зиген докладывал в Адмиралтейств-коллегию следующее: «В 3/4 10 часа я сделал сигнал для исполнения назначеннаго ордера марша атаки и сражения. Генерал-майор Балл ей повел атаку в 10 часов, я принужден был приказать буксировать трехмачтовыя суда, ибо ветер был оным противный, сие заставило меня заметить с безпокойством, что атака началась так скоро, и понудило двинуть вперед ранее, нежели бы я сделал. Левый фланг состоял из восьми галер кордебаталии, семи арьергардии, трех катеров, имеющих впереди гаубицы трехпудового калибра, и 20 канонирских лодок. Я приказал высадить бригадиру Буксгевдену 400 человек на острове Мусала с тремя единорогами 24-фунтоваго калибра, которые он поставил так, чтобы устремить огонь на эскадру неприятельскую; десять мортир, кои приказал поставить на плоты, были так же поставлены на мысу у острова Мусало. Катера, имеющие гаубицы, начали первыя производить огонь, за оными галеры; чем более оныя начали выходить из-за мыса острова, под прикрытием котораго находились, тем более чувствовал я, что сие скоропостижное действие будет великаго урона, но необходимо нужно отвратить неприятельский огонь, который весь устремлен был на эскадру Баллея. Трехмачтовыя суда подвигались весьма медленно, хотя и посланы были от меня для буксирования оных канонирския лодки; видя, что правый фланг не подвигался по причине той, что скоро разсмотрел сделанный мною сигнал идти в сражение, я послал туда генерал-майора Турчанинова понудить, чтобы скорее шли, с левой стороны огонь весьма усилился. Шесть канонирских лодок авангардии, которыя были по правой стороне, открыли свой огонь, двенадцать лодок кордебаталии пошли в первых между островами и противу многих проходов. Огонь на оном месте был силен, наконец, показались семь галер авангардии. Зажигательное ядро, брошенное неприятелем, взорвало галеру „Цивильск“, попав в крюйт-камеру, духом оной взорвало так же флагманскую галеру „Хитрую“ находящуюся подле ея».
Когда положение эскадры Балле стало действительно угрожающим, Нассау-Зиген решил наконец вступить в сражение. Однако передовой отряд графа Юлия Литта, подойдя к Королевским воротам, натолкнулся на затопленные транспорты. Русские суда рассыпались между многочисленными островками в поисках проходов на Роченсальмский рейд, но безуспешно. Тогда Литта принял, казалось бы, безумное решение — он приступил к расчистке прохода. Осыпаемые градом снарядов и картечи, солдаты и матросы с помощью топоров, ломов и гандшпугов расчищали путь галерам. Офицеры, матросы и гвардейские солдаты, стоя по пояс в воде более четырех часов, делали свое дело. Между тем отряд Балле вел сражение на последнем издыхании. Шведы наседали все более и более. Этот эпизод в шканечном журнале шебеки «Летучая» отражен так: «…в начале 1-го часа перебило и переранило у нас людей более прежняго, мачты все перебило, снасти все вообще перервало, реи повредило, паруса по реям изорвало и правый борт во многих местах изранило, а особливо по ватерлинии, три пушки приведены были отбитием осей и колес в несостояние к действию. В начале 2-го часа неприятельская пальба продолжалась с таковым же жаром, повреждала нимало во всех местах нашу шебеку, осыпая нас всюду ядрами, еще три пушки сделались недействительными; но однакож продолжали мы пальбу из четырех оставшихся пушек с неменьшим прежняго жаром».