В 14.00 колоны сблизились на пушечный выстрел, и бой начался. Шквальный огонь с обеих сторон велся очень жестко, корабли, даже получившие повреждения, из линии не выходили, исправляя повреждения прямо под огнем. Следует признать, что Рабен совершил большую ошибку, выровняв свою линию на расстоянии в 300 метров от шведской и прекратив сближение. Это, в свою очередь, может говорить о том, что шведы стреляли довольно хорошо и датчане просто побоялись больших повреждений своих судов при дальнейшем сближении.
Около 20.00 Шпарре смог выбраться на ветре, и флоты разделились. Многие шведские корабли в бою очень пострадали — 50-пушечные «Озель» и «Готланд» получили около 20 подводных пробоин каждый и взяли курс на Карлскону. Флагман Шпарре, а также 90-пушечный «Энигжет» и 50-пушечный «Поммерн» также получили несколько ядер в район ватерлинии и были не в состоянии возобновить бой. Кроме того, при отходе «Принс Карл Фредерик» и «Вестманланд» столкнулись и получили повреждения.
Датчане получили гораздо меньшие повреждения, на их кораблях насчитывалось 127 убитых, включая вице-адмирала Юля, и 466 раненых. У шведов потери составили 165 матросов убитыми и 360 — ранеными, в том числе адмиралы Лиллье и Хенк. Примерно равное соотношение убитых и раненых при гораздо более тяжелых повреждениях шведов говорит о том, что датские корабли вели огонь по корпусам противника, тогда как шведы — по корпусам и такелажу датчан.
Датский флот в сражении у Рюгена имел следующие силы:
Наименование/Пушки
Wenden/72
Beskjermer/64
Prins Carl/54
Nordstjem/70
Dronning Louisa (в.-а. Тройел)/70
Laaland/50
Nelleblad/52
Svan/60
Island/50
Prinds Christian/76
Elephant (Рабен)/90
Haffru/70
Fyen/52
Anna Sophie/60
Delmenhorst/50
Oldenborg/50
Justitia (в. — а Юль)/90
Sophie Hedvig/76
Prins Wilhelm/54
Julland/70
Ebenetzer/64
Всего 21 корабль, 1344 орудия.
На следующее утро датчане были примерно в 10 милях на ветре от Шпарре, который держал курс на остров Борнхольм для соединения с конвоем, шедшим с припасами из Карлсконы в Штральзунд. Габен не стал преследовать противника, бросив якорь у Палмер Орта.
Ушедший в крейсерство датский приз «Гвиде Орн» в ночь с 8 на 9 августа натолкнулся на «Озель» и «Готланд», возвращавшиеся в Карлскону. Вессель пошел в атаку и, сблизившись с «Озелем», развернулся бортом и дал три залпа лагом по корме противника. Шведский корабль получил существенные повреждения, был потерян руль, но ситуацию спасли три шведских линкора, появившиеся на горизонте.
Вессель был вынужден отойти. 10 августа «Гвиде Орн» обнаружил шведский конвой (10 торговых судов), шедший под эскортом 34-пушечного «Феникса» (Phoenix) и 20-пушечного «Кроншкипа» (Kronskeep). Зайдя сзади, Вессель, пользуясь спустившимся туманом, смог взять на абордаж одного «купца».
Этим и закончились активные действия больших кораблей. Шпарре намеревался сопроводить конвой до Рюгена, но из-за тумана на несколько дней задержался у Борнхольма и счел за лучшее уйти в Карлскону. Рабен же отвел корабли в Кьегге Орт.
Сехестед же поставил свои корабли у северо-восточной оконечности Узедома, которая вместе со смежной частью материка была в руках союзников пруссаков. В свою очередь, около Нью-Дьеппа между Рюгеном и Рюденом расположились 8 шведских кораблей, в то время как 7 фрегатов под командованием капитана Унбехавена из гавани Штеттина угрожали датчанам с фланга.
Сехестед решил атаковать Унбенхавена и послал малые корабли из Свинемюнде к Штеттину. Шведы приняли вызов, после шестичасового боя они смогли отбиться, однако прибытие датских подкреплений заставило их уйти в глубину гавани. Унбенхавен решил прорываться к Рюгену, однако для этого надо было пройти между Узедомом и материком, где были расположены прусские батареи и корабли Сехестеда. Все же шведы пошли на прорыв, сухопутная артиллерия открыла по ним жаркий огонь, вскоре датчане подключились к стрельбе, Унбенхавен шел, как сквозь строй, получая довольно болезненные залпы со всех сторон. На флагмане, шедшем головным, было потеряно довольно много людей, однако шведы смогли прорваться и соединиться со своими кораблями у Ныо-Дьеппа.
В свою очередь, Сехестед получил дополнительные подкрепления — 46-пушечный большой прам «Хьялпер» (Hjalper), а также три 7-пушечные галеры для перевозки войск — «Приндс Кристиан», «Луиза» и «Шарлотта Амалия» (Prinds Christian, Louisa и Charlotte Amalia).
17 сентября датчане покинули свои позиции и пошли на сближение со шведами. У тех насчитывалось 13 фрегатов, восемь из которых имели 30 орудий. Согласно диспозиции, подписанной самим Карлом XII, эти большие фрегаты выстроились в линию поперек пролива между Штральзундом и островом Рюген, остальные же встали за ними второй линией.