Обычно франкское войско, состоящее целиком из пеших воинов, для боя выстраивалось в плотные боевые порядки, своего рода фалангу, но без должного обеспечения флангов и тыла. Сражение старались выиграть одним ударом, общим порывом, стремительной атакой. Кстати, у франков, как и у арабов, была хорошо развита взаимовыручка, часто основанная на родственных связях. Теперь же у Карла Мартелла было новое войско, состоящее из пехоты и рыцарской конницы. Ею как раз он и прикрыл незащищенные фланги своей пехоты, являвшиеся излюбленной целью для атаки арабской конницы.
Все свое войско Карл поставил поперек старой римской дороги, уперев его фланги в реки Клен и Вьенн. В случае поражения эти водные преграды в тылу обрекали франков на полное уничтожение. Разместив таким способом армию, предводитель франков хотел дать своим воинам дополнительный стимул стремиться к победе. В битве при Павии войско франков выглядело следующим образом: в середине основа боевого порядка франков – пехота, построенная сплошной фалангой; перед ней были выставлены отряды лучников; на флангах застыли отряды тяжеловооруженной конницы. В одной из хроник VIII века этот эпизод был описан так: «Они [рыцари] стояли неподвижно, словно стена, плечо к плечу, словно глыба льда». Кстати, прикрыв фланги своей пехоты, Карл провоцировал арабов нанести мощный фронтальный удар.
Но предводитель арабского войска, видя перед собой грозную армию франков, не решился ее атаковать и занял выжидающую позицию. Карл со своей армией оставался на месте, так как не хотел терять выгодную, с его точки зрения, позицию. Шесть дней длилось это противостояние двух сильных армий. На седьмой день Абд эль-Рахман все же решился дать бой франкам. Скорее всего, импульсивные арабы просто вынудили своего командира отдать приказ о наступлении, так как они, победившие стольких противников, были непоколебимо уверены, что «Аллах наполнит ужасом сердца всех христиан и они станут просить пощады». И так Абд эль-Рахман, построив свою конницу в четыре линии, бросил ее на франкскую фалангу (чего и хотел добиться Карл). Франки стойко отражали все атаки неприятельской конницы. Бой длился несколько часов (по другим данным, до ночи), но арабам так и не удалось сломить строй франков. Потери арабов возрастали с каждым часом. Многие арабские воины, не выдержав натиска франков, обратились в бегство. Все попытки остановить поток отступающих ни к чему не привели.
Видя, что другого выхода нет, Абд эль-Рахман собрал вокруг себя оставшихся воинов и сам лично повел их в атаку. Но и эта атака была отбита, а сам предводитель арабского войска Абд эль-Рахман был убит. Смерть полководца окончательно подорвала боевой дух арабов. Именно в этот момент отряд рыцарской конницы франков под командованием графа Эда Аквитанского, до этого охранявший правый фланг фаланги франков, контратаковал. Некоторые исследователи считают, что конница франков прорвала линии арабского войска и захватила их лагерь, у других есть мнение, что конница франков лишь обошла левый фланг противника с целью подойти к его лагерю, заставив арабов броситься на защиту своего обоза с награбленными сокровищами (к тому времени арабы успели обчистить множество часовен и частных замков).
Ночью остатки арабского войска отошли в свой лагерь (либо они выбили оттуда франков, либо просто не пустили их туда в ходе сражения). Там они узнали о гибели своего полководца. Оставшись без предводителя, арабы принимают решение, не дожидаясь утра, под покровом ночи уходить на юг. Отход арабского войска прикрывали отряды конных воинов. Утром Карл Мартелл опять построил свое войско для сражения. Но врага не было видно. Тогда Карл выслал отряд рыцарской конницы в разведку. Разведка франков, проявляя повышенные меры предосторожности, опасаясь вероломства со стороны арабов, осторожно продвигалась вперед, пока не обнаружила бегство врага. Узнав об этом, Карл принимает решение не преследовать отступающего противника. Зная излюбленные приемы, которыми пользовались арабы во время военных действий, он опасался западни с их стороны. Арабы запросто могли заманить его тяжеловооруженную и малоподвижную конницу в ловушку, отрезать ее от пехоты и разгромить, а рисковать потерять свою новую конницу, стоившую ему стольких усилий, Карл не хотел. Кроме того, он не хотел, преследуя неприятеля, лишиться возможности подробно разобраться с трофеями, поскольку разведка донесла, что арабы бросили большую часть награбленного.