Летом 710 небольшой арабский отряд в качестве разведки совершил удачный набег на вестготские земли. Весной 711 года Муса направил в Испанию уже значительно большие силы под командованием берберского военачальника Тарика ибн Зияда. Он высадился у подножия скалы, названой Джебалу-ль-фатах (гора вторжения), но которая позже приняла его имя и стала называться Джебаль Тарик (гора Тарика). Он сразу же начал наступление вглубь страны. Король вестготов Родерик, в то время подавлявший очередное восстание басков, незамедлительно направился на юг, по пути собирая все возможные войска.
Банкнота номиналом 5 фунтов стерлингов, выпущенная правительством Гибралтара в 1995 году
Решающее сражение произошло у реки Гуадалете близ города Херес-де-ла-Фронтера в июле 711 года. Как всегда, у летописцев того времени, численность воинов у каждой из противоборствующих сторон приводится самая различная, но все они согласны в том, что армия, собранная Родериком была значительно больше. Тем не менее Тарику удалось нанести вестготам сокрушительное поражение, король погиб или бесследно исчез, остатки армии в панике отступили, открыв арабам дорогу вглубь страны. «Когда люди на противоположной стороне пролива услышали об успехе Тарика, и об обильной добыче, захваченной им, они стали стекаться к нему отовсюду, пересекая море на каждом корабле или лодке, каких только могли. Так армия Тарика была серьезно усилена, христиане были вынуждены запереться в своих замках и крепостях, и, покинув равнинную страну, ушли в горы.» Тарик двинулся через долину Гвадалквивира в сторону Кордовы, которая была занята почти с ходу. Затем Тарик направился к Толедо, столице королевства. Услышав о его продвижении, все сановники, в том числе архиепископ Толедо, самая важная фигура в вестготской церкви, бежали, и Толедо был взят, скорее всего, без боя.
В июне 712 года Муса сам выступил в поход на Испанию, опасаясь чрезмерного усиления и самостоятельности добившегося больших успехов Тарика ибн Зияда.
Он следует по маршруту Медина Сидония — Севилья — Мерида. Однако не надо думать, что весь процесс завоевания прошел без сопротивления захватчикам. Так Севилья в течение трех месяцев отбивала атаки мусульман, Мериду захватили с помощью хитрости после пяти месяцев осады, а в некоторых захваченных городах, вспыхивали восстания, которые приходилось подавлять. И пока Муса продолжал покорять города на севере страны, часть войск во главе со своим сыном Абд аль-Азизом ему пришлось отправить для умиротворения южной Испании, где сопротивление мусульманам возглавил герцог Мурсии Теодемир, которому даже удалось получить полунезависимый статус своих владений, утвержденный позднее самим халифом.
После взятия ряда городов Муса направился в Толедо, где встретился с Тариком ибн Зиядом. Как всегда такая встреча между начальником и слишком удачливым подчиненным заканчивается раздором из-за выяснения роли каждого из них в новой ситуации, а то и просто из-за разногласий в дележе военной добычи. Но все же дальнейшие походы были успешно продолжены.
К этому времени халиф аль-Валид I уже неоднократно требовал, чтобы Муса ибн Нусайр лично прибыл к нему в Дамаск и доложил о ходе завоевания Испании. Но Муса ослушался приказов халифа, зная, что, если он не продолжит свое наступление, сопротивление вестготов может усилиться и военная ситуация изменится. Поэтому он и продолжил поход с Тариком на север, остановившись, лишь дойдя до Бискайского залива. Исламское завоевание Иберии было завершено. В сентябре 714 года Муса ибн Нусайр и Тарик ибн Зияд, захватив казну вестготских королей, наконец, отплыли в Ифрикию, а затем в Дамаск. Наместником в Испании Муса оставил своего сына Абд аль-Азиза. Когда Муса уже приближался к Дамаску, халиф аль-Валид опасно занемог. Брат аль-Валида Сулайман, который должен был наследовать его престол, послал гонца к Мусе, повелев ему задержаться до того времени, пока халиф аль-Валид умрет, чтобы торжественное шествие с трофеями вступило в Дамаск уже тогда, когда править будет Сулайман. Но Муса ослушался и прибыл в Дамаск за два дня до смерти аль-Валида. Новый халиф затаил обиду и приказал Мусе оставаться в Дамаске, конфисковал всё привезённое имущество, а затем заточил его, подвергнув опале. В целом история взаимоотношений между Мусой и халифом является наглядным примером того, что важно не просто добиться каких-либо успехов, но достигнуть их в чётком соответствии с распоряжениями начальства. Впрочем, знающие люди найдут подобные примеры в нашей совсем недавней истории. Неясно только, почему эта опала распространилась и на Тарика ибн Зияда. Этот талантливый полководец уже не вернулся в аль-Андалус, и дальнейшая судьба его неизвестна. Приходится предположить, что все это связано с волшебным столом Сулеймана, сына Дауда (да будет мир с ними обоими!), на обнаружение которого в Толедо претендовали оба полководца. Общеизвестно, что этот предмет был подарен царю Соломону джиннами, и, наверное, даже его копия приносит только несчастье новым владельцам.