Больших успехов в 8—9 вв. достигла арабская проза, почву для которой подготовили записи фольклора, изучение Корана, переводы научно-художественной литературы с сирийского, среднеперсидского и греческих языков. Зарождавшаяся в то время историческая литература включала предания, легенды и описания отдельных событий, а географические произведения содержали рассказы купцов и путешественников о далёких странах. Художественная проза обогащалась также эпистолярными и речевыми стилями: в деловой переписке, ораторском искусстве и проповедях некоторые авторы достигали большой выразительности и мастерства. Смесь рассказов на разнообразные сюжеты и пёстрого познавательного и дидактического материала представляют многочисленные сочинения великих арабских прозаиков алъ-Джахиза (767—868) и Ибн Кутайбы (828 — около 889), который в «Источниках известий» (10 книг) систематизировал большой литературный материал по тематическому принципу: о власти, о войне, о дружбе и т.п. Это сочинение стало предметом подражаний. В 9 в. появился арабский перевод персидского сборника «Тысяча сказок» («Хезар афсане») — прототипа сборника «Тысяча и одна ночь».
Распад Халифата способствовал децентрализации литературы. Важнейшим из местных литературных центров 10 в. стал г. Халеб (Алеппо). Здесь, при дворе Хамданида Сайф ад-Даула, жил поэт-панегирист алъ-Мутанабби (915—965). Его хвалебные и сатирические касыды насыщены стилистическими украшениями, изысканными метафорами, гиперболами и сравнениями; в отделке стиха он достигал изощрённого мастерства. В 11 в. в Сирии жил поэт и мыслитель Абу-ль-Ала алъ-Маарри (973—1057). Начав с подражания Мутанабби, он ещё более усовершенствовал технику стиха, введя усложнённые двойные рифмы. Видными прозаиками 10 в. были Абу Хайян ат-Таухиди (умер 1009) и ат-Танухи (940—994). Рифмованная проза получила распространение в светской литературе. Абу Бакр аль-Хорезми (умер 993) написал в этой форме остроумные «Послания» («Расаиль»), а Бади аз-Заман аль-Хамадани (умер 1007) создал оригинальный жанр — макаму, которую считают высшим достижением арабской прозы. Макамы Хамадани составили цикл из 50 плутовских новелл, или рассказов о приключениях и перевоплощениях изворотливого бродяги. Макамы проникли в литературу из городского фольклора. Однако если у Хамадани арабская проза сохранила живость и непосредственность, то у многочисленных его подражателей (в том числе у аль-Харири, 1054—1122) она выродилась в стилизацию.
Особняком стояла арабская литература в Андалусии (арабская Испания), тесно связанной с Магрибом. В 8—10 вв. Андалусия в культурном отношении оставалась провинцией Халифата, нормой для её поэзии являлись образцы, сложившиеся на востоке Халифата. Андалусскую поэзию представляли: утончённый лирик и автор эпические поэмы о завоевании Испании арабами аль-Газаль (770—864); составитель популярной антологии «Единственное ожерелье» и автор анакреонтических стихов Ибн Абд Раббихи (860—940); сочинитель около 60 касыд Ибн Хани (умер 972) и др. Однако постепенно в андалусской лирической поэзии не только появился местный колорит, но и возникли строфические формы мувашшах (опоясанный) и заджал (мелодия), до тех пор чуждые арабской поэзии. Они родились в простонародной среде в результате взаимодействия культуры арабов, берберов и местного романского населения. Мувашшах, впервые упоминаемый в конце 10 в., проникнув в литературу, распространился и на восток Халифата, а к 13 в. принял застывшие формы, превратившись в предмет формалистических упражнений. Заджал избежал стилизации и остался излюбленным народным жанром в мусульманской и христианской Испании, попал в другие арабские страны и, по-видимому, оказал влияние на развитие ранней провансальской поэзии. Сохранился диван крупнейшего представителя этого жанра Ибн Кузмана (около 1080—1160). Расцвет андалусской поэзии на литературном арабском языке приходится на 11 в., когда Кордовский халифат распался на несколько эмиратов. В каждом из них возникли придворные литературные кружки. Всюду преобладала панегирическая, эротическая и вакхическая поэзия. Крупным центром стала Севилья с её поэтами-меценатами аль-Мутадидом (1012—1069) и аль-Мутамидом (1040—1095). Последний кончил свою жизнь в Марокко, находясь в плену; его добровольным спутником в заточении был знаменитый поэт-лирик из Сицилии Ибн Хамдис (1055—1132). В Севилье жил последний крупный арабский поэт Кордовы Ибн Зайдун (1003—1071). Многие андалусские поэты 11—13 вв. прославились элегиями на падение арабских династий и городов под ударами Реконкисты (Ибн Абдун, аль-Вакаши, Ибн Хафаджа, Салих ар-Ронди и др.). В прозе выделяются Ибн Хазм, создавший «Ожерелье голубки» — своеобразный трактат о любви, и Ибн Туфайль (около 1110—1185), автор философского романа «Живой, сын бодрствующего».