Большинство мусульман предпочло перебраться из Ктесифона на новое место. Правдоподобно звучит предположение, что первоначально взрослое мужское население города составляло около двадцати тысяч, хотя оно быстро росло за счет прибывающих из Аравии, надеявшихся получить свое. Рассказывали, будто кроме прочего имущества они везли с собой двери своих домов, чтобы навесить их в новых жилищах. Первые дома строились из местного тростника, но после того, как многие их них сгорели в пожаре, к Умару обратились за позволением строить из сырцового кирпича. Позволение было дано на условии, что никто не станет строить дома более чем с тремя комнатами и что дома не будут слишком высокими: опять мы видим, как подчеркивается скромность и равенство мусульман.
План нового поселения довольно тщательно разработал человек по имени Абу аль-Хаджадж, претендующий на звание первого мусульманского градостроителя. Дороги радиально расходились из центра города, и люди селились вдоль этих дорог по племенам, так что, по крайней мере поначалу, разные племена занимали разные районы. Это должно было поддерживать племенную солидарность и соперничество между племенами. Говорят, что Умар определил ширину улиц: 20 метров для главных дорог (40 локтей), 15 или 10 метров для боковых улиц, а малые переулки должны были иметь ширину 3-5 метров, и не менее того. Это был тщательно спланированный город, а не путаница переулков, где люди строились и селились, где им вздумается.
В середине располагалось нечто, что можно назвать общественным центром. В первую очередь возвели мечеть, занимавшую середину просторной площади. Призвали могучих лучников, которые, встав в центре, пустили стрелы во все стороны: строить жилые дома разрешалось не ближе того места, куда долетела стрела. Площадь была оставлена пустой для собраний горожан.
Сама мечеть представляла в плане неровный квадрат со стороной около 110 метров. Рассказывают, что поначалу в ней не было стен и только часть помещения была укрыта навесом. Возможно, это была очень простая постройка из тростника или ильных кирпичей. Изнутри нее можно было видеть соседний христианский монастырь в Хинде и, вдали, ворота, выводившие к мосту через реку, настланному на заякоренных лодках. Вскоре после его сооружения ограбили дворец правителя, и Саад приказал подвести мечеть к дворцу, так, чтобы у них одна стена была общей. Мечеть, в которой днем и ночью были люди, представлялась лучшей защитой от воров. Эта новая мечеть, вероятно, была куда представительнее. С одной стороны ее была крытая площадка длиной около 100 метров «с потолком, похожим на потолки византийских церквей», что означает, очевидно, открытые балки перекрытий, поддерживаемых мраморными колоннами. Рассказывали, что колонны вывезли из христианских церквей. До назначения наместником Зияда в правление первого Омейядского халифа Муавийи стен в мечети не было. Новые колонны высотой 15 метров сложили из ахвазского камня, скрепив его свинцовыми опорами и железными скобами.
Если мечеть была — сама простота, то дворец стал более сложным сооружением и дал повод горячим спорам. «История» ат-Табари передает рассказ Саифа. По его словам, цитадель для Саада выстроил перс из Хамадана по имени Рузбих ибн Бузургмихр, и сложена она была из обожженного кирпича, взятого из старого дворца доисламских царей Хиры. Поскольку дворец стоял в центре города, где было шумно и многолюдно, Саад устроил деревянную дверь с замком. Услышав о том, халиф Умар послал человека сжечь дверь, наказывая Саада за то, что тот отгородился от простых мусульман, не позволяя им входить к нему, когда им вздумается. История эта относится к полемической литературе, направленной против правителей, пытавшихся выделиться или поставить себя выше рядовых правоверных. Однако упоминание об использовании старого кирпича может быть верным.
Примитивная мечеть Куфы занимала то же положение, что современная городская мечеть. На этом месте в 661 году был убит халиф Али, и оно долго оставалось местом поклонения шиитов, так что археологические раскопки там были невозможны. Однако во дворце в 1950-х и 1960-х годах раскопки проводились. Определились три основные стадии постройки: ранняя, омейядская и ранняя аббасидская. К IX веку здание было практически заброшено, и его заселили бродяги. Первая постройка была снесена до фундамента при возведении второго, омейядского здания. Остались только внешние стены с расположенными с равными промежутками квадратными выступами бастионов. Были ли то остатки дворца Саада, как считали археологи, или здания, построенного Зиядом поколение спустя в начале эпохи Омейядов, как полагал главный историк города, — точно сказать невозможно.