Im Jahr 721 v. Chr. war der jüdische Nordstaat Israel von den Assyrern erobert worden, die große Teile der Bevölkerung im Zuge ihrer Umsiedlungspolitik in andere Teile ihres gewaltigen Reiches verschleppten, wo sie ansässig wurden. Diese erste Deportation kann als Beginn der Ausbreitung jüdischer Siedler in der Alten Welt angesehen werden. Nach der Zerstörung Jerusalems durch die Babylonier 587 v. Chr. und dem damit besiegelten Ende des südlichen Staates Juda wurden erneut große Gruppen von Juden nach Mesopotamien umgesiedelt. Es handelte sich hierbei um Angehörige der Führungsschichten. Von den Deportierten kehrten nach dem Erlass des persischen Königs Kyros (Kg. 559-529 v. Chr.) nicht alle nach Juda zurück. Vom 3. Jhd. v. Chr. an gingen Juden nach Ägypten, siedelten aber auch schon im Westen Nordafrikas und selbst in Europa. Der Schwerpunkt jüdischen Lebens lag aber weiterhin in Mesopotamien, insbesondere nach den gescheiterten Aufständen der Juden gegen die römische Herrschaft im Heiligen Land in den Jahren 64 bis 70 und 135. In der Folge beider Aufstände wurden die Juden aus ihrer angestammten Heimat erneut vertrieben. Jerusalem selbst durften sie auf eine Anweisung Kaiser Hadrians (Ks. 117-138) nach dem Scheitern des zweiten Aufstandes nicht mehr betreten. Jüdische Ansiedlungen gab es in dieser Zeit in der Kyrenaika (Nordafrika) und um Karthago, aber auch im Osten des Römischen Reiches verstreut über Kleinasien, in Griechenland, Makedonien sowie Thrakien, weiterhin in Pannonien (an der mittleren Donau) und in der Provinz Noricum (Österreich). In kleinerem Umfang fanden sich auch Gemeinden in Spanien, Gallien und Germanien sowie in Italien und Sizilien, also im Herz des Imperiums. Dabei war die Rechtsstellung der Juden durch die Gesetze der römischen Kaiser nicht ungünstig. Schon Julius Caesar hatte den Juden die freie Ausübung des Synagogenkults gewährt und, was noch bedeutsamer war, sie vom offiziellen römischen Staatskult ausgenommen. Kaiser Augustus (Ks. 27 v. Chr. bis 14 n. Chr.) erließ eine Verfügung über die von allen Juden an den Tempel von Jerusalem zu entrichtende Steuer. Auch durften Juden unter Berücksichtigung ihrer Ritualgesetze nicht zum Dienst im Militär verpflichtet werden. Ihre privatrechtlichen, aber auch die strafrechtlichen Angelegenheiten durften die Juden als »religio licita« untereinander regeln. Diese Sonderstellung im Römischen Reich hatten die Juden bis zu den erfolglosen Aufständen inne.
Außer dem hohen Blutzoll, es fielen wohl um 600 000 Juden im ersten Aufstand gegen Rom (Flavius Josephus, Jüdischer Krieg 6, 420; Tacitus, Historien 5, 13), waren die rechtlichen Folgen des Scheiterns für die außerhalb Palästinas lebenden Juden nicht wirklich einschneidend. Kaiser Vespasian (Ks. 69-79) verfügte, dass die bisher an den Tempel von Jerusalem abgeführte Tempelsteuer von nun an als »Fiscus Judaicus« dem Tempel des Juppiter Capitolinus in Rom zugute kam. Dies sollte bis ins 4. Jhd. so bleiben und kann als Vorbild der Judensteuern des Mittelalters gesehen werden. Aber auch wenn Kaiser Hadrian nach dem Scheitern des zweiten jüdischen Aufstands in Palästina unter Bar Kochba den Übertritt zum Judentum zum Kapitalverbrechen erklärte und die Beschneidung eines Nichtjuden unter Todesstrafe gestellt wurde, blieb die Selbstverwaltung der Juden unangetastet. So konnte sich die politische Stellung des »Nasi«, des die jüdische Bevölkerung Palästinas vertretenden Patriarchen und Vorsitzenden des großen jüdischen Gerichtshofes, im Laufe der folgenden Jahrzehnte sogar festigen. Unter Kaiser Severus Alexander (Ks. 222-235) erlangte der Patriarch die Anerkennung als Oberhaupt aller Juden im Reich. Schon im Jahr 212 hatten die Juden, zusammen mit allen im Römischen Reich lebenden Nichtrömern, das römische Bürgerrecht zugesprochen bekommen. An diesen Maßnahmen zeigt sich, dass von römischer Seite her keine Absicht bestand, die Rechte und Freiheiten der Juden in irgendeiner Weise einzuschränken.
Der Umschwung kam mit der Herrschaft Kaiser Constantins I. (Ks. 306-337), der, ohne selbst getauft zu sein, sich dem Christentum geneigt zeigte und durch politische Maßnahmen die Entwicklung hin zu einem christlichen Reich einleitete. Die in der Folge erlassenen Vorschriften schränkten nun das soziale und religiöse Leben der Juden stark ein. Ausbau und Neubau von Synagogen wurden untersagt. Von bürgerlichen und militärischen Ämtern wurden Juden ausgeschlossen. Es durften von Juden keine christlichen Sklaven mehr gehalten werden, auch wurde die bis dahin übliche jüdische Mission verboten. Mit allen diesen Maßnahmen begann die Aussonderung der Juden aus dem gesellschaftlichen Leben des Römischen Reiches. Einen scharfen Einschnitt in das Verhältnis zwischen Juden und Christen stellte die Synode von Elvira in Spanien im Jahr 306 dar. Nicht nur die Ehe zwischen Juden und Christen sowie die Kultgemeinschaft wurden verboten, sondern für Christen wurde auch die Tischgemeinschaft mit Juden unter schwere Kirchenstrafen gestellt. Die Zeit war nun reif für die ersten christlichen Übergriffe auf Juden. Gutgeheißen wurde ein solches Vorgehen sogar von Ambrosius von Mailand. Doch war diese scharfe Ausgrenzungspolitik nicht überall in Europa gleich. Im westlichen Teilreich verfügte noch im Jahr 404 Kaiser Honorius (Ks. 395-423) zwar den Ausschluss der Juden aus dem Kriegsdienst, ließ die übrigen Privilegien der Juden aber unangetastet. So hielten hier Juden weiterhin christliche Sklaven, denen die freie Religionsausübung gestattet sein musste.
Bis zum 7. Jahrhundert war das Judentum in Europa in einem starken Niedergang begriffen. Durch die Einschränkungen ihrer wirtschaftlichen Betätigung verarmten viele Juden, hinzu kamen Verluste in den Gemeinden durch zahlreiche Übertritte zum Christentum. Diese Entwicklung machte auch vor Palästina nicht Halt. Katastrophal war hier auch die Abschaffung des jüdischen Patriarchats im Jahr 425 unter Kaiser Theodosius II. (Ks. 379-395), womit die bis dahin eigenständige politische Vertretung der Juden erlosch. Kaiser Heraklius (Ks. 610-641) untersagte die Ausübung der jüdischen Religion vollständig und wollte die Juden zur Annahme der christlichen Staatsreligion zwingen. Diese Politik hatte sogar Auswirkungen in Westeuropa, in der Lombardei, in Burgund und im Frankenreich.
Für das babylonische Judentum bedeutete diese negative Entwicklung den Aufschwung. Am deutlichsten zeigt sich dies in der Rechtsverbindlichkeit des »Babylonischen Talmuds«, dessen Sammlung im 6. Jahrhundert abgeschlossen wurde. Der palästinische Talmud, seit dem 4. Jahrhundert vollendet, stand dahinter zurück. Die arsakidischen und sassanidischen Herrscher im Zweistromland übten weitgehend Toleranz gegenüber ihren jüdischen Untertanen. So konnten die Juden auch eine gewichtige Position im Seidenhandel einnehmen, sie trieben aber auch Ackerbau und waren in den Städten handwerklich tätig. Das geistige Leben der Juden blühte unter diesen Bedingungen auf. So konnte der Unterhalt für die rabbinischen Hochschulen aufgebracht werden, die große Gelehrte hervorbrachten. Dabei blieb deren Einfluss nicht auf Mesopotamien beschränkt. Auch aus Europa kamen religiöse Fragen betreffende Anfragen hierher und wurden beantwortet. So entstand die »Responsenliteratur«, die diese Fragen und Antworten sammelte. Die Entscheidungen der babylonischen Rabbiner galten im ganzen Judentum als rechtsverbindlich. Diese Vormachtstellung hielt mehrere Jahrhunderte an, auch die arabische Eroberung tat dem keinen Abbruch. Und doch kam es infolge der schlechten wirtschaftlichen Entwicklung am Beginn des 11. Jahrhunderts zum Niedergang. Mit dem Tod des Hai Gaon von Pumbedita im Jahr 1038 verlor das babylonische Judentum seine Bedeutung.