Не считая язычников и еретиков, единственной более или менее представительной группировкой религиозного меньшинства были иудеи, к которым могут быть отнесены и самаритяне, образующие в этот период все еще прочное сообщество. Евреи фактически были истреблены в Иудее Адрианом, но они продолжали формировать основное население Галилеи, так же как и самаритяне в Самарии, их родной обители. Иудеи и самаритяне также были представлены в каждой провинции, и, как правило, они являлись купцами, хотя отдельные иудейские сельскохозяйственные арендаторы обнаруживались в Сирии и даже на Сицилии в VI в. В некоторых городах, таких как Магон (Mago) на Балеарских островах, они составляли значительный пласт населения. В начале V в. раввин Феодор созвал совет всех местных магистратов и наконец стал местным судьей. На этой должности его впоследствии заместил сам основатель синагоги. В большинстве городов иудеи избегали должностных постов и декурионата, в который зачислялось сельское население, а также предприняли отчаянную, но неудачную попытку получить освобождение от обязанностей по курии. С другой стороны, многие иудеи, как кажется, поступали на гражданскую службу и в армию, а один из них дослужился даже до губернатора провинции,
В духовном отношении иудеи, разбросанные по всей империи, руководились наследственным патриархом, который постоянно проживал в Тиберии. После того как движение угасло, его ведомство развалилось (429 г.). Правительством патриарху обычно даровалось-звание «сиятельного», и он признавался главой иудейского сообщества. Он назначал духовных служителей во все синагоги (эти священнослужители освобождались от обязанностей по курии) и собирал налоги с синагоги через совет обслуживавших свои округа инспекторов, которые также были его главными советниками, апостолами. В 429 г. эти налоги стали поступать в императорскую казну. В VI в. многие синагоги, по всей видимости, при проведении обрядов использовали греческий или латинский языки. Благоволившие к древнееврейскому обратились к Юстиниану за разрешением проводить богослужение на этом языке, но тот., надеясь, что если иудеи будут слушать Священное писание на народном языке, то их легко можно будет обратить в христианство, позволил только греческий и латинский (в зависимости, от версии «Септуа-гинты») и запретил преподавание Талмуда.
Иудеи всегда занимали в империи двойственное положение. С одной стороны, существовал широко распространенный народный антисемитизм, зародившийся еще в I в. до н. э.7 с другой стороны, императорское правительство, начиная с Цезаря, последовательно защищало иудейский культ и даже освободило иудеев от обычных гражданских обязанностей, когда таковые вступили в противоречие с иудейскими религиозными законами. Триумф христианства усилил актисемитизм среди народных масс и спровоцировал императорское правительство к принятию отдельных, антииудейских мер. Феодосий I, например, выступил против заключения браков между иудеями и христианами, а с периода правления Константина была введена целая. серия законов, запрещающих иудеям совершать обрезание своим рабам, иметь рабов-христиан и, наконец, вообще располагать невольниками. В начале V в. их отстранили от занимания гражданских должностей, а при Льве — и от адвокатской практики. Юстиниан наложил на них те же ограничения в гражданских правах, что и на язычников и еретиков: запрет на составление завещания, получение наследства, дачу показаний в суде и т. д.
Императорское правительство, однако, твердо поддерживало и законодательно подкрепляло религиозную свободу иудеев. Им разрешалось производить ремонт синагог (но не строить новые), а если противники иудеев разрушали их, то агрессоры должны были выплатить компенсацию. Синагоги не использовались как помещения для постоя, а служившее в ней духовенство освобождалось от обязанностей по курии. Законом не разрешалось вызывать иудея на суд в субботу, а иудейское духовенство пользовалось той же добровольной юрисдикцией между своими сторонниками, что и епископы.