В организации секты жидовствующих многое напоминало будущее масонство: строгая законспирированность, проникновение в высшие слои правительства и духовенства; ритуал, включающий «обряд» поругания святыни; формирование системы «учитель — ученик» вне традиционных православных представлений.
Являясь непримиримыми врагами Христианства, жидовствующие скрывали ненависть к нему, втайне рассчитывая постепенно разрушить его изнутри. Перед людьми, твёрдыми в вере, еретики представляли себя «добрыми христианами» и «образцовыми ревнителями Православия».
Начало ереси относится к 1471, когда в Новгород в свите князя Михаила Олельковича из Киева прибыл жидовин Схария («Захарья евреянин», «Захарья Скарья жидовин»), князь Таманский. Этот хорошо образованный и обладавший большими международными связями жидовин принадлежал к иудейской секте караимов, имевшей широкую сеть своих организаций в Европе и на Ближнем Востоке. Караимы относились к одному из течений иудаизма, выполнявшему почти все его установления, но признававшему Иисуса Пророком. Караимство возникло в VIII в. в Вавилонии, вобрав в себя мелкие иудейские секты и восприняв традиции саддукеев. В отличие от иудеев-раввинистов, руководствовавшихся преданием и Талмудом, караимы считали себя вправе обращаться к закону Моисея без посредников.
… Ещё с X века караимы имели тесные связи с Иерусалимом и Константинополем. Как сообщает историк З. Анкори, «Иерусалим X века был связан с Троками (местечко Трокай в Литве) позднего средневековья через плодотворное посредство караимского центра в византийском Константинополе». В XIV–XV вв. караимы активизировались в Византии, Турции, Болгарии и на Руси.
Как писал Г. М. Прохоров, «когда обнаруживается, что византийско-турецкие жидовствующие были «сионитами», ревностнейшими из караимов, большие расстояния — географические и временные — между Малой Азией и Балканами XIV в. и Великой Русью XIV–XVI вв. оказываются преодолёнными цепью взаимосвязанных караимских общин — в Крыму, Литве и Западной Руси. Караимы обитали на Крымском полуострове и прилегающих к нему землях задолго до XIV в. — по крайней мере, судя по письменным данным, не позже, чем со 2-й пол. XII в. От своих ближневосточных и балканских единоверцев северо-восточные караимы получали учительную литературу и учителей». В XII–XIII вв. немецкие раввины в Регенсбурге получали сочинения караимов через Русь. Крымская и киевская общины постоянно получали религиозную литературу и сведущих в ней людей из Вавилонии, Палестины и Константинополя.
До возникновения ереси жидовствующих иудейская секта караимов уже предпринимала своё антихристианское наступление на Русь в XIV–XV вв. Это наступление можно усмотреть в секте стригольников, действовавшей в Пскове, от которого рукой подать до Трок в Литве — одного из главных центров караимов.
Создавая секту жидовствующих в Новгороде, караим Схария, по-видимому, выполнял задание одного из международных иудейских центров и учитывал опыт деятельности стригольников. В короткий срок этому иудейскому конспиратору удалось сколотить тайное общество, численностью по меньшей мере в 33 человека, из которых 27 составляли священники, их ближайшие родственники, дьяконы и клирики.
Быстрое распространение иудейской ереси в русской духовной среде объяснялось состоянием православного вероучения и церковной литературы в XIV–XV вв. Исторически сложилось так, что в состав служебных книг вошло немало элементов, отражающих скорее иудейскую, чем православную традицию вероучения. В русских рукописях оказалось значительное число материалов, входивших в «круг важнейших синагогальных праздничных и будничных чтений». Псалмы, найденные у еретиков, оказались еврейским молитвенником «Махазор». Архимандрит Кирилло-Белозерского монастыря Варлаам заметил по их поводу: «Ни в одном из псалмов этого перевода нет пророчеств о Христе» (к вопросу о пророчестве в псалмах мы ещё вернёмся — авт.). Н. С. Тихонравов сделал вывод, что это не Псалтирь Давида, а молитвы иудейские, употребляемые при богослужении, в которых ярко просвечивается иудейская оппозиция (неприязнь) учению о троичности лиц Божества.
В XV в. по еврейскому тексту было исправлено Пятикнижие Моисея, в иудейской (негреческой) традиции переведена книга Пророка Даниила, Иудейский перевод «Есфири» появился вообще в конце XIV в. И.Е. Евсеев отметил, что этот перевод свидетельствует о «высоком и исключительном уважении переводчика к еврейской истине. В местах христологических пророческих выразительно внесено понимание раввинское». «Здесь мы имеем, — заключают исследователи, — вековую литературную традицию перевода с еврейского». «Шестокрыл» с иудейским летосчислением, «Логика» Моисея Маймонида, астрологические трактаты, атеистические сочинения Раймонда Луллия были широко распространены в русских рукописях XV–XVI вв.