С этим настроением национальной тоски боролся в душе молодого Гейне дух философского рационализма. «Что я буду пламенным защитником прав евреев и их гражданской равноправности, — писал он другу Мозеру, — в этом я уверен, и в плохие времена, которые неминуемы, германская чернь услышит мой голос, и эхо его раздастся в немецких пивных и дворцах. Но естественный враг всех положительных религий никогда не выступит бойцом за ту религию, которая впервые принесла с собою пренебрежение к людям, до сих пор причиняющее нам столько горя». Тут слышатся уже первые звуки того «эллинизма», который Гейне впоследствии так ярко противопоставлял иудаизму...
При такой душевной раздвоенности перед Гейне встал роковой вопрос эпохи: креститься или не креститься? Он кончал юридический факультет в Геттингене, а закон закрывал перед ним все пути труда — доцентуру в университете, адвокатуру и государственную службу. В своей литературной карьере юный автор «Альманзора» (1823) также испытывал неприятности, связанные с его еврейством. Все яснее становилась ему практическая необходимость взять «входной билет в европейское общество», как он называл акт крещения. После некоторой внутренней борьбы Гейне, покорный общему течению, совершил роковой шаг: в июне 1825 г. он перешел в протестантство. Он не скрывал от себя, что совершает шаг, противный совести, и шутливо писал из Гамбурга Мозеру: «Мне было бы очень больно, если бы мое крещение могло представляться тебе в благоприятном свете. Поверь мне: если бы закон позволял красть серебряные ложки, я бы не крестился... В прошлую субботу я был в храме (реформистов) и имел удовольствие слышать, как д-р Саломон метал громы против выкрестов, которые изменяют вере отцов, соблазняясь надеждою получить должность. Уверяю тебя, проповедь была хороша, и я собираюсь на днях посетить проповедника». В своих расчетах на житейские выгоды Гейне обманулся: он не получил никакой должности и был обречен на материальную нужду. Но укоры совести, мучившие его некоторое время после отпадения, вскоре были заглушены шумным успехом, выпавшим на долю поэта после выхода его «Путевых картин» и «Книги песен» (1826—1827). Германия услышала отклики на волнующие вопросы дня в бесподобной, брызжущей остроумием гейневской прозе, услышала чарующие звуки лирической песни, в которой так дивно слились мотивы «Песни песней» и «Когелета», гимн торжествующей любви и ропот мировой скорби. После июльской революции, эмигрировавший в Париж Гейне становится, рядом с Берне, вдохновителем «Молодой Германии». К лаврам поэта присоединяются лавры остроумнейшего публициста и литературного критика («Германия», «Романтическая школа», «О Берне» и другие произведения 1831— 1840 гг.). В эту эпоху Гейне воображал себя знаменосцем жизнерадостного эллинизма, в противовес суровому иудаизму, и установил свое классическое деление людей на «эллинов» и «иудеев». Себя он причислял к эллинскому типу, не замечая, что в его душе все еще бунтует «иудей», усмиряемый, но не усмиренный.