Г. Шолем родился в Берлине в ассимилированной еврейской семье. Отец его считал себя «немцем Моисеева вероисповедания». Узнав об эксцентрическом желании сына быть евреем, отец процитировал распространённую в то время среди немецких евреев поговорку: «С евреями хорошо ходить только в синагогу». Подросток Гершом взбунтовался против ложных идеалов поколения отцов, живо ощутив глубокую фальшь в положении евреев, стремящихся раствориться в немецком обществе, которое их не принимало и отталкивало. Он присоединился к молодёжному сионистскому движению. Желая приобщиться к еврейству не только в политическом, но и в культурном отношении, Шолем посвятил себя тщательному изучению исторических и религиозно-культурных традиций иудаизма. Стремление вернуться к еврейству привело юношу к серьёзному конфликту с отцом, особенно обострившемуся во время Первой мировой войны, когда Гершом занял резко отрицательную позицию по отношению к немецкому патриотизму, волна которого захватила многих евреев Германии, не исключая и сионистов. Сражаться за Германию Шолем не хотел; он избежал мобилизации, симулируя душевную болезнь. Антивоенная позиция способствовала сближению Г. Шолема с его братом, также взбунтовавшимся против лицемерной буржуазной среды, но избравшим другой путь – путь революции – и ставшим левым социалистом, впоследствии одним из руководителей компартии Германии. Как большинство евреев-революционеров, он вскоре оказался в оппозиции, был исключён из компартии, а позднее погиб от рук нацистов в концлагере Бухенвальд. Трагедия брата символизировала для Г. Шолема трагедию всех тех еврейских интеллигентов, которые принесли в жертву чужим идеалам своё искреннее и страстное стремление к социальной справедливости. Отвергнув соблазн революционного интернационализма, Шолем обратился к еврейскому национальному движению – сионизму. Однако страстный интерес Шолема к религиозно-культурному наследию иудаизма не мог найти удовлетворения в рамках чисто политического сионизма, сторонники которого зачастую не обладали достаточным знакомством с этим наследием. Углублённое изучение еврейских источников на время сблизило Шолема с движением Агудат Исраэль, проводившим весьма интенсивную деятельность по распространению еврейских знаний. Однако это сближение оказалось кратковременным: подход Шолема был принципиально отличен от ортодоксии. Его не привлекало то исключительное значение, которое ортодоксия придаёт Галахе – нормам, строго регламентирующим все частности религиозной, семейной и гражданской жизни евреев. Вместе с тем Шолему было присуще религиозное по существу чувство присутствия в мире некоей тайны; он признавался, что никогда не мог понять атеистов – ни в молодости, ни в старости. По-видимому, это соединение мистического чувства с неприятием традиционных форм, в которых это чувство проявляется, и побудило Шолема искать вдохновения в еврейской мистике. Его труды, посвящённые каббале, показывают, как великие мистики прошлого, скрупулёзно придерживаясь заповедей и предписаний еврейской религии, одновременно подвергали религиозные понятия такому толкованию, которое придавало им совершенно новый, подчас прямо противоположный смысл.
Большое влияние на духовное развитие Шолема оказали такие выдающиеся представители еврейской культуры, как X. Н. Бялик, Ш. И. Агнон, Ш. 3. Рубашов (впоследствии президент Израиля 3. Шазар) и др., тесно связанные с еврейской традицией, всегда существовавшей в Восточной Европе. Влиял на него и М. Бубер, тогдашний властитель дум сионистов Германии; позднее между Бубером и Шолемом возникли серьёзные разногласия как по практическим политическим вопросам (в частности, об отношении к роли Германии в Первой мировой войне), так и по вопросам оценки еврейского духовного наследия (в частности, хасидизма). Подход Шолема к этому наследию был строго научным, объективным; Бубер же всегда был не столько учёным, сколько философом и поэтом, склонным к романтизации истории.