Этот районный центр в Псковской области, известный с 1414 года, в эпоху Речи Посполитой (с 1579 года) был местечком Полоцкого воеводства. В состав Российской империи Себеж вошел в 1772 году, после первого раздела Польши. В это время в городке проживало немногим более двух тысяч человек, а к 1894 году его население выросло до 4344 человек, из которых 61 процент составляли евреи. Русский публицист-народник Николай Васильевич Шелгунов писал в «Очерках русской жизни»: «Евреи остались нам в наследство в виде законченного целого с присоединением западных губерний и Царства Польского. Такое же законченное целое мы приобрели с присоединением всех остальных наших разнообразных народностей: Малороссии, Польши, Остзейского края, Финляндии, Кавказа. Но дело в том, что все остальные народности поддавались легче изучению и были для нас понятнее, чем евреи. Кроме того, с присоединением других народностей к нам не переходили разные предвзятые на них воззрения и средневековые понятия, а с присоединением евреев их вошла целая масса. Ведь “Луч”, “Гражданин” (да кажется и “Новое время”) до сих пор верят, что евреи пьют на Пасхе христианскую кровь». Впрочем, в Себеже еврейское население уживалось с прочими горожанами достаточно мирно — во всяком случае, здесь не было ни погромов, ни административных притеснений, которые омрачали жизнь евреев во многих городах Российской империи.
До революции 1917 года Себеж входил в состав Витебской (Белорусской) губернии, а при советской власти передавался то Ленинградской, то Калининской, то Псковской области (ныне, как уже говорилось, он входит в состав последней). Местечко жило сонной провинциальной жизнью, промышленность и культура там, можно сказать, отсутствовали, большинство населения занималось мелким ремеслом или торговлей. Только в 1866 году в Себеже открылась еврейская школа для мальчиков, в которой учился и Зиновий Гердт.
Будущий артист родился 21 сентября 1916 года в семье Эфроима Яковлевича Храпиновича (сам актер писал имя отца как «Афроим») и Рахили Исааковны, в девичестве Секун. Он был четвертым ребенком в семье, младшим и, естественно, самым любимым. В память о ком-то из предков его назвали Залман — среди евреев Восточной Европы была распространена эта форма имени Соломон, которое, в свою очередь, происходит от слова «шалом» — «мир», а по другой версии, от «шалем» — «совершенный», «цельный». Дом, где появился на свет будущий артист, не сохранился, но местные краеведы установили, что он стоял на главной себежской улице Петра Великого, позже переименованной в Пролетарскую — неподалеку, на Замковой улице, сохранился дом, где за 211 лет до рождения Залмана останавливался царь-реформатор, навестивший город в годы Северной войны.
Эфроим Храпинович в юности работал приказчиком в лавке тканей, потом устроился коммивояжером в одну из крупных коммерческих фирм. После революции, с наступлением нэпа, выполнял те же обязанности как представитель райпотребсоюза. Гердт не раз вспоминал отца, когда играл Арье-Лейба в фильме «Биндюжник и Король» по рассказам Бабеля: «Не подумайте, что отец мой был похож на Арье-Лейба, вовсе нет. Мой отец был человеком небогатым, но очень честным и уважаемым в Себеже, в синагогу по субботам ходил, да и вообще придерживался традиций. И хотя я не сохранил фамилию отца, память о нем живет во мне до сих пор».
Судя по всему, отец артиста был человеком широких взглядов — именно он настоял, чтобы его сыновья Борух (Борис) и Залман посещали не только хедер, но и занятия в русской школе. После отмены черты оседлости многие евреи покидали бедный и скудный мирок родного местечка и устремлялись в большой мир, где русский язык был необходим. В те годы русский начали преподавать и в хедере наряду с такими предметами, как арифметика и география. В реформированном себежском хедере изучали также историю Израиля и иврит — недавно возрожденный древнееврейский язык. Но, конечно, самым главным было толкование Торы и Талмуда. Учителя отмечали способности Гердта к запоминанию религиозных текстов и молитв, он был среди тех немногих, кому прочили должность раввина.
Среди жителей Себежа еще в XIX столетии получило распространение мистическое учение хасидизма, созданное Исраэлем бен Элизером из Меджибожа, известным больше как Баал Шем Тов, сокращенно Бешт. Он создал учение, которое религиозный экстаз поставило выше Талмуда. Хотя Эфроим Храпинович не был хасидом, он истово молился, чтил субботу и в этот день никогда не делал никакой работы — даже ботинки не зашнуровывал. После трапезы распевал любимые песни, дети и жена охотно подпевали ему. Часто он вспоминал своего отца, который был простым сапожником, но в Себеже его уважительно называли «ребе». В семье бережно хранились легенды и мудрые изречения, записанные и даже сочиненные Яковом Храпиновичем — позже все это, увы, пропало. Эфроим Яковлевич нередко повторял слова отца: «Самое страшное для человека — это самодовольство и самооправдание». Цитировал он и Менахема-Мендла, героя Шолом-Алейхема: «Человек! Не вводи себя в заблуждение. Не кради сам у себя».