Гиммлер сожалел о том, что не смог окончить офицерские курсы и ему не удалось принять активное участие в боевых действиях. Вместо этого он служил в различных военных формированиях, которые сражались против «марксистской диктатуры», против демократии и «позорного Версальского мира». В конечном счете он вступил в союз «Имперское воинское знамя», где стал знаменосцем. В 1944 г. исполнилась мечта всей его жизни, когда Гитлер назначил его верховным главнокомандующим резервной армией. Впрочем, старые офицеры вермахта сомневались в компетенции Гиммлера как военного специалиста. Между тем его отец был очень высокого мнения о своем Генрихе, который мог служить образцом для немецкой молодежи. Однако антисемитизм Генриха был внушен не родителями, а соратниками с шовинистическими воззрениями. Судя по перечню литературы, прочитанной Гиммлером в период с 1919 по 1934 гг., и комментариям к ней, сначала умеренный, затем все более радикальный Генрих, в конце концов, превратился в антисемита.
Представление о Гиммлере как о немногословном, ограниченном типе не соответствует действительности. Чаще всего в его дневниках появлялась отметка «очень хорошо». Областью его интересов была, главным образом, история, немецкий, а также древние языки, греческий и латинский. По математике и физике он получал отметки «хорошо». В аттестате зрелости, выданном ему 15 июля 1919 г. в гуманистической гимназии в Ландсхуте, отмечалось: «Во время его пребывания в данном учебном заведении отличался примерным поведением и неизменным прилежанием». Оказавшись в формированиях самообороны, он приобрел радикальное мировоззрение. Во время гитлеровского путча 1923 г. он был знаменосцем союза «Имперское военное знамя», получившего задание занять подступы к военному министерству Баварии.
В письме от 25.01.1924 г., где он рисовал образ его собственного врага, который был одновременно врагом его единомышленников, он отмечал: «Солдаты и убежденные борцы за народную идею хотят сражаться с этой гидрой черного и красного Интернационала, с еврейством и церковниками, с франкмасонами, иезуитами и делягами».
Прежде чем познакомиться с Гитлером, Гиммлер поддерживал связи с Эрнстом Ремом, встреча с которым, согласно дневнику Гиммлера, состоялась в январе 1922 г. Свою первую партийную речь Гиммлер произнес 24 февраля 1924 г. в рамках Национал-социалистического движения за свободу в одном нижнебаварском селении близ Кельгейма. Генрих Гертнер, будущий ортсгруппенляйтер Шлейсгейма, назначил его партийным оратором. Гиммлер был одним из первых, кто приобрел работу Гитлера «Моя борьба». Правда, поначалу он критически отнесся к этой книге, что видно из его замечания: «Первые главы, посвященные своей юности, содержат много слабых мест».
В 1925 г. он стал секретарем Грегора Штрассера, заместителя гауляйтера Нижней Баварии и Верхнего Пфальца и заместителя рейхспропагандаляйтера. В 1927 г. Гитлер назначил его заместителем рейхсфюрера СС, а в 1929 г. рейхсфюрером СС. Гиммлер находился в подчинении у начальника штаба СА Эрнста Рема. Это продолжалось до жестокой расправы над Ремом и высшими руководителями СА, в которой активно участвовал Генрих Гиммлер. За «заслуги» в подавлении так называемого путча Рема, начавшегося 30 июня 1934 г., СС стали самостоятельной организацией в рамках НСДАП, что привело к значительному усилению роли Гиммлера.
Его задача состояла в создании организации, которая с политической и мировоззренческой точки зрения объединяла бы нацию, своего рода ордена, воплощавшего идеи расовой исключительности, объединявшего аристократию, созданную кровью и почвой. Цель ордена заключалась в создании, с помощью воспитания и образования, нового типа человека, который должен был «выполнять в будущем все великие задачи». Задачи эти заключались в безжалостном, жестоком преследовании евреев, в пытках и убийствах заключенных концлагерей и лагерей смерти, беспощадном преследовании инакомыслящих и тех, кто оказывает недостаточное сопротивление враждебным силам. Как заявил в 1944 г. рейхсфюрер, «нужно расстреливать всякого, кто посмеет разинуть пасть»... «Я знаю,-заявлял он в 1935 г., — что в Германии имеется много людей, которым становится дурно при виде черного мундира. Мы отлично понимаем это и не ждем, что нас будут любить все. Мы имеем мужество быть нелюбимыми, жестокосердыми и бесчувственными». Наставление членам «Черного ордена» не допускало никакой самостоятельности в выборе мировоззрения. «Ни Ветхий, ни Новый Завет, а политическое завещание Адольфа Гитлера является путеводной нитью в нашей борьбе».
Гиммлер преднамеренно назвал свою организацию «орденом». Но орден этот поклонялся не Иисусу Христу, а Адольфу Гитлеру, а его символом было не распятие, а свастика. «Кто в сердце свастику запечатлел, тому чужды кресты другие», — писал поэт С. Зебекер. Вместо христианской религии Гиммлер разработал свою собственную религию и этику, основанную на «германском наследии». Почитание предков, вера в бессмертие, миф «кровь и почва», вера в правящего «бога» были составными частями новой религии. В связи с торжествами, посвященными тысячелетию со дня кончины короля Генриха I, отмечавшимися в 1936 г., Гиммлер мнил себя воплощением древнего короля. На основании ряда высказываний Гитлера можно заключить, что он не одобрял мистические заскоки Гиммлера. «Что за чепуха! — возмущался фюрер. — Уж лучше оставаться в церкви. В ней, по крайней мере, существует традиция. Подумать только: когда-нибудь меня сделают "эсэсовским святым"! Да я в гробу перевернусь!»