Эрнст Кальтенбруннер родился 4 октября 1903 г. в семье получившего ученую степень адвоката в Риде (округ Инна). Детство и юность он провел в Раабе (Верхняя Австрия) и Линце, который в его семье называли «немецким городом». Отец его, полностью вписавшийся в местное общество, и по тогдашним меркам вполне состоятельный господин, был в то же время ярым поборником «аншлюса». Как в Раабе, так и в Линце он ограничивал свои контакты с местными евреями рамками профессиональной необходимости. Будучи убежденным антиклерикалом, он был взбешен, когда сын стал прислуживать на литургиях в школе. Однако тревога отца за сына, которого он считал подпавшим под сильное влияние церковников, оказалась беспочвенной. Уже учась в реальной гимназии Линца (1913-1921), Эрнст стал активным членом откровенно антиклерикальной организации учащихся «Гогенштауфен», а не просто «попутчиком».
С 1921 по 1926 гг. Кальтенбруннер-младший учился на юридическом факультете университета Граца, где он установил такие же связи, как и его отец. В качестве активного члена студенческой корпорации «Арминия» он вместе с другими студентами организовал демонстрации и бойкот, направленный не только против студентов и профессоров-евреев, но и против католической легитимистской корпорации «Каролина», а также различных иностранных студенческих групп. Шовинистическое наследие предвоенного времени и связанные с ним «образы врагов» впоследствии почти не изменились, хотя обстоятельства, в которых теперь приходилось действовать «Арминии», стали иными. Проигранная война и революция в глазах многих из членов корпорации казались осуществлением мечты, к воплощению которой они стремились в течение полувека: коалиция клерикалов и марксистов, которая, казалось, господствовала в изувеченной стране, от которой осталась одна Австрия, делала неизбежным присоединение к Германии, чему препятствовали державы-победительницы. Кальтенбруннер и его друзья полагали, что кукловодами появившихся после развала Австро-Венгерской империи стран, а также правительств в Риме, Париже, Лондоне, Москве и Вашингтоне являются евреи, а не только западные державы, которые препятствуют объединению немцев с помощью мирных договоров, а также немыслимых репараций, тем самым подрывая национальную экономику и способствуя центробежным силам и «социальной напряженности» для того, чтобы еще больше ослабить Австрию и сделать совершенно невозможным укрепление немецкой Австрии. Особенное недоверие вызывали на этом фоне все меры венских чиновников, направленные на благо евреев огрызка, в который превратилась Австрия. Такие меры рассматривались перекрасившимися антисемитами, которые были таковыми в течение многих поколений, показателем предоставления-по их мнению, незаслуженно — национальному меньшинству все больших привилегий, которые воспринимались антисемитскими кругами как прямое «поощрение культурного угнетения» и «сексуального порабощения коренного населения». Многие десятилетия спустя Кальтенбруннер весьма гордился тем, что, будучи юным студентом, боролся с «чуждыми немецкой нации нравами и культурой» и «теми, кто их пропагандировал», и, несмотря на то, что был заклеймен как антисемит, продолжал настойчиво бороться с ними.
Как следствие, в 1930 г. Кальтенбруннер вступил в НСДАП, а в 1931 г. в СС. Экономические причины играли в его выборе лишь второстепенную роль. В 1929 г. кандидат в адвокаты вступил в «организацию самообороны» принца Стархемберга. После безуспешных переговоров Стархемберга с национал-социалистами, Муссолини и христианскими социалистами, Кальтенбруннер, разочарованный нерешительностью Стархемберга и смещением «организации самообороны» в фарватер клерикалов, в конечном счете проголосовал за НСДАП. Его вступление в СС — элитные формирования — находилось вполне в «антипролетарских» традициях студенческих корпораций.
Ни зигзагообразный курс партии, ни его отставка с должности статс-секретаря по вопросам безопасности не заставили изменить политические взгляды Кальтенбруннера, высшего руководителя СС и полиции Вены (1938— 1943). Он достиг исполнения своих желаний 30 января 1943 г., когда Гиммлер назначил его преемником Гейдриха на посту руководителя созданного в 1939 г. Имперского управления безопасности, возглавившего гестапо, криминальную полицию и СД.
Как и прежде, его высшей целью был объединенный, однородный в расовом отношении рейх. При нем в качестве «врагов рейха» все так же преследовались евреи, славяне, коммунисты, социал-демократы, католические священники, центристы, масоны, профсоюзные деятели, «исследователи Библии» и другие лица, которые отвергали национал-социалистическую идеологию. В оккупированных областях обстановка была более сложной, и с продолжением войны приходилось мириться со все большими «отклонениями» от прежней генеральной линии НСДАП. В связи с военной обстановкой, в тактических целях в 1943—1944 гг. службе безопасности приходилось вступать в контакты с некоторыми представителями «недочеловеков».