Решение вопроса о престолонаследии осложнилось тем, что объявились претенденты на корону, не связанные узами родства с Оттонами. В день погребения Оттона III, состоявшегося в Ахене 5 апреля 1002 года, значительная часть присутствовавших князей заявила, что окажет поддержку Герману, герцогу Швабскому, в борьбе за королевский престол. Тем временем на съезде саксонской знати выдвинули свою кандидатуру — маркграфа Мейсенского Эккехарда, отличившегося в 998 году при подавлении мятежа римлян. Однако тот вскоре угодил в ловушку, подстроенную его противниками, и погиб. После этого Генриху Баварскому удалось с помощью щедрых обещаний заручиться поддержкой саксов. Еще раньше отказался от притязаний на королевскую корону Отто Каринтийский. В Южной Германии Генриха поддержали большинство князей церкви во главе с архиепископом Майнцским Виллигисом. Последний и провел в Майнце 6 июня 1002 года, после того как за Генриха проголосовали светские и духовные князья из Баварии, Франконии и Верхней Лотарингии, обряд его помазания и коронации. Внук Генриха, любимого сына королевы Матильды, тщетно пытавшегося по наущению матери отнять у старшего брата власть, взошел на королевский престол Германии. Потомок в третьем поколении исполнил давнюю мечту.
Как и полагалось по закону и обычаю, новый король Генрих II совершил объезд своего королевства, в ходе которого на верность ему присягнула знать Тюрингии и Саксонии. В Падерборне 10 августа архиепископ Майнцский Виллигис короновал и супругу Генриха, королеву Кунигунду. Духовные князья Нижней Лотарингии присягнули на верность новому королю в Дуйсбурге, а светские во главе с герцогом Отто, последним представителем рода Каролингов, — в Ахене, где 8 сентября Генрих II воссел на трон Карла Великого. 1 октября герцог Швабский Герман сдался на милость королю, был прощен и получил от него в лен герцогство.
После гибели Эккехарда Мейсенская марка оказалась беззащитной. Этим воспользовался польский князь Болеслав Храбрый, совершивший вторжение и дошедший до самого Мейсена. Несмотря на очевидный акт агрессии, Болеслав был принят в Мерзебурге в числе саксонских князей, собравшихся, чтобы присягнуть на верность новому королю. Генрих II даже пожаловал ему в лен восточную половину Мейсенской марки и часть саксонской Восточной марки. Сам город Мейсен получил родственник Болеслава Гунцелин. Король это сделал, желая сохранить дружественные отношения с Польшей, поскольку тогда, еще не укрепив свою власть в Германии, он не имел возможности дать вооруженный отпор Болеславу. И тем не менее, в отличие от Оттона III, чья восточная политика была основана на союзе с католической Польшей против язычников полабских славян, Генриху II позднее пришлось сделать крутой поворот во взаимоотношениях с восточными соседями. Не в последнюю очередь это произошло по причине агрессивной политики Польши, превратившейся при Болеславе I Храбром (992-1025) в сильное раннефеодальное государство. Его войско совершало завоевательные походы в земли поморских славян, в Киевскую Русь, Чехию и Германию. В 1003 году Болеслав Храбрый напал на Чехию и занял Прагу, тем самым еще более расширив свое политическое влияние, простиравшееся теперь от Балтийского моря до Карпат и от Вислы до горного массива Чешский Лес. Сознавая собственную силу, он отказался принести Генриху II вассальную присягу за аннексированную Чехию и оказывал поддержку германским герцогам и маркграфам, оспаривавшим у короля корону. Так, он нашел союзника в лице Генриха Швайнфуртского, обманутого в своих надеждах на получение герцогства Баварского и потому бунтовавшего против короля. В этой трудной для себя ситуации Генрих II решился на союз с язычниками — племенами полабских славян, издавна враждовавшими с Польшей.
С мятежом Генриха Швайнфуртского королю вскоре удалось справиться. Однако он не сумел дать отпор Болеславу, совершившему летом 1003 года вторжение в Германию и дошедшему, грабя и опустошая все на своем пути, до левобережья Эльбы. Ответный военный поход в Польшу летом следующего года оказался неудачным. Зато осенью Генриху II удалось вторгнуться через Рудные горы в Чехию и передать там власть враждебному Болеславу князю — его брату Яромиру. На обратном пути король отвоевал область мильчан и Баутцен, назначив в этом пограничье маркграфом Германа, сына погибшего Эккехарда. Летом 1005 года Генрих II опять выступил против Польши и сумел дойти до Познани, но, очевидно, не рассчитывая на большие успехи, был вынужден заключить с Болеславом, как выразился анналист, «недобрый мир». Этим соглашением, условия которого нам не известны с достаточной полнотой, закончилась первая фаза войн нового немецкого короля против Польши. Болеслав согласился возместить причиненный ущерб, что тем не менее не дает оснований говорить о признании им германского верховенства.
Генрих II не упускал из виду и другое важнейшее направление своей внешней политики — итальянское. Легкость, с какой Ардуину Иврейскому, опиравшемуся на поддержку значительной части итальянских магнатов, удалось вскоре после смерти Оттона III завладеть короной Лангобардского королевства, свидетельствовала об ослаблении власти немцев в Италии. Продолжая оттоновскую традицию, Ардуин поставил во главе своей канцелярии Петра, епископа Комо, много лет исполнявшего обязанности эрцканцлера при Оттоне III. Он привлек на свою сторону и архиепископа Миланского Арнульфа, только что возвратившегося из поездки в Константинополь за невестой для Оттона III. К нему присоединились также епископы Кремоны, Пьяченцы, Павии и Брешии. Словно собираясь и дальше продолжать политику Оттонов, Ардуин начал предоставлять привилегии церквям и монастырям. Прежде всего он подтвердил дарения Оттона III монастырю Спасителя в Павии, учрежденному императрицей Адельгейд. Затем Ардуин, желая, чтобы южные выходы альпийских перевалов находились в надежных руках, подтвердил право епископа Комо владеть весьма важным в стратегическом отношении Кьявеннским ущельем. Он привлек также на свою сторону и епископа Лоди. Тот факт, что он предоставил привилегии и монастырю в Лукке, доказывает, что его признала по крайней мере часть Тосканы. Однако Лев Верчелльский, главный противник Ардуина, пользовавшийся конфискованными у него имениями, не мог рассчитывать на пощаду и бежал к Генриху II.
Власть Ардуина не распространялась на восточную часть Северной Италии. Маркграф Каносский Тедальд сохранил верность немцам, а с ним также и епископ Модены. Архиепископ Равеннский Фридрих, сам немец (внебрачный сын Генриха Сварливого), личными интересами был привязан к Германскому королевству. Веронские ущелья, относившиеся к Каринтийской марке, от посягательств со стороны Ардуина защищал епископ Отберт Веронский. Явные и тайные враги новоявленного короля Ломбардии направляли гонцов к Генриху II, приглашая его с войском в Италию. В Регенсбурге, где в середине ноября 1002 года новый правитель Германии собрал своих магнатов, появились, помимо упомянутых епископов Льва Верчелльского и Отберта Веронского, также и послы от венецианского дожа Петра II Орсеоло, получившие от Генриха II подтверждение оттоновских привилегий для Венеции. Тем самым немецкий король был признан законным правителем Италии.
Однако Генрих был слишком занят укреплением своей власти в Германии, чтобы отправиться за Альпы с большим войском. Рассчитывая на помощь верных ему итальянских магнатов, он ограничился посылкой небольшой экспедиции во главе с герцогом Каринтийским Отто, которому были приданы Эрнст, сын маркграфа Восточной марки, и Отто, брат епископа Регенсбургского. Набралось войско численностью всего лишь 500 человек, которое незадолго перед Рождеством 1002 года и вошло в долину реки Адидже, чтобы затем севернее Вероны соединиться с отрядами маркграфа Тедальда и архиепископа Фридриха. Однако в Тренто они узнали, что им навстречу уже двинулся Ардуин, вклинившись между ними и союзниками и захватив Веронское ущелье. Поскольку намеченным путем невозможно было пройти, герцог Отто свернул в долину. Ардуин, предпринявший марш на Тренто, не нашел здесь противника и потому спешно возвратился на равнину у Вероны, чтобы немцы не обошли его. Когда же Отто направил к Ардуину, праздновавшему Рождество в замке поблизости от Вероны, гонцов, дабы, как было принято, условиться о времени и месте сражения, Ардуин их задержал, а затем почти одновременно с ними появился перед лагерем герцога Каринтийского на реке Бренте. Войско немцев в тот момент было рассредоточено по различным пунктам и разбрелось в поисках фуража, но сумело быстро собраться. Несмотря на внезапность нападения численно вдвое превосходившего противника, оно оказало достойное сопротивление, однако бегство Отто, брата епископа Регенсбургского, решило исход сражения в пользу Ардуина.