Хорошо понимая, что Карл V не прекратит свои попытки подчинить их себе, ряд протестантских государей (курфюрст Саксонский, ландграф Гессенский и др.) в декабре 1530 г. создали в тюрингском городке Шмалькальден религиозно-политический союз, направленный против католических князей и императора. К ним присоединились некоторые города. Теперь Карлу V пришлось иметь дело с серьезной военно-политической оппозицией, действовавшей под религиозными лозунгами. Князья использовали нужду Карла в войсках для защиты границ Империи от турок и уже в апреле 1531 г. условием предоставления военной помощи откровенно поставили свободоволию не только на Северном море, но и на Балтике. Власти Любека попытались войти в союз с Англией, обещая помочь Генриху VIII стать датским королем. Английский монарх в то время находился во враждебных отношениях с императором, и Карл прямо писал в мае 1534 г. правительнице Нидерландов Марии Венгерской, что необходимо принять все меры, чтобы помешать осуществлению этих планов. Вскоре в Любеке произошел переворот, и идея Северного протестантского союза во главе с Англией не была реализована.
В июне 1538 г. Карл V стал инициатором создания еще одного политического союза, получившего название Католической лиги. Она была создана с целью объединения Империи и католических княжеств Германии для защиты католической веры.
В это же время в Ницце проходили переговоры между Карлом V и Франциском I. Они явились результатом усилий папы Павла III, мечтавшего о примирении императора и французского короля и объединении их сил в борьбе против Реформации и турок. Во время переговоров сложилась любопытная ситуация. Карл V и Франциск I настолько ненавидели друг друга, что не желали встречаться лично и обсуждали международные проблемы через посредничество папы. При этом Карл V и Павел III хотели вырвать у Франциска I согласие участвовать в военных походах против турок и протестантов. В свою очередь, французский король заявил о своих претензиях на Милан. Наконец, подписание мира в Ницце состоялось. На этой церемонии все-таки присутствовали оба монарха, что дало возможность французскому художнику Клуэ запечатлеть их вместе. На переднем плане картины изображены Франциск I и Карл V, а за ними стоит римский папа, истинный вдохновитель этого мира. Надо сказать, что старания Павла III оказались напрасными: хотя обе стороны договорились вести борьбу с турками и еретиками в Германии, дальше словесных деклараций дело не пошло.
Вскоре франко-габсбургские отношения снова стали ухудшаться. Противоречия, разделявшие участников мира в Ницце, оказались слишком глубокими. Полное примирение было возможно только при условии отказа Карла V от широких имперских замыслов, а Франциска I от планов утверждения гегемонии в Италии. Ни первый, ни второй не хотели уступать. В воздухе снова запахло войной. Поводом к ней стало убийство летом 1541 г. в Италии двух французских послов Чезаре Фрегозо и Антонио Ринкона.
Карл постарался расколоть Шмалькальденский союз, чтобы лишить его возможности оказать помощь Франции. Именно с целью ликвидации последнего летом 1538 г. император начал секретные переговоры с ландграфом Филиппом Гессенским, наиболее решительным из лидеров Шмалькальденского союза. Видя, что между его вождями не прекращается борьба за пальму первенства, Карл задумал вбить клин между ними и тем самым добиться своих целей. Одновременно агенты императора пытались с помощью различных уступок и обещаний привлечь на свою сторону курфюрста бранденбургского.
Кроме тайных переговоров, Карл прибег к прямому военному давлению на князей. Император давно стремился присоединить к своим владениям герцогство Клеве, расположенное на границе Нидерландов и Германии. Обладание им давало значительные стратегические преимущества. Сначала Карл хотел присоединить его с помощью династических комбинаций. Однако после того как это не удалось, император захватил Клеве, использовав военную силу. Обладание герцогством развязало Карлу руки для борьбы с протестантскими князьями. Постепенно перевес сил оказался на стороне императора.
Для достижения преобладания над князьями ему была необходима не только моральная, но и материальная поддержка римского престола. Однако в 1544 г. император и папа находились во враждебных отношениях. Попытки Павла III использовать императора в своих интересах и привлечь к борьбе против турок (хотя Карл в других ситуациях боролся с ними, но делал это исходя из имперских интересов, а не из стремления помочь папе) не увенчались успехом. Павел III в данном случае поддерживал Францию. Но вскоре наступление габсбургских войск там захлебнулось, и 17 сентября Карл V и Франциск I заключили мир в Крепи. Франция продолжала находиться в состоянии войны с Англией, начавшейся в июне 1544 г. Император искусно подогревал воинственный настрой Генриха VIII, так как продолжение англо-французского конфликта развязывало ему руки в Германии.
В 1545 г. специально по вопросу о борьбе с Реформацией в Германии был созван Тридентский собор. В отличие от Павла III, пытавшегося примирить все католические силы для борьбы с новым учением, Карл V стремился превратить этот собор в орудие политического давления на протестантских князей.
26 июня 1546 г. император и папа подписали договор, направленный против князей Германии, не придерживавшихся католического вероисповедания. Папа опубликовал буллу об освобождении от грехов всех, кто вступит в антипротестантский союз. Таким образом, Карл V и Павел III решили военным путем подавить протестантизм в Германии.
Кроме заключения этого союза, император совершил очень ловкий дипломатический ход. Карл V заметил и оценил честолюбие и способности молодого герцога Морица Саксонского, родственника лидеров Шмалькальденского союза (Иоганну Фридриху I он приходился племянником, а Филиппу Гессенскому — зятем). Иоганн Фридрих и Филипп держали Морица на вторых ролях, не давая ему выдвинуться. Мориц, человек энергичный и честолюбивый, стремился подчинить своей власти все саксонские земли и мечтал о титуле курфюрста. Воспользовавшись обострением отношений между Карлом V и протестантскими князьями, он предъявил Иоганну Фридриху I территориальные претензии. Тогда-то император и разыграл блестящую политическую комбинацию: обещал Морицу отдать часть владений Иоганна Фридриха I и даровать титул курфюрста. Переговоры в Праге завершились заключением 14 октября 1546 г. военно-политического союза между Морицем Саксонским и Фердинандом Австрийским (братом Карла), согласно которому Мориц обязывался вступить в войну на стороне Габсбургов через шесть дней после начала военных действий Фердинандом против Шмалькальденского союза.
Политическое чутье не изменило Карлу V. Он точно рассчитал момент начала войны против протестантов, оставшихся без поддержки Франции и Англии, ресурсы которых были истощены предшествующими войнами. Вскоре Мориц Саксонский начал активные действия, что позволило Карлу собраться с силами и, пока князья действовали разрозненно, достигнуть необходимого преимущества. К началу весны 1547 г. перевес сил оказался на стороне императора и Морица. 24 апреля войска Карла V без особого труда одержали победу над остатками армии Иоганна Фридриха в сражении при Мюльберге, местечке, расположенном севернее Дрездена по течению Эльбы. Это было первое сражение, в котором с обеих сторон действовали рейтары, вооруженные пистолетами. После победы при Мюльберге император произнес, перефразируя в католическом духе известное высказывание Гая Юлия Цезаря: «Пришел, увидел, Бог победил».
Одержать победу в этой войне, которая известна в истории как Первая Шмалькальденская, императору удалось благодаря умелым дипломатическим ходам, измене князьям Морица Саксонского и поддержке со стороны римского престола.
Павел III надеялся, что Карл, получив от него денежную помощь, ограничится подчинением протестантов католической церкви. Но действия императора показали ему, что тот остался верен своей идее универсальной католической империи, в которой папству отводилась второстепенная роль. И поэтому, не желая превращать церковный собор в орудие универсалистской политики Габсбургов, папа в 1547 г. под предлогом эпидемии чумы спешно перенес его заседания из Тридента в Болонью, подальше от Германии. Таким образом, Карл лишился крайне необходимой ему в тот момент поддержки римского папы. В августе император направил ему протест против переноса собора в Болонью, подчеркивая, что этого никак нельзя делать в то время, когда христианской религии угрожает опасность и уже принято решение о том, что совсем скоро все немецкие князья и епископы соберутся на собор в Аугсбурге. Однако собор в Болонье работал, а вернее, практически бездействовал, до 1562 г.