Король по вполне понятным причинам много времени уделял Норвегии. Страна присоединилась к Швеции совсем недавно и не совсем добровольно, и требовалось уделять постоянное внимание болезненным процессам адаптации Норвегии к условиям нового союза. Карл Юхан мечтал о том, чтобы союз двух стран стал менее формальным и чтобы обе страны имели один общий парламент и одно правительство. Мечта эта была, конечно, утопической, потому что её осуществления не хотели норвежцы. Они на протяжении 91 года существования унии только и делали, что во всём противоречили и сопротивлялись шведской гегемонии. Дело ограничилось пока общим королём и общей внешней политикой.
Большие неудобства для короля представлял Основной закон Норвегии от 1814 года, в частности, раздражало то обстоятельство, что вето короля на постановления стуртинга не было абсолютным, однако все усилия изменить закон в свою пользу разбивались об упорство норвежцев. Для утешения Карла Юхана норвежцы увеличили ему размеры апанажа.
Уступил король и в вопросе создания дворянского сословия. Думается, его политика в этом вопросе основывалась не на личных убеждениях, а скорее с оглядкой на Священный союз: что там могли подумать о его Норвегии, упразднявшей дворянство как класс? Поэтому, как образно выразился норвежец Эрик Бьёрнскау, бывший республиканец и левый политик Бернадот во взаимоотношениях со шведскими и норвежскими либералами "всё чаще сталкивался в дверях с самим собой".
Таким образом, надежды Карла Юхана сделать унию с Норвегией более тесной и сплочённой, не оправдывались.
На внеочередном стуртинге 1828 года король готовился дать норвежцам решающий бой, но отсоветовал царь Николай I. Он сказал, что раз уж норвежцам дали конституцию, то взять её обратно никогда не удастся. 17 мая 1829 года норвежцы вышли на улицы Христиании (Осло), чтобы отметить свой день, и губернатор фон Платен по приказу из Стокгольма двинул на демонстрантов войска. Результат был вполне предсказуем: кроме усиления сопротивления со стороны упрямых норвежцев добиться ничего не удалось. И король снова пошёл на уступки. В 1836 году он предпринял очередную попытку изменить закон о праве вето, но из этого снова ничего не получилось. Он велел отдать под суд премьер-министра Северина Лёвеншёльда, но стуртинг оштрафовав его на 1000 талеров, оставил в должности. Стуртинг — вот кто был главным противником Карла Юхана! Именно норвежский парламент нанёс бывшему победоносному маршалу больше всех поражений и унижений.
Вопреки всем этим событиям популярность Карла Юхана в Норвегии была весьма высока. Народ, в особенности его слабая половина, его любил. Король был заботливым правителем и вникал во все дела. Он устраивал университет, школы и больницы, он узнал, кто в Европе ловит треску, и уделял развитию норвежского рыболовства и судостроения самое пристальное внимание; он построил в Осло королевский дворец (камень в основание дворца был заложен в 1825 году в присутствии королевы Дезидерии).
Во время своей последней почти полугодовой поездки в Норвегию в 1838–1839 годах он был тепло встречен норвежцами. Он снисходительно отнёсся к предложению стуртинга ввести собственный торговый флаг, дал согласие на организацию шведско-норвежской комиссии, призванной отрегулировать вопросы символики, королевского титула (например, норвежцы требовали, чтобы в Норвегии её название шло раньше Швеции, т. е. "король Норвежцев, Свеев, Гогов и Вендов") и имени (в Норвегии Карл Юхан был не четырнадцатым по счёту, а всего лишь третьим!).
Подводя своеобразный итог своего 12-летнего правления, Карл Юхан в обращении к риксдагу 13 марта 1830 года отметил, что население Швеции увеличилось с 2,5 млн до 3 млн человек, а внешний долг Швеции сократился с 53 до 3 млн риксталеров. За это время существенно снизились налоги, улучшилось законодательство, выросла зарплата государственных служащих, введена пенсионная система и завершилось строительство Ёта-канала.
Последние годы правления Карла Юхана были спокойными и прошли под знаком всеобщего примирения. К старости он стал склонен к многословию и назидательности. Но кто из стариков свободен от этого недостатка?