Имея в виду войну англичан с французами, Мэдисон полагал, что американские войска смогут легко овладеть южной частью Канады, а затем использовать этот факт как преимущество в мирном торге с англичанами или даже просто превратить эту территорию в свое владение, а затем в новый штат. 1 июня 1812 г. Мэдисон обратился к Конгрессу с предложением об объявлении войны Великобритании. Несмотря на сопротивление федералистов из Новой Англии, экономика которой страдала в результате прекращения зарубежной торговли, Конгресс поддержал президента. Один за другим были приняты законы об увеличении вооруженных сил, военной подготовке милиции штатов, ускоренном выпуске из военной академии, расширении производства амуниции.
Но военные усилия встретили сопротивление со стороны противников войны. Губернаторы штатов отказывались направлять милицию за пределы своих территорий. Генералы, не нюхавшие пороха, проявляли некомпетентность. Когда стало ясным, что, скорее всего, придется вести реальные военные действия, в самом Конгрессе стали раздаваться выступления против войны, а на местах привыкшие к мирной жизни обыватели, проявлявшие на словах патриотизм, под любыми предлогами отказывались идти в армию. В штатах Новой Англии (северо-восток страны) считали, что с соседней Канадой надо вести взаимовыгодную торговлю, а не стремиться ее завоевать. Участились случаи, когда в этих штатах просто отказывались выделять средства на содержание армии. Обстановку еще более осложнял тот факт, что в предыдущие годы в результате экономии средств численность федеральной армии сильно сократилась и основные силы оказались сосредоточенными в отдельных штатах, представляя собой плохо обученную и слабо дисциплинированную милицию.
Развитие событий в Европе также оказалось неблагоприятным для США и их президента. Поражение Наполеона в России в 1812 г. привело к тому, что чаша весов склонилась в пользу Великобритании. Мэдисон надеялся на окончание войны в течение нескольких месяцев после того, как американские войска займут прилегающие к территории США районы Канады. Но его надежды не оправдались. Губернаторы северо-восточных штатов отказывались сотрудничать с центральным правительством в вопросах ведения войны. Офицеры, командовавшие милицией штатов, не желали включать ее в регулярную армию и посылать на северную границу. Среди офицеров небольшой федеральной армии оказались настолько некомпетентные и трусливые лица, что при соприкосновении с британскими частями, двигавшимися из Канады, они часто сдавались, не оказывая сопротивления. Англичане вооружали индейские племена, которые угрожали США с северо-запада.
Чтобы изменить это катастрофическое положение, требовались большие финансовые средства. Однако Банк США ими не располагал. Налоги поступали нерегулярно, штаты от уплаты уклонялись. Банки Нью-Йорка и Филадельфии соглашались предоставить правительству займы, но под высокие проценты.
Пойдя на соглашения с банками и получив некоторые средства, Мэдисон с помощниками организовал правительственные заказы на вооружения и прежде всего на строительство военных кораблей. В бухте Сэккет (штат Нью-Йорк) было начато быстрыми темпами возведение верфей. Тем временем американскому ВМФ удалось добиться нескольких небольших побед в столкновениях с англичанами на море и озере Эри.
В марте 1814 г. генерал Эндрю Джексон добился победы над англичанами и связанными с ними индейскими вождями в бою при Хорсшу-Бенд на юго-западе страны. Однако все попытки вторгнуться в Канаду были отбиты. Еще в конце 1813 г. британские войска вступили на территорию США с севера и предали огню город Буффало в штате Нью-Йорк.
В этих условиях Мэдисон, начавший второй президентский срок в условиях войны (он, правда не получил ни одного голоса выборщиков от штатов Новой Англии), вынужден был направить своих представителей в Европу, прибегнув к посредничеству российского императора Александра I. В миссию был, между прочим, включен сын президента Адамса Джон Куинси, который позже сам станет президентом.
Однако переговоры в голландском Генте зашли в тупик, так как англичане требовали создания на западной границе США буферного индейского государства, которое в случае согласия Мэдисона на этот проект стало бы серьезным препятствием для дальнейшего расширения территории США. Переговоры были прекращены.
Военные действия возобновились с новой силой. В начале августа 1814 г. английские войска высадились в районе узкого и длинного залива Чесапик в штате Мэриленд, а затем двинулись на столицу. В конце месяца им удалось захватить Вашингтон. Были сожжены Белый дом и Капитолий. Президентская чета оставила столицу лишь за несколько дней до ее занятия англичанами. Сохранявшая хладнокровие Долли Мэдисон смогла увезти из резиденции некоторые ценности и важнейшие документы. По всей видимости, ее супруг не принимал в этом участия не в силу того, что он испугался, как это утверждали его критики, а потому, что в критический момент был занят руководством военными действиями.