Хотя у Мэдисона не было опыта во внешней политике, именно он возглавил это направление в кабинете Джефферсона, который руководствовался прежде всего стремлением сохранить международные дела в собственных руках. Но Мэдисон не был бы Мэдисоном, если бы не попытался занять собственную позицию. Тогда как президент был целиком на стороне Франции в ее начавшейся войне с коалицией монархов во главе с Великобританией, госсекретарь выступил за строгий нейтралитет. Эта политика имела отрицательные последствия для самих США. Под нажимом госсекретаря Джефферсон согласился на введение эмбарго по отношению ко всем воюющим странам. Хотя фактически торговля продолжалась, она стала нелегальной, что взвинтило цены и вызвало недовольство на северо-востоке страны, где федералисты, представлявшие интересы развивавшегося промышленного и торгового капитала, сохраняли влияние, хотя оно все более сокращалось.
Немалые трудности возникли во время подготовки к выборам 1808 г. Уходивший в отставку Джефферсон видел своим наследником именно Мэдисона. Но против него ополчились не только федералисты, но часть собственной партии. В основном речь шла о конкурентной борьбе за выгодные должности, поиске тех, кто сможет оказывать покровительство своим приверженцам и давать им возможность получать высокие доходы. В принципиальности Мэдисона эти группы, особенно активные в Пенсильвании, Нью-Йорке и Вирджинии, видели немалое препятствие своим коммерческим и прочим интересам. Действительные мотивы этих групп обычно прикрывались заявлениями о вредоносности сильного центрального правительства, о суверенности штатов и об интересах американской демократии. Возникли различные группировки и блоки, препятствовавшие выдвижению Мэдисона. Они получили полупрезрительное ироническое название tertium quids (по латыни «кто-то третий»). Противники Мэдисона дошли даже до того, что высмеивали его внешний вид — низкий рост (163 сантиметра) и худобу (он весил менее 50 килограммов). Как может такой карлик управлять страной, претендующей на равенство с крупнейшими европейскими державами?! — восклицали противники. Однако по настоянию уходящего президента созванный в январе 1808 г. номинационный кокус (неформальное собрание) руководства Демократическо-республиканской партии поддержал кандидатуру Мэдисона.
Федералистская партия, располагавшая к этому времени своими организациями только в Новой Англии, все более слабела. Мэдисон легко выиграл выборы у ее кандидата Чарльза Пинкни. В коллегии выборщиков он получил 122 голоса, Пинкни — 47; 6 голосов были поданы за Джорджа Клинтона.
Единственной уступкой, на которую пошел становившийся все более жестким политиком Мэдисон, было согласие оставить на посту вице-президента Клинтона, который и при Джефферсоне не вмешивался в наиболее острые политические дела. Клинтон мирно прослужил в первой администрации Мэдисона, а во второй был заменен Элбриджем Генри из штата Массачусетс, который также предпочитал выполнять отдельные распоряжения президента, не проявляя собственных амбиций.
Из всех правительственных назначений особенно удачным оказался Альберт Галлатин, который был теперь назначен государственным секретарем. Против него, правда, раздавались голоса в Сенате, в основном потому, что он не был коренным американцем, а являлся иммигрантом из Швейцарии. Но заслуги Галлатина перед американской революцией говорили сами за себя. Переселившийся в США в возрасте чуть более 20 лет, он активно поддержал республику, был депутатом Ассамблеи штата Пенсильвания, Палаты представителей и Сената, стал соратником Джефферсона в руководстве Демократическо-республиканской партии. Являясь секретарем казначейства в правительстве Джефферсона, он неоднократно выполнял дипломатические поручения, а теперь возглавил внешнеполитическое ведомство и стал ближайшим советником нового президента.
Мэдисон был первым президентом, который унаследовал Белый дом у представителя своей же партии. Это облегчило формирование кабинета и руководство страной в условиях первой серьезной войны, в которую вступили США после Войны за независимость. Внешне мало представительному, низенькому и худенькому президенту пришлось несколько лет реально выполнять функции Верховного главнокомандующего, предусмотренные Конституцией.
К тому времени, когда Мэдисон приступил в марте 1809 г. к исполнению президентских полномочий, отношения между США и Великобританией резко ухудшились. Серьезный конфликт возник в связи с судьбами моряков обеих стран. Во время войн Великобритании с наполеоновской Францией было немало случаев дезертирства английских моряков, которые искали убежища в США. Требования об их выдаче игнорировались, морякам предоставлялось убежище. Тогда англичане стали захватывать американские торговые корабли и, более того, принуждали их матросов записываться в британский военный флот.
Мэдисон и Галлатин пытались урегулировать вопрос миром. Шел обмен нотами, велись переговоры с британским послом Дэвидом Эрскином, который давал неопределенные обещания. Но даже они не понравились главе Форин-офис Джорджу Каннингу, который отозвал Эрскина и назначил на его место Джеймса Джексона, известного своими антиамериканскими настроениями.
Наиболее горячие головы в Конгрессе выступали за объявление войны Великобритании, но президент сопротивлялся, обращая внимание на большие расходы и неизбежное повышение налогов, которые вызовет новая война, не говоря уже о человеческих потерях (как всегда, для правителей это не было главным). Но отношения ухудшались неуклонно. Новый британский посол не был признан президентом, и ему даже было запрещено появляться в Госдепартаменте. В результате он покинул Вашингтон, но оставался на территории США, перебравшись в Бостон, остававшийся одним из последних оплотов федералистов, сторонников союза с Великобританией.
В начале 1810 г. Мэдисон обратился к Конгрессу с просьбой о выделении дополнительных средств на пополнение армии и ВМФ, причем мотивировал это опасностью войны против Великобритании. На протяжении 1810–1811 гг. пресса призывала ко «второй войне за независимость», на дополнительных выборах в Конгресс побеждали, как правило, «военные ястребы» (именно тогда этот термин стал использоваться для обозначения тех, кто особенно рьяно призывал к войне). Воинственные настроения оказали влияние на президента, который поддался тревоге и решился объявить войну.
Имея в виду войну англичан с французами, Мэдисон полагал, что американские войска смогут легко овладеть южной частью Канады, а затем использовать этот факт как преимущество в мирном торге с англичанами или даже просто превратить эту территорию в свое владение, а затем в новый штат. 1 июня 1812 г. Мэдисон обратился к Конгрессу с предложением об объявлении войны Великобритании. Несмотря на сопротивление федералистов из Новой Англии, экономика которой страдала в результате прекращения зарубежной торговли, Конгресс поддержал президента. Один за другим были приняты законы об увеличении вооруженных сил, военной подготовке милиции штатов, ускоренном выпуске из военной академии, расширении производства амуниции.
Но военные усилия встретили сопротивление со стороны противников войны. Губернаторы штатов отказывались направлять милицию за пределы своих территорий. Генералы, не нюхавшие пороха, проявляли некомпетентность. Когда стало ясным, что, скорее всего, придется вести реальные военные действия, в самом Конгрессе стали раздаваться выступления против войны, а на местах привыкшие к мирной жизни обыватели, проявлявшие на словах патриотизм, под любыми предлогами отказывались идти в армию. В штатах Новой Англии (северо-восток страны) считали, что с соседней Канадой надо вести взаимовыгодную торговлю, а не стремиться ее завоевать. Участились случаи, когда в этих штатах просто отказывались выделять средства на содержание армии. Обстановку еще более осложнял тот факт, что в предыдущие годы в результате экономии средств численность федеральной армии сильно сократилась и основные силы оказались сосредоточенными в отдельных штатах, представляя собой плохо обученную и слабо дисциплинированную милицию.
Развитие событий в Европе также оказалось неблагоприятным для США и их президента. Поражение Наполеона в России в 1812 г. привело к тому, что чаша весов склонилась в пользу Великобритании. Мэдисон надеялся на окончание войны в течение нескольких месяцев после того, как американские войска займут прилегающие к территории США районы Канады. Но его надежды не оправдались. Губернаторы северо-восточных штатов отказывались сотрудничать с центральным правительством в вопросах ведения войны. Офицеры, командовавшие милицией штатов, не желали включать ее в регулярную армию и посылать на северную границу. Среди офицеров небольшой федеральной армии оказались настолько некомпетентные и трусливые лица, что при соприкосновении с британскими частями, двигавшимися из Канады, они часто сдавались, не оказывая сопротивления. Англичане вооружали индейские племена, которые угрожали США с северо-запада.
Чтобы изменить это катастрофическое положение, требовались большие финансовые средства. Однако Банк США ими не располагал. Налоги поступали нерегулярно, штаты от уплаты уклонялись. Банки Нью-Йорка и Филадельфии соглашались предоставить правительству займы, но под высокие проценты.
Пойдя на соглашения с банками и получив некоторые средства, Мэдисон с помощниками организовал правительственные заказы на вооружения и прежде всего на строительство военных кораблей. В бухте Сэккет (штат Нью-Йорк) было начато быстрыми темпами возведение верфей. Тем временем американскому ВМФ удалось добиться нескольких небольших побед в столкновениях с англичанами на море и озере Эри.
В марте 1814 г. генерал Эндрю Джексон добился победы над англичанами и связанными с ними индейскими вождями в бою при Хорсшу-Бенд на юго-западе страны. Однако все попытки вторгнуться в Канаду были отбиты. Еще в конце 1813 г. британские войска вступили на территорию США с севера и предали огню город Буффало в штате Нью-Йорк.