Еще в Бордо (где он установил связь с кружком последователей Виета и получал частные уроки математики от Жана Бограна), в молодости, Ферма работал над методом нахождения максимальных и минимальных значений, который, поскольку возник раньше, чем он изобрел аналитическую геометрию, не был основан на ней. Однако в течение примерно 15 лет математик возвращался к данной теме снова и снова, сочиняя небольшие трактаты, посвященные ей, и обсуждая ее в своей переписке. Эти записи наглядно показывают, как менялись мысли Ферма о его методе. В одном из писем Мерсенну он пообещал, что когда у него будет время, он напишет о нем большой трактат, чего так и не сделал. Речь идет о колоссальной потерянной возможности: если бы тулузский математик сдержал свое обещание, не исключено, что сегодня автором дифференциального исчисления мы считали бы Ферма.
Для ученого была характерна несколько хаотичная манера работы. Однажды Декарт с презрением сказал, что Ферма просто решает задачи (как реисты), а не систематизирует. Возможно, в чем-то он был прав. Гению из Тулузы было достаточно убедиться в том, что метод работает, чтобы увериться в его обобщенности, и он забывал про его доказательство. Исследование максимумов и минимумов не стало исключением.
В 1636 году в Париже начала распространяться рукопись Ферма под названием "Метод определения максимумов и минимумов и касательных к кривым линиям" (которую мы будем далее именовать Methodus, по ее латинскому названию). Methodus, написанная, вероятно, в 1629 году, состояла едва лишь из 600 слов. Она представляла собой пару инструкций, алгоритмов. Не было ни одного намека на то, как Ферма пришел к описанному результату, и ни одного доказательства. Как мы увидим, отсутствие ясности в Methodus вызовет у ученого немало проблем. Из-за своеобразной манеры изложения сочинение выглядело абсурдно. Практически сразу же, благодаря вмешательству Декарта, вокруг Methodus развязалась огромная полемика, и Ферма пришлось впервые и практически единственный раз в своей жизни дать детальное объяснение своего метода. Целых пять рукописей, включая письмо Брюлару, написал наш герой на эту тему. Самая важная из них — "Аналитическое исследование метода максимумов и минимумов" (далее "Аналитическое исследование"), в котором он объединяет два подхода, с одной стороны, исходя из работ Виета, а с другой — опираясь на труды Евклида и Паппа.
Действительно, Папп столкнулся с задачей, в которой ему потребовалось получить максимум. Такие задачи привычны для нас сегодня: например, найти геометрическую фигуру, обладающую наибольшим объемом с наименьшей площадью поверхности (сфера). Или, в качестве обратной задачи, определить, являются ли пчелиные соты оптимальной формой покрытия плоскости. Как видно, у данного типа задач много общего с задачами на оптимизацию. В любом случае, внимание Ферма привлекло то, что максимум, который искал Папп, был "единственным и исключительным". Пользуясь своими гуманитарными способностями, Ферма смог понять автора, что считал невозможным сам переводчик Паппа на латынь, Федерико Коммандино. Папп говорил о том, что экстремум является единственным. На основе этого, а также опираясь на работы Виета, Ферма придумал, как составить квадратное уравнение, отвечающее условиям задачи Паппа, у которого было бы только одно решение.
Вспомним, что у квадратного уравнения обычно два корня (мы говорим "обычно", поскольку во времена Ферма некоторые корни — от иррациональных до комплексных, не говоря уже об отрицательных — не допускались). Дело в том, что Виет изобрел метод выражения коэффициентов уравнения через два его корня, который он назвал синкризис.
Синкризис состоит в том, чтобы скомбинировать похожие уравнения с целью получить выражения, в которых корни связаны с их коэффициентами. Например, из уравнения bx - x2 = c, корнем которого является х, можно получить уравнение by - у2 = с, где у — другой корень. Виет приравнивал оба уравнения: bx - х2 = by - у2, откуда
b(x - y) = x2 - y2 <-> b = (x2 - y2)/(x - y) = x + y;
и после замены с = (х + у) х - х2 = х2 + ху - х2 = ху. Таким образом, как b, так и с выражаются через х и у.
Проиллюстрируем метод примером: разделим отрезок АE точкой Е так, чтобы АЕ ∙ ЕВ было максимумом.
Пусть АВ = b.