Как мы видели, ответ Декарта (всегда через Мерсенна) был разгромным. Он открыто выражал презрение к математику, даже не упоминая его имени и говоря, что если Ферма не пересмотрит свои работы, то он не снизойдет до чтения других его результатов, которые тот обещал ему послать. В то же время он обвинял Ферма в том, что тот систематично нападает на него, хотя в действительности тулузский ученый всего лишь один раз выступил против его "Диоптрики".
"[Я бы предпочел] ничего не говорить о статье, которую Вы мне прислали [Methodus], поскольку я не могу сказать ничего в пользу того, кто ее написал [...]".
Декарт в письме, посланном Мерсенну 18 января 1638 года, о работе Methodus Ферма
Мерсенн в этой полемике проявил редкий талант к провоцированию скандала. Вместо того чтобы послать ответ Декарта напрямую Ферма, он, в свою очередь, направил его парижским врагам Декарта, Этьену Паскалю и Робервалю, которые не мешкая вступили в полемику, действуя как слон в посудной лавке, часто неправильно истолковывая работу своего подзащитного. Это подтвердило худшие страхи Декарта: против него организовали заговор, и Ферма являлся только пешкой в руках парижан.
В любом случае, Декарт перешел некоторые границы. Если его второе возражение, направленное на то, что метод касательных не вытекает из метода максимумов и минимумов, понятно с учетом неясности изложения Methodus, то первое было просто абсурдным. Декарт утверждал, что метод Ферма дает одну и ту же касательную для любой известной кривой, но это была неправда, поскольку замена слова "парабола" на слово "эллипс" требует и замены математического определения параболы на определение эллипса, и в этом случае метод Ферма работал бы безукоризненно.
Декарт закончил свое письмо в очень снисходительном тоне, снова рекомендуя Ферма прочитать внимательно "Геометрию", в которой, как он утверждал, было все, что Ферма открыл. Только с помощью его книги, заключал Декарт, можно прийти к истине. Таким образом, столкнувшись с математическим гением того же уровня, Декарт не мог этого признать: он лишь уверил себя в том, что монополия на истину была у него.
Чтобы доказать свою точку зрения, Декарт бросил вызов: попросил Ферма найти касательную к заданной кривой, которую затем назвали "декартов лист". Ферма ответил правильным решением. Тулузский ученый получил результат двумя способами. Второй из них был основан на идеях самого Декарта, где он использовал нормаль для вычисления касательной; так он хотел доказать своему сопернику, что его метод дает те же самые результаты, но проще. Однако Ферма не смог добиться того, чтобы его метод приравнивания был полностью принят его соперниками. Тем не менее в своей обычной манере он думал, что если метод работает, то он должен быть истинным. В любом случае, к счастью для историков, полемика длилась какое-то время, из-за чего Ферма был вынужден в первый раз обосновать свои результаты несколько подробнее.
По сути все это было недоразумением. В "Аналитическом исследовании" уже было ясно, что возражение Декарта о том, что метод касательных не основан на методе максимумов и минимумов, ложное. В конце концов посредник, работавший в стиле Декарта, французский математик Жерар Дезарг (1591 — 1661), принял соломоново решение в данной полемике: Декарт был прав в том, что выразил недоверие, поскольку изложение Ферма, представленное в Methodus, было недостаточно ясным. Но по сути Ферма был прав: его метод касательных был абсолютно универсальным. Оба гиганта столкнулись с проблемой оценки их личности. Точнее, проблема была в личности философа, поскольку Ферма в целом вел себя довольно корректно. Декарт нехотя согласился с этим вердиктом и даже извинился перед Ферма за свои оскорбления, но не упустил возможности в будущем оправдаться, пытаясь омрачить репутацию Ферма. Последний же продолжил свою полемику с Декартом и его последователями еще через 20 лет, когда его соперник уже умер. Из его дальнейших записей очевидно восхищение, которое он испытывал к Декарту, несмотря на критику. В некотором смысле, хотя Ферма так и не оставил идей Виета, он все же обратил внимание на Декарта и частично принял его "Геометрию". Но раны, вызванные этой полемикой и тем, как презрительно относился к нему Декарт, пытаясь понизить его авторитет в математическом сообществе, так никогда и не затянулись.
В ходе исследований о касательных, максимумах и минимумах Ферма постепенно ушел от своего приравнивания к намного более современному понятию квази-равенства, настолько произвольно близкого к точке, что разница практически равна нулю. Но именно в своем методе квадратур он сделал последний шаг к анализу бесконечно малых, к произвольно малым величинам. К тому времени Ферма уже оставил позади свои методы касательных, максимумов и минимумов и никогда не пересматривал их в свете своих новых идей.
Проблема квадратур существовала уже в античности, ими занимались даже Евдокс и Архимед. В целом она состоит в том, чтобы найти площадь, ограниченную некоей кривой и прямой (обычно осью), или, когда кривая полностью окружает точку, как в случае со спиралями, — площадь, ограниченную кривой. Как это делали древние, данная площадь выражается построением прямоугольника, площадь которого равна искомой площади, то есть нахождением произведения двух рациональных чисел а и b, образующих стороны прямоугольника. Действительно, во многих случаях они получали несколько прямоугольников, площади которых в сумме давали искомую площадь.
Вскоре греки столкнулись с очень сложной задачей. Речь шла о нахождении квадратуры самой элементарной фигуры — круга. И сколько бы усилий ни прилагали греки, им не удалось построить прямоугольник с рациональными сторонами, который имел бы такую же площадь. Причина их неудачи была найдена только в XIX веке: число π, с помощью которого обязательно выражается площадь круга, не может быть выражено не только в рациональном виде, но даже в качестве результата алгебраического уравнения. Сегодня такие числа называются трансцендентными, и они относятся к иррациональным числам.
Сложность квадрирования некоторых кривых не ускользнула от Ферма, но, как мы уже сказали, его аналитическая геометрия порождала бесконечное число кривых. В частности, кривые конических сечений степени больше квадрата внезапно стали отлично доступными в виде уравнений. Итак, вместо того чтобы увлекаться неквадратными кривыми, такими как круг, Ферма применил свой метод к кривым высшей степени. Убежденность ученого в том, что эти кривые идеально определяются его уравнением, постепенно привела Ферма к тому, чтобы не беспокоиться об их геометрическом представлении. В письмах и трактатах он каждый раз все более демонстративно забывал о графике кривой и сосредотачивался на алгебраических действиях. Как всегда, Ферма начал свою работу на основе трудов греческого ученого. В этот раз это был не Аполлоний и не Диофант, а Архимед. Окончательные работы Ферма на эту тему были опубликованы его сыном Клеманом-Самюэлем после его смерти, и хотя они не были поняты людьми уровня Гюйгенса, автора уже не было в живых, чтобы, как это было в случае с Декартом, прояснить то, что он хотел сказать.
Иллюстрация метода исчерпывания, при котором площадь под кривой находится между большей и меньшей площадями.
Возвращаясь к раннему времени его переписки с Мерсенном и Робервалем, в 1636 году, мы видим, что Ферма был занят трактатом Архимеда о спиралях, в котором тот нашел квадратуру спирали, носящей его имя. Ферма распространил этот метод на другие спирали, например на ту, которую он нашел при решении задачи Галилея, упомянутой нами ранее. Ферма бросил вызов Робервалю, предлагая ему найти квадратуру кубической параболы, графика кубической функции: у3 - kx, которую он рассматривал впервые и которая была очень похожа на параболу. Роберваль ответил сразу же. У него уже был метод, подобный методу Ферма, основанный на теореме о сумме степеней целых чисел, найденной тулузцем в ходе исследований по теории чисел, и старом "методе исчерпывания", изобретенном Евдоксом и примененном Архимедом. Он состоит в том, чтобы определить искомую площадь между двумя суммами (см. рисунок). Одна из этих сумм — сумма прямоугольников, подобных DEFG (описанных), большая, чем реальная площадь под кривой, другая — сумма площадей прямоугольников, подобных HIFG (вписанных), меньшая, чем искомая площадь. Очевидно, что реальная площадь находится между этими двумя суммами. Метод исчерпывания состоял в том, чтобы предложить площадь и обосновать методом двойного доказательства от противного, что она является единственной площадью, величина которой находится между этими двумя суммами; это может быть только реальная площадь.