Иллюстрация метода исчерпывания, при котором площадь под кривой находится между большей и меньшей площадями.
Возвращаясь к раннему времени его переписки с Мерсенном и Робервалем, в 1636 году, мы видим, что Ферма был занят трактатом Архимеда о спиралях, в котором тот нашел квадратуру спирали, носящей его имя. Ферма распространил этот метод на другие спирали, например на ту, которую он нашел при решении задачи Галилея, упомянутой нами ранее. Ферма бросил вызов Робервалю, предлагая ему найти квадратуру кубической параболы, графика кубической функции: у3 - kx, которую он рассматривал впервые и которая была очень похожа на параболу. Роберваль ответил сразу же. У него уже был метод, подобный методу Ферма, основанный на теореме о сумме степеней целых чисел, найденной тулузцем в ходе исследований по теории чисел, и старом "методе исчерпывания", изобретенном Евдоксом и примененном Архимедом. Он состоит в том, чтобы определить искомую площадь между двумя суммами (см. рисунок). Одна из этих сумм — сумма прямоугольников, подобных DEFG (описанных), большая, чем реальная площадь под кривой, другая — сумма площадей прямоугольников, подобных HIFG (вписанных), меньшая, чем искомая площадь. Очевидно, что реальная площадь находится между этими двумя суммами. Метод исчерпывания состоял в том, чтобы предложить площадь и обосновать методом двойного доказательства от противного, что она является единственной площадью, величина которой находится между этими двумя суммами; это может быть только реальная площадь.
Метод Ферма и Роберваля не работал для некоторых кривых, как они оба быстро убедились. Казалось, Ферма перестал интересоваться данной темой. Но в 1658 году он практически сразу же ответил на недавнюю работу Уоллиса о квадратурах, распространив собственный трактат, который он явно вынашивал в течение многих лет.
В "Трактате о квадратурах" Ферма показывал, как далеко он зашел. Теперь его метод был применим ко всем гиперболам степени больше двух, которые не поддались ему за 20 лет до этого. Он произвел радикальные изменения. Там, где Архимед (и что присутствовало в ранних методах самого Ферма и Роберваля) искал конечные суммы, Ферма теперь допускал возможность бесконечной суммы прямоугольников на оси абсцисс. Это был единственный способ проанализировать площадь под гиперболой, поскольку альтернатива заключалась не в бесконечном числе прямоугольников, а в конечном числе прямоугольников с бесконечной площадью. Прямоугольник с бесконечной площадью при сложении с другими прямоугольниками дает бесконечную площадь. Наоборот, бесконечное число прямоугольников может в некоторых условиях дать конечную площадь. Но, кроме того, метод Ферма отличался от метода исчерпывания тем существенным обстоятельством, что уже больше не было необходимости определять площадь между двумя суммами. Математик приравнивал верхнюю сторону каждого прямоугольника к очень маленькому отрезку гиперболы. Чем меньше был отрезок, тем точнее было это равенство и, следовательно, площадь под отрезком кривой была ближе к площади соответствующего прямоугольника. Разница тончайшая, но основополагающая.
Она была такой тонкой, что Ферма даже не осознал, насколько важным было изменение. Его понятие приравнивания изменилось: речь уже шла не о том, чтобы приравнять любые конечные величины. Ферма открыл бесконечно малые. Однако он был уверен, что продолжает традицию Архимеда. Ученый не понял, насколько большой концептуальный скачок он сделал, и теперь его греческие учителя, вызывавшие у него восхищение, уже не могли идти за ним по этой неисследованной дороге. Снова, не осознавая этого, Ферма хоронил традицию, которую так уважал. Действительно, квадратура кривых — это операция, которую мы сегодня называем интегрированием, хотя, как и в случае с касательными, Ферма не смог увидеть, что площадь под кривой тоже выражена уравнением.
Иллюстрация метода спрямления кривых Ферма.
Если "квадрировать" означает найти площадь прямоугольника, равную площади другой фигуры, образованной кривой, то "спрямить" означает найти прямую линию, по длине равную длине кривой линии. Задача опять восходит к грекам.
Аристотель утверждал, что невозможно найти прямую линию, равную по длине кривой линии. Его авторитет был так велик, что даже в XVII веке большинство математиков были согласны с ним, несмотря на то что уже удалось сделать некоторые спрямления, в частности Архимеду. Следуя за этим выдающимся математиком, Ферма был убежден в возможности спрямления кривых. Его работа на данную тему — единственный случай, когда трактат Ферма был опубликован в печатном виде при жизни автора, в качестве приложения к работе его друга, тулузского иезуита Антуана де Лалувера (1600-1664), в 1660 году. Однако ее опубликовали анонимно. Ее автора можно было определить только по инициалам, которые не соответствовали инициалам Ферма. Последователи Декарта, подражая учителю, пребывали в уверенности, что Аристотель был прав. Ферма в своем трактате решил доказать, что картезианцы ошибаются.