Метод Ферма и Роберваля не работал для некоторых кривых, как они оба быстро убедились. Казалось, Ферма перестал интересоваться данной темой. Но в 1658 году он практически сразу же ответил на недавнюю работу Уоллиса о квадратурах, распространив собственный трактат, который он явно вынашивал в течение многих лет.
В "Трактате о квадратурах" Ферма показывал, как далеко он зашел. Теперь его метод был применим ко всем гиперболам степени больше двух, которые не поддались ему за 20 лет до этого. Он произвел радикальные изменения. Там, где Архимед (и что присутствовало в ранних методах самого Ферма и Роберваля) искал конечные суммы, Ферма теперь допускал возможность бесконечной суммы прямоугольников на оси абсцисс. Это был единственный способ проанализировать площадь под гиперболой, поскольку альтернатива заключалась не в бесконечном числе прямоугольников, а в конечном числе прямоугольников с бесконечной площадью. Прямоугольник с бесконечной площадью при сложении с другими прямоугольниками дает бесконечную площадь. Наоборот, бесконечное число прямоугольников может в некоторых условиях дать конечную площадь. Но, кроме того, метод Ферма отличался от метода исчерпывания тем существенным обстоятельством, что уже больше не было необходимости определять площадь между двумя суммами. Математик приравнивал верхнюю сторону каждого прямоугольника к очень маленькому отрезку гиперболы. Чем меньше был отрезок, тем точнее было это равенство и, следовательно, площадь под отрезком кривой была ближе к площади соответствующего прямоугольника. Разница тончайшая, но основополагающая.
Она была такой тонкой, что Ферма даже не осознал, насколько важным было изменение. Его понятие приравнивания изменилось: речь уже шла не о том, чтобы приравнять любые конечные величины. Ферма открыл бесконечно малые. Однако он был уверен, что продолжает традицию Архимеда. Ученый не понял, насколько большой концептуальный скачок он сделал, и теперь его греческие учителя, вызывавшие у него восхищение, уже не могли идти за ним по этой неисследованной дороге. Снова, не осознавая этого, Ферма хоронил традицию, которую так уважал. Действительно, квадратура кривых — это операция, которую мы сегодня называем интегрированием, хотя, как и в случае с касательными, Ферма не смог увидеть, что площадь под кривой тоже выражена уравнением.
Иллюстрация метода спрямления кривых Ферма.
Если "квадрировать" означает найти площадь прямоугольника, равную площади другой фигуры, образованной кривой, то "спрямить" означает найти прямую линию, по длине равную длине кривой линии. Задача опять восходит к грекам.
Аристотель утверждал, что невозможно найти прямую линию, равную по длине кривой линии. Его авторитет был так велик, что даже в XVII веке большинство математиков были согласны с ним, несмотря на то что уже удалось сделать некоторые спрямления, в частности Архимеду. Следуя за этим выдающимся математиком, Ферма был убежден в возможности спрямления кривых. Его работа на данную тему — единственный случай, когда трактат Ферма был опубликован в печатном виде при жизни автора, в качестве приложения к работе его друга, тулузского иезуита Антуана де Лалувера (1600-1664), в 1660 году. Однако ее опубликовали анонимно. Ее автора можно было определить только по инициалам, которые не соответствовали инициалам Ферма. Последователи Декарта, подражая учителю, пребывали в уверенности, что Аристотель был прав. Ферма в своем трактате решил доказать, что картезианцы ошибаются.
В ·Трактате о квадратурах" используется значительная часть прежних открытий Ферма: его метод максимумов и минимумов, который помогает разделить кривую на отрезки, монотонно возрастающие или убывающие; аналитическая геометрия, позволяющая осуществлять действия с этими отрезками; и, конечно же, прием приравнивания. Как и можно было ожидать, у него получился аналитический трактат. Наоборот, ‘Трактат о спрямлении" методически очень отличается от всего, что Ферма написал к тому времени. Действительно, тулузец отдалился от своего аналитического метода и применил греческий синтетический метод, которым пользовались такие классики, как Евклид. При этом его аналитическое рассуждение оказалось скрыто. Почему он так сделал — загадка, но, возможно, это было связано с традициями. Трудоемкость, которую предполагало написание подобной работы, сравнимая с работой Ньютона в ‘Началах", в свою очередь, могла бы объяснить, почему он не пользовался этим подходом ни в каком другом своем труде.
В "Трактате о спрямлении" Ферма в ясном виде приравнивает заданный касательный к кривой отрезок DE к дуге FE (см. рисунок). Для приравнивания данный отрезок обязательно должен быть произвольно малым. Говоря в общих чертах, Ферма думал о кривой как о линии, образованной огромным числом очень маленьких прямолинейных отрезков, каждый из которых является касательным к кривой. Сумма длин этих бесконечно малых отрезков дает длину кривой (спрямление).
Следующим шагом было нахождение суммы длин таких отрезков, и здесь Ферма использовал прием, именуемый сегодня "изменением переменной". Это был гениальный скачок: изменение переменной определяло обычную параболу (второй степени), квадратура которой равна значению разыскиваемой нами суммы. Другими словами, Ферма превратил проблему спрямления в проблему квадратуры, уже известную и решенную им самим. Не довольствуясь достигнутым, он определил бесконечное семейство кривых, основанных на обобщенной параболе, и доказал, что если она спрямляема, то и все остальные тоже. Он сделал это, доказав, что всегда можно построить обычную параболу, которую мы только что упомянули. Ему не только удалось спрямить кривую; он доказал, что число спрямляемых кривых бесконечно.
Но именно этот шаг сведения спрямления к квадратуре снова помешал Ферма увидеть, что результат его спрямления является еще одним уравнением. Он даже не осознал, что почти дотрагивается до основных принципов анализа. Ему удалось начать думать о бесконечно малых, что было важным шагом в открытии анализа, но это не только не привело Ферма к пересмотру своей работы о касательных и максимумах, но он также не смог истолковать свои результаты как уравнения: он думал о подкасательных и площадях.
Годами позже (и частично благодаря работам Ферма) Лейбниц и Ньютон независимо пришли к основным идеям анализа: использованию бесконечно малых и основополагающей идее того, что операция вычисления углового коэффициента касательной к кривой, заданной уравнением А, дает в результате уравнение В, а операция нахождения квадратуры кривой В дает в результате уравнение А. Другими словами, нахождение угловых коэффициентов и квадратур, дифференцирование и интегрирование являются обратными операциями, как сложение и вычитание. Это основная теорема анализа.