Когда «Примечания» Ферма стали известны более широкому научному сообществу, все поняли, что письма, которые он отправлял своим коллегам, были лакомыми кусочками из сказочного сокровища открытий. Примечания, сделанные рукой Ферма, содержат целую серию теорем. К сожалению, они были либо полностью лишены объяснений, либо сопровождались небольшим наброском доказательства. Часто в этих обрывках доказательств было достаточно изящных логических ходов, чтобы у математиков не оставалось сомнения в том, что Ферма располагал доказательствами. Что же касалось восполнения деталей, то оно всегда было вызовом, который математикам приходилось принимать.
Леонард Эйлер, один из величайших математиков XVIII века, предпринял попытку доказать одно из самых изящных примечаний Ферма — теорему о простых числах. Простым называется число, которое не имеет делителей — чисел, которые делили бы его без остатка, — кроме единицы и самого числа. Например, 13 — простое число, а 14 — не простое. Ни одно число не делит 13 без остатка, а 2 и 7 делят 14. Все простые числа подразделяются на числа, представимые в виде 4n+1, и числа, представимые в виде 4n–1, где n — некоторое целое число. Так, число 13 принадлежит к первой группе (13 = 4·3 + 1), а число 19 — ко второй группе (19 = 4·5–1). Теорема Ферма о простых числах утверждает, что простые числа первой группы всегда представимы в виде суммы двух квадратов (13 = 22 + 32), в то время как простые числа второй группы никогда в виде суммы двух квадратов не представимы (19 =?2 +?2). Это свойство простых чисел формулируется изящно и просто, но все попытки доказать, что им обладает любое простое число, наталкиваются на значительные трудности. Для Ферма это доказательство было всего лишь одним из многих доказательств, хранимых им «приватно», для Эйлера восстановить доказательство стало делом чести. В 1749 году, после семи лет работы и почти через сто лет после смерти Ферма, Эйлеру удалось доказать эту теорему о простых числах.
В сокровищнице полученных Ферма результатов встречаются различные теоремы — от фундаментальных до чисто занимательных. Математики судят о важности теоремы по тому, какое влияние она оказывает на остальную математику. Во-первых, теорема считается важной, если она представляет собой некую универсальную истину, то есть если она верна для всей группы чисел. В случае теоремы Ферма о простых числах, теорема верна не только для некоторых простых чисел, а для всех простых чисел. Во-вторых, важная теорема должна раскрывать какую-нибудь более глубоко лежащую истину об отношениях между числами. Теорема может быть трамплином для создания целого сонма других теорем и даже стимулом для развития новых областей математики. Наконец, теорема считается важной, если существование целых областей исследования может оказаться под угрозой из-за отсутствия одного-единственного логического звена. Многие математики исходили бессильными слезами при мысли, что могли бы получить важный результат, если бы могли восстановить одно недостающее звено в цепочке логических рассуждений.
Поскольку математики используют теоремы как ступени, ведущие к другим результатам, было чрезвычайно важно доказать каждую из анонсированных Ферма теорем. Использовать Великую теорему только потому, что, по утверждению Ферма, он располагал ее доказательством, было невозможно. Прежде чем пустить Великую теорему в дело, ее необходимо было доказать со всей строгостью, иначе последствия могли быть самыми ужасными. Например, представьте себе математиков, которые приняли одну из теорем Ферма на веру. Эта теорема была бы включена ими как отдельный элемент в целую серию других, более обширных, доказательств. Со временем эти более обширные доказательства были бы включены в еще более обширные доказательства, и т. д. В результате появились бы сотни теорем, которые бы опирались на истинность той самой недоказанной, принятой на веру, теоремы. Но что если Ферма ошибся, и недоказанная теорема в действительности ложна? Все теоремы, в доказательствах которых была бы использована ложная теорема, также оказались бы ошибочными, и огромные разделы математики рухнули бы. Теоремы — фундамент математики: если истинность теорем установлена, то, опираясь на них, можно возводить, пребывая при этом в полной безопасности, новые теоремы. Необоснованные (недоказанные) идеи имеют бесконечно меньшую ценность и называются гипотезами. Любая логика, опирающаяся на гипотезу, сама гипотетична.
Ферма утверждал, что располагает доказательством любого из своих примечаний, поэтому для него все они были теоремами. Но до тех пор, пока математическое сообщество в целом не восстановит каждое доказательство, все утверждения, содержащиеся в примечаниях, рассматриваются лишь как гипотезы. На протяжении последних 350 лет Великую теорему Ферма правильнее было бы называть Великой гипотезой Ферма.
За прошедшие столетия одно за другим были доказаны все утверждения Ферма, содержавшиеся в примечаниях на полях «Арифметики» Диофанта, и только Великая теорема Ферма упорно не поддавалась усилиям математиков. Ее даже стали называть «последней теоремой Ферма», так как она осталась последним его примечанием, которое требовалось доказать. Триста лет все попытки найти ее доказательство одна за другой терпели поражение. Великая теорема ферма обрела известность как самая трудная «головоломка» математики. Но всеми признанная трудность проблемы не обязательно означает, что Великая теорема Ферма важна в том смысле, в каком это понимается выше. Великая теорема Ферма, по крайней мере вплоть до самого последнего времени, не удовлетворяла нескольким критериям: казалось, что если бы ее удалось доказать, то это не привело бы ни к какому сколько-нибудь заметному прогрессу в развитии теории чисел и не способствовало бы доказательству других гипотез.
Слава Великой теоремы Ферма обусловлена исключительно тем, что доказать ее необычайно трудно. Есть и еще один дополнительный стимул: «князь любителей» заявил, что располагает доказательством этой теоремы, над восстановлением которой с тех пор ломали голову поколения профессиональных математиков. Небрежные замечания Ферма на полях принадлежавшего ему экземпляра «Арифметики» Диофанта читались как вызов всему миру. Ферма доказал свою Великую теорему, удастся ли какому-нибудь математику превзойти или сравняться с ним по блеску ума?
Г.Г. Харди обладал весьма своеобразным чувством юмора. Как-то раз он задумался, что в математическом наследии прошлого могло бы сравниться с Великой теоремой Ферма по тщетности всех попыток найти доказательство. К найденному им аналогу Великой теоремы Ферма Харди обращался всякий раз, когда ему приходилось преодолевать страх перед морскими путешествиями. Для него это было своего рода страхованием от несчастного случая. Если Харди предстояло пересечь Атлантический океан на борту лайнера, он предварительно посылал кому-нибудь из коллег телеграмму следующего содержания:
ДОКАЗАЛ ГИПОТЕЗУ РИМАНА ТЧК ПОДРОБНОСТИ ПО ВОЗВРАЩЕНИИ ТЧК
Гипотеза Римана — проблема, которой математика «больна» с XIX века. Логика Харди состояла в том, что Бог не даст ему утонуть потому, что тогда математики устремились бы в погоню за еще одним неуловимым призраком.
Великая теорема Ферма — задача невероятно трудная, и тем не менее ее можно сформулировать так, что она станет понятной даже школьнику. Ни в физике, ни в химии, ни в биологии нет ни одной проблемы, которая формулировалась бы так просто и определенно и оставалась нерешенной так долго. В своей книге «Великая проблема» Э.Т. Белл высказал предположение, что возможно, наша цивилизация подойдет к концу прежде, чем удастся доказать Великую теорему Ферма. Доказательство Великой теоремы Ферма стало самым ценным призом в теории чисел, и поэтому не удивительно, что поиски его привели к некоторым наиболее захватывающим эпизодам в истории математики. В эти поиски оказались вовлеченными величайшие умы на нашей планеты, за доказательство назначались огромные премии. Из-за Великой теоремы Ферма люди дрались на дуэли, а некоторые, отчаявшись найти доказательство, даже кончали с собой.