«Троичность» — это абстрактное свойство, присущее всем наборам, или множествам, содержащим по три объекта. Например, «троичность» может быть использована и при описании поросят в известной детской песенке, и при описании множества сторон треугольника. Фреге заметил, что свойством «троичности» обладают многочисленные множества и воспользовался абстрактной идеей таких множеств для определения самого числа «3». Он создал новое множество и поместил в него все множества, обладающие свойством троичности, и назвал это новое множество «множество 3». Таким образом множество имеет три члена в том и только в том случае, если оно принадлежит «множеству 3».
Для понятия, которым мы пользуемся ежедневно, такое определение может показаться чересчур сложным, но столь строгое описание «множества 3» необходимо для бескомпромисной программы Гильберта.
В 1902 году тяжкий труд, добровольно возложенный на себя Фреге, подошел к концу: Фреге подготовил к печати гигантский двухтомный трактат «Grundgesetze der Arithmetik»[12], который должен был установить в математике новый стандарт строгости.
Тогда же английский логик Бертран Рассел, также внесший немалый вклад в осуществление грандиозного проекта Гильберта, сделал ошеломляющее открытие: строго следуя предписаниям Гильберта, он все же наткнулся на противоречие. Позднее Рассел вспоминал свою собственную реакцию на удручающее осознание того, что вся математика может быть внутренне противоречива: «Сначала я было предположил, что легко и просто сумею преодолеть это противоречие, и что в мои рассуждения, возможно, где-то вкралась какая-нибудь тривиальная ошибка. Но постепенно мне становилось ясно, что это не так… Всю вторую половину 1901 года я надеялся, что решение будет несложным, но к концу года понял, что предстоит нелегкая работа… Я взял за обыкновение бродить каждый вечер с одиннадцати до часу ночи и научился различать три различных звука, которые издает козодой. (Большинству людей знаком лишь один звук.) Я сосредоточенно пытался разрешить полученное мной противоречие. Каждое утро я усаживался перед чистым листом бумаги и весь день (за исключением короткого перерыва на ленч) не сводил с листа глаз. Очень часто, когда наступал вечер, лист так и оставался пустым».
Выхода из этого противоречия не было. Работа Рассела нанесла серьезный урон мечтам о математической системе, свободной от сомнений, противоречий и парадоксов. Он написал Фреге, рукопись книги которого уже находилась в печати. Письмо Рассела практически свело на нет работу всей жизни Фреге, но, несмотря на смертельный удар, Фреге опубликовал свой magnum opus[13], невзирая на сообщение Рассела, и только добавил постскриптум ко второму тому: «Вряд ли что-нибудь может быть более нежелательным для ученого, чем сомнения в своей правоте в тот самый момент, когда он завершает свой труд. Именно в таком положении я оказался, получив письмо от мистера Бертрана Рассела в тот момент, когда моя работа уже должна выйти из печати».
По иронии судьбы, обнаруженное Расселом противоречие выросло из столь любимых Фреге множеств. Через много лет в своей книге «Мое философское развитие» Рассел вспоминал тот яркий ход рассуждений, который оспаривал работу Фреге: «Мне показалось, что множество иногда может, а иногда не может быть членом самого себя. Например, множество чайных ложек само не есть чайная ложечка, а множество вещей, не являющихся чайными ложечками, есть одна из вещей, не являющихся чайной ложечкой». Именно это любопытное и на первый взгляд безобидное замечание Рассела привело к катастрофическому парадоксу.
Парадокс Рассела часто объясняют на примере истории о дотошном библиотекаре. Однажды, проходя между книжных полок, этот библиотекарь набрел на подборку каталогов. Там были отдельные каталоги художественной прозы, библиографических указателей, поэзии и т. д. Библиотекарь отметил, что в одних каталогах имелись ссылки на самих себя, тогда как в других таких ссылок не было.
Чтобы упростить систему регистрации книг, библиотекарь решил составить два новых каталога. В один из них он хотел включить все каталоги, содержащие ссылки на самих себя, а в другой — все каталоги, не содержащие ссылки на самих себя. По завершении работы перед библиотекарем встала проблема: нужно ли включать в каталог всех каталогов, не содержащих ссылку на самих себя, его самого? Если его включить, то нарушится условие составления этого каталога. Однако, по тому же условию, он должен быть включен. Наш библиотекарь оказался в безвыходной ситуации. Каталоги в рассмотренном нами примере очень похожи на множества, или классы, которые Фреге использовал в качестве фундаментального определения числа. Следовательно, противоречивость, поразившая библиотекаря, создает проблемы в самой структуре математики, которая по предположению считается логической. В математике нельзя допустить противоречий и парадоксов. Например, такое мощное оружие, как доказательство от противного, опирается на математику, свободную от противоречий. Доказательство от противного утверждает, что если принятое допущение приводит к противоречию, то оно должно быть ложным, а, по Расселу, даже аксиомы могут приводить к противоречию. Следовательно, доказательство от противного могло бы показать, что аксиома ложна, и тем не менее аксиомы образуют основания математики, и их принято считать истинными.
Многие мыслители скептически отнеслись к работе Рассела, ссылаясь на то, что развитие математики до того происходило вполне успешно и не встречало каких-либо парадоксов. Отвечая на критику, Рассел следующим образом объяснял значение своей работы.
«Но, можете Вы возразить, ничто не поколеблет Вашего убеждения в том, что дважды два равно четыре. Вы совершенно правы — за исключением незначительных частных случаев. Два должно быть двумя чего-то, и утверждение "дважды два равно четырем" бесполезно, если его невозможно применить к чему-либо. Две собаки и две собаки, разумеется, это четыре собаки. Но могут представиться случаи, когда Вы усомнитесь в том, являются ли эти два животных собаками. "Во всяком случае, животных четверо", — могли бы возразить Вы. Но существуют микроорганизмы, относительно которых трудно сказать, животные они или растения. "Прекрасно, — возразите Вы, — пусть будут не животные, а живые организмы". Но есть такие объекты, относительно которых трудно сказать, живые они или нет. Вам не останется ничего другого, как сказать: "Две сущности и две сущности равны четырем сущностям". Если Вы объясните мне, что Вы понимаете под «сущностью», то спор можно будет считать законченным».
Работа Рассела повергла основания математической логики в состояние хаоса. Логики чувствовали, что парадокс, скрывающийся в недрах математики, рано или поздно высунет свою голову и вызовет большие проблемы. Вместе с Гильбертом и другими логиками Рассел предпринял попытку исправить ситуацию и восстановить пошатнувшееся здоровье математики.
Открывшееся противоречие было прямым следствием работы с аксиомами, которые до того предполагались самоочевидными и достаточными для построения остальной математики. Один из выходов заключался в создании дополнительной аксиомы, которая запрещала бы любому множеству быть членом самого себя. Такая аксиома позволила бы одолеть парадокс Рассела, поскольку устраняла бы вопрос о том, включать или не включать в каталог каталогов, не содержащих ссылки на самих себя, сам каталог каталогов.
Следующее десятилетие Рассел занимался анализом того, что составляет самую суть математики, — ее аксиом. В 1919 году он в соавторстве с Альфредом Нортом Уайтхедом опубликовал первый из трех томов «Principia Mathematica». В этой книге они предприняли успешную попытку решить проблему, вызванную парадоксом Рассела. В течение следующих двадцати лет многие математики использовали «Principia Mathematica» в качестве руководства по возведению безупречного здания математики, и к 1930 году, когда Гильберт вышел в отставку, он мог быть уверен в том, что математика находится на верном пути к выздоровлению. Казалось, мечта Гильберта о непротиворечивой логике, достаточно мощной для того, чтобы ответить на любой вопрос, близится к осуществлению.