Готлоб Фреге родился в 1848 году, то есть он принадлежал к тому же поколению, что и Кантор. Фреге принял теорию множеств с самого начала и стал одним из защитников идеи о том, что эта теория должна стать базой для остальной математики.
Немецкое слово Begriffsschrift, которое Готлоб Фреге использовал для обозначения символической структуры, созданной им для логики и математики, обычно переводится как концептография, что дословно означает «рисунок концептов».
Как мы можем увидеть на изображении справа, символизм Фреге приближается скорее к линейному рисунку, чем к написанному тексту. Здесь показана теорема 71 из его книги «Исчисление понятий...», и ее перевод следующий: f — это процедура, a F — свойство, которое сохраняется при применении процедуры f. Если x обладает свойством, а y получен из х посредством применения процедуры f, то у также обладает этим свойством.
Хотя Фреге был согласен с Кантором в целом, у него было много формальных критических замечаний. По мнению Фреге, статьи Кантора были написаны недостаточно научным языком, без четкого разграничения аксиом (утверждений, которые принимаются без доказательств) и теорем (утверждений, которые доказываются на основе аксиом). Кантор все время взывал к интуиции читателя, что Фреге критиковал и называл психологизмом. Математика, по его мнению, должна пользоваться строгим языком со специально созданными символами. Все рассуждения должны быть выражены ясно, лишены двусмысленностей и взывания к интуиции. Фреге посвятил почти всю свою жизнь развитию этой идеи. В одной из своих основополагающих работ, «Исчисление понятий, или подражающий арифметике формальный язык чистого мышления» (1879), Фреге объясняет свой символический язык, очень отличающийся от нашего обычного письма (он похож скорее на линейный рисунок, чем на текст). Это вызывало сложности в понимании и у современников ученого, и даже сегодня. Возможно, Фреге намеренно хотел дистанцировать символическую запись от естественного языка, но стратегически это было ошибкой, поскольку затруднило понимание работы широкой аудиторией.
В 1893 году Фреге опубликовал первый том «Основных законов арифметики», первую часть работы всей своей жизни, в которой изложил строгое определение натуральных чисел на основе логики и теории множеств. Почти через десять лет, 16 июня 1902 года (за четыре года до рождения Гёделя), когда Фреге уже отправил в печать второй том «Основных законов...», он получил письмо от Бертрана Рассела, отправленное из Фрайдиз Хилл, Хаслмир (Великобритания). Письмо занимало одну страницу, однако этого было достаточно для того, чтобы развязать кризис оснований. Рассел начал с похвалы работы Фреге и выразил свою абсолютную поддержку автору. «Но я нашел небольшую сложность», — пишет Рассел.
Этой небольшой сложностью была одна из аксиом, на которых Фреге основывал теорию множеств, — так называемая аксиома выделения. В ней говорится, что каждому свойству назначается множество (множество объектов, которые обладают этим свойством). Например, свойству «быть четным числом» соответствует множество, образованное всеми четными числами; свойству «быть планетой Солнечной системы» соответствует множество всех планет Солнечной системы, и так далее. На первый взгляд эта аксиома кажется абсолютно невинным утверждением, неспособным породить какую-либо проблему. Однако Рассел задал свойство «быть множеством, которое не является членом самого себя».
Поразмышляем об этой идее.
Множества образованы членами (также существует пустое множество, не имеющее членов, но мы можем оставить его за рамками нашего анализа). Например, множество планет Солнечной системы состоит из (насколько мы знаем) восьми членов: Меркурия, Венеры, Земли, Марса, Юпитера, Сатурна, Урана и Нептуна. Объект «множество планет Солнечной системы» — это абстрактная сущность, существующая только как идея и собирающая под одним названием восемь планет. Каждый из членов этого множества — наоборот, конкретная планета, а не абстракция. Множество планет Солнечной системы не входит в список самих членов: оно не является членом самого себя. Рассел выражал эту идею следующим образом: «Множество, образованное лошадьми, — не лошадь» (мы можем сесть на лошадь, но не на абстрактную сущность). Но некоторые множества действительно являются членами самих себя. Например, подумаем о множестве всех абстрактных сущностей. Оно само является абстрактной сущностью и, следовательно, членом самого себя.
Теперь вернемся к аксиоме выделения. Возьмем множество, связанное со свойством «быть множеством, не являющимся членом самого себя». Пусть множество R образовано всеми множествами, не являющимися членами самого себя. Сформулируем следующий вопрос: является ли R элементом самого себя? Если R является членом самого себя, то выполняется свойство, определяющее R. По нему R не является членом самого себя. Это противоречие. Но если R не является членом самого себя, то не выполняется свойство, определяющее R. Следовательно, если не выполняется свойство, R все-таки является членом самого себя. Получается другое противоречие.
То есть R не может быть членом самого себя, но также не может и не быть им. Это логический парадокс. Множество R (существование которого обусловлено аксиомой выделения) не может существовать, потому что это порождает логическое противоречие. Итак, аксиома выделения, которая казалась такой невинной, на самом деле противоречит самой себе. Это открытие сегодня известно как парадокс Рассела.
Открытие противоречивости теории множеств развязало кризис оснований математики. Если такая невинная с виду аксиома выделения порождает противоречие, чего ждать от теории Кантора с актуальной бесконечностью и «бесконечностями, которые больше, чем другие бесконечности»? Положение осложнялось тем, что теория Кантора уже проникла в основные области математики, такие как анализ и топология.
В 1904 году британский философ и математик Бертран Рассел (1872-1970) представил популярную версию своего парадокса. Он предложил представить себе, что в некой деревне есть только один брадобрей, бреющий всех мужчин, которые не бреются сами. Но бреет ли он сам себя? Ответ в том, что брадобрей не может бриться сам, но также не может и не делать этого.
Из-за открытия Рассела математики задались вопросом о справедливости всех математических открытий по меньшей мере за 30 предыдущих лет. Они начали сомневаться в справедливости любого рассуждения, включающего в себя бесконечность, и даже задавали вопросы о смысле и значении математики. Каков конкретно объект изучения математики? Какие критерии подтверждают справедливость ее рассуждений?
Сам Фреге почувствовал, что открытие Рассела разрушает всю его работу. Во второй том своих «Основных законов...» он добавил следующие слова:
«Ученому сложно встретиться с чем-то более нежелательным, чем увидеть, как подрывается фундамент, когда работа уже заканчивается. Таково положение, в которое меня поставило письмо господина Бертрана Рассела, когда работа была уже почти напечатана».
Сразу после этого Фреге оставил борьбу и сдался. Он прожил до 1925 года, но никогда больше не вернулся к теме оснований.
Какую реакцию вызвало открытие парадокса Рассела? С самого начала было предложено два решения. Первая попытка принадлежит самому Расселу и выражена в монументальной работе «Основания математики», которую он написал вместе со своим учителем Альфредом Уайтхедом.