Страница «Исчисления понятий» Гэтлоба Фреге.
Конечно, это определение несколько расплывчато, поэтому давайте одним махом разберемся со всеми множествами такого типа. Обозначим через R (по первой букве фамилии Рассела) множество всех множеств, которые не содержат сами себя в качестве своего элемента: к R будет принадлежать множество котов, столов и все совокупности предметов, не содержащие сами себя. И все будет в порядке, пока мы не пересекаем границу, отделяющую R от остальных множеств.
Различие между множеством всех котов, которое не является котом (рис. 1), и множеством всего, что только можно себе представить, которое также можно себе представить (рис. 2).
(Источник: Умберто Эко, Vertige de la liste, Париж, издательство Flammarion, 2009, стр. 396).
Парадокс возникает, когда мы задаемся вопросом, по какую сторону этой воображаемой границы находится само R: любой ответ на этот вопрос приведет к противоречию. Предположим, что множество R принадлежит само себе. Тогда R обладает свойством, которое мы хотели устранить, следовательно, оно не может принадлежать к множеству всех множеств, которые не принадлежат самим себе. Но что это за множество? Это вновь множество R! Следовательно, если R принадлежит само себе, то R не принадлежит само себе. Пока что все в порядке: может случиться, что R не принадлежит само себе и, исходя из этой гипотезы, мы не придем к противоречию. Посмотрим, что произойдет, если мы будем считать, что R не принадлежит само себе. В этом случае R будет обладать свойством, которое определяет множество всех множеств, не принадлежащих самим себе, следовательно, R будет принадлежать этому множеству. Иными словами, если R не принадлежит само себе, то R принадлежит само себе. Оба этих вывода нарушают основной принцип, восходящий к трудам философа Парменида, который в своей дидактической поэме «О природе» показал, что нет промежуточных путей между бытием и небытием.
Математическая формулировка этого принципа гласит, что элемент либо принадлежит множеству, либо нет. Так как любой третий вариант исключен, в математике этот принцип называется законом исключенного третьего.
Чтобы объяснить свой парадокс простыми словами, Рассел описал город, где по закону брадобрей должен брить только тех, кто не бреет себя сам. Мы заменили свойство «принадлежать самому себе» на «бриться самому», и теперь в роли множества R будет выступать брадобрей. В этой версии парадокса возникает вопрос: кто бреет брадобрея? Если он бреет себя сам, то принадлежит к числу тех, кого по закону ему брить нельзя. Если же он не бреет себя сам, то по закону он должен брить себя сам. Что бы они ни делал, он окажется в тюрьме, где, возможно, некий логик попытается убедить его, что провести несколько лет в тюрьме всегда лучше, чем столкнуться с противоречием, которое ставит под сомнение правильность всей математики двух тысячелетий.
В другой версии парадокса брадобрей заменен на библиотекаря, которому нужно навести порядок в библиотеке — такой большой, что для нее требуется каталог, содержащий все каталоги. Кто-то предложил, что было бы неплохо отделить каталоги, которые содержат ссылки на самих себя, от каталогов, которые не содержат таких ссылок. Это предложение понравилось библиотекарю, и он принялся за работу.
В течение многих лет он работал днями и ночами, и вот, когда он осмотрел одну за другой все полки, ему осталось решить, куда следует поместить объемистый каталог, в составление которого он вложил столько сил. Если этот каталог содержит ссылку на самого себя, его нельзя включить в каталог всех каталогов, которые не содержат ссылку на себя. Если, напротив, этот каталог не содержит ссылки на себя самого, его нужно включить в каталог всех каталогов, которые не содержат ссылку на себя. Если он принадлежит к такому каталогу, то не принадлежит ему, и наоборот. Лишь в этот момент библиотекарь понял, что все его труды оказались напрасными: предложенный критерий не позволит составить полную классификацию.
Столкнувшись с этим парадоксом, Рассел написал письмо Фреге, который в то время вносил правки в доказательства второго тома своего главного труда — «Основные законы арифметики». В него Фреге включил аксиому, благодаря которой стало возможным сформировать множество всех объектов, обладающих свойством Р, однако Рассел открыл, что если эту аксиому применить к самому свойству Р = «принадлежать самому себе», то это приведет к противоречию: множество R всех множеств, которые не принадлежат сами себе, нарушает закон исключенного третьего. Обескураженный этим открытием, Фреге, с присущей ему скрупулезностью, добавил к книге предисловие, в котором признался: «С автором не может произойти ничего более печального, чем, закончив свой труд, увидеть, как рушится одна из основ выстроенного им здания». Затем он предложил видоизменить эту аксиому, однако ее новый вариант не согласовывался с остальной системой аксиом, поэтому решения парадокса Рассела пришлось ждать несколько лет.