Однако усугубившаяся абстрактность математики породила и более серьезную проблему: для каждой данной системы постулатов встает вопрос, является ли она внутренне непротиворечивой, т. е. не может ли оказаться, что из этой системы выводятся теоремы, противоречащие друг другу. Проблема не представляется очень уж актуальной, если речь идет об аксиомах, описывающих некоторую определенную и хорошо известную область объектов; если данные аксиомы действительно верны для данной области объектов, вполне естественно считать систему непротиворечивой. Коль скоро, например, предполагалось, что аксиомы Евклида являются истинными утверждениями о пространстве (или о пространственных объектах), то никакой математик до середины XIX столетия не стал бы просто и рассматривать всерьез вопрос о том, нельзя ли из этих аксиом получить пару противоречащих друг другу теорем. Такая уверенность в непротиворечивости евклидовой геометрии основывалась на том совершенно разумном принципе, согласно которому логически несовместимые утверждения не могут быть одновременно истинными; таким образом, никакое множество истинных утверждений (а именно это предполагалось относительно аксиом Евклида) не должно быть внутренне непротиворечивым.
Известны различные виды неевклидовых геометрий. Вначале системы аксиом для таких геометрий рассматривались как безусловно ложные по отношению к окружающему нас пространству, да и вопрос об их истинности относительно какой бы то ни было другой области казался весьма сомнительным. В связи с этим и проблема доказательства внутренней непротиворечивости неевклидовых систем казалась весьма трудной, если вообще осуществимой. Скажем, в геометрии Римана евклидов постулат параллельности заменяется соглашением, согласно которому через произвольную точку, не лежащую на данной прямой, нельзя провести ни одной прямой, параллельной данной.
В таком случае возникает вопрос: а совместима ли система римановских постулатов? Кажется совершенно ясным, что пространству, данному нам в нашем повседневном опыте, система эта не соответствует. Каким же образом можно было бы тогда все-таки рассчитывать установить непротиворечивость этой системы? Как доказать, что в такой системе не могут быть доказаны две противоречащие друг другу теоремы?
Для решения проблемы был предложен один общий метод. Основная идея его состоит в том, чтобы найти «модель» (или «интерпретацию») для абстрактных постулатов рассматриваемой системы, т. е. чтобы каждый постулат оказался истинным утверждением об объектах такой модели, что и свидетельствовало бы о непротиворечивости (совместимости) системы абстрактных постулатов. Рассмотрим, например, следующую систему постулатов, в формулировки которых входят два класса K и L, подлинная «природа» которых остается неопределенной, если не считать того, что сами постулаты «неявно» определяют эти классы.
1. Любые два (различных) члена класса K принадлежат в точности одному члену класса L.
2. Ни один член класса K не принадлежит более чем двум (различным) членам класса L.
3. Не все члены класса K принадлежат одному и тому же члену класса L.
4. Любым двум членам класса L принадлежит в точности один общий для них член класса K.
5. Ни одному члену класса L не принадлежит более чем два элемента класса K.
Из этого небольшого перечня постулатов мы можем, пользуясь обычными правилами логического вывода, вывести несколько теорем. Например, можно показать, что K содержит в точности три члена. Но совместима ли данная система постулатов? Нельзя ли из них получить противоречие? Этот вопрос решается (отрицательно) с помощью следующей модели.
Пусть K есть класс точек, членами которого являются вершины некоторого треугольника, a L — класс отрезков прямых, членами которого являются стороны этого же треугольника. Условимся понимать предложение «член класса K принадлежит члену класса L» как утверждение о том, что данная точка-вершина принадлежит данному отрезку-стороне. При таком понимании каждый из перечисленных пяти постулатов оказывается истинным утверждением. Например, первый постулат утверждает тогда попросту, что любые две точки, являющиеся вершинами некоторого треугольника, принадлежат в точности одному отрезку, служащему стороной этого треугольника. Аналогичным образом мы убеждаемся в истинности остальных постулатов и в совместимости всей данной системы постулатов в целом.
Непротиворечивость геометрии Римана также, оказывается, можно установить при помощи модели, реализующей ее постулаты. Мы можем интерпретировать (истолковать) слово «плоскость», фигурирующее в формулировках римановских аксиом, как поверхность некоторой (евклидовой!) сферы, под «точкой» понимать точку, лежащую на этой сферической поверхности, под «прямой» — дугу большого круга этой поверхности и т. п. Тогда каждый постулат римановской системы оказывается теоремой евклидовой геометрии. Скажем, риманов постулат параллельности при такой интерпретации гласит: «Через точку, лежащую на поверхности сферы, нельзя провести ни одной дуги большого круга этой сферы, которая не пересекала бы произвольной данной окружности большого круга, выбранной на этой поверхности».
Но приведенное рассуждение не является исчерпывающим доказательством непротиворечивости геометрии Римана: ведь оно существенно опирается на допущение о непротиворечивости геометрии Евклида. Так что теперь неизбежно встает вопрос: а действительно ли непротиворечива сама геометрия Евклида?
По давно установившейся традиции на такой вопрос отвечали обычно в том духе, что «аксиомы Евклида истинны, а стало быть, и непротиворечивы». Но такой ответ мы уже не можем более рассматривать как удовлетворительный (мы еще вернемся к этой теме и разъясним подробнее, в чем именно заключается его неудовлетворительность). Другой ответ состоит в том, что евклидовские аксиомы согласуются с фактическими — хотя и ограниченными — данными нашего опыта и наблюдения, относящимися к пространству, и что, принимая эти аксиомы, мы вправе обобщить, экстраполировать наши знания о некоторой ограниченной области. Однако самое большее, на что мы можем рассчитывать, исходя из таких «индуктивных» соображений, — то, что аксиомы «правдоподобны», истинны «с большой вероятностью».
Следующий важный шаг в решении обсуждаемой здесь проблемы непротиворечивости евклидовой геометрии предпринял Гильберт. Основная идея его метода подсказана аналитической геометрией, восходящей еще к Декарту. В предложенной Гильбертом «декартовской» интерпретации евклидовских аксиом они очевидным образом становятся истинными алгебраическими утверждениями. Например, фигурирующее в аксиомах плоской геометрии слово «точка» должно означать теперь пару действительных чисел, «прямая» — числовое соотношение, выражаемое уравнением первой степени с двумя неизвестными, «окружность» — числовое соотношение, выражаемое квадратным уравнением некоторого специального вида, и т. д. Геометрическое предложение, гласящее, что две различные точки однозначным образом определяют некоторую прямую, переходит теперь в истинное утверждение алгебры, согласно которому две различных пары действительных чисел однозначно определяют некоторое линейное уравнение; геометрическая теорема, согласно которой прямая и окружность пересекаются не более чем в двух точках, переходит в алгебраическую теорему о том, что система, состоящая из линейного и квадратного уравнений с двумя неизвестными, имеет самое большее две пары действительных корней, и т. д. Короче говоря, непротиворечивость евклидовских постулатов обосновывается тем обстоятельством, что они выполняются на некоторой алгебраической модели.