События, последовавшие за переломным 1931 г., еще более осложнили ситуацию и обрекли на неудачу любые попытки определить, что такое математика и какие результаты следует считать правильными. Мы упомянем лишь об одном таком событии, далеко не самом важном. Представителю гильбертовской школы Герхарду Генцену (1909-1945) удалось ослабить запреты на методы доказательства, допустимые в метаматематике Гильберта, в частности за счет использования трансфинитной индукции, и в 1936 г. он смог доказать непротиворечивость арифметики и отдельных разделов математического анализа.
Некоторые представители гильбертовской школы в основаниях математики приняли предложенное Генценом доказательство и отстаивали его. Эти формалисты утверждали, что работа Генцена не выходит за пределы интуитивно приемлемой логики. Итак, чтобы защитить формализм, понадобилось перейти от «финитной» логики Брауэра к «трансфинитной» логике Генцена. Противники метода Генцена с сарказмом замечали, что «приемлемая» логика оказывается уж слишком изощренной и что если непротиворечивость арифметики вызывает какие-то сомнения, то введение не менее сомнительного метаматематического принципа вряд ли в состоянии разрешить их. Использование трансфинитной индукции считалось спорным еще до того, как ее взял на вооружение Генцен, и некоторые математики приложили немало усилий, чтобы по возможности исключить трансфинитную индукцию из доказательств. Трансфинитная индукция не была интуитивно убедительным принципом. По выражению Вейля, подобного рода принципы снижают стандартный уровень доказательного рассуждения до такого состояния, когда суть доказываемого становится весьма расплывчатой.
Теорема Гёделя о неполноте породила ряд побочных проблем, о которых также следовало бы упомянуть. Поскольку в любой сколько-нибудь сложной области математики существуют утверждения, которые невозможно ни доказать, ни опровергнуть, возникает вопрос: можно ли определить, доказуемо или недоказуемо любое заданное утверждение? Этот вопрос известен под названием проблемы разрешимости. Решение ее требует эффективных методов (возможно, аналогичных тем, которые используются при расчетах на ЭВМ), позволяющих за конечное число шагов устанавливать доказуемость (истинность или ложность) утверждения или класса утверждений.
Поясним понятие разрешающей процедуры на нескольких простых примерах. Чтобы решить, делится ли одно целое число на другое, мы можем осуществить процесс деления. Если остаток от деления равен нулю, то это означает, что первое число на второе делится. Аналогичная процедура позволяет ответить на вопрос, делится ли один многочлен нацело на другой. Имеется также четкий алгоритм, позволяющий ответить на вопрос, существуют ли целые числа x и y, удовлетворяющие уравнению ах + by = c с целыми a, b и c.
В своем докладе на II Международном математическом конгрессе в Париже Гильберт поставил очень интересную (десятую) проблему о разрешимости диофантовых уравнений, сформулировав ее так: можно ли указать способ, позволяющий за конечное число шагов установить, разрешимо ли диофантово уравнение в целых числах? (Класс уравнений ах + by = c состоит из диофантовых уравнений, ибо каждый элемент класса представляет собой одно уравнение, связывающее два неизвестных, и решить его требуется в целых числах. Проблема Гильберта относится к гораздо более общему классу диофантовых уравнений.) Проблема разрешимости гораздо сложнее десятой проблемы Гильберта, но математики, работающие над ней, охотно ссылаются на десятую проблему Гильберта, так как уже одно то, что полученные при этом результаты связаны с решением указанной проблемы, придает им особую значимость.
Точный смысл понятию эффективной процедуры придал профессор Принстонского университета Алонсо Черч (р. 1903), который ввел определение рекурсивной, или, как еще говорят, вычислимой функции. Рассмотрим простой пример рекурсивности. Пусть, по определению
f(1) = 1, f(n + 1) = f(n) + 3.
Тогда
f(2) = f(1) + 3 = 1 + 3 = 4, f(3) = f(2) + 3 = 4 + 3 = 7.
Шаг за шагом мы можем вычислить все значения функции f(n). Такая функция f(x) называется рекурсивной. Введенное Черчем понятие рекурсивности равнозначно вычислимости, но отличается большей общностью.
В 1936 г. Черч, используя введенное им новое понятие рекурсивной функции, показал, что в общем случае разрешающая процедура (для узкого исчисления предикатов) невозможна: если задано конкретное утверждение, то не всегда можно найти алгоритм, позволяющий установить, доказуемо оно или опровержимо. В любом частном случае утверждение может оказаться доказуемым, но мы не располагаем критерием, который позволял бы заранее определять, доказуемо оно или недоказуемо. Математики могут годами напрасно терять время, безуспешно пытаясь доказать то, что вообще недоказуемо. Относительно десятой проблемы Гильберта Юрий Матиясевич в 1970 г. доказал, что не существует алгоритма, позволяющего установить, удовлетворяют ли какие-либо целые числа соответствующим диофантовым уравнениям или нет.{141}
Различие между неразрешимыми утверждениями и проблемами, для которых нет разрешающей процедуры, довольно тонко, но весьма четко и определенно. Неразрешимые утверждения неразрешимы в конкретной системе аксиом и существуют в любой сколько-нибудь значительной аксиоматической системе. Так, постулат Евклида о параллельных неразрешим в системе остальных аксиом евклидовой геометрии. Другим примером может служить утверждение о том, что вещественные числа образуют наименьшее множество, удовлетворяющее обычно аксиоматизируемым свойствам вещественных чисел.
Нерешенные проблемы могут оказаться неразрешимыми, но далеко не всегда это известно заранее. Например, задача о трисекции угла с помощью циркуля и линейки в течение по крайней мере нескольких столетий ошибочно считалась неразрешимой. Но трисекция оказалась невозможной. Теорема Черча утверждает, что не существует способа, позволяющего заранее определить, можно ли доказать или опровергнуть утверждение. Одни утверждения можно доказать и опровергнуть одновременно, другие нельзя ни доказать, ни опровергнуть — они неразрешимы, но их неразрешимость, как и неразрешимость всех известных неразрешимых проблем, заранее отнюдь не очевидна. Гипотеза Гольдбаха о том, что любое четное число представимо в виде суммы двух простых чисел, пока не доказана. Она может оказаться неразрешимой в системе аксиом арифметики, но ее неразрешимость, конечно, не очевидна. Не исключено, что когда-нибудь гипотезу Гольдбаха удастся доказать или опровергнуть.
Не успели математики оправиться от потрясений, вызванных теоремой Гёделя о неполноте и о невозможности доказать непротиворечивость арифметики, как через десять лет возникла новая серьезная угроза развитию математики. И опять «виной» тому был Гёдель, который явился инициатором серии исследований, которые внесли еще большую неразбериху в вопрос о том, что такое математика, имеющая под собой надежную основу, и в каком направлении она может развиваться. Напомним, что сторонники одного из подходов к основаниям математики, возникшего в начале XX в., намеревались построить математику, исходя из теории множеств (гл. XI); с этой целью была разработана система аксиом Цермело — Френкеля.
В работе «Совместимость аксиомы выбора и обобщенной гипотезы континуума с аксиомами теории множеств» (1940) Гёдель доказал, что если система аксиом Цермело — Френкеля без аксиомы выбора непротиворечива, то добавление аксиомы выбора не нарушает непротиворечивости, т.е. аксиома выбора в рамках этой аксиоматики не может быть доказана. Аналогично он установил, что предположение Кантора — гипотеза континуума о том, что не существует кардинальных чисел, заключенных между N0 и 2N0 (т.е. кардинальным числом c, соответствующим множеству всех вещественных чисел), или, иначе говоря, что не существует несчетного множества действительных чисел с кардинальным числом, меньшим 2N0, и обобщенная гипотеза континуума{142} не противоречит системе аксиом Цермело — Френкеля, даже если последнюю дополнить аксиомой выбора. Другими словами, гипотезу континуума как в обычном, так и в обобщенном варианте нельзя опровергнуть. Для доказательства своих утверждений Гёдель построил модели, в которых оба утверждения выполняются.
Непротиворечивость обоих утверждений — аксиомы выбора и гипотезы континуума — несколько обнадежила математиков: обеими теоремами можно было пользоваться по крайней мере с не меньшей уверенностью, чем остальными аксиомами Цермело — Френкеля.
Однако благодушие математиков (если только оно действительно было) быстро развеяли последующие события. Результаты Гёделя не исключали возможности того, что аксиома выбора и гипотеза континуума — порознь или вместе — могут быть доказаны на основе остальных аксиом Цермело — Френкеля. Мысль о том, что по крайней мере аксиому выбора невозможно вывести из остальных аксиом Цермело — Френкеля, была высказана еще в 1922 г. Тогда же и несколько позднее некоторые ученые, в том числе и Френкель, доказали независимость аксиомы выбора, но каждый из них счел необходимым дополнить систему Цермело — Френкеля вспомогательной аксиомой, которая, собственно, и позволила им осуществить доказательство. Примерно такое же возражение выдвигалось и против более поздних доказательств. В 1947 г. Гёдель предположил, что гипотеза континуума независима от аксиом Цермело — Френкеля и от аксиомы выбора.
В 1963 г. профессор математики Станфордского университета Пол Коэн (р. 1934) доказал, что и аксиома выбора, и гипотеза континуума независимы от остальных аксиом Цермело — Френкеля, если те непротиворечивы, т.е. иначе говоря, аксиома выбора и гипотеза континуума не могут быть доказаны на основе остальных аксиом Цермело — Френкеля. Более того, гипотеза континуума и тем более обобщенная гипотеза континуума не могут быть доказаны в системе Цермело — Френкеля, даже если ее дополнить аксиомой выбора. (Аксиома выбора следует из системы аксиом Цермело — Френкеля, не содержащей аксиомы выбора, но дополненной обобщенной гипотезой континуума.) Эти два результата по независимости означают, что в системе