[183] Для Эйнштейна «истиной, находящейся где-то рядом» была Природа, а для Геделя – измерение чистой математики. Оба они считали неприемлемыми противоречия реализма и идеализма и ограничения, которые последний налагал на знания. Наше сознание не должно диктовать условия внешнего мира.
Несмотря на революционный вклад, который оба этих ученых внесли в свои дисциплины, и Эйнштейн, и Гедель провели последние годы жизни в своего рода интеллектуальной ссылке, прогуливаясь по кампусу принстонского Института перспективных исследований и разговаривая в основном лишь друг с другом. Голдстейн предполагает, что именно эта ситуация и стала причиной их странной дружбы, которая продлилась до самой смерти Эйнштейна в 1955 году.
Через пять лет после публикации работы Геделя англичанин Алан Тьюринг ввел в обиход то, что сегодня мы называем машиной Тьюринга, – устройство, способное манипулировать символами на ленте для печати с использованием определенного набора правил. По сути, машина Тьюринга представляет собой идеализированный компьютер, имеющий одну программу и бесконечный объем памяти для расчетов. На практике большинство компьютеров с достаточным объемом памяти и определенным ограниченным временем работы действуют как машины Тьюринга. Устройство и лента – это «железо», аппаратная часть машины, а набор правил – это программа, или алгоритм. Тьюринг показал, что любое такое устройство рано или поздно сталкивается с проблемой остановки, то есть своей неспособностью установить, останавливается выполнение случайной программы или продолжается бесконечно. Разумеется, остановку некоторых программ легко заметить. В качестве примера можно привести строку кода print "Остров знаний". Машина напечатает заданную фразу и закончит выполнение задачи. С другими программами все сложнее, например, со строкой кода while (true) continue, где (true) может представлять собой одно или несколько верных утверждений, например, что число плюс такое же число равно этому числу, умноженному на два. Программа будет складывать число за числом до тех пор, пока у устройства не закончится энергия. И чем сложнее программа, тем труднее принять решение об остановке.
Важность проблемы остановки и ее связь с геделевскими теоремами о неполноте состоит в том, что эта задача, как и парадокс лжеца, не имеет решения. Тьюринг доказал, что невозможно составить единый алгоритм, который всегда будет давать правильный ответ «да» или «нет» на вопрос, стоит ли программе остановиться. В этом и заключается главное затруднение, так как это означает, что в мире всегда будут существовать предположения, истинность или ложность которых невозможно будет определить за ограниченное количество шагов. Учитывая, что математика строится на основании аксиоматической структуры, следуя определенному набору символически реализуемых правил, Гедель и Тьюринг отвечают отрицательно на все три знаменитых вопроса, поставленных Дэвидом Гильбертом в 1928 году. Нет, математика не является полной формальной структурой, нет, она не непротиворечива, и нет, она не разрешаема. Иными словами, механизация человеческой математической мысли – это всего лишь фантазия.
Подобные выводы могут разочаровать тех, кто все еще лелеет платоновские мечты о математическом идеале, но всем остальным они кажутся удивительными, ведь они показывают, какой огромной силой обладает наше творческое начало. Трещины в дамбе математического идеализма показывают нам изнутри, как хрупок человек, и наделяют наши попытки создать Остров знаний высотой и благородством. Гедель и Тьюринг пролили свет на сложную природу математической истины – как и истины в целом. Мы не всегда можем найти ответы на свои вопросы, следуя определенному набору правил, потому что у некоторых вопросов нет ответов. Язык, который мы создали для себя, не позволяет нам подтвердить или опровергнуть истинность некоторых утверждений. В результате – по крайней мере, в принятых сегодня логических рамках – мы не можем представить себе формально полную систему знаний, созданную при участии человеческого разума. Некоторые наши интеллектуальные ресурсы не поддаются контролю и возникают из новых принципов исследования и демонстрации, которые не вписываются в границы логики. Если вы фанат сериала «Звездный путь», то вот вам такая аналогия: мы никогда не сможем стать подобными Споку и другим вулканцам. Как прекрасно, что мы не рабы формального интеллектуального процесса! Именно это ограничение и неожиданные места, в которые оно приводит нас в нашей постоянной борьбе за понимание, делает стремление к знаниям непредсказуемым и оттого более захватывающим. Неполнота открывает нам путь к творческой свободе.
Глава 31. Жуткие мечты о сверхчеловеческих машинах, или Мир как информацияв которой мы рассуждаем о мире как информации, о природе сознания и о том, является ли реальность симуляцией
Ограниченность математики как закрытой и завершенной формальной системы затрагивает еще одну важную сферу знаний – взаимоотношения между машинами и человеческим сознанием. Этот вопрос все еще является важным и трудным для понимания науки. Могут ли машины мыслить, как мы, могут ли они, в конце концов, стать креативными и инновационными существами, а не бездумными исполнителями инструкций или кодов? Может ли человеческий мозг со всей его сложностью быть смоделирован, может ли его суть быть схвачена и реализована в машине?
Этому вопросу можно посвятить (и уже посвящено) много книг, но данная книга – не одна из них. Я хотел бы поговорить о том, как такой вопрос влияет на нашу дискуссию об ограниченности знаний и ее важности для человечества.
В заключительных параграфах «Теоремы Геделя» Эрнест Нагель и Джеймс Ньюман пишут, что одним из следствий теорем о неполноте является тот факт, что вычислительные приборы (по крайней мере, как их понимали в момент публикации книги в 1958 году) не могут имитировать человеческое сознание: «В ближайшее время замена человеческого мозга роботом невозможна».[184] Нагель и Ньюман подчеркивают, что, каким бы ни был их объем памяти и скорость обработки данных, машины всегда следуют линейной пошаговой логике, основанной на фиксированной аксиоматике (программе и ее синтаксисе). Как доказал Гедель, такая логика, в отличие от человеческого сознания, не в состоянии решить неразрешимые проблемы в теории чисел. Появившиеся во второй половине века клеточные автоматы, машинное обучение, параллельное кодирование и иные техники сократили разрыв между электронным устройством и человеческим мозгом, и потому ситуация существенно изменилась. Тем не менее «в ближайшее время замена человеческого мозга роботом» все еще невозможна.
Машины способны обойти человека в решении задач, которые на первый взгляд требуют осмысленных рассуждений. Например, суперкомпьютер IBM Deep Blue в 1997 году в матче-реванше победил чемпиона мира по шахматам Гарри Каспарова, а компьютер Watson в 2011 году обыграл победителей игры «Jeopardy!» Брэда Раттера и Кена Дженнингса. Некоторым эти достижения кажутся впечатляющими, а некоторых пугают. Тем не менее за победами компьютеров не стоят ни глубокие рассуждения, ни творческое мышление, а лишь блестящие программы, очень быстрая обработка информации и доступ к огромным базам данных (в случае с Watson – к двумстам миллионам веб-страниц, включая всю «Википедию»). Эти устройства и их победы следует скорее назвать триумфом человеческого гения.
Существуют различные уровни машинного интеллекта, и нет никаких сомнений в том, что в области копирования некоторых аспектов функционирования человеческого мозга мы добились невероятного прогресса. Но искусственный интеллект как самостоятельное мышление машины остается далекой целью. Одной из причин этого является тот факт, что мы недостаточно хорошо представляем себе, что такое интеллект вообще и как именно человеческий мозг (или в меньшей степени мозг высокофункциональных животных) вмещает его в себя. Если интеллект зависит исключительно от архитектуры мозга, включая мириады синаптических соединений между нейронами, тогда существуют основания предполагать, что создание ИИ (искусственного интеллекта) всего лишь дело времени и что когда-нибудь машины научатся имитировать человеческий мозг и в конечном итоге превзойдут его. Это фундаментальное предположение, по сути, дало начало исследованиям сильного ИИ на конференции 1956 года в Дартмутском колледже: «Каждый аспект обучения или иная характеристика интеллекта может быть описана настолько точно, что возможно создать машину для ее имитации».[185] С другой стороны, если интеллект и сознание действительно зависят от чего-то другого, например от какого-то неизвестного организационного принципа или принципов, то простого инженерного анализа будет недостаточно для создания мыслящих машин.
Таким образом, осуществимость этой задачи зависит от функционирования мозга и природы сознания. Проблема и главное затруднение состоят в том, что между экспертами в этой области нет согласия. Компьютерная теория разума, один из сильнейших аргументов в пользу ИИ, утверждает, что мозг можно декодировать и что его работа сводится к коммуникации между нейронами и образованию операционных кластеров. Не существует никакой великой загадки сознания, есть лишь непонимание принципов его работы. Оптимисты, такие как изобретатель Рэй Курцвейл, создатель роботов Ханс Моравец и кибернетик Кевин Уорвик, уверены, что день, когда компьютеры смогут имитировать человеческий мозг, уже не за горами. В 1965 году один из основателей компании Intel Гордон Мур вывел эмпирическую закономерность, известную как закон Мура: количество транзисторов в интегральных схемах удваивается примерно каждые два года. Курцвейл применил этот закон к современным микропроцессорным технологиям и сделал вывод, что к 2029 году персональные компьютеры сравняются по мощности обработки информации с нашим мозгом. Продолжая свои рассуждения, он приходит к тревожным выводам: к 2045 году искусственный интеллект научится улучшать сам себя с немыслимой скоростью. Этот момен