Тьюринг пытался зафиксировать в своей игре в имитацию идею о том, что наиболее важный аспект мышления — это реакция системы на стимулы, например на вопросы, которые выводятся в окне терминала. Полная аудио- и видеозапись человеческой жизни не обладала бы «сознанием», даже если бы нам удалось в точности зафиксировать всё, что человек успел сделать к настоящему моменту, поскольку такая запись не позволяла бы экстраполировать это поведение в будущее. Мы не могли бы задать будущему вопросы или контактировать с ним.
Многие программы, пытавшиеся пройти облегчённые версии теста Тьюринга, были наскоро состряпанными чатботами — простыми системами, которые могут сыпать заранее запрограммированными репликами на различные возможные вопросы. Их легко обхитрить не только из-за отсутствия у них подробных контекстуальных знаний о внешнем мире, которые есть у любого нормального человека, но и из-за того, что они даже не запоминают разговор, который ведут, а тем более не вплетают эти воспоминания в контекст дискуссии. Чтобы приобрести такие возможности, они должны были бы обладать внутренними ментальными состояниями, которые целостным образом зависели бы от всей истории бота, а также иметь возможность продумывать гипотетические ситуации из будущего, отличая при этом будущее от прошлого, себя от окружающей среды и реальность от вымысла. Как предполагал Тьюринг, та программа, которая действительно могла бы убедительно поддерживать разговор на человеческом уровне взаимодействия, действительно могла бы называться «думающей».
* * *
Синтия Брезел, инженер-робототехник из Массачусетского технологического института, поставила ряд экспериментов в области «социальной робототехники». Одним из её наиболее милых изделий является робот-кукла по имени Леонардо, корпус которого спроектировали специалисты из компании Stan Winston Studio, занимающейся разработкой спецэффектов и участвовавшей в подготовке знаменитых голливудских блокбастеров, таких, например, как «Терминатор» и «Парк юрского периода». Леонардо оснащён более чем шестью десятками миниатюрных двигателей, которые позволяют ему совершать разнообразные движения и обеспечивают богатую мимику — он весьма похож на Гизмо, персонажа из фильма «Гремлины» Стивена Спилберга.
Оказывается, мимика — очень полезный ресурс при общении с людьми. Мозг работает лучше, если находится в «теле».
Леонардо общался с исследователями из лаборатории Брезел, распознавал выражения их лиц и изображал мимику сам. Кроме того, в него была запрограммирована теория разума — он не только учитывал те знания, которые приобретал сам (информацию о том, что происходит перед Леонардо, записывали его глаза-видеокамеры), но и что-то узнавал от окружающих людей (имитировал их действия). Не все действия Леонардо были заранее запрограммированы; он изучил новые варианты поведения, общаясь с людьми, подражая жестам и реакциям, которые подмечал у других. Любой человек, ничего не зная о программной составляющей Леонардо, легко догадывался, доволен робот или грустит, страшно ли ему или он запутался — достаточно было понаблюдать за его мимикой.
Один наглядный эксперимент, поставленный с Леонардо, относился к классу задач на понимание ложных убеждений: следовало убедиться, что субъект понимает, что некто может придерживаться определённого убеждения, даже если оно ложно. (По-видимому, у человека такая способность развивается в возрасте около четырёх лет; дети младшего возраста искренне заблуждаются, считая, что все остальные смотрят на вещи точно так же, как и они). Леонардо увидел, как некто кладёт куклу Большая Птица в одну из стоящих перед ним коробок. Затем этот человек удаляется, а в комнату входит другой человек и перекладывает Большую Птицу из одной коробки в другую. Второй человек уходит, а первый возвращается. Леонардо достаточно умён, чтобы понять две вещи: во-первых, Большая Птица во второй коробке, а, во-вторых, первый человек «полагает», что она в первой.
Затем экспериментатор спрашивает: «Лео, как ты думаешь, где, на мой взгляд, лежит Большая Птица?». Это вопрос о метапознании, то есть мышлении о мышлении. Леонардо правильно указывает на первую коробку, согласно собственной модели об убеждениях экспериментатора. Однако, указывая на первую коробку, Леонардо также мельком поглядывает на вторую — он же знает, что кукла там. Такое поведение не было запрограммировано; робот усвоил его из общения с людьми.
Будь вы рыба, выползающая на сушу, либо робот, общающийся с экспериментаторами в лаборатории, вам пригодятся модели окружающего мира, учитывающие присутствие других живых существ, а также их модели мира. Осведомлённость о себе и других, умение поддерживать коммуникацию на нескольких уровнях — важные навыки для выживания в непростом мире.
Глава 40Трудная проблема
Жизнь на Земле претерпела несколько драматических фазовых переходов. Самовоспроизводящиеся организмы, клеточные ядра, многоклеточная жизнь, выход на сушу, зарождение речи — всё это важные новые способности, радикально расширявшие круг возможностей организма. Возникновение сознания — пожалуй, наиболее интересный из всех фазовых переходов, начало совершенно новых принципов самоорганизации и поведения материи. Атомы не просто могут складываться в сложные самоподдерживающиеся структуры — эти структуры обретают самосознание и способность оценивать, какое место они занимают в мироздании.
Если, конечно, не происходит чего-то значительно более глубокого. Как выразился философ Томас Нагель, «по-видимому, существование сознания подразумевает, что... устройство естественного мира отнюдь не сводится к простым явлениям, описываемым физикой и химией». С такой точки зрения не следует рассчитывать, что мы могли бы объяснить сознание исключительно в контексте физических свойств квантовых полей, описываемых Базовой теорией, поскольку сознание выходит за рамки физического мира.
Несложно представить себе, почему у кого-то могут возникнуть такие ощущения. Отлично, рассуждаем мы далее, я готов признать, что Вселенная существует и подчиняется естественным законам, не апеллируя к каким-либо внешним факторам. Я вполне допускаю, что жизнь — это сложная сеть взаимосвязанных химических реакций, она возникла спонтанно и миллиарды лет развивалась под действием естественного отбора. Однако я, определённо, не просто куча атомов, которые сталкиваются друг с другом под действием тяготения и электромагнетизма. Я воспринимаю, я чувствую; быть мною — это что-то особенное, что-то сугубо личное и эмпирическое, это глубокий внутренний опыт, который, пожалуй, нельзя свести к движению тупой материи, независимо от того, сколько атомов собрать вместе. Этот феномен получил название «психофизиологическая проблема»: как можно рассчитывать, что нам удастся описать ментальную реальность, если мы опираемся лишь на физические концепции?
Как и в случаях с происхождением жизни и происхождением Вселенной, нельзя утверждать, что мы полностью понимаем природу сознания. Изучение человеческого мышления и чувствования, не говоря уж об исследовании нашей саморефлексии, пока только зарождается. Как выразилась нейрофизиолог и философ Патрисия Чёрчленд, «мы находимся на доньютоновском и докеплеровском этапе. Мы всё ещё пытаемся осознать, что у Юпитера есть спутники».
Однако ничто из того, что известно нам о сознании, не позволяет усомниться в обычном натуралистическом восприятии мира, которое настолько успешно подтвердилось во многих других контекстах. По состоянию на текущий момент ни один из аспектов психофизиологической проблемы не убеждает нас в том, что законы физики требуют дополнений, поправок или надстроек.
* * *
«Сознание», как и «жизнь», — не столько унифицированная концепция, сколько набор взаимосвязанных атрибутов и феноменов. Мы осознаём себя и собственную отграниченность от окружающего мира. Мы можем размышлять об альтернативных сценариях будущего. Испытываем ощущения. Можем абстрактно рассуждать и оперировать символами. Переживаем эмоции. Можем вспоминать, рассказывать истории и иногда лгать. Сознание слагается из суммарного функционирования всех этих явлений, и некоторые аспекты проще объяснить в чисто физическом контексте, другие — сложнее.
Возьмём, к примеру, красный цвет. Это полезная концепция, которая явно обладает универсальной объективной узнаваемостью, по крайней мере для зрячих людей, не страдающих дальтонизмом. Мы однозначно понимаем инструкцию «красный свет — хода нет». Но существует знаменитый коварный вопрос: а видим ли мы с вами одно и то же, когда полагаем, что видим что-то красное? Это вопрос из области феноменального сознания — каково ощущать красноту?
Слово «квалиа» (множественное число от «quale», произносится [квале]) иногда употребляется в значении «субъективное восприятие чего-либо». «Красный» — это цвет, объективная с физической точки зрения длина волны или соответствующая комбинация нескольких длин волн, но «восприятие красноты красного» — это одно из квалиа, которые пригодятся нам для полного понимания сознания.
Австралийский философ Дэвид Чалмерс подчёркивал разницу между тем, что он называл Простыми Проблемами, и Сложной Проблемой сознания. Простые Проблемы многообразны: объяснить разницу между бодрствованием и сном, описать восприятие информации и её интеграцию, сформулировать, как мы вспоминаем прошлое и прогнозируем будущее. Сложная Проблема — объяснение квалиа, субъективности опыта. Можно сказать, что Сложная Проблема охватывает те аспекты сознания, которые неотделимы от личности, — наши собственные ощущения, а не то, как мы действуем и реагируем с точки зрения всех остальных. Простые Проблемы по сути функциональны, а Сложная Проблема касается восприятия.
Именно Сложная Проблема представляет собой очевидный вызов чисто физической трактовке мира. Простые Проблемы непросты, но они однозначно вписываются в сферу традиционных научных исследований. Мы пока ещё не вполне понимаем, как именно в голове возникает образ «рыба», когда протоны отражаются от рыбы и попадают нам на сетчатку. Но с нейрофизиологической точки зрения путь к пониманию этого кажется довольно простым. Напротив, Сложная Проблема кажется куда более крепким орешком. Можно сколько угодно рыться в мозге, но как это поможет нам в постижении внутреннего, сугубо субъективного опыта? Как совокупность квантовых полей, развивающаяся в соответствии с Базовой теорией, вообще может обладать «внутренним опытом»?