детерминистическими физическими законами и можем ли мы пользоваться компьютерами для моделирования действия этих законов. Существует точка зрения, что для объектов мысленного мира (например, для перечисленных слева понятий эмоции, чувство прекрасного, творчество, вдохновение, искусство) почти невозможно получить описания, пригодные для расчета. С другой стороны, существует и некоторый «научный экстремизм», сторонники которого придерживаются примерно следующей точки зрения: «Все мы всего лишь компьютеры; просто мы еще не знаем, как правильно описывать некоторые вещи, однако если бы нам были известны необходимые правила вычисления, то мы смогли бы описать и все мысленные явления, перечисленные в левой части рис. 3.4». Для описания мысленных процессов часто используются термины появление или возникновение (эмерджентность), но сторонники вычислительного подхода полагают, что свойство возникать тоже может быть получено в результате правильно используемых вычислительных операций.
Так чем же является сознание? Разумеется, я не знаю, как определить сознание, и даже не считаю, что стоит пытаться найти такое определение (поскольку мы не понимаем, что оно означает). Я уверен, что можно найти физически обоснованную концепцию, однако думаю, что любое определение окажется неверным. Поэтому вместо определения я попытаюсь дать вам описание сознания, насколько это возможно. При этом мне кажется, что существуют, по крайней мере, два аспекта сознания. С одной стороны, имеется пассивное проявление сознания, включающее осознание или восприятие (awareness). Я включаю в эту категорию нашу способность воспринимать цвет и гармонию соотношений, способность запоминать и т. п. С другой стороны, существуют и активные проявления сознания, включающие в себя понятия типа свободы воли, целенаправленности действий и т. п. Использование столь различных терминов отражает многообразие и сложность понятий, связанных с сознанием. Однако я хочу обратить ваше внимание на еще один весьма специфический аспект сознания, отличный от упомянутых выше активных и пассивных проявлений (но, возможно, являющийся чем-то промежуточным, лежащим между активной и пассивной деятельностью). Я говорю о понимании (understanding), для которого в английском языке есть еще понятие insight, которое кажется более глубоким и содержательным, поскольку включает в себя представление о проницательности, интуитивном постижении истины, озарении, мгновенном восприятии и т. д. В некоторых ситуациях используются еще и термины осознание и интеллектуальность (awareness, intelligence), которые мне не очень понятны. Разумеется, вы вправе спросить, зачем я говорю о понятиях, реальный смысл которых мне неизвестен? Дело в том, что я — математик, а математики обычно не принимают в расчет такие возражения. Им вовсе не требуются точные определения объектов, с которыми они оперируют, а достаточно знать лишь что-то относительно взаимосвязи этих объектов. Мне представляется довольно важным тот факт, что интеллектуальность является чем-то, требующим объяснения и понимания. Мне кажется неразумным использование этого термина в контексте, где нет представления о «понимании». Впрочем, термин «понимание» также выглядит малоосмысленным вне какого-либо «восприятия», так как понимание можно отнести к какому-то типу восприятия. Все сказанное просто означает, что интеллектуальность требует осознания. И хотя я не могу определить эти термины, я могу утверждать наличие некоторых отношений или связей между ними.
Существуют различные точки зрения на отношения между процессами сознательного мышления и способностью к вычислениям. Четыре основных подхода к этой проблеме (которые я обозначил через A, В, С и D) перечислены в табл. 3.1.
Таблица 3.1
А — Всякое мышление есть просто некоторый вычислительный процесс; в частности, чувство осознанного восприятия также возникает в результате осуществления соответствующих вычислительных операций
В — Сознание является лишь одной из характерных особенностей физической деятельности мозга. Как и любая другая физическая деятельность, сознание может моделироваться вычислительными операциями, но такое моделирование не является, строго говоря, самим сознанием
C — Сознание вызывается определенными физическими действиями мозга, однако эти действия принципиально нельзя вычислительно моделировать правильным образом
D — Сознание не может быть объяснено с использованием каких-либо физических, вычислительных или других научных методов или понятий
В первом подходе (А), который иногда называют сильным принципом искусственного интеллекта или (вычислительным) функционализмом, принято считать, что всякое мышление сводится просто к некоторым вычислительным операциям и, следовательно, правильно выполняя такие вычисления, мы получим в качестве результата способность к осознанию и восприятию.
В соответствии со второй точкой зрения (В) можно (по крайней мере, в принципе) моделировать ту часть работы мозга, которая относится к восприятию. Разница между подходами А и В заключается в том, что во втором случае речь идет лишь о частичном простом моделировании некоторых процессов в мозгу, а не о реальных чувствах и реальном восприятии (эти понятия в подходе B могут быть соотнесены с физическим строением мыслящего объекта). Таким образом, как бы принимается, что мозг создан из нейронов и сам может осознавать процесс восприятия, а моделирование этого процесса исключает именно процесс осознания мозгом своей деятельности. Насколько я могу судить, эту точку зрения активно развивал и поддерживал в своих работах Джон Сирл.
Сам я придерживаюсь точки зрения С, в соответствии с которой (как и в В) восприятие и сознание в какой-то степени связаны с физической активностью мозга (т. е. с какими-то физическими процессами), однако (что очень существенно для подхода С!) эти процессы не могут быть смоделированы никакой вычислительной процедурой. Я хочу сказать, что соответствующие физические процессы в мозгу принципиально не поддаются моделированию.
И наконец, всегда существуют сторонники подхода D, которые уверены, что ошибкой является сама попытка научного описания этих процессов и, возможно, восприятие и сознание вообще не могут быть объяснены с научной точки зрения.
Выше я уже говорил, что лично являюсь убежденным сторонником подхода С, однако должен сразу пояснить, что он имеет много вариантов, из которых следует прежде всего выделить так называемые слабое и сильное С-утверждение. Слабое С-утверждение подразумевает, что рано или поздно проблема будет изучена достаточно подробно, в результате чего в задаче удастся выявить те типы действий, которые сейчас находятся вне, «по ту сторону» вычислений. Говоря об областях «вне моделирования», мне следует несколько уточнить свою мысль, что я попытаюсь сейчас сделать. Согласно слабому С-утверждению все «невычислимые» операции могут быть найдены в пределах известных физических законов. Сильное С-утверждение гласит, что препятствием является существование непознанных физических законов, т. е. наше понимание физики пока просто-напросто не соответствует сложности, требуемой для описания процессов сознания. Я полностью согласен с такой оценкой и в гл. 2 уже уделил много внимания именно неполноте существующей физической картины мира (в этой связи я рекомендую читателю еще раз взглянуть на рис. 2.17). Короче говоря, сильное С-утверждение связывает невозможность объяснения природы сознания с недостаточным уровнем науки и позволяет нам надеяться, что эту проблему удастся решить в будущем.
Поскольку я упомянул рис. 2.17, позвольте вернуться к нему и дать некоторые дополнительные пояснения. В частности, я бы хотел обсудить используемый на рисунке термин вычислимость. На квантовом уровне рассмотрения все физические процессы выглядят полностью вычислимыми. Похоже, что вычислимость сохраняется и на классическом уровне, хотя здесь у нас, конечно, могут возникнуть технические проблемы, связанные с переходом от дискретных систем к непрерывным. Эти проблемы кажутся мне непринципиальными, и я не буду их рассматривать, хотя сторонникам слабого С-утверждения следовало бы внимательно изучить возникающие при таком переходе неопределенности, поскольку в них может обнаружиться то, что невозможно описать и объяснить в рамках вычислительных подходов и понятий.
Для перехода от квантового уровня к классическому обычно используется процедура, обозначенная мною R, которая является полностью вероятностным действием, вследствие чего мы должны каким-то образом объединить вычислимость со случайностью и произвольностью. Я собираюсь дальше продемонстрировать, что весь этот подход недостаточно обоснован, и для объединения указанных уровней рассмотрения нам нужна совершенно другая, новая теория, которая должна быть «невычислительной». Именно поэтому позднее я еще вернусь к проблеме определения вычислимости.
Таким образом, моя версия сильного С-утверждения выглядит следующим образом: мы должны искать в физике «невычислимость», позволяющую связать квантовый и классический уровни описания. Конечно, такая постановка вопроса представляется чрезвычайно сложной и трудной, ведь я говорю о необходимости построения не просто новой физики, а физики, относящейся к описанию работы мозга.
Прежде всего давайте подумаем о том, насколько вообще правдоподобно или вероятно существование чего-то невычислимого в нашем понимании. Позвольте мне привести в качестве примера очень простую и симпатичную шахматную задачу. Вы знаете, что компьютеры уже неплохо играют в шахматы. Однако самый мощный современный шахматный компьютер «ДипСот», решая приведенную на рис. 3.5 задачу, начинает делать очень глупые ходы. Легко видеть, что в этой позиции черные имеют огромное материальное преимущество (две лишние ладьи и слона), которое, однако, не имеет никакого значения для исхода партии, поскольку белые пешки «намертво» бл