В таком случае, что касается тех, кто привержен практическому проекту создания подлинного искусственного интеллекта, построенного на компьютерных моделях мышления, то их предприятие крайне безнадежно. Когда в 1997 году Гарри Каспаров, наконец, проиграл шахматный матч компьютеру Deep Blue, возбуждение охватило сообщество искусственного интеллекта и прессу; за рубежом оповестили, что компьютер, мол, победил шахматного мастера и сделал это, «думая» с большей гибкостью, чем его человеческий противник. Но дело обстояло совсем по-другому, как стало ясно в 2003 году, когда Каспаров столкнулся с гораздо более грозным Deep Junior и сыграл вничью. Это озадачило многих истинно верующих в искусственный интеллект. Компьютерная программа могла обрабатывать три миллиона возможных стратегий каждую секунду, в то время как Каспаров мог рассмотреть только несколько на любом данном этапе; но, как заметил Каспаров, какие бы варианты он ни рассматривал, именно они были лучшими из мыслимых. Это все потому, что Каспаров делал именно то, чего компьютер, прогоняя миллионы и миллионы бессознательных вычислительных конфигураций, не делал даже на мгновение: он думал. Ни одна мысль не прошла через маленькую монтажную плату компьютера. И у него не было интенций или чего-то даже отдаленно похожего на интенции. Он и в шахматы не играл. Все его мнимые умственные действия были на самом деле производными следствиями сознательных интенций его программистов, использовавших его схему для запуска алгоритмов, которые были в значительной степени дистилляцией обширного архива прошлых шахматных матчей, в том числе собственных матчей Каспарова; компьютер был просто перегонным кубом, через который тек дистиллят. Когда Каспаров проиграл свою партию в 1997 году, он был побежден не машиной, а огромной командой людей, в которую входил невольно и сам. И нигде в этом процессе не было какой-то разумной сущности под названием Deep Blue. И наоборот, когда Каспаров размышлял и делал ходы по доске, он мог производить в своем мозгу определенные функции, аналогичные функциям компьютера, но его сознательный акт мышления сам по себе не был компьютерным вычислением. Его разум не просто механически повторял каждую мыслимую конфигурацию шахматной доски, а затем автоматически выбирал те ходы, которые статистически наиболее вероятны для успеха; скорее, он понимал, чтó он делает, субъективно и интенционально, и его способность понимать – сразу схватывать принципы шахматной стратегии – и его память о своем предыдущем опыте, его волевые намерения и множество других вещей – позволили ему достичь целей, которые бессмысленное устройство, такое как компьютер, никогда бы не смогло достигнуть. Подобно тому как, вероятно, никогда не будет разработана компьютерная программа, чтобы, скажем, адекватно перевести стихотворение с одного языка на другой, ни одна программа никогда не будет «играть» в шахматы, даже если синтез навыков ее изобретателей окажется непобедимым для блестящего мастера шахматной игры. Рациональное мышление – понимание, интенция, воля, сознание – это вовсе не разновидность вычислений, подобных компьютерным.
Представьте, что это связано с ошибкой, касающейся не только того, что делает ум, но и того, что делает компьютер. Одним из предположений, лежащих в основе теории искусственного интеллекта, является то, что мозг, подобно компьютеру, использует алгоритмы в виде сложных нейронных событий, которые переводят нейронную информацию в репрезентативные символы. Если бы мы должны были провести «гомункулярную декомпозицию» разума в вычислительных терминах, то предположительно мы спустились бы через символический уровень операций к уровню чего-то наподобие двоичных функций, а затем – дальше, пока не достигли бы простых «переключателей» в мозгу, где и заложены эти функции. Но это переворачивает порядок каузальности на обеих сторонах нашей аналогии. Ни мозги, ни компьютеры, рассматриваемые исключительно как физические системы, не содержат алгоритмов или символов; только сознанию репрезентируется, что физическое поведение этих систем выдает какой-либо интенциональный контент. Именно в сознании человека, который программирует или использует компьютер, и в сознании, которое действует через физический аппарат мозга, эти символы и находятся. Фактически только по этой причине символический перевод возможен, потому что перевод данных в значение или одного вида значения в другой – это работа интенциональной субъективности, которая уже превосходит разницу между оригинальным «текстом» и его переводом. Компьютерный программист может переводить значения или функции в алгоритмы, потому что, будучи интенционально сознательным, он (или она) способен репрезентировать операции компьютера не просто как физические события, а как понятные символические транскрипции чего-то еще; именно в его (или ее) сознании, в любом направлении этого процесса, физическое служит целям ментального. Если мозг производит «символы» мира, воспринимаемого чувствами, например, то это не физическая транзакция, а ментальный акт репрезентации, который уже предполагает восприятие как опыт мира, находящегося снаружи. И только там, где существует символическое значение, происходит то что-то, что мы могли бы назвать мышлением. Таким образом, даже если бы мы могли вообразить или дедуктивно сойти с уровня сознания вниз через слои символов, простые нотационные функции и нейронные механизмы, мы не смогли бы тогда вернуться назад тем же путем, каким туда пришли. Опять-таки, физическая редукция какого-либо феномена до чисто материальных сил ничего не объяснит, если не удастся затем реконструировать этот феномен из его материальной основы, не прибегая к каким-либо более высоким причинам; но никакое компьютерное представление мысли никогда не сможет этого сделать. Символы существуют только «наверху», как бы в сознании, глядящем вниз по пути этого «спуска», действуя всегда как высшая причина по отношению к материальной реальности. Взглянув в противоположном направлении, «снизу вверх», можно найти только непреодолимую бездну, отделяющую интенциональную пустоту материи от интенциональной полноты разума. Абсолютная ошибка состоит в представлении, будто электрическая активность компьютера и есть само вычисление; и когда верующий в искусственный интеллект утверждает, что электрохимические операции мозга являются своего рода вычислением и что сознание возникает из этого вычисления, он (или она) говорит нечто, совершенно лишенное смысла. Попросту говоря, всякое вычисление онтологически зависит от сознания, и поэтому вычисление не может обеспечить того основания, на котором покоится сознание. Можно, конечно, пытаться объяснять существование солнца как результат тепла и яркости летних дней.
Это также означает, кстати, что глупо говорить о разумах как о собраниях «мемов», составляющих «виртуальную машину» или «программу», которая работает в структуре мозга, как это делают Деннетт и другие. Этот термин «мемы» – словцо, придуманное Ричардом Докинзом и облюбованное узким кругом когнитивных и эволюционных теоретиков, – относится к своего рода культурному аналогу генов: предположительно мем является единицей общего поведения или мысли, как стиль одежды или архитектурной моды, или мелодии, или идеи, или фразы, которая передается от одного человека другому путем имитации и вариации. Более того (и тут – аналогия между генетикой и «меметикой»), мемы, по-видимому, в какой-то мере копируют самих себя, колонизируя экологию мозга, адаптируя, выживая, вытесняя менее прочные меметические популяции и тем самым создавая и определяя контенты сознания. Теперь, в качестве иронической метафоры, подразумеваемой как слегка едкий комментарий к человеческой тенденции к конформизму, разговоры о «мемах» могут быть досадно симпатичным и притягательным способом описания генеалогии популярной культуры. В смысле серьезной гипотезы того, как работает сознание – как оно приобретает свои «программы» или свои ментальные интенция, – все это псевдонаучная и псевдофилософская болтовня. Было бы, конечно, удобно для компьютерно-вычислительной модели разума, если бы можно было обнаружить какую-то предсознательную форму интенционального контента, который распространяется сам по себе, который расположен в мозге так, как ДНК находится в клетках тела, и который таким образом составляет «информацию» сознания, в чем-то подобно тому, как генетические коды вносят «информацию» в организмы. Однако эта идея абсурдна. Генетические материалы размножаются физическими транзакциями, потому что они сами являются физическими реальностями; на их уровне нет необходимости в сознательных действиях. Однако, каких бы ни было еще «мемов», если бы такие вещи действительно существовали, они определенно были бы составлены из интенционального контента и существовали бы только как объекты ментальной репрезентации. Поэтому они не были бы метафорически «выбраны» природой в том смысле, в каком говорят о единицах биологической эволюции, но буквально были бы выбраны (пускай часто несколько пассивно) сознательным разумом. Они могут быть объектами интенциональности, но они, безусловно, не могут объяснить интенциональность; существование причины не может быть объяснено ее собственными контингентными следствиями. Как таковое, словцо «мемы» – это просто причудливый жаргон, некое драгоценное имя для капризов человеческого вкуса, любопытства, воображения и тоски по общению. Более того, если использовать его в этом контексте, то, возможно, нет более заметного примера аналогии, которая должна объяснять сознание, но которая сама по себе понятна только в свете реальности сознания (во всей его вечной необъяснимости).
В любом случае моя тема на самом деле – не философия сознания, хотя к этому моменту может показаться, что я об этом забыл. Меня волнует не просто тайна сознания, но и значение этой тайны для правильного понимания слова «Бог». Я признаю, что не торопился в достижении этого момента, но думаю, что это оправданно. Мой тезис на всех этих страницах состоит в том, что грамматика нашего мышления о трансцендентном дана нам в имманентном, в самом скромном, знакомом и привычном опыте реальности; однако в случае нашего опыта сознания привычность может легко подавить в нас чувство сущностной тайны. Здесь нет значимого различия между субъектом и объектом опыта, и поэтому тайна сокрыта своей собственной вездесущностью. Поэтому один из особенно хороших способов оценить полную странность сознания – так сказать, внутреннюю сторону того момента экзистенциального удивления, который пробуждает нас к странности всего сущего, – это рассмотреть экстраординарные труды, необходимые для описания сознания и разума в чисто материальных терминах. Мы достигли любопытного этапа в истории материализма, указывающего, похоже, на тот предел, который либо трагичен, либо комичен (в зависимости от наших симпатий). Для ряда «натуралистских» теоретиков стало вполне достоверным и даже логически неизбежным, что защита «рационалистических» ценностей должна требовать отрицания существования разумного сознания. Или, скорее, интеллектуальная последовательность обязывает их полагать, что разум паразитирует на сугубо иррациональных физических событиях и что вполне возможно, что наше несуществующее сознание только вводится в заблуждение интенциональным суждением, будто существует такая вещь, как интенциональное суждение (belief). Или они думают, что то, что мы приняли за наши разумные убеждения и идеи, на самом деле есть лишь колония разнообразных «мемов», которые утвердились в экологии коры нашего головного мозга. Или что угодно. В таком странном культурном или интеллектуальном контексте слово «фанатизм» не оскорбительно, а всего лишь описательно. Мы достигли почти мистически фундаменталистского абсурдизма. Тем не менее, что здесь на самом деле удивительно – так это не то, что некоторые экстремистские сторонники натуралистской мысли принимают такие идеи, а то, что любой человек, склонный к натурализму, может предположить, что его (или ее) убеждения допускают и какие-то иные выводы. Если на самом деле природа – это то, что механистическая метафизика изображает как бытие, то сознание, как бытие соб