Но мы также должны помнить о влиятельной — даже доминирующей — роли рептильного мозга в нашем мышлении. Это значит, что нам нужно осознать свои наиболее примитивные реакции, наш территориальный и эмоциональный подход к понятиям «мышление», «машина», «робот», «интеллект», «искусственный», «естественный» и «человек». Первостепенная задача рептильного мозга — выживание, и, хотя об этом не очень много говорят, стремление к выживанию лежит в основании наших надежд и страхов, связанных с мыслящими машинами. Когда мы изучаем древние архетипы, или литературу, или прогнозы в настоящей дискуссии, отраженной в вопросе Edge, постоянно проступает подсознательное и инстинктивное: рептильный бином — смерть против бессмертия.
Несомненно, у нас есть страх смерти, связанный с коллективным представлением о роботах, которые способны размножиться и, учитывая их интеллектуальное превосходство, предать и истребить своих создателей. Такие машины, видимо, представляют собой ужаснейшую опасность — уничтожение всего, что нам дорого. Но наш рептильный мозг также видит в них спасение; мы надеемся на то, что сверхразумные машины предложат нам вечную жизнь и вечную юность. Указания на такой способ мышления встроены в наш язык. Хотя в английском слова «robot» и «machine» лишены признака пола, в романских языках, а также в немецком есть разница: «el robot» — мужественный, опасный и грозный, тогда как «la máquina» — женственная, покровительственная и заботливая.
Иеремия Бентам определил человека как рациональное существо, но мы-то знаем, что мы не такие. Каждый из нас иногда действует иррационально, повинуясь силе рептильного мозга, а его стимулы были и остаются основой эволюции интеллекта. Чувство — вот что важнее всего в мышлении.
Машина, у которой скорость обработки данных возрастает по экспоненте раз в полтора года, которая обыгрывает естественный интеллект в шахматы, разбирая несметное количество вариантов развития игры ход за ходом, которая может точно поставить диагноз больному, — все это очень впечатляет, но все-таки мышлением мы называем другое. Чтобы исполнилась наша мечта о мыслящих машинах, машинам придется понимать ценности и ставить их под сомнение, переживать внутренние конфликты, испытывать дружеские чувства.
Когда мы думаем о мыслящих машинах, нам надо задавать себе рептильные вопросы, например: рискнули бы вы своей жизнью ради машины? Позволили бы вы роботу стать политическим лидером? Стали бы вы ревновать машину? Стали бы вы платить налоги, обеспечивающие благосостояние робота? Принесли бы вы тюльпаны на могилу своего робота? Или, что даже важнее, принесет ли ваш робот тюльпаны на вашу могилу?
Признание роли рептильного мозга в наших размышлениях об ИИ поможет яснее увидеть последствия и саму природу машины, которая способна искренне сомневаться и искренне действовать, а также то, к какому именно искусственному интеллекту нам надо стремиться. Если наша биология создала культуру как инструмент для выживания и эволюции, то сейчас наш естественный интеллект должен привести нас к созданию машин, которые чувствуют и имеют инстинкты; лишь тогда бессмертие победит смерть.
На пути к натуралистическому представлению о разуме
«Мыслить» может означать «рассуждать логически», на что некоторые машины точно способны, хоть они и следуют запрограммированным нами алгоритмам. Или это может означать «иметь разум», под чем мы понимаем то, что машина воспринимает себя как субъект, обладающий сознанием, первичными ощущениями, опытом, намерениями, взглядами, эмоциями, воспоминаниями. Когда мы спрашиваем, может ли машина мыслить, на самом деле нас интересует, может ли существовать полностью натуралистическое представление о том, что такое разум. Я натуралист, так что полагаю, ответ должен быть утвердительным.
Конечно, нам до этого еще далеко. Что бы ни делал мозг для генерации разума, сомневаюсь, что он просто выполняет заранее записанные алгоритмы или что-то из того, что делают современные компьютеры. Нам, вероятно, еще только предстоит открыть основные принципы работы человеческого мозга. Подозреваю, что нельзя понять, как и зачем мы мыслим, не разобравшись, что такое наша жизнь — в физическом выражении. С созданием искусственного разума, вероятно, придется обождать.
Такое понимание должно разрешить то, что Дэвид Чалмерс называет трудной проблемой сознания: как объяснить наличие квалиа (первичных ощущений) в физическом мире? У нас есть причины полагать, что наше восприятие, скажем, красного цвета связано с определенным физическим процессом в мозге, но мы попадаем в тупик, потому что, видимо, невозможно объяснить в физических терминах, как или почему эти процессы дают начало первичным ощущениям.
Важным шагом на пути к решению проблемы будет помещение нашего описания физики в реляционный язык. Как отмечал Лейбниц, небесный покровитель релятивизма, свойства элементарных частиц зависят от их отношений с другими частицам. Эта идея оказалась очень удачной и была хорошо реализована в рамках общей теории относительности и квантовой теории; примем ее и мы.
Вторым шагом будет признание того, что события или частицы могут иметь свойства, не являющиеся реляционными — не описываемые исчерпывающей историей отношений, в которые они вступают. Назовем их внутренними свойствами.
Если у события или процесса есть внутренние свойства, то о них нельзя узнать в результате взаимодействия с ними или измерений. Внутренние свойства нельзя описать в терминах положения, движения, заряда или сил, то есть с помощью того лексикона, который физики обычно используют, говоря об относительных свойствах. Вы, однако, можете знать о внутренних свойствах процесса потому, что сами являетесь этим процессом.
Давайте предположим, что квалиа — внутренние свойства некоторых процессов, происходящих в мозге. При наблюдении извне эти процессы можно описать в терминах движения, потенциалов, масс, зарядов. Но у них есть дополнительные внутренние свойства, которые иногда включают квалиа.
Квалиа должны быть предельными случаями сугубо внутренних свойств. Более сложные проявления разума могут оказаться сочетаниями реляционных и внутренних свойств. Мы знаем, что мысли и намерения способны влиять на будущее.
Ведется большая научная деятельность по разработке подобных натуралистических представлений о разуме — не дуалистических и не дефляционных, таких, которые не сводили бы ментальные свойства к стандартным физическим процессам и наоборот. Мы, наверное, хотели бы избежать наивного панпсихизма, в соответствии с которым у камней и ветра тоже есть ощущения. В то же время нужно помнить о том, что, если мы не знаем, каково это — быть летучей мышью, мы на самом деле не знаем и что такое камень, в том смысле что нам известен лишь один из наборов его свойств, а именно реляционный.
Удручающий аспект разума с натуралистической точки зрения — это наше представление о том, что у нас бывают некие новые мысли и новые ощущения, которых раньше ни у кого и никогда в мировой истории не бывало. Если бы человеческая культура и воображение не порождали бы ничего по-настоящему нового, они имели бы мало смысла. Сто лет назад не существовало сайта Edge, и вряд ли кто-то мог его себе представить. Однако он есть, и, поскольку мы натуралисты, у нас должна быть концепция природы, в которую он также входит. Она должна допускать, что нечто новое может начать существовать.
Нас парализует убежденность в том, что ничего нового в природе произойти не может, потому что все на самом деле состоит из элементарных частиц, движущихся в пространстве согласно неизменным законам. Не отклонившись и на дюйм от строгого натурализма, мы, однако, способны вообразить, как углубить наше понимание природы, чтобы допустить возникновение чего-то нового.
Во-первых, в квантовой физике мы признаем возможность появления новых свойств, распределенных между несколькими частицами в запутанных состояниях. В лаборатории мы можем создать такие запутанные состояния сложных систем, которые вряд ли имеют прецеденты в природе. Следовательно, мы способны создавать (и создаем) физические системы с новыми свойствами (что, кстати, природа тоже делает, когда естественный отбор производит новые протеины, катализирующие новые реакции).
Во-вторых, закон единства и борьбы противоположностей, сформулированный Лейбницем, предполагает, что не может быть двух отдельных событий с совершенно идентичными свойствами. Это означает, что фундаментальные события не могут подчиняться законам, которые одновременно и детерминистические, и простые, поскольку, если два события имеют совершенно идентичное прошлое, их будущее должно быть различным. Это предполагает существование физики, которая может отличать будущее от прошлого.
Отметим, что квантовая физика по сути своей недетерминистична. Значит ли это, что квантовой физике отведена некая роль в будущем натуралистическом представлении о разуме? Сейчас слишком рано судить, а первые попытки вести работу в этом направлении оказались не слишком убедительными. Но мы узнали, что натуралистическое представление о разуме потребует более глубокого понимания естественного, природного. У нас могут рождаться новые мысли, способные менять будущее. Новизна должна стать частью нашего понимания природы, если уж разумам свойственно быть природными. Следовательно, чтобы понять, как машине обзавестись разумом, нам нужна более глубокая концепция природы.