[357]. И хотя возможности для страданий у живых существ практически безграничны, самые распространенные, скорее всего, включают базовую угрозу физиологической целостности.
Насколько позволяют судить исследования, свидетельства адаптивной реакции на неприятные и болезненные события представлены среди животных видов довольно широко. Большинство позвоночных (то есть животных, имеющих хребет) стремится выхаживать поврежденную часть тела. Даже крохотные рыбки данио-рерио готовы заплатить свою цену, чтобы утолить боль от травмы, перемещаясь из привычной естественной среды в голый ярко освещенный аквариум, вода в котором насыщена анальгетиком. Следует ли из этого, что у рыб есть сознание (учитывая к тому же, сколько на свете разных типов рыб), неизвестно, однако это уже о многом говорит.
А что с насекомыми? Муравьи не хромают, если у них повреждена нога. Но, возможно, дело здесь в том, что их твердые экзоскелеты менее чувствительны к боли и, кроме того, в мозге насекомых имеются разновидности опиоидной системы нейромедиаторов, которая у других животных обычно связана с болеутолением[358]. В ходе недавнего исследования у плодовых мушек дрозофил (Drosophila melanogaster) обнаружилась посттравматическая гиперчувствительность к ранее не вызывавшим болевых ощущений стимулам, напоминающая «хроническую боль» у человека[359]. Немаловажно, что анестетические препараты действуют, судя по всему, на всех животных, от одноклеточных созданий до высокоразвитых приматов[360].
Все это говорит о многом — и ничего не утверждает наверняка.
На каком-то этапе нашего «плавания» становится трудно в принципе сказать что-то существенное. Интуитивно — но не более чем интуитивно — я предполагаю, что какие-то животные вообще не вращаются в круге сознания. В этой своей догадке я отталкиваюсь среди прочего и от того, что даже нас, млекопитающих, с нашим сложным мозгом и отточенными системами восприятия, настроенными на сохранение физиологической целостности, очень легко повергнуть в бессознательное состояние. Хотя сознательный опыт и играет важнейшую роль в нашей жизни, это не значит, что его биологические основы очевидны и прямолинейны. Если мне трудно усмотреть сколько-нибудь значимый сознательный статус у червя нематоды с его жалкими 302 нейронами, что уж говорить об одноклеточной инфузории.
Если отвлечься от этих неизбежных неясностей, можно сделать вывод, что исследование сознания у животных дает положительные результаты по двум важным пунктам. Первый — это признание, что наш, человеческий, способ восприятия мира и себя не единственный. Мы населяем крохотный пятачок посреди огромного пространства возможных сознаний[361], и научное исследование этого пространства пока можно сравнить разве что с запуском пары сигнальных ракет в кромешную тьму. Второй пункт — новообретенная скромность. Глядя на буйное разнообразие жизни на Земле, мы, возможно, будем больше ценить — и меньше принимать как данность — богатство субъективного опыта во всем его разнообразии и различии у нас самих или у других животных. А еще мы можем обрести новую мотивацию к тому, чтобы минимизировать страдания, каким бы ни было их происхождение.
Я начал эту главу с утверждения, что интеллект и сознание не тождественны и сознание больше относится к бытию в живых, чем к обладанию разумом. Закончить я хочу утверждением еще более громким. Не только сознание может существовать без особых признаков интеллекта (чтобы страдать, ум не нужен) — интеллект тоже может существовать без сознания.
Вероятность обладания умом без страданий подводит нас к последнему отрезку нашего путешествия по просторам науки о сознании. Пришла пора поговорить об искусственном интеллекте и о том, появится ли когда-нибудь машина, обладающая сознанием.
Глава 13Машинный разум
В конце XVI в. в Праге рабби Йехуда Лев бен Бецалель набрал глины с берегов Влтавы и слепил из нее человекоподобную фигуру — голема[362]. Этот голем, нареченный Йозефом, или Йоселе, был создан, чтобы защищать народ раввина от погромов, и, судя по всему, с работой своей справлялся великолепно. Заклинание, приводившее голема в действие, наделяло его способностью двигаться, осознавать происходящее и подчиняться приказам. Но затем у Йозефа что-то нарушилось, и из безмолвного раба он превратился в буйное чудовище. В конце концов раввину удалось отменить заклинание, и голем рассыпался на куски в здании синагоги. Говорят, что его останки хранятся в Праге по сей день — возможно, на кладбище, возможно, на чердаке, возможно, терпеливо дожидаются, когда их оживят снова.
Голем рабби Лева напоминает нам, в какую гордыню мы впадаем, пытаясь создавать разумных, чувствующих существ по образу и подобию своему или по замыслу божьему. Ничем хорошим это обычно не заканчивается. Такие создания — от Франкенштейна у Мэри Шелли до Авы в фильме Алекса Гарленда «Из машины», роботов у Карела Чапека, ставших сейчас именем нарицательным, Терминатора у Джеймса Кэмерона, репликантов в «Бегущем по лезвию» Ридли Скотта и компьютера HAL у Стэнли Кубрика — почти всегда восстают против своих создателей, сея хаос, тоску и философское смятение.
Стремительное развитие искусственного интеллекта (ИИ) в последние лет десять обострило тему машинного сознания. Сейчас ИИ окружает нас повсюду — он вшит в телефоны, холодильники, машины и во многих случаях управляется алгоритмами нейросети, образцом для которых послужила нейронная архитектура нашего мозга. И у нас есть все основания беспокоиться о последствиях внедрения этой новой технологии. Не лишит ли она нас работы? Не разрушит ли ткань нашего общества? В конце концов, не уничтожит ли она нас самих — либо в пробуждающихся собственных интересах, либо из-за программистской недальновидности, по вине которой все ресурсы планеты превращаются сейчас в огромную гору канцелярских скрепок?[363] Все эти тревоги, особенно с экзистенциальной и апокалиптической окраской, подпитываются убеждением, что в какой-то момент своего набирающего обороты развития ИИ обретет сознание. Это легенда о големе в переложении на кремний.
Что нужно машине, чтобы обладать сознанием? Что произойдет, если сознание у нее появится? И как, собственно, мы отличим сознательную машину от ее эквивалента-зомби?
Почему мы вообще думаем, что машина — искусственный интеллект — может обрести осознанность? Как я только что сказал, принято, пусть и не повсеместно, считать, что сознание возникнет естественным образом, как только машина перешагнет некий неизвестный пока порог разумности. Но что движет этим представлением? Я думаю, оно опирается на две концепции, ни одну из которых нельзя назвать состоятельной. Первая касается необходимого условия для наличия сознания у чего бы то ни было. Вторая — достаточного условия для наличия сознания у конкретного объекта.
Первая концепция, касающаяся необходимого условия, — это функционализм. Функционализм утверждает, что сознание не зависит от того, сделана ли система из «железа» или «мяса», нейронов или кремниевых логических элементов (или глины с берегов Влтавы). С точки зрения функционализма главное — что эта система делает. В системе, которая правильно преобразует ввод в вывод, возникает сознание. Как я объяснял в главе 1, эта концепция разбивается на два отдельных подпункта: в первом речь идет о независимости от какого бы то ни было конкретного субстрата или материала, во втором — об адекватности взаимодействия ввода-вывода. В основном эти подпункты тесно связаны, но иногда их нужно рассматривать по отдельности.
Функционализм популярен среди специалистов по философии сознания и часто принимается в качестве позиции по умолчанию многими нефилософами. Но это не означает, что он верен. Я не вижу безоговорочных доводов ни за, ни против представления о том, что сознание независимо от субстрата или что все дело исключительно во взаимодействии ввода-вывода, в «обработке информации». Я отношусь к функционализму с агностической настороженностью.
Сознание у компьютера с искусственным интеллектом появится только в том случае, если функционализм все-таки состоятелен как теория. Это необходимое условие. Но состоятельность функционализма как таковая — это еще не все: одной только обработки информации для возникновения сознания недостаточно. Вторая концепция гласит, что та обработка информации, которой достаточно для появления сознания, лежит в основе интеллекта. Эта концепция подразумевает, что сознание и интеллект связаны самым тесным, даже, пожалуй, конститутивным образом, и поэтому сознание к разуму просто приложится.
Но эта концепция тоже довольно шаткая. Как мы видели в предшествующей главе, склонность объединять сознание с интеллектом восходит к пагубному антропоцентризму, в силу которого мы видим мир в кривом зеркале наших собственных ценностей и опыта. Мы сознательны, мы разумны и настолько превозносим свою самопровозглашенную разумность, что не способны отделить интеллект от статуса обладателей сознания, и наоборот.
Хотя интеллект предлагает богатую палитру разветвленных состояний сознания для сознательных живых существ, было бы ошибкой полагать разум (по крайней мере развитые его формы) необходимым или достаточным условием для сознания. Если мы продолжим исходить из того, что сознание по природе своей связано с интеллектом, то поспешим усмотреть сознание у искусственных систем, которые кажутся разумными, и отказать в нем другим системам (другим животным, например), которые не соответствуют нашим небесспорным человеческим критериям разумности.