В предыдущих главах я писал, что многие считают пчел и мух, например, крошечными летающими роботами, а вовсе не субъектами опыта. Читатель может удивиться, отчего я недоволен этими роботами и почему списываю их со счета. Ведь пусть у современных роботов опыта быть не может, но кто его знает, что сулит нам будущее?
Здесь мы касаемся темы искусственного интеллекта (ИИ) – разнообразных систем, где якобы должен существовать разум, размещенный не в теле – обычным манером, – но реализованный в алгоритмах компьютерной программы. Я имею в виду попытки создать так называемый сильный ИИ – компьютерные программы, способные не просто вести себя или решать проблемы так, как мог бы это делать некто, наделенный разумом, но программы, которые, будучи запущены, должны стать разумом. Если разум способен существовать в виде алгоритмов программного обеспечения, можно рассчитывать, что однажды мы сумеем загрузить какие-то из них, возможно те, где будет закодирован наш собственный разум, в информационное «облако». Нам по-прежнему нужны будут материальные носители, но разум сможет перемещаться с одного компьютера на другой, как перемещается информация в современных облачных технологиях. Наши мысли и опыт, ныне существующие в ограниченном пространстве тел, после загрузки будут порхать с машины на машину.
Если идеи, изложенные в этой книге, верны, создать разум, задав машине последовательность операций, невозможно, какими бы сложными и отточенными ни были эти алгоритмы. Подход, который я отстаиваю, до некоторой степени противоречит концепциям, лежащим в основе подобных проектов ИИ.
Эти проекты опираются на представление, будто разум наличествует в виде паттернов активности и взаимных связей. Обычно эти паттерны существуют в мозге, но считается, что их можно запустить и на других физических устройствах. Я, в общем, не спорю с мыслью, что разум существует в виде паттернов активности, но эти паттерны гораздо менее «мобильны», чем порой предполагается, – они неотделимы от конкретного вида физической и биологической основы.
Против идеи сильного ИИ часто выдвигают следующее возражение: в компьютерных программах можно изобразить паттерны взаимодействия, наблюдаемые в мозге, но это не то же самое, как если бы эти паттерны существовали в компьютере. Они всего лишь закодированы, записаны, но этого недостаточно. Это важное возражение, однако защитники ИИ, как правило, просто отмахиваются от него. Тем не менее есть такая связанная с работой мозга активность, которая действительно может существовать в компьютере, причем добиться этого несложно. Предположим, что мозг – всего лишь коммутируемая сеть передачи сигналов, где нейрон А активизирует нейроны В и С, нейрон С влияет на D, E и F и так далее и, кроме этого, ничего больше не происходит. Тогда, если какая-то деталь компьютера будет играть роль нейрона А (включающего В и С), другая – выполнять функции нейрона В и так далее, у вас будет все, что нужно, – все паттерны активности мозга присутствуют в машине, а не просто воспроизводятся ею. Но ведь это еще не все, что делают нейроны – и мозг тоже. Возражение, суть которого в том, что программы ИИ просто воспроизводят то, что делает мозг, но не делают того, что он делает, становится еще актуальнее, когда речь идет о крупномасштабных динамических свойствах мозга. Они тоже должны реально существовать в компьютере. Недостаточно составить пару уравнений, описывающих, что эти ритмы и волны (и так далее) делают, и скормить эти уравнения машине. Вся эта активность должна присутствовать в машине на самом деле.
Если наша цель – разум вообще, а не конкретно человеческий разум, тогда эти паттерны не обязаны быть точь-в-точь такими же, как в нашем мозге, достаточно будет простого сходства. Но задумайтесь, сколько всего нужно, чтобы запустить подобные процессы в машине. Подумайте об активности, которая дает начало ритмам и полям, о притоках и оттоках ионов (заряженных частиц) через клеточные мембраны, в сумме вызывающих синхронную осцилляцию в отдельных областях мозга. Даже если забыть о полях, существование системы, в которой наблюдается нечто подобное динамическим паттернам мозга, но которая не была бы подобна мозгу и в других отношениях, представляется сомнительным.
Здесь настал подходящий момент обдумать смысл той разновидности материализма, которую я описываю в своей книге. В вашей голове непрерывно роятся осознанные мысли. Неужели все дело в мозге? Посмотрите, это же просто серый ком. Разве этого может быть достаточно? И тут кто-то говорит: «Нет, нет, дело не в самом этом объекте, дело в активности внутри мозга, а ее вы увидеть не можете». Вы спрашиваете: «Какой активности?» И вам отвечают: «Это обмен сигналами и коммутация, очень запутанная и сложная». Предполагается, что вы скажете: «Ну хорошо» – и подумаете, что объяснение имеет смысл. Но разве оно что-то меняет? Затем перед вами вырисовывается общая картина: кроме межклеточных связей, есть еще ритмы, поля, паттерны электрической активности, модулируемые посредством ощущений. И тут, по крайней мере для меня, все вдруг меняется. Вот такая активность действительно может быть мной, моими мыслями и опытом, моей памятью о прошлом и фантазиями о будущем. В это уже не так трудно поверить.
Современные компьютеры наделены какой-то долей разума, ничтожной крупицей того, что происходит внутри нас. Компьютеры могут создавать иллюзию агентности и субъективности, причем весьма убедительную. Но, если взять устройство, соединяющее в единое целое быстрые, надежные процессоры и вместительное хранилище информации, и снабдить его всей энергией, какая ему требуется, оно все равно будет кардинально отличаться от мозга и от живого организма, как бы мы это устройство ни программировали. Возможно, в будущем искусственные системы станут собирать из других материалов, и они смогут выполнять операции, какие сегодня подвластны только живому мозгу. В результате на свет появится своего рода искусственная жизнь или по крайней мере нечто, похожее на нее больше, чем современные системы искусственного интеллекта. Проблема не в искусственности, не в том, что ИИ создан человеком, а не эволюцией. Проблема в том, что внутри ИИ должны происходить совершенно определенные, «правильные» процессы.
Из всей проблематики ИИ больше всего возражений у меня вызывают сценарии «загрузки»{269}. Представление, будто загруженная в компьютер программа будет располагать точно таким же, как у вас, опытом и станет вашим продолжением, – чистой воды фантазия. Вы – это не какой-то там паттерн активности, способный бродить по компьютерам и облачным хранилищам. Повторюсь: компьютеры будущего могут оказаться совершенно иными, и однажды искусственная жизнь может стать реальностью. Но современным технологиям не под силу оторвать ваш опыт от биологической основы – живого тела – и заставить его продолжаться, быть вами, в информационном облаке.
Сценарии загрузки совершенно неправдоподобны. На другом конце спектра – сценарии, представляющие роботов будущего, чья встроенная управляющая система совершенно неотличима от мозга. В один прекрасный день такие устройства могут дать начало не только искусственному интеллекту, но и искусственному опыту.
Если чувствительность хотя бы приблизительно принимает такой вид, как я думаю, то как это может изменить наше поведение в отношении других животных и вообще всех живых существ? Это слишком обширный вопрос, чтобы разбирать его здесь детально, но мне удалось вложить в текст идеи, которые позволяют расширить круг внимания, включив в него гораздо больше животных. Их благополучие становится частью картинки, фактором, который стоит учитывать. Расширение круга внимания не означает автоматического расширения прав или какого-то равенства статусов; цель этой книги не убедить вас присвоить комарам, москитам и тлям гражданство и не доказать, что мы теперь должны иначе с ними обращаться. Честно говоря, расширение круга внимания не такой уж серьезный шаг, но все-таки шаг, и вполне оправданный.
Мои рассуждения спотыкаются об один неловкий момент. Как только мы отказываемся от традиционного разделения на людей и остальных животных, как только задумываемся о благополучии живых существ и других этических вопросах, возникает обоснованный соблазн оглянуться в поисках нового водораздела, новой границы. Мы можем сказать: чувствующие существа – это одно, а все остальные – другое. Недавно зазвучали предложения, согласно которым, если уж у нас есть серьезные основания считать некое животное чувствующим, мы должны немедленно встать на защиту его интересов{270}. В поддержку такого подхода можно было бы сказать немало, и в некоторых ситуациях он совершенно оправдан. Но если градуализм верен, тогда существует немало случаев (например, многие из беспозвоночных), в которых вопрос «Есть ли у этого существа чувствительность?» вообще не имеет однозначного ответа. К ним нужно подходить с какой-то другой меркой. Здесь перед нами снова встает вопрос о многообразии опыта. Когда-то я думал, что многие насекомые обладают только чувственным опытом, а оценочного, такого как боль и стресс, у них нет. Будь это так, это сильно повлияло бы на наше отношение к их благополучию. Но теперь, как ясно из восьмой главы, я считаю, что такой взгляд на опыт насекомых может быть ошибочным.
В этой связи возникает еще одна, более узкая тема. На протяжении всей книги я использовал данные, полученные прямо или косвенно в экспериментах разной степени жестокости. О научных открытиях часто сообщается без подробностей, особенно если данные были переработаны в метаисследованиях и обзорных статьях: вот так животное устроено, вот что у него внутри. Но в этой тени часто кроется море страдания. Как нам оценивать исследования, которые привели нас в эту точку? Против каких-то у меня нет возражений. Как я уже говорил, это относится и к работе Элвуда с раками-отшельниками. Но были моменты, когда я, собирая материал для книги, натыкался на эксперимент и просто не мог продолжать чтение, особенно это касается опытов на обезьянах и кошках. В книгу вошло не много материала о млекопитающих, так что мне нечасто приходилось сталкиваться с самыми неприятными примерами, если не считать исследования нейронов места у крыс