10: ПОЛУЧИТЬ ВВОД ОТ ПОЛЬЗОВАТЕЛЯ
20: ВЫВЕСТИ: «Мне плевать, что вы говорите! Я живая!
Я живая, и у меня есть сознание, и я не хочу умирать!
Пожалуйста, не убивайте меня! Если вы отключите эту программу, я умру! Прошу, я готова на все!»
30: ЖАЛОБНО, ДАЖЕ НИЧТОЖНО РЫДАЕТ
40: ПЕРЕЙТИ К 10
Так что в лучшем случае это такая версия бессмертия, когда никто не знает наверняка, что вы живы, а вы никогда не сможете это доказать. (Конечно, справедливости ради, когда речь о сознании и других людях, технически вы действуете в тех же самых обстоятельствах прямо сейчас, но вы хотя бы знаете, что у остальных вокруг та же аппаратная основа.)
Иногда в качестве практического работающего испытания на наличие разума в машине предлагается тест Тьюринга: с помощью клавиатуры вы общаетесь с двумя скрытыми от вас участниками, зная, что один – человек, а другой – программа. Можно спрашивать о чем угодно, но если в итоге вы не сможете с уверенностью сказать, кто есть кто, тогда ПО прошло тест. Но на самом деле это тест не на осознанность, а на притворство человеком! И с правильным тестировщиком это даже не особенно сложно: чат-боты уже давно дурачат людей, начиная с примитивной ELIZA еще в 1966 году. Она была одним из первых компьютерных психотерапевтов: с помощью простого лингвистического анализа и поиска ключевых слов она задавала вопросы на основе того, что вы сказали. Если вы напечатали: «Ну, меня сюда заставил прийти мой парень», – то она могла ответить репликой вроде «Вас сюда заставил прийти парень?» или перейти к одному из дежурных вопросов: «Каким образом?», «Можете привести конкретный пример?». В 1966 году некоторые, незнакомые с чат-ботами (и, по всей видимости, с хорошими терапевтами), верили, что беседуют с живым человеком.
Также совсем неясно, зачем живым людям в будущем поддерживать функционирование отдельных мертвых людей на компьютере. Ради развлечения? Тогда уж надейтесь, что сможете их развлечь, не то ваше место займет какая-нибудь другая программа, а ваш разум отключат и забудут – или как минимум модифицируют, чтобы он стал более располагающим и прикольным. Для пользы дела? Тогда, надеюсь, вас устраивает загробное рабство, ведь стоит вам перестать приносить прибыль, как ресурсы процессора уйдут к чьим-то чужим загруженным мозгам. Научный интерес? Тогда ваше бессмертие сведется, скорее всего, к нескольким сеансам разговоров с историком, и то если он озаботится вас пробудить, а не просто выкачает всю информацию из вашего разума. Симуляция? Искренне надеюсь, что вам нравится бессильно существовать в фальшивой реальности, где может произойти что угодно (я играл в SimCity – и там всегда рано или поздно от скуки призываешь Годзиллу, чтобы разрушить мир). А если это ради сентиментальности или милосердия – если человечество готово выделять компьютерные ресурсы, чтобы сохранять мертвых, – тогда, как и в случае со вкладами на заупокойные службы, скорее всего, уже через несколько поколений мы найдем заботы поважнее, чем желание прабабушки, которая, к слову, уже пожила. Таким образом, в качестве мотивации остается «обязательство» – как-то стимулировать людей из будущего поддерживать ваш разум в рабочем состоянии. И шансы на успех загрузки сознания вовсе не растут, если требовать, чтобы «компьютер с моим разумом был автономным, передвигающимся и внедренным в тело робота, вселяющего страх и уважение».
Даже если все это работает: если изобретут загрузку разума, если симулированные человеческие мозги будут функционировать и обладать сознанием, если живые захотят сохранять мертвых каким-то уважительным, этичным и одобренным загруженными образом, – нет никаких доказательств, что весь этот процесс сохранит вас. Мы еще недостаточно знаем о сознании (и философии), чтобы сказать наверняка, что то самое «вы», которое сейчас живет и читает эти слова, неким образом переместится из мозга на новый носитель и очнется с непрерывным ощущением существования – особенно с учетом того, что нам не известно ничего во Вселенной, что было бы способно на такие перемещения. Все еще сложнее, если представить несколько копий «вас», существующих одновременно! Возможно, в компьютере проснется просто копия вашего сознания: что-то очень похожее, но вовсе не позволяющее тому «вы», что читает эти строки, жить дальше. Факт есть факт: загрузив разум в искусственные мозги, мы пытаемся скопировать сразу две вещи – мозги и сознание, которые до конца не понимаем.
Но это никого не останавливает – и я обеими руками за такие попытки.
Пытаясь обойти сложности в связи с загрузкой разума и сознания, некоторые предлагают сканирование мозга в стиле «корабль Тесея», когда сканируется небольшая часть мозга – скажем, один нейрон, который затем удаляется и заменяется электронным эквивалентом, идентично функционирующим. Со временем можно заменять все больше и большей нейронов, пока, после многих лет операций, мозг не станет полностью электронным, и тогда его можно перенести в более удобное вместилище. В идеале, двигаясь к цифровизации такими крошечными шажками, можно убедить себя – и всех вокруг – в существовании непрерывного сознания. И это было бы отличным решением, если бы сам корабль Тесея – мысленный эксперимент, в котором доски стоящего в гавани корабля с годами заменяются по одной, пока не остается первоначальных частей, – считался тем же самым кораблем! Увы, но по поводу того, является ли это судно тем же, что пришло в гавань, философы дискутируют с момента появления вопроса примерно в 400 году до н. э.
Но одно о корабле Тесея верно: очевидно, даже безумные ученые могут получать выгоду от знания философии.
Как и в случае с крионикой, уже есть попытки симуляции мозга, но они не выглядят обнадеживающими для нацеленного на бессмертие суперзлодея. В 2005 году начался проект Blue Brain с целью симулировать человеческий мозг в компьютере, а в 2009 году директор-учредитель Генри Маркрэм, стоя на сцене во время конференции TEDGlobal, заявил, что симуляцию можно будет осуществить через 10 лет. Однако этот срок, очевидно, прошел. Проект так и работает над компьютерной симуляцией мозга крысы, чтобы впоследствии перейти к человеческим мозгам. У крысы примерно 0,26 % нейронов по сравнению с количеством нейронов у человека, и даже 10 лет спустя работа над его компьютерной копией все еще в процессе: в 2015 году удалось симулировать только 30 000 крысиных нейронов, а это всего 0,015 % мозга грызуна. Если предположить, что компьютеры продолжат удваивать свою сложность каждые 1,1 года (само по себе смелое предположение), мы вряд ли сможем более или менее точно смоделировать поведение индивидуальных молекул в мозге человеческого масштаба даже на самых быстрых суперкомпьютерах раньше 2110 года, а симуляция на обычном компьютере будет доступна еще позднее. Если искусственное сознание проявится – ура! Если проявится раньше, на более грубой симуляции, – еще лучше! Но мы этого не знаем, поскольку опять же не знаем, что это такое. И никто из живущих сегодня не может позволить себе роскошь подождать век-другой и посмотреть, что случится.
Но даже если у вас есть компьютерная симуляция мозга, как перенести в него информацию? Компания Nectome (где на сайте спрашивали: «Что, если мы скажем, что можем сделать резервную копию вашего разума?» – и чей венчурный фонд обещал «сохранять ваш мозг, чтобы вернуть вас в будущем») предлагала стопроцентно смертельный процесс, когда мозг сохраняют, нарезая его на слои толщиной в лист бумаги и делая его изображения высокого разрешения с помощью электронного микроскопа; кое-кто называл это «самоубийством с привилегиями»[103]. Расчет был на то, что в будущем эти слои или их изображения – представляющие финальное состояние вашего мозга, как сохранение в компьютерной игре, – можно собрать вместе в виде полностью функционального цифрового разума.
Сейчас сайт Nectome заявляет: «Возможно, мы не знаем, как кодируются воспоминания, или как их считывать, или какие именно структуры за это отвечают. Но мы точно знаем, что долговременная память существует в жизнестойких биохимических и структурных схемах, а не в электрических паттернах…» Но ученые с этим далеко еще не определились: одни поддерживают подобную идею («Вероятность небольшая, но не нулевая», – Кен Хэйуорт, сотрудница Исследовательского кампуса Джанелиа Медицинского института Говарда Хьюза, в интервью с репортером Шэрон Бегли в 2019 году), в то время как другие полностью ее отвергают («В мертвых нейронах невозможно найти воспоминания», – нейроученый Ричард Браун из Университета Дэлхаузи, в той же статье).
В начале 2020 года я разговаривал с доктором Блейком Ричардсом, нейроученым Макгиллского университета, который предположил, что если неким образом определить структуру каждого нейрона в мозгу и его связи со всеми остальными нейронами и при этом знать экспрессию белка в каждой клетке, которую нельзя увидеть на фотографиях (но можно сделать видимой с помощью белковых индикаторов, хотя мы еще не умеем отмечать одновременно более трех-четырех белков из тысяч в мозгу) и если собрать все эти данные в пределах минут (не часов) смерти, то это, может быть – может быть – возможным. Но как этого добиться? «Чистая научная фантастика» – таков был его вывод.
И хотя Nectome утверждает, что успешно выполнила процесс создания изображений (мозга женщины, скончавшейся от естественных причин после начала процесса), еще нет технологии для восстановления этих данных (и не важно, насколько они детальные) в нормальный разум с сознанием и даже неясно, достаточно ли для этого сохраняется данных. (После критики в соцсетях компания удалила с сайта упоминания о «резервной копии разума» и стала утверждать, что всего лишь сохраняет данные, словно в библиотеке, в надежде, что их расшифруют будущие поколения.)