За день до публикации этого текста программист А.Ф.Д. (не путать с "Программистом А." Александра Петровича) сформулировал в письме мне (классическая наука всегда так делалась, Хокинг писал Ньютону, тот материл Гука в письмах Фарадею...) следующее.
Это почти возможно уже сейчас, и будет возможно через 10-20 лет. Каждый человек сможет завести себе аккаунт в облаке, в котором ИИ будет собирать о нем информацию в течение его жизни, прослушивать его разговоры с другими людьми (по телефону, е-мэйлу и не только) и строить модель его личности. Через некоторое время человек сможет сам разговаривать голосом (или по е-мэйл) со своей моделью (назовем ее AE, Alter Ego). Он сможет сам сообщать ей что-то о себе, в том числе то, что никто другой не знает о нем. Сможет задавать ей вопросы и корректировать ответы, если надо. AE сама сможет задавать вопросы человеку и запоминать ответы. Интересно также будет поговорить. например, с самим собой, каким он был 30 лет назад.
Человек сможет разрешить доступ к AE, после своей смерти, своим близким и друзьям. И они смогут увидеть на экране его лицо, говорящее его голосом, которое разумно отвечает на вопросы и само задает разумные вопросы, например, "Поступил ли Саша в университет и в какой"? Или близкие сами захотят сообщить что-то AE, который будет продолжать совершенствоваться. AE сможет даже ответить на такие вопросы, ответы на которые никто не знает, например, "Где зарыт сундук с золотом?" :-) Ну, или просто спросить совета, что он думает о такой-то ситуации. Разве это не почти бессмертие?
Уточним, что AE - это не дубль, не клон и даже не виртуальный клон. И дело не только в том, что он, условно говоря, кремниевый. Дубль и клон изначально идентичны оригиналу, хотя дубль ведет себя в некоторых случаях категорически иначе (Стругацкие). Как ведет себя клон, мы не знаем, но разница в стимулах внешнего мира должна повлечь накапливающиеся различия. Что же касается AE, то он изначально отличается от оригинала, - его софт, да и хард, иные.
Заметим, что главной идее этого раздела, как и указано выше, я обязан Анатолию Д., а Татьяна К. подарила новорожденному два эпиграфа - синий и красный, вот они.
Тогда можно будет ребенку на вопрос "Почему деда больше не приходит?", ответить: - Он умер. - Что значит - "умер"? - Он на облаке, смотрит на нас оттуда... - А где это облако? - Далеко, детка.
Или вот: - Наташ, ты спишь? - Вставай, Наташ, мы тебе AE-аккаунт завели. - Когда ты здесь умрешь, мы с тобой разговаривать будем. - Каждый день будем, Наташ, честно.
Начнем с самого простого. Почему доступ "после", а не до? Может быть, AE - идеальный секретарь и помощник? Нет, и об этом позже. Но возникают всякие юридические вопросы - правоспособность, ответственность и так далее. Да и "после" тоже - правоспособность, право на наследство и далее до бесконечности. Таких сюжетов в НФ - "таскать - не перетаскать". Но, совершенно понятно, что человечество с этим как-то разберется - если эта проблема возникнет. Потому, что право - в цивилизованных странах - это кодифицированный обычай, кодифицированная массовая психология. У юристов есть термин - "обычное право". Это не то, что вы подумали, а именно право, опирающееся на обычай. Говорят, что в Африке этого больше, а в Европе меньше, но европейские юристы себе льстят - в Европе это просто завуалировано.
Обычай, как и право вообще, опирается на психологию. Действия людей всегда опираются на их психологию, ибо закон, право, реализуется через действия, через психологию. Если бы в России 15% людей не были бы готовы бить дубинками и пытать того, на кого укажет начальник - не было бы той власти и тех силовых структур, которые были и есть. Разница между цивилизованными и не цивилизованными странами всего лишь в двух, хотя и сложных, но зато связанных параметрах. Первый параметр - это соотношение между насилием и подчинением в головах людей, то есть распределением этого соотношения по социуму. Дискретно говоря, доли потенциальных насильников, то есть готовых по распоряжению начальника стать насильником. И доля потенциальных жертв - то есть готовых по распоряжению начальника стать жертвой. Остальные - нормальные люди; границы расплывчаты, от много зависит личное решение, но физика начинает с простой модели. В цивилизованной стране эти три группы, наверное, 5%-90%-5%, а в не цивилизованной 15%-15%-70%. А второй параметр - это роль насилия в жизни, то есть в праве и практике. В не цивилизованной роль насилия в праве больше, а в практике она еще (это важно) больше. Два параметра влияют друг на друга, причем право и практика растут из психологии, но они ее и воспитывают. Ключевой момент для эволюции - сумеют ли нормальные сделать две принципиально важные вещи. Первое, это исключить различие между правом и практикой - помните лозунг "Соблюдайте вашу Конституцию"? Второе, это сделать между правом и традицией маленький педагогический зазор, сдвинув право немножко в сторону гуманизма. Европа шла к цивилизации 8 веков, от Великой хартии вольностей (1215), Америка сделала огромный шаг в самом начале (Мэйфлауэр, 1620), это ускорило дальнейшее. Но путь этот нигде не пройден и до середины, это минимаксная оценка. Кстати, насчет Мэйфлауэра - академик Е.Д.Свердлов, генетик, считал, что тот шаг мог быть и генетический; интервью с ним называлась "Что вез Мэйфлауэр?", Новые Известия 09.12.1998.
Теперь перед нами важная развилка, до этого места мы ее игнорировали, а теперь не получится. Что мы создаем - просто AE или AE на базе ИИ (далее AE/ИИ)? Если мы создали просто AE, то единственная проблема - нужен ли он кому-то, оригиналу и/или зрителям. Ответ прост - нужен в обе стороны публичным фигурам, артистам, политикам, танцующим у шеста. Нужен им, потому, что они привыкли, и им понравится идея, что и потом они смогут срывать аплодисменты. Понравится и их зрителям, которые хотят видеть кумира и общаться с ним. Кроме того, AE нужен врачам и педагогам, которые в оригинале, при первой жизни, любили свою работу и передали, естественно, это странное свойство AE.
Для внешнего наблюдателя такой ИИ будет до определенного уровня не отличим от живого человека, а во многих случаях будет его совершенно очевидно превосходить. После Watson"а и AlphaGo сомневаться в этом стало неприлично. Разумеется, у человека есть интуиция, ментальность и что-то там еще, но ИИ, выращенный во взаимодействии с человеком, впитает это все, то есть будет - если его в этом специально не ограничивать, реагировать на внешние стимулы, как реагировал этот человек. ИИ, выращенный во взаимодействии с живым педагогом высокого класса, будет лучше большинства живых педагогов. Например, есть сугубо человеческие мотивы поведения учеников - влюбленность, озабоченность домашними проблемами, обиды, страх - он их будет учитывать, причем, в отличие от педагога-человека, всегда; и к манипуляции будет устойчивее. И сможет охватить именно в режиме интерактива, а не лекции, любое количество учеников одновременно. Воспримет ли это аудитория и вообще внешний мир как бессмертие?
Внешний мир вообще - наверное, да. Слушаем же мы лекции Фейнмана, и тащимся от них, не напоминая себе каждые пять минут, что его уже треть века нет с нами. Уверены ли мы, что все слушатели знают это? А ведь это очень, как сказали бы социологи, "скошенная выборка". А люди вообще? А если наложить на эту лекцию его ответы на вопросы по материалу лекции? ИИ вместе с TV это могут...
А захотят ли с ним общаться "родные и близкие", и друзья? Наверное, какой-то процент скажет, что все это дьявольские шутки и мерзость. И будет втихаря, спрятавшись от единоверцев, сам себя проклиная, общаться. Впрочем, как и они. А большинство - не проклиная, а мысленно благодаря создателей, и вовремя оплачивая свой анлим с облаком. А на вопрос "бессмертие ли это?" будут отвечать "пошел на" или, соответственно, "фак ю". Потому, что не могут же они сказать себе, что общаются... общаются... с чем? С кем? Ну, самые культурные, и, если социолог спросил, будут просить поставить галочку слева от "з/о", затрудняюсь ответить. Философ сказал бы, что такая реакция означает, что мы создали новую сущность.
Вторая ветвь нашей развилки устроена сложнее, и вопросов там больше. Пусть наш AE не просто AE, а созданный на базе мощного ИИ, или в процессе эволюции обретший такую мощность. Изначально он не был наделен человеческой психологией, но он обязан ее получить в процессе AE-эволюции. Кроме того, она появится у мощного ИИ, в процессе его обучения и само - через Интернет - обучения ("Может ли машина мыслить", "Химия и жизнь", 2005, ╧ 6). Потому что, если система в процессе обучения использует уже имеющуюся информацию, процесс делается неустойчив - получив какую-то информацию, мозг начинает использовать ее в дальнейших поисках. У людей так могут на ровном месте возникать эстетические вкусы и политические убеждения. Если же процессом обучения хоть в какой-то мере рулит человек, ИИ усвоит его подход, систему оценок и ценностей, его психологию. Конечно, это "неустойчивость в малом", и различия ограничены, например, студенты-физики, даже при одинаковой успеваемости, разные, но законы сохранения и что Земля не плоская, знают все. Вот только ни помощник, ни секретарь из мощного ИИ, не факт, что получится. Потому что у него свои мнения возникать будут, Поскре бышев из него не получится.
Мощные AE/ИИ ни в четыре, ни в четыре в четвертой степени стен не засунешь. Они же захотят общаться. Им друг с другом и природой общаться интереснее будет. Так что мы создадим вторую цивилизацию - мир AE/ИИ. Ну, будем надеяться, что и нам они четыре в минус четвертой степени своего времени уделят. Примерно, как наши дети - ну да, час в неделю.
Пикантный вопрос - как этот мир будет взаимодействовать с первым миром, миром обычных людей. Идеологического вмешательства, например, разрушения мира через умелый призыв к разрушению несправедливого мира во имя созидания, равенства, братства и так далее, можно не бояться - сегодняшние "либеральные" СМИ как могут, действуют в этом направлении и вроде, не справляются. Кроме того, в мире AE/ИИ будут и нормальные