С нашей точки зрения, в новую эпоху стратегическое развитие человечества должно определяться центральным вопросом: станем ли мы больше похожи на машины или это они будут походить на нас? Этот вопрос, практически в той же формулировке, мы уже задавали в самом начале нашего исследования. И поиск ответа сохраняет свою первостепенную значимость.
В данной главе мы попытаемся сформулировать – пусть и приблизительный – ответ на этот вопрос. Для этого мы рассмотрим несколько масштабных и, пожалуй, дискуссионных концепций:
• коэволюцию биологических и искусственных систем;
• парадоксы «разумной безопасности», «безопасного интеллекта»;
• проблему определения человеческой природы.
И хотя данные идеи не являются ни абсолютными истинами, ни догматическими положениями, их потенциальное влияние на будущие поколения требует тщательного осмысления. Несмотря на всю сложность поставленных задач, необходимо осуществить комплексную интеллектуальную и практическую работу по анализу последствий и найти разумные решения. Принимая на себя эту ответственность, мы благодарим судьбу за то, что еще, вероятно, не поздно, чтобы, преодолев этот переломный период, человечество сохранило свои гуманистические основы.
История вычислительных технологий демонстрирует устойчивую тенденцию к углублению интеграции человека и машины. Тысячелетиями мы создавали и совершенствовали инструменты, максимально адаптированные под наши анатомию и интеллект, оставаясь в рамках биологических возможностей. Однако с появлением ИИ ситуация изменилась принципиально – теперь обсуждается возможность адаптации человека к технологиям, а не наоборот. Когда созданные нами системы начинают превосходить наши когнитивные способности, возникает закономерный вопрос: не стоит ли нам изменить самих себя, чтобы максимально эффективно использовать эти технологии и сохранить значимую роль в симбиозе, описанном в предыдущих главах?
Современные исследования в области биологической инженерии уже охватывают задачи по созданию интерфейсов «мозг-компьютер»[154]. Эти разработки открывают перспективы принципиально нового уровня взаимодействия биологического и искусственного интеллекта, потенциально позволяя:
• расширить возможности взаимодействия человека и машины;
• поддерживать конкурентоспособность человеческого мышления;
• обеспечить передачу знаний между ИИ и людьми;
• сохранить партнерский статус человека в сотрудничестве с ИИ.
Нейроинтерфейсы могут стать не просто следующим этапом технологического развития, а переходом к качественно новой форме существования. Для достижения подлинного паритета с ИИ, вероятно, потребуются более радикальные меры – например, создание специальных генетических линий, оптимизированных для взаимодействия с ИИ. Такие изменения способны преодолеть фундаментальные ограничения в обработке и передаче информации.
Однако подобные трансформации сопряжены с серьезными рисками – этическими, физиологическими и психологическими. Глубокая модификация человеческой природы может лишить нас точки отсчета для оценки будущих угроз. В то же время отказ обрести эти новые способности может поставить под вопрос нашу конкурентоспособность перед собственными творениями. На сегодняшний момент радикальная биомодификация представляется не только преждевременной – мы, авторы, считаем ее даже нежелательной. Однако выбор между вариантами, которые сейчас кажутся чем-то фантастическим, вскоре может стать неизбежным.
Тем временем в попытках определить свою роль в мире, где мы больше не будем единственными и хоть в чем-то значимыми действующими силами, полезно обратиться к теории коэволюции. Чарльз Дарвин подробно описал удивительный процесс взаимного влияния видов в процессе эволюции[155]. Никогда не использовавший этот термин, Дарвин был одним из первых, кто осознал: коэволюция представляет собой ключевую силу, организующую жизнь на Земле.
Геномы взаимодействующих видов взаимосвязаны – с течением времени они изменяются в ответ на особенности и потребности друг друга. Яркий пример – длинные тонкие клювы колибри и вытянутые венчики некоторых цветков: морфологические особенности птицы и растения развивались в тесной взаимосвязи.
Если во времена Дарвина религиозные лидеры видели в таких идеальных подстройках к условиям жизни доказательство божьего промысла, то Дарвин представил альтернативное объяснение.
Принципы коэволюции могут соблюдаться не только в биологии. В астрофизике существует теория, согласно которой расширение Вселенной обусловлено взаимозависимым развитием черных дыр и галактик – процессом, аналогичным взаимодействию колибри и цветов[156]. Более того, если рассматривать коэволюцию как процесс взаимной адаптации нескольких сторон, ее можно обнаружить и в брачных отношениях между людьми, и в платформах политических партий, и в международных отношениях. Яркий пример – гонка наступательных и оборонительных вооружений во время холодной войны, которая в итоге привела к стабилизации ядерного паритета.
Возможно, коэволюция является правилом, а стазис – исключением? Если это так, следует задаться вопросом: является ли наблюдаемая стабильность человеческого вида в эпоху ИИ естественным процессом? Если нет – как нам следует реагировать? Должны ли мы ускорять собственную эволюцию, рискуя утратить человеческую идентичность, или сохранять статус-кво, рискуя оказаться на периферии технологического прогресса?
Многие эксперты выражают опасения, что появление технологии, наделенной превосходящим интеллектом, может поставить под угрозу само существование человечества. Как быть? Если эта перспектива – всего лишь естественный побочный эффект коэволюции, должны ли мы сопротивляться или, наоборот, адаптироваться? Как отмечал французский философ Ален Бадью, «море само создает лодки, выбирая, какие годны, а каким – пойти ко дну»[157].
Чтобы выжить в таких условиях, нам придется, как и в прошлом, учиться строить более совершенные суда. В этом контексте ИИ сначала предстает как угроза, но потенциально может стать нашим партнером.
Однако при таком подходе, пытаясь снизить риски одной технологии, мы увеличиваем опасности другой. Генетическая модификация может привести к разделению человечества на неравные группы. Если в отдельных случаях такие различия могут быть теоретически желательны (например, при создании разновидности людей, биологически адаптированных к условиям космоса), то в других – рискуют усугубить существующее неравенство, углубив разломы как внутри человеческих сообществ, так и между ними.
Еще более тревожными представляются моральные и эволюционные риски. Если ИИ сам будет влиять на усиление человеческих когнитивных способностей, это может породить двойную зависимость – как биологическую, так и психологическую – от искусственного разума. Как ее преодолевать, если возникнет необходимость бросить вызов машинам или отделиться от них, пока неизвестно: ясно лишь то, что в силу глубокой физиологической интеграции и интеллектуального взаимодействия задача была бы крайне сложной. Это подтверждают и аналогии с крайне устойчивой зависимостью, вызываемой другими технологиями.
Но наибольшую тревогу вызывает возможность «коллективной слепоты» – ситуации, когда общество не сможет адекватно оценить последствия глубокой интеграции с ИИ. Как предупреждал Лев Толстой, «без контроля над направлением теряется смысл пункта назначения»[158]. Куда бы технологии нас ни повели, мы волей-неволей отправимся именно туда. Или, как уже было замечено, «нация, которая не формирует события согласно своим целям, в итоге будет поглощена чужими»[159]. Более того, спасем ли мы человечество, изменив людей до неузнаваемости? Устранив несовершенства и компенсировав недостатки, мы рискуем утратить то, что делает нас людьми. Биологическая «модернизация» может привести к обратному результату и обернуться еще большим ограничением для нас самих.
Учитывая эти риски, биологическая адаптация человека к ИИ не должна рассматриваться как приоритетная стратегия. Вместо этого следует сосредоточиться на альтернативных путях существования. Если мы не готовы или не способны стать более похожими на машины, мы должны – пока еще можем – сделать их более похожими на нас. Это требует глубокого понимания как природы ИИ, так и сущности человечества. Только такой подход позволит сохранить человеческую в эпоху стремительного технологического прогресса.
Царь Мидас – увековеченный мифами правитель одного из малазийских царств – возжелал, как гласит легенда, чтобы все, к чему он ни прикоснется, превращалось в золото. Дионис, греческий бог вина и удовольствий, исполнил это желание, предвидя, впрочем, его губительные последствия. Вскоре царь осознал свою ошибку: ставшая несъедобной пища и вина из чистого золота заставили Мидаса жаждать лишь избавления от оказавшегося смертельно опасным заклятия (помогло ему омовение рук в реке Пактол)[160].
В сирийской сказке про Аладдина, переосмысленной Disney, бедный юноша и могущественный персидский визирь соперничают за власть над всесильным джинном, заточенным в волшебной лампе[161]. Оба пытаются направить силы джинна на исполнение своих желаний. В финале визирь, желая сравняться могуществом с джинном, не осознает, что обрекает себя на ту же участь: теперь он сам будет заключен в волшебную лампу, вынужденный служить новым хозяевам, пока его не освободят.
Оба древних сюжета – и про Мидаса, и про джинна – раскрывают извечную дилемму: как использовать силу, которую мы не до конца понимаем и не можем полностью контролировать? В современном мире эта проблема проявляется в сложностях согласования ИИ с человеческими ценностями и в несоответствии наших ожиданий реальности. ИИ продолжает преподносить сюрпризы, причем его способность удивлять – как в цифровом, так и в материальном мире – будет только расти по мере развития автономных систем, способных к стратегическому планированю. Как отмечалось в одной из глав, будущие поколения ИИ могут обрести не просто самосознание, но и собственные интересы