цировать людей и животных как одну группу, противопоставленную цифровому разуму. Машины, вычисляя «ценность» видов по алгоритмам, вряд ли найдут доказательства человеческого превосходства – вот поистине грустный анекдот эволюции.
Какой уровень интеллекта делает разум – биологический или искусственный, – равным нашему? Даже менее развитые, но обладающие высоким интеллектом животные, отстаивая свои условия существования, могут заставить нас пересмотреть отношение к ним. Возможно, они убедят нас в том, что заслуживают особого права на существование и самостоятельность, которого мы прежде за ними не признавали.
По аналогии с защитой прав животных, некоторые люди начнут выступать за подобное отношение и к ИИ. Человечеству не следует поступаться моральными принципами, даже если логика приведет нас к щекотливой или парадоксальной ситуации. Однако стоит осознать: фаза внушения себе эмпатии к «одушевленному» нами ИИ может вскоре смениться растерянностью и паникой.
Мы уверены: ИИ превзойдет человеческий мозг по скорости, разнообразию, масштабу и разрешению, перестроив сложившуюся иерархию разумов. Однако степень нашей дезориентации и неполноценности от осознания этих изменений может зависеть от одной детали: сохранит ли ИИ структурное сходство с мозгом.
Часть исследователей считает, что приближение к архитектуре мозга – оптимальный путь для машинного интеллекта[46], ведь мозг остается «единственным доказательством» принципиальной возможности такого интеллекта[47]. Но более вероятным представляется гибридный подход: одни элементы будут заимствованы у мозга, другие созданы с нуля.
Глубокое абстрактное мышление и творчество требуют дополнительных нейронных систем кроме тех, что необходимы для базовых функций. Первые исследования позволяют предположить: для выполнения сложных задач высшего порядка ИИ, подобно биологическому интеллекту, потребуются дополнительные когнитивные модули и архитектурные надстройки.
Правда, если ИИ продолжит (намеренно или случайно) «подражать» мозгу, однажды мы увидим в его достижениях проекцию того, что представляет собой человеческая гениальность. Но если мы стремимся создать машину, значительно превосходящую возможности нашего мозга, не станет ли отклонение от исходной биологической модели неизбежным? Авиаконструкторы, вдохновленные способностью птиц к полету, не копировали их анатомию, и потому современные реактивные лайнеры превзошли самые совершенные творения биологической эволюции. Так разве при создании принципиально новых разработок имеет смысл буквально воспроизводить исходный биологический прототип?
Скорее всего, разработчики ИИ будут рассматривать устройство нашего тела одновременно как ориентир и предостережение, тщательно изучая как сильные его стороны, так и недостатки. Таким образом, мозг человека становится не конечной целью и не готовым шаблоном, а промежуточным этапом и источником вдохновения на пути к чему-то большему.
В любой другой сфере деятельности четкое понимание промежуточного этапа при отсутствии ясного представления о конечной цели поставило бы под сомнение осуществимость всего предприятия. Но в нашем случае парадокс усугубляется: мы пытаемся создать нечто, смоделированное по образу мозга и превосходящее его, при этом не до конца понимая сам оригинал.
Как можно превзойти непостижимое? Без точного понимания текущих механизмов работы нашей «модели» и, более того, желаемых конечных характеристик наше стремление к совершенству остается одновременно пугающим и захватывающим.
Не будем забывать и об огромной неопределенности в отношении последствий такого развития. Если машинный интеллект продолжит отклоняться от взятого за образец человеческого разума, со временем он предстанет перед нами не как проекция человеческих свойств, а как их улучшенная замена. Безусловно, в переходный период ИИ, очевидно, лишь расширит спектр современных «человеческих способностей», но после определенного момента возможна вероятность, что его собственные возможности вытеснят человеческие аналоги, требуя полного пересмотра наших представлений о совершенстве.
От этого нюанса может зависеть дальнейшее отношение к самой природе человеческого существования. Если наши инструменты перенимают интеллектуальные и творческие функции, но не воспроизводят наш образ мышления, не поставит ли это под угрозу глубинные убеждения об уникальной связи человека с божественным? Или же напротив: а вдруг кажущееся превосходство машин, чья архитектура создавалась «по образу и подобию» нашего же мозга, заставит некоторых поверить в то, что мы сами становимся воплощением божественного начала? А может, это слияние с искусственным интеллектом станет не концом человеческой уникальности, а началом новой эры, где границы между творцом и творением окончательно сотрутся, открывая путь к чему-то поистине непостижимому?
Глава 3. Реальность
В последнее время исследователи систем ИИ уделяют значительное внимание установлению надежной связи между внутренними представлениями машины и объективной реальностью, включая развитие памяти и понимания причинно-следственных связей. Благодаря новым техническим методам эти параметры активно совершенствуются, и впереди нас ждут еще более впечатляющие результаты.
Такие разработки приближают появление принципиально нового класса ИИ – машин, способных не только анализировать реальный мир, но и планировать действия в нем. В то время как сегодняшние системы лишь линейно выдают результаты, основываясь на корреляциях, им не под силу создавать внутренние модели или прототипы своих будущих действий – они лишь начинают формировать представления о причинно-следственных связях. Точно так же современные игровые системы ИИ могут прогнозировать последствия своих ходов лишь в ограниченных и крайне абстрактных рамках цифровой среды.
Машины, способные к планированию, должны будут сочетать лингвистическую беглость больших языковых моделей с многомерным многоэтапным анализом, используемым игровыми ИИ, – и превзойти возможности обоих типов. Модель, созданная по принципам этой новой ветви ИИ, будет с огромной скоростью последовательно оценивать варианты и выбирать один из них на основе одновременной обработки крайне замысловатых причинно-следственных связей в реальности. Появление такого «идеального планировщика» может произойти раньше, чем мы ожидаем, и адаптация к нему уже стала приоритетом для исследователей.
Однако это достижение может иметь и неоднозначные побочные эффекты. Прежде всего, для реализации полноценного планирования машинам будет необходимо нечто большее, чем просто распознавание паттернов. Сначала им предстоит выделить совокупность наблюдаемых свойств объекта, а затем сформировать устойчивое понимание его сущностного ядра – того что немецкий философ XVIII века Иммануил Кант именовал «вещью в себе» (das Ding an sich). Лишь такое глубинное постижение позволит прогнозировать поведение объекта и определять оптимальные стратегии взаимодействия с ним.
Рассмотрим шахматы в качестве примера. Проанализировав ключевые характеристики ферзя, включая его стоимость в баллах и правила перемещения, алгоритм AlphaZero пришел к выводам, которых не предлагали даже гроссмейстеры. ИИ научился точно определять, когда ферзя стоит защищать, а когда его жертва оказывается стратегически оправданной.
Это лишь единичный пример для воспринимающего реальность ИИ, каждый объект обретает аналогичную – хотя и непредсказуемую – сущностную значимость в структуре его данных. Рене Декарт, французский математик и философ XVII века, размышляя о природе чувственного восприятия, к пришел к выводу, что оно не является производной человеческого разума, но проистекает из «другой субстанции, отличной от меня»[48]. Таким образом, органы чувств, обеспечивая доступ к материальной реальности, требуют признания ее автономного существования. Схожую мысль в начале XIX века выразил Георг Вильгельм Фридрих Гегель, утверждая, что взаимное признание между двумя субъектами возможно лишь при условии их обособленного самосознания.
Американский математик и философ Альфред Норт Уайтхед однажды заметил:
Если мы хотим получить запись неинтерпретированного опыта, мы должны попросить камень записать свою автобиографию[49].
Современные машины демонстрируют не «неинтерпретированный опыт» по Уайтхеду, а нечто противоположное – незрелую интерпретацию. Они действуют так, будто уже постигли мир глубже, чем есть на самом деле[50]. Однако с развитием «основательности» и способности к планированию ситуация может измениться: системы ИИ научатся сочетать опыт с пониманием, подобно людям.
Не исключено, что для точного планирования будущих действий в любой системе правил ИИ постепенно разовьет память о прошлых действиях как о собственных – своеобразную основу субъективного самосознания. В отличие от современных систем, которым не требуется «знать», что именно они «сами» предпринимали ранее (важна лишь вероятность успеха аналогичных действий в будущем), более совершенные ИИ смогут делать выводы об истории, Вселенной, природе человека и разумных машин. Этот процесс может стать началом формирования примитивного самосознания.
Дискуссии о происхождении сознания и способности машин к экзистенциальному пониманию реальности продолжаются десятилетиями, не теряя актуальности. Однако грань между предполагаемым и подлинным сознанием может вскоре начать размываться.
Как точно подметил Ник Бостром, автор книги Superintelligence: Paths, Dangers, Strategies («Суперинтеллект: пути, опасности, стратегии»),