Хотя мы в первую очередь стремимся к созданию ИИ с системой ценностей, свойственной людям, определенную роль здесь сыграют и технологии искусственной эволюции самого человека. Разработав методы направленного развития конкретных способностей (что позволило бы приблизиться к уровню систем ИИ будущего), мы могли бы получить чрезвычайно ценный инструмент. Разумеется, такое развитие должно оставаться исключительно личным выбором. Наша сдержанность в этом вопросе отражает ключевую дилемму: эволюцию нельзя заменить искусственным проектированием – это равносильно предательству самой человеческой сущности. Но и полностью прекратить поиск – будь то, физического, научного или философского познания – значило бы потерять себя тем же путем.
В эпоху ИИ противоречие между необходимостью трансформировать себя и контролировать свое творение может стать нашим главным ориентиром. Оба стремления столь же амбициозны, сколь и консервативны. Нам еще предстоит выяснить, можно ли согласовать эти потребности. Если позволить безграничным возможностям ИИ полностью доминировать в новой эпохе, человечество рискует превратиться в пассивного зрителя или, что еще хуже, в беспомощную пешку. Но если мы выберем путь жестких ограничений в погоне за мнимой безопасностью, то сами ограничим будущее развитие.
Главный вопрос нашего времени: сможем ли мы найти баланс в использовании этой беспрецедентной силы – способности создавать и познавать? Сумеем ли мы, переосмыслив человеческую природу, гармонично встроить ИИ в наше будущее?
Мы мечтаем о мире, где человеческий и искусственный интеллекты дополняют друг друга. Но для этого им нужно научиться по-настоящему понимать друг друга. Поиск ответа на вопрос «кто мы» – лишь первый шаг, ведь наша сущность не статична. Перед нами стоит грандиозный вызов – добиться полной прозрачности, понятности и надежности как систем ИИ, так и человеческого общества. Даже если нам удастся ненадолго найти этот хрупкий баланс, поддержание общего понимания реальности потребует постоянной работы. Потому вопросы совместного развития человека и ИИ не имеют готовых ответов – это долгий путь, который нам только предстоит пройти вместе.
Заключение
Наше вхождение в эпоху ИИ можно описать множеством образов – как духовную одиссею, так и научную экспедицию к истокам логики и истины. Но признаем честно: ни разум, ни опыт не подготовят нас к сосуществованию с нечеловеческим интеллектом, будь то попытки понять цифровые системы или друг друга. Здесь необходимо нечто большее – нечто глубинно человеческое. Вспомним старую философскую метафору: Вселенная подобна шахматной партии, начатой в незапамятные времена могущественными сущностями, превосходящими нашу реальность. Чем дольше мы изучаем ходы на этой доске, тем больше шансов распознать ее правила. А со временем, возможно, и сами включимся в игру.
Но переход от наблюдения к участию – это не просто логический вывод. Для воплощения принципов в действие всегда требуется прыжок веры.
Альберт Эйнштейн, отвечая на вопрос о своих религиозных убеждениях, рассуждал:
Мы находимся в положении маленького ребенка, зашедшего в огромную библиотеку книг на разных языках. Ребенок понимает, что кто-то должен был написать эти книги. Но не знает, кто и как. Он не понимает языков, на которых они написаны.
Ребенок замечает, что книги расставлены по определенному плану, в таинственном и неясном порядке, о котором можно лишь смутно догадываться.
Таким мне представляется отношение человеческого разума, даже самого развитого и культурного, к Богу.
Мы видим Вселенную, удивительно упорядоченную и подчиняющуюся определенным законам, но для нас они покрыты густым туманом. Наш ограниченный разум не может постичь той таинственной силы, что движет созвездиями[169].
По отношению к Богу, а теперь и к собственным творениям последних лет наш разум остается детским. Понимание сути того, что же мы создали, в логическом и духовном смыслах станет важным шагом к зрелости человечества как вида. Но нам также необходимо решиться на «прыжок веры», который поможет покинуть рамки исследования и начать действовать. Да, мы поневоле окажемся в состоянии неопределенности – трясине, в которой застревали лидеры человечества испокон веков, и принимать решения придется именно в ней. Действие никогда не означало привилегии тотального контроля – скорее наоборот. Не будет этого и в эпоху ИИ; мы не сможем и надеяться, что наше будущее откроется нам в большей мере, чем тем, кто интересовался этой тайной в предыдущие эпохи. Отсутствие контроля не потребует от нас отказываться от разума или, что еще хуже, от вложений в развитие и стремления действовать в реальном мире. Но по мере того как люди начнут входить в новый цикл, предполагающий прямое партнерство с ИИ, особая динамика, описанная в этой книге, побудит нас обращаться как к новым, так и к старым формам познания. Наш успех будет зависеть от того, как мы понимаем собственные моральные убеждения и насколько готовы следовать им в своих поступках. И здесь от нас потребуется непоколебимое мужество и последовательная стратегия, поскольку новые истины в корне изменят прежние представления.
По большому счету, именно моральные цели стимулируют наш прогресс. Вместе с тем именно сама мораль как всеобщая первооснова позволяет людям преодолеть дихотомию между человеческим контролем (в лучшем случае тактическим) и человеческой выгодой – избыточной, по любому определению. Именно фундаментальная вера в реальность человеческого достоинства позволяет нам, авторам этой книги, признать одновременно и перспективность объединения человека с ИИ, и необходимость смотреть на много шагов вперед, поскольку развитие науки будет раскрывать все новые тайны.
И хотя у всех нас очень много общего, мы не можем рассчитывать на единство в предстоящем выборе. То, что одни считают якорем, помогающим удержаться во время шторма, другие воспринимают как поводок, который не дает сделать лишнего движения. То, в чем кому-то видятся важнейшие шаги на пути к вершине человеческих возможностей, другие назвали бы стремительным падением в пропасть.
Инстинктивные эмоциональные расхождения, равно как и субъективные границы, очерчиваемые каждой из сторон, создают непредсказуемую и взрывоопасную ситуацию. Все более жесткие позиции потенциальных «победителей» и «проигравших» будут лишь усиливать давление этих обстоятельств. Люди чересчур осторожного склада начнут притормаживать собственное развитие и мешать развитию других. Те, кто ставит себя выше прочих, предпочтут скрывать свой истинный потенциал, украдкой пытаясь повысить собственную эффективность. Весь наш наработанный опыт будут поджимать бесконечные кризисы – постепенно они станут подобны волне, которая однажды захлестнет нас, и неизвестно, удастся ли нам выжить.
Может ли ИИ спровоцировать эти кризисы, а затем внезапно стать нашим спасителем, создавая проблемы, решить которые под силу только ему, – и все это, чтобы доказать свою необходимость и напомнить нам о нашей зависимости? И снова мы возвращаемся к дилемме, которая легла в основу этой книги: мучительный выбор между контролем и полезностью, между удобством для исторически независимого человека и возможностями совершенно нового партнерства.
Нас ждет трудный, но неизбежный выбор. И все же он осуществим, если мы не забудем о самой сути человечности, заложенной в нас. Мы искренне верим, что благодаря технологическому прогрессу нам удастся наделить машины не только интеллектом, но и добротой, сохранив в них частицу лучшего, что есть в человеке. Передача части прав и ответственности системам ИИ – даже при условии их моральной совместимости с нашими нравственными принципами – станет глубоким преобразованием, затрагивающим сами основы человеческого бытия: наши взаимоотношения, политическое устройство, ощущение самих себя и нашей общности.
Неминуемо возникнет ностальгия по исключительному статусу, который человечество занимало последние века. Для многих мир, пусть и улучшенный технологиями, будет казаться границей эпохи – той самой привычной реальности, в которой человек оставался мерой всех вещей, какие бы выдающиеся способности ни демонстрировал ИИ. Еще один открытый вопрос: кто теперь будет принимать решения? Кому отныне решать? Делегировать ли ответственность и полномочия или же нет? Кто будет предоставлять или удерживать ресурсы? Каким образом одна группа лиц, принимающих решения, станет взаимодействовать, объединяться или конфликтовать с другими, кто пытается принимать те же решения в иных местах? Выбираем ли мы сейчас этих людей, которые могут ошибиться? Неужели мы, сами того не подозревая, уже сделали выбор?
Мы, авторы этой книги, хотим предостеречь всех, от кого зависят решения: обратите внимание на актуальные проблемы и сложные выборы, с которыми мы сталкиваемся сегодня, и на возможные последствия в будущем. Но наша цель – не просто вселить в вас чувство тревоги по поводу развития ИИ. Резкое прекращение применения возможностей ИИ само по себе способно спровоцировать кризис. Политически управлять замедлением может оказаться еще сложнее, чем двигаться вперед. И это принесет немалую опасность тем, кто движется медленнее, заодно разбивая надежды тех, кто стремится к дальнейшему прогрессу.
Эффективная стратегия не может строиться на слепой вере или беспочвенных страхах. Чтобы обладать качественными знаниями, необходима немалая доля сомнений, а чтобы действовать – все сомнения следует отбросить. В эпоху ИИ этот тезис, пожалуй, актуален как никогда. Нам нужно попытаться понять задачи, которые поставит перед нами ИИ, даже если у нас никогда не было такого опыта или массива знаний, чтобы понять все правильно. И на пути к решению этой масштабной задачи перед нами уже стоит немало сложностей, с которыми мы обязаны справиться, иначе нас как вид ждет незавидное и бесправное будущее.
Пусть кто-то воспримет этот момент как закат эпохи человечества – мы же видим лишь новое начало. Исторический цикл творения совершает очередной виток – теперь в технологическом, биологическом, социальном и политическом измерениях, открывая перед нами новую главу истории нашей цивилизации. Эта эпоха может развиваться по новым парадигмам, включающими среди прочего логику, веру и временны́е факторы. Нам же остается лишь подойти к