Критический порог был преодолен в начале 2022 года. Россия уже дестабилизировала мировой порядок, осуществив ограниченное вторжение в Украину в 2014 году и оккупировав Крым и другие регионы на востоке Украины. Но 24 февраля 2022 года Владимир Путин начал тотальное наступление с целью захвата всей Украины и уничтожения украинской государственности. Чтобы подготовить и поддержать это нападение, Россия увеличила свой военный бюджет намного больше, чем в среднем по миру, на 7 процентов. Точные цифры определить сложно, поскольку многие аспекты российского военного бюджета окутаны тайной, но по самым приблизительным оценкам эта цифра составляет около 30 %, а может быть, и больше. Наступление России, в свою очередь, заставило не только Украину, но и многие другие европейские страны увеличить свои военные бюджеты. Возрождение милитаристской культуры в таких местах, как Россия, и развитие беспрецедентного кибероружия и автономного вооружения по всему миру могут привести к новой эре войны, худшей, чем все, что мы видели раньше.
Решения, которые принимают такие лидеры, как Путин, по вопросам войны и мира, определяются их пониманием истории. А это значит, что как чрезмерно оптимистичный взгляд на историю может оказаться опасной иллюзией, так и чрезмерно пессимистичный взгляд может стать разрушительным самоисполняющимся пророчеством. До своего тотального нападения на Украину в 2022 году Путин часто выражал свою историческую убежденность в том, что Россия находится в ловушке бесконечной борьбы с иностранными врагами, и что украинский народ - это выдумка этих врагов. В июне 2021 года он опубликовал эссе из пятидесяти трех сотен слов под названием "Об историческом единстве русских и украинцев", в котором отрицал существование Украины как государства и утверждал, что иностранные державы неоднократно пытались ослабить Россию, поощряя украинский сепаратизм. Хотя профессиональные историки отвергают эти утверждения, Путин, похоже, искренне верит в эту историческую версию. Исторические убеждения Путина привели к тому, что в 2022 году он поставил завоевание Украины выше других политических целей, таких как обеспечение российских граждан лучшим медицинским обслуживанием или возглавление глобальной инициативы по регулированию искусственного интеллекта.
Если лидеры, подобные Путину, верят, что человечество попало в ловушку неумолимого мира, в котором все питаются собаками, что никакие глубокие изменения в этом печальном положении вещей невозможны и что относительный мир конца двадцатого - начала двадцать первого века был иллюзией, то единственный выбор, который остается, - это играть роль хищника или жертвы. При наличии такого выбора большинство лидеров предпочли бы войти в историю как хищники и добавить свои имена в мрачный список завоевателей, который несчастные школьники обречены заучивать наизусть на экзаменах по истории. Однако этим лидерам следует напомнить, что в эпоху ИИ альфа-хищником, скорее всего, будет ИИ.
Возможно, у нас появилось больше возможностей для выбора. Я не могу предсказать, какие решения примут люди в ближайшие годы, но как историк я верю в возможность перемен. Один из главных уроков истории заключается в том, что многие вещи, которые мы считаем естественными и вечными, на самом деле являются рукотворными и изменчивыми. Однако признание того, что конфликты не являются неизбежными, не должно приводить нас к самоуспокоению. Как раз наоборот. Это накладывает на всех нас большую ответственность за правильный выбор. Это означает, что если человеческая цивилизация будет поглощена конфликтом, мы не сможем винить в этом ни законы природы, ни инопланетные технологии. Она также подразумевает, что если мы приложим усилия, то сможем создать лучший мир. Это не наивность, это реализм. Все старое когда-то было новым. Единственная константа истории - перемены.
Эпилог
В конце 2016 года, через несколько месяцев после победы AlphaGo над Ли Седолем и в то время, когда алгоритмы Facebook разжигали опасные расистские настроения в Мьянме, я опубликовал Homo Deus. Хотя мое академическое образование было связано со средневековой и ранней современной военной историей, и хотя у меня не было опыта в технических аспектах компьютерных наук, после публикации я внезапно обнаружил, что имею репутацию эксперта по ИИ. Это открыло мне двери в кабинеты ученых, предпринимателей и мировых лидеров, интересующихся ИИ, и позволило взглянуть на сложную динамику революции ИИ с привилегированной точки зрения.
Оказалось, что мой предыдущий опыт исследования таких тем, как английская стратегия в Столетней войне и изучение картин времен Тридцатилетней войны1 , не был совершенно не связан с этой новой областью. На самом деле, это дало мне довольно уникальный исторический взгляд на события, стремительно разворачивающиеся в лабораториях ИИ, офисах компаний, военных штабах и президентских дворцах. За последние восемь лет у меня было множество публичных и частных бесед об ИИ, в частности об опасностях, которые он несет, и с каждым годом тон становился все более актуальным. Разговоры, которые в 2016 году казались пустыми философскими рассуждениями о далеком будущем, к 2024 году приобрели целенаправленную интенсивность отделения неотложной помощи.
Я не политик и не бизнесмен, и у меня мало талантов для этих профессий. Но я верю, что понимание истории может быть полезным для лучшего понимания современных технологических, экономических и культурных событий - и, что более актуально, для изменения наших политических приоритетов. Политика - это в значительной степени вопрос приоритетов. Следует ли нам сократить бюджет на здравоохранение и увеличить расходы на оборону? Что является для нас более актуальной угрозой безопасности - терроризм или изменение климата? Сосредоточиться ли нам на возвращении утраченного участка исконной территории или сконцентрироваться на создании общей экономической зоны с соседями? Приоритеты определяют, как голосуют граждане, что волнует бизнесменов и как политики пытаются сделать себе имя. А приоритеты часто определяются нашим пониманием истории.
Хотя так называемые реалисты отвергают исторические нарративы как пропагандистские уловки, используемые для продвижения государственных интересов, на самом деле именно эти нарративы в первую очередь определяют государственные интересы. Как мы видели при обсуждении теории войны Клаузевица, не существует рационального способа определения конечных целей. Государственные интересы России, Израиля, Мьянмы или любой другой страны никогда не могут быть выведены из математического или физического уравнения; они всегда являются предполагаемой моралью исторического нарратива.
Поэтому неудивительно, что политики во всем мире тратят много времени и сил на пересказ исторических повествований. Упомянутый выше пример Владимира Путина вряд ли является исключительным в этом отношении. В 2005 году генеральный секретарь ООН Кофи Аннан провел свою первую встречу с генералом Таном Шве, тогдашним диктатором Мьянмы. Аннану посоветовали выступить первым, чтобы не дать генералу монополизировать беседу, которая должна была продлиться всего двадцать минут. Но Тан Шве выступил первым и почти час рассказывал об истории Мьянмы, практически не давая генеральному секретарю ООН возможности высказаться.2 В мае 2011 года премьер-министр Израиля Биньямин Нетаньяху совершил нечто подобное в Белом доме, когда встречался с президентом США Бараком Обамой. После краткого вступительного слова Обамы Нетаньяху прочитал президенту длинную лекцию об истории Израиля и еврейского народа, обращаясь с Обамой так, словно тот был его студентом.3 Циники могут возразить, что Тан Шве и Нетаньяху вряд ли заботились об исторических фактах и намеренно искажали их для достижения каких-то политических целей. Но эти политические цели сами по себе были продуктом глубоко укоренившихся убеждений относительно истории.
В моих собственных беседах об ИИ с политиками, а также с технологическими предпринимателями история часто становилась главной темой. Некоторые из моих собеседников рисовали радужную картину истории и, соответственно, с энтузиазмом относились к ИИ. Они утверждали, что больше информации всегда означало больше знаний и что, расширяя наши знания, каждая предыдущая информационная революция приносила человечеству огромную пользу. Разве революция в печати не привела к научной революции? Разве газеты и радио не привели к становлению современной демократии? То же самое, по их мнению, произойдет и с ИИ. Другие придерживались более тусклой точки зрения, но все же выражали надежду, что человечество как-нибудь справится с революцией ИИ, как мы справились с промышленной революцией.
Ни то, ни другое мнение не принесло мне утешения. По причинам, описанным в предыдущих главах, я нахожу подобные исторические сравнения с революцией в печати и промышленной революцией неприятными, особенно исходящими от людей, занимающих властные позиции, чье историческое видение формирует решения, определяющие наше будущее. Эти исторические сравнения недооценивают как беспрецедентный характер революции ИИ, так и негативные аспекты предыдущих революций. Непосредственными результатами революции печати стали охота на ведьм и религиозные войны наряду с научными открытиями, а газеты и радио использовались как тоталитарными режимами, так и демократическими государствами. Что касается промышленной революции, то адаптация к ней привела к таким катастрофическим экспериментам, как империализм и нацизм. Если революция ИИ приведет нас к подобным экспериментам, можем ли мы быть уверены, что нам снова удастся выкарабкаться?
Моя цель этой книги - дать более точную историческую перспективу революции ИИ. Эта революция все еще находится в зачаточном состоянии, и, как известно, понять судьбоносные события в реальном времени довольно сложно. Даже сейчас сложно оценить значение событий 2010-х годов, таких как победа AlphaGo или участие Facebook в кампании против рохинджа. Значение событий начала 2020-х годов еще более туманно. И все же, расширив наш кругозор и взглянув на то, как информационные сети развивались на протяжении тысячелетий, я считаю, что можно получить некоторое представление о том, что мы переживаем сегодня.