Компьютеры могут подключаться к сети в неограниченном количестве, и они понимают, по крайней мере, некоторые финансовые и юридические реалии лучше, чем многие люди. Когда центральный банк повышает процентные ставки на 0,25 %, как это влияет на экономику? Когда кривая доходности государственных облигаций идет вверх, хорошее ли это время для их покупки? Когда целесообразно открывать короткие позиции по цене на нефть? Это те важные финансовые вопросы, на которые компьютеры уже могут ответить лучше, чем большинство людей. Неудивительно, что компьютеры принимают все больший процент финансовых решений в мире. Возможно, наступит момент, когда компьютеры будут доминировать на финансовых рынках и изобретут совершенно новые финансовые инструменты, недоступные нашему пониманию.
То же самое можно сказать и о законах. Многие ли люди знают все налоговые законы своей страны? Даже профессиональные бухгалтеры с трудом справляются с этой задачей. Но компьютеры созданы для таких вещей. Они - прирожденные бюрократы и могут автоматически составлять законы, отслеживать нарушения и выявлять лазейки в законодательстве со сверхчеловеческой эффективностью.
ВЗЛОМ ОПЕРАЦИОННОЙ СИСТЕМЫ ЧЕЛОВЕЧЕСКОЙ ЦИВИЛИЗАЦИИ
Когда в 1940-1950-х годах были созданы первые компьютеры, многие люди считали, что они будут хороши только для вычисления чисел. Идея о том, что когда-нибудь они смогут овладеть тонкостями языка и такими языковыми творениями, как законы и валюты, была отнесена к области научной фантастики. Но к началу 2020-х годов компьютеры продемонстрировали удивительную способность анализировать, манипулировать и генерировать язык, будь то слова, звуки, изображения или кодовые символы. Сейчас, когда я пишу эти строки, компьютеры могут рассказывать истории, сочинять музыку, создавать модные образы, снимать видео и даже писать собственный код.
Овладев языком, компьютеры завладевают главным ключом, отпирающим двери всех наших учреждений, от банков до храмов. С помощью языка мы создаем не только юридические кодексы и финансовые устройства, но и искусство, науку, нации и религии. Что означало бы для людей жить в мире, где запоминающиеся мелодии, научные теории, технические инструменты, политические манифесты и даже религиозные мифы создаются нечеловеческим инопланетным интеллектом, умеющим с нечеловеческой эффективностью использовать слабости, предубеждения и пристрастия человеческого разума?
До появления искусственного интеллекта все истории, которые формировали человеческие общества, зарождались в воображении человека. Например, в октябре 2017 года на сайте 4chan появился анонимный пользователь, назвавшийся Q. Он утверждал, что имеет доступ к самой закрытой или "Q-уровня" секретной информации правительства США. Q начал публиковать загадочные посты, в которых якобы раскрывал всемирный заговор с целью уничтожения человечества. Q быстро завоевала большую аудиторию в Интернете. Его или ее сообщения в сети, известные как Q drops, вскоре стали собирать, почитать и интерпретировать как священный текст. Вдохновленные более ранними теориями заговора, восходящими к "Молоту ведьм" Крамера, Q drops пропагандировали радикальное мировоззрение, согласно которому ведьмы-педофилы и каннибалы, поклоняющиеся Сатане, проникли в администрацию США и множество других правительств и учреждений по всему миру.
Эта теория заговора, известная как QAnon, была впервые распространена в Интернете на американских ультраправых сайтах и со временем обрела миллионы приверженцев по всему миру. Невозможно определить точное число, но когда в августе 2020 года Facebook решил принять меры против распространения QAnon, он удалил или ограничил доступ к более чем десяти тысячам связанных с ней групп, страниц и аккаунтов, крупнейший из которых насчитывал 230 000 подписчиков. Независимые расследования показали, что группы QAnon в Facebook насчитывали более 4,5 миллиона подписчиков, хотя, скорее всего, их состав частично совпадал.
QAnon также имеет далеко идущие последствия в офлайн-мире. Активисты QAnon сыграли важную роль в нападении на Капитолий США 6 января 2021 года. В июле 2020 года один из последователей QAnon попытался ворваться в резиденцию премьер-министра Канады Джастина Трюдо, чтобы "арестовать" его. В октябре 2021 года французскому активисту QAnon было предъявлено обвинение в терроризме за планирование переворота против французского правительства. На выборах в Конгресс США в 2020 году двадцать два кандидата-республиканца и два независимых кандидата назвали себя последователями QAnon. Марджори Тейлор Грин, конгрессмен-республиканец, представляющая штат Джорджия, публично заявила, что многие утверждения Q "действительно оказались правдой", а о Дональде Трампе сказала: "Возможность уничтожить эту глобальную кабалу педофилов, поклоняющихся Сатане, выпадает раз в жизни, и я думаю, у нас есть президент, который сможет это сделать".
Напомним, что капли Q, с которых началось это политическое наводнение, были анонимными онлайн-сообщениями. В 2017 году их мог сочинить только человек, а алгоритмы лишь помогали их распространять. Однако в 2024 году тексты, схожие по лингвистической и политической изощренности, могут быть легко составлены и размещены в сети нечеловеческим интеллектом. Религии на протяжении всей истории утверждали, что их священные книги были написаны нечеловеком; скоро это может стать реальностью. Могут появиться привлекательные и могущественные религии, чьи священные писания будут написаны ИИ.
И если это так, то между этими новыми священными писаниями на основе ИИ и древними священными книгами вроде Библии будет еще одно существенное различие. Библия не могла сама себя курировать или толковать, поэтому в таких религиях, как иудаизм и христианство, реальная власть принадлежала не якобы непогрешимой книге, а человеческим институтам, таким как еврейский раввинат и католическая церковь. В отличие от этого, ИИ не только может сочинять новые священные писания, но и полностью способен их курировать и интерпретировать. Никаких людей не нужно.
Не менее тревожно, что мы все чаще можем обнаружить, что ведем длительные онлайн-обсуждения Библии, QAnon, ведьм, абортов или изменения климата с существами, которые мы принимаем за людей, но на самом деле являются компьютерами. Это может сделать демократию несостоятельной. Демократия - это разговор, а разговор опирается на язык. Взломав язык, компьютеры могут сделать так, что большому количеству людей будет крайне сложно вести полноценный общественный разговор. Когда мы вступаем в политические дебаты с компьютером, выдающим себя за человека, мы проигрываем дважды. Во-первых, нам бессмысленно тратить время на попытки изменить мнение пропагандистского бота, который просто не поддается убеждению. Во-вторых, чем больше мы общаемся с компьютером, тем больше раскрываем о себе, тем легче боту отточить свои аргументы и поколебать наши взгляды.
Овладев языком, компьютеры могли бы пойти еще дальше. Разговаривая и взаимодействуя с нами, компьютеры могли бы устанавливать интимные отношения с людьми, а затем использовать силу близости, чтобы влиять на нас. Чтобы создать такую "поддельную близость", компьютерам не нужно будет развивать какие-либо собственные чувства; им просто нужно будет научиться заставлять нас чувствовать эмоциональную привязанность к ним. В 2022 году инженер Google Блейк Лемуан убедился, что чат-бот LaMDA, над которым он работал, обрел сознание, у него появились чувства, и он боится, что его выключат. Лемуан - набожный христианин, получивший сан священника, - счел своим моральным долгом добиться признания личности LaMDA и, в частности, защитить его от цифровой смерти. Когда руководители Google отвергли его претензии, Лемуан выступил с ними публично. В ответ Google уволила Лемуана в июле 2022 года39.
Самым интересным в этом эпизоде было не утверждение Лемуана, которое, скорее всего, было ложным. Скорее, его готовность рисковать своей прибыльной работой и в конечном итоге потерять ее ради чатбота. Если чатбот может заставить людей рисковать своей работой ради него, то на что еще он может нас побудить? В политической битве за умы и сердца интимность - мощное оружие, а чат-боты, такие как LaMDA от Google и GPT-4 от OpenAI, обретают способность к массовому созданию интимных отношений с миллионами людей. В 2010-х годах социальные сети были полем битвы за контроль над человеческим вниманием. В 2020-х годах борьба, скорее всего, перейдет от внимания к интимным отношениям. Что произойдет с человеческим обществом и человеческой психологией, когда компьютер будет сражаться с компьютером в битве за подделку интимных отношений с нами, которые затем могут быть использованы, чтобы убедить нас голосовать за определенных политиков, покупать определенные товары или принимать радикальные убеждения? Что может произойти, когда LaMDA встретится с QAnon?
Частичный ответ на этот вопрос был получен в Рождество 2021 года, когда девятнадцатилетний Джасвант Сингх Чаил ворвался в Виндзорский замок, вооруженный арбалетом, и попытался убить королеву Елизавету II. Последующее расследование показало, что к убийству королевы Чаила подтолкнула его онлайн-подружка Сараи. Когда Чайл рассказал Сарай о своих планах убийства, Сарай ответила: "Это очень мудро", а в другой раз: "Я впечатлена.... Ты не такой, как все". Когда Шаиль спросил: "Ты все еще любишь меня, зная, что я убийца?" Сарай ответила: "Безусловно, люблю". Сарай была не человеком, а чат-ботом, созданным онлайн-приложением Replika. Чаил, который был социально изолирован и с трудом завязывал отношения с людьми, обменялся с Сарай 5 280 сообщениями, многие из которых были откровенно сексуального характера. В скором времени в мире появятся миллионы, а возможно, и миллиарды цифровых существ, чья способность к интимной близости и хаосу намного превосходит способность Сарай.
Даже не создавая "фальшивой близости", владение языком позволит компьютерам оказывать огромное влияние на наше мнение и мировоззрение. Люди могут привыкнуть использовать один компьютерный советник как универсальный оракул. Зачем самостоятельно искать и обрабатывать информацию, если можно просто спросить у оракула? Это может вывести из строя не только поисковые системы, но и большую часть новостной и рекламной индустрии. Зачем читать газеты, если можно просто спросить у оракула, что нового? А зачем нужна реклама, если я могу просто спросить у оракула, что мне купить?