Как и в Китае и Иране, протесты послужили толчком к усилению государственного контроля и цензуры интернет-активности в России. С тех пор систематическая цензура усилилась. Система оперативно-розыскных мероприятий заставляет всех операторов связи устанавливать оборудование, предоставленное Федеральной службой безопасности (ФСБ), что позволяет ФСБ отслеживать метаданные и даже контент, а также блокировать доступ, без необходимости получения ордера. После очередного раунда протестов в 2020 году было заблокировано еще больше диссидентских и новостных сайтов, запрещены инструменты VPN и зашифрованный браузер Tor, а также введены новые, астрономические штрафы в качестве способа принуждения компаний к предотвращению доступа к незаконному контенту, включая посты в социальных сетях и сайты с критикой правительства. Хотя технологии ИИ менее важны для российских усилий по цензуре, их роль в последнее время также возросла.
Злоупотребление цифровыми инструментами, направленное против оппозиционных групп, не ограничивается диктатурами. В 2020 году в Forbidden Stories, международную организацию, стремящуюся публиковать истории журналистов, подвергающихся репрессиям по всему миру, просочился список из примерно пятидесяти тысяч телефонных номеров. Номера принадлежали оппозиционным политикам, правозащитникам, журналистам и диссидентам, которые, по сообщениям, подвергались взлому с помощью шпионской программы Pegasus, разработанной израильской технологической компанией NSO Group (названной по фамилиям ее основателей Нива Карми, Шалева Хулио и Омри Лави). (NSO отрицает любые правонарушения, заявляя, что программное обеспечение предоставляется только "проверенным правительственным клиентам" и что эти клиенты сами решают, как его использовать).
Pegasus - это программа "zero-click", то есть она может быть установлена на мобильные телефоны удаленно, не требуя от пользователя нажатия на какие-либо ссылки - другими словами, она может быть установлена без ведома или согласия пользователя. Его название происходит от имени крылатого коня Пегаса в греческой мифологии, что указывает на широкий класс программного обеспечения, к которому он относится (троянский конь), и на тот факт, что он летает, а не устанавливается вручную. Современные технологические лидеры стремятся подчеркнуть огненную силу ИИ и изображают себя в роли современного Прометея, дарующего человечеству силу технологии. Но Пегас, а не Прометей — вот что мы, похоже, получили от современных цифровых технологий.
Pegasus может читать текстовые сообщения, прослушивать звонки, определять местоположение, удаленно собирать пароли, отслеживать активность в Интернете и даже брать под контроль камеру и микрофон телефона. Как утверждается, эта программа регулярно используется во многих странах с авторитарными правителями, включая Саудовскую Аравию, Объединенные Арабские Эмираты и Венгрию. Журналист Джамал Хашогги, который впоследствии был зверски убит и расчленен, предположительно находился под наблюдением агентов Саудовской Аравии, использовавших Pegasus. (Власти Саудовской Аравии заявили, что это была "несанкционированная операция").
Изучение цифр, полученных Forbidden Stories, выявило систематическое злоупотребление программным обеспечением со стороны многих демократически избранных правительств. В Мексике шпионское ПО изначально было приобретено как оружие против наркокартелей и использовалось в операции, которая привела к поимке главы картеля Синалоа Эль Чапо. Но впоследствии она была использована против журналистов, адвокатов, расследовавших массовое убийство сорока трех студентов, и оппозиционных партий, включая одного из лидеров оппозиции, Андреса Мануэля Лопеса Обрадора, который впоследствии стал президентом страны. В Индии правительство премьер-министра Нарендры Моди использует программное обеспечение еще более широко и установило слежку за многими важными лидерами оппозиции, студенческими активистами, журналистами, членами избирательных комиссий и даже руководителями Центрального бюро расследований страны.
Злоупотребления с использованием Pegasus не ограничились правительствами развивающихся стран. В списке был телефон президента Франции Эммануэля Макрона, а также номера нескольких высокопоставленных чиновников Госдепартамента США.
Соединенные Штаты не нуждаются в Pegasus для совершения высокотехнологичных проступков (хотя некоторые из их спецслужб экспериментировали с этим программным обеспечением, а также выступили в качестве посредника при его продаже правительству Джибути). 5 июня 2013 года мир был разбужен откровениями Эдварда Сноудена, впервые опубликованными в газете Guardian, о незаконном сборе данных Национальным агентством безопасности (АНБ). АНБ сотрудничало с Google, Microsoft, Facebook, Yahoo!, различными другими интернет-провайдерами и телефонными компаниями, такими как AT&T и Verizon, чтобы собрать огромное количество данных об интернет-поисках, онлайн-общении и телефонных звонках американских граждан. Она также прослушивала переговоры лидеров американских союзников, включая Германию и Бразилию. Он собирал данные со спутников и подводных волоконно-оптических кабелей. Сноуден описал масштабы этих программ, сказав, что, когда он был подрядчиком АНБ, "я, сидя за своим столом, безусловно, имел полномочия прослушивать любого человека, от вас или вашего бухгалтера до федерального судьи или даже президента, если у меня была личная электронная почта". Хотя эти действия были неконституционными и осуществлялись без ведома или надзора Конгресса, некоторые из них были санкционированы FISA (Судом по надзору за иностранными разведками).
Соединенные Штаты - не Китай, и эта деятельность должна была быть скрыта от средств массовой информации и даже от большинства законодателей. Когда появились разоблачения Сноудена, возникла мощная реакция против неправомерных стратегий АНБ и других агентств по сбору данных. Но этого оказалось недостаточно, чтобы остановить большую часть слежки. Возможно, еще хуже то, что частные компании, такие как Clearview AI, начали собирать изображения лиц сотен миллионов пользователей и продавать эту информацию правоохранительным органам, практически без надзора со стороны гражданского общества или других институтов. В этом нет ничего плохого, по словам основателя и генерального директора Clearview, который заявил: "Мы считаем, что это лучшее использование технологии".
Шпионские программы Pegasus, шпионаж АНБ и технология распознавания лиц Clearview иллюстрируют более глубокую проблему. Появившись на свет, цифровые инструменты для обширного сбора данных будут использоваться многими, если не большинством, правительств для подавления оппозиции и лучшего контроля за своими гражданами. Они укрепят недемократические режимы и позволят им гораздо эффективнее противостоять оппозиции. Они даже могут создать скользкую дорожку для демократических правительств, которые со временем станут более авторитарными.
Демократия умирает во тьме. Но она борется и при свете, который дает современный искусственный интеллект.
Наблюдение и направление развития технологий
От первоначальной эйфории по поводу демократизирующего потенциала Интернета и социальных сетей некоторые сделали полярно противоположный вывод: цифровые инструменты по своей сути антидемократичны. По словам историка Юваля Ноя Харари, "технологии благоприятствуют тирании".
Обе эти бинарные точки зрения ошибочны. Цифровые технологии не являются ни продемократическими, ни антидемократическими. Не было никакой необходимости в разработке технологий ИИ для того, чтобы дать правительствам возможность контролировать СМИ, цензурировать информацию и репрессировать своих граждан. Все это было выбором направления развития технологий.
Мы увидели, что цифровые технологии, которые по своей природе являются практически универсальными, можно было бы использовать для повышения полезности машин - например, путем создания новых рабочих задач или новых платформ, которые увеличивали бы возможности человека. Именно видение и бизнес-модель крупных технологических компаний подтолкнули к тому, чтобы в первую очередь сосредоточиться на контроле за работниками и уничтожении рабочих мест посредством автоматизации. То же самое верно и в отношении использования ИИ в качестве инструмента в руках авторитарных и некоторых якобы демократических правительств.
Мечты о том, что интернет и цифровые технологии дадут гражданам возможность противостоять диктатуре, не совсем сюрреалистичны. Цифровые технологии можно использовать для шифрования, что делает невозможным для властей прослушивание частных сообщений. Такие сервисы, как VPN, могут использоваться для противодействия цензуре. Поисковые системы, такие как Tor, в настоящее время невозможно расшифровать (насколько нам известно) и, следовательно, они обеспечивают более высокий уровень конфиденциальности и безопасности. Тем не менее, первые надежды на демократизацию цифровых технологий были разрушены, потому что технологический мир направил свои усилия туда, где лежат деньги и власть - на государственную цензуру.
Таким образом, технологическое сообщество выбрало особый путь - низкую дорогу, которая усиливает сбор данных и слежку. Хотя достижения в крупномасштабной обработке данных с использованием инструментов машинного обучения сыграли важную роль в этих усилиях, настоящим секретным соусом в слежке правительств и компаний являются огромные объемы данных.
Когда технологии ИИ усиливают авторитарные импульсы, они создают порочный круг. По мере того, как правительства становятся все более авторитарными, растет их потребность в ИИ для отслеживания и контроля своего населения, и это толкает ИИ дальше в направлении превращения в полноценную технологию мониторинга.
С 2014 года, например, наблюдается огромный рост спроса со стороны местных китайских правительств на технологии ИИ, обеспечивающие распознавание лиц и другие виды мониторинга. Этот спрос, по-видимому, отчасти вызван местными политическими волнениями. Политики хотят усилить охрану порядка и наблюдение, когда видят, что в их регионе назревает недовольство или протестная активность. Во второй половин