[454]. Управление военно-морских исследований, например, частично финансировало первый летний исследовательский проект по искусственному интеллекту в Дартмутском колледже в 1956 году[455]. Область ИИ всегда определялась военной поддержкой и часто военными приоритетами, задолго до того, как стало ясно, что ИИ можно применять в больших масштабах. Как отмечает Эдвардс:
Будучи проектом с наименьшей непосредственной пользой и наиболее далеко идущими амбициями, ИИ стал необычайно сильно зависеть от финансирования ARPA. В результате ARPA стала основным покровителем первых двадцати лет исследований в области ИИ. Бывший директор Роберт Спроулл с гордостью заключил, что «целое поколение компьютерных экспертов начало свою деятельность благодаря финансированию DARPA» и что «все идеи, которые вошли в проект пятого поколения [передовых вычислительных систем][середины 1980-х годов] – искусственный интеллект, параллельные вычисления, понимание речи, программирование на естественных языках – в конечном итоге начались с исследований, финансируемых DARPA»[456].
Военные приоритеты командования и контроля, автоматизации и наблюдения в значительной степени определили то, каким должен был стать ИИ. Инструменты и подходы, появившиеся благодаря финансированию DARPA, стали отличительной чертой этой области, включая компьютерное зрение, автоматический перевод и автономные транспортные средства. Но эти технические методы имеют более глубокие последствия. В общую логику ИИ заложены определенные виды классификационного мышления – от явно ориентированных на поле боя понятий, таких как цель, актив и обнаружение аномалий, до более тонких категорий высокого, среднего и низкого риска. Концепции постоянной ситуационной осведомленности и целеуказания будут определять исследования ИИ на протяжении десятилетий, создавая эпистемологические рамки, которые будут служить источником информации как для промышленности, так и для научных кругов.
С точки зрения государства, поворот к большим данным и машинному обучению расширил способы извлечения информации и обосновал социальную теорию слежки и понимания людей: вы узнаете их по метаданным. Кто переписывается, какие места посещает, что читает, когда и по какой причине срабатывают устройства – молекулярные действия стали видением идентификации и оценки угрозы, вины или невиновности. Сбор и измерение больших массивов данных на расстоянии стали предпочтительным способом получения предполагаемых сведений о группах и сообществах, а также оценки потенциальных целей для убийства. АНБ и ЦПС не являются уникальными – подобные агентства есть в Китае, России, Израиле, Сирии и многих других странах. Существует множество систем суверенного наблюдения и контроля, множество военных машин, которые никогда не останавливаются. Архив Сноудена подчеркивает, как государственные и корпоративные структуры сотрудничают, чтобы производить то, что Ахилл Мбембе называет «инфраструктурной войной»[457].
Однако отношения между национальными вооруженными силами и индустрией ИИ вышли за пределы сферы безопасности. Технологии, некогда доступные только спецслужбам – внеправовые по своей сути – перешли в муниципальные руки государства: правительственные и правоохранительные органы. В то время как АНБ находится в центре внимания по вопросам конфиденциальности, меньше внимания уделяется растущему сектору коммерческого наблюдения, который агрессивно продает свои инструменты и платформы полицейским департаментам и государственным учреждениям. Индустрия ИИ одновременно бросает вызов традиционной роли государств и изменяет ее, а также используется для укрепления и расширения старых форм геополитической власти. Алгоритмическое управление одновременно является частью традиционного государственного управления и превосходит его. Перефразируя теоретика Бенджамина Браттона, можно сказать, что государство берет на себя арматуру машины, потому что машины уже взяли на себя роли и регистр государства[458].
История создания интернета сосредоточилась вокруг американских военных и академических инноваций и доминирования[459]. Но в пространстве ИИ мы видим, что не существует чисто национальной системы. Вместо этого системы ИИ функционируют в сложной переплетенной сети многонациональных и многосторонних инструментов, инфраструктур и рабочей силы. Возьмем, к примеру, систему распознавания лиц, внедренную на улицах Белграда[460]. Директор полиции приказал установить две тысячи камер в восьмистах местах по всему городу, чтобы фиксировать лица и номерные знаки. Правительство Сербии подписало соглашение с китайским телекоммуникационным гигантом Huawei о предоставлении систем видеонаблюдения, поддержки сетей 4G, а также единых центров обработки данных и командных центров. Такие сделки – обычное дело. Местные системы часто представляют собой гибриды с инфраструктурой из Китая, Индии, США и других стран, с непроницаемыми границами, различными протоколами безопасности и потенциальными черными ходами в данных.
Вместе с тем, риторика вокруг искусственного интеллекта гораздо более резкая: нам постоянно твердят, что мы находимся в состоянии войны ИИ. Доминирующими объектами беспокойства являются наднациональные усилия США и Китая, с регулярными напоминаниями о том, что Китай заявил о своем намерении стать мировым лидером в области ИИ[461]. Практика работы с данными ведущих технологических компаний Китая, включая Alibaba, Huawei, Tencent и ByteDance, часто оформляется как прямая политика китайского государства и, таким образом, рассматривается как более угрожающая, чем американские частные компании, такие как Amazon и Facebook, даже несмотря на то, что границы между государственными и корпоративными императивами и стимулами сложным образом переплетаются. Однако язык войны – это не просто артикуляция ксенофобии, взаимной подозрительности, международного шпионажа и взлома сетей. Как отмечают такие медиа-исследователи, как Венди Чун и Тунг Хуи Ху, либеральное видение глобальных цифровых граждан, взаимодействующих на равных в абстрактном пространстве сетей, сменилось параноидальным видением защиты национального облака от расистского врага[462]. Призрак иностранной угрозы работает на утверждение своего рода суверенной власти над ИИ и на перераспределение локуса власти технологических компаний (которые являются транснациональными по инфраструктуре и влиянию) обратно в пределы национального государства.
Однако национализированная гонка за технологическое превосходство является одновременно риторической и реальной, создавая динамику для геополитической конкуренции между коммерческим и военным секторами и внутри них, все больше размывая между ними границы. Двойное использование приложений ИИ как в гражданской, так и в военной сфере также создало сильные стимулы для тесного сотрудничества и финансирования[463]. В США это превратилось в явную стратегию: стремиться к национальному контролю и международному доминированию ИИ для обеспечения военного и корпоративного преимущества.
Последняя итерация этой стратегии возникла при Эше Картере, который занимал пост министра обороны США с 2015 по 2017 год. Картер сыграл важную роль в сближении Кремниевой долины с военными, убеждая технологические компании в том, что национальная безопасность и внешняя политика зависят от американского доминирования в области искусственного интеллекта[464]. Он назвал ее «Третьей компенсационной стратегией». Под компенсацией обычно понимается способ возмещения основного военного недостатка путем изменения условий, или, как заявил бывший министр обороны Гарольд Браун в 1981 году: «Технология может стать множителем силы, ресурсом для компенсации численных преимуществ противника. Превосходная технология – это один из очень эффективных способов сбалансировать военный потенциал, не ограничиваясь сравнением потенциалов „танк за танк“ или „солдат за солдата“»[465].
Под первой компенсирующей стратегией обычно понимают применение ядерного оружия в 1950-х годах[466]. Вторым стал рост секретных, материально-технических и обычных вооружений в 1970-х и 1980-х годах. Третьим, по мнению Картера, должно стать сочетание искусственного интеллекта, вычислительной войны и роботов[467]. Но в отличие от АНБ, которое уже обладало мощными возможностями наблюдения, американским военным не хватало ресурсов искусственного интеллекта, опыта и инфраструктуры ведущих технологических компаний Америки[468]. В 2014 году заместитель министра обороны Роберт Уорк описал третью компенсацию как попытку «использовать все достижения в области искусственного интеллекта и автономии»[469].
Для создания боевых машин с искусственным интеллектом Министерству обороны требуются гигантские добывающие инфраструктуры. Однако для того, чтобы получить доступ к высокооплачиваемой инженерной рабочей силе и сложным платформам разработки, необходимо было наладить партнерские отношения с промышленностью. АНБ проложило путь с помощью таких систем, как prISm, как работая с телекоммуникационными и технологическими компаниями, так и тайно проникая в них