Несмотря на массовое расширение государственных контрактов на системы искусственного интеллекта, вопросу о том, должны ли частные поставщики этих технологий нести юридическую ответственность за вред, причиняемый правительствами при использовании их систем, уделяется мало внимания. Учитывая, как часто правительства обращаются к подрядчикам для создания алгоритмических архитектур в процессе принятия государственных решений, будь то полицейская деятельность или системы социального обеспечения, есть основания полагать, что такие технологические поставщики, как Palantir, должны нести ответственность за дискриминацию и другие нарушения. В настоящее время большинство государств пытаются снять с себя ответственность за проблемы, создаваемые системами искусственного интеллекта, аргументируя это тем, что «мы не можем отвечать за то, чего не понимаем». Это означает, что коммерческие алгоритмические системы вносят свой вклад в процесс принятия государственных решений без значимых механизмов подотчетности. Вместе с правоведом Джейсоном Шульцем я утверждаю, что разработчики систем искусственного интеллекта, которые напрямую влияют на принятие государственных решений, должны считаться участниками этого процесса с целью конституционной ответственности[507]. То есть, они, как и государства, могут быть признаны юридически ответственными за причинение вреда. До этого момента у поставщиков и подрядчиков фактически нет мотивации следить за тем, чтобы их системы не усиливали исторический вред и не создавали совершенно новый[508].
Другим примером этого явления является компания Vigilant Solutions, основанная в 2005 году. Компания работает на основе единственной предпосылки: взять инструменты наблюдения, которые в случае государственного управления могли бы потребовать судебного надзора, и превратить их в процветающее частное предприятие за пределами конституционных ограничений конфиденциальности. Компания Vigilant начала свою деятельность в нескольких городах США с установки камер автоматического распознавания номерных знаков (ALPR), размещая их везде – от автомобилей до фонарных столбов, от парковок до жилых домов. Этот массив сетевых камер фотографирует каждый проезжающий автомобиль, сохраняя изображения номерных знаков в обширной базе данных. Затем компания Vigilant продает доступ к базе полиции, частным детективам, банкам, страховым компаниям и другим желающим. Если полицейские хотят отследить автомобиль по всему штату и отметить все места, где он побывал, Vigilant может предоставить такую информацию. Аналогичным образом, если банк захочет вернуть автомобиль, Vigilant покажет, где он находится, – за определенную плату.
Калифорнийская компания Vigilant рекламирует себя как «один из надежных инструментов борьбы с преступностью, помогающий правоохранительным органам быстрее находить зацепки и раскрывать правонарушения». Компания заключила партнерство с рядом правительств в Техасе, Калифорнии и Джорджии, чтобы предоставить полиции набор систем ALPR для использования в патрулировании, а также доступ к базе данных Vigilant[509]. В свою очередь, местные органы власти предоставляют Vigilant записи о непогашенных штрафах разного рода. Все номерные знаки, отмеченные в базе данных как соответствующие задолженностям по штрафам, поступают в мобильные системы полицейских, что позволяет им останавливать водителей. Водителям же предлагается два варианта: оплатить штраф на месте или быть арестованными. Помимо 25-процентной надбавки, компания Vigilant ведет учет считывания каждого номерного знака и извлекает эти данные для пополнения своих обширных баз.
Vigilant подписала важный контракт с ICE, предоставляющий агентству доступ к пяти миллиардам записей номерных знаков, собранных частными компаниями, а также к 1,5 миллиардам точек данных, переданных 80 местными правоохранительными органами по всей территории США – включая информацию о том, где живут и работают люди. Эти данные могут быть получены в результате неформальных договоренностей между местной полицией и ICE и могут нарушать законы штатов об обмене информацией. Собственная политика конфиденциальности ICE ограничивает сбор данных вблизи «чувствительных мест», таких как школы, церкви и места проведения акций протеста. Но в данном случае ICE не собирает информацию и не ведет базу: агентство просто покупает доступ к системам Vigilant, которые имеют гораздо меньше ограничений. Это де-факто приватизация государственного наблюдения, размывание границ между частными владельцами и государственными структурами, и это создает непрозрачные формы сбора данных, которые живут вне традиционных правил защиты[510].
Впоследствии Vigilant расширила свой набор инструментов для «раскрытия преступлений», не ограничиваясь считывателями номерных знаков, но и включив в него устройства, способные распознавать лица. При этом Vigilant стремится сделать их эквивалентом номерных знаков, а затем вернуть в экологию полицейского контроля[511]. Подобно сети частных детективов, Vigilant создает «всевидящее око», глядящее на переплетение дорог и магистралей Америки, а также на всех, кто по ним путешествует, оставаясь при этом вне любой значимой формы регулирования или подотчетности[512].
Если мы переместимся от полицейской машины к крыльцу дома, то увидим еще одно место, где стираются различия между практикой работы с данными в государственном и частном секторах. Новое поколение социальных медиа-приложений, таких как Neighbors, Citizen и Nextdoor, позволяет пользователям получать уведомления о местных происшествиях в режиме реального времени, затем обсуждать их, а также транслировать, делиться и отмечать записи с камер наблюдения. Система Neighbors, созданная компанией Amazon и использующая камеры дверного звонка Ring, определяет себя как «новый соседский дозор» и классифицирует отснятый материал по таким категориям, как «Преступление», «Подозрительный» или «Незнакомец». Видеозаписи с их камер часто передаются в полицию[513]. В этих экосистемах наблюдения за жильем логика Treasuremap и Foxacid соединяется, но соединяется с домом, улицей и всеми промежуточными местами.
Что касается Amazon, то каждое новое проданное устройство Ring помогает ей создать еще более масштабные обучающие базы данных внутри и вне дома, с классификационными логиками нормального и аномального поведения, согласованными с логиками союзников и врагов на поле боя. Одним из примеров является функция, с помощью которой пользователи могут сообщать о краже посылок Amazon. Согласно одному журналистскому расследованию, многие сообщения содержали расистские комментарии, а видеозаписи непропорционально часто изображали цветных людей как потенциальных воров[514]. Помимо сообщений о преступлениях, Ring также используется для сообщений о сотрудниках Amazon, которые, по мнению пользователей, плохо работают, например, недостаточно аккуратно обращаются с посылками[515].
Чтобы завершить государственно-частную инфраструктуру наблюдения, Amazon активно продвигает систему Ring среди полицейских департаментов, предоставляя им скидки и предлагая портал, который позволяет полиции видеть, где расположены камеры Ring и напрямую связываться с владельцами домов, чтобы запросить видеозаписи в неофициальном порядке[516]. Amazon заключила партнерство по обмену видеозаписями Ring с более чем шестью сотнями полицейских участков[517].
В одном из случаев компания Amazon заключила договор с полицейским департаментом во Флориде, который был обнаружен в результате запроса, поданного журналисткой Кэролайн Хаскинс. Он показал, что полиция была заинтересована в продвижении приложения Neighbors, и за каждую соответствующую загрузку получала бонусы на бесплатные камеры Ring[518]. «В результате возникла целая цепочка: больше людей скачивают Neighbors, больше людей получают Ring, записи с камер наблюдения распространяются, а полиция может запрашивать все, что захочет», – пишет Хаскинс[519] Возможности наблюдения, которые когда-то были запрещены судами, теперь предлагаются в Apple App Store и продвигаются местными уличными полицейскими. Как отмечает исследователь СМИ Тунг-Хуи Ху, используя такие приложения, мы «становимся внештатными сотрудниками государственного аппарата безопасности»[520].
Ху описывает, что таргетинг – квинтэссенция милитаристского термина – во всех его формах должен рассматриваться как единая взаимосвязанная система власти: от таргетированной рекламы до подозрительных соседей и беспилотников. «Мы не можем просто рассматривать одну форму в отрыве от другой; объединенные суверенитетом данных, они призывают нас по-другому понимать власть в эпоху облачных технологий»[521]. Способы наблюдения, которые когда-то являлись прерогативой исключительно спецслужб, теперь гранулированы и рассеяны по многим социальным системам – встроены в рабочие места, дома и автомобили – и продвигаются технологическими компаниями, которые живут в перекрестных пространствах, пересекающих коммерческий и военный секторы ИИ.
В основе военной логики таргетинга лежит идея сигнатуры. Ближе к концу второго срока президента Джорджа Буша-младшего ЦРУ заявило, что оно должно иметь возможность наносить удары беспилотниками, основываясь исключительно на наблюдаемой «модели поведения» или «сигнатуре» человека