[550]. Этот взгляд редко сопоставляется с реальностью: по всему миру люди уже доминируют в системах добывающих планетарных вычислений.
Оба дискурса – антиутопический и утопический – являются метафизическими близнецами: один возлагает надежды на ИИ как на решение всех проблем, а другой боится ИИ как величайшей опасности. Каждый из них предлагает глубоко аисторический взгляд, который определяет власть исключительно в рамках самой технологии. Независимо от того, рассматривается ли ИИ как универсальный инструмент или как всемогущий повелитель, результатом является технологический детерминизм. ИИ занимает центральное место в искуплении или разрушении общества, позволяя нам игнорировать системные силы неолиберализма, политики жесткой экономии, расового неравенства и широко распространенной трудовой эксплуатации. И утописты, и антиутописты ставят проблему так, что технология всегда находится в центре, неизбежно распространяясь на все сферы жизни, в отрыве от форм власти, которые она усиливает и обслуживает.
Когда AlphaGo побеждает человеческого гроссмейстера, очень заманчиво представить, что появился некий потусторонний интеллект. Но есть гораздо более простое и точное объяснение. Игровые движки ИИ предназначены для того, чтобы играть миллионы партий, проводить статистический анализ для оптимизации выигрышных результатов, а затем играть еще миллионы партий. Эти программы производят удивительные ходы, не встречающиеся в человеческих играх, по простой причине: они могут играть и анализировать гораздо больше игр с гораздо большей скоростью, чем это может сделать любой человек. Это не магия, это статистический анализ в масштабе. Тем не менее рассказы о сверхъестественном машинном интеллекте не прекращаются[551]. Снова и снова мы сталкиваемся с идеологией картезианского дуализма в ИИ: фантазией о том, что системы ИИ – это развоплощенные мозги, которые поглощают и производят знания независимо от своих создателей, инфраструктур и мира в целом. Эти иллюзии отвлекают от гораздо более важных вопросов: Кому служат системы? Какова политическая экономика их создания? И каковы более широкие планетарные последствия?
Рассмотрим другую иллюстрацию ИИ: чертеж первого собственного и управляемого центра обработки данных компании Google в городе Даллес, штат Орегон. На нем изображены три здания площадью 68680 квадратных футов, огромный объект, который, по оценкам 2008 года, потребляет достаточно энергии для питания восьмидесяти двух тысяч домов или города размером с Такому, штат Вашингтон[552]. Сейчас дата-центр раскинулся вдоль берега реки Колумбия, где он в значительной степени использует энергию.
Лоббисты Google в течение шести месяцев вели переговоры с местными чиновниками, чтобы добиться сделки, включающей налоговые льготы, гарантии дешевой энергии и использование построенного городом оптоволоконного кольца. В отличие от абстрактного видения игры Го, инженерный план показывает, насколько сильно техническое видение Google зависит от коммунальных служб, включая газовые магистрали, канализационные трубы и высоковольтные линии, по которым будет поступать электричество со скидкой. По словам писательницы Джинджер Стрэнд, «благодаря городской инфраструктуре, государственным субсидиям и субсидируемой федеральным правительством электроэнергии, YouTube финансируется нами»[553].
Чертеж центра обработки данных Google. Предоставлено изданием Harper’s
Этот план напоминает, насколько сильно расширение индустрии искусственного интеллекта субсидировалось государством: от финансирования обороны и федеральных исследовательских агентств до коммунальных услуг и налоговых льгот, до данных и неоплачиваемого труда всех, кто пользуется поисковыми системами или размещает изображения в Интернете. ИИ начинался как крупный общественный проект двадцатого века и был неустанно приватизирован, чтобы принести огромную финансовую выгоду крошечному меньшинству на вершине пирамиды добычи.
Диаграммы представляют два разных способа понимания работы ИИ. Я утверждала, что многое зависит от того, как мы определяем ИИ, каковы его границы и кто их определяет: именно это и формирует картину видимости и спорных вопросов. Диаграмма Go говорит об отраслевых нарративах абстрактного вычислительного облака, далекого от земных ресурсов, необходимых для его производства, парадигме, где технические инновации превозносятся, регулирование отвергается, а истинные затраты никогда не раскрываются. Чертеж указывает нам на физическую инфраструктуру, но оставляет без внимания все экологические последствия и политические сделки. Частичные описания ИИ представляют то, что философы Майкл Хардт и Антонио Негри называют «двойной операцией абстрагирования и извлечения» в информационном капитализме: абстрагирование от материальных условий производства при извлечении большего количества информации и ресурсов[554]. Описание ИИ как фундаментально абстрактного отделяет его от энергии, труда и капитала, необходимых для его производства, а также от множества различных видов добычи, которые позволяют это сделать.
В этой книге исследуется планетарная инфраструктура ИИ как добывающей промышленности: от его материального генезиса, политэкономии его операций до дискурсов, поддерживающих ауру нематериальности и неизбежности. Мы наблюдали политику, заложенную в процессе обучения систем ИИ распознаванию мира. И мы наблюдали системные формы неравенства, которые делают ИИ тем, чем он сегодня является. Основная проблема заключается в глубоком переплетении технологий, капитала и власти, последним проявлением которого является ИИ. Вместо того чтобы оставаться непостижимыми и чуждыми, эти системы служат продуктами более крупных социальных и экономических структур с глубокими материальными последствиями.
Как увидеть полный жизненный цикл искусственного интеллекта и динамику власти, которая им управляет? Чтобы рассмотреть его в более широком ландшафте, придется выйти за рамки обычных карт. В этой книге говорится о том, что реальная ставка ИИ – это глобальные взаимосвязанные системы добычи и власти, а не технократические фантазии об искусственности, абстракции и автоматизации. Чтобы понять ИИ таким, какой он есть, прежде всего необходимо увидеть структуры власти, которым он служит.
ИИ рождается из соляных озер в Боливии и шахт в Конго, создается из помеченных толпой данных, которые пытаются классифицировать человеческие действия, эмоции и личности. Он используется для навигации беспилотников над Йеменом, управления иммиграционной полицией в Соединенных Штатах и изменения рейтинга человеческой ценности и риска по всему миру. Для борьбы с этими пересекающимися режимами необходим широкий угол зрения на ИИ.
Начало книги зародилось под землей, где добывающая политика искусственного интеллекта проявляется в самом буквальном смысле. Редкоземельные минералы, вода, уголь и нефть: технологический сектор добывает землю, чтобы обеспечить топливом свои высокоэнергоемкие инфраструктуры. Технологический сектор, который одновременно расширяет сети центров обработки данных и помогает нефтегазовой промышленности находить и выкачивать оставшиеся запасы ископаемого топлива, никогда полностью не признает и не учитывает углеродный след ИИ. Непрозрачность более крупной цепочки поставок вычислительной техники в целом и ИИ в частности является частью давно сложившейся бизнес-модели извлечения ценности из общего достояния и избегания возмещения долговременного ущерба.
Труд представляет собой еще одну форму добычи. Во второй главе мы вышли за рамки высокооплачиваемых инженеров машинного обучения и рассмотрели другие формы труда, необходимые для функционирования систем искусственного интеллекта. От шахтеров, добывающих олово в Индонезии, до краудворкеров в Индии, выполняющих задания на Amazon Mechanical Turk, до рабочих завода по производству iPhone на Foxconn в Китае – рабочая сила ИИ гораздо больше, чем мы обычно себе представляем. Даже в самих технологических компаниях существует большая теневая отрасль, состоящая из контрактных рабочих, которых значительно больше, чем штатных сотрудников, но у них меньше льгот и нет гарантий занятости[555].
В логистических узлах технологического сектора мы видим людей, выполняющих задачи, которые не под силу машинам. Тысячи людей необходимы для поддержания иллюзии автоматизации: пометки, исправления, оценка и редактирование систем искусственного интеллекта, чтобы они выглядели бесшовными. Другие поднимают посылки, доставляют еду. Системы искусственного интеллекта следят за всеми ними, выжимают максимум производительности из голой функциональности человеческого тела: сложные суставы пальцев, глаз и коленных суставов дешевле и проще приобрести, чем роботов. В этих пространствах будущее работы больше похоже на фабрики прошлого, но с браслетами, вибрирующими при ошибках, и штрафами за слишком частые перерывы на туалет.
Использование искусственного интеллекта на рабочем месте еще больше нарушает баланс власти, передавая все больше контроля в руки работодателей. Приложения используются для отслеживания работников, подталкивания их к более продолжительной работе и ранжирования в режиме реального времени. Amazon представляет собой канонический пример того, как микрофизика власти связана с макрофизикой, логистикой планетарного времени и информации. Системы искусственного интеллекта используют различия во времени и заработной плате на разных рынках, чтобы ускорить движение капитала. Внезапно каждый житель городских центров уже может получить – и ожидает – доставку в день заказа. И система снова ускоряется, а материальные последствия скрываются за картонными коробками, грузовиками и кнопками «купить сейчас».