Моей целью было показать, что ИИ – это кульминация долгой эволюции автоматизации труда и количественной оценки общества. Статистические модели машинного обучения не радикально отличны от конструкции промышленных машин, а скорее гомологичны ей. Эти модели образуют тот же аналитический интеллект для решения задач и анализа коллективного поведения, но его сложность (количество параметров) выше. Подобно тому, как конструкция промышленных машин формировалась постепенно благодаря рутинным задачам и корректировкам, алгоритмы машинного обучения адаптируют свою внутреннюю модель к паттернам обучающих данных с помощью сопоставимого процесса проб и ошибок. Конструкция машины и модель статистического алгоритма следуют аналогичной логике: обе основаны на имитации внешней конфигурации пространства, времени, отношений и операций. В истории ИИ это верно для перцептрона Розенблатта (предназначался для записи движений взгляда и пространственных отношений в поле зрения) и всех современных алгоритмов машинного обучения (например, машин опорных векторов, байесовских сетей и моделей-трансформеров).
Если промышленная машина определенным образом воплощает схему разделения труда (подумайте о компонентах и ограниченных «степенях свободы» ткацкого либо токарного станка или карьерного экскаватора), то алгоритмы машинного обучения (особенно последние модели ИИ с огромным количеством параметров) способны имитировать сложную человеческую деятельность[560]. Несмотря на проблемы аппроксимации и смещения, модель машинного обучения представляет собой адаптивный артефакт, который может кодировать и воспроизводить самые разнообразные конфигурации задач. Например, одна и та же модель машинного обучения способна эмулировать движение манипуляторов на сборочных линиях и действия водителей в беспилотном автомобиле, переводить с одного языка на другой и разговорными выражениями описывать изображения.
Подъем в последние годы крупных фундаментальных моделей (например, BERT, GPT, CLIP, Codex) демонстрирует, как один алгоритм глубокого обучения можно натренировать на одном обширном интегрированном наборе данных (текст, изображения, речь, структурированные данные и трехмерные сигналы) и использовать для автоматизации широкого спектра последующих задач (ответы на вопросы, анализ тональности, извлечение информации, генерация текста, создание подписей к изображениям, генерация изображений, воспроизведение стиля, распознавание объектов, выполнение инструкций и т. д.)[561]. Крупные фундаментальные модели, построенные на колоссальных архивах культурного наследия, коллективных знаний и социальных данных, служат ближайшим приближением к механизации «всеобщего интеллекта», о котором говорили в индустриальную эпоху. Важным аспектом машинного обучения, который демонстрируют фундаментальные модели, заключается в том, что автоматизация отдельных задач, кодификация культурного наследия и анализ социального поведения не имеют технических различий и могут выполняться в рамках одного и того же процесса статистического моделирования.
В заключение стоит сказать, что машинное обучение можно рассматривать как проект автоматизации самого проектирования машин и создания моделей, то есть автоматизацию трудовой теории автоматизации. В этом смысле машинное обучение и, в частности, большие фундаментальные модели представляют собой новое определение Универсальной машины, поскольку они способны не только выполнять вычислительные задачи, но и имитировать труд и коллективное поведение в целом. Таким образом, прорыв, который воплощает машинное обучение, – это не «автоматизация статистики», как его иногда называют, а автоматизация автоматизации, то есть доведение этого процесса до масштабов коллективного знания и культурного наследия[562]. Кроме того, машинное обучение можно рассматривать как техническое доказательство постепенного слияния автоматизации труда и социального управления. Возникнув из имитации разделения труда и психометрии, модели машинного обучения постепенно превратились в интегрированную парадигму управления, воплощением которой служат корпоративная аналитика и огромные центры обработки данных.
На этом этапе анализа важно отметить, что внутренние ограничения влияют на текущую форму машинного обучения. В статье, опубликованной в сентябре 2021 года, Нил Томпсон и другие ученые-компьютерщики утверждают, что методы исправления ошибок глубокого обучения достигли вычислительного предела и не могут расти без непомерных (вскоре и для крупных корпораций) затрат на энергию и аппаратные ресурсы[563]. Проблема вычислительного взрыва, периодически возникающая в истории ИИ, на этот раз касается искусственных нейронных сетей. Результаты исследований, которые можно распространить на другие алгоритмы и техники исправления ошибок, доказывают, что «интеллектуальный взрыв» ИИ – это мираж. Когда критическая теория вовлекается в мультяшные кампании по поиску «инопланетного интеллекта» в черном ящике ИИ, она часто игнорирует логический предел вычислений. То, что ученые считают «инопланетным интеллектом», представляет собой игру статистических корреляций на очень большом масштабе. В ней нет никаких свидетельств «сингулярности», и в силу вычислительных ограничений современный ИИ не станет злонамеренным «сверхразумом», о котором предупреждал оксфордский ученый Ник Бостром.
Расплетая верховный алгоритм
Если принять во внимание растущий размер наборов данных, затраты на обучение больших моделей и монополию на облачную инфраструктуру, необходимую для размещения подобных моделей немногими компаниями, такими как Amazon, Google и Microsoft (и их азиатские коллеги Alibaba и Tencent), станет очевидно, что суверенитет ИИ – сложный вопрос геополитического масштаба. Более того, слияние различных аппаратов управления (наука о климате, глобальная логистика и даже здравоохранение) с одним и тем же аппаратным (облачные вычисления) и программным (машинное обучение) обеспечением сигнализирует о сильнейшей тенденции к монополизации. Помимо пресловутой проблемы накопления власти, рост информационных монополий указывает на ключевой для этой книги феномен технической конвергенции: средства труда слились со средствами его измерения, а средства управления и логистики – со средствами экономического планирования.
Это стало очевидным во время пандемии COVID-19, когда возникла крупная инфраструктура для отслеживания, измерения и прогнозирования социального поведения[564]. Однако беспрецедентная для истории здравоохранения и биополитики инфраструктура не появилась ex nihilo, ее построили на уже существующих цифровых платформах, организующих большую часть социальных отношений. Так, во время карантина один и тот же цифровой медиум использовался для работы, покупок, общения с семьей и друзьями и лечения. Цифровые метрики социального тела, такие как геолокация и другие метаданные, стали ключевыми для моделей прогнозирования глобального заражения, но надо понимать, что они уже давно используются для отслеживания рабочей силы, логистики, торговли и образования. По мнению Джорджо Агамбена и других философов, эта инфраструктура продлевает введенное во время пандемии чрезвычайное положение, но в реальности ее развертывание в здравоохранении и биополитике служит лишь продолжением десятилетий мониторинга экономической производительности социального тела, что для многих прошло незамеченным[565].
Техническая конвергенция инфраструктур данных также показывает, что современная автоматизация – это автоматизация не только отдельного работника по стереотипному образцу гуманоидного робота, но и мастеров и менеджеров фабрики на платформах гиг-экономики. От гигантов логистики (Amazon, Alibaba, DHL, UPS) и мобильности (Uber, Share Now, Foodora, Deliveroo) до социальных сетей (Facebook, TikTok, Twitter), платформенный капитализм выступает формой автоматизации, которая в действительности не заменяет рабочих, а умножает их и управляет ими по-новому. Речь идет не столько об автоматизации труда, сколько об автоматизации управления. Согласно новой форме алгоритмического управления, мы все – дивидуальные работники огромного автомата, состоящего из глобальных пользователей, «турков»[566], сиделок, водителей и самых разных гонцов. Дискуссия о страхе перед ИИ, который полностью заменит рабочие места, беспочвенна: в платформенной экономике алгоритмы берут на себя управление и умножают прекарные рабочие места. Хотя доходы гиг-экономики остаются второстепенными по отношению к традиционным местным секторам, эти платформы заняли монопольные позиции, используя одну и ту же инфраструктуру по всему миру. Таким образом, власть нового «хозяина» заключается не в автоматизации индивидуальных задач, а в управлении общественным разделением труда. Вопреки предсказанию Алана Тьюринга, робот сначала пришел на смену хозяину, а не рабочему[567].
Возникает вопрос, какова вероятность политического вмешательства в такое технологически согласованное пространство и остается ли призыв низовых и институциональных инициатив к «перестройке ИИ» разумным и осуществимым. Этот призыв должен прежде всего ответить на более насущный вопрос: как «перестроить» крупномасштабные монополии данных и знаний?[568] По мере того, как крупные компании (Amazon, Walmart, Google) получают уникальный доступ к потребностям и проблемам всего социального тела, растущее движение требует не просто сделать эти инфраструктуры более прозрачными и подотчетными, но и фактически превратить их в общедоступные сервисы (как предложил, в частности, Фредрик Джеймисон) или заменить общедоступными альтернативами (на чем настаивает Ник Срничек)