[569]. Как же разработать такие альтернативы?
Как показывает теория автоматизации, представленная в этой книге, любая технология и институциональный аппарат, включая ИИ, представляют собой кристаллизацию производительного социального процесса. Проблемы возникают из-за того, что кристаллизация «окостеневает» и воспроизводит прошлые структуры иерархии и неравенства. Чтобы критиковать и деконструировать сложные артефакты, такие как монополии ИИ, мы сначала должны провести кропотливую работу по деконнекционизму, расплести – шаг за шагом, файл за файлом, набор данных за набором данных, фрагмент метаданных за фрагментом метаданных, корреляцию за корреляцией, паттерн за паттерном – социальную и экономическую ткань, из которой они состоят. Эту работу уже ведет новое поколение ученых, анализирующих глобальный производственный конвейер ИИ, в особенности те, кто использует методы исследования в действии (action research). Заслуживают упоминания исследовательская инициатива Лилли Ирани Turkopticon, которая «прерывает невидимость работника» гиг-платформы Amazon Mechanical Turk; исследование обучающих наборов данных для распознавания лиц Адама Харви, которое выявило массовые нарушения конфиденциальности в ИИ-корпорациях и академических исследованиях; работу коллектива Politically Mathematics из Индии, который проанализировал экономическое влияние прогностических моделей COVID-19 на беднейшие слои населения и превратил математику в поле политической борьбы (см. их манифест, процитированный в эпиграфе) и проч.[570]
Также трудовая теория автоматизации служит аналитическим принципом для изучения нового «хозяйского глаза», воплощенный в монополиях ИИ. Из-за фокусировки на трудовом процессе и социальных отношениях, которые образуют технические системы, этот принцип также носит синтетический и «социогенный» (если использовать программный термин Франца Фанона и Сильвии Винтерс) характер[571]. В основе трудовой теории автоматизации лежит практика социальной автономии. Технологии можно оценивать, оспаривать, повторно присваивать и заново изобретать, только перемещаясь в матрицу социальных отношений, которые их образовали. Альтернативные технологии нужно разместить в этих социальных отношениях, также как это делали кооперативные движения в минувшие столетия. Но создать альтернативные алгоритмы не означает сделать их более этичными. Например, жестко закодировать этические правила в ИИ и роботах представляется крайне недостаточным и неполным решением, поскольку это предложение не касается напрямую широкой политической функции автоматизации, лежащей в их основе[572].
Нужен не техно-солюционизм и не техно-пауперизм, а культура изобретательства, конструирования и планирования, которые направлены на заботу о сообществах и коллективе и никогда полностью не отказываются от агентности и интеллекта в пользу автоматизации. Первый шаг технополитики должен быть не технологическим, а политическим. Речь идет об эмансипации и деколонизации, а то и о полном упразднении организации труда и социальных отношений, на которых основаны сложные технические системы, промышленные роботы и социальные алгоритмы, в частности их встроенные системы оплаты труда, права собственности и политика идентичности. Новые технологии для труда и общества можно основать только на подобной политической трансформации. Понятно, что этот процесс подразумевает развитие не только технических, но и политических знаний. Одно из проблемных последствий ИИ для общества заключается в его эпистемическом влиянии – в том плане, как он представляет разумность как машинный интеллект и неявно развивает знание как процедурное. Однако проект политической эпистемологии, направленный на преодоление ИИ, должен преобразовать исторические формы абстрактного мышления (математическое, механическое, алгоритмическое и статистическое) и интегрировать их в инструментарий критического мышления. Противостоя эпистемологии ИИ и его режиму экстрактивизма знания, необходимо научиться иному техническому мышлению – коллективному «контр-интеллекту».
Благодарности
Я обязан существованием этой книги «коллективному философу», внесшему вклад в ее появление с самых разных сторон. Маккензи Уорк (Новая школа, Нью-Йорк) много лет назад предложила начать этот проект для издательства Verso Books. Хеннинг Шмидген (Университет Веймара) помог мне увидеть с междисциплинарной точки зрения сложный горизонт мысли, охватывающий исследования науки и технологий, историческую эпистемологию, французскую философию и медиаисследования. В последние месяцы редактирования Саша Фрейберг (Институт истории науки Макса Планка, Берлин) великодушно помог сделать рукопись более связной. Отдельное спасибо Сэму Смиту, редактору, а также Джорджу Макбету и Патрику Рихерту (Университет искусств и дизайна, Карлсруэ), которые терпеливо улучшали мой неродной английский и исправляли нелинейный стиль письма.
Я хотел бы выразить благодарность историкам науки и технологии: Пьетро Даниэлю Омодео, Джулии Рисполи, Маттиасу Шеммелю, Чарльзу Вулфу и Сентхилу Бабу, включая коллектив Politically Mathematics и редакцию Verum Factum. Особую благодарность выражаю студентам, коллегам и выпускникам Университета искусств и дизайна в Карлсруэ, аспирантскому коллоквиуму и исследовательской группе KIM по искусственному интеллекту и философии СМИ: Паоло Каффони, Селин Кондорелли, Алану Диазу, Ариане Донгус, Максу Грюнбергу, Сами Хатибу, Майе Индире Ганеш, Арифу Корнвейцу, Джеймсу Лангдону, Анжеле Мелитопулос, Симону Мурру, Мариане Сильве, Ане Тейшейра Пинто и Фюсун Тюреткен – с особым упоминанием Барбары Асеведо Стрейндж, Себастьяна Бреу, Гильермо Колладо Вилкинса, Алекса Эсторика, Янника Фрица, Винсента Херманна, Никоса Пателиса, Саймона Кнебла, Джейсона Кинга, Лукаса Рема, Марко Шрёдера, Бена Сеймура и Флориана Вальцеля за их техническую, графическую и редакционную помощь.
Я многим обязан международному сообществу исследователей ИИ и медиа, с которыми за последнее десятилетие работал в большом количестве проектов: Джону Беллеру, Клод Драуде, Орите Хальперн, Адаму Харви, Леонарду Импетту, Даниэлю Иргангу, Владану Йолеру, Годе Клумбайт, Олексию Кучанскому, Ноуре Аль Мубаед, Фабиану Офферту, Ранджодху Сингху Дхаливалу, Сьюзан Шуппли, Елене Вогман и Бену Тарноффу. А также спасибо за дружбу и поддержку: Мари-Луизе Ангерер, Алану Блэквеллу, Андреасу Брёкманну, Йоханнесу Брудеру, Мерседес Бунц, Джеффу Коксу, Шону Кьюбитту, Яну Дистельмайеру, Дафне Драгона, Полу Файгельфельду, Кристофферу Гансингу, Фрэнсису Хангеру, Жозефу Лемелину, Дэну МакКвиллану, Фридеру Наке, Лучиане Паризи, Йенсу Шрётеру и Андреасу Зудманну – и, в частности, Нине Франц, Ребекке Ладевиг, Вольфгангу Лефевру, Джорджу Наги, Саймону Шафферу, Максу Штадлеру, Зигфриду Циелински и Паоло Целлини.
Особую благодарность выражаю организаторам летней школы «Истории ИИ: Генеалогия власти» в Кембридже, 2020–2021 годы, – Саре Диллон, Ричарду Стейли, Саеду Мустафе Али, Стефани Дик, Мэттью Л. Джонсу и Джонни Пенну – за возможность представить и обсудить мои идеи.
«Политический интеллект», на котором основана эта книга, сложился благодаря друзьям из разных стран: Стефано Харни, Сандро Меццадра, Тони Негри, Бретт Нильсон, Никос Папастергиадис, Джудит Ревель, Таня Рисполи, Паоло Вирно, Джейми Вудкок и Джованна Заппери. За многолетнюю поддержку я благодарю Марко Баравалле, Сусану Кало, Мануэля Дизеньи, Годофредо Перейру и Жерара Хэнлона.
Я выражаю благодарность журналу e-flux (Хулиетe Аранда, Амаль Исса, Брайану Куану Вуду, Антону Видокле) и Дому мировых культур в Берлине (Ансельму Франке, Берну Шереру) за гостеприимность по отношению к нескольким моим инициативам. Среди многих друзей из художественного сообщества я также благодарю Елену Агудио, Доротею Альбрехт, Марву Арсаниос, Дефне Айяс, Шона Докрея, Жана Морено, Фиону Гусс, Наташу Гинвала, Натана Грея, Кристофа Гурка, Тома Холерта, Иман Исса, Свена Люттикена, Антонию Маяка, Агнешку Польска, Йоханнеса Пауля Рэтера, Наташу Садр Хагхигиан, Калеба Вальдорфа, Клеменса фон Ведемейера и Хадиджу фон Цинненбург Кэрролл.
Я признателен коллегам и сотрудникам Берлинской государственной библиотеки. Наши пути незримо пересекались на протяжении многих лет, хоть это и сопровождалось обетом молчания. Особую благодарность выражаю персоналу библиотеки за поддержку во время пандемии. Я адресую эту книгу всем часто остающимся невидимыми работникам, велосипедистам, водителям и программистам гиг-экономики на передовой алгоритмического разделения труда.
Исследование для написания книги началась задолго до рождения моего сына Джотто и завершилось много времени спустя. Это стало возможным благодаря любви и заботе Вицке и ее материальному и материнскому участию в домашнем труде. Для Джотто, Вицке и друзей я решился заглянуть в машинные залы технологических абстракций, надеясь избавить всех и каждого от необходимости переживать вызванные ими отчуждающие приключения в будущем. Эта книга посвящена моей матери, Анне, которая почему-то решила научить меня письму и счету до того, как я пошел в школу. Верю, что упражнения по «кухонной математике» четыре десятилетия спустя привели меня к изучению развития огромных социальных алгоритмов.