азывают давление акционеры, требуя максимизации прибыли от инвестиций, а не этических соображений, что обычно делает мораль вторичной по отношению к прибыли. В результате этика является необходимым, но недостаточным условием для решения фундаментальных проблем, поднятых в этой книге.
Чтобы понять, что именно поставлено на карту, мы должны сосредоточиться не столько на этике, сколько на власти. ИИ неизменно предназначен для усиления и воспроизводства тех форм власти, для оптимизации которых он был создан. Противодействие этому требует сосредоточения интересов наиболее затронутых сообществ[571]. Вместо того чтобы превозносить основателей компаний, венчурных капиталистов и технических провидцев, мы должны начать с живого опыта тех, кто лишен прав, подвергается дискриминации и страдает от систем ИИ. Когда кто-то говорит «этика ИИ», нам следует оценить условия труда шахтеров, подрядчиков и краудворкеров. Когда мы слышим «оптимизация», нам стоит спросить, не являются ли они инструментами для бесчеловечного обращения с иммигрантами. Когда мы аплодируем «крупномасштабной автоматизации», нам следует вспомнить о том, что в результате этого будет выброшен углекислый газ в то время, когда планета и так находится в состоянии крайнего стресса. Что значит работать над справедливостью во всех этих системах?
В 1986 году политический теоретик Лэнгдон Виннер описал общество, «приверженное созданию искусственных реальностей», не заботясь о последующем вреде условиям жизни: «Огромные преобразования в структуре нашего общего мира предприняты с минимальным вниманием к тому, что эти изменения означают… В технической сфере мы постоянно заключаем ряд социальных контрактов, условия которых становятся известны только после подписания»[572].
За четыре десятилетия, прошедшие с тех пор, эти преобразования достигли таких масштабов, что изменили химический состав атмосферы, температуру поверхности Земли и содержание коры планеты. Разрыв между тем, как оценивают технологию при ее выпуске, и ее долгосрочными последствиями только увеличился. Общественный договор, в той мере, в какой он вообще когда-либо существовал, привел к климатическому кризису, стремительному росту неравенства богатства, расовой дискриминации, повсеместной слежке и трудовой эксплуатации. Но идея о том, что эти преобразования происходили в неведении относительно их возможных результатов, является частью проблемы. Философ Акилле Мбембе резко критикует идею о том, что мы не могли предвидеть последствия развития систем знаний двадцать первого века, поскольку они всегда являлись «операциями абстракции, претендующими на рационализацию мира на основе корпоративной логики»[573]. Он пишет: «Речь идет об извлечении, захвате, культе данных, коммерциализации человеческой способности мыслить и отказе от критического разума в пользу программирования. Сейчас, как никогда раньше, нам нужна новая критика технологии, опыта технической жизни»[574].
Следующая эра критики потребует поиска пространства за пределами технической жизни, преодолевая догму о неизбежности. Когда стремительное развитие ИИ воспринимается как неостановимое, можно только латать юридические и технические ограничения на системы постфактум: очищать базы данных, укреплять законы о конфиденциальности или создавать советы по этике. Но это всегда будут частичные и неполные ответы, в которых технология предполагается, а все остальное должно адаптироваться. Но что произойдет, если мы изменим эту полярность и начнем с обязательств по созданию более справедливого и устойчивого мира? Как мы можем вмешаться в решение взаимозависимых проблем социальной, экономической и климатической несправедливости? Где технологии могут в этом помочь? И есть ли места, где ИИ не следует использовать, где он подрывает справедливость?
Именно это является основой для обновленной политики отказа – противостояния нарративам технологической неизбежности, в которых говорится: «Раз это возможно сделать, значит, так и будет». Вместо того чтобы спрашивать, где будет применяться искусственный интеллект – просто потому, что он может, – акцент следует сделать на том, почему он должен применяться. Зачем его использовать? Таким образом мы сможем поставить под сомнение идею о том, что все должно подчиняться логике статистического прогнозирования и накопления прибыли, что Донна Харауэй называет «информатикой господства»[575]. Мы видим проблески отказа, когда население решает отменить предиктивную полицию, запретить распознавание лиц или протестует против алгоритмических оценок. Пока что эти незначительные победы носят фрагментарный и локализованный характер и часто сосредоточены в городах с большими ресурсами для организации, таких как Лондон, Сан-Франциско, Гонконг и Портленд, штат Орегон. Они указывают на необходимость более широких национальных и международных движений, которые отказываются от подходов, основанных на использовании технологий, и фокусируются на решении основных проблем неравенства и несправедливости. Отказ включает в себя неприятие идеи о том, что те же инструменты, которые служат капиталу, армии и полиции, также пригодны для преобразования школ, больниц, городов и экологии.
Призывы к справедливости в отношении труда, климата и данных наиболее сильны, когда они объединены. Прежде всего, я вижу самую большую надежду в растущих движениях за справедливость, направленных на решение проблемы взаимосвязи капитализма, вычислений и контроля: объединение вопросов климатической справедливости, трудовых прав, расовой справедливости, защиты данных и превышения полицейской и военной власти. Отвергая системы, способствующие неравенству и насилию, мы бросаем вызов структурам власти, которые ИИ в настоящее время укрепляет, и создаем основы для другого общества[576]. Как отмечает Руха Бенджамин, «Деррик Белл сказал об этом следующим образом: „Чтобы увидеть вещи такими, какие они есть на самом деле, вы должны представить их такими, какими они могли бы быть“. Мы – создатели шаблонов, и мы должны изменить их суть»[577]. Для этого необходимо избавиться от очарования технологического решения проблем и принять альтернативные солидарности – то, что Мбембе называет «другой политикой проживания на Земле, ремонта и совместного использования планеты»[578]. Существует устойчивая коллективная политика, выходящая за пределы извлечения стоимости; существуют общины, которые стоит сохранить, миры за пределами рынка и способы жить вне дискриминации и жестоких способов оптимизации. Наша задача – проложить туда курс.
ЭпилогКосмос
Стартует обратный отсчет. Начинают появляться видеоролики. Двигатели в основании возвышающейся ракеты Saturn V загораются, и ракета начинает взлет. Мы слышим голос Джеффа Безоса: «С тех пор как мне было пять лет – именно тогда Нил Армстронг ступил на поверхность Луны – я страстно люблю космос, ракеты, двигатели, космические путешествия». Появляется парад вдохновляющих образов: альпинисты на вершинах, исследователи, спускающиеся в каньоны, ныряльщик, проплывающий сквозь косяк рыб.
Кадр: Безос находится в комнате управления во время запуска, настраивает гарнитуру. Его голос за кадром продолжает: «Это самая важная работа. И аргумент прост – у нас лучшая планета. Сейчас мы стоим перед выбором. По мере дальнейшего развития нам придется решать, хотим ли мы цивилизацию стазиса – нам придется ограничить численность населения, нам придется ограничить потребление энергии – или мы можем решить эту проблему, выйдя в космос»[579].
Звучит саундтрек, и образы дальнего космоса противопоставляются кадрам оживленных автострад Лос-Анджелеса и забитых перекрестков. Фон Браун сказал после лунной посадки: «Я научился использовать слово „невозможно“ с большой осторожностью». И я надеюсь, что вы, ребята, так же относитесь к своей жизни[580].
Сцена взята из рекламного ролика частной аэрокосмической компании Безоса Blue Origin. Девиз компании – Gradatim Ferociter, что в переводе с латыни означает «отважно, шаг за шагом». В ближайшей перспективе Blue Origin создает многоразовые ракеты и лунные посадочные аппараты, испытывая их в основном на своем предприятии и суборбитальной базе в Западном Техасе. К 2024 году компания хочет доставлять астронавтов и грузы на Луну[581]. Но в долгосрочной перспективе миссия компании гораздо более амбициозна: помочь приблизить будущее, чтобы миллионы людей смогли жить и работать в космосе. В частности, Безос рассказал о своих надеждах построить гигантские космические колонии, где люди будут жить в искусственной среде[582]. Тяжелая промышленность вообще переместится за пределы планеты, став новой границей для добычи полезных ископаемых. Тем временем Земля будет зонирована под жилые дома и легкую промышленность, оставаясь «прекрасным местом для жизни, прекрасным местом для посещения» – предположительно для тех, кто может позволить себе жить там, а не работать во внеземных колониях[583].
Безос обладает необычайной и растущей промышленной мощью. Amazon продолжает захватывать все большую часть американской онлайн-торговли, Amazon Web Services представляет почти половину индустрии облачных вычислений, и, по некоторым оценкам, на сайте Amazon осуществляется больше поисков товаров, чем в Google[584]