атов, стоящих в очередях".
Хотя в теории такое использование технологий похвально, оно вызывает очевидные опасения по поводу неприкосновенности частной жизни и чрезмерного вмешательства государства. В неумелых руках те же технологии, которые позволяют обнаруживать участников беспорядков, спасать пропавших детей и запрещать футбольных хулиганов, могут быть использованы для преследования мирных демонстрантов или принуждения к жесткому конформизму. В конечном итоге технология наблюдения с помощью ИИ может привести к созданию режимов тотальной слежки, которые будут круглосуточно контролировать граждан и способствовать новым видам вездесущих и автоматизированных тоталитарных репрессий. В качестве примера можно привести иранские законы о хиджабах.
После того как в 1979 году Иран стал исламской теократией, новый режим обязал женщин носить хиджаб. Однако иранской полиции нравов было трудно обеспечить соблюдение этого правила. Они не могли поставить полицейского на каждом углу, а публичные столкновения с женщинами, которые не носили хиджаб, периодически вызывали сопротивление и недовольство. В 2022 году Иран возложил большую часть работы по обеспечению соблюдения законов о хиджабах на общенациональную систему алгоритмов распознавания лиц, которая неустанно следит как за физическими пространствами, так и за онлайн-средой. Высокопоставленный иранский чиновник объяснил, что система "выявляет неуместные и необычные движения", включая "несоблюдение законов о хиджабах". Глава парламентского комитета по правовым и судебным вопросам Ирана Муса Газанфарабади в другом интервью заявил, что "использование камер с записью лиц может систематически выполнять эту задачу и сократить присутствие полиции, в результате чего больше не будет столкновений между полицией и гражданами".
Вскоре после этого, 16 сентября 2022 года, 22-летняя Махса Амини умерла в застенках иранской полиции нравов после того, как ее арестовали за то, что она не носила хиджаб должным образом. Поднялась волна протестов, известная как движение "Женщина, жизнь, свобода". Сотни тысяч женщин и девушек сняли головные платки, а некоторые публично сожгли свои хиджабы и танцевали вокруг костров. Чтобы подавить протесты, иранские власти вновь обратились к своей системе искусственного интеллекта, которая использует программы распознавания лиц, геолокацию, анализ веб-трафика и уже существующие базы данных. По всему Ирану было арестовано более 19 000 человек и более 500 убито.
8 апреля 2023 года начальник полиции Ирана объявил, что с 15 апреля 2023 года начнется новая интенсивная кампания, в рамках которой будут усиленно использоваться технологии распознавания лиц. В частности, алгоритмы отныне будут выявлять женщин, решивших не носить головной платок во время поездки в автомобиле, и автоматически отправлять им SMS-предупреждение. Если женщину поймают на повторном нарушении, ей будет приказано обездвижить свой автомобиль на заранее оговоренный срок, а если она не выполнит требования, автомобиль будет конфискован.
Два месяца спустя, 14 июня 2023 года, представитель иранской полиции похвастался, что автоматизированная система наблюдения отправила почти миллион SMS-сообщений с предупреждениями женщинам, которых запечатлели обнаженными в их личных автомобилях. По всей видимости, система была способна автоматически определить, что перед ней не мужчина, а обнаженная женщина, идентифицировать ее и узнать номер ее мобильного телефона. Кроме того, система "выдала 133 174 SMS-сообщения с требованием обездвижить автомобили на две недели, конфисковала 2 000 автомобилей и направила более 4 000 "рецидивистов" в судебные органы".
52-летняя женщина по имени Марьям поделилась с Amnesty International своим опытом работы с системой наблюдения. "В первый раз я получила предупреждение за то, что не носила платок за рулем, - я проезжала перекресток, когда камера сделала снимок, и я сразу же получила предупреждающее текстовое сообщение. Во второй раз я делала покупки, заносила сумки в машину, платок упал, и я получила сообщение о том, что из-за нарушения закона об обязательном ношении хиджаба моя машина подвергается "систематической конфискации" сроком на пятнадцать дней. Я не знала, что это значит. Я поспрашивала и через родственников узнала, что это означает, что я должна обездвижить свой автомобиль на пятнадцать дней". Показания Марьям свидетельствуют о том, что ИИ отправляет свои угрожающие сообщения в течение нескольких секунд, и у человека нет времени на то, чтобы просмотреть и утвердить процедуру.
Наказания выходили далеко за рамки обездвиживания или конфискации автомобилей. В отчете Amnesty от 26 июля 2023 года говорится, что в результате массовой слежки "бесчисленное количество женщин было отстранено или исключено из университетов, им запретили сдавать выпускные экзамены, лишили доступа к банковским услугам и общественному транспорту". Предприятия, которые не следили за соблюдением закона о хиджабе среди своих сотрудников или клиентов, также пострадали. В одном типичном случае сотрудница парка развлечений "Страна счастья" к востоку от Тегерана была сфотографирована без хиджаба, и это изображение распространилось в социальных сетях. В наказание "Страна счастья" была закрыта иранскими властями. В целом, по данным Amnesty, власти "закрыли сотни туристических объектов, отелей, ресторанов, аптек и торговых центров за несоблюдение законов об обязательном ношении хиджаба".
В сентябре 2023 года, в годовщину смерти Махсы Амини, парламент Ирана принял новый, более строгий закон о хиджабе. Согласно новому закону, женщины, не носящие хиджаб, могут быть наказаны крупными штрафами и тюремным заключением сроком до десяти лет. Им грозят дополнительные наказания, включая конфискацию автомобилей и средств связи, запрет на вождение, вычеты из зарплаты и пособий, увольнение с работы и запрет на доступ к банковским услугам. Владельцам бизнеса, не соблюдающим закон о хиджабе среди своих сотрудников или клиентов, грозит штраф в размере до трех месяцев от прибыли, а также запрет на выезд из страны и участие в общественной или онлайн-деятельности на срок до двух лет. Новый законопроект направлен не только против женщин, но и против мужчин, которые носят "откровенную одежду, демонстрирующую части тела ниже груди или выше лодыжек". Наконец, закон предписывает иранской полиции "создавать и укреплять системы искусственного интеллекта для выявления лиц, совершивших противоправное поведение, с помощью таких инструментов, как стационарные и мобильные камеры". В ближайшие годы многие люди, возможно, будут жить в условиях тотальной слежки, по сравнению с которой Румыния Чаушеску покажется либертарианской утопией.
РАЗНОВИДНОСТИ НАБЛЮДЕНИЯ
Говоря о слежке, мы обычно имеем в виду государственные аппараты, но чтобы понять, что такое слежка в XXI веке, следует помнить, что она может принимать и другие формы. Например, ревнивые партнеры всегда хотели знать, где находятся их супруги в каждый момент времени, и требовали объяснений за любое небольшое отклонение от привычного распорядка. Сегодня, вооружившись смартфоном и дешевым программным обеспечением, они могут легко установить супружескую диктатуру. Они могут контролировать каждый разговор и каждое движение, записывать телефонные разговоры, отслеживать сообщения в социальных сетях и поиск на веб-страницах и даже активировать камеры и микрофоны телефона супруга, чтобы он служил шпионским устройством. Американская организация National Network to End Domestic Violence обнаружила, что более половины домашних обидчиков используют подобные технологии "преследования". Даже в Нью-Йорке супруги могут оказаться под наблюдением и ограничениями, как если бы они жили в тоталитарном государстве.
Все больший процент сотрудников - от офисных работников до водителей грузовиков - также подвергаются слежке со стороны своих работодателей. Начальство может точно определить, где находятся сотрудники в любой момент, сколько времени они проводят в туалете, читают ли они личные письма на работе и как быстро выполняют каждое задание. Корпорации также следят за своими клиентами, желая знать, что им нравится и не нравится, предсказать будущее поведение, оценить риски и возможности. Например, автомобили следят за поведением своих водителей и передают полученные данные алгоритмам страховых компаний, которые повышают страховые взносы для "плохих водителей" и снижают для "хороших". Американский ученый Шошана Зубофф назвала эту постоянно расширяющуюся систему коммерческого мониторинга "капитализмом наблюдения".
Помимо всех этих разновидностей нисходящего наблюдения, существуют и одноранговые системы, в которых люди постоянно следят друг за другом. Например, корпорация Tripadvisor поддерживает всемирную систему наблюдения, которая следит за отелями, арендой жилья, ресторанами и туристами. В 2019 году ею пользовались 463 миллиона путешественников, которые просмотрели 859 миллионов отзывов и 8,6 миллиарда мест проживания, ресторанов и туристических достопримечательностей. Именно сами пользователи, а не какой-то сложный алгоритм искусственного интеллекта, определяют, стоит ли посетить тот или иной ресторан. Люди, которые ели в ресторане, могут оценить его по шкале от 1 до 5, а также добавить фотографии и письменные отзывы. Алгоритм Tripadvisor просто агрегирует данные, вычисляет средний балл ресторана, ранжирует его по сравнению с другими подобными заведениями и выставляет результаты на всеобщее обозрение.
Алгоритм одновременно оценивает и гостей. За публикацию отзывов или статей о путешествиях пользователи получают 100 баллов; за загрузку фотографий или видео - 30 баллов; за сообщения на форуме - 20 баллов; за оценку заведений - 5 баллов; за голосование за чужие отзывы - 1 балл. Затем пользователи ранжируются от 1-го (300 баллов) до 6-го (10 000 баллов) уровня и получают соответствующие привилегии. Пользователи, нарушающие правила системы - например, оставляющие расистские комментарии или пытающиеся шантажировать ресторан, написав необоснованный плохой отзыв, - могут быть наказаны или вовсе исключены из системы. Это и есть взаимное наблюдение. Каждый постоянно оценивает другого. Tripadvisor не нужно вкладывать деньги в камеры и шпионские программы или разрабатывать сверхсложные биометрические алгоритмы. Почти все данные предоставляются и почти всю работу выполняют миллионы пользователей-людей. Работа алгоритма Tripadvisor заключается лишь в агрегировании оценок, полученных людьми, и их публикации.