.
По окончании пандемии коронавируса противоречия между Соединенными Штатами и Китаем значительно усилились. Широко распространилось понимание того, что чрезмерная зависимость от китайского производства может угрожать доступу США к принципиально важному стратегическому сырью, а также медицинским расходникам и лекарствам. Еще до кризиса было ясно, что экономическая синергия и взаимозависимость этих двух стран — явление, которое историк Ниал Фергюсон назвал в 2006 году «Кимерикой», — постепенно разрушается. Если противоречия обострятся и отдаление двух стран продолжится, определяющими факторами этого процесса неизбежно станут конфликт и конкуренция в сфере создания и использования искусственного интеллекта. По мере углубления понимания того, что ИИ является системной и стратегической технологией, перспектива полномасштабной гонки Китая и США приобретает характер реальной опасности.
Запад начинает споры вокруг проблемы распознавания лиц
В феврале 2019 года полиция штата Индиана расследовала преступление, совершенное во время драки двух мужчин в парке. Один из подравшихся выхватил пистолет, выстрелил другому в живот и скрылся. Поскольку прохожий заснял случившееся на мобильный телефон, детективы полиции штата решили загрузить фотографию преступника в новую систему распознавания лиц, с которой экспериментировали. Система сразу же нашла совпадение — стрелок обнаружился на видео, выложенном в соцсети вместе с текстом, где упоминалось его имя. В общем, дело было раскрыто за 20 минут, несмотря на то что подозреваемый прежде не подвергался аресту и даже не имел водительских прав[277].
Сотрудники полиции подключались к системе распознавания лиц через мобильное приложение, предоставленное таинственной компанией Clearview AI. База фотографий, доступных приложению Clearview, была огромной. Вместо использования официальных фотографий из документов, например паспортов, водительских прав или полицейских ориентировок, компания просто прочесала интернет и проанализировала выложенные в свободный доступ фотографии из разных источников, в том числе из Facebook, YouTube и Twitter. Если система Clearview находила совпадение, приложение показывало ссылки на интернет-страницы или профили в социальных сетях, где было выложено соответствующее фото, что во многих случаях позволяло провести идентификацию мгновенно. Массив данных, собранных Clearview, включал около 3 млрд изображений — в семь с лишним раз больше официальной базы фотографий граждан США, принадлежащей ФБР. Это поразительно, особенно с учетом того, что Clearview AI — крохотная компания, не идущая ни в какое сравнение с китайскими «единорогами», занимающимися распознаванием лиц, и до января 2020 года о ней никто не слышал, кроме правоохранительных органов[278].
В том месяце The New York Times опубликовала большое журналистское расследование Кашмира Хилла, репортера, пишущего о технологиях, который изучил предысторию компании и впервые пролил свет на ее деятельность. Как выяснилось, компанию Clearview, указавшую на странице в LinkedIn несуществующий нью-йоркский адрес, основал в 2016 году австралийский серийный предприниматель Хоан Тон-Тат. Наряду с другими инвестициями стартап получил $200 000 от венчурного капиталиста из Кремниевой долины Питера Тиля, сооснователя Palantir — компании, занимающейся анализом данных и слежением и имеющей прочные связи с органами безопасности и полицией.
Clearview утверждала, что предоставляет доступ к своей технологии только правоохранительным органам и государственным службам безопасности. Теоретически, однако, ничто не мешало компании со временем сделать свою систему доступной для широкой публики, что грозит почти полной утратой анонимности. Если бы эта технология стала общедоступной, любой человек, пользующийся приложением Clearview, мог бы мгновенно идентифицировать практически кого угодно и когда угодно. Зная имя человека, ничего не стоило бы найти его домашний адрес, место работы и любую другую конфиденциальную информацию. Неизбежным результатом стал бы всплеск преследований, шантажа и публичного шельмования практически за любую неосторожность, а также бесчисленные другие злоупотребления. Иными словами, американский частный сектор вполне способен создать антиутопию вездесущего наблюдения — в потенциале похлеще, чем все замышляемое в Китае, — без какого бы то ни было участия или контроля властей. Некоторых спонсоров Clearview AI такая опасность, похоже, совершенно не пугает. «Я пришел к выводу, что из-за постоянного увеличения объема информации никакой частной жизни скоро не останется, — сказал The New York Times один из первых инвесторов компании. — Законы должны устанавливать, что легально, но запретить технологию невозможно. Разумеется, результатом может стать антиутопическое будущее, но этого не запретить»[279].
Статья в The New York Times вызвала волну споров вокруг компании, а также привлекла внимание хакеров, которым удалось взломать серверы Clearview и получить полный список ее платных клиентов, а также потенциальных заказчиков, пользовавшихся 30-дневной бесплатной пробной версией приложения. Оказалось, в число пользователей Clearview входили важнейшие агентства, в том числе ФБР, Интерпол, Служба иммиграционного и таможенного контроля и офис прокурора Южного района Нью-Йорка, а также сотни управлений полиции по всему миру. Несмотря на заявления компании, что она работает только с официальными правоохранительными органами, приложение использовалось частными компаниями, включая Best Buy, Macy’s, Rite Aid и Walmart. Более того, есть подозрение, что работники предприятий частного сектора используют приложение без санкции работодателей. Расследование BuzzFeed показало, что пять аккаунтов, связанных с Home Depot, выполнили почти 100 поисковых операций с помощью этого приложения, хотя руководство Home Depot заявило, что ничего об этом не знает[280]. Иначе говоря, доступ к технологии уже просачивается в более широкое публичное пространство.
Обнародование этих фактов вызвало немедленную реакцию. В течение нескольких недель Twitter, Facebook и Google направили компании требования прекратить противоправную деятельность — остановить сбор фотографий на их серверах и немедленно удалить изображения, уже попавшие в базу данных[281]. В конце февраля Apple заблокировала приложение Clearview для iPhone, поскольку компания нарушила пользовательское соглашение с Apple, обойдя App Store[282]. Вскоре после этого Clearview объявила, что аннулирует все лицензионные соглашения с частными компаниями и ограничится взаимодействием с правоохранительными ведомствами, но эта мера многим показалась неэффективной. В мае Американский союз защиты гражданских свобод (American Civil Liberties Union, ACLU) подал иск против Clearview, утверждая, что ее технология представляет собой «кошмарный сценарий», который «покончит с частной жизнью, какой мы ее знаем, если эту компанию не остановить»[283]. Clearview продолжает работать и утверждает, что она уверена в своем праве прочесывать интернет в поисках фотографий и готова в суде бороться с соцсетями за этот доступ.
Случай с Clearview AI — важное предостережение в отношении не только распознавания лиц, но и искусственного интеллекта в целом. Используя подобную технологию с уникальными возможностями, крохотная кучка специалистов — а то и один человек — способна дестабилизировать социальную или экономическую жизнь практически в невообразимых масштабах, и, как будет показано в следующей главе, такие риски создаются не только технологиями слежения на основе ИИ.
Учитывая масштабы возмущения действиями Clearview, ее амбиции, скорее всего, удастся обуздать. В целом, однако, распространение систем распознавания лиц в западных странах стремительно растет. Демократические общества должны как можно скорее выработать компромисс с учетом ценности и решить этические вопросы, сопутствующие использованию этой технологии. В Лондоне — сегодня он рекордсмен по наблюдению за гражданами среди городов западного мира, имеющий больше камер видеонаблюдения на душу населения, чем Пекин[284], — системы распознавания лиц устанавливаются с начала 2020 года. По утверждению лондонской полиции, они предназначены исключительно для обнаружения людей из «специального» списка, которые разыскиваются за серьезные преступления. Однако систему также можно использовать для поиска пропавших детей и взрослых[285].
В Соединенных Штатах около четверти управлений полиции имеют доступ к технологии распознавания лиц. Системы распознавания лиц также широко применяются в аэропортах, где ищут известных террористов или преступников, и все чаще используются для установления личности в ходе проверки безопасности. В большинстве случаев, например в лондонской системе, эта технология идентифицирует лишь тех, кто входит в специальные списки разыскиваемых лиц. Однако мы маленькими шажками подходим все ближе и ближе к тотальному проникновению в частную жизнь, ознаменованному приложением Clearview, когда идентифицировать можно практически любого. ФБР имеет базу, содержащую, согласно анализу Центра приватности и технологий Школы права Джорджтаунского университета, снимки около 117 млн человек — примерно половины взрослого населения Соединенных Штатов[286]. Большинство из них — это фотографии на водительские права, выдаваемые властями штатов, то есть в базу включены все жители, которые получали удостоверения личности, а не только те, кого разыскивают за преступления. Разумеется, согласие людей на включение их фотографий в базу данных не требуется, а добиться исключения из системы невозможно.