[113]. Что касается компании Microsoft, то она, согласно «Нью-Йорк таймс», в ответ на выводы Буоламвини заявила, будто инвестирует в исследования, призванные распознавать, понимать и устранять предвзятости[114]. (Подобно Amazon и IBM, Microsoft призвала правительство регулировать распознавание лиц, хотя при сегодняшней неэффективности Конгресса этот призыв выглядит как просто игра на публику.)
В целом эти алгоритмы, по-видимому, улучшаются. Национальный институт стандартов и технологий (NIST) как нерегулируемое государственное агентство по стандартизации при Министерстве торговли регулярно тестирует коммерчески доступные алгоритмы распознавания лиц. В 2018 году он оценил 127 алгоритмов от 39 разных разработчиков и обнаружил, что в совокупности они в 20 раз точнее, чем были в 2014 году[115].
В отчете это улучшение объясняется использованием сверточных нейронных сетей. В нем говорится, что распознавание лиц претерпело промышленную революцию, и алгоритмы становятся все более толерантными к изображениям низкого качества. Другими словами, по мере улучшения системы распознавания лиц растет ее способность точно идентифицировать людей по дефектным фотографиям. Дни, когда нам приходилось останавливаться и поворачиваться лицом к камере, чтобы она нас узнала, скоро покажутся таким же далеким прошлым, как эпоха дагерротипов, когда нужно было неподвижно позировать по десять минут.
Но общее улучшение все еще может маскировать малозаметные различия. Факт, что распознавание лиц стало более точным, не означает, что все алгоритмы одинаково хорошо определяют людей всех рас и полов. Оценка, опубликованная Национальным институтом стандартов и технологий в декабре 2019 года, показала, что все 189 коммерчески доступных алгоритмов от 99 фирм идентифицировали выходцев из Африки и Восточной Азии значительно хуже, чем европейцев. (Это не относится к алгоритмам, разработанным в Китае, которые показали низкий уровень ложноположительных результатов для восточных азиатов – это позволяет предположить, что обучение сети на широком спектре лиц может уменьшить расовый разрыв в ложной идентификации[116].)
Какие-то системы будут работать лучше остальных (хотя качество некоторых из них остается загадкой, например, Amazon не отправила программу Rekognition в NIST для тестирования). Однако без адекватных критериев и обязательных защитных правил ничто не заставит полицию выбрать менее предвзятый алгоритм, если он, например, дороже более предвзятого.
И даже если алгоритмы распознавания лиц будут все точнее определять каждую демографическую группу, их все равно можно использовать предвзято: например, непропорционально устанавливая их в небелых районах (как в наши дни некоторые агентства развертывают патрульные силы). Программа, которая успешно идентифицирует 99,8 % всех лиц, попавших в ее поле зрения, но в основном используется для идентификации темнокожих людей, становится просто очередным инструментом для увековечения расовых предубеждений. Как и любая другая технология, которая используется неправильно, распознавание лиц рискует усугубить, а не смягчить предрассудки общества. Это утверждение поднимает важный вопрос: а как его использовать правильно?
Возможно, наиболее узкая и конкретная цель полиции при распознавании лиц – это генерирование следственных зацепок. Департамент шерифа округа Вашингтон в Орегоне первым из всех правоохранительных органов Америки начал использовать Rekognition, инструмент распознавания лиц от компании Amazon. Согласно его веб-сайту, а также докладу старшего информационного аналитика Управления шерифа округа Вашингтон Криса Адзимы, представленному в мае 2019 года на конференции по полицейским технологиям, в этом департаменте не используют распознавание лиц для наблюдения за людьми, когда те занимаются обычными повседневными делами.
Департамент составил инструкцию, в которой прямо говорилось, что сотрудники не будут использовать эту технологию без законного обоснования, базирующегося на связи с преступлениями, что эта технология не будет применяться для ведения массовой слежки и что распознавание лиц не может использоваться для наблюдения за лицами или группами исключительно по причине их религиозной, политической или иной деятельности, защищенной конституцией. В инструкции также говорится, что результатами поиска по распознаванию лиц являются потенциальные зацепки, требующие дальнейшего расследования, и сами по себе эти результаты не могут считаться достаточным основанием[117].
Если подозреваемый попадает на камеру во время совершения того, что выглядит как преступная деятельность, офицер с одобрения начальников сравнивает его изображение с фотографиями преступников из базы данных, которая ведется с 2001 года. Фотография, с которой начинается расследование, может быть получена любым из множества способов: например, нападавший попал в кадр камеры слежения, или кто-то снял его на камеру мобильного телефона, или подозреваемый согласился, чтобы его сфотографировал полицейский, или его арестовали и сфотографировали, но он отказывается предоставить удостоверение личности. Проводить обыски разрешается только подготовленным офицерам.
За нарушение этой инструкции полагаются штрафы – своего рода дисциплина по обстоятельствам. Все запросы на выполнение поиска подлежат аудиту, а фотографии, к которым не нашлось совпадений, хранятся в течение года и затем удаляются с сервера. Для инструкции по пользованию системой распознавания лиц это неплохо, но на самом деле не так уж и хорошо. Наказания расплывчаты, и – при самых благих намерениях и самом внимательном подходе – округ все-таки создает базу данных, которую впоследствии кто-то сможет использовать в более широких и не столь филантропических целях.
На той же конференции, где Адзима представил свой доклад, я познакомился с Дэниелом Стивзом, начальником информационной службы в полицейском управлении Оттавы. Бородатый, рассудительный, мягкий и ироничный, он воплощает в себе все, чего можно ожидать от старшего офицера канадской полиции. Его департамент запустил такую же пилотную программу, какую тестировали в округе Вашингтон: двадцать пять сотрудников отдела по расследованию ограблений прошли обучение, а затем им дали доступ к базе данных и разрешили просматривать изображения людей, снятых камерами наблюдения во время деятельности, которая выглядела преступной – Стивз упомянул кражи в винных магазинах и на заправках.
«Не будь системы распознавания лиц, – объяснил Стивз, – какой-нибудь офицер разослал бы электронное письмо с текстом: кто-нибудь узнает этого парня? В итоге на изображение, которое должны видеть всего три сотрудника, смотрели бы две тысячи человек». Он указал на проблемы конфиденциальности, связанные с этой распространенной практикой, и добавил: на ручной поиск в базе фотографий преступников, в которой содержится пятьдесят тысяч изображений, могут уйти несколько недель. Программа распознавания лиц выдала возможные совпадения за считаные секунды.
«Однако это ускорение идентификации подозреваемых создало другую проблему, – отметил Стивз. – Теперь нужно выделить сотрудника, который задержит подозреваемого или разберется в ситуации. Когда идентификация пошла так быстро, полицейские обнаружили, что не выдерживают этого темпа из-за недостатка офицеров, способных тут же выйти и произвести арест. Как выяснилось, мы определяем лица с такой скоростью, что у нас не хватает офицеров для оперативного реагирования». Он также сказал, что распознавание лиц позволяет полиции быстро выявлять серийных преступников и убирать их с улицы, прежде чем они совершат новые преступления.
В статье, опубликованной в «Нью-Йорк таймс» 9 июня 2019 года, комиссар Управления полиции Нью-Йорка Джеймс О’Нил подробно рассказал, как его департамент использовал распознавание лиц – результаты были примерно те же, что и у вашингтонских шерифов и полиции Оттавы. Возможные совпадения здесь рассматривают как зацепку, сравнимую со звонком на горячую линию. Как бы убедительно ни звучала информация, ее необходимо проверить, чтобы обеспечить достаточное основание для ареста. В руководстве для патрульных полицейских Нью-Йорка, опубликованном в марте следующего года, сказано нечто похожее: «Процесс распознавания лиц сам по себе не устанавливает достаточного основания для ареста или получения ордера на обыск, но он может генерировать следственные зацепки с помощью комбинации автоматизированных биометрических сравнений и анализа, выполняемого человеком». По словам О’Нила, в 2018 году Отдел идентификации лиц выполнил по запросам расследователей 7024 поиска по базе данных, что привело к 1851 возможному совпадению и 998 арестам[118].
О’Нил утверждает, что, помимо всего прочего, программное обеспечение для распознавания лиц снимало с людей подозрения. При этом он не приводит никаких примеров, только пару оптимистичных логических заключений: распознавание лиц снизит вероятность осуждения невиновных, поскольку, согласно команде проекта Innocence, которая добивается оправдания жертв судебных ошибок, 71 % документально подтвержденных ложных обвинений вытекает из ошибок свидетелей при опознании.
Прежде всего, нынешняя точная скорость распознавания лиц, особенно небелых, показывает, что все это будет функционировать не так идеально. Во-вторых, О’Нил описывает эту технологию слишком противоречиво. С одной стороны, распознавание лиц – всего лишь зацепка, ничем не отличающаяся от звонка бдительного гражданина. Но при этом она настолько мощная и точная, что с ее помощью можно снимать подозрение с невиновных. Эта формулировка неявно подразумевает, что полицейские должны скептически относиться к подтверждающим доказательствам, но принимать доказательства, которые противоречат их же собственным выводам… На самом деле человеческая природа устроена совсем не так.