[15]. Некоторые из них получены от людей, осужденных за преступления, а другие – от тех, кто просто был арестован или допрошен. Одному 12-летнему мальчику, которого привезли на допрос, полицейские предложили газировку, а затем сняли с соломки образец его ДНК и занесли в свою базу данных. То же самое они проделывали с бутылками из-под воды и сигаретами, которые использовали и потом выбрасывали подозреваемые. Необычной эту практику не назвать: по меньшей мере в тридцати штатах есть аналогичные базы данных с записями, собранными аналогичным образом, часто без согласия людей.
Закон штата Нью-Йорк требует, чтобы в центральную базу данных штата вносили ДНК только тех, кто уже осужден. Но этот закон не распространяется на города. Есть ли в этом смысл? Какими вообще должны быть требования закона, когда речь заходит о сборе правительствами генетических баз данных? Какой контроль мы должны иметь над собственным генетическим и биометрическим материалом и над тем, когда государство может собирать такие данные, кто может их видеть и с какой целью? В настоящее время у нас фактически нет никакого контроля.
Технологии меняются быстрее законов. Это описательное утверждение, но оно довольно близко к тому, чтобы стать нормативным. Закон не должен допускать произвольных трактовок. Инновации не должны быть громоздкими или зависимыми от судебных решений. Однако сегодня неприкосновенность частной жизни оказалась в такой опасности, от которой не защититься с помощью допотопных правил и законов, разработанных еще в эпоху дисковых телефонов и бумажных писем.
Нам нужно задуматься над тем, что означает конфиденциальность во времена постоянной слежки. Над тем, что есть разумное ожидание конфиденциальности, особенно в общественных местах. Например, вы вряд ли будете возражать против того, чтобы вас случайно сняла камера видеонаблюдения, которую магазин направил на входную дверь, когда вы быстро проходили мимо по дороге на работу. А если эта камера вдруг направится именно на вас, а после нее – следующая, и та, что через улицу, и те, что в следующем квартале? Каждая будет делать то же самое, что и первая: фиксировать ваше изображение, пока вы находитесь в общественном месте. Но, в отличие от одиночной случайной камеры, теперь мы видим другой масштаб и другую цель, а это уже вызывает возражения.
Наконец, подумайте, как любая новая форма технологии ставит под угрозу равенство и справедливость или, наоборот, способствует им.
Начните с алгоритмов прогностической работы полиции, которые предсказывают, где могут быть совершены преступления, и инструментов досудебной оценки риска, которые определяют, будет ли человек освобожден или задержан до суда. Ожидается, что эти алгоритмы могут, кроме прочего, устранять или хотя бы уменьшать системную предвзятость. Например, многоопытный капитан полиции, у которого сознательно или бессознательно сложились предвзятые суждения о конкретной расовой группе, обычно назначает офицеров для патрулирования района, где эта группа чрезмерно представлена. Или судья, у которого за десятки лет, проведенных перед скамьей подсудимых, сформировалось подобное стойкое предубеждение, привычно решает судьбу члена той же самой группы, однако теперь департамент полиции и суд будут использовать анализ данных, чтобы принимать менее предвзятые решения.
PredPol, одна из ведущих компаний в области полицейского прогнозирования, заявляет, что ее алгоритм использует только три наиболее объективные опорные точки: тип преступления, место преступления, дата и время преступления[16]. Конкурент PredPol под названием ShotSpotter Missions (пока его не купил ShotSpotter, он назывался HunchLab) утверждает, что его алгоритм не использует личную информацию для создания прогнозов. Он анализирует исторические данные о преступности на соответствующей территории, звонки в службу поддержки, день и время (преступность обычно выше по вечерам и в выходные), предстоящие события (например, назначенные концерты или спортивные мероприятия, из-за которых на одной и той же улице могут одновременно скапливаться толпы людей, возможно, находящихся в состоянии алкогольного опьянения), и факторы окружающей среды (например, плотность баров и клубов в данном районе)[17].
Но исторические данные о преступности не дают объективной картины всех преступлений, совершенных в городе, – это список всех преступлений, зарегистрированных полицией. Если определенные районы – в первую очередь, бедные и полиэтнические – находятся под чрезмерной опекой полиции, а некоторые законы применяются предвзято (например, афроамериканцев арестовывают за преступления, связанные с марихуаной, в девять раз чаще, чем белых, несмотря на одинаковые уровни употребления), то использование таких данных в алгоритме увековечит эти предубеждения под маской объективности.
Схемы арестов, порожденные расовой предвзятостью, подсказывают, куда нужно направлять полицию для выявления новых преступлений. В своей выдающейся книге «Убийственные большие данные»[18] Кэти О’Нил называет это гибельной петлей обратной связи, в которой контроль сам по себе порождает новые данные, оправдывающие усиление контроля. Это перекликается со знаменитым эффектом уличного фонаря, когда пьяница ищет потерянные ключи под фонарем не потому, что там их выронил – там светлее. Но здесь речь идет о преступности и расе, а не о потерянных пьяницей ключах.
Или возьмем хорошо известную проблему распознавания лиц с идентификацией темнокожих людей. В 2018 году ACLU, используя Rekognition, общедоступный инструмент Amazon для распознавания лиц, собрал из открытых источников в одну базу данных 25 000 фотографий арестантов. После этого исследователи прогнали через эту базу фотографии всех действующих членов Конгресса, и программа ошибочно идентифицировала двадцать восемь из них как преступников. Целых 40 % из этих двадцати восьми были цветными[19]. Для Amazon это был конфуз, но в реальном мире такая ошибка могла иметь фатальные последствия.
Так что же делать обеспокоенному гражданину? Должны ли мы настаивать на национальном и государственном запрете распознавания лиц, алгоритмов уголовного правосудия и других новых технологий – по той причине, что они несоразмерно угрожают гражданским свободам цветных людей? Это было бы целесообразно, но вряд ли дело зайдет так далеко: возможно, в более либеральных городах и штатах запреты и введут, но в других местах цветные граждане останутся незащищенными. И проблема не в технологии. Проблема – это не устраненная расовая предвзятость в системе уголовного правосудия, и мы рискуем усугубить ее, если притворимся, что технология способна по мановению волшебной палочки стать расово нейтральной, в то время как методы и данные, на которых она основана, никогда таковыми не были.
В любой гуманной правовой системе заложено противоречие. С одной стороны, мы хотим, чтобы законы применялись справедливо и объективно. Когда одному человеку сходит с рук то, за что наказывают другого, это оскорбляет наше чувство справедливости. С другой стороны, нам нужно какое-то пространство для неповиновения. Переход улицы в неположенном месте – это правонарушение, но обязательно ли штрафовать каждого, кто хотя бы раз пересекает проезжую часть вдали от пешеходного перехода? Это было бы справедливо, но бесчеловечно. Мы хотим иметь возможность игнорировать некоторые правила на свой страх и риск, при условии, что это не причиняет никому вреда. И нам нужна мера понимания, когда мы их нарушаем, например, не всегда штраф, а временами только предупреждение, если полицейский останавливает нас за превышение скорости.
Возникающие сегодня технологии, которые собирают и хранят больше информации о большем количестве людей с меньшими усилиями, чем когда-либо в истории человечества, ставят под угрозу именно это пространство для неповиновения. Есть риск, что они создадут общество, в котором все на виду, все наказывается и ничто не забывается. Я не хочу жить в таком мире и сомневаюсь, что этого хотите вы. В наших силах предотвратить его появление.
Как это сделать? Начнем вот так: воспользуемся нашей свободой слова, чтобы публично выступать против беспрепятственного использования технологий слежения. Будем пользоваться правом на создание ассоциаций, чтобы находить и организовывать других людей, которые думают так же. Будем использовать свободу собраний, чтобы появляться на заседаниях городских и окружных советов и требовать от местных властей, а в итоге и от федерального правительства, точных объяснений: какую технологию они хотят взять на вооружение, почему именно эту и каким образом. Мы требуем, чтобы они написали правила применения технологий, прежде чем открыть первую коробку с любым новым гаджетом. Мы требуем, чтобы они регулярно и публично отчитывались о том, что именно используется, когда и в каких целях. И мы требуем принять меры для защиты наших данных. Нужно, чтобы они хранились ответственно. Необходимы гарантии, что доступ к данным есть только у тех, кто имеет законные основания их видеть. Наконец, данные должны удаляться как можно быстрее, особенно если нас не обвиняли или не подозревали в совершении преступления.
Эта задача может показаться сложной. Многие люди, в частности многие белые представители среднего класса, у которых, как правило, нет таких же напряженных отношений с полицией, как у цветных, привыкли относиться к правоохранительным органам с почтением и не задавать трудных вопросов. Немногие из нас ходят на заседания городского или окружного совета. Я понимаю: мы заняты, и по вечерам нам трудно находить время для встреч, посвященных разрешениям, законам о зонировании и дорожной полиции. Возможно, мы считаем такие занятия скучными и местечковыми, предпочитаем смотреть общенациональные новости или активничать на более важных площадках. Но большинство полицейских сил контролируются и управляются именно на местном уровне, а потому реагируют на местную политику и проблемы. Итак, первый шаг к обузданию государственной слежки – это проявиться и подать голос.