Предиктивные системы позволяют устанавливать горячие локации и места наиболее возможного совершения преступлений, а также давать полицейским на земле наводки на конкретных лиц, вовлеченных в организованную преступность, которые осуществляют действия, интерпретируемые как подготовка к преступлению. Такие системы, как правило, используют в качестве исходного сырья больших данных разноформатные данные – тексты, видео, аудио, данные по транзакциям и т. п., -которые обрабатываются в единой интегрированной среде.
В то же время этот софт не свободен от недостатков. Главными из них является эффект «порочных кругов или самосбывающихся пророчеств». Программы ориентируют полицию на районы, подвергающиеся максимальному риску. Полиция усиливает патрулирование этих районов, выявляет больше преступлений и соответственно система на следующем уровне еще более определенно показывает на те же самые районы. Таким образом, одним районам уделяется практически все внимание, а в других, лишенных полицейского присмотра, создаются условиях для правонарушений.
Кроме того, в Соединенных Штатах меньшинства пытаются затормозить использование предиктивного полицейского софта по причине тирании алгоритма, который опираясь на данные о прошлом, дает прогнозы о будущем. В этой связи ранее уже указывалось, что при отсутствии предиктивной аналитики любые попытки полиции обвинить в возможном преступлении представителя меньшинств, сразу получают отпор как проявление фашизма, расизма, предвзятости и т. п. Полицейские, не желая втягиваться в длительные процессы по превышению полномочий или возможной предвзятости, все чаще игнорируют мелкие преступления и оставляют преступников безнаказанными. Машину обвинить в предвзятости невозможно. Соответственно, внедрение предиктивного софта резко повышает не только качество полицейской работы, но и независимость полицейских от, как правило, неадекватного общественного мнения. По сути, это – не общественное мнение, а специфический вид лоббизма.
По мнению экспертов ЕС, поскольку в Европе проблема меньшинств стоит, возможно, даже острее, чем в Соединенных Штатах, надо быть заранее готовым к конфликту с гражданскими активистами на этой почве. Желательно закрепить нормы использования предиктивного полицейского софта непосредственно в законодательстве. В противном случае у европейской полиции никогда не будет этого мощнейшего инструмента борьбы с организованной преступностью.
В отличие от судебных работников, полицейские вместе с сотрудниками разведывательных служб являются энтузиастами и заинтересованными эксплуатантами больших данных и ИИ. Поскольку компании-производители не только видят большой интерес полиции к системе ИИ, но и активно привлекаются ей для решения конкретных задач, именно в сфере полиции действуют сегодня наиболее эффективные платформы ИИ.
Помимо уже упомянутого Palantir, необходимо отметить используемую полицией Великобритании платформу ИИ Connect. Эта платформа в режиме реального времени аккумулирует миллиарды транзакций, осуществляемых в банках, находящихся под юрисдикцией Британской короны, и на основе нейронных сетей распознает среди них транзакции и цепочки, которые могут указывать на подготовку или уже совершившиеся преступления. Не только британские полицейские, но и полицейские других стран, получающие время от времени доступ к системе называют ее лучшим инструментом для поддержки финансовых расследований в мире. Эта система реализует важнейший принцип деятельности любого опытного полицейского – хочешь найти преступника, иди по следам его денег.
Также высокую оценку со стороны полицейских получила международная база данных по сексуальной эксплуатации детей, управляемая Интерполом. Она помогает идентифицировать жертв и преступников, в том числе путем распознавания предметов, выявленных на фотографиях и видеоизображениях, и даже использовать для поиска преступников фоновые шумы в видеороликах.
Эти две системы показывают, что при наличии заинтересованности уже достигнутый уровень развития ИИ позволяет создавать софт, оказывающий значительную помощь полицейской работе в режиме реального времени. Причем, этот софт, имеющий мощный графический интерфейс, понятен и дружественен для пользователей на земле – патрульных машинах и т. п.
Представляется, что еще одним фактором, обеспечивающим триумф предсказательного софта в полиции, стало следующее обстоятельство. В подавляющем большинстве стран уже более 10 лет происходит сокращение бюджетов правоохранительных органов. Перед полицией, особенно на низовом уровне, во весь роста встала проблема сохранения высокой эффективности работы при снижении уровня ассигнований. Хорошо известно, что профилактика и предотвращение преступлений в подавляющем большинстве случаев эффективнее и дешевле, чем их расследование. Соответственно полиция с большей охотой занимается пресечением деятельности преступников на стадии подготовки правонарушения. При этом судебная система охотнее имеет дело с судебными спорами относительно уже совершенных преступлений. В подавляющем большинстве стран отсутствуют правовые нормы, связанные с серьезным наказанием за подготовку преступления. Это порождает в последние годы коллизии, когда во все возрастающем числе случаев люди, относительно которых полиция собрала неопровержимые доказательства по подготовке преступления, в конечном счете, избегают судебного наказания, поскольку судебные нормы ориентированы на уже совершенные, а не готовящиеся преступления.
По мнению экспертов ЕС, необходимо на уровне Европейской Комиссии начать дискуссию о целесообразности совершенствования европейского законодательства с упором на предотвращение, а не наказание преступлений. Если подобного рода дискуссию не провести, и не осуществить соответствующие меры, то зазор между деятельностью полиции и работой правоохранителей будет из года в год увеличиваться.
На сегодняшний день в Европе предиктивная аналитика в уголовных процессах, по сути, игнорируется судьями. В 2012 г. Кембриджский университет по собственной инициативе разработал и предоставил в распоряжение судебных работников и полиции инструменты оценки риска повторных преступлений, так называемый HART. Исследования, проведенные в 2013–2017 гг., показали, что для низкоуровневой уличной преступности HART дает правильные прогнозы в 98 % случаев, а применительно к компьютерной и другой высокоуровневой преступности во впечатляющих 88 % случаев. Система в течение трех месяцев после освобождения из мест заключения дает прогноз рецидива на ближайшие два года. Достигнутые результаты поражают, поскольку не имеют аналогов в мире. Поэтому британские и голландские правоохранительные органы вовсю используют HART и надеются, что в ближайшем будущем повышенное внимание к лицам высокой группы риска удержит последних от новых преступлений. При этом судьи, в том числе и британские, отказались использовать HART как консультанта при вынесении приговоров. Общая позиция судей состоит в том, что правосудие слишком серьезный предмет, чтобы допускать в эту сферу ИИ.
HART – это единственный прогностический инструмент, используемый в настоящее время в Европе. Анализ показал, что ни в одной стране, кроме Франции в настоящий момент нет планов разработать мощный предиктивный инструмент, ориентированный на уголовные расследования. Есть основания полагать, что государства-члены ЕС уже в ближайшие годы будут все более и более отставать от Соединенных Штатов и Китая. В самой же Европе лишь три страны, ориентированные в основном на Соединенные Штаты, будут стараться реализовать прогностический уголовный софт. Это – Голландия, Латвия и Эстония, которые в основном будут использовать зарубежные разработки.
В 2018 г. в Соединенных Штатах имел место скандал, когда неправительственная организация Propublica раскрыла дискриминационный эффект алгоритма, используемого в программном обеспечении Compas. Целью софта является оценка риска рецидива на стадии, когда судья выносит приговор для отдельного лица. Аргумент противников системы состоял в том, что в алгоритм заложена гораздо большая вероятность рецидива для афроамериканцев и латинос, в том числе недавно получивших гражданство. В отличие от Европы, компания-разработчик софта совместно с Министерством юстиции США и правоохранительными органами заняли жесткую и неуступчивую позицию в дискуссии с активистами. Они сделали доступными для общественности все шаги алгоритма, вычисляющего коэффициент, и показали, что конечные значения риска зависят не от какой-то идеологической или иной дискриминации, а базируются исключительно на фактическом положении дел. Активистов же, превратившихся в лоббистов, общественное мнение, благодаря прессе, обвинило в попытках манипуляции американскими ценностями для того, чтобы сделать фактически неравным правосудие, создав преимущества для афроамериканцев и латинос в ущерб белым американцам.
§ 14. Проблемы использования прогнозов в уголовных делах
Как уже отмечалось, использование прогнозного инструментария в Европе заметно и все более отстает от ситуации в Северной Америке и странах Британского Содружества наций. Также установлено, что как сама полиция, так и общество гораздо активнее выступают и используют предиктивный полицейский софт в сравнении с судьями, в том числе с судьями в уголовных процессах.
Общеевропейской позицией является сегодня констатация, что ИИ дает огромные возможности полиции, но содержит и реальные риски, если ИИ используется без необходимых мер предосторожности и ограничений. Согласно результатам опроса парламентариев в девяти странах Европейского Союза, более 78 % из них активно ратуют за широкое использование предиктивного полицейского софта, особенно нацеленного на предупреждение преступлений. В то же время лишь 15 % опрошенных поддержали использование ИИ в судебной сфере, за исключением нормализации электронного документооборота, за который выступают все.
В комментариях высказывалась точка зрения, что в полиции использование ИИ нет альтернативы хотя бы потому, что это уже активно делает криминал. Что же касается судебной сферы, то здесь главное – обеспечить равенство сторон. На во