15. Одно исследование показало невероятно высокий уровень ложноположительных результатов (60 % для мужчин, 49 % для женщин) у пациентов, которые регулярно сдают анализы на рак простаты, легких, кишечника и яичников. Одна рабочая группа в своих выводах даже настаивает на том, что повсеместное тестирование здоровых женщин на рак яичников должно быть прекращено, поскольку начинать обследование с него неэффективно, а высокий уровень ложноположительных результатов приносит слишком большому числу женщин «неоправданный вред, например, в виде хирургического вмешательства».
Один из наиболее показательных примеров разрушительных последствий, вызванных ложноположительными заключениями, – недавний случай в сфере компьютерной безопасности, то есть в той самой области, где работает Кормак Херли. В 2010 году антивирусная программа McAfee обнаружила вредоносный файл на огромном количестве компьютеров под управлением операционной системы Microsoft Windows. Антивирус тут же атаковал этот подозрительный файл и либо его удалил, либо поместил на карантин (в зависимости от настроек программы). Но проблема заключалась в том, что этот файл не был вредоносным, на самом деле он являлся важным компонентом системы запуска Windows. Атаковав здоровый файл, антивирус заставил «миллионы компьютеров постоянно перезагружаться»16, рассказывает Херли.
Как нигерийские аферисты могут уменьшить число ложноположительных случаев в своей деятельности?
Применив свои математические и компьютерные познания, Херли смоделировал эту задачу. По ходу работы он также обнаружил самую ценную для аферистов характеристику потенциальной жертвы: доверчивость. В конце концов, нужно действительно быть крайне легковерным, чтобы отправить несколько тысяч долларов незнакомым людям на другом континенте на основании неуклюжего письма о сказочных богатствах.
Как может мошенник, глядя на список адресов электронной почты, определить, кто из их владельцев доверчив, а кто нет? Никак. Доверчивость в данном случае недоступна наблюдению. Но, понял Херли, мошенник может заставить легковерных адресатов обнаружить себя. Каким образом?
Путем рассылки таких нелепых писем, где явно упомянута Нигерия. Только самый доверчивый человек воспримет послание серьезно. Каждый, у кого есть хоть крупица разума или опыта, немедленно отправит такое письмо в корзину. «Мошенники хотят найти тех, кто еще не слышал о них, – объясняет Херли. – Они хотят поговорить с тем, кто не свалится со стула от смеха, читая их письмо».
Вот что пишет Херли в своей статье: «Цель электронного письма не столько в том, чтобы привлечь подходящих клиентов, сколько в том, чтобы отпугнуть неподходящих, которых гораздо больше… Письмо, составленное менее несуразно, без упоминания Нигерии, наверняка найдет больший отклик у получателей, но снизит прибыль… Кто-то вначале поддастся на обман, но потом догадается, в чем суть дела, кто-то откажется платить в последний момент – все это ложные срабатывания, которых мошенник старается избежать».
Если на первый взгляд нигерийские аферисты показались вам глупыми, то сейчас вслед за Кормаком Херли вы убедились, что это именно та глупость, к которой всем нам нужно стремиться. Их несуразные письма на самом деле прекрасное средство для того, чтобы огромный сад интернет-пользователей прополол себя сам.
Но эти люди – мошенники и воры. Можно восхищаться их методами, тем не менее их цели порочны. И вот теперь, когда мы понимаем механизм аферы, есть ли возможность использовать их способы против них же самих?
Херли уверен, что это осуществимо. Он с одобрением упоминает небольшое онлайн-сообщество «глотателей наживки», которые целенаправленно вступают в занудную переписку с нигерийскими мошенниками. «Они занимаются этим больше ради развлечения», – отмечает Херли. Он же хочет расширить деятельность таких активистов с помощью автоматизации. «Нужно создать чатбот – компьютерную программу, которая может общаться. Похожие программы уже есть, например чатбот, который ведет психотерапевтические беседы17. Надо заставить мошенников на другом конце провода почаще шевелиться. Вовсе не обязательно, что это выльется в 20 писем по электронной почте, но будет здорово, если им придется побольше напрягаться».
Другими словами, Херли хочет видеть умного программиста, притворяющегося глупцом, чтобы перехитрить умного мошенника, который тоже прикидывается глупым, чтобы найти себе жертву, может, и не глупую, но крайне доверчивую.
Чатбот Херли заставит всю систему мошенников работать с перегрузкой за счет ложноположительных случаев и тем самым затруднит для них выбор реальной жертвы. Вы можете представить это как ковровую бомбардировку сада аферистов миллионами семян сорняков.
Мы тоже считаем, что иногда нужно нападать на плохих парней до того, как они смогут сами напасть на ни в чем не повинных людей.
В «Суперфрикономике», опубликованной в 2009 году, мы описали алгоритм, который был нами разработан совместно с сотрудниками отдела по борьбе с мошенничеством одного крупного британского банка. Алгоритм был необходим, чтобы проверить миллиарды банковских операций миллионов вкладчиков и выявить возможных террористов. К его созданию нас подвигла необычная банковская активность террористов, которая наблюдалась в США в связи с атаками 11 сентября. Вот несколько признаков, на которые нужно было обратить внимание:
• обычно террористы сразу вносили крупную сумму и затем постепенно расходовали деньги, не пополняя счет или делая это крайне нерегулярно;
• их банковские операции не были связаны с обычными расходами на проживание (аренда, оплата счетов, страховок и пр.);
• нередко они отправляли деньги за границу или получали переводы оттуда, но сумма перевода, как правило, была небольшой (чтобы банк не сообщал об этом в соответствующие органы).
Этих трех признаков, конечно, недостаточно, чтобы поймать террориста или даже мелкого преступника. Но, начав с них и присовокупив другие признаки, выявленные в результате анализа банковских реестров, мы сумели сузить круг поисков.
Круг этот должен быть очень узким. Представьте себе: наш алгоритм с вероятностью 99 % предсказывает, что владелец того или иного банковского счета связан с террористической группой. Эта цифра кажется вполне нормальной, пока вы не подумаете о 1 % ложноположительных результатов нашего алгоритма.
Террористы – довольно редкая птица в Соединенном Королевстве. Допустим, что их всего человек 500. Алгоритм с 99 %-ной точностью отыщет 495 из них, но, кроме этого, он ошибочно укажет на 1 % от всех обработанных данных. С учетом того, что население Великобритании составляет около 50 миллионов человек, это дает нам 500 000 невиновных людей. Что случится, если вы вызовете в суд полмиллиона человек, не являющихся террористами, по обвинению в терроризме? Вы можете сколько угодно хвалиться низким одним-единственным процентом ложноположительных случаев (сравните, с чем приходится сталкиваться нигерийским аферистам!), однако вам придется взглянуть в лицо огромному числу разъяренных людей (и, возможно, отвечать в суде по их искам).
Поэтому точность алгоритма должна приближаться к 99,999 %. Чтобы достигнуть ее, мы добавляли в алгоритм новые и новые признаки. Некоторые из них были чисто демографическими (мы знаем, что террористы в Великобритании в большинстве своем молодые мужчины и в данный исторический момент мусульмане). Другие – поведенческими. Например, террорист вряд ли будет снимать деньги со счета через банкомат во второй половине дня в пятницу, во время мусульманской молитвы в мечети.
Одним очень важным признаком, который мы выявили, было наличие страховки. Террорист почти никогда не страхует через банк свою жизнь, даже если у него есть жена и дети. Почему? Как мы объясняли в книге, страховка обычно не выплачивается, если человек взрывает себя, поэтому покупать ее – пустая трата денег18.
После нескольких лет доработки и настройки алгоритм был выпущен на бескрайние просторы банковских данных. Он работал на суперкомпьютере в банке всю ночь, чтобы днем все шло как и прежде. Алгоритм справился со своей задачей прекрасно. Он выдал относительно небольшой список, в который, мы уверены, попало по меньшей мере несколько террористов. Банк передал нам этот список в опечатанном конверте (закон об охране личных данных не разрешал видеть имена), а мы при встрече передали конверт начальнику британской службы национальной безопасности. Это было прямо как в фильме про Джеймса Бонда.
Что стало с людьми из этого списка? Мы бы хотели рассказать вам об этом, но не можем. Не из соображений национальной безопасности, а просто потому, что не знаем. Хотя британские власти были рады получить от нас этот список, они не считали себя обязанными держать нас в курсе дела.
Но это еще не конец истории, как могло бы показаться.
В «Суперфрикономике» мы описали не только принцип действия алгоритма, но и то, как потенциальный террорист может его обмануть. Для этого нужно пойти в банк и застраховать свою жизнь. Мы даже упомянули, что конкретный банк, с которым мы сотрудничали, «предлагает базовый пакет всего за несколько фунтов в месяц». Чтобы привлечь внимание к этой стратегии, мы дали главе название «Почему террористам-самоубийцам следует страховать жизнь?».
Когда мы приехали в Лондон для продвижения книги, то обнаружили, что британская публика не оценила наш совет террористам. «Я не знаю, зачем мы выдаем террористам такой секрет»19, – написал один колумнист. Радио и телевидение были гораздо менее вежливы. Они просили нас объяснить, какой идиот тратит столько сил, чтобы расставить ловушку, а потом объясняет, как ее обойти. В итоге мы выглядели тупее, чем нигерийские аферисты, тщеславнее Дэвида Ли Рота и кровожаднее царя Соломона.
Мы хмыкали, бубнили, приводили аргументы, иногда склоняли головы в раскаянии. Но внутри себя мы улыбались. Каждый раз, когда нас отчитывали за нашу глупость, мы становились чуточку счастливее. Почему?