В ту июньскую пятницу этот подход претерпел изменения. Неделей ранее трое исламистских экстремистов убили восемь человек на Лондонском мосту. Вскоре появились сообщения о том, что одного из убийц вдохновил американский священнослужитель[208], которого он смотрел на YouTube. Руководство компании, ошеломленное этой новостью, решило, что «Доверие и безопасность» нуждается в капитальном ремонте. Бардан пригласили на встречу «Желтый код», потому что она была в числе трех сотрудников YouTube, которые занимались анализом насильственного экстремизма и говорили по-арабски. Она слушала план: YouTube выгонит радикальных священнослужителей и выделит больше инженеров для создания строгих систем искусственного интеллекта, чтобы искоренить как можно больше исламистского экстремизма. В те выходные команда Бардан немедленно приступила к просмотру видеороликов, в то время как коллеги продолжили веселиться. Одного коллегу разбудили в 2:00 ночи, чтобы он разобрался с особенно неприятным видео на арабском языке; модератор смотрел клип и отвечал на звонки в ванной, чтобы не разбудить соседа по комнате. Менеджер Бардан наградил ее кексами за работу в выходные. На той неделе в штаб-квартире команда разработчиков политики YouTube сократила список провокаторов до четырнадцати: все это были мужчины-мусульмане, которым запрещалось публиковать что бы то ни было. До этого YouTube использовал тест на абсурдистское мышление, демонстрируя свой подход «руки прочь»: «Если бы у Усамы бен Ладена был кулинарный канал, это было бы прекрасно». Теперь это не к месту. Все, что связано с бен Ладеном, удалялось. Некоторые видеозаписи проповедей — например, выступления Ахмада Мусы Джибриля, который, по слухам, вдохновил нападавшего на людей на Лондонском мосту, — попадали на «скамью штрафников» YouTube. Это было грубое решение. Новые машинные цензоры тоже работали грубо: сотрудник, знавший арабский язык, вспомнил, как однажды просматривал код системы и обнаружил, что условия ее фильтрации изначально включали арабское слово, обозначающее Аллаха.
Позже руководители YouTube вспоминали встречу «Желтый код» как критический поворотный момент, когда YouTube решил применить свой сверхчеловеческий интеллект для модерации, а не только для рекомендаций. Бардан по-другому запомнит те выходные. Для нее и нескольких коллег это были дни, когда они начали задаваться вопросом: правда ли, что их система тратит все свои ресурсы на слежку за мусульманами в Интернете и при этом не прикасается к экстремистам из других конфессий или слоев общества?
Через несколько недель после встречи «Желтый код» толпы подростков выстроились в очередь, желая попасть на VidCon. Эта конференция сильно отличалась от первой, проведенной семь лет назад. Корпорации захватили власть. На месте ее проведения, модернистском здании конференц-центра Анахайма в нескольких кварталах от Disneyland, красовались три больших баннера с рекламой шоу YouTube Originals с заметно разнообразным актерским составом (Воджицки сдержала свое обещание и разместила на билборде чернокожего автора). Сети NBC и Nickelodeon, некогда анемичные по отношению к YouTube, были спонсорами мероприятия. Восемь месяцев спустя Viacom, пытаясь заключить Интернет в медвежьи объятия, купит VidCon.
Безопасность на VidCon-2017 обеспечивалась намного строже, чем раньше. Прошлым летом во время встречи фанатов в Орландо был застрелен музыкант-ютубер. И атмосферу заряжали другие силы. В июне того же года Шарлотсвилл переименовал свой Ли Парк, что вызвало ужасный митинг головорезов правого толка.
Внутри конференц-центра автор Акила Хьюз, в 2016 году вдохновившая мероприятие #YouTubeBlack, наблюдала за четырьмя коллегами на дискуссионной панели «Женское творчество и вовлеченность онлайн». Многие зрители пришли посмотреть в первую очередь на одну участницу — феминистку Аниту Саркисян, автора сериала на YouTube, в котором раскрываются сексистские мотивы в видеоиграх. Это вкупе с готовностью осуждать онлайн-троллей сделало ее постоянной мишенью во время саги «Геймергейт».
Дискуссия на VidCon затронула и эту тему. Когда толпа разгорячилась, Саркисян указала на бородатого мужчину в зале. «Думаю, что один из моих преследователей сидит в первом ряду, — сказала она. — Я ненавижу уделять тебе внимание, потому что ты не человек, а мусор».
Акила Хьюз знала об этом персонаже. Плодовитый британский ютубер Карл Бенджамин (псевдоним Саргон Аккадский) даже получил некую известность в прессе за особое обращение с одной известной дамой; после того как женщина-политик из Британии рассказала, как часто ей присылают в Интернете угрозы изнасилования, Бенджамин высмеял ее, сказав: «Я тебя даже насиловать не хочу». Он снял несколько видеороликов с критикой Саркисян, часто используя в своих титрах ее ник на YouTube (Feminist Frequency) — это старая хитрость, влияющая на поиск. В своих видеороликах он старался не оглашать явных призывов к причинению вреда, что нарушало правила YouTube, но его враждебность ни для кого не была секретом. Хьюз знала его по выборам Трампа. Через несколько дней после голосования она опубликовала эмоциональное видео с кадрами, снятыми в ночь выборов. Это не обычный видеоблог. Хьюз, опечаленная проигрышем Клинтон, была одета в черную толстовку с белой надписью «Ужасно». Она говорила о личных опасениях по поводу политики здравоохранения и о более обширных волнениях, которые испытывали чернокожие женщины и многие другие люди. Саргон Аккадский загрузил ее клип на собственный канал с насмешливым позаголовком: «Уровни осведомленности борцов за социальную справедливость». Хьюз узнала об этом после того, как в Интернете на нее обрушился поток гадких сообщений — расовые оскорбления и фальшивые фото, на которых она истекает кровью. К тому времени девушка подписала контракт на издание своей книги, и ее агент внезапно получил множество смущающих писем от незнакомцев: они называли Хьюз настоящей расисткой и требовали прекратить сотрудничество с ней.
Бенджамин и его единомышленники-ютуберы пришли на VidCon пораньше, чтобы занять первые ряды. Дискуссионная сессия закончилась без серьезных столкновений, но напряжение потом перетекло в Twitter и YouTube, где ссоры авторов всегда повышали число просмотров. В это оказался вовлечен Хэнк Грин; до видеоблогера дошло, что в его обязанности ведущего VidCon теперь входят решения о поведении в культурном дискурсе. В конце концов он опубликовал заявление. Ему не хотелось, чтобы ораторы называли слушателей мусором. Но он также не оценил действия YouTube: компания просто разжигала возмущение и существовала как «базовый лагерь для многолетних преследований», побуждая подписчиков к язвительным атакам, которые «концентрировались не на идеях, а на людях (обычно женщинах), — написал Грин. — Мы видим, как эти методы изнашиваются в ткани не только культуры Интернета, но и всего нашего мира». Он сказал Бенджамину, что на следующих видеоконференциях ему будут не рады. Бенджамин вышел на YouTube, чтобы обсудить отношение к себе. Он появился на канале Джо Рогана и опубликовал собственное видео с анимационной миниатюрой, изображающей Саркисян в виде потной, острозубой медузы. Это был один из его самых популярных роликов.
Для Хьюз весь этот инцидент выглядел так, будто комментарии и алгоритмы YouTube материализовались и ожили. Хэнк Грин попытался сделать хоть что-то. YouTube просто отказался реагировать, подумала она.
Конечно, YouTube все-таки пытался улучшить свои алгоритмы. Но в том году, как обычно, стремительный рост платформы опередил усилия компании.
В YouTube знали, что реклама сходит на нет. Поскольку бойкоты затягивались, Воджицки в мае принесла публичные извинения; на ежегодной рекламной выставке компании она пообещала маркетологам больше улучшений. Но она также назвала анархию сайта преимуществом, заявив: «YouTube — не телевидение и никогда им не будет». (Затем YouTube анонсировал новый сериал, спродюсированный Райаном Сикрестом, ведущим шоу «Американский идол»; за этим последовали живые выступления телезвезд Кевина Харта и Джеймса Кордена.) В Сан-Бруно анархия не приветствовалась. Воджицки поручила команде инженеров найти выход из ситуации с бойкотом. Это был уже «Оранжевый код»: не совсем аварийно-красный, но близкий к нему. Программисты создали инструменты для подготовки отчетов рекламодателям YouTube; в этих документах показывалось, когда реклама выходила в свет и сколько они тратили. «Это было немного хаотично», — вспоминал один из участников. Он добавил также, что команда модераторов YouTube была «слишком немногочисленной для выполнения этой задачи». YouTube выделил больше ресурсов на то, чтобы предотвращать спонсорство проблемных видеоматериалов, и дал проекту дерзкое название MASA (Make Ads Safe Again — «Сделаем рекламу безопасной снова»).
Другим инженерам поручили скорректировать алгоритмы в соответствии с новым подходом, принятым после терактов на Лондонском мосту. Любые видеоролики с «подстрекательским религиозным или расистским содержанием», которые противоречили новым правилам, но не нарушали их, помещались в штрафную зону. Впоследствии YouTube разработал еще более мощные инструменты, позволяющие скрывать видео в результатах поиска; внутри компании этот процесс называли свистом. Один бывший руководитель описал его как метод «глубокой фильтрации» видеоматериалов без их удаления. Компания стала более чувствительной к удалениям после критики со стороны правозащитных групп, утверждавших, что в качестве сопутствующего ущерба грубая модерация YouTube уничтожает ценные архивы военных преступлений.
Тем временем ведущие инженеры YouTube раздумывали, что делать с сомнительными видеороликами, которые не были подстрекательским или расистским контентом. Возможно, рекламодатели хотели бы избегать их, но для обнаружения и определения таких материалов было сложно написать четкие правила и коды. Видеохостинг решил измерить удовлетворенность