Фил Ранта проснулся от отчаянных звонков своих актеров-супергероев из Квебека. «Паутины и тиары» исчезли. Все попытки связаться с сотрудниками YouTube провалились. Ютуберы в панике стали звонить и слать письма Мелиссе Хантер, маме, которая рецензировала кукол и руководила детской мультиканальной сетью. В срочном порядке YouTube внедрил систему фильтрации средствами искусственного интеллекта на всех проблемных детских видеороликах без всяких отлаженных настроек точности и полноты. «Они просто взяли мачете и пошли рубить, потому что так было нужно, — вспоминала Хантер. — Это было действительно трудное время».
За несколько месяцев до этого талантливые супруги-видеоблогеры Эйприл и Дэйви Оргилл добавили в свой репертуар на YouTube канал с пародиями на супергероев. Их костюмированные представления с детьми заработали более двух миллионов подписчиков, но в августе многие ушли. «Ролики просто начали становиться все более и более странными», — сказала Эйприл об этом жанре зрителям[233]. «Фу». Тем не менее они поддерживали канал, привлекая просмотры и рекламные деньги. 23 ноября YouTube одобрил два их видеоролика под рекламу. Через день канал исчез. «YouTube обвиняет в этом людей, которые создавали такие каналы, но его алгоритм целый год продвигал этот контент, — сказал Дэйви Оргилл журналистам. — Они создали монстра»[234]. Кто-то дал этому монстру и реакциям видеохостинга с его мачете подходящее название — «Эльзагейт».
Жизнь Грега Чисма перевернулась с ног на голову. Он думал о Toy Freaks как о воплощенных в жизнь мультфильмах про Багза Банни, как о невинном способе собрать своим дочерям средства на колледж и повысить их самооценку. Внезапно весь мир подумал о нем худшее. Незнакомые люди ругали его в Интернете. Одна женщина опубликовала обвинения в том, что его младшая дочь на самом деле была пропавшим ребенком. Когда его канал удалили, Чисм опубликовал заявление, в котором особо отметил, насколько встревожен тем, «что кто-то найдет неподобающее удовольствие в наших видеопародиях». Правоохранительные органы Иллинойса начали расследование в отношении Чисма в связи с опасностью для детей. «Это беспокоит всех, — сказал каналу BuzzFeed News[235] начальник полиции Иллинойса Рич Миллер, — но найти надлежащий криминальный аспект в том, что человек может быть плохим родителем, порой непросто». В конечном счете все обвинения с Чисма были сняты.
Годы спустя он все еще не оправился от потрясения. «Это было действительно тяжело с точки зрения психического здоровья. Я чуть не умер, черт возьми, — вспоминал он. — СМИ обошлись со мной несправедливо. YouTube — с ними все в порядке. У меня не было с ними большого контакта. Просто так получилось».
В 2017 году у YouTube был ужасный День благодарения. Несколько сотрудников провели отпуск, склонившись над ноутбуками; они составляли отчеты о состоянии дел для Воджицки и следили за тем, чтобы радикальные изменения, запущенные в действие, действительно сработали. Как всегда, YouTube должен был мониторить загрузки, чтобы люди не публиковали повторно видеоматериалы, которые компания только что удалила. Это был «Красный код». Специально пригласили инженеров, чтобы они как можно быстрее разобрались с машинными фильтрами. «Это было какое-то умопомрачение, — вспоминал исследователь Google Джек Поулсон, ответственный за реагирование. — Скажем прямо: люди поняли, что продвижение получит тот, кто будет хорошо себя вести». Чтобы успокоить встревоженных сотрудников, на праздники в офис YouTube в Сан-Бруно принесли щенков. Ни одна из тех проблем, с которыми YouTube сталкивался на протяжении многих лет, так быстро не меняла подход к модерации. «Я чувствовал себя так, будто начал работать в другой компании», — сказал один из бывших сотрудников. «Это затронуло меня очень глубоко, — вспоминал Нил Мохан, отец троих детей, который руководил этой работой. — Откровенно говоря, все эмоции, страсти и стресс были вызваны прежде всего тем фактом, что речь шла о защите детей».
YouTube дал ряд публичных обещаний. Компания была готова удалить рекламу из неуместных роликов с семейными развлечениями, заблокировать непристойные комментарии о детях, проконсультироваться с большим количеством экспертов, выпустить руководство для создателей «контента, подходящего для семьи», и обеспечить «ускоренное применение технологий». В декабре Воджицки в своем блоге отметила то, как изобилие видеоматериалов на YouTube «способствовало просвещению» ее детей. «Но, помимо этого, я вблизи убедилась, что у открытости, свойственной YouTube, может быть и другая, более тревожная сторона, — написала она. — Я видела, как некоторые злоумышленники используют нашу открытость, чтобы вводить людей в заблуждение, манипулировать ими, устраивать преследования и даже причинять вред». Она пообещала, что число сотрудников отдела модерации Google, проверяющих видеоматериалы на наличие злоумышленников, к следующему году превысит десять тысяч, что является впечатляющим результатом.
Воджицки не упомянула, что большинство из них не будут работать непосредственно на Google.
Глава 28. Злоумышленники
Якоб Хёг Сёберг прибыл в дублинский комплекс и увидел на входе две вывески: одна для контрактных работников Facebook* и еще одна для Google. Пластиковая карта, которую ему вручили на стойке регистрации, позволила войти через дверь для Google. Сёберг был подтянутым рыжеволосым обладателем богатого резюме — диплом юриста, полученный в родной Дании, такой же диплом из Ирландии, лето учебы в Лондонской школе экономики. Но похоже, что специалисты по кадрам считали самым важным его качеством знание датского языка. Проводившая собеседование фирма Accenture, о которой он никогда раньше не слышал, спросила, как он относится к работе с «конфиденциальным контентом». Сёберг ненадолго задумался. «Я такой же сильный, как и другие люди», — ответил он. Ему дали довольно мало информации[236] об этой работе.
В сентябре 2017 года к нему присоединились еще пятеро: русский, трое испанцев и ирландка, говорившая по-французски. Они сидели в стерильном классе, изучая законы о свободе слова и выражения мнений; эти предметы нравились Сёбергу. Затем инструктор переместился к большому экрану в пятнадцати футах от стола Сёберга. На экране начали появляться видеоролики YouTube.
«Это жестко, — предупредил инструктор. Следующее видео. — Это ультражестко».
Сёберг почувствовал, как его сердце забилось быстрее. Он уже знал: выражение «ультражестко» означало, что в кадре будут горящие или искалеченные человеческие тела. Перестрелки. Убийства. Мрачные вещи. Когда на экране кричащего мужчину несколько раз ударили ножом, Сёбергу пришлось броситься в ванную и плеснуть водой в лицо, чтобы не упасть в обморок. Это был кошмар. Но он не считал себя слабаком. Он вернулся в комнату.
Его настоящая работа проходила в более просторном офисе с рядами компьютеров, на каждом из которых была установлена система продажи билетов, — цифровой интерфейс, похожий на Gmail, только с бóльшим количеством ярлыков и папок. Видеоролики шли постоянным потоком. Сёбергу поручили модерировать насильственный экстремизм и сосредоточиться на датских материалах. У них была квота — 120 видеороликов в день. Однако тревожных видеороликов на датском языке было не так много, и поэтому Сёберг иногда оценивал материалы и на других языках. Он не выносил обезглавливания. Машины YouTube к тому времени научились удалять большинство из них автоматически, но некоторые проскальзывали мимо алгоритмов — гротескно инновационные, с использованием тупых ножей. Однажды в его очереди оказался ролик со знакомой сценой — связанный человек, прощальное послание. Сёберг почувствовал головокружение. Инстинктивно он нажал на кнопку и удалил материал; однако позже выяснилось, что это была шутка: видеотеррорист выхватил зубную щетку и поднес ее к горлу мужчины. Менеджер отчитал Сёберга за ошибку. В итоге коллеги согласились поменяться с ним местами — взять себе жестокий материал, а ему отдать на просмотр мрачные истории с животными и детьми. «По какой-то нездоровой причине, — вспоминал он, — это не так сильно меня задевало».
Некоторых коллег выручал юмор. Сёберг слушал в наушниках веселые джазовые импровизации и периодически ходил прогуляться вокруг пруда на территории кампуса. Он проработал там девять месяцев. Лишь однажды пришло электронное письмо с инструкцией навести в офисе порядок и чистоту. С визитом ждали какого-то директора из YouTube.
Еще после финансового кризиса 2008 года дирекция Google начала передавать некоторые рабочие места на аутсорсинг — в основном те, которые считались нетехническими. По мере роста компании росла и численность таких специалистов. Google называла их TVC («временные сотрудники, работающие с поставщиками и по контракту»). К 2018 году компания сообщала, что в ней работают более 100 000 прямых сотрудников; временных насчитывалось почти столько же, но она не раскрывала их количество. Некоторые из них работали над краткосрочными проектами, и им щедро платили. Другие убирали офисы или тестировали еще не совсем самоуправляемые автомобили. На YouTube сотрудники TVC модерировали контент, работая на непрозрачные бэк-офисные фирмы Accenture, Vaco и Cognizant — те, что делают рекламные ролики по подбору персонала, которые вы смотрите и все равно не понимаете сути этой деятельности. Занятые в них модераторы редко встречались со старшими менеджерами. И еще реже они пересекались с сотрудниками YouTube. Эти скринеры были потомками старой команды SQUAD, первого эшелона Интернета. Но у членов SQUAD была зарплата на YouTube и собственный капитал, и они сидели за столами в передней части офиса. Теперь большинство модераторов работали в разросшейся теневой экономике анонимных офисных парков в Дублине, Хайдарабаде и Куала-Лумпуре, отсутствующих на балансе Google.