То, что отец Кофлин эффективно использовал в Соединенных Штатах, в то же самое время было усовершенствовано в Германии. Нацисты, придя к власти, в значительной степени полагались на радиопропаганду. Гитлеровский министр пропаганды Йозеф Геббельс стал экспертом в использовании радиоэфира для разжигания поддержки нацистской политики и ненависти к еврейскому народу и "большевикам". Сам Геббельс говорил, что "наш способ захвата власти и ее использования был бы немыслим без радио и аэроплана".
Нацисты действительно были весьма эффективны в манипулировании настроениями с помощью радиопередач. Исследуя изменения в силе радиосигналов в разных частях Германии, а также изменения в содержании радиопередач с течением времени, группа исследователей обнаружила мощный эффект от нацистской пропаганды. Эти радиопередачи усиливали антисемитскую деятельность и доносы на евреев в органы власти.
Радиопропаганда экстремистов в итоге была взята под контроль в США и Германии, и то, как это было сделано, показывает различия между социальными медиа и радио. Это также позволяет сделать некоторые выводы о том, как лучше использовать новые коммуникационные технологии.
Проблема в 1930-х годах заключалась в том, что у отца Кофлина была национальная платформа, позволявшая обращаться к миллионам с подстрекательской риторикой. Сегодня проблема в том, что дезинформация распространяется алгоритмами Facebook и других социальных сетей и достигает потенциально миллиардов людей.
Пагубное влияние Кофлина было нейтрализовано, когда администрация Рузвельта решила, что Первая поправка защищает свободу слова, но не право на вещание. Она утверждала, что радиочастотный спектр является общественным достоянием, которое должно регулироваться. С новыми правилами, требующими разрешения на вещание, программы отца Кофлина были вынуждены уйти из эфира. Кофлин продолжал писать и вскоре снова начал вещать, хотя и с более ограниченным доступом и только через отдельные станции. После начала Второй мировой войны его антивоенная и прогерманская пропаганда была еще больше ограничена.
Сегодня на ток-шоу AM много дезинформации и языка ненависти, но они не имеют того охвата, которого достигли национальные передачи отца Кофлина, или той платформы, которую алгоритмы Facebook предоставляют для дезинформации в сети.
Послевоенная реакция Германии на радиопропаганду была еще более всеобъемлющей. Конституция Германии запрещает высказывания, классифицируемые как Volksverhetzung, что означает "разжигание ненависти", а также подстрекательство к насилию или действия, унижающие достоинство определенных слоев населения. Согласно этому закону, отрицание Холокоста и распространение подстрекательской антиеврейской пропаганды находятся вне закона.
Цифровой выбор
Технологии ИИ не обязательно должны быть направлены на автоматизацию труда и контроль сотрудников на рабочих местах. Они также не должны были разрабатываться для усиления государственной цензуры. В цифровых технологиях также нет ничего антидемократического по своей сути, а социальные сети, безусловно, не должны быть направлены на максимальное усиление возмущения, экстремизма и негодования. Это был вопрос выбора - выбора технологических компаний, исследователей ИИ и правительств - который привел нас в наше нынешнее затруднительное положение.
Как мы уже упоминали ранее в этой главе, YouTube и Reddit изначально были в такой же степени поражены ультраправым экстремизмом, дезинформацией и языком вражды, как и Facebook. Но за последние пять лет эти две платформы предприняли некоторые шаги, чтобы уменьшить проблему.
По мере усиления общественного давления на YouTube и его материнскую компанию, Google, после появления таких инсайдерских рассказов, как рассказ Калеба Кейна, и разоблачений в New York Times и New Yorker, платформа начала изменять свои алгоритмы, чтобы уменьшить распространение наиболее вредоносного контента. Теперь Google утверждает, что продвигает видео из "авторитетных источников", которые с меньшей вероятностью могут быть использованы для радикализации или содержать дезинформацию. Компания также утверждает, что эти алгоритмические корректировки позволили сократить просмотр "пограничного контента" на 70 процентов ("пограничный" здесь означает, что компания утверждает, что язык ненависти уже прошел проверку).
История Reddit похожа. Являясь домом для самых экстремистских и подстрекательских материалов, изначально защищаемых одним из основателей, Стивом Хаффманом, как полностью соответствующие философии "открытого и честного обсуждения" сайта, платформа впоследствии отреагировала на давление общественности и ужесточила свои стандарты модерации. После того, как в 2017 году в Шарлотсвилле, штат Вирджиния, на митинге белых супремацистов "Объединяйтесь, правые", организованном и подпитываемом платформой, произошла вспышка насилия, в результате которой погиб один участник акции, а десятки других получили ранения, основатели Reddit и платформа изменили свою позицию. Платформа начала удалять десятки подразделов Reddit, пропагандирующих язык ненависти, расистские высказывания и откровенную дезинформацию. В 2019 году она удалила The_Donald.
Не стоит преувеличивать улучшения, вызванные саморегулированием платформ. На YouTube по-прежнему много дезинформации и манипуляций, которым часто способствуют алгоритмы, а на Reddit много ненавистного контента. Ни одна из платформ не изменила свою бизнес-модель, и в большинстве своем обе платформы продолжают полагаться на максимизацию вовлеченности и доходов от целевой рекламы. Платформы с другой бизнес-моделью, такие как Uber и Airbnb, были гораздо более активны в запрете языка ненависти на своих сайтах.
Но лучшей демонстрацией жизнеспособности альтернативных моделей является Википедия. Эта платформа является одним из самых посещаемых сервисов в Интернете, получив за последние несколько лет более 5,5 миллиардов уникальных посетителей в год. Википедия не пытается монополизировать внимание пользователей, поскольку не финансирует себя за счет рекламы.
Это позволило платформе выработать совершенно иной подход к дезинформации. Записи в этой онлайн-энциклопедии пишут анонимные добровольцы, и любой добровольный редактор может начать новую запись или изменить существующую. Платформа имеет несколько уровней администраторов, выдвинутых из числа частых пользователей с хорошим послужным списком. Среди добровольных авторов есть опытные редакторы с дополнительными привилегиями и обязанностями, такими как техническое обслуживание или разрешение споров. На более высоком уровне "стюарды" обладают большими полномочиями для разрешения разногласий. Согласно самой платформе, на стюардов "возложена задача технической реализации консенсуса сообщества, решение чрезвычайных ситуаций, вмешательство в борьбу с кросс-вики вандализмом". Над стюардами находится "Арбитражный комитет", состоящий из "добровольных редакторов, которые действуют согласованно или в подгруппах, навязывая обязательные решения по спорам о поведении, которые сообщество не смогло разрешить". "Администраторы" имеют возможность защищать и удалять страницы, а также блокировать редактирование в случае спорного содержания или случаев вандализма или дезинформации в прошлом. Самих администраторов контролируют и продвигают "бюрократы".
Эта административная структура играет важную роль в способности сайта предотвратить распространение дезинформации и поляризацию, которая была слишком распространена на других сайтах. Опыт Википедии показывает, что мудрость толпы, которой так восхищались первые технооптимисты социальных медиа, может работать, но только в том случае, если она подкреплена и контролируется правильной организационной структурой, и, если сделан правильный выбор в отношении использования и направления развития технологий.
Альтернативы бизнес-модели целевой рекламы не ограничиваются такими некоммерческими организациями, как Википедия. Netflix, основанный на модели подписки, также собирает информацию о пользователях и инвестирует значительные средства в искусственный интеллект для составления индивидуальных рекомендаций. Однако на этой платформе мало дезинформации или политического возмущения, поскольку ее цель - улучшить пользовательский опыт, чтобы стимулировать подписку, а не обеспечить максимальную вовлеченность.
Платформы социальных сетей могут работать с моделью подписки и зарабатывать на ней. Такая модель не решит всех проблем социальных сетей. Люди могут создавать свои собственные эхо-камеры на платформе, основанной на подписке, и могут появиться новые способы монетизации дезинформации и небезопасности. Тем не менее, альтернативные бизнес-модели позволяют отойти от стремления к интенсивному вовлечению пользователей, которое, как оказалось, способствует наихудшему типу социального взаимодействия, нанося вред как психическому здоровью, так и демократическому дискурсу.
Социальная паутина" может иметь огромное количество положительных эффектов, если удастся сдержать ее пагубное влияние на дезинформацию, поляризацию и психическое здоровье. Недавние исследования отслеживают начало работы сервиса Facebook на новых языках и показывают, что малый бизнес в затронутых странах получает доступ к информации с зарубежных рынков и в результате расширяет свои продажи. Нет причин полагать, что компания не могла бы зарабатывать деньги на подобных услугах, а не на своей способности манипулировать пользователями. Социальные медиа и цифровые инструменты также могут обеспечить большую защиту отдельных лиц от слежки и даже сыграть продемократическую роль. Нажатие на кнопки для получения эмоциональной реакции и нацеливание рекламы на пользователей, когда они таким образом срабатывают, никогда не были единственными возможностями для социальных медиа.
Демократия подорвана, когда она нам больше всего нужна
Трагедия заключается в том, что искусственный интеллект еще больше подрывает демократию, когда мы больше всего в ней нуждаемся. Если направление развития цифровых технологий не изменится коренным образом, они будут продолжать подпитывать неравенство и маргинализировать большие сегменты рабочей силы, как на Западе, так и во всем мире. Технологии ИИ также используются для более интенсивного контроля за работниками и через этот канал создают еще большее понижательное давление на заработную плату.