ая платформы социальных сетей, когда обнаруживали конкретную кампанию влияния, такую как SharpieGate. Они также размещали публичные оповещения на сайте EIP. Это разрушало еще одно звено в цепи уничтожения операций влияния, поскольку EIP делилась полученными сведениями с общественностью, чтобы помочь остановить поток ложной информации. Кроме того, EIP поддерживала связь между всеми заинтересованными группами - от работников избирательных участков до групп граждан и компаний, работающих в социальных сетях, - чтобы все были единодушны в том, что является дезинформацией и откуда она исходит.
После инаугурации президента группа подготовила отчет, включающий основные рекомендации, которые помогут компаниям социальных сетей справиться с дезинформацией на выборах в 2024 году и в последующие годы. Надеемся, что этот отчет поможет общественности в следующий раз распознать и прервать цепочки уничтожения операций влияния. EIP предложила федеральному правительству сосредоточиться на дезинформации как части безопасности выборов, разработав стандарты для оповещения СМИ и общественности об активных кампаниях влияния. Платформы социальных сетей должны стать более активными в своих усилиях по маркировке дезинформации, сказали они, используя последовательные сообщения при маркировке дезинформации и недостоверной информации. После того как правительство и компании, работающие в социальных сетях , выработают правила ведения кампаний влияния, они должны будут их придерживаться. Аккаунты, распространяющие дезинформацию, должны быть закрыты, говорится в докладе; если же это невозможно, то посты суперраспространителей можно помещать в песочницу или не позволять им распространяться путем вирусного обмена. Проблема, - признал Стамос с гримасой, - в том, что маркировка, запрет и "песочница" требуют сотрудничества со стороны компаний, управляющих платформами социальных сетей. А большинство платформ не хотят, чтобы кто-то вмешивался в секретный соус, который они используют для алгоритмической генерации контента. Некоторые из них, такие как X (бывший Twitter) и Reddit (принадлежащий Advance Publications, которая также владеет Condé Nast), уже значительно затрудняют работу будущих версий EIP - обе компании закрыли программы обмена данными, которые помогали исследователям оценивать подлинность и происхождение постов.
В конечном итоге, главным выводом из отчета EIP стало то, что линии связи должны быть широко открыты между местными органами власти, работниками избирательных комиссий, промышленностью и группами граждан. "Самое главное - это точная информация от официальных лиц", - сказал Стамос. "Одна из основных задач, которую мы пытались решить, - предупредить государственных служащих о дезинформации, чтобы они могли [рассказать избирателям], что является слухом, а что - правдой. Мы говорили, что кто-то говорит, что избирательные участки закрыты, и, возможно, вам следует разослать сообщение, что они все еще открыты. Это не цензура. Это борьба с ложью, которую говорят люди". К сожалению, суды усложняют совместную работу правительств и платформ социальных сетей по пресечению дезинформации. Гражданам нужна точная информация о том, как голосовать. А это произойдет только в том случае, если правительство будет сотрудничать с социальными сетями, чтобы систематически и открыто очищать их от хаоса дезинформации. Лучший способ сделать это, по мнению EIP, - работать с большим штатом людей, которые могли бы анализировать дезинформацию. Хотя автоматические прогнозы погоды, подобные тому, что создали Ализаде и его команда, полезны, Стамос подчеркнул, что люди должны быть окончательными арбитрами в определении того, что является дезинформацией, а что нет. Они понимают контекст сообщений, которые поставили бы в тупик ИИ.
Тем не менее, появление приложений с искусственным интеллектом, таких как ChatGPT, заставило Стамоса задуматься о том, возможно ли создать целый флот пропагандистов, управляемых одним человеком с помощью стада чат-ботов. "Ответ - возможно, - признал он. Это еще один сценарий пропагандистской катастрофы, к которому нам нужно готовиться. Если ИИ создаст еще более плотный туман дезинформации, человеческие модераторы будут играть еще более важную роль. Они смогут отличить угрозы насилия от демократических дебатов и отделить преднамеренную ложь от честных ошибок.
Медленные средства массовой информации
Нам также необходимо перестроить системы социальных сетей таким образом, чтобы приоритет отдавался человеческому выбору, а не алгоритмическому хаосу. Я обсуждал эту идею с Сафией Умоджа Нобл, профессором Калифорнийского университета, которая изучает алгоритмическую предвзятость и написала влиятельную книгу "Алгоритмы угнетения". Она любит сравнивать думскроллинг в социальных сетях с другими видами поведения, вызывающими зависимость, например с курением. Курение - хорошая параллель, потому что во многих регионах теперь ограничивают места, где можно курить, и требуют от компаний размещать предупреждающие надписи на сигаретах. Вы все еще можете зажечь сигарету, но этот процесс сопряжен с определенными трениями. Она представила себе, как регулирующие органы используют законы о борьбе с курением в качестве модели для регулирования социальных сетей. Например, компании могут быть вынуждены ограничить уведомления, которые платформы используют, чтобы привлечь людей к просмотру своих социальных сетей. Больше никаких милых сообщений, выскакивающих на вашем телефоне и завлекающих вас обратно в такие продукты Meta, как Instagram и Threads. Также могут быть введены ограничения на предложения "для вас" или "вам может понравиться", которые заставляют людей переходить по ссылкам. Это означает, что в ваших лентах YouTube и TikTok будет меньше алгоритмически предлагаемых видеороликов, соблазняющих вас провести еще пять минут в приложении.
Другой возможностью может стать замедление распространения контента на платформах. "Может быть, это будет больше похоже на газеты или почтовую корреспонденцию", - размышляет она. "Вы отправляете что-то [на YouTube], и оно не появляется в следующую минуту. Может быть, мы будем загружать что-то и возвращаться через неделю, чтобы посмотреть, появилось ли оно". Она признала, что это будет значительным качественным изменением и потребует "совершенно другой бизнес-модели". Но она отметила, что "в сфере развлечений есть и другие виды медленных бизнес-моделей. На создание фильмов и шоу уходит много времени - даже на журналистику. В медлительности есть своя ценность".
Ее идеи начинают находить отклик у бывших поклонников Twitter, которые покинули платформу после поглощения Элоном Маском в конце 2022 года. Многие перенесли свои аккаунты на Mastodon, социальную медиаплатформу с теми же функциями, что и Twitter, но сообщения в ней распространяются не так быстро. На это есть несколько технических причин. Одна из них заключается в том, что аккаунты Mastodon не находятся в одном централизованном месте. Пользователи открывают аккаунты на определенном сервере, часто посвященном определенным интересам, таким как наука или искусство, и эти серверы объединяются друг с другом с помощью протокола, который доставляет сообщения от одного к другому. Совокупность всех сайтов и платформ, использующих этот протокол, называется Fediverse. Транзит информации в Fediverse работает подобно электронной почте, которая также использует протокол, пересылающий почту между, скажем, Gmail и Outlook. Сообщения на сайте Mastodon редко становятся вирусными, потому что операторы серверов сами выбирают, с кем им объединяться, и могут блокировать серверы, которые являются источником дезинформации. Даже когда серверы объединены, сообщения не появляются на всех серверах сразу. Действительно, некоторые сообщения никогда не покидают серверов, в то время как другие медленно перемещаются по Fediverse, передаваясь между людьми на разных серверах. Чтение постов на Mastodon похоже на замедленную съемку в Twitter.
Нобл сказал мне, что компании, работающие в социальных сетях, также могут наложить тормоз на обмен нашими данными. Люди должны знать, куда уходит наш контент, а также откуда он берется. Facebook иногда выступает в роли брокера данных, продавая информацию о профиле рекламодателям и другим сторонним компаниям. Когда люди пишут, они должны знать, будут ли их фотографии использоваться для обучения алгоритмов распознавания лиц или их слова - для больших языковых моделей, таких как ChatGPT. Они должны понимать, что их личный профиль будет агрегирован и продан рекламодателям или политическим операторам, которые хотят найти таких же людей, как они сами. Знание того, кто может использовать нашу информацию, создаст еще один уровень трения и, возможно, заставит нас задуматься, прежде чем публиковать свои милые селфи и умные манифесты.
За последние несколько лет ландшафт социальных сетей постепенно трансформировался. Журналист Тейлор Лоренц назвал это "смертью СМИ". 13 Люди бегут с больших платформ, таких как Facebook, в такие места, как Discord, Slack и групповые чаты, где собираются небольшие группы только по приглашениям. Это пространства, в которых язвительная фраза или мнение не могут взорваться в телефонах всех желающих, просто потому, что сообщения там предназначены для того, чтобы оставаться внутри сообщества, огражденного от широкой публики. Мы устремляемся к приложениям, которые делают социальные сети более похожими на посещение приятного сквера , а не на адскую зону с мусорными кострами и злобными пронырами. Наши будущие СМИ могут быть ориентированы на меньшую аудиторию и при этом становиться более медленными.
Нам нужно дополнить эти изменения новыми подходами к алгоритмам, которые управляют тем, что мы видим в Интернете. Компании могли бы измерять вовлеченность в повышении морального духа, а не в прокручивании судеб. Так, в 2014 году Facebook провел эксперимент, в ходе которого алгоритм контента был настроен на поощрение историй, вызывающих положительные чувства к другим людям. Я не предлагаю манипулировать людьми, заставляя их пассивно соглашаться или принуждая всех к режиму "возлюби ближнего своего". Вместо этого мы должны развивать демократическую общественную сферу, где люди могут не соглашаться друг с другом, не угрожая их жизни или работе. Как сказал технолог по безопасности Брюс Шнайер, "мы должны стать рефлекторно подозрительными к информации, которая заставляет нас злиться на наших сограждан". Будущие системы СМИ могли бы помочь нам снова разговаривать друг с другом, замедляя и обдумывая наши слова.