Вместо того чтобы инвестировать в механизмы самокоррекции, которые вознаграждали бы за правдивую информацию, гиганты социальных сетей разработали беспрецедентные механизмы, усиливающие ошибки, которые вознаграждали ложь и вымыслы. Одним из таких механизмов, увеличивающих количество ошибок, стала программа Instant Articles, которую Facebook запустил в Мьянме в 2016 году. Желая повысить вовлеченность, Facebook платил новостным каналам в зависимости от количества привлеченных ими пользователей, измеряемого в кликах и просмотрах. При этом правдивости "новостей" не придавалось никакого значения. Исследование 2021 года показало, что в 2015 году, до запуска программы, шесть из десяти лучших сайтов Facebook в Мьянме принадлежали "законным СМИ". К 2017 году под воздействием Instant Articles "легальные СМИ" сократились до двух сайтов из первой десятки. К 2018 году все десять лучших сайтов стали "фальшивыми новостями и сайтами-приманками".
Авторы исследования пришли к выводу, что из-за запуска Instant Articles "в Мьянме за одну ночь появились актеры клик-бейта. Обладая правильным рецептом создания интересного и вызывающего контента, они могли генерировать тысячи долларов США в месяц в виде доходов от рекламы, что в десять раз превышало среднюю месячную зарплату, выплачиваемую им непосредственно Facebook". Поскольку Facebook был, безусловно, самым важным источником онлайн-новостей в Мьянме, это оказало огромное влияние на общий медиаландшафт страны. "В стране, где Facebook является синонимом Интернета, низкосортный контент подавлял другие источники информации". Facebook и другие социальные медиаплатформы не ставили перед собой сознательной цели наводнить мир фальшивыми новостями и возмущением. Но, настроив свои алгоритмы на максимальную вовлеченность пользователей, они именно это и сделали.
Размышляя о трагедии в Мьянме, Пвинт Хтун написал мне в июле 2023 года: "Я наивно полагал, что социальные сети могут возвысить человеческое сознание и распространить перспективу общего человечества через взаимосвязанные префронтальные коры у миллиардов людей. Я понял, что компании социальных сетей не заинтересованы в том, чтобы соединять префронтальные коры головного мозга. Компании социальных сетей заинтересованы в создании взаимосвязанных лимбических систем, что гораздо опаснее для человечества".
ПРОБЛЕМА ВЫРАВНИВАНИЯ
Я не хочу сказать, что распространение фейковых новостей и теорий заговора - это главная проблема всех прошлых, настоящих и будущих компьютерных сетей. YouTube, Facebook и другие социальные медиаплатформы утверждают, что с 2018 года они корректируют свои алгоритмы, чтобы сделать их более социально ответственными. Так это или нет, сказать сложно, тем более что общепринятого определения "социальной ответственности" не существует. Но конкретная проблема загрязнения информационной сферы в погоне за вовлеченностью пользователей, безусловно, может быть решена. Когда технологические гиганты задаются целью разработать более совершенные алгоритмы, у них это обычно получается. Примерно в 2005 году обилие спама угрожало сделать использование электронной почты невозможным. Для решения проблемы были разработаны мощные алгоритмы. К 2015 году компания Google заявила, что ее алгоритм Gmail на 99,9 % успешно блокирует настоящий спам, и только 1 % законных писем ошибочно попадает в эту категорию.
Не стоит сбрасывать со счетов и огромную социальную пользу, которую принесли YouTube, Facebook и другие социальные медиаплатформы. Следует уточнить, что большинство видеороликов на YouTube и постов в Facebook не являются фальшивыми новостями и подстрекательством к геноциду. Социальные медиа оказались более чем полезны для объединения людей, предоставления права голоса ранее бесправным группам и организации новых ценных движений и сообществ. Они также стимулировали беспрецедентную волну человеческого творчества. В те времена, когда телевидение было доминирующим средством массовой информации, зрителей часто называли "диванным картофелем": пассивными потребителями контента, который создавали несколько талантливых художников. Facebook, YouTube и другие социальные медиа-платформы вдохновили "диванных картошек" встать и начать творить. Большая часть контента в социальных сетях - по крайней мере, до появления мощного генеративного ИИ - создавалась самими пользователями, их кошками и собаками, а не ограниченным кругом профессионалов.
Я тоже регулярно использую YouTube и Facebook для общения с людьми и благодарна социальным сетям за то, что они соединили меня с моим мужем, с которым я познакомилась на одной из первых ЛГБТК-платформ в социальных сетях в 2002 году. Социальные сети сделали чудеса для таких рассеянных меньшинств, как ЛГБТК. Мало кто из геев рождается в семье геев в районе, где живут геи, а во времена до появления Интернета просто найти друг друга было очень сложно, если только вы не переехали в один из немногих толерантных мегаполисов, где была гей-субкультура. Выросший в небольшом гомофобном городке в Израиле в 1980-х и начале 1990-х годов, я не знал ни одного открытого гея. Социальные сети в конце 1990-х - начале 2000-х годов предоставили членам разрозненного ЛГБТК-сообщества беспрецедентный и почти волшебный способ найти друг друга и наладить контакт.
И все же я уделил так много внимания проблеме "вовлеченности пользователей" в социальных сетях, потому что она иллюстрирует гораздо более серьезную проблему, поразившую компьютеры, - проблему выравнивания. Когда перед компьютерами ставится конкретная задача, например, увеличить посещаемость YouTube до миллиарда часов в день, они используют всю свою мощь и изобретательность для достижения этой цели. Поскольку компьютеры работают совсем не так, как люди, они, скорее всего, будут использовать методы, которые их человеческие хозяева не предусмотрели. Это может привести к опасным непредвиденным последствиям, которые не соответствуют изначальным целям человека. Даже если рекомендательные алгоритмы перестанут поощрять ненависть, другие случаи проблемы согласования могут привести к более серьезным катастрофам, чем кампания против рохинджа. Чем мощнее и независимее становятся компьютеры, тем больше опасность.
Конечно, проблема выравнивания не является ни новой, ни уникальной для алгоритмов. Она мучила человечество на протяжении тысячелетий до изобретения компьютеров. Например, она стала основополагающей проблемой современного военного мышления, закрепленной в теории войны Карла фон Клаузевица. Клаузевиц был прусским генералом, воевавшим во время Наполеоновских войн. После окончательного поражения Наполеона в 1815 году Клаузевиц стал директором Прусского военного училища. Он также начал разрабатывать большую теорию войны. После его смерти от холеры в 1831 году его жена, Мария, отредактировала незаконченную рукопись и опубликовала "О войне" в нескольких частях в 1832-1834 годах.
Книга "О войне" создала рациональную модель понимания войны, которая и сегодня является доминирующей военной теорией. Ее важнейшая максима заключается в том, что "война - это продолжение политики другими средствами". Это означает, что война - это не эмоциональная вспышка, не героическое приключение и не божественная кара. Война - это даже не военное явление. Скорее, война - это политический инструмент. Согласно Клаузевицу, военные действия абсолютно иррациональны, если они не связаны с какой-то всеобъемлющей политической целью.
Предположим, Мексика раздумывает, не вторгнуться ли ей в Белиз и не завоевать ли своего маленького соседа. И предположим, что детальный военный анализ показывает, что если мексиканская армия вторгнется, то она одержит быструю и решительную военную победу, разгромив небольшую армию Белиза и захватив столицу Бельмопан за три дня. Согласно Клаузевицу, это не является рациональной причиной для вторжения Мексики. Сама по себе способность одержать военную победу не имеет смысла. Главный вопрос, который должно задать себе мексиканское правительство, - каких политических целей достигнет военный успех?
История полна решающих военных побед, которые приводили к политическим катастрофам. Для Клаузевица самый очевидный пример был близок к дому: карьера Наполеона. Никто не оспаривает военный гений Наполеона, который был мастером как тактики, так и стратегии. Но хотя череда его побед принесла Наполеону временный контроль над огромными территориями, они не обеспечили прочных политических достижений. Его военные завоевания лишь подтолкнули большинство европейских держав к объединению против него, и его империя рухнула через десять лет после того, как он короновал себя императором.
Действительно, в долгосрочной перспективе победы Наполеона обеспечили окончательный упадок Франции. На протяжении столетий Франция была ведущей геополитической державой Европы во многом потому, что Италия и Германия не существовали как единые политические образования. Италия представляла собой солянку из десятков враждующих городов-государств, феодальных княжеств и церковных территорий. Германия представляла собой еще более причудливый пазл, разделенный более чем на тысячу независимых государств, которые слабо держались вместе под теоретическим сюзеренитетом Священной Римской империи германской нации. В 1789 году перспектива немецкого или итальянского вторжения во Францию была просто немыслима, поскольку не существовало такого понятия, как немецкая или итальянская армия.
Расширяя свою империю в Центральной Европе и на Итальянском полуострове, Наполеон упразднил Священную Римскую империю в 1806 году, объединил многие мелкие немецкие и итальянские княжества в более крупные территориальные блоки, создал Рейнскую конфедерацию и Итальянское королевство и стремился объединить эти территории под своей династической властью. Его победоносные армии также распространяли идеалы современного национализма и народного суверенитета в немецких и итальянских землях. Наполеон считал, что все это сделает его империю сильнее. На самом деле, разрушив традиционные структуры и дав немцам и итальянцам почувствовать вкус национальной консолидации, Наполеон нечаянно заложил основы для окончательного объединения Германии (1866-71) и Италии (1848-71). Эти два процесса национального объединения были завершены победой Германии над Францией во Франко-прусской войне 1870-71 годов. Столкнувшись с двумя новыми объединенными и горячо националистическими державами на своей восточной границе, Франция так и не смогла восстановить свое господствующее положение.