основана на законах, правилах, стандартах и уставах, опирается на полную сеть, охватывающую кредитные записи членов общества и кредитную инфраструктуру, поддерживается законным применением кредитной информации и системой кредитных услуг, ее неотъемлемыми требованиями являются создание идеи культуры искренности, продвижение искренности и традиционных добродетелей, в качестве механизмов стимулирования используется поощрение сохранения доверия и ограничения против нарушения доверия, а ее целью является повышение честного менталитета и кредитного уровня всего общества.
Ранние версии системы были разработаны совместно с компаниями частного сектора, включая Alibaba, Tencent и компанию по обмену поездками Didi, с предполагаемой целью разграничения приемлемого (для властей) и неприемлемого поведения, а также ограничения мобильности и других действий нарушителей. С 2017 года прототипы системы социального кредитования были внедрены в десятках крупных городов, включая Ханчжоу, Чэнду и Нанкин. По данным Верховного народного суда, "неплательщики [по судебным постановлениям] были ограничены в покупке около 27,3 млн билетов на самолет и почти 6 млн билетов на поезд до настоящего времени (9 июля 2019 года)". Некоторые комментаторы стали рассматривать китайскую модель и ее систему социального кредитования как прототип нового вида "цифровой диктатуры", в которой авторитарное правление поддерживается путем интенсивного наблюдения и сбора данных.
По иронии судьбы это прямо противоположно тому, как, по мнению многих, Интернет и социальные сети повлияют на политический дискурс и демократию. Обещалось, что онлайн-коммуникация высвободит мудрость толпы, поскольку различные точки зрения свободно общаются и соревнуются, позволяя правде восторжествовать. Интернет должен был сделать демократии сильнее и заставить диктатуры обороняться, поскольку он раскрывал информацию о коррупции, репрессиях и злоупотреблениях. Вики, такие как ныне печально известный WikiLeaks, рассматривались как шаги к демократизации журналистики. Социальные медиа могли бы сделать все вышеперечисленное и даже лучше, способствуя открытому политическому дискурсу и координации между гражданами.
Первые свидетельства, похоже, подтверждают это. 17 января 2001 года текстовые сообщения использовались для координации протестов на Филиппинах против Конгресса страны, который решил проигнорировать критические доказательства против президента Джозефа Эстрады в процессе его импичмента. По мере того, как сообщения переходили от одного пользователя к другому, более миллиона человек пришли в центр Манилы, чтобы выразить протест против соучастия конгрессменов в коррупции и преступлениях Эстрады. После того как столица была остановлена, законодатели отменили свое решение, и Эстраде был объявлен импичмент.
Менее чем через десять лет настала очередь социальных сетей. Facebook и Twitter использовались протестующими во время "арабской весны", что помогло свергнуть долгое время правивших автократов Зин эль-Абидина Бен Али в Тунисе и Хосни Мубарака в Египте. Один из лидеров египетских протестов и инженер-компьютерщик Google Ваэль Гоним подытожил как настроение некоторых протестующих, так и оптимизм в мире технологий, сказав в интервью: "Я хочу однажды встретиться с Марком Цукербергом и поблагодарить его. Эта революция началась - ну, большая часть этой революции началась в Facebook. Если вы хотите освободить общество, просто дайте ему Интернет. Если вы хотите иметь свободное общество, просто дайте им Интернет". Соучредитель Twitter принял такую же интерпретацию собственной роли, заявив: "Некоторые твиты могут способствовать позитивным изменениям в репрессированной стране…".
Политики согласились с этим. Государственный секретарь США Хиллари Родэм Клинтон в 2010 году заявила, что свобода интернета станет ключевым столпом ее стратегии по распространению демократии во всем мире.
С такими надеждами, как же мы оказались в мире, где цифровые инструменты являются мощным оружием в руках автократов для подавления информации и инакомыслия, а социальные сети стали очагом дезинформации, которой манипулируют не только авторитарные правительства, но и экстремисты как правого, так и левого толка?
В этой главе мы утверждаем, что пагубное влияние цифровых технологий и ИИ на политику и социальный дискурс не было неизбежным и стало результатом специфического пути развития этих технологий. Как только эти цифровые инструменты начали использоваться в основном для массового сбора и обработки данных, они стали мощным инструментом в руках правительств и компаний, заинтересованных в слежке и манипулировании. По мере того как люди становились все более бесправными, контроль сверху вниз усиливался как в автократических, так и в демократических странах, а новые бизнес-модели, основанные на монетизации и максимизации вовлеченности и возмущения пользователей, процветали.
Система цензуры, оснащенная политическим оружием
В коммунистическом Китае никогда не было легко быть в оппозиции. В 1957 году председатель Мао заявил: "Пусть расцветают сто цветов", разрешив критику коммунистической партии, что многие восприняли как частичное ослабление репрессий, унесших миллионы жизней. Но надежды на то, что это означает более благосклонное отношение к инакомыслию, вскоре развеялись. Мао начал активную "антиправедную" кампанию, а тех, кто прислушался к его предыдущему приглашению и попытался выразить свои критические взгляды, арестовывали, сажали в тюрьмы и пытали. В период с 1957 по 1959 год было казнено не менее пятисот тысяч человек.
Но к концу 1970-х и началу 1980-х годов все выглядело совсем иначе. Мао умер в 1976 году, а сторонники жесткой линии, включая его жену Цзян Цин и трех ее соратников по Коммунистической партии, широко известных как "Банда четырех", проиграли последовавшую борьбу за власть и были отодвинуты на второй план. Дэн Сяопин, который был одним из лидеров революции, успешным генералом во время гражданской войны, архитектором антиправой кампании, генеральным секретарем и вице-премьером, а затем был вычищен Мао, вернулся на сцену и возглавил страну в 1978 году. Дэн вновь заявил о себе как о реформаторе и попытался провести масштабную экономическую реструктуризацию Китая.
В этот период произошло ослабление власти коммунистической партии. Появились новые независимые СМИ, некоторые из которых открыто критиковали партию. В этот период также начались различные низовые движения, включая продемократические студенческие движения и инициативы в сельской местности по защите прав обычных людей от захвата земель.
Надежды на более открытое общество в очередной раз рухнули во время бойни на площади Тяньаньмэнь в 1989 году. В относительно более свободные дни 1980-х годов в городах и особенно среди студентов нарастали требования больших свобод и реформ. Уже в 1986 году прошла крупная волна студенческих демонстраций с требованиями демократии, большей свободы слова и экономической либерализации. Приверженцы жесткой линии обвинили генерального секретаря партии Ху Яобана, выступавшего за реформы, в мягкости по отношению к протестующим и отстранили его от власти.
Новые протесты вспыхнули в апреле 1989 года после смерти Ху от сердечного приступа. Сотни студентов Пекинского университета вышли на площадь Тяньаньмэнь, расположенную в центре Пекина и отделенную Воротами Небесного мира (Тяньаньмэнь) от Запретного города. В течение следующих нескольких часов студенты составили "Семь требований", которые включали призывы подтвердить правильность взглядов Ху Яобана на демократию и свободу, прекратить цензуру в прессе и ограничения на демонстрации, а также пресечь коррупцию среди государственных лидеров и членов их семей.
Пока правительство колебалось, как реагировать, поддержка протестов росла, особенно после того, как 13 мая студенты начали голодовку. В середине мая до миллиона жителей Пекина вышли на демонстрацию солидарности. Наконец, Дэн Сяопин встал на сторону сторонников жесткой линии и одобрил военные действия против студентов. Военное положение было объявлено 20 мая, и в течение следующих двух недель более 250 000 военнослужащих были направлены в Пекин для подавления беспорядков. К 4 июня протесты были подавлены, а площадь опустела. По оценкам независимых источников, число погибших среди протестующих достигло 10 000 человек. Площадь Тяньаньмэнь стала поворотным пунктом в стремлении Коммунистической партии подавить свободы, появившиеся в 1980-х годах, и ограничить деятельность оппозиции.
Тем не менее, способность Коммунистической партии контролировать инакомыслие на огромных территориях, которые она контролировала, оставалась ограниченной в 1990-е и большую часть 2000-х годов. В начале 2000-х годов возникло низовое движение "Вэйцюань", объединившее большое количество адвокатов для защиты жертв нарушений прав человека по всему Китаю и отстаивания экологических, жилищных прав и свободы слова. Одно из продемократических движений, получившее наибольшую известность, "Хартия 08", возглавляемая писателем и активистом Лю Сяобо, опубликовала свою платформу в 2008 году и предложила реформы, которые вышли далеко за рамки семи требований протестов на площади Тяньаньмэнь. Они включали новую конституцию, выборы всех государственных чиновников, разделение властей, независимую судебную систему, гарантии основных прав человека и широкую свободу ассоциаций, собраний и выражения мнений.
К 2010 году публичное инакомыслие в Китае стало гораздо сложнее, а интернет стал мощным инструментом в руках властей для мониторинга и санирования политического дискурса. Интернет появился в Китае в 1994 году, и вскоре после этого начались усилия по цензуре. Великий файервол", направленный на ограничение того, что могут видеть китайские граждане и с кем они могут общаться, возник в 2002 году, был завершен в 2009 году и с тех пор периодически расширялся.
Однако в начале 2010-х годов цифровая цензура имела свои пределы. В ходе масштабного исследования в 2011 году были собраны и проанализированы миллионы сообщений в социальных сетях на 1382 китайских сайтах и платформах, а затем прослежено, были ли они удалены китайскими властями. Результаты показали, что Великий файервол был эффективен, но только до определенного момента. Власти не подвергали цензуре большинство (сотни тысяч) сообщений с критикой прави