От «фактов» к «данным»
Отвечая на вопросы в ходе встречи на Facebook в июне 2015 года, Марк Цукерберг очертил свое пугающее видение дальнейших направлений деятельности его компании:
«Я верю, что однажды мы сможем напрямую обмениваться друг с другом полноценными, яркими мыслями с помощью техники. Вам будет достаточно подумать о чем-то, и ваши друзья немедленно тоже это ощутят, если вы захотите. Это будет наиболее совершенная коммуникационная технология».
Подобное предсказание на тему телепатического общения оказалось не просто научной фантастикой, а чем-то вроде основ кадровой стратегии Facebook. Были размещены вакансии, где требовались инженеры для разработки «инновационных неинвазивных нейровизуализационных технологий» и «реалистичных гаптических симуляций полного погружения». Нейровизуализация – это технология обнаружения конкретных мыслей посредством сканирования мозга, а гаптика – наука о тактильном взаимодействии человека и компьютера. Одним из знакомых нам ее продуктов является манипулятор типа «мышь». Наконец компания Facebook вскоре наняла Марка Шевилета, прикладного нейробиолога из Университета Джона Хопкинса, и Регину Дуган, бывшую главой Агентства перспективных исследований в области обороны США (DARPA). По должности им было положено руководить разработкой «технологий плавного слияния физического и цифрового миров».
Появляются технологии, ограниченно заменяющие чтение мыслей. DARPA вложила 60 млн долларов в разработку сред взаимодействия типа «мозг-компьютер», а размещенный в Бостоне стартап «Neurable» работает над созданием средств отслеживания «намерений» пользователей в виртуальной реальности[187]. Илон Маск основал компанию Neuralink для разработки технологии «нейролент», которые будут опираться на вживление чипов непосредственно в мозг, тем самым объединяя компьютеры и мышление. Среди проектов Дуган для Facebook была разработка устройств, с помощью которых пользователи могли бы отправлять короткие «текстовые сообщения» одной лишь силой мысли и «слышать» их сами посредством ношения вибрирующего браслета[188]. Обсуждая в 2017 году эти новые технологические горизонты, Дуган привнесла красивый мультикультурный аспект в видение, изложенное Цукербергом пару лет назад: «Может статься, я смогу подумать что-то на китайском, а вы сразу же почувствуете это по-испански».
Если вынести за скобки продвинутые технические детали идей Цукерберга, его прогнозы пролили свет на философскую и этическую стороны его собственного мировоззрения. С его точки зрения, телепатия станет ультимативной коммуникационной технологией, к которой стремятся все взаимоотношения и которую Facebook желает сделать доступной. Все это принижает роль обычных языков человеческого общения, будь то в письменной или устной форме, как неэффективных и неполноценных, – тупиковой ветви технического развития. Пиковая форма коммуникации не будет предусматривать никакого символизма вообще, но даст ощущение абсолютной социальной близости, возможно даже любви.
В остальном же Цукерберг изложил свое видение неизменной миссии Facebook, а именно, «сделать нас ближе и построить глобальное сообщество», не просто обеспечивая лучшее качество связи и простоту обмена информацией, но создание своего рода «значимых групп», служащих основой для человеческой привязанности и самоидентификации[189]. Согласно Марку, прогресс – это движение в сторону все большей социальной и психологической близости. Конечная же цель состоит в том, чтобы устранить все границы, отделяющие одно сознание от другого, и принести нечто вроде блаженного единства, где даже никому и не требуется более говорить или водить пальцем по экрану. Это также приведет к чистейшей близкой связи между Facebook и его пользователями.
Телепатию можно представить как форму сопереживания, подобную физической близости. Но она же может служить средством перехвата чьих-то мыслей против воли и шифрования связи в стратегических целях. В более агрессивном контексте мысли в голове кого-то другого и есть своего рода секрет, для обнаружения или передачи которого требуются специальные методики. Невербальные способы общения давно играют важнейшую роль при ведении войны, как в координации союзников, так и в диверсиях у врага. Холодная война стала современницей массы безумных экспериментов в области телепатии. В 1964 году советские исследователи вживили электроды в мозг крольчихи, чьих детенышей забрали на подводную лодку в тысячах миль от нее и убили их там. Согласно ученым, мозг матери испытал болезненный укол точно в момент гибели крольчат[190].
В меморандуме 1972 года говорится, что Разведывательное управление Министерства обороны США обеспокоено возможностью того, что в СССР действительно сумели освоить методики гипноза и телепатии[191]. Одним из страхов было то, что благодаря им найдутся способы сознательно усыплять американских солдат посредством внушения на большом расстоянии. Во времена Корейской войны идея «промывания мозгов» вызвала панику среди чиновников Министерства обороны США, подозревавших, что коммунисты могли похищать и каким-то научным способом обращать бойцов противника в свою идеологию без их ведома. В рамках попытки выбить клин клином, DARPA обратилось к израильскому медиуму, сгибателю ложек Ури Геллеру, с целью оценить возможность использования его методик для нанесения урона советскому оружию.
Благодаря техническим прорывам, достигнутым в Кремниевой долине, фантазии о коммуникации «из мозга в мозг» становятся реальностью, не требующей паранормальных явлений. В отличие от идей времен Холодной войны понятие телепатии, к которой стремятся деятели вроде Цукерберга и Маска, предполагает заменить символические коды человеческой культуры и политики (которые мы сознательно воспринимаем, толкуем и понимаем) на биологические в сочетании с компьютерным программным обеспечением. Прямое сообщение будущего от мозга к мозгу будет опираться на подобие языка, только не того, который большинство людей способно понять, просто увидев его. Так, средства коммуникации окажутся приватизированы.
Такое количество новшеств Facebook вызывает глубокую тревогу за неприкосновенность личной жизни. Сразу же возникает вопрос, сумеет ли пользователь подобных технологий избежать того, что все его мысли окажутся прочитаны и разглашены? Каждый из нас имеет множество мыслей, которыми не готов делиться при общении. В Facebook говорят, что эти технологии будут перехватывать только те мысли, «которые вы уже решили озвучить, отправив их в речевой центр вашего мозга», но что остановит их от сбора дополнительной информации? Они отказались говорить, будут ли эти средства использоваться для рекламы, которая так или иначе является коммерческим назначением Facebook[192]. Наверное, в понимании Цукерберга «ультимативная коммуникационная технология» и предполагает объединить нас в сплоченные группы, но куда более вероятно, что она станет просто более продвинутой реализацией маркетинговой инфраструктуры.
В более широком философском смысле вызывает страх перспектива формирования общества, где люди являются считываемыми блоками данных без всякого понятия личной жизни. Общение становится сугубо физическим феноменом, в рамках которого наличествует передача данных с одного носителя на другой с максимальной эффективностью, исключая всякую неоднозначность смысла или понимания. Речь, к примеру, в таком случае рассматривается как процесс связи между мозгом и голосовыми связками, что производят вибрации, воздействующие на барабанные перепонки и так передающие информацию в другой мозг. Мышление и общение сводятся к их нейробиологическому пониманию, сенсорным сетям их обработки и передачи. Как следствие, эти сети могут подлежать технологическому усилению и совершенствованию, подобно использованию трости и ношению очков.
Труды Чарльза Дарвина и других ученых в области экспериментальной психологии 1870-х годов начали процесс обращения разума в нечто, доступное для наблюдения посредством физических и поведенческих индикаторов. Но XXI век является свидетелем окончательного разрушения его Декартова понимания как частной, метафизической сущности. Это оказывает преобразующее влияние на саму природу познания, которое проникает в наши политику и культуру комплексными и сбивающими с толку путями. Вместо разума, что фиксирует переживаемый опыт, и заслуженных индивидов, признаваемых экспертами, остается просто мозг, физический орган, который получает впечатления и передает выражения. Познание предполагает обнаружение закономерностей среди миллиардов этих впечатлений, однако это задача, с которой компьютеры справляются лучше людей.
В условиях переосмысления наших мыслей и слов как физических действий «объективность» их позиции становится менее достоверной. В конечном счете, если мышление – физический процесс, как оно может быть изолировано от чувств и намерений? Почему следует отгораживать мысли от остального тела, с которым они связаны посредством нервной системы? Претензии экспертов на способность разделять «ощущение» и «познание» становится невозможно обосновать, а их беспристрастная нейтральная позиция есть не более чем одно из множества эмоциональных состояний. Речь и мысль теряют свою основополагающую изобразительную роль (зеркальное отражение бытия) и оказываются всего лишь элементом поведения, который подлежит отслеживанию с целью обнаружения чего-то значимого. Самый важный же вопрос в том, кто владеет оборудованием для слежки и ставят ли они своей целью сопереживание или еще больший контроль? Наиболее вероятный ответ: им нужно и то, и другое.
Физический разум
Компьютеры, как и сети, соединяющие их между собой, изначально служили инструментами ведения войны. Начиная с ранних 1940-х до середины 1960-х годов потребности армии США являлись основанием для разработки электронно-вычислительных машин, при этом академические центры (в первую очередь MIT и Стэнфорд) и коммерческие компании (в первую очередь IBM) стали основными получателями прибыли. Самые первые компьютеры были сконструированы во время войны ценой огромных денег с целью добиться более высокой точности противовоздушных орудий. Во время Холодной войны угроза катастрофической атаки с воздуха привела к созданию в конце 1950-х годов автоматизированной системы SAGE (Semi-Automatic Ground Environment) – центра контроля, выполненного в виде комнаты, напичканной экранами и прочими средствами визуализации, предназначенного для обнаружения приближающихся бомбардировщиков. Оборонные ведомства США впервые решили соединить университетские компьютеры в середине 1960-х годов, исходя из предположения, что вычислительная сеть будет менее уязвима для ядерного удара, чем один центральный узел, таким образом создав предшественника сети Интернет.
Лишь необходимость времен Второй мировой войны, а затем угроза взаимно гарантированного уничтожения Холодной войны обеспечили достаточную политическую заинтересованность в самом по себе создании ЭВМ. Развязанный Третьим рейхом конфликт связал научное и военное сообщества крепким альянсом, который по меньшей мере в США существует до сих пор. Основанный в 1940 году Национальный исследовательский комитет по вопросам обороны США определил шаблон для нового стиля инвестиций в науку, которые характеризовались большими бюджетами и высокими рисками. Часто они были засекречены и преследовали цели, связанные с неотложными национальными потребностями. Впоследствии это стало называться «Большая наука». Кроме того, это явление имело междисциплинарный характер, объединяя усилия «фундаментальных» и «прикладных» ученых в манере, необходимой для разработки вычислительных устройств. В тех условиях срочности вопросы «теории» и «реализации» решались одновременно. То, как цифровая культура оказалась мостом между материальным миром технологий и абстрактным миром кодов и символов, является наследием времен, когда высокотехнологичная война свела за одним столом механиков, математиков и философов.
Логику, стоящую за этим технологическим новшеством, в какой-то степени мог бы понять Карл фон Клаузевиц. Компьютеры служат обеспечению вечных логистических потребностей в управлении собственными военными ресурсами и прогнозировании действий противника. Как и полагал Клаузевиц, хороший военачальник должен «учуять истину». Большая часть разработанных после 1940 года вычислительных мощностей была предназначена для отслеживания происходящего, чтобы помочь тем, кто принимает решения, ориентироваться в быстро меняющемся враждебном мире. Проблема, вызванная воздушными бомбардировками, быстро сменившимися угрозой атомных бомб и баллистических ракет (впоследствии скомбинированных в ядерные баллистические ракеты), состояла в том, что обычное человеческое восприятие и познание более не позволяло в должной мере отследить действия противника.
Однако электронные вычисления вышли далеко за пределы воображения Клаузевица в части механизации мышления как такового. В первые годы после окончания Второй мировой войны различные математики, философы и психологи стали размышлять о том, реально ли человеческое мышление и общение смоделировать посредством математических формул. Британский математик (а впоследствии знаменитый победитель шифров) Алан Тьюринг в своей статье «О вычислимых числах» представил концепцию «Машины Тьюринга», которая могла быть запрограммирована на исполнение базовых команд в ответ на различные символы, подаваемые ей в неизвестном заранее порядке. Хотя в реальности машина никогда не конструировалась, ее принцип проиллюстрировал скачок от абстрактных математических вычислений к их технологической реализации. Для программирования таких машин необходим человек, но сами они способны выполнять различные вычисления без посторонней помощи.
Сегодня идея программируемой машины столь знакома нам, что мы часто не замечаем специфических предположений, лежащих в ее основе. Во-первых, она полагает вычисление такой же деятельностью, как и любая другая. Как писал в 1948 году Уильям Росс Эшби, британский психиатр, лично знавший Тьюринга, «мозг есть устройство не думающее, а действующее»[193]. Мыслительные процессы являются задачами, которые могут быть разделены на последовательности отдельных подзадач: это и подразумевается под цифровой обработкой чего-либо. Эти подзадачи могут быть объединены в код, и машина сможет исполнять их по одному. Вера Марка Цукерберга в телепатию принципиально полагается на идею о том, что «мысли» – это не более чем последовательности физических действий, шаблоны которых потенциально возможно прочесть как улыбку на лице или подлежащее взлому зашифрованное сообщение. Понимание значения вещей на деле лишь вопрос распознавания шаблонов, то есть порядка следования. С данной точки зрения любое понимание и толкование сродни разгадке шифра.
Во-вторых, программист инструктирует компьютер подчиняться определенным правилам, которые затем преобразуются в исполняемые команды. Всякая деятельность регулируется иерархически, как у военных. Данные инструкции вместе составляют реальность, которая – хотелось бы – более послушна желаниям командира. Основная лингвистическая форма языка вычислительной машины это «СЕЙЧАС ДЕЛАЙ ТАК». И программист, и военачальник испытывают опасения, что инструкции могут быть переданы недостаточно ясно и наступит хаос. Клаузевиц предупреждал о проблеме «трения», которая тормозит военные планы, когда те встречаются с беспорядочно меняющимся миром. Хорошие инструкции настолько просты и ясны, насколько возможно, и содержат минимум риторических и эстетических излишеств.
Ничто из этого не нуждается в языке общения в его общепринятом понимании. Успешность коммуникации зависит от того, насколько эффективно она дошла из точки А в точку Б. Семафорные линии Наполеона проходят через всю Европу («телеграф Шаппа») посредством цепочки механических движений. Человек передает инструкции автомобилю, вращая руль и нажимая на педали. Смартфон сообщает своему владельцу информацию, вибрируя у него в кармане. Есть множество «интерфейсов», посредством которых осуществляется взаимодействие человека с компьютером, и экраны с текстом – это лишь частный случай. Задачей гаптики, в той ее части, что исследует Facebook, является делать границу между человеческим и цифровым все менее и менее заметной.
Понимание коммуникации в таком полувоенном контексте имеет серьезное влияние на понимание природы знания и экспертизы. С данной точки зрения главная способность человеческого разума или эксперта не формировать достоверную картину бытия, а эффективно выдать или выполнить команду. Аналогично встает политический вопрос не о том, «могу ли я верить, что этот человек говорит правду?», а «приведет ли меня этот человек к моей цели?». Если колоритным примером знания середины XVII века является карта, построенная в соответствии со строгими законами геометрии, ее эквивалентом из XXI века будут Google-карты, технология, которой нужно указать лишь наш пункт назначения, который затем будет преобразован в последовательность команд повернуть влево или вправо. Мы сообщаем Google-картам желаемую цель, а они обеспечивают нас инструкциями. Функция этой технологии не в том, чтобы получить отражение реальности, а в том, чтобы следовать плану.
Разум как оружие
В ходе Холодной войны ожидания военных от компьютеров продолжали расти. Если SAGE требовалось, чтобы за данными о воздушных аппаратах следил человек, системы, разработанные в 1960-х годах, снизили его участие в механизмах ядерной защиты. Теперь компьютеры потенциально могли сами обнаруживать приближающиеся ракеты и самостоятельно инициировать ответ. Эти машины были достаточно велики, чтобы занимать целую комнату, потребляя огромные количества электроэнергии и вложенных в науку денег. Но военные исследователи утверждали, что только когда интеллектуальные системы защиты перейдут на сверхчеловеческий уровень, Запад будет защищен от возможной советской атаки.
Сбор разведданных и эффективные коммуникации давно являются необходимыми для успешного ведения войны. Но после того, как бомбардировки с воздуха уступили место угрозе межконтинентальных баллистических ракет, чтобы контролировать последние, военные технологии превзошли способности человеческого разума. Эти угрозы повысили приоритет таких научных направлений, как информатика, теория игр, бихевиоризм и когнитивистика в рамках оборонной политики США. Там, где столь много зависит от одного конкретного решения (как характерно для ситуаций с участием ядерного вооружения), вопрос «рациональности» действий требует решения с помощью наилучших механических и математических средств из возможных.
Аналитический центр «RAND Corporation» получил известность за свои разнообразные симуляции ядерной войны, разработанные с целью определения оптимальной стратегии на случай, если таковая война когда-нибудь случится. «Виртуальная реальность» изначально задумывалась как способ тестирования различных военных стратегий ввиду отсутствия права на ошибку в реальном мире. Наполеон превратил войну в противостояние между населениями стран, Холодная война довела это до состязания национальных разведывательных инфраструктур как в плане шпионажа, так и по части «искусственного интеллекта». Данная парадигма жива и по сей день. Владимир Путин выразил точку зрения, регулярно продвигаемую такими, как Илон Маск, что в XXI веке будет доминировать та страна, которая сумела опередить остальные в развитии искусственного интеллекта[194].
Первоначальным вопросом, который ставил Тьюринг, было – может ли машина «мыслить», и сам он утверждал, что да. Но эта проблема быстро развернулась в другую сторону и превратилась в спекуляцию на тему того, какой «машиной» является разум. В период 1940–1959 годов, когда компьютеры стали наделяться едва ли не метафизическими, человеческими свойствами, ученые-когнитивисты представляли людей как информационные контуры. Разум и машина оказались доступными для прямого сравнения, и встал вопрос о том, что из них лучше для чего подходит. Там, где стоит задача, требующая скоростных вычислений или математического моделирования (что характерно для отслеживания и прогнозирования воздушных атак), машина неизбежно превосходит своего создателя. После того как компьютеры смогли «учиться» широкому спектру человеческих языков, благодаря проектированию их по принципам, схожим с устройством человеческого мозга, все больше культурных форм коммуникации стало можно оцифровать. В какой-то момент данной тенденции развития единственной функцией человека останется иметь чувства, намерения и желания, а техника сделает все остальное.
Одно из самых привлекательных свойств компьютеров, с точки зрения различных предпринимателей из Кремниевой долины и идеологов вроде Рэймонда Курцвейла, состоит в том, что им не нужно умирать, как происходит с человеческим телом. Таким образом при должном улучшении человек мог быть жить намного дольше или даже вечно. Если технологии позволят делиться мыслями с другим мозгом напрямую, то в какой-то момент человеческий разум получится загрузить в компьютер целиком, где его жизнь будет потенциально бесконечной. Эта безумная фантазия, известная как «сингулярность», симптоматична для фундаментально военного предназначения ЭВМ, изначальный смысл существования которых заключался в том, чтобы любой ценой сохранить «наше» существование и уничтожить «их». Перефразируя Гоббса, это мечта о жизни как «беспросветной, тупой и долговременной». Здесь мы наблюдаем еще одно проявление социального дарвинизма, где истина определяется банальным выживанием перед лицом угроз, а не рассудком или консенсусом.
Сразу после окончания Холодной войны было до конца не ясно, для чего сеть Интернет могла сгодиться в роли гражданской технологии, если не считать работу специалистов по информатике из научных учреждений. Запуск Всемирной сети в 1990 году стал началом короткого периода идеализма, в сравнении с которым трудно было представить что-то более отличное от паранойи предыдущей эпохи, двигавшей раннее развитие вычислительных сетей. Мечты об электронной демократии рисовали общественную жизнь, охватывающую всех и сразу. Главным препятствием для достижения этого был «цифровой раздел» между теми, у кого подключение есть и у кого нет. Следовательно, доступ в Интернет следовало рассматривать как базовое демократическое право. Так вычислительные сети стали представляться чем-то в духе эпохи Просвещения, продвинутой формой печатного станка или парламента, или, не исключено, даже комбинации их обоих. Так или иначе, предполагалось (оптимистически), что у них появится представительская демократическая функция.
Сегодня Интернет прочно зарекомендовал себя гражданской технологией, посредством которой мы совершаем покупки, общаемся, встречаемся и получаем доступ к любому «контенту». Распространение смартфонов в XXI веке привело к тому, что проблема «цифрового раздела» уже не так существенна. Благодаря растущему разнообразию физических цифровых инструментов мы также находимся на связи со своим городским окружением, материальными приспособлениями и телами, подчас способами, почти нам незаметными. Но что становится все более ясно теперь, когда оптимизм вокруг «киберпространства» и «виртуального общества» поутих, так это что Интернет сохранил в себе кое-что от своего военного назначения. Будучи на службе у крупного бизнеса вроде Facebook или у правительственных ведомств, он остается самым эффективным инструментом слежки, обнаружения и контроля.
То, как мы оплетены цифровыми сетями через приложения и площадки, основывается на обещании более эффективной координации: мир станет для нас не более понятным, а более послушным. Uber, к примеру, избавляет пассажира от необходимости знать номера такси, адреса или карту, заменяя это все технологией команды. Телепатия по Цукербергу – тоже одна из команд, позволяющая «пользователю» А отправить мысль гражданину Б с минимумом усилий и внимания. Конечно, в процессе этого компании, которые обеспечивают данные способы сообщения, стремятся изобразить себя столь необходимыми для социальной среды, что конечные средства контроля являются их прерогативой.
Цифровые сети определенно имеют возможность произвести новые формы познания, благодаря данным, что мы теперь регулярно оставляем о себе, но лишь малая часть этих сведений оказывается обнародована. Секретность Кремниевой долины привлекает теорий заговора не меньше, чем оборонные ведомства времен Холодной войны в 1950-х и 1960-х годах. По своей природе технология сетей Интернет предназначена не для поддержки научных идеалов основанного на фактах консенсуса и объективности, а для реализации военных представлений об эффективной координации, необходимой для победы. Ее ключевые преимущества заключаются в скорости и чувствительности к изменениям, что позволяет ей предоставлять знания, скорее необходимые для войны, нежели поддерживающие мир.
Между разумом и миром
Большинство пользователей смартфонов и Интернет знают, что эти технологии являются инструментами слежки, даже если мало кто из нас находит время об этом подумать. Бесплатные службы, такие как социальные сети или поисковые системы, имеют свой заработок за счет сбора и анализа данных, которые потом используют, продавая пространства для таргетированной рекламы. Как сказал эксперт по приватности Брюс Шнайер, «слежка является бизнес-моделью Интернета»[195]. Это вызывает ряд политических вопросов по поводу того, как эти компании воспользуются этой новой силой. В частности, Google, Apple, Facebook, Amazon и Uber получают беспрецедентные данные о наших мыслях, чувствах, перемещениях, взаимоотношениях и предпочтениях в таких деталях, какие никогда не были доступны традиционным социологам, статистикам или маркетологам. В сочетании с аналитическими алгоритмами способности «больших данных» к прогнозированию невероятны, а потенциал применения и злоупотребления вызывает опасения. Судьбоносные решения в том, что касается законодательства, управления персоналом, потребительского кредитования, контртерроризма и много чего еще, все могут приниматься исходя из анализа данных, но эта сила часто не видна и в основном кроется в непрозрачном коммерческом секторе[196].
«Большие данные» с традиционной статистикой объединяет одно – и то и другое строится на цифрах, но их политические различия колоссальны. Традиционные научные организации, такие как Лондонское королевское общество и национальные статистические ведомства, предполагают наличие небольшой группы экспертов, производящих знания, которые потом делаются доступными для широкой публики. Это может вызвать недовольство, если кто-то из членов общества почувствует себя вне поля зрения произведенных фактов. В случае с «большими данными» все практически наоборот: широкая публика своими поисковыми запросами, перемещениями и статусами в Facebook все время производит знания, которые затем становятся доступны небольшой группе экспертов. Коль скоро это коммерческий ресурс, никакой нужды разглашать эти данные нет.
Чтобы действительно понять преображающую мир силу Кремниевой долины, необходимо рассматривать амбиции этих компаний шире, чем в плане политики и экономики. Хотя комментарии Цукерберга о телепатии звучат несбыточно, они также отличаются впечатляющей честностью в отношении конечных стремлений Интернет-корпораций вроде Facebook. Их настоящая цель – обеспечивать инфраструктуру, через которую люди взаимодействуют с окружающим миром. Это вмешательство в одинаковой степени и философское и технологическое, из-за чего компьютеры оказываются замешаны в базовые отношения между «разумом» и «миром», что доставили Декарту столько сомнений еще в 1630-х годах. Согласно данному видению, когда разум пожелает чего-то узнать, он обратится к Google; когда захочет с кем-то пообщаться, он воспользуется Facebook. Если нам захочется оказаться где-то в другом месте, мы кликнем по иконке Uber; а когда захочется просто чего-нибудь, Amazon это доставит. И так далее.
Чтобы убедиться в успехах данного проекта на сегодняшний день, достаточно взглянуть на то, сколько людей в вагоне метро погружены в свои телефоны и сколько переходит улицу, уткнувшись в экран. Наша «зависимость» от своих устройств провоцирует навязчивое культурное беспокойство по поводу того, что мы не успеваем замечать, пока копаемся в сети. Если мы будем рассматривать эти устройства чисто в контексте знаний или контента, что они нам предоставляют, словно высокотехнологичная замена газетам, то мы недооцениваем их силу. Соблазн смартфона происходит из его военного происхождения: экран показывает мир, послушный нашим командам. Прокручивание и «свайпинг» удерживают наше внимание до тех пор, пока заложенные в приложение и платформу функции не расплываются в постоянное, беспорядочное использование. Смартфоны вызывают привыкание за счет того, что они взаимодействуют с нами физически (в данном случае через наши руки) в той же степени, что и ментально, через наши глаза и умы. Мы все больше изучаем свои экраны скорее из-за того, что они под нашим контролем, нежели из-за информации, которая на них отображается.
В долгосрочной перспективе экраны тоже станут недостаточно удобны для реализации амбиций быть связующим звеном между миром и разумом. Технологии распознавания речи, используемые в Amazon Echo и Apple Siri, делают возможным считывание мыслей и желаний акустически, превращая их в данные. Amazon запатентовала технологию определения личности говорящего в любой момент и постепенного формирования профиля его личности и предпочтений. Демонстрируя любопытную смесь сенсорных метафор, она известна как «голосовой сниффинг». Нательные устройства, такие как Apple Watch и Fitbit, отслеживают показатели, даваемые нашими телами, когда те реагируют на различные продукты или окружение. Amazon Dash – это небольшое устройство, которое крепится к стене и снабжено кнопкой, чтобы нажимать ее всякий раз, когда пользователь замечает, как дома что-то закончилось, после чего в Amazon сразу отправляется заказ. Все эти технологии делают одну вещь – минимизируют шанс, что индивид попытается выразить свои мысли в какой бы то ни было среде, не относящейся к тому, чем владеет используемая платформа. Разумеется, все, что может напрямую обращаться к «мыслям», как только те появляются в мозгу, будет реализовано самым оперативным способом.
Инфраструктура, создаваемая в Кремниевой долине, далека от фантастических антиутопий XX века с их тотальной правительственной слежкой и жестокой тайной полицией. В той же степени она не похожа на статистические методики, такие как переписи, голосования и опросы, которые требуют, чтобы специалисты шли в народ и задавали вопросы, порой создавая респондентам неудобства. Разница в том, что мы сознательно принимаем цифровую слежку в свой быт, потому что она обещает нам контроль над нашей жизнью. Она позволяет нам выдавать команды вроде: «Нужно больше чистящих средств на кухню!», «Вызови мне такси!», «Расскажи прогноз погоды!». То, как мы принимаем растущее глобальное доминирование Uber и т. п. в основном потому, что они дают нам возможность немножко подоминировать самим над таксистами, информацией и материальными ценностями, являет собой мрачное отражение человеческой психологии.
Все, что мы делаем, оставляет отпечаток. Этот отпечаток – данные. Но данные такого рода не во всем похожи на знания или факты. Это скорее ближе к следам, оставленным на пляже: свидетельство некого физического действия в прошлом. В случае технологических гигантов Кремниевой долины этот гипотетический пляж открыт для широкой публики, но находится в частной собственности, что дает владельцам право анализировать следы на песке. В утопии Цукерберга и других всякая мысль или эмоция, проскользнувшая в наших умах, будет оставлять следы, открывая глубины человеческой психологии для инспекции невиданных масштабов. Критики Кремниевой долины порой утверждают, что данные должны принадлежать пользователю в прямом смысле, коль скоро мы их произвели (как если бы заказ на Uber был сродни написанию стихов). Но если аналогия с пляжем верна, будет ли разумным утверждать, что мои следы – мои, особенно если песок не мой? В этом главная загадка данной проблемы. В отличие от статистиков или социологов Кремниевая долина стремится не составить точный портрет общества, а обеспечивать инфраструктуру, от которой мы все зависим и которая при этом будет фиксировать наши перемещения и настроения с наивысшей чувствительностью.
Прорывы в области методик машинного обучения увеличили чувствительность сверх пределов человеческого сознания. «Анализ чувств» включает в себя алгоритмы обучения по обнаружению разного рода эмоций в предложении, которые могут применяться для отслеживания эмоций, выражаемых в Twitter, Facebook, электронной почте или (благодаря технологиям распознавания речи) телефонном разговоре. «Аналитика лиц» реализует нечто похожее в части определения чьих-либо чувств исходя из движений на лице, и, по-видимому, теперь может использоваться для определения сексуальной ориентации[197]. Вся область «аффективных вычислений», преобразившая маркетинговые исследования, использует машинное обучение, чтобы позволить компьютерам определять эмоции по языку тела и поведению. Большое разнообразие точек данных анализируются одновременно, наши предпочтения в покупках могут коррелировать с нашими привычками в общении, а те с политическими убеждениями. Одно из исследований показало, что усредненный пользователь смартфона трогает свое устройство 2 617 раз в день, и каждое из этих касаний является своего рода точкой данных, полагая, что все они попали на сенсорные поверхности[198]. С учетом того, сколько внимания уделяется физическому телу как объекту цифрового отслеживания, больше нельзя назвать сеть Интернет чем-то «виртуальным» или «нереальным».
Чем дальше наблюдение проникает в наши жизни и культуры, тем более эмоционально интеллектуальными будут становиться машины. Расположенная в Бостоне и специализирующаяся на аффективных вычислениях компания Affectiva в 2017 году хвасталась, что проанализировала 4,7 млн лиц из 75 стран[199]. Еще одна компания, рожденная в Вашингтонском университете под названием Megaface, располагает базой данных из 5 млн изображений 672 000 людей. Ира Кемемахер-Шлицерман, профессор информатики и консультант в Megaface, утверждала, чтобы дать ход практическому применению, нам необходимо протестировать распознавание лиц в планетарном масштабе – тестирование в больших масштабах позволяет обнаруживать успехи и недостатки алгоритмов распознавания[200]. Бесконечное расширение слежки оправдывается тем, что это помогает машинному обучению.
Аналоговые статистические методики, такие как опросы, требуют от нас выражать свои взгляды и предпочтения в сознательной, связной и объективной манере, часто давая себе время на размышления. Цифровые же платформы, напротив, ожидают лишь того, чтобы мы продолжали проявлять эмоции и требовать, чего хотим и как, а алгоритмы отследят закономерности в получившемся хаосе. Не нужно заранее определять конечное число каких-либо классификаций или категорий (таких как «трудоустроен», «безработный», «самозанятый»). Чтобы зафиксировать чувства, тем не нужно быть осознанными или вербальными. Все может быть определено исходя из слов, изображений и следов, оставшихся после нас.
Аналитики данных теперь имеют огромное преимущество перед традиционными технократами и бюрократами. Неприязнь к экспертам проистекает из глубинного ощущения того, что в своем внимании к математическим законам и моделям те мало заинтересованы в конкретных людях, их желаниях, страхах и жизнях. Facebook не страдает от подобного отчуждения, поскольку его «фасад» и «тыл» совершенно различны. Его пользователи выражают себя собственными словами и чувствами, предоставляя уникальные биографии. Но за кулисами все это собирается вместе и подвергается математической обработке. По мере того как вычисления становятся все сложнее и сложнее, пользователь уже даже не ощущает в этом никакой математики.
От науки к науке данных
Любопытной особенностью аналитики «больших данных» является то, что занятым в этой сфере специалистам не так уж важно, от кого получены данные, от людей, частиц в атмосфере, автомобилей или бактерий. Профессионалы в области анализа данных чаще более подкованы в математике и физике, нежели в социологии. Они производят знания о нашем поведении, но никак не претендуют на экспертное мнение о людях, шопинге, финансах или градостроении. Им нет до нас никакого дела. Их умения относятся скорее к изучению тех аспектов бытия, что уже переведены в численные величины, чем изучению бытия как такового.
Это приводит к появлению нового типа экспертов, отличного от того, который появился в XVII веке. Они не изучают природу или общество так, как делали их предшественники, а обнаруживают закономерности в данных, уже зафиксированных компьютерами. В отличие от ученого аналитик данных сравним скорее с библиотекарем, т. е. с тем, кто обучен ориентироваться в обширной коллекции уже записанной информации. Разница в том, что архив данных растет с огромной скоростью, постоянно пополняясь благодаря множеству неодушевленных устройств их сбора, и может быть проанализирован только алгоритмически.
Возьмем для примера психологию. Наука о данных раскрывает много такого, что может заинтересовать психологов, ввиду способности алгоритмов распознавать эмоции, шаблоны поведения и тревоги среди населения. Facebook изначально построен так, чтобы формировать осмысленные с точки зрения психологии данные, что позволяет их рекламодателям попадать в целевую группу с огромной точностью. После выборов в 2016 году в США сообщалось, что можно было выбрать любую из 175 000 версий политической рекламы и направить ее подходящему человеку, исходя из 300 его «лайков»[201]. И тем не менее аналитикам данных не требуется никаких теоретических знаний о том, как формируются политические взгляды и что это вообще такое. Равно как и не нужно им никакого заранее определенного представления о том, что стоит изучать. Они лишь определяют, как различные закономерности в поведении, изображения и слова могут коррелировать в пределах определенной части населения.
Основное отличие «больших данных» (их размер) в то же время является их ключевой проблемой. Задачей аналитика является содействие извлечению чего-то значимого из набора данных при игнорировании всего остального. Ценность его заключается в отбрасывании огромных массивов бесполезной информации, оставляя лишь то, что заслуживает внимания[202]. Однако если у них нет никакого реального интереса к рассматриваемой теме (кроме математического), то у них нет и собственного понимания того, что есть «значимое», – как следствие, они действуют на усмотрение клиента. Иначе же в работу будут вклиниваться их собственные предубеждения и предположения, минуя сознательное осмысление и критику[203].
Клиентов, использующих услуги науки данных, постоянно становится все больше. «Quants» могут делать большие деньги, работая на банки с Уолл-стрит и хедж-фонды, разрабатывая алгоритмы для анализа динамики цен. Проекты типа «умный город» полагаются на датологов в деле обнаружения закономерностей в беспорядочных передвижениях городского населения, ресурсов и транспорта. Фирмы, подобные Palantir Питера Тиля, помогают службам безопасности определять вероятные источники угрозы, выделяя опасные шаблоны поведения. И наконец, существуют темные конторы вроде Cambridge Analytica, предоставляющие потенциальным клиентам услуги по формированию обращений к определенным избирателям. В каждом из этих случаев аналитик данных может дать совет, что сделать с целью послужить определенным интересам или идеям, но такие, как он, редко подкованы в производстве фактов как основы общественного консенсуса.
Коммерческие аналитические компании неизбежно сталкиваются с проблемами коммерческой тайны и клиентской конфиденциальности. Но если дело касается «больших данных», нет ясности, что на самом деле должен означать «факт»: смысл того, что отражают данные, зависит от предмета поисков, которые зависят от того, кто вы такой. Познание такого рода преследует стратегические цели, а не служит формированию общей картины мира. Какая истина скрыта в обширных массивах беспорядочных данных, отчасти зависит от того, что там ищут. Там, где хранится столько свидетельств наших поведения и историй поиска, записанных автоматически, у людей циничных появляется возможность способствовать формированию неполного и лживого портрета личности или события. Это опасно сочетается с расистской и националистической политикой, что стремится преувеличить культурные и моральные барьеры, используя для этого тщательно отобранные образы. Нет даже необходимости фабриковать свидетельства, когда извлечение значимых данных проделано с достаточной степенью политической предвзятости.
В условиях отсутствия стратегических целей находки датологии демонстрируют странную банальность, если не очевидность. Google может сообщить нам, что люди ищут «лекарство от гриппа» раньше, чем заболеют. Uber известно, что потребность в такси в центре Манхэттена наиболее высока в определенное время ночи по пятницам. Facebook знает, что мужчины сорока лет в одном из пригородов Бристоля любят крафтовое пиво и группу Radiohead. Ничего из этих фактов не значит ничего особенного. Однако для всякого, кто ищет способ предугадывать и контролировать такие вещи (и делать это оперативно, в реальном времени), эта информация имеет колоссальную ценность.
Центральной проблемой в традиционной статистике является необходимость гарантировать, что их наборы данных и модели являются репрезентативными. Если необходимо провести опрос среди группы населения (к примеру, посредством голосования), требуется приложить усилия, чтобы ее состав приблизительно отражал общие пропорции в составе общества. Методики репрезентативной выборки стали использоваться с 1920-х годов и сыграли важнейшую роль в появлении опросов общественного мнения. Достижение репрезентативности является поистине демократическим стремлением, коль скоро ставит своей целью гарантировать, что факты в равной степени учитывают всех членов общества, хотя по ряду причин этого может и не получиться. Электронный анализ, в свою очередь, обычно принимает данные в том виде, в каком они были зафиксированы. Вопрос, кого или что эта выборка «представляет», – дело второе. Таким образом соблюдать интересы граждан в данном случае становится сложнее.
Взамен электронный анализ предлагает невероятную чувствительность к изменчивости настроения и поведения, что проявляется в предпочтениях потребителей, потреблении электроэнергии, да и вообще любым движениям и мыслям, способным оставить какой-то след. Вместо того чтобы изучать «репрезентативную выборку», датология предполагает наблюдение за максимально большим количеством людей, которое у технологических гигантов, как Amazon, Google, Facebook и т. п., поистине огромно. Эти платформы не только отслеживают поведение пользователей далеко за рамками своего штатного применения (к примеру, Uber продолжает следить за пользователем после завершения поездки, а Facebook – за тем, какие веб-страницы посещаются кроме него), а некоторые формируют профили по людям, не имеющим у них учетной записи, исходя из следов, оставленных теми в других местах. Столь масштабная слежка позволяет создавать невероятно детальные профили тех, на кого она направлена, но, как правило, она не используется для формирования достоверного портрета общества в целом. Анализ данных не дает исчерпывающих фактов, таких как «безработица среди молодежи» или «грамотность», но обнаруживает кластеры чувств и трендов, которые могут стать целью для рекламы или политической кампании.
Такая эмоциональная чувствительность позволяет реализовать теоретически жесткие формы контроля в интересах тех, кто стремится повлиять на публику. В 2017 году Facebook выпустили закрытый отчет для рекламодателей, где хвалились тем, что добились возможности определять подростков, переживавших «уязвимость», «беспомощность» и «потребность в стимуле уверенности в себе», полагая, что они будут более чуткими к определенным видам рекламы[204]. Не будь он слит в мае 2017 года одной из австралийских газет, этот метод маркетинга так и остался бы в тайне от общественности, – еще одним «неизвестным известным», определяющим наше повседневное окружение.
Цифровые технологии привели к тому, что практически любая культурная особенность может быть численно измерена. Аппаратные возможности, позволяющие собирать и анализировать такие сведения, были разработаны перед лицом определенных угроз с воздуха, для борьбы с которыми оказалось мало человеческого разума и традиционной экспертизы. Сегодня наша повседневная жизнь структурируется по методикам разведки, разработанным для планирования и предотвращения ядерных ударов. В результате, хотя некоторые аспекты нашего быта становятся все более и более послушны нашим спонтанным личным порывам, перспектива мирного консенсуса кажется все менее заметной. Тем временем возможности мобилизации людей в полувоенной манере достигли беспрецедентных технических высот. Одним из последствий этого стало то, что политические дискуссии, в особенности те, что ведутся преимущественно в сети, начали больше походить на конфликты.
Стремление к войне иными средствами
Вычислительные сети всегда были связаны со специфическим юмором. На протяжении большей части своей истории программисты шутили друг с другом, находя забавным тот факт, что они способны общаться непонятным для остального общества способом. Для развлечения коллег некоторые фрагменты кода могли содержать каламбуры. Классическая надпись на футболке компьютерного гика гласит «There’s no place like 127.0.0.1». Эта шутка отсылает к факту того, что 127.0.0.1 является самым типичным адресом для локального хоста, также известного как «home».
В данном случае юмор делает то, что может иметь серьезные политические последствия. Во-первых, он служит усилению общей идентичности в узком кругу людей. Подобно техникам, передающим компьютерам инструкции, они служат передаточным звеном между стоящими над ними лицами, принимающими решения, и средствами исполнения этих решений. Хотя программисты почти не имеют контроля над системой в целом, они все еще способны на саботаж. Внутренний юмор гик-культуры часто касается способов незаметного вредительства и затягивания.
Однако гиковский юмор делает и кое-что еще. Он играет на факте использования двух разных типов языка. Есть язык человеческой культуры, включающий в себя метафоры, образные представления и поэтические описания, как способ объять сложность человеческих переживаний. И есть язык машин, в котором каждый маленький фрагмент информации является исполняемой командой и ссылается лишь на внутренне вычислимые данные и алгоритмы. Программисты (кодеры) способны переключаться между ними и шутить по поводу возникающих недоразумений и путаницы. Выражения, характерные в одной области, могут показаться смешными при переносе в другую.
То же самое справедливо и для других сообществ, чьей средой общения являются в основном компьютерные сети, таких как геймеры. Видеоигры содействуют появлению своеобразного веселого нигилизма, в котором значение чего-либо зависит лишь от его влияния на результат. Насилие становится сугубо практической вещью, лишенной всяких этических противоречий, во многом повторяя идеал войны по Клаузевицу. Типичный образ геймера представляет собой молодого человека, окопавшегося у себя в спальне и ничего не знающего о физических реалиях войны. (В век ударных беспилотников и автоматизированного вооружения вторжение в другую страну можно проводить из центра управления в Неваде, не исключено, как раз это теперь и есть военные реалии.) Тем не менее раздел между «виртуальной реальностью» игры и «материальной реальностью» внешнего цивилизованного мира позволяет иронизировать о том, как черты одной могут переноситься в другую и наоборот шутки ради.
По похожим причинам юмор всегда играл центральную роль в развитии интернет-троллинга, и именно здесь становятся заметны кое-какие связи с нашей политической культурой в широком смысле и проблемами, которые Интернет для нее создает. Шутки и мемы позволяют троллям создавать ощущение сообщества, возводя вокруг себя культурную крепость посредством хитрых форм шифрования. Как и кодеры с геймерами, они действуют в сетевой среде, где главными являются набор очков и влияние на результат. Когда же дело доходит до контакта с обычными пользователями Интернета, использующими компьютеры для повседневных социальных занятий, как то организации событий, размещения фотографий своих детей или скорби о почивших близких, эффект может быть разрушительным. На деле троллинг является гражданской формой партизанской войны (герилья), когда те, у кого нет никаких формально признанных власти или статуса, используют единственную в своем распоряжении способность, а именно саботаж. Это может доставить некоторое веселье, но фактически не дать никакого результата, кроме подчеркивания уязвимости социальных обычаев и институтов к троллингу. Тролли используют в роли оружия обыкновенные культурные образы и коды лишь для того, чтобы узнать, как далеко это может зайти.
Различные аспекты культуры троллей проникли в мэйнстримный политический дискурс, становящийся все более организованным вокруг мемов и саботажа оппонентов. Споры в Twitter часто принимают характер этакой игры с целью подвергнуть других пользователей осмеянию или «уделать» их, указывая на внутренние противоречия в том, что они сами написали. Те, кто в сети искренне апеллирует к морали, обвиняются в «показной добродетели» (virtue signalling), как если бы весь диалог был состязанием, где каждый ход имеет цель добиться стратегического преимущества. Провокация оскорблений часто воспринимается как форма победы, что нередко доходит до запрещенных законом крайностей в виде угрожающих или просто злобных сообщений, что сегодня регулярно приходят публичным фигурам, особенно женщинам и борцам за гражданские права. Эти сообщества часто стремятся нанести максимально возможный ущерб (используя слова как оружие), чтобы затем немедленно отступить на альтернативную позицию, согласно которой это все просто «шутка» и «свобода слова» (выдавая слова за безвредные символы).
Центральным оружием в арсенале тролля являются злоупотребления общепринятыми нормами анонимности и идентификации для достижения разрушительного эффекта. Эти нормы играют (или играли) абсолютно ключевую роль в том, как изначально формировались экспертные сообщества, и действуют по следующим принципам. Аргумент или научное утверждение выставляется для оценки прочими участниками, но без особого внимания к имени автора, а порой вообще без какого-либо авторства (в научных публикациях это происходит посредством слепого рецензирования). Текст оценивается сам по себе, и если он признан правильным, то личность автора раскрывается и его публичная репутация улучшается. Это деликатное сочетание анонимности и публичного признания является наследием этикета XVII века, на который эксперты с большим трудом пошли, чтобы никогда не приписывать своим коллегам плохие намерения или характер. Аналогично в журналистике, где имя автора сопровождает текст, но достоверность рассказанного не связывается с моральными качествами журналиста.
Тролли доводят до предела свою анонимность и делают то же самое с публичностью жертвы, даже если та вовсе не ищет публичного признания. Такие платформы, как Twitter, позволяют индивидам легко вступать в публичные дискуссии, не раскрывая своей личности. Крайней формой реализации подобного дисбаланса в культуре троллей является «doxing», когда обнародуется чья-то личная и не размещенная в сети информация сознательно и со злым умыслом разглашается. «Call-out culture», где личности людей публично раскрывают, а затем позорят в сети за их идентичность или мнение, стала серьезной проблемой, особенно в студенческой среде. Тем временем становится обнародовано все больше информации о публичных фигурах, вплоть до той степени, что о них уже практически невозможно судить лишь по публичным выступлениям. Архивы социальных сетей и утечки электронной почты позволяют миру обозревать и критиковать их поведение вне зависимости от того, имеет это непосредственное отношение к их публичному статусу и репутации или нет.
В ходе скандала из-за взлома электронной почты, известного как «Climate-gate», имела место утечка тысяч электронных писем из отделения климатологии британского Университета Восточной Англии за период 2009–2011 годов, целью которой было подорвать как авторитет науки о климате, так и нейтралитет, объективность самих климатологов. Эта форма троллинга следует логике шифрования и перехвата, используя последние как орудие культурной войны. Противник делается настолько прозрачным, насколько возможно, а виновник остается в тени. Форумы, что традиционно рассматривались как цивилизованные места для разумного диалога, оказались переосмыслены в арены атак на личность.
Неравенство в анонимности обостряется концентрациями личного богатства, которое может быть использовано в тайных политических целях. Базовые понятия об ответственности и прозрачности стали помехой в этих битвах разоблачений и очернений. Вот почему призраки России и частных денежных мешков преследуют нас, пока мы ищем объяснения политическим потрясениям и хаосу: оба фактора являются превосходной базой для ведения информационной войны в силу своей неподвластности ограничениям общественных норм. Доклады об альянсах между Кремлем, миллиардерами с их частными компаниями (в противовес акционерам корпораций), Wikileaks и фирм вроде «Cambridge Analytica» порой ощущаются как теории заговора потому, что все эти сущности, по своему определению и устройству, не подвержены никакому экспертному или законному надзору. Если идеал публичного предоставления фактов с целью нахождения мирного консенсуса стал источником стратегической уязвимости, западные демократии в большой беде.
Саботаж власти
Как и множество прочих бунтарей, тролли стремятся не получить силу, но причинить страдания. Слова вместо применения в роли средств изображения и разъяснения становятся инструментами насилия, которыми отыскивается и затем эксплуатируется уязвимость человека. Либертарианцы могут заявить, что эмоциональные страдания «не насилие», но этому противоречит поведение троллей, стремящихся причинить их с воинственным и садистским упорством. Печально известный альтернативно правый тролль Майло Яннопулос, привлекший массу внимания своим крайним сексизмом, склонен часто глумиться над теми, кого он обидел, заявляя, что ему нет дела до ваших чувств. И тем не менее карьеры таких персонажей, как Яннопулос, целиком зависят от предположения, что чувства людей имеют значение, иначе его оскорбления не получили бы такого внимания. Целью таких, как он, является причинение реального ущерба.
Как ряд государств убедились в ходе борьбы с герильей или воюя на «войне против террора», бороться с бессильными крайне сложно, так как у них нет очевидных организационных центров. Это в точности повторяет изначальное обоснование создания Интернета: если Америка подвергнется ядерной атаке, ее вычислительные мощности будут распределены среди множества узлов и в итоге будут более устойчивы. Но главным наследием этой военной технологии в политике было то, что она стала крайне полезной всякому, кто чувствует себя отверженным и покинутым, как средство получения внимания и причинения разрушений. Клаузевиц писал, что дезорганизованная, но мотивированная армия являлась грозным противником. Когда эмоции на высоте, строгая иерархическая организация не так уж необходима.
Интернет оказался очень эффективен в деле подрыва существующих демократических институтов, но в куда меньшей степени полезен при формировании новых. Он может свергнуть старые системы представительства, но все еще остается загадкой, какие новые структуры придут (если придут) на смену старым. Это включает в себя атаки на «основные СМИ», в ходе которых «непричастность» и «объективность» последних легко высмеять и опорочить, виня отдельных журналистов в лицемерии и привилегированности. Общепринятые политические механизмы и избирательные процессы могут быть «взломаны», как в буквальном смысле (как обнаружилось в ходе президентской кампании Хиллари Клинтон 2016 года), так в более образном, как некогда невозможные кандидаты вроде Джереми Корбина и Дональда Трампа сумели подмять под себя институты, что до тех пор сторонились их. В каждом случае логика одна, а именно – механизмы представительства, будь то партии, вещательные корпорации, эксперты, все признаются коррумпированы своей собственной властью и должны быть распущены. В таких ситуациях технология Интернета прекрасно сочетается с антиэлитарными инстинктами популизма, в особенности со свойственными национализму обидами.
С точки зрения самого тролля, воспринимать политику как военный конфликт более честно, чем в плане поиска консенсуса или мира. «Нейтральная» позиция, будь она принимаема журналистами, экспертами или вождями, осуждается как притворство. Как только сами по себе слова становятся инструментом насилия (что проистекает как из популизма и политики идентичности, так и из логики ЭВМ), придерживаться объективной или независимой позиции в политической дискуссии становится невозможно. Каждое высказывание так или иначе становится стратегическим ходом, что тролли с удовольствием демонстрируют, прочесывая прежние заявления публичных персон в поисках несоответствий.
Обратной стороной такого диалога-войны является диалог-сопереживание. Когда появляется некий набор пространств, где различия выражаются в форме насилия (метафорически или нет), создается другой, где во главе угла сопереживание. Высказанное Марком Цукербергом желание объединить людей не просто в глобальную информационную сеть, но в более «значимые группы» предполагает, что любой человек хочет иметь минимум конфликта в своей жизни, что со временем приведет к полной, молчаливой близости между мозгами. «Наш успех строится не только на том, можем ли мы записывать видео и делиться ими с друзьями, – пишет он в своем открытом письме 2017 года. – Дело в том, строим ли мы сообщество, которое содействует нашей безопасности». Однако чем это в конечном итоге отличается от проектов националистов с их целями объединить людей вокруг общих страхов и недовольства? В среде, характеризуемой открытостью и глобальной связанностью, соблазн закрытых сообществ становится еще сильнее, не только для слабых и обиженных, а также (или в особенности) тех, кто боится утратить свои власть, богатство и расовые преимущества. В то же время аргумент о «свободе слова» сложился в нигилистическое либертарианство культуры троллей, а аргумент о «сообществе» превратился в крайне защищаемое превознесение близости.
Майнинг толпы
Корпорации, владеющие средствами производства данных, собирают в своих руках беспрецедентную власть. В каком-то смысле это традиционная власть монополии, так как позволяет контролировать цены товаров и услуг (таких как реклама) способами, о которых предупреждают экономисты, говоря о монополистах. Как и многие богатые корпорации, они используют свои деньги в попытках повлиять на политику и гражданское общество не всегда очевидным образом. «Google Transparency Project», целью которого было призвать Google к ответственности, раскрыл, что у 330 научных статей, опубликованных в период 2005–2017 годов и затрагивавших связанные с гигантом общественно-политические проблемы, 54 % работавших над ними академиков получали финансирование от самой корпорации, и большинство из них этот факт скрыло[205]. Подобная власть спровоцировала некоторых людей сравнить эти новые платформы с нефтяными конгломератами прошлого. Но это не отражает природы полувоенной силы, что на кону в деле цифровизации повседневной жизни.
Секретность может быть компенсирована проектами открытых данных, в которых информация собирается общественными институтами (вроде государственных ведомств или муниципальных органов) и обнародуется как публичное достояние. Ее также можно предотвратить посредством сотрудничества академиков-исследователей и коммерческих платформ. Twitter, к примеру, делает значительную часть своего «потока» данных доступной для публичного анализа, а Google разрешает пользователям искать тренды в общей истории поиска. Компании вроде Facebook наняли специалистов для анализа своих данных, и многие из этих экспертов также могут публиковаться в научных журналах. Однако эти процессы продолжают затормаживаться неоднозначностью публично-частных партнерств. К примеру, ИТ-инфраструктура, используемая для реализации проектов электронного правительства или «умных городов», поставляется из коммерческого сектора, а компании, что это обеспечивают, часто оставляют за собой право контроля над результирующими данными. Правительство США практикует аутсорсинг информационных служб в областях, критических для национальной безопасности, к примеру, позволяя ЦРУ размещать свои засекреченные системы на серверах, предоставляемых «Amazon Web Services».
Среди ситуаций, которых мы не знаем, выделяется то, как эффективно платформы способны влиять на наше поведение, эмоции и предпочтения. Эта неопределенность обостряется маркетинговой бравадой компаний вроде «Cambridge Analytica», которая неоднократно преувеличивала свое политическое влияние. Большинство коммерческих веб-сайтов постоянно участвуют в малых формах социальных экспериментов с целью узнать, какой из двух визуальных дизайнов даст больше кликов или покупок (практика называется «A/B testing»). Это довольно невинно, но в сочетании с искусственным интеллектом, способным интерпретировать текстовый и визуальный пользовательский контент, и добавлением анализа прочего поведения где-то еще вызывает у людей обоснованные опасения в возможностях социального контроля. Ощущение паранойи окружает сегодня некоторых технологических гигантов, особенно Facebook, продавший прокремлевской «ферме троллей» рекламного пространства на 100 000 долларов прямо в канун президентских выборов 2016 года, контент которой увидело 126 млн американцев. Это позволяет предположить, что Facebook мог быть активно замешан (или получателем прибыли) в производстве «ложных новостей».
В одной из интерпретаций считается, что Facebook необходимо делать своих пользователей все более ветреными и эмоциональными, чтобы позволить Цукербергу удовлетворить свои технологические амбиции. Во-первых, потому, что только имея доступ к колоссальному количеству выражений лиц, эмоциональных текстов и эмодзи, искусственный интеллект может научиться понимать человеческих существ. Наши ярость, радость, печаль и ужас обеспечивают машинам материал, по которому они обучаются вести себя подобно человеку. Во-вторых, выражая наши самые искренние чувства, мы выдаем очень четкие данные о себе, с помощью которых можно продать больше рекламы. «Экономика внимания», над которой Facebook имеет огромную власть и монополию, является непаханым полем для агрессивного и асоциального политического выражения, превращающего ярость и шок в общее дело. Независимо от высказанных Цукербергом политических взглядов, есть неоспоримые пересечения между финансовыми интересами его компании и интересами политических экстремистов.
В результате получается сценарий, схожий с контрольным залом SAGE в конце 1950-х годов, только теперь по экранам перед командирами летают не самолеты, а поведенческие и эмоциональные тренды. Политическая суматоха и эмоциональные потрясения могут рассматриваться как погодные явления, отслеживаться в реальном времени и изучаться на предмет повторяющихся шаблонов. Кремниевая долина, без сомнения, дала жизнь своим собственным элитам и экспертам, но те не вмещаются в шаблон мэйнстримных политических и профессиональных элит, не обладают формой экспертизы, похожей на таковую статистиков, ученых и экономистов, впервые возникших в XVII столетии. Центральное различие состоит в том, что там, где традиционные элиты стремятся монополизировать средства представления (как журналисты, политические представители, ученые, статистики и т. д.), их цифровые наследники стремятся монополизировать средства контроля. Подобно военачальникам, но в гражданской жизни, они копят разведданные, но демонстрируют относительно слабый интерес к фактам в их общепринятом понимании.
Хотя мы не знаем точно, насколько эффективны эти манипулятивные методики, ясно, что они преображают ход политических кампаний. Массовая демократия в эпоху широковещательных СМИ включала в себя обращения к грандиозным массам населения (хотя и направленные в первую очередь на решающих избирателей в решающих штатах). Это понемногу замещалось посланиями к узким кругам населения, подобранным с огромной точностью, невидимой для всех остальных. Страх состоит в том, что с куда более отточенными эмоциональной проницательностью и демографическим отбором станет возможным сформировать такой эмоциональный триггер лично для каждого, чтобы заставить или изменить свой голос, или вообще не пойти голосовать. Facebook является средой, которая больше прочих обслуживает и нормализует политику «собачьего свистка», в рамках которой контент может быть специально подобран для мобилизации отдельных получателей, минуя СМИ.
Опасность, что кроется в современных обществах, состоит в том, что технологии можно неожиданно перенацелить на насилие. Гражданские институты, поколениями воспринимавшиеся как должное, внезапно окажутся уязвимыми к атаке после того, как лишь один элемент головоломки встанет не на то место. Растущая сложность технологий увеличивает возможности слабых в части организаций агрессивных и разрушительных вмешательств независимо от того, будут их потом называть «взломами», «терроризмом» или «кибервойной». Цифровизация повседневной жизни создает впечатление новых возможностей для насилия, на самом деле лишь немного усиливая кого-либо другого, кроме технологических гигантов, что владеют новой инфраструктурой и контролируют ее. Это выливается не столько в физические столкновения, сколько в повышенное нервное напряжение.
Сеть Интернет оказалась отличным орудием саботажа. Она обеспечивает нас инструментами, позволяющими атаковать друг друга словесно и эмоционально, и помогает политическим нарушителям ломать статус-кво. Многие традиционные отрасли оказываются из-за нее не у дел либо в полной зависимости от инфраструктуры, предоставляемой компаниями вроде Amazon и Facebook. Не имея права голоса в принятии решений о направлениях деятельности или управлении этими инфраструктурами, пользователям остается только по мере возможности злоупотреблять ими, а не улучшать и защищать. Это контрастирует с эпохой Просвещения XVIII века, где протагонисты интеллектуальной и политической сферы общественной жизни всегда были отчасти заинтересованы в защите ее институтов, таких как свобода печати и научные дебаты.
Сеть Интернет предлагает нам вместо общества набор игр в войну для развлечения, дружбы, удобства или чтобы спустить эмоциональный пар. Вызывает беспокойство наличие в списке игр демократии, а некоторые «игроки» имеют возможность приобрести более мощное оружие, чем все мы. Грань между политикой и насилием размывается по мере того, как целью дискуссий становится причинить эмоциональные страдания и расшатать согласие. Нередко бывает увлекательно наблюдать, как «элиты» оказываются повержены потому, что они недооценили сочетание возмущения бессильных и насилия со стороны новых вычислительных инструментов в действии. Но деление между «миром» и «войной», которое было центральной опорой политической философии Гоббса, при этом становится слабее.