Алгоритмы ОБЛОМа, стоящие за деятельностью таких компаний, как Facebook и Google, прописаны в нескольких файлах, которые невозможно взломать – настолько они засекречены. Данные Управления национальной безопасности США[85] и ЦРУ[86] регулярно воруют, но нигде, даже в даркнете, не найти алгоритм поиска Google или ленты новостей Facebook[87].
Дело отчасти в том, что если бы все узнали, как работают искусственный интеллект и облачные приложения, это вызвало бы волнения. Люди поняли бы, насколько непостоянными могут быть результаты. (Об этом я рассказывал в первой главе.) Алгоритмы полезны лишь функционально, статистически, а ведь на этой тончайшей ниточке полезности висят самые огромные состояния нашего времени.
Но как по мне, так дело не только в программах, даже самых чудесных, а в иерархических отношениях, которые возникают, когда люди начинают уважать эти программы.
Источники мнений о вас, значение которых было раздуто людьми – прямо скажем, до смешного, – существовали всегда, но они практически не имели никакого веса. Например, гороскопы в газетах. Редакторы не могли отследить движения ваших глаз, а потому никто не знал, что вы именно читаете. Но даже если вы читаете свой гороскоп (прошу прощения, если вы в них верите, но это нелепо), то и что с того?
Может, вы верите в астрологию, а может, ваш взгляд зацепился за случайное слово, а может, вы сочли гороскоп забавной шуткой. Да что угодно. Это оставалось между вами и неодушевленным предметом, максимум – между вами и человеком, которому вы об этом рассказали.
Гороскоп из газеты не менял реальность за пределами вашей головы. И уж точно не влиял на ваши взаимоотношения с другими людьми.
ОБЛОМ работает иначе. Предположим, что вместо газеты у нас онлайн-сервис, а вместо гороскопов – оценка вашей заботы о собственном здоровье, вашего трудолюбия, привлекательности в качестве романтического партнера или чего-нибудь еще. Facebook, например, классифицирует вас на основании ваших политических взглядов и многих других факторов[88]. Все эти категории – ответ ОБЛОМа на гороскопы.
Суждения алгоритмов ОБЛОМа ненадежны и ничего не значат в научном смысле, но в реальной жизни они еще как значимы. От них зависит, какие новости вы увидите, кому на вас укажут как на возможного романтического партнера, какие товары вам предложат купить. Суждения, основанные на активности в соцсетях, могут определять, какой кредит вам дадут в банке[89], в какие страны вас впустят[90], будет ли у вас работа[91], какое образование вам позволят получить[92], какой вердикт вынесут при обращении за выплатами по страховке вашего автомобиля[93], а также то, насколько свободно вы сможете собирать вокруг себя единомышленников[94]. (Зачастую третьи лица применяют свои алгоритмы суждения к данным, добытым с помощью ОБЛОМа, а не полагаются на категории ОБЛОМ-платформ.)
Все ваши прихоти и чудачества рассматриваются под микроскопом сил, значительно превосходящих ваши собственные, если только вы не живете в полицейском государстве, вроде Восточной Германии или Северной Кореи.
Невозможность выцарапать себе место, где можно просто побыть самим собой, – вот что заставляет нас чувствовать себя несчастными. О каком самоуважении вообще речь, если ваше мнение о самих себе больше не имеет первостепенного значения?
Как можно быть счастливым без чувства собственного достоинства? Как можно быть настоящим, когда все, что вы читаете, пишете или делаете, скармливается оценивающей машине?
Если быть точным, оценка внутри ОБЛОМ-машины происходит на двух уровнях. Первый открыт всем желающим. В интернете полно мнений о вас лично. Как много у вас друзей и подписчиков? Привлекательны ли вы? Сколько очков вы набрали в онлайн-игре? Есть ли у вас золотая звезда или еще какая-нибудь виртуальная мишура, полученная от магазина за то, что вы убедили других сделать там покупку?
Второй уровень оценки основан на математических соотношениях, которые скрыты от людей и не поддаются человеческому пониманию. Их иногда называют интерпретациями промежуточного уровня из-за того, как они рождаются в процессе машинного обучения. Эти методы обработки данных используют для оптимизации ОБЛОМа: какого рода реклама с наибольшей вероятностью окажет на вас определенный эффект, какие новости или фотографии милых котиков нужно поместить в вашу ленту новостей?
О чем бы ни шла речь, обратите внимание на суть происходящего. Вас и других людей внезапно втянули во множество глупых состязаний, в которых никто из вас не собирался участвовать. Почему вы не выложили столько же классных фото, сколько ваш друг? Почему у вас меньше подписчиков? Постоянное дозирование социального беспокойства заставляет людей тратить все больше и больше времени на эту ерунду. Глубинные механизмы нашего мозга, ответственные за социальное взаимодействие, отслеживают наше общественное положение, и из-за них мы приходим в ужас от перспективы остаться за бортом, оказаться больным слабым животным, брошенным посреди саванны на съедение хищникам.
Я уже давно понял, что не хочу участвовать ни в каких рейтингах и состязаниях, если только сам их не выбрал. Если я хочу выиграть грант на исследовательский проект, то смиряюсь с тем, что мне придется участвовать в конкурсе и что мой проект будут оценивать и сравнивать с другими. Но как смеет какой-то несчастный алгоритм напоказ выставлять мне оценки, которых я не просил?
Но, как ни парадоксально, когда это все же происходит, я не могу просто взять и выкинуть ситуацию из головы. Во мне живет мелкий бес соревновательности. Думаю, такой сидит почти в каждом из нас.
Когда я вижу, что человека только что оценили по ряду параметров и признали его более популярным/умным/общительным/ценным/еще каким-нибудь, чем я, этот мелкий бес говорит: «Да неужели?» И тогда я ощущаю необходимость что-то с этим сделать: или обойти его в этой игре, или найти другую игру.
Но пока вы поглощены ОБЛОМом, вы не сможете вырваться. ОБЛОМ ведет миллионы игр, и в большинстве из них вы проигравший, потому что соревнуетесь почти со всеми жителями планеты. А победители зачастую выигрывают чисто случайно.
Это как если бы вместо одного футбольного матча велась глобальная игра, в которой участвуют все люди Земли, и все играют против всех. Конечно, почти все проигрывают. Наихудшая разновидность спорта.
Еще хуже то, что некоторые люди, а именно сотрудники Кремниевой долины, как я, поглядывают на вас свысока, видят больше, нежели можете увидеть вы или ваши друзья, и манипулируют вами.
Высокий замок
Правда обрушилась на меня, когда Google был небольшой компанией, еще до Googleplex. Я зашел в их маленький офис, и мой друг, один из первых программистов Google, рассказал мне о письме женщины, которая была очень расстроена. Она писала, что если ввести в поисковую систему ее имя, первая же ссылка в выдаче ведет на идиотский пост о том, что она без ума от мочи.
Это стало нетривиальным моментом для первого состава команды Google. Они встали перед выбором: считаться ли им с требованиями отчаявшейся женщины или решить, что удобство их сервиса перевешивает причиненный ей вред?
Сегодня такие проблемы со всеми вытекающими последствиями (простите за каламбур!) кажутся вчерашним днем, но они до сих пор могут сильно испортить людям жизнь. Uber, работающий по принципу псевдо-ОБЛОМа, возможность шпионить за людьми называет «взглядом Бога»[95].
Кремниевая долина заняла богоподобную позицию. Избранные люди и алгоритмы видят, кто, что и когда написал, а также кто и когда это написанное нашел и прочитал. Мы можем наблюдать весь процесс, как копошение муравьев. И муравьишки знают, что за ними ведется наблюдение. Та женщина писала все более эмоциональные письма, умоляя о помощи. Некоторые люди в офисе ее жалели, а другие над ней смеялись.
Ощущать себя муравьем, за которым наблюдают якобы высшие существа, которые на самом деле никакие не высшие, а такие же люди, как и вы, которые, как и вы, учились в школе, а потом стали работать на ОБЛОМ… унизительно и вгоняет в депрессию.
Позвольте напомнить, что отрицательные эмоции у людей вызвать намного легче, и они куда эффективнее положительных притягивают ОБЛОМ.
Если бы все люди разом стали довольны и счастливы, они бы вышли из соцсетей, от которых так зависимы, и стали бы радостно бегать среди цветов, а потом обратили бы внимание друг на друга. Однако пока люди переживают о своей популярности, беспокоятся о конце света, который должен наступить в результате ужасного взрыва, или злятся на каких-то дураков, влезающих в их разговоры с семьей и друзьями, они просто не посмеют отвлечься на что-то еще. Их поймали на крючок естественной настороженности.
Нам в Кремниевой долине нравится наблюдать, как муравьишки все старательнее закапываются в грязь. Пока мы на них смотрим, они дают нам деньги.
Вы постоянно сталкиваетесь с дисбалансом власти. Скажите, вы не чувствуете себя униженным, когда пользуетесь одним из дочерних брендов Facebook, например Instagram или WhatsApp? Между прочим, Facebook – первая открытая акционерная компания, которая принадлежит одному человеку[96]. Я ничего не имею против Марка Цукерберга лично, дело вообще не в нем. Но почему вы подчиняете часть своей жизни какому-то незнакомому человеку?
Во времена моей юности были и знаменитые политики, и богатые люди, и звезды поп-культуры, и лидеры промышленности, но никто из них не имел существенного влияния на мою жизнь. Иногда их слова привлекали мое внимание, но и только. Они были где-то далеко.