С осознанием того, что биты изначально не обладают значением, становится легче усовершенствовать компьютеры, поскольку тогда единственный оставшийся критерий – это их пригодность для использования людьми.
Такой образ мыслей повышает статус людей. В нас должно быть что-то особенное. На мой взгляд, это совершенно нормально.
Приложение 3Битва с небожителями
Олдос Хаксли в романе «О дивный новый мир» («Brave New World») предсказывал появление темной стороны виртуальной реальности, вымышленную медиатехнологию под названием «Чувственники». Я не стал обсуждать точку зрения Хаксли, поскольку невозможно рассмотреть все в одной книге. В этом случае мне особенно жаль, потому что Эллери жил вместе с Хаксли на юге Калифорнии, а также Хаксли знаменит тем, что имеет отношение к культуре психоделических наркотиков. И когда я думал, что эта книга окончена, Дональд Трамп был избран на пост президента. Я решил, что вынужден написать этот текст, который перекликается с Хаксли, но вдаваясь в детали с учетом эпохи. Не имею ни малейшего представления, как он будет выглядеть, когда книга выйдет в печать, но включу его, чтобы зафиксировать момент.
Не искусственная, а воображаемая
Помните, в главе «Как мы заложили основу на будущее» я писал, что даже несмотря на то, что роботы и алгоритмы в один прекрасный день будут выполнять всю нашу работу, они все равно ничего не будут делать? A вся информация, которую содержит робот или алгоритм, в конечном итоге поступает от людей. Вся ценность. От вас постоянно уходят данные, и эти данные будут использованы для работы множества схем машинного обучения, которые оставят вас без работы.
Самый простой для объяснения пример относится к машинному переводу, так что я постоянно его использую. Интернет сильно уменьшил доходы профессиональных переводчиков, равно как и записывающихся музыкантов, журналистов, ведущих расследования, и фотографов.
Но если внимательно рассмотреть механизм работы машинного перевода, вы поймете, что алгоритмам приходится каждый день миллионами собирать переводы, сделанные в реальной жизни живыми людьми, которые и служат потом в качестве примеров. (Общественные мероприятия происходят каждый день, поп-культура движется дальше, а вместе с ней и язык.) Алгоритмы только кажутся самодостаточными, но на самом деле они занимаются лишь изменением подачи информации, исходящей от людей, которые не видны. Стоит заглянуть за фасад искусственного интеллекта, и мы увидим миллионы людей, которых просто используют.
Я не утверждаю, что искусственный интеллект – источник зла! Я говорю лишь о том, что искусственный интеллект не конкретен. Бояться искусственного интеллекта – лишь еще один способ умножать вред, который делается во имя его. Страх перед самими алгоритмами, которыми хотят пользоваться люди, – например, беспокойство о том, что алгоритмы неизбежно послужат причиной безработицы или кризиса значимости, – настолько же продиктован фантазией, сколько и попытки считать алгоритмы живыми и представляющими ценность сами по себе без данных, украденных у людей. Единственный способ уменьшить этот вред – перестать верить в искусственный интеллект как в новую разновидность живого существа, а вместо этого оценивать алгоритмы и инструменты, которые используют люди.
Сервисы машинного перевода полезны. Бояться их и запрещать абсолютно нецелесообразно. Идеальным, этичным, а главное, обоснованным вариантом будет отдать должное и заплатить людям, предоставляющим данные (в этом случае фразы для перевода), благодаря которым алгоритмы могут работать.
В 1980-е многим моим друзьям нравилась идея будущего в мнимой экономической бесполезности; тогда все были вынуждены придерживаться либо чистого социализма, либо иных утопических сценариев. Уже в настоящем времени этот образ мыслей возродился в обсуждениях модели безусловного основного дохода (БОД), согласно которой всем бесполезным людям будут выплачивать некое пособие, а роботы будут выполнять всю работу.
(Уже в последние годы, в период расцвета «правой альтернативы», я наблюдаю за тем, как подобная же стратегия высказывается в некоторых более радикальных хакерских кругах, но на этот раз людям предлагают принять некую разновидность расистского абсолютизма. Согласно этой идеологии, когда роботы оставят людей без работы, обычным людям не останется ничего другого.)
Я считаю модель безусловного основного дохода ловушкой. Если ценность будет выборочно игнорироваться, люди почувствуют себя бесполезными и абсурдными, экономика станет деструктивной, и эрацаз-система социальной защиты, которой смогут манипулировать мошенники, перестанет быть таковой. Во главе этой схемы должен будет встать централизованный политический орган, обладающий сверхвластью; это явное приглашение к коррупции.
Я уже писал на эти темы в книге «Кто владеет будущим?» («Who Owns the Future?»). Вот краткое изложение моих аргументов: алгоритмы искусственного интеллекта зависят в разной степени от часто пополняемых больших массивов данных, но в целом проект искусственного интеллекта зависим от незаметного и неразрешенного доступа к массовым данным о людях, и еще чаще – неоплачиваемого. В книге «Кто владеет будущим?» предполагается, что внедрение скрытой ценности данных о людях в формальную экономику через наноплатежи – вместо нынешней интернет-экономики, основанной на бартерном обмене или вовсе хищении[162], – сможет послужить альтернативой модели безусловного основного дохода. Мотивация не исчерпывается лишь вопросами о том, что БОД рискует выродиться в командную экономику. Универсальная экономика данных послужит альтернативой БОД, которая будет не только устойчива к нестабильной концентрации политической власти, но также и укрепит позиции индивидуального творческого подхода и человеческого достоинства.
Интуитивно можно предположить, что на каждого человека такого дохода не хватит, но помните о том, что в будущем возникнет множество разных так называемых алгоритмов искусственного интеллекта, проводящих наноплатежи одновременно. Рассмотрим экстремальный сценарий, по которому вся активность осуществляется через алгоритмы искусственного интеллекта – и это означает, что люди ничего не делают напрямую. Ценность, создаваемая данными, исходящими от людей, возрастет примерно так же, будет по меньшей мере так же высока, как и историческая ценность людей, выполняющих задания напрямую. Если ценности людей прошлого – и разнообразия ценности – достаточно, то так же будет и в будущем, пока искусственный интеллект воспринимается как иная форма подачи человеческого капитала, а не как чужеродный источник капитала.
Например, представим себе будущее, в котором до сих пор нужно чистить зубы, потому что генная инженерия, нанотехнологии и прочее не нашли еще альтернативы, при которой чистка зубов морально устареет. Но это будущее, так что вы больше не чистите зубы; робот вводит очищающие частицы тысячам людей, за которыми он следит, чтобы вычистить им зубы до совершенства. Если продолжить снабжать алгоритмы робота украденными данными, то вы так и будете сидеть, пока вам чистят зубы, чувствуя себя бесполезным и абсурдным существом на содержании. Однако если вы знаете, что некоторые особые люди гениально чистят зубы и показали несколько примеров, благодаря которым ваши зубы сейчас абсолютно здоровы и выглядят превосходно, и что этим людям платят, точно так же как и вам за ваши умения, и что вам тоже могут заплатить за то, что делаете вы, в условиях цифровой экономики, которая растет потому, что люди ко всему подходят творчески… в таком мире вы не почувствуете себя абсурдным и бесполезным. Достоинство должно присутствовать даже в таких незначительных делах, как чистка зубов.
Такой подход может вызвать религиозные протесты от верующих в истинный искусственный интеллект, но, возможно, стоит отбросить это метафизическое теоретизирование в интересах стабильной экономики.
Банальность невесомости
В главе «Как мы заложили основу на будущее» я также говорил о созидательном императиве, благодаря которому в восприятие интернета привносится видимость «невесомости». Одним из последствий этого стала зародившаяся сначала в альтернативных группах Usenet эпидемия жестокого абсурда, поскольку из всей выгоды осталось лишь внимание и никто не был заинтересован в том, чтобы продолжать общение на цивилизованном уровне.
На сегодняшний день одна из главных проблем виртуальной реальности состоит в том, что наиболее очевидные клиенты, готовые платить деньги, – это геймеры, а в культуре компьютерных игр пышным цветом расцвела мизогиния.
Это явление известно под названием Геймергейт. Жалобы на то, как в компьютерных играх подается образ женщины, не слышны на фоне вала глупых агрессивных выпадов. С развитием феминистского гейм-дизайна реакцией на него стали волна угроз и давление с целью унизить. Женщины, активно участвующие в культуре компьютерных игр, подвергаются реальному риску, пока они не начнут пропускать мужчин вперед. Геймергейт оставил за собой след разрушенных жизней. Стоит ли говорить, что виновники считают жертвами как раз себя.
Разработки и культура, исходящие из технического мира, не объясняют всего, но их влияние действительно огромно.
Многие годы Геймергейт был бичом компьютерной культуры, но в 2016 году его отголоски коснулись и выборов, в том числе и президентских выборов в Соединенных Штатах. Геймергейт послужил прототипом, генеральной репетицией и стартовой площадкой для правой альтернативы[163].
Те проблемы, которые до этого были актуальны только на задворках Usenet, теперь ударили абсолютно по всем. Например, все, включая президента, возмущаются из-за «информационных вбросов». Даже сама новость об этом термине быстро стала вбросом; термин «информационный вброс» намеренно превратили в расхожий штамп до той степени, что его значение поменялось на полностью противоположное, причем в течение всего нескольких месяцев с момента появления