Современность формирует будущее
Прикинем, куда может зайти разговор
Крах цивилизации предсказывают еще со времен Аристотеля. Как только технологии достигнут пика эффективности, цивилизации придется искать решение одной необычной задачи: что будет с «лишними» людьми, если отпадет необходимость в каждом человеке? Будут ли те, чьи роли в обществе утратят важность, голодать? Или их жизнь станет беззаботной? Кто будет это решать? И как?
На эти важные вопросы, переформулированные множество раз, лишь иногда давались ответы, поскольку лишь немногие ответы можно найти.
Какими будут люди, когда технологии станут еще более совершенными? С каждым годом мы получаем все больше возможностей осуществлять свои замыслы благодаря технологическому прогрессу. Важность идей постоянно возрастает. Разговоры о смысле человеческого существования, ведущиеся с древности, продолжаются и в наши дни, и выводы получаются самые разные.
Предположим, машины в конце концов действительно станут успешно выполнять самые разные задачи, и можно будет сказать, что многие люди стали лишними. Это может произойти в сфере ухода за больными и пожилыми людьми, в фармацевтической промышленности, в транспортной инфраструктуре, в производственной сфере или в любой другой отрасли.
И тогда главный вопрос будет не в том, что делать с людьми, функции которых теперь выполняют машины. К тому времени, как этот вопрос возникнет', люди уже совершат принципиальную ошибку.
Несмотря на все мрачные философские теории о том, что люди станут не нужны, можно утверждать, что это – го не произойдет. В конце концов, информация, на которой держится «автоматика», должна исходить от людей в виде «больших массивов данных». Автоматизацию всегда можно понимать как тщательно отрепетированное представление.
Главным из того, что мы сможем противопоставить многофункциональным машинам, искусственному интеллекту и другим подобным явлениям, станет наша способность ставить задачи, с которыми не справятся автоматы, а также возможность решать, предполагают ли эти задачи реальные рабочие места для людей. Мы представляли. что горстка богатых программистов окажется единственными кукловодами автоматизации. Вместо этого оказывается. что для «автоматизации» машин нужны большие массивы данных, предоставляемых людьми. А будут ли платить кукловодам, если все люди вдруг обретут их статус?
Девять мрачных настроений футуризма и одно обнадеживающее
Каждое из десяти образных сравнений, которые я называю «настроениями»[54], можно сократить до простых утверждений о том, как человеческая природа, изменения технологий и задачи цивилизации сочетаются друг с другом. Поскольку технокультура влияет на то, что создают техногики, а в технологиях заключается разница между будущим и прошлым, здесь важно говорить на языке технарей.
Я решил избегать провокационного термина «мем». В этом случае есть много причин не использовать его, и главная заключается в том, что хорошие идеи далеко не так разнообразны, как уникальные черты, присущие живым организмам. Возможно, этот набор «технологических настроений» покажется вам полезным. Если так, то это лишь потому, что мы имеем ограниченное количество вариантов реагирования на все ускоряющиеся темпы технологических изменений[55].
Каждое настроение состоит из трех компонентов – деньги, политика и технологии – в контексте их влияния на состояние человечества.
Теократия: политика – средство достичь сверхъестественного бессмертия
Это старейшее и при этом самое распространенное настроение, предполагающее, что земное существование – всего лишь политический театр, выполняющий функцию дистанционного управления более значимым сверхъестественным миром. Политика играет роль интерфейса этого другого мира[56].
Восемь настроений из тех, о которых здесь идет речь, натуралистичны. Возможность вознестись живым на небо, пришествие мессии или иные сверхъестественные события, резко изменяющие будущее, по определению не рассматривались как естественные варианты до недавнего времени, пока не была сформулирована концепция сингулярности. И теперь мы должны учитывать догмы старой религии, чтобы вписать в существующий контекст новую.
Изобилие: технология – средство избежать политики и достичь материального бессмертия
Когда-нибудь технологии станут продвинутыми настолько, что потребности каждого человека будут удовлетворены и необходимость в политике отпадет. «Изобилие» – настроение, преобладающее в Кремниевой долине, хотя эта идея возникла еще в Древней Греции. Это настроение одновременно древнее и футуристическое.
Зачастую оно проявляет высокомерие, заставляя стыдиться людей с наивными представлениями, не относящихся к технологическим кругам[57].
Мальтус[58]: политика ведет к реальному вымиранию
Наш успех нас же и уничтожит. По мере приближения к обретению изобилия мы придем к перенаселению и чрезмерному потреблению или допустим еще какой-нибудь досадный промах, что приведет к катастрофе. Мальтузианское настроение предполагает фатальную и однозначную некомпетентность в политике.
Руссо: технология – инструмент духовной неудовлетворенности
По мере приближения к обретению изобилия мы становимся неискренними и действуем абсурдно.
Невидимая рука: информационные технологии должны стать частью политики
Адам Смит создал персонажа, известного под именем «Невидимая рука», чьи действия могут обусловить тесную связь информационных технологий с политикой. Рынки (или с недавнего времени другие схожие алгоритмы) принимают решения вместо людей, которые должны эти решения обсуждать. Это настроение или отвергает, или не принимает во внимание изобилие, поскольку рынки становятся абсурдными, когда количество товара стремится к бесконечности.
Маркс: политика должна стать частью информационных технологий
Марксизм предвосхищает наступление изобилия, но бесконечно превозносит политику. Когда машины смогут выполнять всю работу, политика будет определять., что лучше для людей, и, таким образом, все останутся в выигрыше.
Г. Дж. Уэллс: человеческая жизнь будет значимой, поскольку извечные проблемы межплеменных отношений дотехнологических времен никуда не денутся, пока перед нами не встанет другая проблема – противостояние собственным машинам или пришельцам. таким образом, технологии понимают смысл человеческого существования как вызов, а не как обеспечение изобилия
Жанр научной фантастики возник, чтобы выразить конкретное настроение, допускающее, что в будущем люди не обязательно будут играть главную роль. Наоборот, мы можем оказаться лишними в мире, где правят либо нами же созданные машины, либо более развитые пришельцы. В большинстве произведений, написанных в этом жанре, повествование строится на том, что человеческая значимость торжествует вопреки всему.
Однако многие подобные произведения заканчиваются печально и, таким образом, служат либо предостережением, либо примером нигилизма. В любом случае предвосхищение борьбы за значимость предполагает новый смысл жизни или естественной миссии для человечества, когда созданные им технологии достигают определенного уровня. Это настроение называется «уэллсовским» в честь его романа «Машина времени».
Эти семь настроений отражали суть рассуждений о будущем человечества до конца Второй мировой войны. Двадцатый век породил еще два настроения, а третье даже воплотил в жизнь, причем оно незаслуженно обделено вниманием.
Доктор Стрейнджлав[59]: некий человек уничтожит всех нас, когда технологии станут достаточно продвинутыми. человеческая природа в сочетании с высокими технологиями автоматически приведут к вымиранию
С появлением атомной бомбы появилась возможность самоубийства всего вида. Эта перспектива была мрачнее, чем предсказанная Мальтусом, поскольку она подразумевала уже не случайное постепенное самоуничтожение, а целенаправленное истребление нажатием одной кнопки.
Тьюринг[60]: ни политики, ни людей вообще не будет. существовать будут только высокие технологии, а это значит, что они достигнут сверхъестественного уровня
Вскоре после взрыва атомной бомбы в Хиросиме Алан Тьюринг высказал идею о том, что люди создают новую информационную реальность, которая придет на смену существующей.
Очевидно, что порожденное Тьюрингом настроение послужило источником вдохновения для множества фантастов, но от себя скажу, что оно вполне реально, потому что предполагает возможность появления новой метафизики. Людей можно не заменять информацией, а превращать в нее.
Вот почему Рэй Курцвейл[61] может дождаться, когда егоо сознание загрузят в виртуальный рай. Тьюринг привнес метафизику в современное обсуждение будущего нашего мира.
В настроении, созданном Тьюрингом, есть направление, или эсхатология, которой не хватает настроению Невидимой руки. Алгоритмы Тьюринга могут унаследовать мир таким, каким не могла Невидимая рука.
Дело в том, что мы можем представить себе (пусть и необоснованно) и программное обеспечение, которое не будет нуждаться в нашем управлении, и даже изобилие в отсутствие людей. Изобилие может уничтожить Руку, но не призраков Тьюринга.
Нельсон[62]: информационные технологии, спроектированные определенным образом, могли бы помочь людям оставаться людьми без политического радикализма, присущего всем остальным эсхатологическим настроениям
В 1960-е годы Тед Нельсон создал совершенно новое настроение, все еще проходящее этап становления, которое предполагает, что информация может помочь нам избежать крайностей в политике. Это будет возможно даже тогда, когда мы достигнем изобилия, которое неизбежно будет неидеальным. Оно, по сути, предлагает отсутствие противоречий между Невидимой рукой и изобилием. Это настроение, которого я постараюсь придерживаться и в последующих главах этой книги. Каждое настроение заключает в себе четко сформулированную гипотезу о том, как соотносятся между собой технологии и политика в том виде, в каком ее понимают люди. Все они затрагивают роль политики и человеческой воли (или интенциональности) в высокотехнологичном будущем, которое рано или поздно наступит. Станет ли политика абсолютной или в ней вовсе отпадет нужда? Разделятся ли люди на касты или изменятся и перестанут напоминать нас нынешних?
Есть возможность, что настроения циклически повторяют друг друга. Кто-то может воспевать триумф технологии, превознося самых дерзких предпринимателей своего времени, но через какое-то время он же вообразит себе странную социалистическую утопию. Это одна из самых распространенных смен убеждений, которая никогда не перестанет меня удивлять. «Бесплатные устройства Google и бесплатный Twitter ведут к становлению мира, в котором бесплатно все, потому что люди всем делятся. Но разве не здорово, что мы можем грести миллиарды долларов, собирая данные, которых ни у кого больше нет?» Если все будет бесплатно, зачем же мы так стараемся что-либо заполучить? Неужели наше благосостояние лишь временно? Не рухнет ли оно, когда положение дел изменится?
Это не единственный подобный поворот. Даже если разыгрывать карту возвращения к природе, все закончится иллюзией погони за подлинностью без какого-либо плана или способа убедиться, что ты этой подлинности добился. «Эта музыкальная программа ориентирована на контакт с настоящими эмоциями и смыслом музыки. В данном случае это происходит за счет выравнивания высоты тона у людей, которые едва умеют петь, благодаря чему они могут петь в полной гармонии друг с другом. Гармоничное хоровое пение – самая замечательная музыкальная связь. Но стоп – может быть, неидеальное пение более естественно. А идеальное слишком уж напоминает роботов. Какой процент идеальности характеризует подлинность? Десять процентов? Пятнадцать?» Мы рикошетом попадаем либо в «Изобилие», либо в «Невидимую руку», либо в настроение Руссо.
Каждый день я слышу разные варианты знакомых метаний. Эти разговоры, популярные в среде техногиков, напоминают мне другие беседы, которые зачастую намного старше.
Смысл как ностальгия
Даже у нас, технарей, иногда проглядывает жилка романтизма в духе Жан-Жака Руссо. Иногда мы представляем себе и превозносим определенную разновидность комфорта, подлинности и сакральности, уходящую корнями в прошлое, которого никогда не существовало.
Очевидным представителем этого настроения является Руссо, но Э. М. Форстер[63] тоже может послужить культурным маркером ностальгической технофобии благодаря своему рассказу «Машина останавливается». Этот рассказ, вышедший в 1909 году, за десятки лет до появления первых компьютеров, стал удивительно точным описанием интернета. К величайшему огорчению целых поколений программистов, первым проблеском созданных нами чудес стал рассказ-антиутопия.
В этом рассказе то, что мы впоследствии назвали интернетом, названо Машиной. Все человечество, прикованное к экранам Машины, постоянно занято общением в аналогах Skype или соцсетей, просмотром интернет-страниц и тому подобным. Примечательно, что Форстер не был достаточно циничен и не предсказал главенствующую роль рекламы в подобной ситуации. В конце рассказа машина не останавливается по-настоящему. Весь ужас произошедшего подобен тому, как мы представляем себе последствия возможной хакерской атаки. Весь человеческий мир рушится. Выжившие блуждают по улицам, радуясь тому, что окружающая реальность подлинна. «Солнце!» – кричат они, восторгаясь сияющими красотами, которых и представить не могли. Отказ Машины знаменует счастливый финал. Эта тема получила широкое распространение в поп-культуре. Более свежим ее воплощением стала кинотрилогия «Матрица», по сюжету которой люди живут внутри симулятора виртуальной реальности. В фильмах те, кто знает о своем реальном положении и способен его менять, выглядят более живыми, зрелыми и одеты лучше, чем те, кто этого не осознает. В пасторальном счастливом финале «Особого мнения», в работе над которым я принял участие, устройства, которые заполняли весь экран в первых сценах антиутопии, были запрещены. В «Гаттаке» «Негодный», зачатый и рожденный естественным путем брат, выглядит живым, настоящим и полным оптимизма, чего не скажешь о «Годном» брате, созданном с помощью генной инженерии.
Руссоистское настроение несет в себе неоднозначную иронию и иногда вызывает улыбку. Например, фильм Вуди Аллена «Спящий» – пример такого настроенческого потенциала. Я называю его ироническим, потому что мы добровольно оказываемся в психологическом плену технологий. Ирония неоднозначна, потому что не всегда понятно, до какой степени мы на самом деле были свободны в своем выборе.
Люди в рассказе Форстера помогали Машине их гипнотизировать; в конце концов, они сами ее и построили. Почему бы не пользоваться ей, но также иногда выходить наружу? В этом-то вся ирония.
С другой стороны, Машина могла быть единственным спасением героев этой истории от недолгой и тяжелой жизни в реальном мире. Но опять же, возможно, люди могли построить машину, которая обеспечила бы тот же уровень безопасности, но с меньшей степенью разобщенности. В этом-то вся неоднозначность.
И если, как я говорю, мир в конце концов превратится в нечто искусственное ради нашего благоденствия, то должны ли переживания, предоставленные Машиной, всегда быть ненастоящими, бесплодными или плоскими в сравнении с ним?
Руссоистское понимание технологии распространено так же широко и имеет столько же влияния, как и все прочие. Оно стало популярным, потому что основано на важном и неизбежном парадоксе.
Как только основополагающие правила жизни изменяются, вы лишаетесь возможности осознавать, какие воспоминания о вашем предыдущем воплощении были утрачены. Ни один взрослый не знает наверняка, что он потерял в процессе взросления, потому что его мозг не может в полной мере восстановить ментальность, в которой воспоминания детства наполнены смыслом. На этом уровне изменений приходит что-то вроде частичной смерти.
Взросление – естественный пример, но изменение технологий заставляет взрослых поколение за поколением переживать похожие искусственные потрясения.
Мы не можем полностью погрузиться в эмпирический мир охотника и собирателя. Почти невозможно размышлять о субъективной структуре жизни до появления электричества. Мы не можем в полной мере знать, что мы потеряли в ходе того, как стали более технологически продвинутыми, так что испытываем постоянные сомнения по поводу собственной подлинности и жизнеспособности. Это необходимый побочный эффект нашего выживания.
Среди недавних примеров ностальгического настроения в духе Руссо – философское течение деконструктивизма, движения в поддержку «натуральности» медицинских препаратов и пищевых продуктов, а также рост популярности так называемых традиционных, фундаменталистских версий мировых религий, особенно в тех аспектах, которые касаются размножения людей. Нам свойственны новые представления о подлинности, являющиеся попыткой удержаться за что-то, что мы не можем четко сформулировать и что могли утратить на пути к современности.
Моя цель – не высмеять руссоистское настроение. Как я уже говорил, его логическое обоснование не только оправданно, но и неизбежно.
В то же время важно помнить, что ностальгия по дотехно-логическим временам держится на ложных воспоминаниях. Это справедливо как в малом масштабе нескольких веков, так и в крупном масштабе всей истории жизни. Любой малейший генетический признак, которым вы обладаете, от наклона уголков глаз до манеры двигаться в такт музыке, выработался и сформировался за счет отрицательных пространств, вырезаемых из общей картины смертями ваших потенциальных предков до достижения ими репродуктивного возраста на протяжении сотен миллионов лет. Вы – отзеркаленное изображение неизученных периодов глубокой печали и жестокости. Ваши потенциальные предки всевозможных видов, к которым уходит корнями дерево жизни, были съедены, умерли от болезней или их отвергали представители противоположного пола до того, как они успевали передать свои гены и внести свой вклад в ваше наследие. Та часть вас, которую составляют ваши гены, – сумма того, что осталось за миллиарды лет крайних проявлений насилия и обездоленности. Современность – это воплощение того, как люди вышли из свирепого эволюционного отбора.
К сожалению, следствием руссоистского настроения иногда становятся ужасные поступки, часто доходящие до разрушительных крайностей. В идеологии террористов, от исламских фундаменталистов-смертников до зоозащитников и участников нападений на клиники, где делают аборты, всегда можно разглядеть отголоски ностальгических настроений.
Но эти настроения вовсе не обязаны быть жестокими. Я и сам охотно им предаюсь, но только принимаю их в легкой, можно сказать, гомеопатической форме. Практически почти каждый знакомый мне технарь тщательно скрывает в шкафу какой-либо фетиш в руссоистском духе. Один и тот же человек может участвовать в разработке «Augmented Wilderness», виртуального симулятора жизни в дикой природе, и склоняться к «первобытным» ритуалам Кремниевой долины, таким как фестиваль «Burning Man». Комната, в которой я пишу эту книгу, полна редких старинных музыкальных инструментов, на которых я учился играть. Думаю, что цифровой музыке чего-то не хватает, и я не хочу это что-то терять. Это абсолютно здраво.
Есть ли в живой музыке нечто ценное и необходимое, чего не может передать компьютер? Перед нами предстает очередное воплощение пари Паскаля[64]. Не знаю наверняка, но цена того, чтобы придерживаться своей позиции и дальше, кажется мне разумной, в то время как цена утраты этого компонента может оказаться чересчур высокой. Даже несмотря на то, что последующая амнезия все равно скроет от меня эту утрату.
Можем ли мы контролировать собственную силу?
Томас Мальтус высказывал опасения по поводу апокалипсиса в натуралистичных рамках вместо устоявшихся сверхъестественных. В будущем, которое так его ужасало с позиций XVIII века, наши собственные успехи приносили бы нам дары, которые мы не могли усвоить, что вело к катастрофе.
Типичный мальтузианский сценарий подразумевает, что развитие сельского хозяйства, медицины и здравоохранения вкупе с индустриализацией ведут к нестабильному и резкому приросту населения, что в свою очередь становится причиной катастрофического голода. Наши обожаемые технологические достижения продолжают соблазнять нас, даже если чреваты разрушением.
После Мальтуса тема «популяционной бомбы», как назвал ее в 1960-х годах Пауль Эрлих, поднималась неоднократно. В документальном фильме «Обратная сторона прогресса» [1], основанном на книге «Краткая история прогресса» [2], эта мысль формулируется так: «сейчас мы подбираемся к той точке, в которой технический прогресс ставит под угрозу само существование человечества».
Перспектива массово повторить судьбу Икара всегда занимала умы людей. Глобальные изменения климата – главный пример из современной реальности. Еще один пример – оружие массового поражения в руках террористов. Можно также упомянуть вирусы эпохи реактивного транспорта, возможность глобального радиоактивного заражения вследствие перехода на атомную энергетику, когда запасы нефти иссякнут, и так далее. Некоторые авторитетные эксперты в области технологий публично выражали опасения, что потомки наших компьютеров могут убить нас уже в этом веке.
Мальтузианские сценарии не просто ужасающие, они также отличаются своей жестокой иронией. Образованное население стран с высоким уровнем индустриализации в наши дни часто сталкивается с популяционной бомбой обратного действия: спиралью депопуляции. Так называется ситуация, при которой уровень рождаемости слишком низок, чтобы поддерживать численность населения и сохранять возрастной баланс. Я уже говорил выше о ситуации в Японии. Южная Корея, Италия и многие другие страны также переживают период депопуляции. Именно «менее развитые» страны, напротив, переживают период резкого прироста численности населения.
Угрозы глобального потепления, терроризма и прочего остаются крайне актуальными, но в них нет ничего противоестественного или удивительного. Абсолютно закономерно, что когда люди обретают все больше контроля над своими судьбами, вероятность совершить массовый суицид возрастает.
Аналогична ситуация с человеком, который учится водить автомобиль. Каждый водитель может погибнуть в любой момент. И многие на самом деле гибнут. И все же люди принимают на себя риски и ответственность при вождении и по большей части выгодно пользуются возможностями и удовольствием, которые дают нам автомобили.
Подобным же образом в глобальном масштабе по мере роста технологического прогресса наше выживание, так или иначе, неизбежно окажется в наших собственных руках. Притом что я считаю глобальные изменения климата реальными и страшными, это также неизбежный процесс перехода к новой жизни[65]. И это лишь одно из множества явлений, к которым нам необходимо приготовиться, вооружившись профессионализмом и той хитрой разновидностью оптимизма, которая иногда манипулирует сама собой.
Это скользкая тема, а потому говорят об этом нечасто. Мы не сможем сделать мир лучше с помощью своих знаний и умений, не создавая при этом все больше средств его же и уничтожить. Знание дела есть знание дела.
Это не означает, что повышение компетентности непременно ведет к саморазрушению! Лучше обладать более весомым правом голоса в вопросах нашей судьбы, даже если это значит, что мы должны доверить ее самим себе. Рост – это хорошо. Обретение намного лучше утраты. Есть соблазн думать, что человечество было в безопасности до тех пор, пока не вмешались технари и не испортили всю идиллию. Но технари помнят, что это не так.
Единственная причина считать, что мир, в котором происходит меньше изменений, был бы безопаснее, – это представить себе, что детская смертность и прочие трагедии – постоянная «природная» катастрофа. Уровень компенсировался бы заранее, так что опасности мальтузианского сценария свелись бы к минимуму. Освобождение человечества от постоянной катастрофы совпадает с началом эры новых технологических возможностей.
Да, у выгоды технологического развития свои ловушки. Каждый новый этап этого развития в нашей истории имел свои побочные эффекты. Каждое лекарство может оказаться ядом, а каждый новый источник пищи таит в себе угрозу голода. Способность людей использовать древние достижения сельского хозяйства, строительства и топливной энергетики всегда подразумевала вырубку лесов и разрушение локальных экосистем. Джаред Даймонд[66] и другие специалисты документально зафиксировали, что любое человеческое общество раз за разом подрывает само себя. Мы просто обязаны изобрести способ выбраться из неприятностей, которые обусловлены нашими изобретениями с тех пор, как мы стали людьми. Это наша идентичность.
Реакция на изменения климата не сможет остановить ход событий или обратить его вспять. Все, что происходит вокруг, – не видеоролик, и события нельзя воспроизвести в прямом или обратном порядке. Если мы научимся выживать в условиях глобальных изменений климата, жизнь никогда не будет прежней. Она станет более искусственной и управляемой.
В этом нет ничего нового. Это просто еще один шаг в приключении, начавшемся, когда Ева надкусила яблоко, которое можно также считать яблоком Ньютона (не говоря уже о яблоке Тьюринга).
Но никто не хочет об этом слышать. Сложно и неприятно признавать степень ответственности, которую придется принять нашему виду, чтобы выживать в будущем. Игра началась давным-давно, и у нас нет возможности в ней не участвовать.
Первый писатель, заговоривший о продвинутых технологиях
То, насколько наивными были разговоры об экономических системах, технологиях и индивидуальности еще в позапрошлом веке, может обескураживать. «Баллада о Джоне Генри» была одной из самых популярных песен XIX века. Ее герой был мифическим рабочим-путейцем, который якобы состязался с паровым молотом и победил, но при этом погиб от истощения. Продуктивность убивает. Беспокойство о ненужности людей одолевало человечество еще с конца XIX века.
Первые луддиты были рабочими текстильного производства начала XIX века, обеспокоенные потерей работы из-за появления усовершенствованных ткацких станков. Прямо как предсказывал Аристотель! Это очень неприятная история. Они собирались в озлобленные толпы, а наказанием им были публичные казни.
С материальной точки зрения рабочий на фабрике жил лучше крестьянина. Так что луддиты зачастую жили лучше своих предков. И все же их счастливая судьба была ужасно непрочной. Каждая минута утраты личного контроля при работе на фабрике могла повысить уровень беспокойства луддитов. Точно так же и мы иногда боимся летать на самолете больше, чем сидеть за рулем автомобиля, хотя вести машину обычно намного опаснее. Перспектива стать частью чьей-то чужой машины вызывает первобытный ужас.
Мы никогда не избавимся от этого беспокойства. Во время Великой депрессии 1930-х годов одним из популярных газетных клише была идея о том, что роботы займут все рабочие места, которые только могут появиться. Получили широкую известность истории о роботах, якобы убивавших своих хозяев или готовых соперничать на ринге с величайшими боксерами [3]. Эти старые параноидальные мысли обычно вытаскиваются на свет божий в наши дни, чтобы заявить, что волноваться не о чем. «Вот видите, в старые времена все волновались, что из-за технологий люди станут не нужны, но этого не произошло. И волноваться об этом сейчас так же глупо».
Вот мой ответ: «Я согласен с тем, что подобные опасения были ошибочными и тогда, и сейчас с точки зрения объективной истины. Люди были и будут нужны. Вопрос заключается в том, сможем ли мы жить так, чтобы труд каждого человека честно оценивался по достоинству. Иллюзия, что люди станут не нужны, в действительности является лишь поводом для массовых финансовых махинаций. И сейчас мы всячески потворствуем этим махинациям. Нужно прекратить это как можно скорее».
Но в XIX веке люди еще не воспринимали мир как информацию, и роботы в нашем воображении были громилами, которые только и ждут, чтобы отнять у нас рабочие места. Два крупных течения в культуре и социальных науках, которые до сих пор формируют повестку дня, были порождены беспокойством, связанным с появлением роботов: это научная фантастика и «левая» идеология.
Зарождение левых идей просматривается в ранних трудах Карла Маркса, которому уже в 1840 году не давала покоя дилемма луддитов. Маркс был одним из первых, кто начал писать о технологиях. Я осознал это много лет назад, когда ехал на машине в Кремниевую долину и услышал по радио рекламу интернет-стартапа, дерзко претендовавшего на мировое господство. Там было еще много дежурной болтовни об инновационном прорыве через границы традиционных рынков, глобализации технического таланта и так далее. Я уже собрался было выключить радио, бубня себе под нос, что не вынесу еще одной презентации от подобных компаний, как диктор сказал: «Это было юбилейное чтение “Капитала”». Оказывается, я слушал левую радиостанцию, KPFA, и даже не понял этого.
Я не марксист. Мне очень нравится конкуренция на рынке, и коммунизм – последний общественный строй, при котором мне хотелось бы жить. Моя жена выросла при коммунизме в столице Беларуси – Минске, и я твердо убежден в его несостоятельности. Но если выбрать правильные фрагменты, то текст Маркса может выглядеть невероятно актуальным.
Вероятно, каждый думающий технологический специалист переживал период неверия в собственные силы из-за сценариев луддизма. Вред, нанесенный карьерам рабочих технологическим прогрессом, неравномерно распределяется среди людей. Если прождать достаточно долго, каждый из нас может оказаться потенциально уязвимым кандидатом в луддиты, даже если это произойдет лишь раз и только с некоторыми невезучими людьми. Изменения в технологиях несправедливы, по крайней мере в краткосрочной перспективе. Сможем ли мы жить с такой несправедливостью?
Техногики спокойно спят по ночам, потому что выгода от технического прогресса на первый взгляд такова, что от нее в конечном итоге выиграют все, и миру ничто не угрожает. Вместе с новыми технологиями появляются новые рабочие места, даже если при этом исчезают старые. Потомки луддитов сегодня живут среди нас и работают биржевыми маклерами, личными тренерами и программистами. Но в последнее время их взрослые дети не покидают родительский дом. Неужели цепь прервалась?
Ни профессиональная подготовка, ни престиж профессии не спасут людей от возможности повторить судьбу луддитов. Роботы-фармацевты и программы с «искусственным интеллектом» проводят правовые исследования, которые раньше выполняли люди-юристы, и уже доказали свою эффективность и экономичность [4], и все же их разработка по-прежнему находится на начальной стадии. Единственная выгодная позиция при таком положении дел – это место владельца высшего узла в сети. Но даже она может лишиться любых гарантий, если останется для людей единственно безопасной.
Маркс также писал о менее заметной проблеме «отчуждения» – ощущения, что личность лишена всякой уникальности, когда она является лишь частью чьей-то схемы на фабрике высоких технологий. Сегодня многие беспокоятся о подлинности и насущности жизни в сети. Действительно ли наши сетевые «друзья» настоящие? Это беспокойство – отголосок почти двухсотлетних идей Маркса во временах, когда информация становится тождественна производству.
Смысл в борьбе
В научно-фантастической повести «Машина времени», опубликованной в 1895 году, Герберт Дж. Уэллс предсказал будущее, в котором человечество разделилось на два вида – элоев и морлоков. Оба выжили на обломках цивилизации, попавшей в ловушку марксистского кошмара. Первоначальная разница между бедными и богатыми зашла настолько далеко, что превратилась в межвидовые различия, и роли каждого из видов значительно обесценились. Элои произошли от бедных и стали смирными и покорными, а морлоки – от богатых и стали вырождаться.
Морлоки могли произойти от нынешних владельцев социальных сетей или хедж-фондов, а предки элоев поначалу, несомненно, считали себя счастливчиками, поскольку бесплатные инструменты помогали им более эффективно перекантовываться друг у друга. В видении будущего по версии Уэллса интересно то, что представители обоих видов превратились в примитивных существ, утративших человеческий облик. (Морлоки поедают элоев, полностью лишившись эмпатии и человеческого достоинства.)
Мрачные настроения в научной фантастике, как в «Машине времени» или романах Филипа К. Дика и Уильяма Гибсона, обычно возникают потому, что роль людей начинает казаться незначимой из-за технологического прогресса. Если научная фантастика радостно смотрит в будущее, то это происходит потому, что ее герои остаются людьми и успешно преодолевают проблему ненужности людей.
Бороться можно с инопланетными пришельцами («Война миров»), с понятным древним злом («Звездные войны»), искусственным интеллектом («Космическая одиссея 2001 года», «Матрица», «Терминатор», «Звездный крейсер “Галактика”») и многими другими врагами. В любом случае научная фантастика по большому счету относится к ретростилю в том плане, что она воссоздает старт эволюции человечества, когда роль человека была обусловлена обстоятельствами, в которых смысл был неотделим от выживания.
Практический оптимизм
Когда научная фантастика оптимистично смотрит в будущее, она помогает нам понять, каким будет смысл человеческого существования, когда люди получат больше возможностей благодаря своим изобретениям. Оптимистическая научная фантастика предполагает, что нам не нужно создавать искусственные условия борьбы против собственных изобретений, чтобы раз за разом доказывать, на что мы способны.
В вымышленном мире будущего из сериала «Звездный путь»[67]новые устройства не просто появляются в результате того, что мир стал более продвинутым в технологическом плане, а потому что он стал более нравственно развитым, более интересным, сексуальным, осмысленным и наполненным приключениями. Да, это чистой воды китч, просто смешной на большинстве уровней, ну так и что с того? Этот глупый телесериал отражает все важное и привлекательное в технокультуре лучше, чем что-либо еще. Жаль, что ему на смену так и не пришли более достойные образцы.
Важная черта «Звездного пути» и всей остальной оптимистической и героической научной фантастики заключается в том, что в центре всех приключений остается узнаваемый человек. В центре круглого высокотехнологичного капитанского мостика космического корабля Enterprise восседает кто-то вроде Кирка или Пикарда, то есть сильная личность[68].
Почти невозможно поверить в то, что оптимистично настроенные технические специалисты реального мира 1960-х, когда «Звездный путь» только начали показывать, смогли успешно совершить такие чудеса, как высадка на Луне, без компьютеров или материалов, которые есть в нашем распоряжении сегодня. Достойно уважения.
Связь между оптимизмом и достижениями кажется мне явно американской идеей, но это потому, что я сам американец. Наша популярная культура постоянно транслирует идею, что оптимизм – часть волшебного зелья успеха. Явное предначертание, ораторы-вдохновители, – «если построить, они придут», Волшебник из страны Оз, раздающий свои медали.
Оптимизм играет особую роль, если за ним наблюдает технический специалист. Странное дело – иногда технические специалисты принимают оптимизм так, как будто это волшебный интеллектуальный афродизиак. Мы придумали светскую версию пари Паскаля.
Паскаль предполагал, что человек должен верить в Бога, поскольку если Бог существует, то выбор будет верным, а если Бога нет, то вред из-за того, что вы придерживались ложной метафизической веры, будет невелик. Действительно ли оптимизм влияет на результаты? Лучше всего верить, что ответ на этот вопрос «Да». Я полагаю, что упрощенное выражение «пари Кирка» послужило бы для него хорошим названием.
Я обращаюсь к пари Паскаля не в связи с Богом, а потому что его логика напоминает некоторые игры разума технических специалистов. Общая логика пари Паскаля и пари Кирка неидеальна. Истинная цена веры неизвестна заранее. Например, есть те, кто считает, что веря в Бога, мы заплатили слишком высокую цену. Можно также вывести подобные пари для бессчетного множества верований, но нельзя заключить их все. Что выбрать?
Однако как бы там ни было, мы, технические специалисты, заключили пари Кирка: мы считаем, что благодаря нашей работе будущее станет лучше прошлого. Мы убеждены, что отрицательные эффекты будут не настолько опасными, чтобы считать весь проект ошибкой. Мы продолжаем идти вперед, не особенно понимая, куда именно.
Наша вера в будущее глупая и китчевая, как в «Звездном пути», но все же я считаю этот выбор оптимальным. Что бы вы ни думали, пари Паскаля или пари Кирка – на самом деле хорошая позиция. Лучший способ ее отстоять – оценить альтернативы, что я и сделаю в последующих главах.
В основе моего спора со многими коллегами лежит моя убежденность в том, что они переключились на другое пари. Они до сих пор хотят построить космический корабль, но при этом прогнать Кирка из кресла на капитанском мостике.
Если моя сосредоточенность на технокультуре необычна, то это потому, что у нас, технарей, как правило, нет необходимости говорить о своей мотивации или культурных концепциях. Ученые, работающие с «чистым» материалом, например в области теоретической физики или нейрофизиологии, часто обращаются к аудитории в книгах или документальных фильмах, говоря о том удивлении, которое они испытывают, и о той красоте, которую позволила познать их работа.
Технические специалисты не так любят обсуждать подобные темы, потому что у них нет проблем с поддержкой. Нам не нужно вызывать восторг у налогоплательщиков или бюрократов, потому что наша работа и так хорошо оплачивается.
В результате культурные, духовные и эстетические концепции ученых обсуждаются публично, а технические специалисты пользуются довольно большой долей общественного внимания, привлекаемого в основном для продвижения новых идей.
Эта ситуация в высшей степени порочна, поскольку мотивация технических специалистов оказывает на мир куда большее влияние, чем те идеи, которые обсуждают ученые, когда выходят за границы своей компетенции. Интересно, что один биолог может быть, например, христианином, а другой – атеистом. Но еще интереснее, если технический специалист может манипулировать потребностями и поведением. Это уже новое мироустройство. Действия технического специалиста изменяют ход событий напрямую, а не через обсуждения.
Иными словами, идеи ученых нетехнического характера влияют на общие тенденции, а идеи техногиков создают фактическое положение дел.