[849]. Запугивая людей гипотетическими бедствиями, наше будущее можно поставить под еще большую угрозу, вместо того чтобы сделать его безопаснее.
Сочинение сценариев конца света опасно еще и потому, что ресурсы, интеллектуальные возможности и душевные силы человечества не бесконечны. Невозможно беспокоиться обо всем на свете. Ряд грозящих нам опасностей вроде глобального потепления или атомной войны отрицать невозможно, а чтобы их предотвратить, требуются колоссальные усилия и изобретательность. Перечисляя такие угрозы в одном ряду с экзотическими сценариями, вероятность которых неизвестна или минимальна, можно создать впечатление, что и в остальных случаях дело несрочное. Вспомните, что люди плохо умеют оценивать вероятности, особенно низкие, – вместо этого они разыгрывают различные сценарии в своем воображении. Если два каких-то сценария одинаково легко представить, их будут считать одинаково вероятными; о реальных угрозах станут беспокоиться не больше, чем о сюжетах из области научной фантастики. А чем больше пугающих вещей люди могут себе вообразить, тем прочнее их уверенность, что что-то плохое обязательно случится.
Это порождает величайшую опасность из всех: вслед за автором недавней статьи в газете The New York Times люди решат, что «эти печальные факты заставляют нас прийти к единственному выводу – человечество обречено»[850]. Если человечество обречено, зачем жертвовать хоть чем-то ради снижения потенциальных рисков? Зачем отказываться от удобного углеводородного топлива или требовать от правительств пересмотреть свою ядерную политику? Ешь, пей и веселись, ибо завтра мы все умрем! В 2013 году опрос, проведенный в четырех англоговорящих странах, показал, что большинство респондентов, уверенных, что в ближайшие сто лет нашему образу жизни придет конец, согласились с утверждением «Будущее так безрадостно, что нам стоит сосредоточиться на заботе о себе и о тех, кого мы любим»[851].
Не многие из авторов, размышлявших о техногенных рисках, серьезно задумывались о накопительном психологическом эффекте непрерывного нагнетания апокалиптических настроений. Элин Келси, специалист по экологическим коммуникациям, отметила:
У нас есть возрастные категории для защиты детей от секса и насилия на киноэкране, но мы, не задумываясь, приглашаем на урок ученого, который рассказывает второклассникам, что планета вот-вот погибнет. Каждый четвертый [австралийский] ребенок настолько обеспокоен положением дел в мире, что искренне верит, будто Земле придет конец раньше, чем он подрастет[852].
Согласно последним опросам, с этими маленькими австралийцами согласны 15 % жителей всего мира и от четверти до трети американцев[853]. В своей книге «Парадокс прогресса» (The Progress Paradox) журналист Грегг Истербрук пишет, что основное препятствие, мешающее американцам быть счастливее, несмотря на объективно растущее благосостояние, можно описать как «страх коллапса» – боязнь, что цивилизация может потерпеть крах и что с этим ничего не поделаешь.
Конечно, если опасность реальна, тут уже не до эмоций. Но наша оценка рисков сбоит, когда мы имеем дело с весьма маловероятными событиями в сложных системах. Так как мы не можем тысячу раз прокрутить мировую историю по новой и обсчитать полученные данные, то утверждение, что некое событие случится с вероятностью 0,01, или 0,001, или 0,0001, или 0,00001, по сути, отражает субъективное мнение того, кто оценивает этот риск. Это касается и математического анализа, который ученые выполняют, нанося на какую-то ось события прошлого (например, войны или кибератаки) и доказывая, что они подчиняются определенному степенному закону – распределению с «толстым хвостом», где предельные случаи крайне маловероятны, но не полностью исключены[854]. Такая математика мало помогает оценить риски, потому что дискретные данные вдоль хвоста распределения обычно сильно отклоняются от гладкой кривой, делая любые оценки невозможными. Все, что мы знаем: очень плохие вещи иногда случаются.
Это возвращает нас к субъективности всех оценок риска, которую только усугубляют эвристика доступности, приоритет негативного и желание заработать авторитет на разоблачении болезней общества (глава 4)[855]. Тех, кто сеет страх с помощью мрачных пророчеств, считают серьезными и ответственными, а тех, кто высказывается осторожнее, – благодушными и наивными. Последней умирает вовсе не надежда, а отчаяние. Как минимум со времен древнееврейских пророков и Откровения Иоанна Богослова прорицатели предупреждали современников о надвигающемся конце света. Прогнозы апокалипсиса – конек спиритов, медиумов, мистиков, телепроповедников, радикальных сект, основателей разнообразных религий и субъектов, шляющихся по улицам с плакатом «Покайся!»[856]. Сюжет, кульминация которого представляет собой жестокую расплату за технологическую гордыню, – архетип западной культуры. Вспомните огонь Прометея, ящик Пандоры, полет Икара, сделку Фауста, ученика чародея, монстра Франкенштейна и более 250 голливудских фильмов о конце света[857]. Историк науки Эрик Зенси заметил: «Апокалиптическое мышление притягательно. Когда ты живешь в последние дни, твои действия, да и сама твоя жизнь приобретают историческое значение и немалую долю пафоса»[858].
Ученые и инженеры тоже не застрахованы от таких ошибок. Помните «проблему 2000 года»?[859] В 1990-е, в ожидании нового тысячелетия, специалисты по информатике принялись предупреждать мир о грядущей катастрофе. На заре компьютерной эры, когда информация обходилась дорого, программисты часто экономили пару байтов, обозначая год двумя его последними цифрами. Они были уверены, что к 2000-му, когда подразумеваемые цифры «19» перестанут соответствовать действительности, написанные ими программы уже давно устареют. Но сложное программное обеспечение обновляется очень медленно, так что к часу икс многие старые программы по-прежнему работали в микрочипах и на серверах организаций. Специалисты опасались, что в полночь 1 января 2000 года такие программы посчитают, что наступил 1900 год, и выдадут ошибку или уйдут в бесконечный цикл (предположительно, попытавшись разделить какие-то цифры на разницу между «текущим годом» и 1900-м, а именно на ноль, хотя, зачем они должны это делать, не пояснялось). В этот момент банковские счета обнулятся, лифты остановятся между этажами, инкубаторы в родильных домах отключатся, насосные станции застопорятся, самолеты попадают с неба, ядерные реакторы расплавятся, а межконтинентальные баллистические ракеты вылетят из пусковых шахт.
И все это были сухие оценки квалифицированных экспертов (таких, как президент Клинтон, который предупреждал американцев: «Я хочу подчеркнуть безотлагательный характер задачи. Это вам не летний блокбастер, где в самые страшные моменты можно закрыть глаза»). Культурные пессимисты считали проблему 2000 года заслуженным возмездием за увлечение цивилизации технологиями. Религиозные деятели не могли удержаться от соблазна связать число 2000 с давним христианским милленаризмом. Телепроповедник Джерри Фолуэлл заявил: «Я думаю, что проблема 2000 года может быть орудием Господа, которым он встряхнет страну, пристыдит страну, пробудит страну, чтобы она начала свое возрождение, которое распространится по всей Земле, предваряя Восхищение Церкви». На переписывание программного обеспечения – задачу, которую сравнивали с заменой каждой заклепки во всех мостах мира, – государства потратили сто миллиардов долларов.
Имея опыт программирования на языке ассемблер, я не очень-то верил в предлагаемый апокалиптический сценарий. Так сложилось, что в судьбоносный момент я находился в Новой Зеландии, первой на планете встретившей новое тысячелетие. Разумеется, в полночь 1 января ничего не случилось (в чем я немедленно заверил оставшуюся дома семью посредством исправно функционирующего телефона). Пропагандисты проблемы 2000 года, подобно продавцам приспособлений для отпугивания слонов, приписали всю заслугу предотвращения катастрофы себе, но ряд стран и множество предприятий малого бизнеса положились на судьбу и ничего не делали, а сложностей у них тоже не возникло. Хотя какое-то программное обеспечение и потребовало обновления (мой ноутбук наутро показывал дату «1 января 19100 года»), выяснилось, что лишь ничтожная доля программ, особенно из тех, что встроены в оборудование, одновременно и содержала эту ошибку, и производила сложные расчеты с текущей датой. Угроза оказалась едва ли серьезнее пророчеств на плакате уличного проповедника. История «Великой паники 2000 года» не означает, конечно, что любое предупреждение о грядущей катастрофе – ложная тревога, но она напоминает нам, до какой степени мы все подвержены техно-апокалиптическим наваждениям.
Как нам расценивать катастрофические угрозы? Начнем с величайшего экзистенциального вопроса – с судьбы нашего вида. Как и в более узком вопросе личной судьбы, нам точно нужно свыкнуться с фактом нашей смертности. Биологи шутят, что в первом приближении все виды уже вымерли, потому что такая судьба постигла почти 99 % всех когда-либо существовавших организмов. Обычно вид млекопитающих существует около миллиона лет, и сложно понять, почему Homo sapiens должен стать тут исключением. Даже если бы мы оставались технологически неразвитыми охотниками и собирателями, мы все равно жили бы как будто посреди геологического стрельбища