Лежит ли уже в нашей урне черный шар?
В 2018 году один из наиболее влиятельных современных мыслителей, профессор Оксфордского университета, советник правительства Великобритании Ник Бостром высказал оригинальную концепцию «Черных шаров для человечества».
Эта концепция мгновенно привлекла внимание не только сообщества предиктивных аналитиков, но и социальные медиа, стала предметом обсуждения на круглых столах и симпозиумах по всей планете. В этой связи есть смысл подробно вникнуть в суть этой концепции.
Один из способов взглянуть на человеческую историю – это использовать метафору процесса извлечения шаров из урны, подобно тому, как это происходит при жеребьевке чемпионатов мира. Шары представляют собой всевозможные идеи, технологии, институции, открытия и даже привычки. В течение истории человечество извлекло много шаров – в подавляющем большинстве белых, пушистых и полезных.
Однако можно вспомнить несколько случаев извлечения серых шаров, которые наряду с благодеяниями принесли проблемы и головную боль. Если суммировать результаты жеребьевок, которыми является всемирная история, то кумулятивное воздействие этого процесса на состояние человечества до настоящего времени было, несомненно, положительным при некоторых неприятных локальных исключениях. Однако возникает сакраментальный вопрос: где гарантия, что этот праздник жизни продолжится и в будущем? За последние 10 тыс. лет население земного шара выросло на три порядка. Значит, условия для жизни и размножения людей были гораздо лучше и перевешивали угрозу смерти. За последние два десятилетия доходы на душу населения, уровень жизни выросли в европейских странах на порядки. За последние 50 лет произошло драматическое сокращение бедности во всем мире.
Изучая, что за шары извлекались в процессе всемирной истории, нельзя не заметить, что мы ни разу не извлекли по-настоящему черного шара, который содержал бы технологию, безальтернативно и по умолчанию, разрушающую цивилизацию, которая ее создала. Здесь важно обратить внимание на вроде бы неприметное слово – по умолчанию. По логике шар с ядерной энергией дает возможность уничтожить человеческую цивилизацию. Но это не может произойти по умолчанию. Кто-то должен начать глобальную войну. А человеческая история показывает, что даже в самых критических ситуациях политическим лидерами хватает ума и осторожности не запускать машину судного дня.
Настоящий черный шар – это технология, которая сама по себе, в рамках саморазвития, незаметно, согласно логике перемен, способна до основания или в основном разрушить цивилизацию.
Причина того, что нам не попался настоящий черный шар, не в какой-то особой человеческой мудрости или осмотрительности сильных мира сего. Нам пока просто везло. Похоже, что ни одна человеческая цивилизация не была разрушена до основания своими собственными изобретениями. Внимательный анализ краха цивилизаций позволяет выявить другие причины гибели цивилизации. Например, европейские изобретения позволили трансокеанским путешественникам вступить в схватку с коренным населением Северной и Южной Америки, Австралии, Тасмании, Африки и многих других мест и уничтожить локальные цивилизации. Однако прибытие конкистадоров вряд ли может быть истолковано как черный шар. Вымирание популяций гоминидов, когда-то господствовавших на земле, таких как неандертальцы и денисовцы, было, вероятно, связано с простым численным превосходством кроманьонцев и приручением ими волков. В итоге два агрессивных вида уничтожили, хотя, как теперь выяснилось, не полностью, ранее господствовавших гоминидов (у современных людей, за исключением африканцев присутствует несколько процентов генома неандертальцев и денисовцев). Здесь тоже не было никакого саморазрушительного изобретения. Вот если бы волки сначала помогли кроманьонцам стереть с лица Земли неандертальцев, а потом бы расправились с людьми, то тогда приручение волков было бы классическим черным шаром.
Остается открытым ключевой вопрос: а есть ли в урне по-настоящему черные шары? Поскольку мир устроен симметрично, то не может быть вселенной, где присутствуют только белые шары. Черные шары обязательно должны быть. Соответственно однажды в ходе НИОКР и технологических разработок человечество обязательно вытащит, а возможно, уже вытащило тот самый роковой черный шар. Наша цивилизация обладает странной способностью подбирать все шары, которые оказываются под ногами, и не обладает силой воли выбросить хоть один обратно в урну. Мы можем совершить открытие, но совершенно не способны к закрытию. Вся человеческая стратегия – это надеяться, что либо черных шаров в корзине нет, либо божье проведение оставит их на самый последок.
Поскольку, по мнению Н. Бострома, буквально с каждым годом возрастает риск вытащить черный шар и, соответственно, покончить с историей человечества, необходимо рассмотреть возможности, которые бы минимизировали риски вытащить именно черный, а не белый, шар, а, в крайнем случае, вытащив, быстро вернуть его на место.
По мнению Ника Бострома, ответом на вызов черного шара может быть только создание эшелонированной системы научного мониторинга и постепенное движение от странового к глобальному управлению наукой и технологиями, охватывающему в итоге весь земной шар. С глобальными угрозами можно бороться, только используя глобальные институты, которым не просто доверяют, а подчинены все локальные структуры. Патриотизм хорош для века пароходов, бензина и танков. Нынешние угрозы не могут быть блокированы на страновом уровне.
В этой связи Н. Бостром отмечает: «Я не отношусь к числу оптимистов, полагающих, что у человечества хватит ума в ближайшие 10–15 лет отказаться от национального эгоизма, страновых правительств, и перейти к глобальному управлению. Однако попытаться объяснить безальтернативность этого варианта я считаю своим долгом. В любом другом случае последствия черного шара будут либо летальными, либо в лучшем случае, трагическими для человечества».
Теперь будет полезно нарисовать более конкретную картину, как может выглядеть технологический черный шар. Наиболее очевидным видом такого черного шара является технология, которая позволяет очень быстро раскрыть чрезвычайно мощную разрушительную силу и при этом для своего появления и развития не требует массивных общегосударственных или международных программ, подобно тому, как это было с атомным оружием.
Мысленный эксперимент: легкое ядерное оружие
Серым лондонским утром 12 сентября 1933 года известный венгерский физик Лео Сцилард читал газету и наткнулся в ней на сообщение об обращении, сделанном выдающимся физиком лордом Резерфордом. В своем обращении Резерфорд категорически отверг идею извлечения полезной или разрушительной энергии из ядерных реакций, назвав ее использованием физики для самогоноварения. Это утверждение Резерфорда настолько вывело из себя Сциларда, что он отправился погулять в один из парков. Во время прогулки ему в голову пришла как готовая идея – способ осуществления цепной ядреной реакции как основа работы ядреных реакторов и атомных бомб. Более поздние исследования показали, что для изготовления атомного оружия достаточно базовой концепции Сциларда, дополненной несколькими килограммами плутония или высокообогащенного урана. Оба этих вещества с требуемой чистотой в природе не присутствовали и должны были быть произведены. Это требовало огромных затрат и согласованной работы десятков тысяч людей.
Соответственно стартовал успешный Манхэттенский проект. Помимо американцев, до конца Второй мировой войны, возможно, успели провести ядерные испытания нацисты, а в 1947 году атомную бомбу испытал СССР. В итоге мы получили ту историю, в которой живем.
Однако мысленно предположим, что все сложилось бы несколько иначе: Сцилларду, Ферми, Гейзенбергу, либо какому-то другому физическому гению удалось изобрести какой-то действительно легкий и дешевый способ высвободить энергию атома, например, посылая электрический ток через металлический лист, помещенный между двумя стеклянными пластинами. Итак, давайте рассмотрим альтернативную историю, в которой Сцилард изобретает ядерное деление и понимает, что ядерная бомба может быть изготовлена из кусков стекла, металла и простой электрической батареи, размещенных в компактном помещении. Что происходит дальше? Сцилард серьезно озабочивается сделанным открытием. Он видит, что оно должно остаться секретным любой ценой, иначе оно попадет в руки нацистов или других экстремистов. Однако ни Сциларду, ни его друзьям-физикам не понятно, как обеспечить полную секретность. Скорее всего, он обратится к ведущим физикам с личными письмами с просьбой не публиковать никаких статей о цепных ядерных реакциях и не заниматься технологическим их воспроизведением (именно это Сцилард сделал в реальной жизни).
Из реальной истории физики хорошо известно, что даже узкий кружок выдающихся ученых составляли очень разные по психологическим, ценностным и даже идеологическим характеристикам и взглядам люди. В любой узкой группе по причине хотя бы психологического и ценностного несходства ее участников всегда, рано или поздно, наступает явный или скрытый разлад. Если речь идет о технологиях и деньгах, то этот разлад обнаруживается быстро и может быть быстро и жестко подавлен. А вот когда речь идет о формулах, записанных на листах бумаги, разлад можно обнаружить только по последствиям. Тогда, когда уже будет слишком поздно.
В реальной истории значительная часть выдающихся физиков, например В. Гейзенберг, М. фон Арденне, Х. Бете, входивших в круг ближайших друзей и соратников Сциларда, не симпатизируя идеологии нацистов, были немецкими патриотами и работали над новыми видами оружия для вермахта. Очевидно, что в нашем случае, получив от Сциларда информацию, они бы озаботились тем, что атомное оружие создадут Соединенные Штаты, Великобритания, Советы и быстро взялись бы за дело. Поскольку получение исходных материалов в нашем гипотетическом случае было делом нехитрым, то все воюющие стороны во Второй мировой войне получили бы в ее ходе в свое распоряжение ядерное оружие. Поскольку точной информации, как обстоят дела у противника, у другой стороны не было, каждая из стран-обладателей ядерного оружия постаралась бы нанести удар первой. Над крупнейшими городами Европы, России и, скорее всего, Америки появились бы ядреные грибы. Это означало бы переход войны в стадию полного уничтожения противника. Были бы распакованы запасы химического и бактериологического оружия. Они существовали в годы Второй мировой войны у Германии, Японии, СССР и Великобритании, но, в отличие от Первой мировой войны, в реальности не были пущены в ход.
Вероятно, до полного уничтожения воюющих стран дело бы все же не дошло. Самые хладнокровные рациональные люди – военные на какой-то достаточно продвинутой стадии взаимного уничтожения, когда цивилизация уже рушилась, остановили бы хаос путем военной силы, вернув ее с фронтов. После этого выжившие, несомненно, занялись бы запретом производства стекла, уничтожением рудников, где можно было бы получить определенные типы металла, сожжением книг и запретом заниматься физикой, химией, а возможно и математикой. В лучшем случае наступило бы новое Средневековье.
Выше описан оптимистический сценарий. В более пессимистическом и вероятном сценарии на фоне всеобщего хаоса правящие элиты не принялись бы наводить порядок, а раскололись бы на фракции. Эти фракции развязали бы гражданские войны с применением ядерного и химического оружия. Все бы, несомненно, закончилось разрушением до основания промышленных центров, голодом и эпидемиями. Распад обычно заканчивается только тогда, когда общество оказывается настолько обессиленным, разобщенным и сокращенным, что не может больше использовать сколько-нибудь современное вооружение и вместо самолетов пересаживается на колесницы.
Если кто-то думает, что это – фантастика и человечество гораздо умнее, то эти люди ошибаются.
За вычетом атомной бомбы все описанное с химическим оружием, голодом, эпидемиями и даже каннибализмом, произошло в начале XX века во вполне процветавшей Российской империи. В стране в 1914 году произведшей 90 четырехмоторных самолетов, имевшей самое развитое электрическое освещение городов, выпускавшей до 2000 машин ежегодно Гражданская война велась конными армиями, а главной боевой силой была колесница с пулеметом под названием «тачанка». В стране, в чью Академию наук стремились попасть ведущие ученые со всего мира, Красная армия травила восставших крестьян Тамбовской губернии полноценным химическим оружием. За годы гражданской войны погибло и эмигрировало 5–7 млн. человек, в последующем от голода, вызванного гражданской войной, умерло еще примерно 7-10 млн. человек, перестала существовать промышленность и цивилизованное сельское хозяйство. Так что описанный гипотетический сюжет уже имел место в прошлом, правда, не с ядерным оружием. Кстати, этот пример заставляет задуматься, а не являлся ли марксизм классическим черным шаром, правда, не для всего мира, а для конкретной страны – Российской империи.
Гипотеза уязвимого мира
К счастью, нельзя вызвать ядерный взрыв с помощью лишь стекла, металла и батареи. Создание атомной бомбы потребовало реализации циклопических, непревзойденных до сих пор государственных программ. Эти программы хорошо отслеживались и анализировались всеми конкурирующими сторонами. Таким образом, в 1940-е годы мы вытащили не черный, а серый шар.
Теперь введем гипотезу, что технологическая урна содержит хотя бы один черный шар. Если говорить по правде, это – не гипотеза, а констатация. Тем не менее, назовем ее «гипотезой уязвимого мира». Интуитивно понятно следующее. Суть гипотезы в том, что существует некая технология, имеющая тенденцию к саморазвитию, с огромным разрушительным потенциалом, и при этом относительно малозатратная и саморазвивающаяся. По мнению Ника Бострома: «Если в самые ближайшие годы не будут реализованы экстраординарные и исторически беспрецедентные мероприятия, связанные как с государственным и трансгосударственным управлением, так и превентивным контролем над поведением, шансы на выживание у человечества в ближайшие 20–30 лет примерно равны статистической погрешности, т. е. нулевые».
Вполне вероятно, что мы уже достали, либо вот-вот достанем черный шар, и он покончит с нашей цивилизацией, если мы не выйдем из полуанархического состояния, которым характеризуется современный мир.
Под полуанархическим состоянием Н. Бостром подразумевает мировой порядок, а точнее беспорядок, описываемый тремя чертами:
– законодательно и ценностно ограниченные возможности для превентивного контроля и профилактической полиции. Государства не имеют в настоящее время достаточно надежных средств сплошного наблюдения за частной и общественной жизнью групп и лиц, несущих обществу особую опасность. Эта опасность не обязательно связана с их идеологическими пристрастиями и политическими убеждениями, а порождена, прежде всего, их научно-технологическим компетенциями и знаниями. В настоящее время в США и странах ЕС такой превентивный контроль совсем не одобряет порядка двух третей населения, а умеренно не одобряет еще 15–20 %. По факту, население планеты, особенно в развитых странах, завороженное гаджетами и социальными сетями, живет в иллюзорном мире, законодательство которого сложилось в середине прошлого века в совершенно иную технологическую эпоху;
– крайне ограниченные возможности глобального управления. Международные организации, задуманные как эффективные институты глобального регулирования и сохранения мира после Второй мировой войны, типа ООН, Совета безопасности, Международного валютного фонда, Всемирного банка и т. п. показали свою полную неэффективность в современном турбулентном мире. Военные блоки, созданные в период Холодной войны, выглядят как пережитки прошлого и способ возложить военные расходы исключительно на Соединенные Штаты. Различного рода консультативные негосударственные органы типа Трехсторонней комиссии, Римского клуба, Давосского форума были эффективны лишь короткий период времени и в настоящий момент либо прекратили свое существование, либо представляют собой декоративные вывески. При том, что все угрозы цивилизации носят глобальный характер, никаких глобальных эффективных институтов не существует. Глобальным эффективным институтом является институт, на который консенсусно возложена функция поддержания порядка, безопасности и принуждения, в том числе государств, угрожающих глобальной безопасности.
Глобальные проекты нулевых – первой половины десятых годов были свернуты администрацией Д. Трампа. Эта администрация, согласно оценке Бострома, несомненно, разрушительно действует на и без того хрупкую и неэффективную систему наднационального регулирования. Самой большой опасностью, по его мнению, для человечества в настоящее время является концепция нерушимости и приоритета национального суверенитета. Бостром утверждает, что «фактически она означает, что та или иная страна на своей территории может делать все, что заблагорассудится ее элите, в том числе нанося колоссальный ущерб человечеству, делая и без того мизерными призрачные шансы на выживание. Речь в данном случае не идет о военной агрессии той или иной страны. Гораздо больший ущерб может нанести внутристрановая научнотехнологическая, научно-техническая, ресурсная или кибер политика». Человек получил землю без государственных границ. Если государства до конца 20-х годов останутся основными акторами и регуляторами, то шансов на выживание у нынешней цивилизации не будет.
Движущие мотивы. Человеческая мотивация и психология не слишком изменилась за последние 500 лет. Глобальное торжество западной цивилизации привело к тому, что повсеместно на первый план выдвигаются личные мотивы и интересы, включая деньги, власть, статус, комфорт, удобство и стремление достичь их любой ценой, прежде всего за счет победы в конкурентной борьбе над ближним. Человек, как социобиологическое существо, относится к крайне незначительному числу высших млекопитающих, которые практикуют убийства друг друга и даже каннибализм. В последние 100 лет под воздействием капитализма общественные, коллективистские мотивы и стимулы были не просто оттеснены на периферию, а основательно разрушены. Ждать от общества, где каждый выживает в одиночку, какой-либо солидарности, по меньшей мере, наивно. С учетом того, что черный шар либо уже находится в наших руках, либо скоро попадет к нам, у цивилизации нет времени воспитывать альтруизм, коллективизм, солидарность. Если человечество хочет выжить, необходимо переходить к политике принуждения к коллективизму и солидарности, а также к ограничению потребительства.
Н. Бостром предлагает ввести термин «опустошение цивилизации». Он предполагает, что на некотором уровне технологии неизбежно происходит экзистенциональная катастрофа, связанная в предельном варианте с уничтожением хомо сапиенс, а в оптимистическом – с откатом нынешней цивилизации примерно в период раннего средневековья.
При сохранении указанных выше трех пороков цивилизационного устройства, уже применяющиеся биотехнологии могут привести к катастрофическим последствиям с отбрасыванием цивилизации на десятилетия, а то и столетия назад.
Подлинная проблема состоит в том, что никто – ни правящие элиты, ни правительственные чиновники, олицетворяющие институции, ни население – не готовы отказаться от того беспорядочного, неэффективного устройства, которое по недоразумению называют новым мировым порядком. Бостром называет его «цивилизационной разрухой». Представляется, что преодолеть ее можно только в том случае, если в мире буквально в ближайшие годы произойдет какая-то крупная локальная катастрофа, жертвы которой будут исчисляться сотнями тысяч человек, и которая заставит задуматься о том пути, по которому человечество движется. Если этого не случится, то расчеты, проведенные по обе стороны океана, на мощных имитационных моделях показывают, что наиболее вероятным сценарием мировой динамики с шансами до 70 % является смерть 25 % населения мира и сокращение мирового ВВП более чем на 50 % в течение ближайших 10–15 лет.
Прежде чем продолжим, хотелось бы оговорить еще один важный момент. Термин «технология» используется нами в самом широком смысле. Технологиями мы считаем не только машины и физические устройства, но и программные продукты, программно-аппаратные решения, психопрактики, организационные методы, идеологии и т. п. Каждый из этих видов технологий может стать черным шаром. Мы можем говорить об уязвимостях открытия и закрытия. В сценарии «легкого ядреного оружия» период уязвимости начинается, когда находится легкий способ производства ядерных зарядов. Период уязвимости закрывается, когда изобретается технология или технологический пакет, которые делают возможным превентивное предупреждение ядерных взрывов, в том числе принуждение обладателей ядерным оружием к ядерному разоружению.
Если защитная технология невозможна и технологический регресс не происходит, то мир становится постоянно уязвимым. Еще один эмпирический факт, который постоянно надо держать в уме политикам, представителям разведывательного сообщества и чиновникам – это асимметрия мира. Для того, чтобы довести научную идею до технологического воплощения, могут потребоваться даже не годы, а десятилетия, а для того, чтобы применить в разрушительных целях ту или иную технологию, может хватить и одного дня. К сожалению, вселенная устроена асимметрично. Созидание трудно, затратно и требует длительного времени. А разрушение, как правило, дешево и мгновенно. Соответственно, путь от первых приматов до нынешней цивилизации потребовал десятков тысяч лет упорного труда. А вот поездка в обратный конец может занять всего несколько лет.
Типология уязвимостей
Мы можем выделить несколько типов цивилизационных уязвимостей.
Тип 1 (вариант «легкого ядерного оружия»). При этом типе, также как в гипотетическом сценарии «легкого ядреного оружия», отдельные люди или небольшие группы получают в руки оружие массового уничтожения. Еще в 60-е годы прошлого века польский католический мыслитель и фантаст С. Лем сформулировал закон возрастания летального потенциала малых групп по мере технологического прогресса. Суть закона в следующем. Наш привычный технологический прогресс как сумма белых шаров, тем не менее, чем дальше, тем больше предоставляет одиночками и малым группам возможности нанести ущерб или лишить жизни не единицы и десятки, а тысячи, десятки и сотни тысяч людей. Этот закон действует, согласно анализу Лема, с XVI века и имеет тенденцию к экспоненциальному наращиванию летальных возможностей одиночек и малых групп.
При этом типе не предполагается появления некоего артефакта в виде черного шара. Глобальная разруха и анархия, а также несоответствие личного и общественного сознания цивилизационным вызовам ведут к тому, что уже сегодня малые группы, вооруженные кибероружием и разрушительными биотехнологическими разработками, вполне могут устроить апокалипсис как минимум в масштабе мегаполиса.
С учетом высокой связанности мира, уже сегодня, без всяких черных шаров, в течение последующего десятилетия велика вероятность цивилизационного опустошения за счет первоначального катастрофического события, связанного с терактом и вызванной им последующей, распространяющейся по миру эпидемией технологических отказов и аварий. В прогностической и фантастической литературе этот тип катастроф называется «домино-катастрофами».
При данном типе уязвимостей существует обратная зависимость между легкостью, с которой становится возможным вызвать инцидент и деструктивностью его последствий. При уязвимостях первого типа верным будет следующее утверждение: чем более легким является осуществление подобного инцидента, тем бóльшие разрушительные последствия он может иметь. Рассмотрим сценарий очень легкого ядреного оружия, при котором любая квалифицированная инженерная группа может создать переносимое термоядерное оружие, что называется «в гараже» в течение пары недель и не быть обнаруженной правоохранителями. Этот вариант полностью подходит под ситуацию уязвимости цивилизации.
В конечном счете, уязвимость появляется тогда, когда технологией легко воспользоваться, не прикладывая к этому особых инженерных, финансовых и иных усилий, которые могут быть обнаружены разведывательными сообществами или правоохранителями. Таким образом, уязвимость первого типа существует, если она может чрезвычайно легко причинить умеренное количество вреда, либо умеренно легко причинить чрезвычайное количество вреда. Причина, по которой нет смысла излишне концентрироваться на уязвимостях первого типа, к которым привлечено основное внимание общественности и спецслужб, состоит в следующем. Еще в 80-е годы прошлого века в рамках засекреченных учений ФБР группа выпускников MIT, используя лишь продаваемые без каких-либо документов и ограничений устройства, материалы и компоненты, смогла в Бруклине в течение двух недель изготовить незаметно для ничего не подозревающих правоохранителей, а также агентов ФБР, так называемую «грязную атомную бомбу». Тот факт, что за последние 25 лет эта возможность не реализована в реальности, говорит о внутренних, встроенных, хотя и не вполне известных нам механизмах, не позволяющих реализовать на практике идею частного ядерного оружия. Соответственно пока статус открытия ядерных технологий может быть охарактеризован серым, но не черным, шаром.
Тип – 2А. Безопасный первый удар. Технологии, которые демократизируют оружие массового уничтожения, это не единственный вид черного шара, который можно вытащить из урны. Другим видом будут технологии, которые стимулируют влиятельных игроков использовать свое преимущество обладания оружием массового уничтожения.
Снова обратимся к исторической иллюстрации. После изобретения атомной бомбы и недолгой американской ядреной монополии, началась гонка вооружений между США и СССР. Конкурирующие супердержавы накопили к середине 1980-х годов ошеломляющие арсеналы, составляющие примерно 70 тыс. ядерных боеголовок. Этого достаточно для 25-кратного уничтожения цивилизации. В то время как общественное осознание опасности Холодной войны сошло на нет с ее завершением в 1991 году, у академического сообщества появилась уникальная возможность поработать с рассекреченными архивами, воспоминаниями военных, а также данными об отказах и инцидентах.
Исследования инцидентов в период Холодной войны убедительно подтверждают гипотезу о миролюбии и рационализме советских старших офицеров. Всего с 1950 по 1991 годы, по оценкам американского разведывательного сообщества, было зафиксировано 13 эпизодов, когда мир буквально стоял на пороге ядерной войны. Эти эпизоды были связаны либо с ошибками в системах оповещения о ракетно-ядерном нападении, либо с отказами в срабатывании блокировки запуска ракет. Из этих 13 случаев 9 были связаны с отказами и дефектами в системах противоракетной обороны Советского Союза. Поразительным образом старшие офицеры, от которых зависело дать или нет сигнал высшему советскому руководству о запуске стратегических ракет, в ответ на массовый запуск американских ядерных сил, который демонстрировался на экранах радаров и других системах мониторинга, отказались дать такое подтверждение и тем самым спасли мир.
Тип 2А – это уязвимость непреодолимого искушения нанести удар по врагу, пока он не имеет возможности нанести ответный удар.
Уязвимость типа 2А характеризует появление технологий, располагаемых одним из влиятельных субъектов, который стремится использовать ее для того, чтобы покончить с нынешним миропорядком. Здесь важно отметить следующее обстоятельство. Военная история фиксирует два твердо установленных факта монопольного обладания смертоносным оружием влиятельными субъектами в течение относительно продолжительного времени: в одном случае примерно 25 лет, в другом – пяти. Речь идет соответственно о ядерном потенциале США в 40-50-е годы и уникальном японском бактериологическом потенциале, которым страна располагала в 30-40-е годы прошлого века. Можно предположить, что при всех недостатках и негативах, свойственных политическим элитам, у них даже в экстремальных случаях хватает ума, ответственности или просто страха не использовать свое решающее преимущество. Поэтому и данные технологические пакеты справедливо маркировать не черными, а серыми шарами.
Тип 2Б («Худшее глобальное потепление»). Еще один способ опустошения мира связан с изменением климата.
В реальном мире мы наблюдаем стабильное, длящееся уже век повышение глобальной средней температуры. Традиционно это связывается главным образом с деятельностью человека, а именно выбросами в атмосферу парниковых газов, таких как диоксид углерода, метан и закись азота. В настоящее время имеются различные прогнозы о темпах этого процесса. Подавляющее большинство серьезных моделей дают показатели увеличения средней температуры от 3 до 4,5 градусов к 2100 году по сравнению с 2000 годом. ООН приняла значительные усилия для того, чтобы сдержать этот рост до примерно 1,5 градусов к 2100 году. Однако шансов на это мало в значительной степени из-за агрессивного противодействия сокращению выбросов в атмосферу действующей администрации США, а также практических действий китайских компаний, при том, что официальное китайское правительство поддерживает усилия по сокращению выбросов.
Согласно последним расчетам Министерства энергетики США с использованием суперкомпьютеров и мощной команды из Австралии, в том случае, если до 2025 года не удастся снизить темпы прироста годовой температуры до примерно 1,5–2%, то в 2035–2045 годы наступит точка невозврата. Проблема даже не в том, что под воду уйдут Нью-Йорк, Лондон, Санкт-Петербург, Сингапур и Гонконг, а в том, что при таком росте температуры произойдет полное исчезновение большинства видов насекомых и пчел. Их численность за последние 25 лет уже сократилась на 70–80 %. Уничтожение насекомых приведет к глобальному краху пищевых цепочек. Соответственно, человечество окажется перед смертельной угрозой, которой совершенно непонятно, что можно будет противопоставить.
Целый ряд серьезных исследователей полагает, что нынешний подход к потеплению климата излишне оптимистичным. На самом деле ситуация гораздо хуже поскольку даже незначительное дальнейшее потепление климата не только уничтожит ценозы, но и как следствие приведет к массовому вымиранию домашних животных, птиц и рыб. Человечество в этом случае окажется просто перед пустой планетой. Уже в настоящее время живой вес человечества и его домашних животных составляет 85 % веса мировой биомассы. Когда будет достигнута величина 92 %, неизбежно начнет вымирать само человечество.
Уязвимость «худшего глобального потепления» принципиально отличается от уязвимости «первого безопасного удара». В случае уязвимости первого удара всегда есть конкретный субъект, который должен преодолеть страх немыслимого и осуществить действия, невиданные в истории человечества. Как показывает история, у элит есть внутренний встроенный контур, блокирующий уничтожение человечества одним ударом. В сценарии «худшего глобального потепления» ситуация принципиально иная. Нет одного единственного субъекта, от которого все зависит. Вместо этого существует большое количество значимых группировок элитных образований, каждая из которых надеется перехитрить другие и что называется «заработать на кризисе».
В математической теории игр хорошо известен термин «трагедия общин». Он характеризует ситуацию, когда определенная, зачастую немалая часть участников сообщества сознательно бесплатно потребляет коллективные ресурсы, полагая, что другие в силу различных причин будут продолжать брать на себя бремя сохранения общины и нести издержки. Даже в обыденной жизни хорошо известно, что в каждом коллективе есть халявщики и захребетники.
Высокая вероятность этого варианта состоит в том, что опустошение земли может наступить в силу недостатков и несогласованностей в коллективной деятельности множества участников. Главное, что каждый из участников, хотя и входит в сообщество, действует самостоятельно и независимо.
Общим для рассматриваемых вариантов уязвимостей является то, что, в конечном счете, к катастрофе ведет вполне сознательный, хотя и построенный на ошибочных предпосылках выбор наиболее сильных субъектов. Так отказ нынешней американской администрации поддержать усилия по сокращению прироста температуры – это типичная политика халявщика, который хочет переложить на других свои издержки, и тем самым обеспечить преимущества в конкуренции с другими участниками.
Тип 3 (Удивительные странники). В 1942 году один из руководителей Манхэттенского проекта поделился с руководством опасением, что ядерный взрыв создаст температуру беспрецедентную в истории Земли и это может вызвать самопроизвольное распространение термоядерной реакции в окружающем воздухе или в воде. Проверочные расчеты показали, что особого риска нет. После этого решились на проведение эксперимента с расщеплением ядерного ядра. Эксперимент подтвердил правильность расчетов.
Однако кошмар истории в том, что резюме заключения о возможности проведения эксперимента по расщеплению ядерного ядра содержало такие строки. Недавно они найдены в архивах: «Риск гибели планеты крайне маловероятен, поэтому целесообразно проверить поражающую силу ядерного оружия экспериментально…» Спустя 12 лет в секретном ядреном эксперименте Castle Bravo планировалось испытать опытный экземпляр термоядерной бомбы не на основе урана или плутония, а другого химического элемента. Поскольку точно никто не знал, насколько мощным будет ядерный взрыв и каковы будут последствия, повторилась ситуация Манхэттенского проекта. Провели расчеты, и выяснилось, что рванет на 6 мегатонн с диапазоном неопределенности 4–8 мегатонн. В Тихом океане был произведен взрыв. Взрыв получился в 15 мегатонн или 1 тыс. хиросим и разрушил большую часть испытательного полигона вместе со всем оборудованием. Короче, ученые ошиблись в расчетах. Когда тогдашний президент США Эйзенхауэр призвал военных к ответу, они сообщили: «Всякое бывает с новой техникой». Называя вещи своими именами, миру просто сильно повезло.
Исследователи любят именовать себя очарованными странниками в неведомое. Когда неведомое – кости мамонтов, новые сплавы, либо наблюдения за бабуинами, любопытство исследователей и тяга к прогрессу даже в худшем случае дешево обойдутся человечеству. Но сегодня никто не знает, чем закончится эпопея с попытками экспериментально выяснить, что такое на самом деле «темная энергия», как в реальности работает наследственная система человека, каковы пределы взаимодействия человека и компьютера и т. п. Вполне вероятно, что опыт в этих и других сходных областях может стать последним опытом человечества.
Самое худшее в этой истории связано не с наукой и технологией, а с политикой и лидерством. Американский президент не может отказать своим физикам в создании новой сверхмощной установки для проникновения в тайны мирозданий с неясными последствиями просто потому, что аналогичную установку уже строят китайцы. Британцы не могут запретить практических работ по скрещиванию человека с искусственно полученными эмбрионами. Эти работы не планируются, а уже ведутся в некоторых странах Юго-Восточной Азии.
Осторожность и осмотрительность в высококонкурентном и враждебном мире просто невозможны. Это – главный урок, который необходимо извлечь.
Достижение стабильности
Плохая новость в том, что человечество однажды неизбежно достанет черный шар. Хорошая – в том, что это не означает, что цивилизация будет непременно опустошена. Есть по крайней мере несколько возможностей стабилизации даже уязвимого мира. Напомним, что гипотеза технологии черного шара, которая делает цивилизационное опустошение весьма вероятным, обязательно требует наличия двух условий: во-первых, неконтролируемости технологического развития и, во-вторых, сохранения нынешнего глобального беспорядка. Таким образом, по мнению Бострома, можно выделить следующие потенциальные возможности блокировки угрозы черного шара:
– Запрет конкретных направлений научно-технологического развития.
– Выстраивание иерархического мирового порядка, когда доминат частично передает свои функции региональным и отраслевым по направлениям развития науки, техники и технологий субдоминатам. Конечно, это будет смахивать на феодализм в масштабах планеты и закрепит несправедливость. Однако такая система позволит оперативно выявлять и пресекать опасности.
– Установление эффективного глобального управления во главе с доминатом и справедливым участием субдоминатов.
– Решительное изменение норм международного права, а также создание глобального органа власти, осуществляющего быстрые превентивные меры в отношении нарушителей глобального договора о торможении технологического развития.
Ограничения в развитии технологий
В общем виде идея технологического регресса выглядит предельно бесперспективной. Соответственно технологическая блокировка в наиболее явном и последовательном виде требует прекращения изобретательской деятельности по всему миру. Это невозможно. Однако невозможность общего отказа от научных и технологических исследований не означает отсутствия целесообразности ограничения конкретных научно-исследовательских и особенно технологических разработок. Есть смысл отказаться от особенно опасных направлений развития, связанных в первую очередь с проникновением в глубины материи, выяснением реальной, а не упрощенной, картины с наследственностью, созданием саморазвивающихся программно-аппаратных средств и т. п.
По мнению Н. Бострома, целесообразно на основе согласованной работы ведущих фабрик мысли в самой ближайшей перспективе сформировать перечень запрещенных исследовательских тем и блокируемых технопакетов, и вынести его на обсуждение домината и субдоминатов.
Должен быть сформирован перечень оборудования и других компонентов, требуемых для указанных выше направлений, на которые вводится в глобальном масштабе специальная спецификация и наблюдение за использованием. В условиях интернета всего это технически вполне возможно уже сегодня.
Также необходимо создать на основе кооперации усилий разведывательных сообществ различных стран полные и постоянно пополняемые списки всех компаний, творческих коллективов и отдельных исследователей и разработчиков, теоретически способных на свой страх и риск, либо при сторонней поддержке вести запрещенные исследования и разрабатывать технопакеты.
По сути, Бостром предлагает реализовать принцип дифференцированного научно-технологического торможения. Реализация этого принципа потребует создания наднациональной разведывательно-контрразведывательно-карающей структуры, способной к ежедневным практическим действиям. Фактически эта структура должна стать своего рода глобальной научной инквизицией. Однако в отличие от инквизиции, эта структура должна определять не научность или ненаучность тех или иных разработок, а их опасность для человечества. (Этот сюжет впервые детально описали в 80-е годы прошлого века браться Стругацкие в романах «Волны гасят ветер» и «Жук в муравейнике». Там подобный орган даже имел название – Комкон-2).
Не следует переоценивать возможности такого рода политики. Бесспорно, научно-техно логический прогресс имеет собственную, лишь частично зависимую от социально-экономической динамики, траекторию. Вероятно, никакие политические, правовые и даже карательные меры не могут остановить технологическое развитие в силу внутренней логики этого процесса. Однако такого рода структуры могут оказать серьезное влияние на время, когда будут разработаны и запущены те или иные технологии. Надо быть реалистами и понимать, что цель такой структуры, в конечном счете, это – не вечная блокировка научных открытий и технопакетов, а лишь регулирование времени воплощения научных открытий в технологические разработки. Это достаточно релевантная и реализуемая задача. В основу деятельности своеобразной новой научной инквизиции должен быть положен принцип: разрушительные технологии должны появляться как факт повседневной жизни лишь тогда, когда уже созданы защитные технологии. Т. е. щит всегда должен опережать меч.
Время изобретения также влияет на социально-политический контекст использования технологий. Коль скоро человеческая цивилизация будет время от времени доставать черные шары, возможно отложить самые рискованные технологические разработки или, по крайней мере, сдерживать их на стадии научных открытий, а не инструментальных технологий. Даже если мы предположим, что цивилизационные разрушения неизбежны, а, скорее всего, дело обстоит именно так, то любой нормальный человек предпочтет, чтобы это произошло как можно в более отдаленном будущем, когда он сам и его близкие уже уйдут из жизни. Психологические опыты показывают, что люди воспринимают время, простирающееся не более чем на жизнь их внуков. Поэтому, коль скоро однажды предстоит достать из урны черный шар, который опустошит цивилизацию, лучше, чтобы это произошло к концу текущего столетия, а не в его первой половине.
Необходимо признать, что реализация технологической блокировки является сложнейшей стратегической задачей. Тем не менее, ответственным политикам, предпринимателям, исследователям, которые заботятся о том, чтобы их дети и внуки жили, стоит, по мнению Бострома, попробовать взяться за эту задачу. Некоторые направления, такие как синтетическая биология, физика темной энергии, лазерное разделение изотопов, геоинженерия уже сегодня вызывают большую тревогу не только у разведывательного сообщества, политиков, но и у широкой общественности. Поэтому дальновидно было бы в ходе подготовки глобального соглашения о торможении технологий, начать с малого, и лишь затем, пользуясь общественным мнением, стремительно запретить то, что можно запретить.
Организации и структуры
Другой теоретически возможный способ достижения цивилизационной стабильности, согласно оценкам Бострома, – это резкое уменьшение количества конкурирующих акторов, принимающих самостоятельные решения в области развития науки и техники, и применения технологий. Наиболее мягкий и одновременно сложный и малоэффективный способ – это установление различных форм координации между ними. Степень, в которой этот подход может быть эффективным, в решающей степени зависит от того, с каким типом уязвимостей придется столкнуться человечеству. В случае уязвимости первого типа такого рода координация выглядит многообещающей. Как уже отмечалось, у политиков и элит в целом, скорее всего, есть некоторые внутренние встроенные паттерны, отвращающие их от принятия необратимых решений по уничтожению.
Следует отметить, что сегодня вся международная политика вертится вокруг уязвимости первого типа и абсолютно игнорирует другие, гораздо более опасные типы уязвимостей. С энтузиазмом, достойным лучшего применения, великие державы уступают давлению и шантажу международных хулиганов, пугающих мир именно уязвимостью первого типа. В ответ на шантаж они получают экономическую помощь, преференции. Между тем, хорошо известно, что шантажист, один раз получивший выкуп, становится профессиональным торговцем страхом. А это очень опасно, ведь однажды ситуация может выйти из-под контроля шантажиста, и тогда все произойдет всерьез. Техника и технологии сегодня накопили достаточно средств, позволяющих не вести годами переговоры с шантажистами, а быстро, хирургически их уничтожать.
Что касается второго типа уязвимостей, то здесь координационный подход является наилучшим. Как правило, в ситуациях со вторым типом уязвимостей круг реальных акторов ограничен несколькими государствами и, возможно, одним-двумя особенно влиятельными негосударственными субъектами. Этот вариант наиболее отработан в истории человечества и позволяет решать проблемы за переговорным столом. Как показывает жизнь, любой, даже самый отъявленный террорист, либо гибридный военных игрок через семейные, личные и иные приватные связи вовлечен в жизнь других цивилизованных государств. Соответственно это делает его уязвимым. В западной дипломатии в отличие от разведки хорошим тоном считается неиспользование такого рода уязвимостей. Однако, в рамках принуждения к технологическому торможению, они являются едва ли не наилучшим инструментом: дешевым, простым и действенным.
Некоторые конкретные ограничения
Помимо прямой блокировки отдельных направлений технологического развития и воздействия на институциональных и частных акторов в рамках сдерживания опасных направлений, существуют и другие возможные направления, способные несколько повысить сопротивляемость цивилизации к уязвимостям. Например, по мнению Бострома, можно попытаться:
– предотвратить распространение потенциально опасной информации о сути и деталях блокированных исследований и разработок;
– ограничить доступ к необходимым материалам, инструментам и инфраструктуре, используемым для проведения опытно-конструкторских и технологических работ на базе открытий по блокируемым направлениям;
– установить постоянное наблюдение за лицами по своему интеллектуальному уровню, профессиональной подготовке и квалификации способными осуществить не только научные прорывы, но и обеспечить их технологическую реализацию по блокируемым направлениям;
– усовершенствовать, в том числе с использованием искусственного интеллекта, систему превентивного опережающего мониторинга рисков различного рода научных и технологических разработок;
– создать международный механизм правоприменения, который позволял бы пресекать еще на стадии планирования попытки перевести те или иные открытия по блокируемым темам на уровень технологических разработок. При всей привлекательности, указанные выше решения имеют различный потенциал практической реализации. Предотвращение распространения информации вероятно просто невозможно. Даже если реализовать эту меру, то нет гарантии, что кто-то самостоятельно вновь не переоткроет уже открытое и совершит технологический прорыв. Гораздо более эффективным представляется сочетание свободы на уровне публикаций об открытиях, с жесточайшей цензурой на издание технологических документов. Как показывают опыт и здравый смысл, последнее дело – запрещать все и сразу. Напротив, надо дать возможность исследователям раскрыться, оценить риски открытия и далее превентивно пресечь перевод открытия на уровень конструкций и работающих технологий. Это осуществляется, прежде всего, через ограничение доступа к материалам, инструментам и инфраструктуре, и тотальному превентивному контролю над кадрами. Такая смешанная политика, сочетающая открытость с пристальным мониторингом и решительным превентивным реагированием попыток перейти от стадии фундаментальных и прикладных открытий и исследований к их конструкционной и технологической реализации, является не только реалистичной, но и способной в сжатые сроки дать ощутимый эффект.
Несомненно, реализовать предлагаемую смешанную политику, по оценкам Бострома, можно лишь подкрепив ее превентивной полицейской деятельностью. Эта деятельность не обязательно должна сопровождаться арестами исследователей, разработчиков, конструкторов и технологов. Речь идет об особой полицейской деятельности, чьей задачей является не изоляция ученых и разработчиков от общества, как это происходит с преступниками, а изоляция их от определенных направлений научных и технологических исследований и разработок. Главная проблема заключается в невозможности развертывания подобной полицейской научно-технологической деятельности не только на национальной, но и на международной, транснациональной основе. Европол и Интерпол, согласно мнению Бострома, продемонстрировали удивительную беспомощность в борьбе с высокотехнологичными преступлениями. Поэтому создавать еще одну международную организацию, учредителями которой являются национальные государства, представляется совершенно бессмысленным.
Надо прямо и честно сказать себе, что национальные государства – лидеры сегодняшнего мира – выступают категорически против предлагаемых новаций и успешно ведут человечество к опустошению цивилизации. Они занимаются азартной конкурентной борьбой за овладение любой новой технологией, в том числе той, которая помечена черным шаром. Проблема заключается не в коварстве исполнительной власти и глупости элит, а во вполне объективных причинах.
Современное общество, а именно капитализм, заточено на экономический рост. Капитализм не может существовать без прибыли. Прибыли не получить без прибавочного продукта, т. е. прироста товаров и услуг в денежном выражении. Прирост товаров и услуг может быть осуществлен только двумя путями: либо за счет привлечения новых ресурсов, либо путем улучшения их использования, т. е. проведения высокотехнологических инноваций.
Возможности первого пути в целом для глобальной экономики исчерпались для ключевых – энергетических – ресурсов еще в 60-70-е годы прошлого века. Речь идет не о пресловутом пике добычи нефти, которого не существует, а об условиях добычи ресурсов. Статистика показывает, что по основным видам топливно-энергетических и рудных ресурсов, начиная с 80-х годов прошлого века, в оборот вовлекаются все более дорогие ресурсы. Всем понятно, что сланцевая нефть существенно дороже нефти из саудовских нефтяных озер. При ухудшении условий добычи всех основных видов ресурсов, а следовательно их удорожании, единственным фактором роста становятся инновации и открытия. Поэтому каждая страна хотела бы, чтобы все остальные присоединились к предложению о приостановке научно-технологического прогресса, а ей удалось бы каким-то образом избежать общей участи.
В этом нет ничего нового. Если мы посмотрим в недавнюю историю, то Китай горячо приветствовал сокращение баллистических ракет и ракет средней дальности Соединенными Штатами и СССР, а затем Россией. Однако когда недавно президент Д. Трамп предложил перезаключить новый договор, в который вошло бы не две стороны, а три – США, Россия и Китай – китайцы отказались даже вести переговоры по ракетам.
Пробелы в управлении
Выше изложены основные направления потенциально возможных конкретных действий. Внимательно проанализировав складывающую глобальную ситуацию, Бостром пришел к выводу, что высокая необходимость в подобных мерах не делает их одобрение весьма вероятным в политических кругах. В этой связи, по мнению Бострома, необходимо рассмотреть еще два возможных пути достижения технологической стабилизации и спасения цивилизации от разрушения вследствие технологического открытия, маркированного черным шаром:
– ведущим государствам – технологическим лидерам заключить договор о создании надгосударственной профилактической технологической полиции, которая бы занялась выявлением и блокировкой деятельности любых небольших групп и отдельных лиц, способных реализовать технологический черный шар;
– создать потенциал для сильного глобального управления. Принимая во внимание, что государства более не обладают монополией на власть, которая частично переходит к корпорациям и общественным организациям, сделать упор на создание международной корпоративной упреждающей технологической полиции. Как показывает опыт, технологические гиганты готовы сотрудничать с правоохранительными органами по выявлению и ограничению тех или иных технологических решений. Это происходит не из-за высокой сознательности руководителей технологических гигантов, а объясняется их экономическими интересами. Занимаясь торможением технологий – кандидатов на черный шар, – технологические гиганты одновременно замораживают достигнутый уровень технологии, т. е. фиксируют мир, где они являются лидерами.
Данный подход имелось в виду опробовать при создании Трансатлантического и Транстихоокеанского торгового и инвестиционного сообществ. В структуре сообществ были предусмотрены специальные технологические суды и технологические исполнительные органы, которые были призваны расследовать случаи нарушения тех или иных технологических договоров. Однако победа Д. Трампа на выборах 2016 года поставила временный крест на этой работе. В настоящее время ни у Соединенных Штатов, ни у кого-либо еще нет проработанного плана глобального технологического регулирования. При этом американские, британские и японские компании – технологические лидеры – продолжают прорабатывать данную тему, ориентируясь на будущее, в том числе внимательно проектируя превентивную технологическую полицию.
Превентивная технологическая полиция
Не надо тешить себя иллюзиями и полагать, что превентивная технологическая полиция может быть создана в отдельных государствах и существовать в виде реализации программ межгосударственного сотрудничества. Постоянное запаздывание не только страновой полиции, но и Интерпола и Европола в борьбе с киберпреступностью убедительно свидетельствует о бесполезности в XXI веке традиционной полиции – института, порожденного в XIX–XX веках. Если в Европе киберпреступники отлично научились пользоваться разночтениями в законодательствах различных стран, а также несогласованностью и бюрократизмом в области наращивания межстранового сотрудничества, то в Соединенных Штатах ситуация еще хуже. Большинство видов киберпреступности относится к компетенции полиции штатов. Соответственно киберпреступники, действуя по всей территории США, при этом зачастую из-за границы, раз за разом оставляют с носом полицейских, вынужденных не искать криминал, а согласовывать в результате многоступенчатых переговоров разрешения осуществлять деятельность на межштатной основе.
Представляется, что ближе всего к созданию превентивной полиции находится сегодня Китай. Однако китайцы отнюдь не собираются ограничивать превентивным образом технологические исследования и разработки. Напротив, они заимствуют их по всему миру и используют в национальных интересах. Превентивная полиция также используется китайским руководством для обеспечения стабильности в обществе и упрочения древних традиций общественной прозрачности в Поднебесной.
В китайской системе каждый человек имеет так называемую «бирку свободы». Бирка свободы является дальнейшим развитием бирки на лодыжке, широко используемой полицейскими и судами в качестве альтернативы тюрьме. В Синьцзян-Уйгурском автономном районе, Тибете и некоторых городах-миллионниках на побережье Южнокитайского моря уже в следующем году все жители должны будут 24 часа в сутки носить браслет. При этом известно, что браслет – это промежуточная стадия, необходимая для отладки работы гигантских центральных серверов, осуществляющих контроль над каждым обладателем бирки свободы. В перспективе до 2022 года имеется в виду, начиная с семилетнего возраста, имплантировать чип, выполняющий функцию бирки свободы, непосредственно в тело. При этом наличие бирки свободы является обязательным условием оказания любых государственных услуг и установления любых взаимоотношений с государством, включая получение дотаций, премий и выплату налогов.
В систему в Синьцзян-Уйгурском автономном районе включены не только браслеты на запястье, но и сеть видеокамер, установленных на каждом перекрестке не только в городах, но и в сельской местности, где не всегда есть интернет для населения, а также патрульные дроны, покрывающие всю территорию Синьцзян-Уйгурского автономного района. В случае если владелец бирки свободы после предупреждения продолжает заниматься запрещенной деятельностью, то производится превентивный арест и он направляется не в тюрьму, а в лагеря для перевоспитания.
Впервые подобную систему под названием «Паноптикум» описал Иеремия Бентам в начале XIX века. В настоящее время стоимость развертывания и годовая эксплуатация этой системы в расчете на одного человека составляет в Китае 380 долларов. По оценкам южнокорейских экспертов, которым удалось ознакомиться с первичными документами китайской системы, перед инженерами и технологами поставлена задача до 2022 года довести ее цену до 140 долларов на человека. В этом случае Китай сможет потянуть ее сплошное развертывание.
Принципиально в условиях смертельной угрозы гибели цивилизации от черного шара, полагает Бостром, можно было бы всерьез рассмотреть возможность глобального развертывания подобной системы. Если предположить приведенные затраты на одного человека в 140 долларов, которые китайцы рассматривают как цель, то глобальное развертывание системы постоянного мониторинга и превентивных мероприятий составит примерно 1,5–2% мирового ВВП. Это вполне приемлемая цена за предотвращение крушения цивилизации.
Вопрос сегодня не в технической и организационной реализации подобной системы. В этом сомнений нет. Проблема – в сопротивлении населения в западных странах и политиков традиционного толка развертыванию подобной системы.
Возникает вопрос, а есть ли хоть один шанс реализовать эту систему на Западе. Представляется, что к глобальному Паноптикуму ведут два пути. Первый связан с тем, что общество постепенно осознает, что двигается к полной социальной прозрачности, где больше нет приватности и к алгоритмической экономике и отчасти политике. Фактом является то, что сегодня гораздо проще собирать и анализировать информацию о людях и событиях, чем это было 5–7 лет назад. Даже в наиболее приверженных личным свободам странах типа Скандинавии, Швейцарии, Соединенных Штатов общество молчаливо соглашается с ликвидацией приватности, как допустимой платы за предотвращение терроризма. Иными словами, если начать интенсивную информационную кампанию относительно технологической опасности черного шара, то есть основания полагать, что позиция основной части населения в западных странах изменится. Ментально оно подготовлено, прежде всего, телевидением и интернетом к грядущим колоссальным проблемам из-за неконтролируемого развития технологий. Поэтому при достижении внутриэлитного согласия этот путь можно пройти достаточно быстро.
Второй путь предполагает умное и оперативное использование последствий практически неминуемых в ближайшие 3–5 лет крупномасштабных технологических катастроф, от которых могут пострадать десятки, а то и сотни тысяч человек. Эти катастрофы неминуемо произойдут в развитых странах, поскольку уровень сложности, как обществ, так и технических устройств, а также телекоммуникационных сетей уже сегодня заметно превысил уровень управления. Грубо говоря, сложность развивается стихийно. Любое стихийное развитие заканчивается катастрофой. Просто эту катастрофу надо эффективно использовать так же, как в Соединенных Штатах были использованы события 11.09.2001. Естественно, я не только не призываю, но и не намекаю на идею плановой организации катастроф. К сожалению, они произойдут в ближайшее время стихийно. Бостром предлагает планировать реакцию на катастрофы. Эта реакция, наряду со спасательными и восстановительными мероприятиями, должна включать мощнейшую информационную кампанию, которая убедит население в полезности Паноптикума.
Глобальное управление
Рассмотрим еще одно направление, связанное с перестройкой государства на предотвращение разрушения цивилизации. Глядя в будущее, предположим, что черный шар уже вытащен, и он связан с развитием синтетической биологии, редактированием генома или созданием искусственного суперинтеллекта. Также предположим, что научно-техническим разведкам ряда стран-лидеров удалось своевременно оценить возникшие технологии именно как черный шар, ставящий под угрозу само существование цивилизации. Естественно, что в данной ситуации государственные субъекты столкнутся с проблемой выработки и скорейшего осуществления коллективных действий.
Бостром задается следующим вопросом: могут ли участники совещания, гораздо более осведомленные в тайнах мировой политики, чем обычные граждане, привести хотя бы один пример, когда быстро удалось среагировать на черный шар. Трех минут достаточно, чтобы услышать ваше молчание. Тем не менее, один такой пример привести можно.
Почти 60 лет назад примерно 25 выдающихся мужчин сохранили мир, которому оставалось несколько часов до полноценной и полномасштабной ядерной войны. Речь идет, конечно, о Карибском кризисе. Сегодня известно, что решающую роль в этом сыграли Д. и Р. Кеннеди, а в СССР – маршал Р. Малиновский и тогдашний влиятельный руководитель партии, за которым стояла тайная полиция, А. Шелепин, остановивший Н. Хрущева. Однако проблема вот в чем. Вместо всемирного признания братья Кеннеди были вскоре убиты, а А. Шелепин и Р. Малиновский отправлены в отставку. У политиков очень хорошая память и чутье на личную опасность.
По мнению Бострома, единственной альтернативой хаоса, который воцарился в настоящее время в мировом сообществе, является установление жесткого глобального управления. Из-за дискредитации термина «мировое правительство» я не называю глобальное управление этим термином. Н. Бостром предпочитает использовать термин «Специальный комитет». Функции Специального комитета должны быть ограничены конкретной проблемой сдерживания определенных направлений научно-технологического прогресса. В этих рамках он должен иметь право в приказном порядке потребовать от любого правительства, включая правительство Соединенных Штатов, выполнить те или иные действия, либо предоставить выполнение этих действий на территории страны особым силам спецкомитета. Бостром не предлагает создать всемирное правительство, но в условиях реальной угрозы цивилизации предлагает модель ограничения суверенитета всех стран мира в части технологического развития. Ни одна страна не может ссылаться на то, что она суверенна, а соответственно, может на своей территории делать все, что ей заблагорассудится. Данные меры надо провести как можно скорее, пока кто-либо не вытянет все же черный шар и не отправит всю нашу цивилизацию в лучшем случае в страну опустошения, а в худшем случае – в небытие.
Рассмотрим для примера биотехнологический черный шар, достаточно мощный, чтобы случайное использование технологии могло вызвать пандемию, которая убила бы миллиард человек. При осознании такой опасности надо понимать, что неприемлемой является ситуация, когда даже одному государству не удастся или не захочется создать механизм, необходимый для постоянного превентивного наблюдения и контроля за его гражданами с особыми навыками и ресурсами научно-технологического характера. Это одно государство, которое откажется реализовать указанные выше предложения, поскольку его граждане слишком ценят личную свободу, а в конституциях закреплено право на неприкосновенность частной жизни, станет могильщиком человечества.
По сути, вопрос стоит следующим образом. Ответственные мировые элиты должны провозгласить необходимость создания в кратчайшие сроки спецкомитета, имеющего не просто право, а обязанность в определенной, строго установленной области не вести переговоры с государствами, а приказывать им, что они должны сделать, чтобы помочь силам спецкомитета провести успешную операцию на территории государства.
Дискуссии
Многочисленные встречи и консультации с мировыми лидерами, высокопоставленными представителями разведывательных сообществ различных стран, лауреатами ведущих научных премий позволили Бострому прийти к парадоксальному выводу. Для подавляющего большинства его собеседников самым шокирующим и одновременно пугающим фактом были не конкретные предложения, а то, что пока человечество не столкнулось ни с одной по-настоящему крупномасштабной катастрофой, типа средневековой эпидемии чумы. Как известно, эта эпидемия выкосила до 70 % населения Европы. Причем есть большое подозрение, что она была целенаправленно завезена венецианцами в рамках внутриитальянской борьбы и глобальных европейских финансовых спекуляций с территории нынешнего Крыма и Северного Причерноморья. Собеседники Бострома выражали удивление, что пока люди продолжают в основном вспоминать Чернобыль, Фукусиму, либо катастрофу на индийском заводе в Бхопале. Насим Талеб говорит по этому поводу примерно следующее: «Каждый прожитый без глобальной катастрофы день свидетельствует не о том, что эта катастрофа маловероятна, а о том, что она с большей вероятностью, чем раньше, произойдет завтра, в крайнем случае, послезавтра».
В ходе дискуссий никто из по-настоящему ответственных людей не смог предложить Бострому ничего иного, чем Паноптикум Бентама, который частично уже реализуют китайцы для других целей. Любой неангажированный профессионал, согласно оценкам Бострома, отдает себе отчет, что все нынешние государства рыхлы, слабы и в условиях современных технологий просто демонстрируют силу, а не обладают ей. Любой непредвзятый человек подтвердит, что национальные полиции бессильны перед высокотехнологичным криминалом. Полицейские сами прекрасно понимают это, и поэтому стараются даже не заводить дела на киберпреступников, осознавая, что они превратятся в «висяки». Статистика свидетельствует о полной импотенции Совета Безопасности ООН, его воинских контингентов, о хронической медлительности Европола, который проигрывает в темпе киберкриминалу.
Когда на повестке дня стоит скорое разрушение цивилизации, то, как пишет Бостром: «Полными идиотами выглядят почтенные действующие политики, предлагающие собрать Генеральную Ассамблею ООН, сессию Совета НАТО, либо, как рассказал мне один известный испанский политик, сессию Совета Европы по рассмотрению возможности создания Комитета по предотвращению перспективных технологических угроз. 50 лет человечество, в основном благодаря уникальной ситуации Холодной войны, где две ответственных элиты постоянно балансировали и искали решения, привыкли к безопасности. Нынешние публичные политики измельчали и достаточно убого выглядят на фоне таких фигур как Кеннеди, Рейган, Тэтчер, Моро, Дэн Сяопин, Аденауэр, Андропов и Горбачев. По своей сути они просто клерки, которые перекладывают бумаги и произносят дежурные речи.
Не секрет, что многие не только в Капитолии, но и в американском разведывательном сообществе, а тем более бизнесе и университетах весьма скептически, если не сказать пренебрежительно, относятся к нынешнему президенту Д. Трампу. Однако у этого человека, как бы каждый из нас к нему не относился, не отнять удивительной по нынешним временам воли, последовательности и бесстрашия, способности отстаивать взгляды, еще вчера немыслимые в Америке.
Главный смысл моего выступления состоит в том, чтобы уполномоченные на это люди донесли реальную опасность для человечества черного шара до нашего президента и обрисовали ему возможные пути решения проблемы. Мне кажется, что Д. Трамп – это единственный лидер, который может заставить других сделать то, что нужно не только для Америки, но и для всего мира. Надо четко сказать, что буквально в ближайшие год-два-три необходимо отказаться в международном масштабе от концепции неограниченного национального суверенитета и передать безусловные права спецкомитету, как глобальному органу мониторинга, контроля и пресечения попыток осуществлять исследования и разработки, чреватые черным шаром. Когда черный шар будет извлечен, а я надеюсь, что этого еще не произошло, будет уже поздно искать пути пресечения развития технологий.
Предлагаю всем вдуматься в две простые цифры. Если в 80-90-е годы прошлого века, т. е., казалось бы, в буквальном смысле вчера, путь от научного открытия до его полноценной реализации в среднем занимал 14 лет, то сегодня – 3,5 года. У Америки просто нет времени надеяться на случайность. Если каждый день любопытные леди и джентльмены по всему миру норовят залезть в урны с шарами, чтобы удовлетворить собственное любопытство, а заодно заработать денег, то велика вероятность, что пока мы с вами проводим совещание, кто-то где-то этот шар достал. Спецкомитет, или высокотехнологичный Паноптикум – это не фашизм, а необходимость. Надеюсь, что хотя бы некоторые из вас читали мои международные бестселлеры „Дайте красную таблетку“ о фильме „Матрица“ и согласно данным Амазона, самую популярную в мире книгу о развитии искусственного интеллекта „Суперинтеллект“. Видно, что эти книги написал убежденный либерал, демократ, человек до мозга костей приверженный американским ценностям. Поэтому я верю, что ответственно подходя к делу можно сочетать высокотехнологичный Паноптикум с сохранением демократии. Чтобы наслаждаться свободой, надо как минимум быть живым. Дела же складываются так, что без Паноптикума вряд ли у нас есть большие шансы просуществовать хотя бы до 2030 года».