По нашему мнению, возникновение ИИ поставило под сомнение саму возможность будущего человечества. Чуть позже мы подробнее рассмотрим идею, что по мере развития ИИ – с его постоянно растущими возможностями и нечеловеческой скоростью принятия решений – традиционные методы регулирования утратят свою эффективность. Требуется немедленная разработка принципиально новых методов контроля. Научному сообществу критически важно создать технические стандарты встроенной безопасности для ИИ. Одновременно государства должны срочно согласовать международные нормы, учредить органы надзора, разработать протоколы реагирования на кризисные ситуации. Особую сложность представляет двойное согласование – технических параметров и этических норм. Кроме того, необходимо будет переосмыслить дипломатические взаимоотношения в новую эпоху.
Доктор Генри Киссинджер, один из соавторов этой книги, скрупулезно разъяснял нам суть последней из задач, указанных выше, в то время как мы, занимая в свое время руководящие посты в компаниях Microsoft и Google, консультировали его по существу первой задачи. Крейг Манди являлся главным представителем Microsoft по вопросам технологической политики в Вашингтоне и зарубежных правительствах, одновременно курируя Microsoft Research[8], а в последнее время консультировал руководство исследовательской организации OpenAI. Эрик Шмидт в течение десяти лет возглавлял компанию Google, а покинув этот пост, следующее десятилетие посвятил, среди прочего, продвижению инициатив по расширению возможностей для талантливых молодых людей и развитию междисциплинарных исследований на стыке технологий, филантропии и безопасности с целью защиты человечества.
Очевидная актуальность перечисленных выше проблем привела нас к однозначному выводу: человечеству необходимо перейти от тревожного ожидания глобального кризиса к упреждающему решению этих проблем.
Хотя безопасность человека – важнейший компонент ответа на вызовы ИИ, она не покроет весь спектр проблем, порождаемых этой технологией. Эпоха ИИ неизбежно изменит человечество. Остается лишь вопрос: будем ли мы – и в какой мере – стремиться сохранить контроль над ходом этих преобразований?
Часть I. Начало
Глава 1. Открытия
Способность совершать открытия – пожалуй, самая удивительная черта человечества. Когда любопытство ведет нас вперед, а мир раскрывает свои чудеса, мы обретаем возможность заполнить внутреннюю пустоту, превращая вопросы в ответы. Исследовательский дух неотделим от нашей сущности, и потому, несмотря на все опасности, мы продолжаем идти по бесконечно ветвящимся тропам познания.
История освоения окружающего мира – это летопись невероятной отваги, проявленной вопреки всем рискам и смертельным опасностям. Немудрено, что группам смельчаков, пускавшимся в такие авантюры, приходилось постоянно бороться за собственную жизнь. Так, в начале XVI века кругосветное плавание Фердинанда Магеллана стало трехлетней одиссеей, наполненной насилием, голодом и смертью. Зато Магеллану удалось впервые проложить курс вокруг земного шара. В ходе своего плавания он побил рекорд выносливости в открытом море, установил истинные размеры планеты, а в контексте европейского колониализма – заложил основы глобального социального и экономического обмена.
Моряки Магеллана хорошо знали, сколь высок был риск крушения. Если представление о плоской Земле уже и подвергалось сомнениям, то ее шарообразная форма до сих пор оставалась неподтвержденной, и мысль о «крае света» все еще пугала многих на борту.
И самому Магеллану, и его матросам было понятно, что любое опрометчивое предположение может в конечном итоге стоить очень дорого. Так оно и случилось: их ошибка привела к тяжелым последствиям. Они допустили критический просчет в определении сроков плавания и необходимых запасов провизии, проигнорировали угрозу массовых отравлений и потенциальные серьезные повреждения судов. Флотилия Магеллана состояла из пяти кораблей с экипажем из 270 человек, но в испанский порт вернулось лишь одно судно с восемнадцатью изможденными моряками, выжившими по чистой случайности. Самого капитана среди них не было – он погиб вдали от родины, сраженный отравленной стрелой, которая пронзила его ногу[9].
Четыре столетия спустя после плавания Магеллана карта мира обрела почти завершенные очертания – лишь Антарктида оставалась белым пятном – столь же безжизненным и неизведанным, как далекая планета. Англо-ирландский путешественник Эрнест Шеклтон приблизился к Южному полюсу – нижней точке Земли – ближе, чем любой из его предшественников. В 1909 году – с неопытной командой и без какой-либо государственной поддержки, располагая лишь средствами, полученными по частным займам и от благотворителей, – Шеклтон и его товарищи установили рекорд по продолжительности полярной экспедиции. Тем самым они открыли новые возможности для других исследователей.
Хотя Шеклтону не суждено было стать первым покорителем Южного полюса, именно он снискал глубочайшее уважение потомков. Ведь в отличие от многих, он ставил человеческие жизни выше исследовательских амбиций. Спустя год изнурительных переходов, когда каждый день требовал десятичасового напряженного пути на санях, команда едва преодолевала по несколько миль за сутки. Даже имея достаточно провианта, чтобы дойти до полюса, они не смогли бы вернуться к кораблю – запасов для возвращения не хватило бы.
Так или иначе, всего в 97 милях от триумфа Шеклтон, вместо того чтобы рисковать чужими жизнями, принял решение повернуть назад. «Мы сделали все, что могли», – записал он в своем дневнике[10]. Во время этого отступления Шеклтон отдал свое последнее печенье (из тех, что входили в скудный паек) Фрэнку Уайлду, заболевшему члену команды. Тот позже напишет: «Этот сухарь стал дороже всех монет мира, и память об этой жертве навсегда осталась со мной»[11].
Несмотря на неудачу, Шеклтон предпримет еще несколько попыток покорения Южного полюса. Долгие годы ходила легенда (впоследствии развенчанная), будто он разместил в лондонской газете Таймс такое объявление:
Требуются мужчины для опасного путешествия. Оплата – незначительная, холод – лютый, кромешная темнота – долгие месяцы, опасность – постоянно, благополучное возвращение – едва ли. Почет и признание – в случае благополучного исхода[12].
Если само объявление и носит анекдотический характер, символизируемая им жертва была совершенно реальной. В ту эпоху границы познания расширялись ровно настолько, насколько хватало храбрецов, добровольно обрекавших себя на немыслимые лишения.
Возможно, осознавая эти опасности, некоторые государства сочли нужным спонсировать и поощрять экспедиции первооткрывателей, и эти предприятия стали частью – словно некой игры – международного соперничества. Экспедиция Магеллана, например, с самого начала определялась политическими мотивами. Не получив поддержки от португальского короля, своего суверена, Магеллан отправился в плавание под флагом испанской короны, которая предложила свое покровительство на выгодных условиях. После гибели Магеллана командование принял испанец Хуан Себастьян Элькано. На обратном пути, когда отчаявшийся экипаж оказался на грани голодной смерти, Элькано предпринял рискованную попытку остановки на островах Зеленого Мыса – португальской колонии у побережья Западной Африки. Тринадцать посланных на берег моряков получили унизительный отказ от местного губернатора.
Охваченный гневом и разочарованием, но исполненный еще большей решимости доказать ничтожность Португалии и величие Испании, Элькано приказал сниматься с якоря. (Членов разведывательной группы пришлось оставить на враждебном берегу.) Когда же плавание было завершено, а миссия Магеллана выполнена, Элькано обратился к испанскому монарху – к тому времени уже императору Священной Римской империи и могущественнейшему правителю мира – со следующим посланием:
Ваше Величество, как никто другой, понимает, что больше всего нам следует дорожить тем, что мы открыли и обогнули весь мир: отправившись на Запад, мы вернулись с Востока[13].
В конечном счете отважным первооткрывателям и их политическим покровителям суждено было даже покинуть пределы земного шара. Нам предстояло не просто изучать планеты – этим человечество занималось тысячелетиями, – но и ступить на их поверхность. После Второй мировой войны космическая гонка между США и СССР, ставшая продолжением геополитического противостояния, превратилась в соревнование за право первыми отправить человека туда, где никто и никогда прежде не бывал.
Безусловно, астронавтов можно считать первопроходцами, но ни один космический полет, подготовленный Москвой или Вашингтоном, не был авантюрной игрой человека собственной судьбой. Каждая такая миссия скорее представляла собой тщательно скоординированную операцию, сочетавшую дипломатические и военные аспекты, требовавшую колоссальных ресурсов, многолетней подготовки и масштабных научных изысканий. За последние семьдесят лет более шестисот человек преодолели земное притяжение. Некоторые из них не просто достигли космоса, но и вышли на орбиту, облетели планету и даже прогулялись по Луне[14]. Так соперничество между США и СССР, едва не приведшее мир к ядерной катастрофе, открыло человечеству дорогу в космос.
Еще за век до наступления эпохи Великих географических открытий – так стали называть период раннего Нового времени, прославленный Магелланом, Васко да Гамой, Америго Веспуччи и их знаменитыми современниками, – морские амбиции Китая уже достигали невиданного размаха. Флот адмирала Чжэн Хэ эпохи Мин, известный как «флот сокровищ»