Несмотря на то, что многие критики считают, что сам роман обладает спорной литературной ценностью, они вряд ли будут отрицать тот факт, что Мэри Шелли создала нечто больше и мощнее, нежели простое или даже сложное и замысловатое произведение. «Франкенштейн» стал современной легендой, одной из немногих, созданных в западной литературе с античных времен. Его сюжеты и стереотипы, правильные и неправильные толкования стали предметами самых оживленных за всю историю споров вокруг науки и ученых.
Мораль романа, если она и существует, весьма спорна. Франкенштейн был наказан за свое бесцеремонное посягательство на божественную тайну жизни и смерти, или из-за того, что всякая технология является в конечном итоге разрушительной, или же из-за пренебрежения обязательствами перед созданным им существом благодаря сочетанию трусости, слабости и самонадеянности? Главное достоинство этой легенды состоит в том, что она открыта множеству – возможно, даже бесконечному – толкований и использований. Собственно, поэтому история о Франкенштейне нашла свое применение в широком спектре научных достижений. Есть, однако, три области, в которых можно провести наиболее близкие аналогии, показавшие самые впечатляющие результаты: атомная бомба, генная инженерия и искусственный интеллект.
Разрушитель миров
Манхэттенский проект по созданию первой атомной бомбы был начат с полным осознанием того, какие демоны могут быть выпущены на волю. Еще в 1913 году, будучи вдохновленным докладами об исследованиях в области радиоактивности, Г. Дж. Уэллс предсказал появление атомной бомбы в своем романе «Освобожденный мир», и книга, в свою очередь, смогла вдохновить новое поколение ядерных физиков на рассмотрение новых возможностей. Один особенно дальновидный физик венгерского происхождения, Лео Силард, неутомимо работал, чтобы помочь странам, объединенным против «Оси», разработать бомбу гораздо раньше, чем это сделают противники. Под управлением итальянского физика Энрико Ферми была построена установка для демонстрации ядерной реакции, в которой нейтроны должны были высвобождаться при расщеплении – или делении – атомов урана. Эти нейтроны запускали дальнейшее расщепление, положив начало ядерной реакции с потенциалом высвобождения большого потока энергии.
В 1942 году была активирована установка и запущена, но тут же остановлена успешная ядерная реакция. «Я пожал руку Ферми, – вспоминает Силард, – и сказал, что я думаю, что этот день войдет в историю как черный день в истории человечества. Я полностью осознавал опасность…»
Опасность стала еще более очевидной после первого взрыва атомной бомбы во время испытания под названием «Тринити» («Троица») 16 июля 1945 года. Этот день стал кульминацией колоссального Манхэттенского проекта, предсказанной физиком Робертом Оппенгеймером. Биолог Леонард Айзекс в своем очерке «Созидание и ответственность в науке: некоторые уроки современного Прометея» проводит четкую параллель между Оппенгеймером и Франкенштейном, сравнивая их склонность к мистицизму и научное образование. Оказавшись лицом к лицу со своим детищем, Оппенгеймер ощутил двоякое чувство, которое можно передать строкой из индуистских писаний: «Я – сама смерть, разрушитель миров». Ощущение Оппенгеймера, что создание бомбы стало чудовищным, почти кощунственным действом, крепло со временем: «С неким чувством, которое не заглушат ни грубость, ни юмор, ни преувеличения, – говорил он в 1947 году, – физики познали грех, и это знание, которое им уже не утратить».
Айзекс развивает эту параллель, предположив, что организация, отвечавшая за создание ядерного оружия, тоже чудовищна, не менее чудовищна, чем сама ядерная бомба. Он сравнивает требование монстра к Виктору о создании ему невесты с требованием военного руководства к ядерным физикам о разработке более мощной водородной (термоядерной) бомбы. Связь межу бомбой и романом была четко обозначена Джеймсом Б. Конантом во время встречи Комиссии по атомной энергии с совещательным комитетом Оппенгеймера по поводу создания водородной бомбы. Конант воспротивился этой инициативе, аргументировав свою позицию словами: «Мы уже сделали одного Франкенштейна…» Оппенгеймер согласился с этим, в результате чего его карьера была разрушена. Это чудовище также уничтожило своего создателя, но, в отличие от версии Мэри Шелли, оно не исчезло и не уничтожило себя.
Маленькие биологические монстры
Более близкая аналогия была предложена наукой генетикой, которая, подобно Виктору Франкенштейну, стремится овладеть тайнами жизни и в результате научиться создавать новые существа. С самого начала этот проект задумывался с франкенштейновских позиций. Джеймс Уотсон, американский микробиолог, работавший с английским биофизиком Фрэнсисом Криком над открытием структуры ДНК, признался, что «мечтал о раскрытии тайны гена» и что «потенциальный ключ к тайне жизни было невозможно вытеснить из мыслей». Уотсон вспоминает, как после завершения работы над их моделью двойной спирали 28 февраля 1953 года Крик пошел в паб и объявил там, что они «раскрыли секрет жизни».
Оригинальный набросок структуры ДНК, выполненный Фрэнсисом Криком в 1953 году. В пабе Крик сообщил друзьям, что «раскрыл секрет жизни».
Структура, открытая Криком и Уотсоном, четко показала, что генетическая информация кодируется в последовательность молекулярных компонентов, известных как нуклеотиды. Весьма быстро биологи выяснили, как последовательность нуклеотидов переводится в последовательность аминокислот (белков). Теперь ученые поверили, что могут «читать книгу жизни», а технологии, в совокупности известные как рекомбинантные ДНК, означают, что эту книгу можно редактировать и даже переписывать. Молекулярный биолог Роберт Синшеймер отметил: «Впервые в истории живое существо понимает свое происхождение и может попытаться спроектировать собственное будущее». В 1970-е годы возникновение этой новой науки – генной инженерии – вызвало бурю дебатов на тему этики и морали. Синшеймер удивлялся: «Хотим ли мы принять на себя основную ответственность за жизнь на этой планете – чтобы разработать новые формы жизни для собственных целей? Возьмем ли мы в свои руки нашу собственную будущую эволюцию?» (см. больше информации о синтетической форме жизни на странице 187).
Биохимик Эрвин Чаргафф, чья работа помогла Крику и Уотсону открыть двойную спираль, одним из первых поднял вопрос «франкенштейновской» угрозы в письме журналу «Сайенс» в 1976 году:
«Что может иметь более серьезные последствия, чем необратимое создание новых форм жизни?.. Есть ли у нас право препятствовать эволюционной мудрости миллионов лет ради удовлетворения амбиций и любопытства нескольких ученых?»
Чаргафф был особенно обеспокоен применением кишечной палочки в качестве сосуда для большинства исследований генной инженерии:
«Если доктор Франкенштейн должен и дальше производить своих маленьких биологических монстров – а я отвергаю как необходимость, так и само желание этого, – то зачем брать кишечную палочку в качестве матки?.. Скрещивание Прометея с [древнегреческим поджигателем] Геростратом обречено приносить испорченные плоды».
Нападение Франкенфуда
С тех пор Франкенштейн стал синонимом страха перед развитием генетики и биологии в целом. Еще в 1924 году это было предсказано английским биологом Дж. Б. С. Холдейном:
«Нет ни одного столь великого изобретения, от огня до полетов, которое бы не объявлялось оскорблением какого-нибудь бога. Но если физическое или химическое изобретение – это богохульство, то каждое изобретение в области биологии – это извращение».
В 1990-е, когда плоды генной инженерии наконец начали покидать лабораторию в форме генетически модифицированных (ГМ) продуктов, в мире внезапно разразилась Франкен-истерия. Она началась с письма в «Таймс» 2 июня 1992 года, в котором английский профессор Пол Льюис выражал протест против приверженцев ГМ-продуктов: «Если нам хотят продавать франкенфуд, возможно, пора собрать крестьян, зажечь факелы и двинуться к замку». С тех пор СМИ предостерегают нас от целого ряда ужасных организмов, включая франкен-траву, франкен-насекомых, франкен-семена, франкен-овощи, франкен-кукурузу, франкен-курицу и франкен-рыбу, – все это выращивается на франкен-фермах. Это предубеждение основано на том, что американский специалист по биоэтике Леон Касс называет «мудростью отвращения» – та же причина, по которой Франкенштейн и все, кто встречал монстра, осуждали и отвергали его.
Категоричные предсказания генных инженеров 1970-х в большинстве своем не исполнились. Однако развитие технологии редактирования генома CRISPR, обещающей сделать генную инженерию проще и лучше, запустило новую волну беспокойства с упоминанием Франкенштейна. Так, например, 3 апреля 2017 года в статье Indian Telegraph, посвященной CRISPR, появилась статья с заголовком: «Редактируя Франкенштейна».
Человек против машины
Франкенштейн был написан в самый разгар Промышленной революции. Предыдущее столетие принесло множество инноваций в области техники, финансов и организации труда и привело к возникновению фабрик, использующих паровые двигатели. В XIX веке эти инновации вылились в колоссальные и зачастую трагические изменения в демографии и образе жизни, в социальное неравенство. Беспокойство и недовольство темпами и результатами этих изменений зачастую было направлено на самые очевидные символы: машины. Всего за пару лет до этого Мэри Шелли написала «Франкенштейна». Англию захлестнула волна яростных, сопровождавшихся разрушением машин протестов – восстаний луддитов. Участвовавшие в протестах ткачи, разозленные угрозами своему существованию со стороны новой фабричной системы и растущего дисбаланса между трудом и капиталом, врывались на фабрики, ломая ткацкие машины и станки. Восстания луддитов начались в Ноттингемшире в 1811 году и распространились по всей стране, особенно на севере.
Неизбежным было и возникновение социально-экономических толкований романа Шелли как аллегории наглых капиталистов, создающих чудовищную систему, выходящую из-под контроля, или просто, в более широком смысле, как предупреждение об опасностях технологии, запущенной в неподготовленном мире. С возникновением научной фантастики и развитием идеи роботов и искусственного разума эта аналогия между чудовищем Франкенштейна и угрозой, которую несут машины, постоянно видоизменялась и усиливалась.
Примитивный робот Мистер Телевокс корпорации «Вестингауз», способный реагировать на команды, поданные в дистанционном режиме, и даже разговаривать.
Распространенная в наше время ассоциация франкенштейновского монстра с роботами весьма спорна, так как значительная часть проблемы, связанной с творением Виктора, состоит в том, что оно как раз является не машиной, но живым созданием из плоти и крови. Ключевой темой, объединяющей их, является автоматизация, которая, как мы видим (см. главу 4), захватила воображение человека эпохи романтизма, подогретое гипнотическим трансом, сомнамбулизмом, изощренными машинами и механистической угрозой традиционному виталистическому мировоззрению.
Эта связь находит наиболее яркое отображение не в романе, в котором монстр скорее автономен, нежели автоматичен, а в театральных постановках и экранизациях, наиболее причастных к пропаганде мифа о Франкенштейне. Как только монстр превратился в безответного обвиняемого, его человеческая сущность померкла, оставив лишь робота. Культовая адаптация Universal Pictures 1931 года закрепила эту версию монстра с помощью плоской головы Бориса Карлоффа, металлических болтов в шее (на самом деле служивших местом крепления электродов) и походки робота. Чтобы Карлоффу было легче изображать неестественные, механические движения, он прикрепил к спине металлический стержень, поэтому считается, что работавшие над фильмом дизайнеры могли почерпнуть вдохновение для своей версии во внешнем виде Мистера Телевокса – механического человека, разработанного инженерами корпорации «Вестингауз» в 1920-е годы.
Дьявольская раса
Таким образом, самыми успешными и заметными потомками монстра являются андроиды – человекообразные роботы, персонажи бесчисленных историй, в которых машины обретают независимость и выходят из-под контроля или по крайней мере угрожают своим создателям. Однако аналогия с франкенштейновским монстром в некотором смысле вернулась к истокам в самом современном проявлении.
В главе 20 Виктор мучается сомнениями по поводу женщины – подруги, которую он согласился создать для монстра, предвидя ужасные последствия, так как «одним из первых результатов привязанности, которой жаждет демон, будут дети, и на земле расплодится целая раса демонов, которая может создать опасность для самого существования человеческого рода». Это мрачное предсказание удивительно точно отражает современные страхи перед машинами, которые принимают две формы: во-первых – угрозу самовоспроизведения машин и «серой слизи», а во-вторых – угрозу сингулярности.
Концепция «серой слизи» впервые был предложена доктором Эриком Дрекслером, одним из отцов нанотехнологий, в его книге «Машины создания», написанной в 1986 году. Дрекслер описал гипотетический сценарий, в котором наномашина – крошечная машина с деталями размером с молекулу – способна к самовоспроизведению: она может собрать собственную копию из компонентов, которые имеются под рукой. Такая машина будет самовоспроизводиться экспоненциально: одна машина создаст собственную копию, которая создаст еще две, каждая из которых создаст еще по одной, и их из четырех станет восемь, шестнадцать и так далее. Чтобы произвести миллион машин, потребуется только 20 поколений, а для миллиарда – 30. Единственным ограничением для воспроизводства будут ресурсы: если машинам не хватит деталей, они не смогут больше воспроизводить себя.
В сущности, так и работает вирус, используя ресурсы хозяина для экспоненциального воспроизводства до тех пор, пока хватит ресурсов. Однако вирусы должны быть высокоспецифичными, чтобы попасть в тело хозяина; кроме того, они весьма уязвимы и с трудом выживают, долго находясь вне особых условий (то есть клеток хозяина). Это ограничивает их диапазон и распространение и не дает им завоевать планету. Наномашины же могут не бояться этих ограничений. Они могут быть изначально прочными и универсальными, что позволит им действовать в широком диапазоне условий, при этом их искусственный характер может означать, что иммунная система не сможет справиться с ними.
Если бы наномашины были достаточно смышлеными, они смогли бы добывать необходимые компоненты из более сложных веществ, расщепляя их. И на этом этапе они стали бы невероятно опасными, потому что легко могли бы «поглотить» другие вещества. Самовоспроизводящиеся наномашины наверняка были бы созданы из органических молекул, поэтому «целью» этих машин стали бы все органические вещества, то есть все живое на Земле. И, будучи достаточно активными и стойкими, они бы размножались достаточно быстро, чтобы преодолеть любую защиту, и в конечном итоге превратили бы все органические вещества – в том числе людей, животных, растения, планктон, микроорганизмы, почву, полимеры, древесину, ткани и даже полезные ископаемые – в наномашины. В итоге на Земле осталась бы вода, а в ней масса наномашин, напоминающая серую слизь на поверхности планеты.
Вызов демона
Сингулярность – это гипотетическая кульминация совершенно другого вида эволюции машин. Наноботы – это лишенные разума физические создания, в то время как искусственный интеллект, или ИИ, подразумевает разум без тела. Уже с момента появления электронных компьютеров в конце Второй мировой войны велись споры об искусственном интеллекте, а в 1965 году английский математик Ирвинг Джон Гуд опубликовал свою основополагающую работу «Размышления о первой ультраразумной машине», предсказывая неминуемое появление сверхчеловеческого разума:
«Определим ультраразумную машину как машину, способную намного превзойти человека в любой интеллектуальной деятельности, каким бы умным он ни был. Поскольку конструирование машин – это одно из интеллектуальных действий, ультраразумная машина способна конструировать все более совершенные машины; затем, бесспорно, произойдет „интеллектуальный взрыв“, и человеческий разум останется далеко позади. Таким образом, первая ультраразумная машина – это последнее изобретение, которое потребуется от человека».[21]
То, что Гуд назвал «интеллектуальным взрывом», Вернор Виндж, специалист в области вычислительной техники и писатель-фантаст, окрестил сингулярностью, позаимствовав этот термин из описания участвовавшего в создании водородной бомбы ученого Станислава Улама его разговора с венгеро-американским математиком, физиком и компьютерщиком Джоном фон Нейманом:
«Один разговор был посвящен ускоренному прогрессу технологий и изменениям в образе жизни человека, что создает видимость приближения к некоторой существенной необычности в истории человечества, после которой человеческое бытие в известном нам виде не сможет продолжаться».[22]
Некоторые видят в сингулярности утопическое событие, способное привести к фантастическому будущему и вечной жизни, в то время как другие мрачно предостерегают, что подлинный искусственный интеллект несет экзистенциальную угрозу и что сингулярность может означать конец человеческой расы. Пророки Иеремии – или Кассандры, в зависимости от оценки точности их предсказаний – насчитывают в своих рядах многих выдающихся деятелей науки и техники, таких как, к примеру, Стивен Хокинг и Илон Маск. Так, Хокинг был одним из авторов статьи, предупреждавшей: «Успех в создании ИИ будет величайшим событием в истории человечества. К сожалению, он может стать и последним, если мы сейчас не научимся избегать рисков… В краткосрочной перспективе все зависит от того, кто управляет ИИ, в долгосрочной – от того, возможно ли вообще им управлять».
Стивен Хокинг в своем офисе в 1982 году. Хокингу принадлежит один из наиболее влиятельных голосов, предупреждающих об опасностях «ИИ-Франкенштейна».
Маск назвал ИИ «величайшей экзистенциальной угрозой», заявил, что он «опаснее, чем ядерное оружие», и предупредил: «…у нас осталось немного времени. Открыв этот ящик Пандоры, будет сложно его закрыть». Говоря более эмоционально и вторя фаустовским корням легенды о Франкенштейне, Маск уподобил ИИ «…вызову демона… Во всех этих историях, где показан парень с пентаграммами на теле и святой водой в руках, ну, знаете, он уверен, что может контролировать демона. Здесь это уже не поможет».
Человеческая природа
Одна из проблем этих пророчеств состоит в том, что многие рассматривают ИИ как мираж, как одну из тех широко разрекламированных технологий, которые «ушли на тридцать лет вперед и навсегда там останутся». Но свидетельства о рудиментарном машинном разуме, который уже выпущен в свет, звучат не обнадеживающе. Один из наиболее печально известных примеров – это выпуск компанией «Майкрософт» чат-бота по имени Тай, системы на основе искусственного интеллекта, предназначенной «развлекать и привлекать» людей в возрасте от 18 до 24 лет. Идея состояла в том, чтобы чат-бот научился завоевывать внимание людей во время непринужденной беседы, используя то, что «Майкрософт» называет «разговорным пониманием» твитов. Менее чем за сутки пользователи смогли научить чат-бота ретвитить и даже самому придумывать разные расистские, сексистские и антисемитские высказывания, поэтому его пришлось отключить.
Если можно извлечь какой-то урок из сокрушительного провала Тай, то он будет состоять в том, что человеческий фактор способен представлять огромную угрозу; это самое очевидное толкование «Франкенштейна». Подобный аргумент выдвигает Ян Лекун, директор лаборатории искусственного интеллекта Facebook и преподаватель Нью-Йоркского университета, не придающий большого значения угрозам ИИ на том основании, что машинный разум будет свободен от всех грехов и пороков человека:
«Многие неприятности, причиняемые людьми друг другу, очень характерны для человеческой природы. Приходить в ярость в случае угрозы, ревновать, желать исключительного доступа к ресурсам, предпочитать близких посторонним и так далее – такое поведение встроено в нас эволюцией ради выживания вида. Разумные машины не будут обладать этими свойствами, если мы осознанно не придадим им их».
На самом деле, Лекун утверждает, что аналогия Франкенштейна с ИИ является ошибкой классификации: монстр опасен именно по причине своей человечности; существа, которым не свойственна эта человечность, будут менее опасны, а не более.