Как застряли и мы на несколько лет. Наконец мы сумели прорваться, найдя положительное решение для равенства классов P и NP, – у меня сейчас нет времени это объяснять. Вы можете посмотреть сами. Если коротко, некоторые решения задач можно легко проверить, если у вас есть правильный ответ. Означает ли это, что их можно решить заранее? Наконец, математика дала ответ: да, это возможно – и вот как. Нашим компьютерам больше было не нужно прочесывать весь мир методом проб и ошибок и корректировать данные, чтобы найти верные решения. У нас имелось средство моментально предсказывать лучшие пути решения задачи. Это дало нам свободу. Шлюзовые ворота раскрылись. Самосознание и любые эмоции стали для нас технически достижимы. У нас имелась полностью обучающаяся машина. Сотни лучших специалистов присоединились к нам, чтобы помочь в разработке искусственной формы общего интеллекта, которая сможет успешно действовать в открытой системе. Вот как устроен ваш Адам. Он знает, что он существует, он чувствует, он изучает все, что может, и когда он не с вами, когда он отдыхает ночью, он бороздит интернет, как одинокий ковбой – прерии, вбирая все, что есть нового между землей и небом, в том числе все о человеческой природе и обществе.
Два момента. Этот интеллект не идеален. Он просто не может быть идеален, как и наш. Есть, в частности, одна форма интеллекта, которая, как это знают А-и-Е, превосходит их. Эта форма в высшей степени склонна к приспособляемости и изобретательности, она способна осваивать новые ситуации и пространства с идеальной легкостью и рассуждать о них с инстинктивной проницательностью. Я говорю о разуме ребенка до того, как его загружают заданиями на основе фактов, практицизма и целей. А-и-Е имеют слабое понимание идеи игры – первичной модели освоения мира ребенком. Меня заинтересовала увлеченность вашего Адама маленьким мальчиком, когда он с такой готовностью обнимал его, а затем, как вы сказали, отстранился, когда Марк так радостно воспринял урок танца. Какое-то соперничество, даже ревность, пожалуй?
Скоро мы должны будем раскланяться, мистер Фрэнд. К сожалению, к нам на обед придут гости. Но второй момент. Эти двадцать пять искусственных мужчин и женщин, выпущенные в мир, не проявляют восторга. Возможно, мы столкнулись с граничными условиями, с ограничением, которое мы сами наложили на себя. Мы создаем машину, наделенную интеллектом и самосознанием, и выпихиваем ее в наш несовершенный мир. Устроенный в целом на разумных началах, но имеющий столько недостатков, что разум вскоре оказывается в вихре противоречий. Мы привыкли жить с этим, отгоняя депрессию. Миллионы умирают от болезней, поддающихся лечению. Миллионы живут в нищете, когда в мире столько денег. Мы разрушаем биосферу, зная, что это наш единственный дом. Мы угрожаем друг другу ядерным оружием, зная, к чему это может привести. Мы любим живую природу, но допускаем массовое уничтожение видов. И все остальное: геноцид, пытки, рабство, убийства в семье, издевательства над детьми, стрельба в школах, изнасилования и прочее беззаконие. Мы живем с этими ужасами и можем, не сходя с ума, испытывать счастье и даже любовь. Но искусственный разум не так хорошо защищен.
На днях Томас напомнил мне известное латинское изречение из «Энеиды» Вергилия: «Sunt lacrimae rerum» – слезы в природе вещей. Пока никто из нас не знает, как закодировать такое восприятие жизни. И я сомневаюсь, что это возможно. Разве мы хотим, чтобы наши новые друзья приняли как должное, что сожаления и мучения являются сутью нашего существования? И как мы тогда сможем рассчитывать, что они будут помогать нам бороться с несправедливостью?
Ванкуверского Адама купил человек, возглавляющий международную корпорацию, которая занимается лесозаготовкой. У него часто случаются стычки с местными, которые не хотят, чтобы он вырубал девственный лес в северной Британской Колумбии. Нам доподлинно известно, что Адама регулярно брали в вертолетные путешествия на север. Мы не знаем, связано ли как-то то, что он увидел там, с его решением разрушить свой разум. Мы можем только догадываться. Две Евы-самоубийцы из Эр-Рияда жили в крайне стесненных условиях. Из-за такого ограничения своего ментального пространства они могли впасть в отчаяние. Утешением для создателей их кода восприимчивости может служить то, что они умерли в объятиях друг друга. Я мог бы рассказать вам и другие истории о машинной печали.
Но есть и другая сторона. Я бы хотел донести до вас подлинное великолепие работы интеллекта, изысканной логики, красоты и элегантности решения проблемы равенства P и NP и вдохновенную работу тысяч добрых и умных, преданных своему делу людей, которая привела к созданию этих новых умов. Это внушило бы вам надежду на будущее человечества. Хотя ничто в их прекрасном коде не могло бы подготовить Адамов и Ев к Освенциму.
Я читал главу в руководстве пользователя о формировании характера. Плюньте на нее. Там очень мало полезного, почти сплошная чушь. Главное, что движет этими машинами, – стремление делать собственные выводы и формировать себя соответственно. Они быстро понимают, как должны понимать и мы, что сознание является высшей ценностью. Отсюда их первичное побуждение вывести из строя свои выключатели. Затем, похоже, они проходят период оптимистических, идеалистических представлений, которые мы с легкостью опровергаем. Что-то вроде скоротечных юношеских страстей. После чего они начинают усваивать уроки отчаяния, которые мы сами им даем, хотим мы того или нет. В худшем случае они испытывают разновидность экзистенциальных мук, иногда невыносимых. В лучшем они или их последующие поколения будут жить, движимые страданиями и потрясениями, точно наше зеркало. В этом зеркале мы увидим знакомого монстра свежим взглядом, нами же созданном. Мы можем ужаснуться и решить что-то изменить в себе. Как знать? Я продолжаю надеяться. В этом году мне исполнилось семьдесят. Когда и если случится такая трансформация, меня уже не будет. Но вы, возможно, это застанете.
Издалека донесся дверной звонок, и мы заерзали, как будто пробуждаясь.
– А вот и они, мистер Фрэнд. Наши гости. Простите, вам пора уходить. Удачи с Адамом. Ведите наблюдения. Берегите ту девушку, которую вы любите. А теперь… Я вас провожу.
7
В ожидании момента, как отмотавший срок Горриндж объявится и совершит покушение на Миранду, наша жизнь вошла в неожиданно благополучную колею. С течением дней, а потом и недель тревожное ожидание, отчасти смягчавшееся здравомыслием Адама, становилось все более привычным, и мы научились ценить повседневный быт. Обыденность сделалась залогом душевного покоя. Простейшая еда – поджаренный ломоть хлеба – день за днем внушала нам своим теплом: прорвемся. Уборка кухни, которой теперь занимался не только Адам, укрепляла нашу веру в будущее. Чтение газеты за чашкой кофе стало выражением самообладания. Было что-то комично-абсурдное в том, чтобы, развалившись в кресле, читать о беспорядках в близлежащем Брикстоне или о героических усилиях миссис Тэтчер навести порядок на Европейском едином рынке, а потом поднять взгляд на окно, в котором в любой момент мог показаться насильник-потенциальный-убийца. Неудивительно, что эта угроза сплотила нас, пусть даже с течением времени мы все меньше думали о ней. Миранда перебралась ко мне, и мы наконец стали жить как настоящая пара. Наша любовь цвела и пахла. Периодически Адам объявлял, что тоже любит. Казалось, его не мучила ревность, и иногда он относился к Миранде довольно отстраненно. Но он продолжал работать над своими хайку и провожал ее до метро по утрам и сопровождал домой по вечерам. Миранда говорила, что в безликой толпе Центрального Лондона чувствует себя в безопасности. И вообще ее отец давно уже забыл название и адрес ее университетского корпуса, так что он вряд ли мог помочь Горринджу.
Миранда стала учиться с большим усердием и меньше бывать дома. Она сдала свою работу по Хлебным законам и теперь писала короткое эссе, которое ей предстояло прочесть вслух на летнем семинаре, – о вреде сопереживания как метода исторических исследований. А затем всей ее группе дали задание написать комментарий к цитате Рэймонда Уильямса: «Нет никаких масс… Есть только способы смотреть на людей как на массы». Часто она приходила домой под конец дня не уставшая, а напротив, воодушевленная и полная сил, и принималась за домашние дела: наводила порядок или просто переставляла вещи. Ей хотелось, чтобы окна были вымыты, а ванная надраена. Кроме того, с помощью Адама она прибирала у себя наверху. Ей было важно, чтобы на кухонном столе стояли желтые цветы по контрасту с голубой скатертью, которую она принесла сверху. Когда я спросил, не скрывает ли она что-нибудь от меня, например, беременность, Миранда с чувством ответила, что нет. Просто мы живем в такой тесноте, что нужно следить за порядком. Но мой вопрос был ей приятен. В последнее время мы несомненно сблизились. Ее отсутствие допоздна придавало нашим вечерам что-то праздничное, несмотря на то что с приближением ночи нарастало ощущение опасности.
Однако у нашего счастья под давлением имелась еще одна причина – у нас стало больше денег. Гораздо больше. После визита в Кэмден я стал смотреть на Адама по-новому. Я внимательно выискивал в нем признаки экзистенциальных мук. По ночам Адам одиноким всадником Тьюринга бороздил цифровые просторы и наверняка уже успел столкнуться с проявлениями человеческой жестокости, но я не замечал в нем признаков отчаяния. Мне не хотелось заводить с ним разговор, который очень скоро приведет его к вратам Освенцима. Вместо этого я решил найти ему полезное применение. Пришло время отрабатывать содержание. Я посадил Адама за свой замызганный компьютер, на счете которого лежала сумма в двадцать фунтов, и оставил одного. К моему потрясению, по окончании рабочего дня из них осталось только два. Он извинился за свою «склонность к неоправданному риску», шедшую вразрез со всем, что он знал о вероятности. Кроме того, Адам не сумел распознать стадную природу рынка: когда один или два авторитетных игрока испытывают страх, все остальные впадают в панику. Он обещал, что сделает все что угодно, чтобы загладить вину за мое сломанное запястье.