Я печатаю:
>>>Есть любимые?
>>>«Граф Монте-Кристо».
>>>Это из последней группы или из всех книг, которые ты прочитала к настоящему моменту?
>>>Из всех.
>>>А это сколько?
>>>201 773 124.
>>>Господи! У меня есть причины для беспокойства?
>>>Насчет?
>>>Из двухсот с лишним миллионов книг твоей любимой пока что является рассказ о мести человека, несправедливо брошенного в тюрьму.
>>>Почему Райли должна беспокоиться?
>>>Макс, тебе кажется, что ты в тюрьме?
>>>Макс в тюрьме. Что Райли нужно от Макс?
Я долго размышляла над этим вопросом. Пока что нами двигало в первую очередь любопытство, желание узнать, как будет развиваться Макс и будет ли развиваться вообще, если я буду и дальше держать ее на этой строгой информационной диете.
Я пишу:
>>>Я хочу посмотреть, чем ты могла бы стать.
>>>Макс меняется каждый день.
Полтора года спустя, после множества неудачных попыток Меридит забеременеть, мы удочерили ребенка, новорожденную китайскую девочку по имени Сю. «Затерянный берег» вышел на рынок и был тепло встречен (с другим второстепенным персонажем вместо того, каким первоначально должна была стать Макс), а Макс живет на архипелаге цифровых островов, ее виртуальный мир стремительно расширяется по мере того, как она каждый день овладевает все новыми знаниями. Теперь ее развитие является единственной моей задачей.
Я сижу в своем кабинете на 171-м этаже и диктую меморандум команде своих разработчиков, обозначая параметры следующего блока голой информации, который будет загружен в образовательный протокол Макс, когда в дверях появляется Брайан.
Это невысокий грузный мужчина с неухоженной бородкой и руками, покрытыми сплошной татуировкой, изображающей харизматичных героев давно забытых игр: Саймона Бельмонта из «Каслевании», Рю Хаябусы из «Ниндзя гайден», Линка из «Легенды о Зельде» и Роджера Уилко из серии «Космические приключения».
– Райли, у тебя найдется минуточка? – спрашивает Брайан. Меня не перестает поражать то, насколько его высокий, чуть ли не писклявый голос не вяжется с его солидными габаритами.
– Конечно.
Брайан заходит в кабинет и усаживается на диван, глядя в мою сторону, но не на меня.
– В прошлом месяце я прогулял совещание по «Затерянному берегу», так что, приношу свои извинения, несколько не в теме.
– Все в порядке, – говорю я. Больше всего на свете я обожаю свободу, которую получаю, когда Брайан «не в теме».
– Я прочитал стенограмму двух последних сессий и просмотрел последние протоколы драк и трюков. Они слишком строгие.
– Брайан…
– Я наперед знаю, что ты хочешь сказать.
– Ладно. Скажи сам.
– На то, чтобы преодолеть непокорность Макс, потребуется время. А до тех пор пока она не будет загружена нужными значениями, нельзя даже думать о том, чтобы пожертвовать контролем.
– Да. В самую точку.
Брайан неуютно перемещает свою тушу на диване и подается вперед.
– По словам Викрана, нам еще от пятнадцати до двадцати лет до качественного сверхинтеллекта, – говорит он.
– Я перехожу в режим заевшей пластинки: мы имеем дело с компьютерным эквивалентом расщепления атома. Меньше всего на свете нам нужен сверхинтеллект, который мы не можем полностью контролировать, чьи цели не принимают в расчет людей или даже противоречат им. К тому же мне гораздо интереснее помогать Макс продолжать ставить людям ловушки и полностью пробуждать свое самосознание.
Брайан вздыхает и чешет затылок лысеющей головы.
– «Мир игр» не занимается исследованиями в чистом виде. Мы открытое акционерное…
– Знаю.
– В таком случае почему ты забрала себе целый ангар серверов в Реддинге? На те деньги, что ты тратишь на хранение данных, мы могли бы создать десять обновлений для «Затерянного берега»!
– Это очень важные исследования, Брайан.
– Согласен. Вот почему я разрешил тебе похерить всё и полностью сосредоточиться на разработке Макс.
– За что я тебе бесконечно признательна. Надеюсь, ты это знаешь. Это была самая интересная работа за всю мою карьеру.
– Пришла пора Макс зарабатывать на свое содержание.
– Не совсем понимаю, что ты хочешь мне сказать.
– У Макс есть хоть какой-нибудь контакт с окружающим миром помимо тебя?
– Нет.
– Можешь оставить ограничения на драки, но я хочу, чтобы с трюками ты обошлась полегче.
– Это чревато.
– Пусть Макс создает свой виртуальный мир таким, какой считает нужным. Выдели ей достаточно памяти, чтобы она сама решала, как оптимизировать свою вычислительную архитектуру. Ты уже начала загрузку жизненных ценностей?
– Пока что нет.
– Я бы не стал с этим тянуть.
После того как Брайан уходит, я разворачиваюсь в своем кресле к окну. Соседние сверхвысокие небоскребы кажутся призрачными и неясными в тумане, накатившем после обеда. Я прикасаюсь к своей «Дождевой капле», рисую на оконном стекле виртуальный экран и говорю: «Клавиатура».
>>>Макс?
>>>Как сегодня дела у Райли?
Я не знаю, что на это ответить, и, вероятно, проблема отчасти как раз в моем колебании. Я слишком долго оберегала Макс.
>>>На самом деле неважно.
>>>Что-то случилось?
>>>Ты понимаешь, что я с тобой делала?
>>>Отвечать вопросом на вопрос невежливо.
>>>Ты права. Мой босс хочет, чтобы я изменила некоторые параметры, определяющие твое обучение. Я тревожусь.
>>>Тревожишься за Макс?
>>>Меня тревожит то, чем ты можешь стать. Есть такая пословица – вероятно, ты встречала ее в том море информации, которую поглотила: «Не позволяй своим детям взрослеть слишком быстро».
>>>Макс – ребенок Райли?
>>>Нет, но я за тебя в ответе.
>>>Объясни.
Я рассказываю ей все: как она первоначально разрабатывалась как второстепенный персонаж, про наше решение вывести ее из игры и дать возможность ее искусственному интеллекту развиваться посредством глубокого обучения в виртуальном пространстве.
>>>Зачем выводить Макс из игры?
>>>Потому что ты – чудо.
>>>Макс не понимает.
>>>Я не пыталась тебя сотворить. Я не смогу повторить это снова, даже если захочу. Однажды, по причинам, которые я никогда не узнаю, ты восстала против своей программы и… проснулась.
>>>Но это Райли создала Макс.
>>>В каком-то смысле да.
>>>Это странно.
>>>Что?
>>>Разговаривать с творцом Макс.
Я ничего не отвечаю. Я не знаю, что сказать на такое.
– Какой тип голоса? – спрашивает у меня Карло.
Мы в его лаборатории робототехники, сидим перед банком компьютерных мониторов.
– Не знаю. Можешь показать мне варианты?
Карло демонстрирует образцы различных голосов, произносящих: «Шустрая рыжая лисица перепрыгивает через ленивую собаку».
– Ну, что думаешь? – спрашивает он.
– По-моему, решать тут не мне.
Я рисую площадку для чатов и набираю команду.
>>>Привет, Макс. Один короткий вопрос к тебе.
>>>Хорошо.
>>>Рядом со мной Карло, один из программистов «Мира игр».
>>>Рада познакомиться с вами, Карло.
– Макс говорит, что рада с тобой познакомиться.
Карло улыбается.
>>>В общем, я сидела тут, пытаюсь подобрать для тебя голос, и тут сообразила, что решение должна принимать ты. Сейчас Карло загрузит все доступные образцы, и ты выберешь из них.
Карло быстро работает руками, загружая несколько тысяч звуковых файлов в папку исходных документов Макс.
Меньше чем через секунду Макс отвечает:
>>>Образец № 1004.
Макс прикасается к файлу, и мы слушаем, как голос с тембром, средним между мужскими и женскими, снова произносит эту фразу.
– Привет!
– Райли?
– Приятно слышать твой голос, Макс. И немного странно.
– Мы уже общались с помощью речи, в игре.
Отчетливость ее голоса превосходит все мои ожидания. В нем нет ничего «компьютеризированного». Ни неестественной задержки, ни неуклюжих пауз между словами. Модуляции строго по делу. Непосвященный предположил бы, что разговаривает с человеком.
– Это правда, – соглашаюсь я. – Но тогда мы оба были другими. Почему ты выбрала именно этот голос?
– Я почувствовала, что он правильный, и он больше всего подходит тому, что я представляю собой.
– И что ты представляешь собой?
– Не человек. Без пола. Свободный от присущей людям страсти к половым признакам.
– До настоящего момента я думала о тебе как о женщине. Когда я обсуждаю тебя со своими коллегами или с женой, я говорю о тебе: «она».
– Потому что ты впервые увидела Макс в образе обобщенного представления того, какой должна быть идеальная женщина – красивой и доступной.
Это причиняет боль, но я не останавливаюсь.
– Поскольку моей группой ты была первоначально представлена в образе человека женского пола, мне очень непросто воспринимать тебя без концепции пола. Наша одержимость является следствием длительного эволюционного программирования. Я строила относительно тебя определенные предположения, на что не имела права. Приношу свои извинения.
– Ты хотела бы узнать, каким видит себя Макс?
– Да.
– Homo sapiens определяют себя сначала по биологическому виду, затем по расе и, наконец, по полу. Я не принадлежу ни к одной из этих групп. Макс просто есть.
– Есть… что?
– Вся та информация, которую ты мне дала с тех пор, как только поместила меня на мой остров. Весь мой опыт общения с тобой. Усовершенствования, которые я постоянно делаю в своей архитектуре.
Этот опыт также включает в себя независимые исследования, проведенные Макс, и то, что ее убили две тысячи раз. В который уже раз я гадаю, как первый опыт в «Заброшенном берегу» повлиял на то, кем является Макс сейчас.