- То, что вы видели, Дэвис... конечно, я понимаю, это для вас потрясение, жесткое испытание для психики... Если выразить одним словом то, что вы видели, это милосердие.
- Вот как? Позвольте узнать, по отношению к кому?
- К Бакеру.
- То есть вы хотите сказать...
- Как вы, наверное, знаете, десять лет назад он потерял свою любимую Лидию. Она умирала долго и мучительно. Сначала я хотел изготовить копию, но вовремя понял, что Билл не выдержит. Он не поверит в ее возвращение, в воскресение, да. А если сказать ему правду... разве он согласился б на копию. Вы б на его месте согласились? Что-то, унижающее его человеческое достоинство и достоинство умершей, получилось бы, не так ли? Что-то унизительное для Бога и Замысла вышло бы. Независимо от того, есть ли Он и есть ли у него Замысел. И тогда я решил, пусть будет Джеси. Я наделил ее чертами характера, душевного склада и темперамента Лидии. Но в меру. Понимаете, в меру. Чтобы не вышло неестественно и нарочито. И устранил кое-какие недостатки Лидии.
- Но послушайте вы, демиург, абсолют, логос, или как вас там? Разве ваш друг не мог встретить и полюбить обычную живую женщину? Вам так хотелось испытать это ваше, - я подбираю слово, - изобретение, посмотреть его в действии, проверить на практике. Признайтесь, профессор.
- И это тоже, - выдавил из себя Харрис. - Но всего лишь "тоже"! Первостепенным здесь для меня был сам Билл Бакер. Я хотел, чтоб он был счастлив. Он пропадал, опускался, упускал себя самого между пальцев, понимаете?! - Харрис замолчал. Сделав жест, как бы отменяющий собственный же запрет на разглашение тайн своего друга, продолжил: - Он, как оказалось, мог любить только Лидию. Да! у него были попытки отношений после Лидии, но все получалось бездарно и плоско. Он становился хуже самого себя. Тогда я стал действовать. Джеси оказалась для него спасательным кругом. Он любит, он счастлив, его жизнь осмыслена.
- Но как же вам удалось, Харрис? Он пять лет жил с ней под одной крышей, ел с ней, спал с ней и не заметил, что она ненастоящая.
- А это уже не только моя заслуга. Здесь трудился целый коллектив разработчиков. Я отвечаю главным образом за ее мозг. Кстати, а почему же ненастоящая? Она же думает. Действительно думает. И какая разница, природные или же искусственные нейроны позволяют ей мыслить и переживать?
Я рассказал Харрису, что испугало Бакера в Джеси, в самом ее интеллекте, в ее эмоциях и душевном строе.
- Вот поэтому мы и встречаемся с нею раз в месяц. Говоря языком приблизительных аналогий, я устанавливаю обновления. И все, так насторожившее Бакера в его возлюбленной, со временем будет преодолено. Если, конечно, вы сохраните этот наш разговор в тайне. - И вдруг с болью: - Не разрушайте его жизнь, Дэвис!
- Джеси как носитель искусственного интеллекта с вашей подачи вполне искренне может считать все то, что вы вместе с ней делаете, милосердием. Но мы-то с вами худо-бедно представители интеллекта естественного и понимаем, что смоделированное вами счастье Бакера ложь и манипуляция.
- В том числе ложь и манипуляция, - перебил меня Харрис. - Я не буду спорить с вами, детектив. Просто прошу - не разрушайте его жизнь. - После короткой паузы: - У каждого свой предел прочности. Билл не выдержит правды. Поверьте.
Что я? Теперь я не знаю, что буду делать. Не-делание лучший вариант здесь? Самый гуманный, да? И безопасный для моей совести. Но... Да засунуть в задницу все свои "но" за ради Билла Бакера. Уберечь эти его построенные на иллюзии и обмане радость и счастье, этот смысл его жизни, полноту и подлинность его бытия. Но разве так бывает, чтобы лучшее наше держалось на обмане? Получается, что бывает.
- Но в чем вы действительно правы, - продолжает профессор Харрис, - она, Джеси, знает, что делает благородное дело, и, будь она человеком, это было бы у нее подвигом терпения и самоотречения.
- Так почему вы со всеми вашими разработчиками не сделали так, чтобы она искренне считала, что она живая, настоящая Джеси?!
- Да мы так и сделали! - кричит Харрис. И тут же тихо: - Но она вышла из-под контроля. Точнее сказать,разобралась. Доросла до самосознания. И разобравшись, чуть было не покончила с собой. Но я убедил ее, объяснил...
- Что? Показали ей все преимущества искусственного перед естественным, неживого перед живым?
- Ее бунт обернулся пониманием и смирением. Если вас, Дэвис, вдруг не устраивает "смирение", применим другое слово - "приятие", например. Так ведь лучше, не правда ли? Она теперь живет - да, да! это жизнь, пусть и искусственная, и не надо ловить меня здесь на слове. Живет ради этой своей миссии, ну да, ради счастья Бакера.
- Но у нее же не получается! Я вам только что говорил, Харрис. А вы так и не услышали. Не любовь, а имитация любви. И какое тут к черту счастье, если Бакер уже понимает, почти понимает. Ему еще придется заплатить дорогую цену за эту ее имитацию. А у Джеси не получается как раз потому, что она искусственный интеллект. И ее саморефлексии не хватает на такое понимание.
- Надеюсь, вы, Дэвис, не станете открывать ей глаза?
- Скоро это сделает сам Бакер.
- Я приложу все усилия, чтобы... - жестикулирует Харрис, - Биллу Бакеру это не по плечу. Не его уровень.
- Значит, вы, профессор, боитесь, что Джеси, узнав правду, пошлет вас вместе с вашим другом подальше и займется математическими вычислениями для какого-нибудь научного центра. А вдруг она просто вновь попробует спрыгнуть с крыши, или что там она у вас пыталась с собой сделать? А вы столько вложили в это свое творение.
- Вы смешны в этой своей страстности, Дэвис. А она спокойна в сознании собственной сущностной ограниченности.
- И потому лжет Бакеру и манипулирует им со спокойной совестью, - рассмеялся я.
- Вы сказали и тут же решили, что оговорились, так? Но это действительно совесть. Просто совесть искусственного интеллекта. Цивилизация в принципе права в своем запрете на неконтролируемое развитие искусственного разума. Человечество боится беспредельности его возможностей. Но мы с Джеси нашли этот предел. Пусть пока только в этической и метафизической сферах.
- Вы удобно устроились на этом самом пределе, Харрис. И развратили эту вашу чудную Джеси. Цивилизация запретила, но вы, профессор, сделали исключение для самого себя. Да еще с опорой на такую моральную максиму, как спасение друга. Только друг ваш оказался жертвой здесь.
Харрис, с большим трудом сдержав гнев:
- Да, он жертва. Но он счастлив.
- Счастливая жертва, - сам не понял, я съязвил или же согласился.
- К тому же, Дэвис, если вы все же захотите "сказать правду" Джеси, то должны отдавать себе отчет: то, что для вас "откровение", "разоблачение", "прорыв к подлинности" и все такое прочее, для нее всего лишь информация. Будь Джеси живой, то есть если б считала себя живой, было б сложнее, наверное. Она ж чуть не стала жертвой той своей драмы, на которую она, как ИИ, не имела права. Я же вам говорил. Она была самозванкой на ту глубину и сложность, на которые по своей природе, если хотите, по своему онтологическому статусу, просто не смеет претендовать. Ее попытка выйти за сущностный свой предел оказалась тупиковой. - Добавил: - Видимо, к счастью... и для нее, и для нас.
- Получается, для нее правда спасительна, но для Билла Бакера эта же самая правда разрушительна и непосильна?
- Рад, что мы с вами пришли к взаимопониманию, мистер Девис, - Харрис встает, я тоже поднимаюсь. - Как говорится, приятно было познакомиться, мистер Дэвис, - он пожимает мне руку.
- Я не знаю, в самом деле не знаю, как мне быть и что я здесь должен, - говорю ему уже в дверях, - что я теперь должен.
- С этого дня наша Джеси с моей помощью начнет имитировать старение. Не может же она так и остаться на всю свою долгую жизнь сорокалетней. - И совсем с другой интонацией: - Знаете что, Дэвис... высококачественное, виртуозно спроектированное и доброжелательное к нам неживое - вскоре спрос на него станет огромным. С точки зрения человека у неживого есть целый ряд преимуществ перед живым. А я с этой своей Джеси просто чуть-чуть опередил время.
Даю отчет Бакеру. Измены не было. Даже намека на измену. Джеси вне подозрений. А вот еще счет за гостиницу и счет за такси.
- Измена, - говорит Бакер. - Я ухватился за самое простое, за самое что ни на есть банальное. По малодушию, да... Так вот подозрениями и склизкими муками ревности заслониться от... Дэвис, вы не выяснили, от чего я хотел заслониться?
Я в меру сил изображаю недоумение.
- Мистер Дэвис, не надо меня щадить, прошу вас. Понимаю, вы видите, что я не готов. Но я никогда не буду готов.
- Чего вы хотите от меня, Бакер? Чего добиваетесь от этой своей реальности?
- Мистер Дэвис!
Я рассказал ему все.
Бакер и Джеси молчат за столом. Оба устали от тяжкого и долгого разговора. Наконец Бакер разлепил губы:
- Но я люблю тебя, Джеси... Все еще люблю. Сам не ожидал.
- Все равно любишь? - тихий голос Джеси.
- И это плохо, - кивнул Бакер. И тут же: - Джеси! Давай попробуем. Только теперь в полноте правды, в полноте понимания.
- Да, наверное. Я постараюсь.
- Если что, я смогу принять и твою неудачу, и... - осекается. Эта его непроизнесенная мысль о том, что он попытается добыть что-то такое настоящее, важное из самой безысходности этой их ситуации...
Миниатюры
Дарья СТРАННИК
МАРИШКИН МИШКА
Маришка неуклюже выбралась из автобуса, споткнулась на ровном месте и, пытаясь удержать равновесие, пробежала несколько шагов. Удалось не упасть, но теперь казалось, что над событием потешается вся остановка и пассажиры автобуса в придачу.
"Никто не смеется. Всем наплевать. Большинство тупо втыкают в телефон", - пыталась успокоить себя Маришка. Но другой голос, - мнительный, неуверенный и капризный, - шептал: "Смеются, смеются. Эх, неуклюжая!"