Но нет ничего настоящего ни в моем лице, ни в его отражении на гладкой поверхности. Где боль – боль, делающая любовь настоящей, боль понимания?
– Ты в порядке, дорогая? – окликает меня Брэд через дверь ванной. Я включаю кран, брызги воды летят мне на лицо.
– Да, – говорю я. – Я собираюсь принять душ. Ты не мог бы купить что-нибудь перекусить в том магазине, который мы видели по дороге?
Я поручаю ему что-то сделать, и это его успокаивает. Я слышу, как за ним закрылась входная дверь. Я закрываю кран и гляжусь в зеркало, на то, как капли воды скатываются по лицу, прокладывая путь по каналам морщин.
Чтобы воссоздать человеческое тело, требуется чудо. А человеческий ум – сущий пустяк. Поверьте, я знаю, о чём говорю.
Нет, снова и снова терпеливо объяснили мы с Брэдом, обращаясь к камерам, мы не создали «искусственного ребенка». Это не входило в наши намерения, и это не то, что получилось у нас в результате. Это просто способ утешить скорбящих матерей. Если вам нужна Эми, вы точно об этом знаете.
Я хотела бы ходить по улице и видеть женщин, гуляющих с аккуратными свёртками в руках. И я всегда бы их узнавала, узнавала без всяких сомнений, по особенному звуку плача, по движениям маленьких рук. Я хотела посмотреть на лица этих женщин, и утешиться самой.
Мне всё же удалось справиться болью утраты и двинуться дальше. Я была готова взяться за ещё один проект, грандиозный проект, который действительно удовлетворил бы мои амбиции и показал всему миру, на что я способна. Я была готова вновь вернуться к жизни.
На создание Тары у меня ушло четыре года. Я работала над ней в тайне, параллельно с проектированием других кукол, предназначенных для продажи. Физически Тара выглядела как пятилетняя девочка. Дорогие качественные пластикожа и синтгель дали ей чарующий, ангельский вид. Ее глаза были тёмными и ясными, и можно было смотреть в них бесконечно.
Я не успела закончить работу над механизмами движения Тары. Может, это было и к лучшему. Я сосредоточила свои усилия над усовершенствованием двигателей, управляющих мимической мускулатурой, которые были созданы специалистами в лабораториях Массачусетского Технологического Института в ходе работы над Кимберли. Дооснащённая множеством прекрасных микромоторов, гораздо совершенней тех, что были у Кимберли, Тара могла поворачивать голову, моргать глазами, морщить нос, и генерировать ещё тысячу убедительных выражений мимики. Ниже шеи она была парализована.
Но ее ум – ах, её ум.
Я использовала лучшие квантовые процессоры и лучшие матрицы для хранения информации, чтобы запустить многоуровневые, многоканальные обратные нейронные сети. Я добавила свои собственные модификации в Стэнфордскую базу семантических данных. Программирование было великолепным. Самым настоящим произведением искусства. Без какой-либо посторонней помощи я работала над моделью в течение шести месяцев.
Я научила её, когда надо улыбаться, а когда хмуриться, я научила её как говорить, и как слушать. Каждый вечер я анализировала графики активации узлов в её нейронной сети, пытаясь выявить и решить проблемы прежде, чем они возникали.
Брэд ни разу не видел Тару, пока она находилась в разработке. Он был слишком занят, пытаясь компенсировать ущерб от проекта с Эми, а затем наладить производство новых кукол. Я хотела удивить его.
Я усадила Тару в инвалидную коляску, и сказала Брэду, что это дочь моего друга. Так как я должна выполнить некоторые поручения, не мог бы он за ней присмотреть, пока меня не будет в течение нескольких часов? Я оставила их в моем офисе.
Когда я вернулась через пару часов, я обнаружила, что Брэд читает ей про Пражского Голема:
– Приди, сказал Великий раввин Лёв. Открой глаза и говори, как настоящий человек!
Это так похоже на Брэда, подумала я. У него своеобразное чувство юмора.
– Ладно, – прервала я его. – Очень смешно. Я оценила шутку. Итак, сколько времени тебе потребовалось?
Он улыбнулся Таре.
– Мы закончим в другой раз, – сказал он. Затем повернулся ко мне.
– Сколько мне потребовалось для чего?
– Для того, чтобы выяснить это.
– Выяснить что?
– Хватит шуток, – сказала я. – Что на самом деле её выдало?
– Что выдало? – Брэд и Тара сказали это одновременно.
Ничего из того, что говорила или делала Тара, не было для меня неожиданностью. Я могла предсказать все, что она будет говорить, прежде, чем она это скажет. В конце концов, это я её программировала, и потому точно знала, как её нейронные сети будут реагировать на то или иное воздействие.
Но никто кроме меня ничего не подозревал. Я должна была праздновать победу. Моя кукла прошла тест Тьюринга в реальной жизни. Но я испугалась. Алгоритмы выставили на посмешище разум, и никого, казалось, это не волновало. Никто кроме меня даже не обратил на это внимания.
Спустя неделю мне всё же удалось вытянуть из Брэда его впечатления. После первоначального потрясения он был в восторге (и я знала, что так оно и будет).
– Превосходно, – сказал он. – Теперь мы уже не просто компания по производству игрушек. Ты можешь себе представить, чего мы можем с этим добиться? Ты станешь известной, действительно известной!
Он рассуждал и по поводу потенциальных предложений. Затем он заметил мое молчание.
– В чем дело?
Вот тогда я и рассказала ему о «китайской комнате».
Философ Джон Сёрль придумал этот феномен в качестве головоломки для исследователей искусственного интеллекта. Представьте себе комнату, сказал он, большую комнату, полную добросовестных клерков, очень хорошо умеющих работать с заказами, но говорящих только по-английски. В эту комнату поступает непрерывный поток карточек со странными символами на них. Клерки в ответ должны написать на пустых карточках другие непонятные символы, и отправить их обратно из комнаты. Для того, чтобы это сделать, у клерков есть толстые книги, полные правил на английском языке, таких, например, как это: «Когда вы видите карточку с одной горизонтальной волнистой линией и двумя вертикальными каракулями, нарисуйте треугольник на пустой карточке и передайте сидящему справа от вас». Но правила не содержат ни намёка о том, что эти символы могут означать.
Оказывается, что поступающие в комнату карты с вопросами написаны на китайском языке, и клерки, строго следуя правилам, выдают на китайском же языке разумные ответы. Но может ли кто-нибудь из участвующих в этом процессе – со всеми правилами, служащими, комнатой в целом и бурной деятельностью, сказать, что понял хоть слово по-китайски? Попробуйте заменить «клерков» на «процессор», а «книги с правилами» на «программы», и вы поймёте, что тест Тьюринга ничего не доказывает, а «искусственный интеллект» является иллюзией.
Но точно так же можно применить «китайскую комнату» для другой аналогии: замените «клерков» на «нейроны», а «книги с правилами» на физические законы, управляющие каскадами активации электрических потенциалов нашего мозга; как после этого может любой из нас утверждать, что он хоть что-нибудь «понимает»? Мышление – это просто иллюзия.
– Я не понимаю, – говорит Брэд. – О чем ты говоришь?
Мгновение спустя я осознала, что это было именно то, что я ожидала услышать в ответ.
– Брэд, – сказала я, глядя ему прямо в глаза, желая, чтобы он понял. – Я боюсь. Что, если мы такие же, как Тара?
– Мы? Ты имеешь в виду людей?
– Что, если, – сказала я, изо всех сил стараясь подобрать нужные слова, – мы просто последовательность используемых изо дня в день алгоритмов? Что, если клетки нашего мозга просто автоматически реагируют на сигналы от внешних источников? Что, если мы не мыслим вообще? Что, если то, что я говорю тебе сейчас, заранее зная ответ, лишь результат бессмысленной физики?
– Елена, – сказал Брэд, – Ты позволяешь философии вмешиваться в реальность.
Мне нужно выспаться, подумала я, чувствуя себя безнадежно.
– Я думаю, что тебе нужно как следует выспаться, – сказал Брэд.
Я взяла бумажный стаканчик из рук девушки, продающей кофе, и отдала ей деньги. Я посмотрела на девушку. В восемь утра она выглядела такой сонной и скучной, что заставила и меня почувствовать себя усталой. Мне нужен отпуск.
– Мне нужен отпуск, – сказала она, театрально вздыхая.
Я прошла мимо стола секретарши. Утро, Елена. Скажи что-нибудь другое, пожалуйста. Я стиснула зубы. Пожалуйста.
– Доброе утро, Елена, – сказала она.
Я остановилась у стола Огдена. Он наш инженер-конструктор. Погода, игра прошлым вечером, Брэд.
Он увидел меня и встал.
– Хорошая погода, а? – Он вытер пот со лба и улыбнулся мне. Он бегал по утрам перед работой. – Вы смотрели игру вчера вечером? Лучший бросок, что я видел за последние десять лет. Невероятно. Эй, а Брэд всё ещё?.. – По выражению его лица было видно, что он ждёт от меня, чтобы и я следовала привычному сценарию, отточенным жизнью процедурам.
Алгоритмы побежали их решительными курсами, и наши мысли следовали одна за другой, механически и предсказуемо, как планеты, движущиеся по своим орбитам. Кукловод сам оказался куклой.
Я пробежала в мой кабинет и захлопнула за собой дверь, не обращая внимания на недоумённое выражение лица Огдена. Я подошла к своему компьютеру и начала удалять файлы.
– Привет, – сказала Тара. – Что мы будем делать сегодня?
Я выключила её так быстро, что сломала ноготь о тумблер переключателя. Я вырвала провода электропитания из её спины. Я стала работать над ней с помощью отвертки и плоскогубцев. Затем взялась за молоток. Была ли я убийцей?
Брэд вломился в дверь.
– Что ты делаешь?
Я посмотрела на него, рука с занесённым для очередного удара молотком замерла. Я хотела рассказать ему о боли, ужасе, о той бездне, которая внезапно открылась передо мной.
В его глазах я не смогла найти того, что хотела бы увидеть. В них не было понимания.
Я вновь взмахнула молотком.
Брэд пытался убеждать меня, опровергнуть мои утверждения.