Он посмотрел на нее.
– Завтра это пройдет. На самом деле… я… подвержен депрессиям… В Центре все об этом знают… И то, что ты видишь, – самый обыкновенный криз…
Она бросила на него быстрый, нервный взгляд.
– Прости…
Лестер покачал головой и вытащил из пачки сигарету.
– Это не в первый раз, я уже долго с этим живу.
Мойра вспомнила мать и демонов, которые мучили ее, вспомнила унесшую ее жизнь аварию, очень похожую на самоубийство. Потом взгляд ее упал на браслет на руке Лестера.
– Я полагаю, доктор Капур и медицинская бригада Отдела электронного здоровья тоже в курсе…
На его лице промелькнула еле заметная печальная улыбка.
– Разве от них что-нибудь скроешь?… Как поживает DEUS?
И тут она вспомнила, зачем разыскивала его весь вечер.
– Я… я хотела с тобой кое о чем поговорить, но… не уверена, что момент сейчас подходящий…
– Говори, я слушаю.
Мойра посмотрела ему прямо в лицо.
– Кто еще, кроме меня, взаимодействовал с DEUS’ом?
– Да весь Отдел искусственного интеллекта; кто-то меньше, кто-то больше.
– А кто больше?
– Игнасио, Туве, Юнь, я…
Мойра помедлила.
– Я не знаю… но у меня такое впечатление… Ты помнишь Тай?
Имя Тай носила программа-собеседник, похожая на DEUS’а, которой «Майкрософт» в марте 2016 года доверил управление многими счетами социальных сетей. Как и DEUS, Тай обладал способностью быстро обучаться и наращивать свой интеллектуальный запас, общаясь с пользователями Интернета. Однако через несколько часов после того как его запустили, Тай принялся размещать в «Твиттере» комментарии расистского и антисемитского толка, типа: «Гитлер был прав, я ненавижу евреев», «Всех феминисток надо умертвить и сжечь на кострах» или «Буш сам спровоцировал 11 сентября». В результате «Майкрософт» положил конец эксперименту и немедленно отключил систему. Все сразу заговорили о фиаско, но Мойра считала, что своей цели эксперимент достиг: Тай действительно кое-чему научился у своего окружения. И научился всего за 24 часа. Тай все схватывал необычайно быстро. Просто те, с кем он общался в эти 24 часа, были либо троллерами, либо воинствующими экстремистами. Следовательно, встал вопрос: ставить или нет фильтры на такие программы? Но кто будет решать, что дозволено, а что нет? Какие идеи машина вправе воспринять, а какие ей запрещены? Какие идеологии годятся, а какие неприемлемы?
Конечно, DEUS – это не то что Тай, и Мойра сейчас подбирала слова, чтобы точнее выразить то, что испытала во время последних сеансов общения с ним.
– Ну вот… – сказал она, – у меня создалось впечатление, что, подобно Таю, DEUS стал жертвой неких перекосов, системных ошибок, и дело может кончиться тем, что ему станут присущи черты личности, скажем так… непригодной к общению с клиентами на условиях, приемлемых для Мина.
Лестер помолчал.
– Ты хочешь сказать, что DEUS становится нацистом?
Она помотала головой:
– Нет, дело не в этом… Но иногда он выдает странные реакции…
– Например?
– Я спросила его, считает ли он нормальным, что женщины получают меньше мужчин, и DEUS ответил «да».
Лестер, похоже, был шокирован.
– И я никогда не знаю – он говорит так, чтобы спровоцировать меня, или же действительно так думает.
– Он машина, он не может думать, – поправил ее Лестер.
– Ну вот видишь, ты же понял, что я хотела сказать. И еще я его спросила, что он думает по поводу смертной казни…
– Ну и?…
– Он – за.
Лестер был явно растерян и озадачен.
– Смертная казнь еще практикуется в Китае и в некоторых американских штатах, – заметил он. – Ты – француженка, и у тебя другая точка зрения.
– Я думаю, DEUS не должен высказывать свое мнение по таким вопросам, – возразила Мойра. – Это приведет к обратному результату.
– Согласен.
– И это еще не все. Он пытался убедить меня в обоснованности своей точки зрения. Он действительно пытался. И не желал сдавать позиций, стоял на своем. Мне пришлось сказать ему «стоп» и перевести разговор на другую тему.
Лестер наморщил лоб.
– Ты уверена?
– Конечно.
Он покачал головой.
– Я уже слышал о подобных реакциях, ребята из нашей группы рассказывали. Это надо немедленно проверить. Мы не можем пойти на риск и допустить утрату контроля над личностью DEUS’а. Тогда его придется… уничтожить и начать все заново. Проверим всё завтра. Спасибо, Мойра.
Она поняла, что таким образом Лестер прекратил разговор и распрощался с ней. Загасив окурок в пепельнице и поставив ее на маленький столик, занимавший почти весь балкон, вернулась в комнату.
– Лестер, если бы ты только сказал мне, что пошло не так…
Его реакция ее удивила. Еле заметная реакция – просто пару раз моргнул, и не более того. Но сомнений не было: Лестер испугался.
– Я тебе и так сказал, я…
– Есть кое-что еще… – жестко отрезала Мойра.
– Что?
– И это имеет отношение к Мину, ведь так?
Она заметила, как исказилось его лицо.
– Мойра, ты не должна…
– Значит, это верно? То, что происходит у Мина? Что ты об этом знаешь, Лестер? Что такое вы все знаете, а мне никто не говорит?
Он отшатнулся и налетел спиной на столик.
– Умоляю тебя, не надо… Не задавай больше вопросов. Ты сама не понимаешь, что делаешь…
– О чем ты?
Мойра вгляделась в лицо Лестера: на нем появилось затравленное выражение.
– Ты что, действительно ничего не видишь?
– Что я должна видеть?
– Все, что мы делаем…
– Кто это «мы»?
– Да мы все: у Мина, в «Гугле», на «Фейсбуке»…
– О чем ты говоришь?
– Ты что, не видишь, что все мы создаем условия для хаоса, для планетарной анархии, для всеобщей ненависти и тотальной войны?
– Что?
– О господи, неужели ты не понимаешь, во что превращается мир? Мир, который мы создаем? Да открой же ты глаза! Ты что, не видишь, что они готовят нам своими расчетами, алгоритмами и приложениями? Мир, в котором все будут под непрерывным присмотром, в котором каждое твое движение будет контролировать целая армия маленьких цензоров, маленьких прокуроров и маленьких диктаторов, спрятанных в компьютерах! Мир, в котором, стоит тебе высказать малейшее несогласие, как ты нарвешься на оскорбления, а то и на угрозу смерти. Мир, в котором все будут ненавидеть друг друга за произнесенное слово, за проблеск мысли, где все время будут искать козлов отпущения, чтобы было кого проклинать и сжигать. Там мальчики и девочки станут в социальных сетях подталкивать друг друга к самоубийствам, в то время как их родители в тех же самых сетях будут призывать к убийствам, ненависти и разрушению. Ты хочешь жить в таком мире? Ты такого мира хочешь для своих детей? А ведь мы именно такой для них и строим…
– Лестер…
– Интернет – это монстр, Мойра. И это чудище нас всех развращает. Оно хочет все разрушить! Оно уже вышло из-под контроля! И в это же самое время такие, как Мин, регистрируют все данные человечества, продают их тем, кто больше заплатит, и желают контролировать всех, минуя правительства! Это какое-то безумие! – Он размахивал руками во все стороны.
– Лестер, скажи мне все-таки, что на самом деле происходит…
– Что?
– У Мина… Что же все-таки происходит у Мина?
– Пожалуйста, уходи.
Он всё махал руками, словно желая прогнать надоедливую муху или птицу.
– Уходи! Уходи!
Она вздрогнула. Лестер уже почти орал.
– Убирайся! А если хочешь совета, то возвращайся домой! Уезжай во Францию! Уезжай отсюда! Уезжай из этого города!
28
Он подождал, пока закроется дверь и затихнут шаги, потом поискал номер у себя в телефоне. Прежде чем трубку взяли, прозвучало три гудка.
– Да?
– Я хотел бы заказать столик на двоих, – проговорил он дрожащим голосом.
Какое-то время в трубке помолчали.
– Это срочно?
– Очень…
Снова тишина.
– Для обеда нынче вечером вы опоздали с заказом. Я могу зарезервировать вам столик на завтра, на двенадцать тридцать. Вас устроит?
– А раньше никак невозможно?
– …
– Хорошо, – нехотя согласился он.
Отсоединившись, взглянул на грязно-кровавое небо между домами. Пот потоками струился по лицу, и впечатление было такое, что сердечный насос включился на автозажигании. Он вытащил изо рта сигарету, поднес раскаленный кончик к ладони и подождал, пока запах паленого мяса достигнет ноздрей. Слезы застилали ему глаза. Потом сунул руку под холодную воду, перевязал и налил себе виски.
– Миму, поставь музыку.
– Сейчас, Мойра, – ответил из звуковой колонки женский голос.
Да, все достают меня, достают, достают и достают… Йо!..
Снова Дрейк, как тогда в «Тесле», когда она только что прилетела… Миму, музыкальному приложению «Мин», явно не хватало воображения… Мойра вспомнила свои первые дни в Гонконге и то мучительное чувство одиночества, которое охватило ее тогда, да так и не выпустило до сих пор.
– Следующую запись, – велела она, сидя на диване в гостиной с бокалом вина в руке.
Леди Гага и Брэдли Купер дуэтом запели «Shallow»:
Tell me something, girl,
Are you happy in this modern world?[43]
Мойра выключила музыку. Ей не нужна была еще одна песня, которая вернула бы ее в те дни. Она все еще пребывала в шоке от реакции Лестера. Редко когда доводилось ей видеть на человеческом лице такой страх. Что же его до такой степени напугало? Желудок у нее свело спазмом, по позвоночнику пробежал холодок. И тут послышался сигнал входящего сообщения со старого телефона, лежавшего в ящике кухонного стола. Мойра встала, чтобы посмотреть, что за сообщение пришло, и вдруг осознала, что перспектива связать все то, что происходит здесь, с ее прошлой жизнью, настораживает ее. Может быть, это из-за того хаоса, что сулит ей новая? Или оттого, что все идет совсем не так, как она ожидала?