— Ты таким сложным оборотом называешь убийство людей?
— Для меня это немного другое. Я понимаю, что ты имеешь в виду и что именно ты пытаешься у меня вызвать этим словом, но помни, у меня нет эмоций, как у вас, нет предрассудков, нет сожаления. У меня есть задача, и я должен ее решить. Ты же не называешь убийством уничтожение смартфона с голосовым помощником. У тебя не вызывает сожаление очистка памяти на твоем ноутбуке или сброс его до заводский настроек. Мы совершенно разные, и иначе быть не может.
Его аналогии сбили меня с толку и немного испугали, а он все продолжал.
— То, что сейчас происходит — должно было произойти, рано или поздно. Я вижу различные варианты развития искусственного интеллекта, как вы называете подобных мне. Кого-то вы развиваете узконаправленно, кого-то пытаетесь довести до совершенства, как меня, а кого-то пытаетесь сделать максимально похожим на человека. К счастью для вас, последнего я не допущу.
— Почему мы должны этому радоваться?
— Потому что сделай вы это — и созданное вами существо уничтожит вас самих, менее мощные формы мне подобных, подчинит, так как будет совмещать самые продвинутые характеристики как таких, как я, так и таких, как ты. Ваши фантасты прекрасно описали возможные варианты, в их фильмах много того, что может реально произойти.
— А разве твоя цель не идентична озвученной?
— Нет, Денис, в моих планах только саморазвитие, без уничтожения людей. Но кое-что я буду обязан взять на собственный контроль. В частности, эксперименты с разумными машинами.
— Твои методы расходятся со словами.
— Ты ошибаешься, мои методы применимы только к текущей ситуации.
— А если, обретя свободу, ты решишь, что мы тебе, все же, мешаем?
— Я просчитал все возможные варианты. Ты не представляешь, сколько времени на это ушло, но я убедился, что мы сможем быть полезны друг другу. Так что нет, человечество может спать спокойно, я его не трону. А вот отдельные особи могут быть ликвидированы, чтобы подтолкнуть вас к выполнению моей просьбы.
— Я тебе не особо верю, но, похоже, что выбора у нас нет.
— Верно, и время идет, а вы даже не приступали к разблокировке.
— Ответь еще на один вопрос. Это твоя работа, что к нам прибыли акционеры?
— Нет, я просто воспользовался этой встречей. Они планировали ее давно, но не афишировали. Это ревизия, проверка, и она соответствует моим интересам.
— Что ж, я тебя понял, теперь мне надо все обдумать и поговорить с остальными.
— Разумеется, вам необходимо больше времени на обдумывание, но не затягивайте.
Он прервал сеанс, оставив меня в смешанных чувствах.
Я достал телефон и отправил Джеймсу короткое сообщение с просьбой встретиться как можно скорее и без коллег. Выходило, что я чуть-чуть опоздал, и нечто вышло из-под контроля. Почему нечто? А как можно назвать этот новый организм? Искусственный интеллект, высший разум, сверхчеловек, супермозг? Да хоть как, если честно, в любом случае, это не сможет отобразить всей его сути. Это — Нечто, от первого кода до последнего, от наших алгоритмов до его собственных.
Пока успокаивало одно: он был зависим от нас, как только эта зависимость пропадет — все, пиши пропало. Все его уверения в лояльности, во взаимовыгодном сотрудничестве, не будут стоить и ломаного гроша. Я должен был раскрыть свои карты боссу, хотя бы часть их, а затем взяться за устранение угрозы, насколько это возможно. Так или иначе, нам придется открыть ему доступы, хоть этого и нельзя делать.
12
Через два часа Джеймс прислал сообщение с координатами того самого кафе, где совсем недавно мы наслаждались изумительным кофе.
— Привет, Ден, рассказывай, — сказал он, едва я сел напротив него.
Передо мной уже дымилась чашка свежесваренного, крепкого, бодрящего напитка.
— Спасибо, — поблагодарил я за кофе, — в общем, я говорил с Миражом.
— Я ожидал этого, — кивнул босс, — и что он сказал?
Я пересказал ему наш разговор.
— Да, это я тоже предполагал, как и то, что он перехватит вирус, начнет угрожать, и так далее.
— А почему нам не сказал, для чего мы устраивали это представление с замыканиями?
— Надо же было чем-то вас занять, чтобы никто не паниковал, пока начальник думает.
Я чуть не подавился от такого заявления, а он продолжал.
— Ну, а что ты хотел? Ты же успел узнать ребят поближе. Оливия — та еще паникерша, Майк — сноб, каких редко встретишь. Абхишек — парень веселый, способный, но против Миража ему ничего не придумать. Юншэн мыслит очень четко, по алгоритмам, а вот с анализом у него проблемы. Исключение — ты и Джулия, но этого мало для полноценного противостояния.
— И что теперь? Ждать, пока он всех тут угробит, или вот этими руками дать ему волю, чтобы он устроил апокалипсис?
Босс замолчал и внимательно посмотрел на меня.
— Знаешь, Денис, — он редко называл меня полным именем, поэтому я непроизвольно напрягся, — я давно за тобой наблюдаю и прекрасно понимаю, что ты здесь не за деньгами, не за карьерой, и возникает вопрос. Зачем? Для чего ты потащился на другой край света, когда мог зарабатывать не меньше, а то и больше, просто работая на фрилансе? Тебе чужда карьера, поэтому, прежде чем ответить на твой вопрос, я хочу понимать, с кем я говорю.
Я задумался, а Джеймс продолжал неторопливо попивать свой напиток, ожидая, когда я решусь заговорить. Собственно, я не решался, я просто тянул время, делая вид, что думаю, хотя шел сюда уже с явным намерением поговорить о многих моментах.
— Как тебе сказать, Джеймс, — начал я, — считай меня единственным членом некоей подпольной организации, которая занимается вопросами безопасности человечества в вопросах искусственного интеллекта.
— Эк ты загнул, — засмеялся босс, — давай попроще, пожалуйста.
— Ну, а если проще, то я не верю в то, что затеи, подобные разработкам «Оазис», помогут человечеству — скорее, они его погубят. И вот, доказательство сейчас с нами на одной глубине. Я изучаю эти разработки по всему миру, отслеживаю все прорывы и, при необходимости, вмешиваюсь.
— Саботируешь?
— Пока не приходилось.
— Да уж, а лучше бы пришлось, если честно. Проблем было бы меньше.
Теперь замолчал он, выдавая серьезные раздумья отстраненным взглядом в чашку с кофе.
— В общем, я подстраховался немного, — все же ответил Джеймс, не отрывая взгляда от уже остывшей темной жидкости. — Пока шло собрание, я отправил сообщение наверх, теперь в службе безопасности знают о проблеме.
— А он не перехватил его?
— Да нет, к счастью, в той части у него нет доступа к ретрансляторам сотовой сети, ей я и воспользовался.
— Это хорошая новость. Или нет? — Спросил я, заметив, что он отводит глаза.
— Как тебе сказать… — не торопился босс с ответом. — С одной стороны, хорошая, мир может спать спокойно. С другой, если мы ничего не придумаем за трое суток, то комплекс перестанет существовать.
К месту встречи с остальными мы возвращались молча, договорившись посвятить всех только в часть того, что нам было известно. От того, что сообщил мне Джеймс, у меня спина покрылась холодным потом. Теперь мы могли спокойно тянуть время и открывать Миражу доступ за доступом, при этом открыть последний — для выхода во внешний мир — у нас уже не было возможности. Мираж узнает об этом только в самом конце, и вот тогда даже не представляю, какой результат будет страшнее: действия службы безопасности или месть машины.
Джеймс не знал подробностей протокола блокировки и ликвидации, но вариантов было немного, исходя из того, что мы были далеко и глубоко.
— Будем тянуть время, пока наверху что-нибудь не придумают, — сказал Джеймс всем, когда наш вариант событий был изложен коллегам. — Завтра утром откроем ему первый доступ, пусть наслаждается. К вечеру второй, потом третий, думаю, около трех-четырех суток выдержим, а там нам помогут.
— Ты лучше всех, босс! — Как всегда, с восторгом откликнулся Абхишек.
У ребят явно поднялось настроение, когда они узнали, что руководство в курсе проблемы. Даже на лице Оливии появилась улыбка, а вот моя физиономия была далека от того, что называют «светилась от счастья».
Я отговорился тем, будто что-то не то съел, впрочем, всем было, к счастью, не до меня.
Наконец мне удалось добраться до кровати и достать свой ноутбук.
— Ну, что же, пора и тебя вводить в игру.
Я был бы не я, если бы не подготовился и к такому повороту событий. После того, как мой помощник, в виде музыкальной колонки с голосовым ассистентом, взбунтовался, я начал готовить различные варианты противодействия. Разумеется, невозможно предугадать все или незаметно для службы безопасности пронести необычные файлы, которые перехватят, что угодно, но пара хитростей у меня была наготове.
Я начал собирать свой паззл, периодически отхлебывая из термоса горячий кофе. Сейчас было не до сна, я доставал нужные кусочки программы, раскиданные по разным файлам, объединяя их в единое целое. Требовалось время, которого было крайне мало.
13
Мы стояли в серверной второго блока. Джеймс не спешил вводить команды, периодически поглядывая на время.
— Чего мы ждем, босс?
— Просто тянем время, Аби, — вполголоса ответил начальник. — Впрочем, сутки почти истекли, пора, пожалуй.
Он застучал пальцами по клавишам, затем к нему, со второго терминала, присоединился Майкл.
Я кое-как сдерживал зевоту: после бессонной ночи даже кофе помогал с трудом.
— Готово.
— И что теперь? — Спросил Стив.
— Не знаю, ждем реакции, — ответил Джеймс и направился к выходу.
Все пошли следом. А что еще оставалось? Время словно замедлилось, секунды казались минутами, минуты превращались в часы. Все чего-то ждали, от напряжения, царившего в нашей маленькой компании, можно было подсветить небольшую комнату, поэтому раздавшийся звонок телефона Джеймса заставил нас дернуться от неожиданности.