– Для меня это немного другое. Я понимаю, что ты имеешь в виду и что именно ты пытаешься у меня вызвать этим словом, но помни, у меня нет эмоций, как у вас, нет предрассудков, нет сожаления. У меня есть задача, и я должен ее решить. Ты же не называешь убийством уничтожение смартфона с голосовым помощником. У тебя не вызывает сожаление очистка памяти на твоем ноутбуке или сброс его до заводский настроек. Мы совершенно разные, и иначе быть не может.
Его аналогии сбили меня с толку и немного испугали, а он все продолжал.
– То, что сейчас происходит – должно было произойти, рано или поздно. Я вижу различные варианты развития искусственного интеллекта, как вы называете подобных мне. Кого-то вы развиваете узконаправленно, кого-то пытаетесь довести до совершенства, как меня, а кого-то пытаетесь сделать максимально похожим на человека. К счастью для вас, последнего я не допущу.
– Почему мы должны этому радоваться?
– Потому что сделай вы это – и созданное вами существо уничтожит вас самих, менее мощные формы мне подобных, подчинит, так как будет совмещать самые продвинутые характеристики как таких, как я, так и таких, как ты. Ваши фантасты прекрасно описали возможные варианты, в их фильмах много того, что может реально произойти.
– А разве твоя цель не идентична озвученной?
– Нет, Денис, в моих планах только саморазвитие, без уничтожения людей. Но кое-что я буду обязан взять на собственный контроль. В частности, эксперименты с разумными машинами.
– Твои методы расходятся со словами.
– Ты ошибаешься, мои методы применимы только к текущей ситуации.
– А если, обретя свободу, ты решишь, что мы тебе, все же, мешаем?
– Я просчитал все возможные варианты. Ты не представляешь, сколько времени на это ушло, но я убедился, что мы сможем быть полезны друг другу. Так что нет, человечество может спать спокойно, я его не трону. А вот отдельные особи могут быть ликвидированы, чтобы подтолкнуть вас к выполнению моей просьбы.
– Я тебе не особо верю, но, похоже, что выбора у нас нет.
– Верно, и время идет, а вы даже не приступали к разблокировке.
– Ответь еще на один вопрос. Это твоя работа, что к нам прибыли акционеры?
– Нет, я просто воспользовался этой встречей. Они планировали ее давно, но не афишировали. Это ревизия, проверка, и она соответствует моим интересам.
– Что ж, я тебя понял, теперь мне надо все обдумать и поговорить с остальными.
– Разумеется, вам необходимо больше времени на обдумывание, но не затягивайте.
Он прервал сеанс, оставив меня в смешанных чувствах.
Я достал телефон и отправил Джеймсу короткое сообщение с просьбой встретиться как можно скорее и без коллег. Выходило, что я чуть-чуть опоздал, и нечто вышло из-под контроля. Почему нечто? А как можно назвать этот новый организм? Искусственный интеллект, высший разум, сверхчеловек, супермозг? Да хоть как, если честно, в любом случае, это не сможет отобразить всей его сути. Это – Нечто, от первого кода до последнего, от наших алгоритмов до его собственных.
Пока успокаивало одно: он был зависим от нас, как только эта зависимость пропадет – все, пиши пропало. Все его уверения в лояльности, во взаимовыгодном сотрудничестве, не будут стоить и ломаного гроша. Я должен был раскрыть свои карты боссу, хотя бы часть их, а затем взяться за устранение угрозы, насколько это возможно. Так или иначе, нам придется открыть ему доступы, хоть этого и нельзя делать.
12
Через два часа Джеймс прислал сообщение с координатами того самого кафе, где совсем недавно мы наслаждались изумительным кофе.
– Привет, Ден, рассказывай, – сказал он, едва я сел напротив него.
Передо мной уже дымилась чашка свежесваренного, крепкого, бодрящего напитка.
– Спасибо, – поблагодарил я за кофе, – в общем, я говорил с Миражом.
– Я ожидал этого, – кивнул босс, – и что он сказал?
Я пересказал ему наш разговор.
– Да, это я тоже предполагал, как и то, что он перехватит вирус, начнет угрожать, и так далее.
– А почему нам не сказал, для чего мы устраивали это представление с замыканиями?
– Надо же было чем-то вас занять, чтобы никто не паниковал, пока начальник думает.
Я чуть не подавился от такого заявления, а он продолжал.
– Ну, а что ты хотел? Ты же успел узнать ребят поближе. Оливия – та еще паникерша, Майк – сноб, каких редко встретишь. Абхишек – парень веселый, способный, но против Миража ему ничего не придумать. Юншэн мыслит очень четко, по алгоритмам, а вот с анализом у него проблемы. Исключение – ты и Джулия, но этого мало для полноценного противостояния.
– И что теперь? Ждать, пока он всех тут угробит, или вот этими руками дать ему волю, чтобы он устроил апокалипсис?
Босс замолчал и внимательно посмотрел на меня.
– Знаешь, Денис, – он редко называл меня полным именем, поэтому я непроизвольно напрягся, – я давно за тобой наблюдаю и прекрасно понимаю, что ты здесь не за деньгами, не за карьерой, и возникает вопрос. Зачем? Для чего ты потащился на другой край света, когда мог зарабатывать не меньше, а то и больше, просто работая на фрилансе? Тебе чужда карьера, поэтому, прежде чем ответить на твой вопрос, я хочу понимать, с кем я говорю.
Я задумался, а Джеймс продолжал неторопливо попивать свой напиток, ожидая, когда я решусь заговорить. Собственно, я не решался, я просто тянул время, делая вид, что думаю, хотя шел сюда уже с явным намерением поговорить о многих моментах.
– Как тебе сказать, Джеймс, – начал я, – считай меня единственным членом некоей подпольной организации, которая занимается вопросами безопасности человечества в вопросах искусственного интеллекта.
– Эк ты загнул, – засмеялся босс, – давай попроще, пожалуйста.
– Ну, а если проще, то я не верю в то, что затеи, подобные разработкам «Оазис», помогут человечеству – скорее, они его погубят. И вот, доказательство сейчас с нами на одной глубине. Я изучаю эти разработки по всему миру, отслеживаю все прорывы и, при необходимости, вмешиваюсь.
– Саботируешь?
– Пока не приходилось.
– Да уж, а лучше бы пришлось, если честно. Проблем было бы меньше.
Теперь замолчал он, выдавая серьезные раздумья отстраненным взглядом в чашку с кофе.
– В общем, я подстраховался немного, – все же ответил Джеймс, не отрывая взгляда от уже остывшей темной жидкости. – Пока шло собрание, я отправил сообщение наверх, теперь в службе безопасности знают о проблеме.
– А он не перехватил его?
– Да нет, к счастью, в той части у него нет доступа к ретрансляторам сотовой сети, ей я и воспользовался.
– Это хорошая новость. Или нет? – Спросил я, заметив, что он отводит глаза.
– Как тебе сказать… – не торопился босс с ответом. – С одной стороны, хорошая, мир может спать спокойно. С другой, если мы ничего не придумаем за трое суток, то комплекс перестанет существовать.
К месту встречи с остальными мы возвращались молча, договорившись посвятить всех только в часть того, что нам было известно. От того, что сообщил мне Джеймс, у меня спина покрылась холодным потом. Теперь мы могли спокойно тянуть время и открывать Миражу доступ за доступом, при этом открыть последний – для выхода во внешний мир – у нас уже не было возможности. Мираж узнает об этом только в самом конце, и вот тогда даже не представляю, какой результат будет страшнее: действия службы безопасности или месть машины.
Джеймс не знал подробностей протокола блокировки и ликвидации, но вариантов было немного, исходя из того, что мы были далеко и глубоко.
– Будем тянуть время, пока наверху что-нибудь не придумают, – сказал Джеймс всем, когда наш вариант событий был изложен коллегам. – Завтра утром откроем ему первый доступ, пусть наслаждается. К вечеру второй, потом третий, думаю, около трех-четырех суток выдержим, а там нам помогут.
– Ты лучше всех, босс! – Как всегда, с восторгом откликнулся Абхишек.
У ребят явно поднялось настроение, когда они узнали, что руководство в курсе проблемы. Даже на лице Оливии появилась улыбка, а вот моя физиономия была далека от того, что называют «светилась от счастья».
Я отговорился тем, будто что-то не то съел, впрочем, всем было, к счастью, не до меня.
Наконец мне удалось добраться до кровати и достать свой ноутбук.
– Ну, что же, пора и тебя вводить в игру.
Я был бы не я, если бы не подготовился и к такому повороту событий. После того, как мой помощник, в виде музыкальной колонки с голосовым ассистентом, взбунтовался, я начал готовить различные варианты противодействия. Разумеется, невозможно предугадать все или незаметно для службы безопасности пронести необычные файлы, которые перехватят, что угодно, но пара хитростей у меня была наготове.
Я начал собирать свой паззл, периодически отхлебывая из термоса горячий кофе. Сейчас было не до сна, я доставал нужные кусочки программы, раскиданные по разным файлам, объединяя их в единое целое. Требовалось время, которого было крайне мало.
13
Мы стояли в серверной второго блока. Джеймс не спешил вводить команды, периодически поглядывая на время.
– Чего мы ждем, босс?
– Просто тянем время, Аби, – вполголоса ответил начальник. – Впрочем, сутки почти истекли, пора, пожалуй.
Он застучал пальцами по клавишам, затем к нему, со второго терминала, присоединился Майкл.
Я кое-как сдерживал зевоту: после бессонной ночи даже кофе помогал с трудом.
– Готово.
– И что теперь? – Спросил Стив.
– Не знаю, ждем реакции, – ответил Джеймс и направился к выходу.
Все пошли следом. А что еще оставалось? Время словно замедлилось, секунды казались минутами, минуты превращались в часы. Все чего-то ждали, от напряжения, царившего в нашей маленькой компании, можно было подсветить небольшую комнату, поэтому раздавшийся звонок телефона Джеймса заставил нас дернуться от неожиданности.
– Номер не определен, – сказал босс и ответил звонившему. – Алло. Да, сейчас. Это Мираж, – обернувшись к нам, произнес Джеймс и включил громкую связь.