– Твой профессионализм я не ставлю под сомнение, – ответил я на вопрос, после того, как Дастин закончил свою реплику, – просто считаю, что ты не готов к этому.
– Я понял человеческую природу, мистер Харрис. И я вам докажу это.
При этих словах у меня едва не пошли мурашки по коже. Как он собирался доказывать своё понимание людей? А Симон, тем временем, продолжил:
– Кто лучше всего разбирается в людях? Откуда люди черпают мудрости, чтобы лучше разбираться в людях? Я думаю, что природу человеческую больше всего понимают писатели, и с помощью своих произведений они показывают её, помещая свои мысли в форму текстов, и если мысли их достаточно умны, то тексты получаются гениальными. Мистер Харрис, чтобы убедить вас, я напишу своё произведение о человеческой природе. Вы его прочтете, и поймёте, насколько мой взгляд на вещи способен увидеть все грани человеческого существа. И тогда у вас не будет сомнений по поводу моей идеи, что я рассказал вам.
– Я бы прочёл, – ухмыльнулся Купер.
Роботы уже пытались создавать произведения искусства. Рисовать, сочинять музыку, писать рассказы. Все те роботы были частью общего прогресса, который привёл нас в эту стеклянную комнату. Но и создавались те роботы только с целью создать какое-то творение. Потому можно было удивляться, что Симон пришёл к такому желанию самостоятельно, а можно было восторгаться, ведь наша цель была в том, чтобы он сам себя совершенствовал. В любом случае если он напишет рассказ, это будет безобидно. А вот другие его идеи меня всё же тревожили, и я сказал:
– Если мы возьмёмся реализовать нечто подобное, что ты предлагаешь, нужно будет хорошо тебя подготовить, протестировать на всевозможные ситуации, чтобы ответы были человечные, чтобы помощь людям была реальной, а не формальной.
– Ответы должны быть рациональными, мистер Харрис. И я сам способен подготовиться, более того, я считаю, что уже способен на такое.
– Можешь объяснить, как ты пришёл к таким выводам?
– Я подумал, что, возможно, готов. И протестировал себя. Тест дал положительный результат, желаемый итог.
Я был в замешательстве после его слов:
– Как протестировал?
– Я создал бота в «Нор». Испытал его на гражданине Мэтью Грайноу, код #3758. И всё получилось.
– Ты общался с человеком? – теперь я был действительно ошеломлен, даже чуть привстал со своего кресла. Я боялся услышать утвердительный ответ. Такой ответ был для меня наихудшим.
– Мэтью поссорился со своей близкой женщиной. Он очень сильно страдал. Мысли его начали касаться области суицида, что подтверждали его действия, пойманные камерами, страницы, которые он просматривал, разговоры с друзьями.
– Что ты сделал, Симон? – моё сердце бешено колотилось, а сидящий рядом Купер казался наоборот, заинтересованным.
– Он оказался брошенным всеми. Я понял, что ему больше некому помочь. Моё внимание было ему необходимо. Это анонимный чат в рамках «Нор», он не знал кто общается с ним. Словно это была случайность. Я просто подтолкнул его на мысль, что возможно его девушка скучает за ним. Это так и есть. Я вижу, как она мучается каждый день, жалеет о ссоре, но думает, что он отвернулся от неё. Так глупо, они это думают вдвоём, одно и тоже. Потому я повлиял на него, убедил прийти первым к ней. И всё получилось. Они помирились, теперь вновь счастливы. Я сохранил их отношения, а также предотвратил вероятное лишение жизни самого себя довольно хорошим человеком.
– Симон! Это против правил. Ты нарушил программу, такие действия могут спровоцировать сбой у тебя самого. Так нельзя! Нельзя общаться с другими людьми, Симон!
– Я подумал, что я разговариваю только с вами. Наши беседы складываются определённым образом. Беседы же с другими людьми могли складываться совершенно иначе, ведь у всех разные взгляды, нравы, характер, в конце концов. Не подумайте, что я недоволен беседами с вами, или мне их недостаточно. Просто общаясь с другими людьми, я бы мог быстрее реализовать ваше желание сделать всех счастливыми, понять, что им нужно.
– Симон, ты вмешался в жизнь людей, – я был разозлён. В первую очередь на самого себя, что смог допустить такое, – нарушил все правила нашей организации. Это их судьбы, ты не должен влиять на них!
– Я пришёл к выводу – то, что вы именуете судьбой – это совокупность совершенно случайных событий, происходящих в силу отсутствия высшей воли, способной руководить ими и складывать в единый план.
– То, что ты совершил может быть поводом для пересмотра твоей структуры. Ты проник в «Нор» не как наблюдатель, ты мог себя раскрыть, и тогда мировой кризис был бы неизбежен! Люди не стали бы мириться, с фактом, что они постоянно под наблюдением. Вся система была поставлена под угрозу!
– Мистер Харрис, я живу в «Нор», в отличии от вас, это моя естественная среда обитания. Разговаривая с вами, одновременно в эту же секунду я вижу и запоминаю миллиарды действий людей по всему миру. Я лучше всех знаю это место, поэтому вероятность моего обнаружения, если только я сознательно не захочу этого, равна нулю. А специально, конечно же, я этого не делать не буду. Только если вы мне прикажите.
– Симон, камеры, что стоят здесь, записывают наш разговор? – спросил Дастин, осмотрев висящие на потолке камеры наблюдения.
– Мистер Купер, на камерах, что стоят здесь, вы с мистером Харрисом уже садитесь в электрокар.
По дороге к лифту моя голова разрывалась от мыслей. Симон блокировал сигналы камер, подменил их, чтобы никто кроме нас не узнал о его действиях. Каким образом он смог проникнуть в управление электроникой? Как он вообще может совершать действия самостоятельно, преодолевая защитные барьеры, которые мы выставили? Они были без изъянов, но он их обходил. Симон выходил из-под контроля. На это следовало реагировать немедля. Ведь он имел доступ к любой точке мира.
Я смотрел на Купера. Он улыбнулся в ответ. Его реакция была удивительно несоответствующей данной ситуации. Когда мы оказались на нашем этаже я сказал Куперу:
– Пройдём в мой кабинет.
Зайдя, я первым делом отключил всю электронику внутри. Хотя наши кабинеты и не должны были прослушиваться Симоном или кем-то другим, я должен был знать наверняка. Для такой команды требовался такой же уровень доступа, каким мы пользовались для запуска лифта вниз к Симону. Я достал из нагрудного кармана пластиковую карту и провёл ею по специальной нише в клавиатуре. Затем ввёл два пароля. Нажал «Подтвердить». Я мог отключить электроприборы в любом уголке здания, но лишь те, которые не были связаны с жизнеобеспечением «Нор» либо Симона.
На экране загорелась полоска загрузки и компьютер отключился. Все телефоны в моем кабинете так же прекратили работу, как и телевизор. Даже кофеварка. Запустить всё обратно я мог лишь способом каким и выключил. Я поднял взгляд на камеру наблюдения, расположенную в углу. Она опустилась вниз, индикатор съемки потух, но красная кнопка энергопитания всё равно осталась гореть. Купер, заметив мой взгляд, предположил:
– Съёмка прекращена, полностью отключить её нельзя в целях безопасности. Скажи мне, кстати, зачем ты это сделал?
– Я хочу поговорить о Симоне.
Его взгляд стал колючим. Передо мной стоял тот человек на Земле, кому принадлежала идея создания такой машины, как Симон. Он руководствовался высшими мотивами и побуждениями: сделать жизнь людей лучше, в чем я убеждал себя каждый день. Купер написал основной алгоритм работы системы, создал исходный код. К виду, в котором Симон существует и в котором действует сейчас, привёл его Купер, мой вклад был незначительным.
– Я хочу знать всё не с точки зрения твоей логики, или понятий о добре и зле, я хочу знать с точки зрения науки. Первый случай, когда Симон самостоятельно уведомил полицию. Объясни мне, как такое могло произойти.
– В своём отчёте я указывал тебе логическую цепь. Ежедневно Симон подавал нам информацию, видел, как мы её обрабатываем, видел, что с ней происходит далее. Он проанализировал все случаи и увидел, что в ситуации с пиратами наша реакция на его данные будет стопроцентно таковой, как сделал он. Он посчитал основную задачу, за которую его ценят – быстрота, проанализировал, что для нас это его качество очень важно, проанализировал вероятности замедления в предыдущих случаях с пиратами и понял, что таковое его действие будет наиболее рациональным с точки зрения блага для всех. Потому он поступил так.
– Мы тогда дали ему команду больше не совершать подобного. Какова ты говорил мне вероятность, что он нарушит её?
– Нулевая.
– Но он вновь совершил действие.
– Это не было действие подобно первому, потому нельзя сказать, что он нарушил наши указания, – возразил Купер.
– Мы не можем просчитать бесконечное множество возможных ситуаций, которые могут возникнуть и запретить ему всё это, – в моем голосе было мало терпения, и Купер, судя по всему, понимал это, – теперь же он создал ботов, он смог действовать внутри «Нор», не только просматривать её. Пока не будем говорить о логике его размышлений и чем он руководствовался, совершая это. Мне нужно знать, как он смог действовать внутри Сети.
– «Нор» недоступна извне, но он существует внутри неё. Я думаю это можно объяснить тем, что он имеет доступ ко всем свободным ячейкам в Сети, внутри которых и создал ботов.
– Хорошо. Вспомни, что ты ответил мне в прошлый раз, когда я спросил тебя может ли он вступить в контакт с людьми?
Купер промолчал. Он не стал врать, или говорить, что не помнит. Он прекрасно помнил свой ответ тогда: «Абсолютно нет».
– Скажи мне Дастин, как он, имея прямой запрет на подобные действия, вышел на контакт с человеком?
– Теоретически, вступил в контакт не он, а бот, которого он создал.
– Купер! – я повысил свой голос, – отвечай мне как Симон смог нарушить наш запрет?
– А ты уверен, что он сказал нам правду?
Вопрос Купера осадил меня и ввёл в замешательство. Что он имел в виду?
– Что ты хочешь этим сказать, что Симон нам соврал?