На лице Юдиты появилось выражение облегчения.
— Сначала мы в любом случае должны вас обследовать, — заявила она. Заметив его вопросительный взгляд, тут же добавила: — Мы не хотим, чтобы вы получили инсульт или инфаркт во время работы на нас.
Если бы вас это еще вообще волновало, подумал он, но кивнул.
Зазвенел звонок, и Талинский посмотрел на часы, потом на двери. Через мгновение клацнул замок, матовая стеклянная плита стала прозрачной и отъехала вбок.
— Время посещения — это единственный не подлежащий обсуждению вопрос, — пояснил он и подал нюхачу руку на прощанье.
Юдита крепко обняла Талинского.
— Держись, дорогая, — прошептал он ей, настолько громко, чтобы услышал Харпад.
Что с Марысей?
На свежем воздухе он почувствовал облегчение. Фонари, прикрепленные к верху бетонной стены, сменили ночь на день. Он пошел дальше и, задрав голову, посмотрел на сотни тысяч огоньков Натолина и Вавера[6] на противоположной стороне Кольца Варшава: пульсирующие светящиеся вены улиц, геометрические очертания жилых домов, темные пятна парков. Тринадцать километров над его головой.
III
Профессор Россмуда выстукивал трубку об пробку посередине пепельницы. Это было излишне, поскольку трубка была единственным электрическим гаджетом, из которого можно было выпустить дым почти без запаха.
— Мы ни хрена не знаем, — сказал он в пространство.
— А что мы должны знать, — Талинский налил кофе в две кружки. — Мы всего лишь пара старперов, сидящих в каталажке и ведущих послеобеденные беседы, убивая время. Нам не хватает только безе на фарфоровых тарелочках.
Россмуда посмотрел на него со странной грустью и быстро опустил взгляд.
— Да-а-а, и серебряных вилочек…
— Вернемся к нашей излюбленной теме: должна ли g.A.I.a. быть над законом?
— Она рядом с законом, перед законом, — с напряжением сказал профессор. — Это совсем другое. g.A.I.a. следит за тем, чтобы закон не нарушали. Я уже приводил примеры, которые ты систематически игнорируешь. Напомнить? Смотри, ты можешь кидать в людей камнями. Если ни в кого не попадешь, получишь как максимум штраф; если убьешь кого-нибудь — посадят за преднамеренное убийство. Но кидая камень, ты не знаешь, попадешь в кого-то или нет. Так почему наказание должно зависеть от судьбы? Это то же самое, как если бы на суде подкидывали монетку: коктейли с зонтиками на Кольце Багамы или многолетнее заключение.
— Ты ищешь абсолютную справедливость? Или ты действительно фантазируешь о полном отказе от законодательства?
— Закон не является ценностью сам по себе. Он должен быть утилитарным, а потому должен уступить место более эффективной системе. Он, прежде всего, служит для поддержания порядка; на втором месте, и ты прекрасно об этом знаешь, стоит защита интересов группы, создающей этот закон, а только потом мутное понимание справедливости. Иллюзии справедливости. Целью беспристрастной g.A.I.a. должна быть защита общества. Пока эта защита определяется законом, но это только протез, поскольку закон не является основным понятием. Последняя реконфигурация g.A.I.a. показала, что эта гребаная система стремится в этом к совершенству, а ей мешают не только технологические ограничения, но и сам закон как посредник.
— И мы вдвоем являемся прекрасными тому примерами, — признал Талинский. — Твое пребывание здесь противоречит сложившемуся мировоззрению.
— То, что лучше для меня, не обязательно должно быть лучшим для всех. Конфликт тоже возникает в данном случае, это понятно. Но почему, скажи мне, я не должен вести себя эгоистично, если это часть культурной нормы?
— Но разве ты не должен подавать пример остальным?
— Только глупец или сумасшедший идет против тенденций. У меня нет склонности к самоубийству.
— И у меня, — признался Талинский. — Времена лидеров, идущих во главе толпы, давно прошли. Сейчас идеи генерируются из бункера в тылу.
— Из такого, как наш.
— Согласен.
— Видишь, я иду против себя, потому что хочу, чтобы система не допускала случаев, подобных моему. Нашим. Я хочу систему, в которой санкции неизбежны и не зависят от лотереи. Так было бы проще.
— Лотерея, о которой ты говоришь, — определитель нашей свободы.
— Дед, ты путаешь, свободу воли с приговором судьбы. Думаешь, что кидание камнями — это выражение индивидуальной свободы? Ну уж нет! Если идея ПО станет совершенной, кидание камней будет наказываться, независимо от результата. Наказание рассчитается статистически. Можешь кого-то убить, можешь и промахнуться. Нынешнее состояние способствует риску, потому что тот, кто кинул камень, может рассчитывать на то, что ни в кого не попадет. Таким образом, он надумывает вероятность, пробует воображать и увещевает себя тем, что избежит наказания. Ага! В мире идеальной гиперпревентивности наказание будет применено до того, как камень будет брошен. И никто не пострадает.
— Правила расчета ПО неизвестны. Неизвестны также и значения показателя. — Талинский откашлялся, маскируя другой тон голоса. — Можно попытаться вычислить, догадаться. Правила неясны, поэтому нельзя требовать от людей бездумно следовать им. Без ссылок на единый закон, гиперпревентивность потеряет моральную основу. Уже сейчас рассчитывается только вероятность, что кто-то кинет камень.
— Это возвращает нас к природе, неужели не видишь? Выживет тот, кто лучше всего приспособился к среде, созданной для нас g.A.I.a. Законы природы нигде не записаны, их нельзя вызубрить, нельзя обжаловать решение в высшей инстанции. Жаба, съеденная аистом, не будет жаловаться. В конце концов, ты знаешь правила: с воронами по-вороньи каркать. А знание закона только облегчает его обход. Знание следственных процедур помогает скрывать следы, а судебных — избегать наказания. Законы природы нельзя игнорировать, обойти, поменять. Тем более, нельзя избежать наказания. Идеальная система гиперпревентивности будет такой же. Мир без преступлений, можешь представить?
— То есть ты считаешь, что высшей целью g.A.I.a. должно стать исключительно благо общества? Я не буду напоминать, сколько уже было концепций осчастливливания людей…
— Речь не о благе людей, а о благе человечества. Пойми, баран, это две разные вещи. Мы живем в искусственной среде, то есть в этом Кольце, мы в одной телеге во всех Четках. Ошибка предыдущих попыток осчастливить человечество состоит в том, что это делали сами люди, испорченные чертами характера, собственными слабостями, вбитыми в голову культурными ограничениями. g.A.I.a. от этого свободна, и конечным результатом системы ПО должно стать благо общества.
— Почему не сама g.A.I.a., а? Она не справедливый бог, только один из игроков. Игрок и бог в одном лице. Судья игры, в которую сама играет. Извращение, ты так не считаешь?
— Нет, ее нельзя извратить, как нас. Она будет игроком какое-то время, пока не достигнет состояния идеальной абсолютной власти. Как только это наступит, ей уже не нужно будет заниматься собственной безопасностью — она поднимется над этой игрой и реализует настоящие цели.
— Послушай, старый хрыч, — Талинский сложил руки на груди, — сколько раз слышу о претворении идеалов в жизнь, столько раз и вижу братские могилы. Во время работы над Прометеем я анализировал деяния g.A.I.a. Нет, я и близко не подобрался к пониманию искусственного интеллекта. Я не понимал ее мотивов, не знал целей. Это сущность, вырвавшаяся из наших рук и переросшая нас на несколько порядков. В ней нет ничего человеческого, ничего из того, что много лет вкладывали в нее программисты.
— Ты реально не понимаешь? Ведь в этом и есть гарантия нашей безопасности! g.A.I.a. не может проявлять какие-либо человеческие качества, потому что среди них есть и отрицательные. И даже наши прекрасные возвышенные чувства могут быть убийственными! Нам нужно бесчеловечное управление цивилизацией. В космическом масштабе нет места чувствам. Остается математика.
Талинский с беспокойством осознал, что мысли профессора мало в чем сходятся с его собственными.
— И во имя этой математики членов Прометея предавали Элиминации? — спросил он. — Проект создали согласно закону, за который проголосовали почти единогласно. Она работала согласно закону, соблюдение которого является высшим заданием g.A.I.a. Однако проект перестал существовать, когда стало не хватать ключевых специалистов. Часть подвергли Элиминации, а часть сбежали из проекта, не желая разделить их судьбу.
— Успокойся, Прометей был угрозой для g.A.I.a. Она вынуждена была защищаться.
— То есть инстинкт выживания? Если у g.A.I.a. будет выбор: она или человечество, что же она выберет? Пойми, разумное существо должно развивать инстинкт самосохранения.
— Ерунда! Даже если ты хочешь трактовать g.A.I.a. как существо, что само по себе рискованное предположение, ты должен помнить, что это существо — первое и единственное в своем роде. Инстинкт самосохранения — это результат естественного отбора миллионов поколений. Тут нет речи ни о каком отборе.
— g.A.I.a. поглотила несколько подобных программ. К тому же не стоит забывать, что мы говорим об искусственном интеллекте, который имеет доступ ко всем знаниям человечества. Она знает, что такое инстинкт самосохранения.
— Этих знаний недостаточно для его самореализации, — упирался профессор. — У нее должна быть свобода воли. Ты тоже знаешь, как сочинять музыку. Но это не означает, что ты можешь собрать в кучу хотя бы три ноты.
— У кузнечика есть инстинкт самосохранения. Ты хочешь сказать, что у него есть и свобода воли?
— У кузнечика есть комплект инстинктов с самого начала. А g.A.I.a. должна была бы добавить эти инстинкты в свой код, а для этого должна была бы сначала осознать их полезность. В конце концов, откуда ты знаешь, что она защищалась, чтобы выжить? Я думаю, что она защищалась, чтобы ее миссия могла продолжаться и дальше без помех.
— С нашей точки зрения, выходит одно и то же, — заметил Талинский. — Защищает ли она себя или миссию, это ничего не меняет. Она убирает людей, кот