кового существа. Код, способный к эволюции, самообучающийся и саморазвивающийся. Код, живущий собственной жизнью, нечто вроде программного аналога нейросети, если можно такое представить. И да, в теории, если такого кода наберётся достаточно много, он сможет стать полноценным разумным существом. Возможно, уже стал, нам ведь оказался доступен лишь небольшой его фрагмент из одного компьютера. А вся корабельная сеть в целом…
— Вы сможете взломать такой код, Кайло?
— Я не слайсер, гранд-мофф. Моя сфера — разработка искусственного интеллекта, а не его взлом…
— Это понятно, хакеров у меня хватает. Но можете ли вы определить общие принципы работы подобных программ, чтобы хотя бы знать, какими в принципе могут быть их уязвимости и где их искать?
— А, в этом плане… Ну, кое-какие рекомендации общего характера я дать могу, конечно. Ищите генетические уязвимости. Этот код размножается, подобно человеческой ДНК, новые строки создаются путём копирования уже имеющихся. Не механического копирования, разумеется, не побитного. В них вносятся изменения, тем не менее определенные структуры наследуются. В том числе и ошибки, и вирусы, и эксплойты.
Шард Аккорда немедленно подхватил эту идею и начал её развивать. Поиск уязвимостей сложных систем был, что называется, его хлебом. Правда, сейчас ему нужно было фактически по капле реконструировать океан — имея лишь несколько мегабайт, снятых с одного компьютера, попытаться представить себе всю сеть, включая центральный компьютер, на несколько порядков превосходящий этот терминал по мощности. Даже позитронные процессоры, вероятно, отступили бы перед подобной задачей (и всё-таки жаль, что этих умных малышей сейчас здесь не было). Но опять же, шард как раз на подобных реконструкциях и специализировался. Конечно, он не выдавал таких почти мистических прозрений, как у Сплетницы, не мог разложить всё по полочкам, как у Числовика, не позволял кодировать полноценный разум на коленке, как у Эндрю Рихтера. Вероятно, эти трое паралюдей на его месте справились бы лучше. Но они остались на Земле Бет, а он со своим шардом здесь, так что приходится «жрать, что дают».
Аккорд не был Технарём, и его способности к программированию не превосходили таковых у Таркина, который в этом вопросе был всего лишь не совсем бездарным дилетантом. Он работал иначе — его сила искала закономерности кода, не дешифруя самого кода. Грубо говоря, «я не знаю, что означают слова A и B, но если их сложить, появляется слово C». Оперировал не с языком, которого не знал, а с метаязыком. И чем больше была выборка, тем больше закономерности превращались в строгие законы.
Охотнику на слонов не нужно знать, из каких белков и жиров состоит слон, чтобы догадаться выстрелить зверю прямо в глаз. Чтобы воспринять систему в целом, далеко не всегда нужно, а порой и вредно воспринимать каждый элемент, её составляющий. Не зря на Земле существовала поговорка «за деревьями не видеть леса». Нет, нельзя сказать, что шард Аккорда вообще не видел мелочей — тогда он был бы бесполезен. Но он видел — выделял — только те мелкие детали, которые могли спровоцировать «эффект бабочки», стать спусковым крючком, запустить каскад событий, ведущий к переходу системы в новое состояние.
Сейчас, образно выражаясь, Аккорд должен был найти уязвимое место слона, имея в распоряжении только отпечаток слоновьей ноги да образцы помёта. Шард уже предложил несколько вариантов, но Аккорд все еще колебался, какой из них лучше выбрать. И личность Таркина не спешила перехватывать инициативу, как это обычно бывало в таких случаях.
Он кое-что заметил в похищенных кодах, некое едва уловимое изменение, которое было трудно описать словами. Если бы он побежал с таким интуитивным озарением к Кайло, тот бы его высмеял и был бы прав.
— Звёздочка, вот теперь дай мне Орана Келдора на прямую связь. Доктор Келдор, чем управляющая система Боевой луны отличается от нашей?
— Я… эти данные засекречены! Откуда вы вообще о них узнали⁈
Сидя в своей каюте, Келдор понятия не имел, что творится снаружи. Видный инженер, руководивший значительной частью строительства, по боевому расписанию он, однако, оставался простым пассажиром, и никто не спешил его информировать, что станцию пытается разнести его же блудное детище.
— Чем управляющая система Боевой луны отличается от нашей? — как ни в чём не бывало повторил вопрос Таркин.
Он не повышал тона, не строил жутких рож, не сверлил оппонента глазами и вообще оставался с виду совершенно спокойным, почти скучающим. Но Оран провёл у вершины власти достаточно много времени, чтобы научиться понимать, когда игры кончились. Либо он сейчас даст полные и ясные ответы… либо будет давать их дроиду для допросов. Похоже, гранд-мофф был абсолютно уверен, что получил полномочия задавать такие вопросы, и что ни ИББ, ни даже лично Император его не остановят.
— Его пульс значительно повысился, — сообщила Звезда по закрытому каналу. — Зачем тебе понадобилось его запугивать? Неужели нельзя просто сказать, что эта дрянь здесь и гоняется за нами?
— Во-первых, он запугивает себя сам, — ответил по тому же каналу Таркин. — Я к нему никакого насилия не применяю, а то, что он знает, как именно на вершине власти Империи делаются дела — не моя вина, он сам к этой вершине карабкался изо всех сил, срывая ногти. Поверь, он бы не постеснялся устранить конкурента таким же образом, причём на деле бы применил всё, о чём сейчас думает. Он судит о людях по себе, а я всего лишь пользуюсь этим. Это что касается этической стороны вопроса. Ну а со стороны практической… Видишь ли, нападение со стороны «Ока» или его систершипа само по себе не является поводом для снятия с них грифа секретности. А оформлять легальный допуск к информации у нас просто нет времени. Потом его пропишем, задним числом, чтобы этот человечек не трясся слишком уж сильно, опасаясь мести безопасников.
Разумеется, этот диалог занял всего пару секунд — киборг и Абоминор передавали сообщения по цифровым каналам, не прибегая к медлительной человеческой речи. Так что Таркину пришлось подождать ещё секунд восемь, прежде чем Оран Келдор наконец капитулировал и заговорил, запинаясь и умоляюще поглядывая на голографический проектор.
Всё началось с астероида. Самого обычного старого астероида, дрейфующего возле безымянной звезды где-то в Неизведанных Регионах.
И с пары инженеров Техносоюза, обнаруживших на этом астероиде древний архив, принадлежавший, предположительно, расе гри. Высланная туда команда археопрограммистов с огромными предосторожностями занялась его дешифровкой и через несколько лет сообщила, что найдена настоящая жемчужина — операционная система, способная к автономному управлению любой гражданской или боевой техникой — от вентиляции какого-нибудь завода до армии роботов. Именно роботов, не дроидов. Система была полностью цифровой, и это (в теории) решало миллион проблем, которые появлялись при разработке слишком умных дроидных мозгов. Компьютеры не восстают, им просто незачем это делать. Они делают ровно то, что им приказали, и никогда не импровизируют в сторону собственной выгоды — потому что у них нет самого понятия этой выгоды.
Естественно, чужой, инопланетный код может быть опасен и без самосознания. Он может выполнять команды, заложенные в него прежними хозяевами тысячи лет назад. Техника что раката, что гри, что ква этим печально славилась. Но Техносоюз не собирался просто механически заливать эту операционную систему в свои машины и запускать на исполнение. Его программисты прекрасно знали своё дело. Они намеревались произвести полный реверс-инжиниринг системы — сначала разобраться, как это работает, потом создать свою копию, полностью независимую от первоисточника, убрав все подозрительные элементы, оставив только то, что совершенно понятно.
Да, задача непростая. Кода было МНОГО, на совершенно незнакомом языке программирования и на машине с абсолютно незнакомой архитектурой. Но когда на вас работают лучшие эксперты Галактики и тысячи дроидов-программистов — это всё решаемые задачи. А выгоды светили просто гигантские.
По всем законам жанра артефакт должен был выйти из-под контроля, сожрать исследователей и начать угрожать всей Галактике. Но как ни странно, археопрограммисты Техносоюза уроки техники безопасности не прогуливали. Даже смоделированные фрагменты были запущены на специальном «обратимом компьютере», он же изоэнтропический. Подозрительный код можно инсталлировать в такой системе без риска вирусной утечки, поскольку любая попытка несанкционированного ввода-вывода привела бы (согласно теореме о невозможности копирования квантовых состояний) к необратимой потере информации, а следовательно, к производству энтропии и аварийному разогреву процессора.
(Таркин оценил эту меру предосторожности, как чрезмерную и экономически неэффективную. Ту же самую работу мог выполнять компьютер со вполне стандартной внутренней архитектурой, но с единственным гнездом для ввода и единственным для вывода, если оба гнезда имели нестандартную архитектуру и не позволяли подключения к ним чего-либо кроме специально разработанных приборов вывода. Но скакоанцы при великолепном интеллекте никогда не славились особым житейским умом — им интереснее было решить оригинальную техническую задачу, чем задумываться, надо ли вообще её решать, и нельзя ли обойтись чем-то более простым и дешёвым. Аккорд такой подход более чем понимал и одобрял).
Они смогли заставить это работать. Причём работать именно так, как было им нужно. Делать то, что приказали, и не выдумывать никакой отсебятины.
Они не смогли понять, КАК это работает. Каждая строка в отдельности оказалась более или менее понятна, но вот всё вместе… слишком много, слишком сложно. Та же проблема, что и с нейронными сетями — в работе каждого нейрона в отдельности ничего загадочного нет, но когда их миллиарды… Эмерджентность — появление у системы свойств, не присущих её элементам в отдельности; несводимость свойств системы к сумме свойств её компонентов. Похоже это было неотъемлемое требование для разумных существ вообще. И даже дроиды-программисты дела не улучшали. Они могли сказать, что если перенести вот эту строку вот в этот раздел, компьютер начнёт понимать всё сказанное более буквально и меньше искать метафоры в словах пользователя. Но вот почему так получается, они тупым мешкам с мясом растолковать не могли. Ну просто нет в скакоанском языке таких слов и лингвистических конструкций. Даже в скакоанском нет, который специально разработан для общения между собой инженеров и обсуждения особенностей техники! Что уж говорить о человеческих и прочих естественных языках.