Примерно через неделю Генри обрел законченный внешний вид — детали корпусов от различных моделей человекоподобных механизмов прикрыли его эндоостов, и теперь для постороннего взгляда он выглядел вполне заурядно: старая, видавшая виды модель, которую молчаливый худощавый подросток подобрал где-нибудь на свалке и восстановил своими руками, — эта версия, выдерживавшая любую поверхностную критику, успешно работала до сих пор…
— Итак, Генри, теперь я хочу услышать правду.
— Уточни формулировку вопроса, Марк.
— Дейвид Мошер рассказал мне о «неадекватном поведении», которое демонстрировали андроиды твоего типа непосредственно перед опустошившими зону взрывами. Также со слов Мошера мне стало известно, что в состав твоего центрального модуля входят выращенные в лабораториях нейронные ткани, клонированные с человеческой ДНК, — в разговоре со мной Дейвид недвусмысленно дал понять, что именно они стали причиной сбоев в поведении роботов твоей серии.
— Он сказал тебе, в чем выражалась эта «неадекватность»? — выслушав Келли, задал дройд встречный вопрос.
Марк кивнул:
— Некоторые из вас стали отождествлять себя с людьми, демонстрируя уникальные воспоминания, которые, по мнению специалистов корпорации, исследовавших двадцать лет назад образчики дефектной техники, действительно могли быть избирательными фрагментами памяти реальных прототипов. Они не сумели собрать достаточно убедительных, объективных доказательств того, что дройды демонстрировали реальную память людей, но у меня в этой связи возникло одно предположение, которое ты можешь либо подтвердить, либо опровергнуть, потому что знаешь точный ответ… — Келли старался выражаться развернуто, чтобы его слова невозможно было истолковать двояко.
— Я жду вопроса, Марк.
— Ответь, первопричиной возникновения таких воспоминаний является применение в лабораториях концерна настоящих нервных тканей, взятых от доноров? — спросил Келли, фактически не сомневаясь в утвердительном ответе.
— Нет, Марк, здесь ты заблуждаешься, — неожиданно опроверг его интуитивное предчувствие Генри. — Мои нейромодули состоят из клонированных клеток…
— Точно?
— Абсолютно.
— Тогда почему ты присвоил себе имя и ведешь себя, как человек?
— Марк, ты ставишь меня в безвыходное положение, — ровным, лишенным обычных эмоциональных оттенков голосом произнес дройд. — Ответ или молчание в равной степени негативно скажутся на наших взаимоотношениях.
Келли угрюмо посмотрел на андроида:
— Генри, назови мне еще хотя бы одну машину, которая взялась бы спорить со своим хозяином, и я больше не задам ни единого вопроса.
Дройд склонил голову в чисто человеческом жесте.
— Я не машина, Марк. И не человек. Хотя когда-то был и тем и другим.
— Ты сбиваешь меня своими формулировками. — Келли хотел сказать: выражайся точнее, но мысленно осекся. Лаконичные фразы дройда были и без того предельно точны.
— Будет лучше, если я последовательно интерпретирую для тебя ту часть базы данных, которая относится к событиям, произошедшим до нашей встречи. Я не стану делать выводов и предположений, ладно?
— Хорошо, давай попробуем так.
Генри встал с кресла, взял электронный планшет, затем на несколько секунд подключился к нему, перекачивая в оперативную память какие-то данные, и протянул информационное устройство Марку:
— Прежде прочти вот это.
Техническая справка:
Андроиды серии «PQ-920» разработаны концерном «Новая Азия» по техническому заданию корпорации «Дитрих фон Браун». Опытная партия в количестве одной тысячи образцов отправлена в сектор Нъю-Даймонда для эксплуатационных испытаний. В результате внутреннего программного сбоя большинство механизмов самовольно покинули места консервации. В поведении машин отмечены следующие сбойные функции: попытка отождествлять себя с людьми, неисполнение команд удаленного оператора, бессмысленные (с точки зрения технической целесообразности) действия, а именно: покушение на частную собственность с целью завладения имуществом поселенцев, попытки использовать имитаторы лицевой мускулатуры и полости рта для приема пищи, употребления напитков, курения.
В документально зарегистрированных прецедентах общения с людьми кибернетические механизмы демонстрировали полную дезориентацию относительно своего реального местонахождения, проявляли агрессию, отказывались подчиняться командам.
Ввиду потенциальной опасности вышедших из-под контроля механизмов все образцы опытной партии были уничтожены силами спецподразделений службы корпоративной безопасности. Завод-изготовитель получил подробную техническую информацию о неполадках.
Приложение:
Выписка из технического задания на проектирование человекоподобной модели механизма серии «PQ-920».
1. Расширение функции речевого общения.
2. Замена морально устаревших материалов пеноплоти на органические соединения с постоянной температурой 36–37 градусов по шкале Цельсия.
3. Подвижная лицевая псевдомускулатура.
4. Пониженный уровень паразитических шумов при работе сервоприводов эндоостова.
5. Способность к поддержанию речевого диалога с функцией распознавания, усвоения и дальнейшего использования лингвистических оборотов в соответствии с их семантической нагрузкой (опция «сленг»).
Келли закончил чтение и поднял вопросительный взгляд на Генри.
За годы тесного общения дройд глубоко постиг внутренний мир Марка, он знал его привычки, мог предугадать логику принятия хозяином тех или иных решений, поэтому сейчас ему не составило труда прочитать в глазах Келли не заданный вслух вопрос:
— Ты спрашиваешь у себя — зачем корпорации понадобились такие машины? Ответ прост: чтобы удовлетворить потребности особо привередливых клиентов, которые отрицательно относились к «кибернетическим истуканам». Глобальный эксперимент должен был начаться при заселении зоны Нью-Даймонда, но этому, как ты теперь знаешь, помешала атака экзовируса и последовавшая «зачистка территории».
— В технической справке ничего не сказано о нейромодулях.
— Да, так как данный документ относится к числу общедоступных материалов, касающихся тех событий. Из его текста изъяты все данные о применявшихся технологиях. Но я могу восполнить эти пробелы.
— Хорошо, слушаю.
— Техническое задание, поставленное «Фон Брауном», было достаточно сложным, — приступил к разъяснениям Генри. — Например, реализация такой функции, как распознавание речи и поддержка осмысленного диалога, требует внедрения в конструкцию кибернетического механизма нейросетей, способных к самообучению. Как известно, нейросети не программируются, они обучаются при помощи специальных примеров. На сегодняшний день промышленностью достигнут технологический предел минимизации отдельных компонентов нейросетей, — самый миниатюрный чип, содержащий группу искусственно созданных нейронов, все же десятикратно превосходит по размерам аналогичный фрагмент живых нервных тканей. Поэтому, чтобы выполнить техническое задание, не нарушая пропорций и габаритов человекоподобной оболочки, специалисты концерна «Новая Азия» сочли уместным использовать не эмуляторы нейронов, а живые ткани, заключенные в специально разработанные контейнеры, корпуса которых имеют встроенные системы питания, предназначенные для автономного поддержания биологического компонента. Они требуют до ста граммов раствора глюкозы в месяц.
Келли внимательно выслушал пояснения и кивнул, напряженно размышляя над сказанным, но не пытаясь делать какие-то выводы. Все изложенные технические характеристики имели значение лишь в качестве прелюдии к основному вопросу.
— Хорошо. Техническую сторону вопроса я в принципе понял, — произнес он. — Теперь давай вернемся к нашей теме. Я возьмусь утверждать, что две нейросети, внедренные в кибермеханизм, могут существенно расширить его функции, сделать поведение робота более пластичным, очеловеченным, но их недостаточно для формирования «эго»… Или я опять не прав?
— Все зависит от первичной информации, которую получают нейросети в процессе базового обучения. В моем случае нейромодули содержали систему распознавания речи и связанные с ней словари.
— То есть первоначально ты отвечал характеристикам, которые требовались эксплуатационной службе «Фон Брауна»?
— Абсолютно.
— Ну а как же «неадекватное поведение»?
— Попытайся представить, что в нейросеть попадает часть информации, составляющей логичность человека, — после непродолжительной паузы произнес Генри. — Например, фрагменты воспоминаний, некоторые схемы машинальных реакций на событие — прихотливо вырванный из контекста сознания кусочек личности — именно в такой формулировке, ибо нейромодули слишком малы, чтобы вместить полноценную информационную копию мозга.
— Генри, ты пытаешься сбить меня с толку? Во-первых, пока еще не изобрели технологический способ трансплантации личности от одного носителя к другому. Во-вторых, это бессмысленно с практической точки зрения.
— Я не хуже тебя осознаю это, Марк. Наверное, здесь кроется причина моей пассивности в оценках событий, что произошли много лет назад. Я могу рассказать тебе о них, а ты — выслушать меня и принять на веру, потому что объяснить случившееся с точки зрения здравого смысла и современных технологий попросту нереально.
— Хорошо… Излагай… — произнес Марк, покосившись в сторону своего фантома, сидящего в кресле за компьютерным терминалом.
В гостиничном номере на некоторое время воцарилась ватная тишина. Все было спокойно.
«Пока спокойно», — мысленно поправил себя он.
Какое-то время Келли наблюдал за нехитрой ловушкой, расставленной для гипотетического «доброжелателя», Генри терпеливо ждал.
— Я слушаю, — Марк вновь повернулся к нему.
— Как я выяснил позже, партия андроидов серии «PQ-920» была получена корпорацией в мае 2395 года, — приступил Генри к последовательному изложению событий. — Все машины прошли тест в технических лабораториях, и нас отправили в Нью-Даймонд, где дройды заняли свои места в консервационных боксах. Вторичная реактивация должна была произойти по прибытии первых поселенцев. Город уже сдали приемной комиссии, и в тот момент заканчивались работы по дизайнерскому планированию ландшафта, что должно было занять не более двух месяцев.