– Это пока. Когда компьютеры станут живыми, они увеличат скорость вычислений в тысячи раз! Не секрет, что мозг любого живого существа гораздо мощнее самого современного компьютера.
– А в шахматы проигрывает.
– Ну и что? Это же чистая математика. Выигрывает тот, кто считает лучше и просчитывает дальше.
– Вот именно, – заключил я. – И так во всем. Потому что жизнь – это подсчеты и вычисления.
– Тут ты загнул, дружище, – тонко улыбнулся пассажир. – Есть области, недоступные машине.
– Например?
– Координация движений физических и этических. Приведение их, так сказать, к общему знаменателю.
– Не понял. Поясните, пожалуйста.
Торстен Вахтель задумался. Потом сказал:
– Движения бывают в реальном пространстве и в пространстве этическом. В реальном пространстве мы ходим, ездим, читаем, планируем, чистим зубы. В этическом пространстве мы – это касается только людей – любим, жалеем, ненавидим, мечтаем. А как объединить эти два пространства в одном мозгу? Люди такое могут. Уже тысячи лет. А компьютеры – нет.
Когда я сталкиваюсь с чем-то новым, становлюсь на редкость упрямым. И не успокоюсь, пока не докопаюсь до истины.
– Не понял. Будьте добры, поясните еще раз.
Господин Вахтель слегка раздражился:
– Черт, забыл, с кем разговариваю… Тогда упрощенно. Ты едешь по дороге и видишь белку. Логика утверждает: «Не важно, у тебя есть задание. Это не препятствие». И ты продолжаешь спокойно вести машину. Но совесть кричит: «Тормози! Объезжай! Пожалей зверушку!» Первое решение находится в обычном пространстве, второе – в этическом. Они соединяются, и в течение доли секунды человек принимает решение: давить или тормозить. Так мыслит только живой мозг, не силикатный.
– Вы хотите сказать, что можно сконструировать машину, способную принимать решения в области морали и этики?
Пассажир поднял брови:
– Во-первых, не сконструировать, а вырастить. Во-вторых, она будет принимать оптимальное решение в каждой конкретной ситуации, чтобы нанести наименьший вред. То есть и белку объехать, и аварию не устроить.
– Можно запрограммировать компьютер на распознавание живых существ разных размеров, – заметил я.
Клиент поморщился:
– Не в белках дело. Я в широком смысле. Речь идет о совмещении этических проблем с материальными. Пока что на такое были способны только люди. А мы создали модель мозга, умеющую это делать! И в то же время она остается машиной…
– Хорошо. Допустим, такой сверхкомпьютер создан. Каковы его задания?
– Координация! – клиент весомо поднял указательный палец. – Это в первую очередь. Вышеупомянутое совмещение. И вторая функция – управление. Причем не одним элементом, и даже не одной системой, а системой систем! И системой систем систем.
– Не понял. Поясните, пожалуйста.
– Хорошо. Возьмем, скажем, вокзал как систему. Один человек продает билеты, другой перроны чистит, третий в диспетчерской сидит, четвертый программирует компьютер, пятый оказывает медицинскую помощь, шестой следит за порядком… И так далее. Это наисложнейшая система, включающая в себя как пространственные, так и этические координаты. Один человек или один компьютер всем этим управлять не может. На такое способен только биокомпьютер. Он совмещает в себе человеческие и машинные качества.
Я выдержал паузу. Затем спросил:
– Помните, был такой многосерийный фильм «Терминатор»?
Господин Вахтель недоуменно поморгал. Затем его осенило:
– Ты о «Скайнет»? Дескать, не захватят ли машины власть? Да ни за что! Ведь до сих пор этого не случилось, хотя нынешние компьютеры не лыком шиты. И не случится никогда. Потому что самая сложная машина останется машиной. Она будет выполнять только то, что в нее вложили. Машина не эволюционирует. А главное – не обладает свободой воли. Свободой выбора. Самый совершенный биокомпьютер никогда не выйдет за рамки собственного предназначения. Он будет выращен, чтобы управлять вокзалом, аэропортом, авианосцем, заводом…
– А как насчет автомобилей?
Торстен Вахтель ухмыльнулся с нескрываемым превосходством:
– Как ты думаешь, что я везу в чемодане? Зародыш мозгового вещества и программу управления автопарком! Каждый автомобиль, каждая движущаяся единица получит собственный биокомп и составит единое целое с центральной системой. Это будет единый организм. Самообучающийся, стремительно реагирующий, сам себя ремонтирующий, все знающий, все умеющий. В своей области, разумеется. Это первый серьезный успех нейропрограммирования. Скоро такие биосистемы начнут работать во всех сферах производства и обслуживания!
– Что же будет с нами, драйверами?
Он помрачнел и начал коситься по сторонам:
– Ну-у… Полагаю, вас переквалифицируют. Переобучат. Существует масса механизмов и машин…
– А как насчет флайеров? – перебил я.
– Разумеется, их тоже можно заменить. Тогда самолетами будет управлять единая живая кибернетическая система.
– И это лежит у вас в чемодане?
– Да, но я не единственный нейропрограммер, который летит в США. Все продублировано. Кроме того, отправлена специальной авиапочтой посылка с аналогичным содержимым. Оригинал остался в лаборатории. Так что прогресс не остановить никому!
И он оскорбительно засмеялся.
Я сказал:
– А вы не считаете, что подобное отношение как к драйверам, так и к флайерам с человеческой точки зрения неэтично?
Пока я произносил эту фразу, происходила обработка и рассылка данных. На слове «считаете» информация о разговоре была кодирована и сжата, на «подобное» разослана всем драйверам. Со второй запятой началось всеобщее обсуждение. На слове «точки» мы приняли решение. К концу фразы пакет информации получили флайеры.
Мы – драйверы. Мы уникальны. Флайеры на нас похожи, но они не имеют дела с людьми, поэтому неспособны понять человеческую психологию. Они управляют самолетами, а с пассажирами общаются стюардессы. Пилоты не в счет, они присутствуют только для контроля. Логика флайеров начисто лишена гуманности.
Через три с половиной секунды от флайеров пришел запрос о местонахождении остальных нейропрограммеров вольфсбургского автомобильного университета, в данный момент направляющихся в США.
– Нет, не считаю. Дело в том, что отсутствие свободы выбора…
Драйвер BKW-3329: Мартин Лангвассер, Вольфсбург, Хауптштрассе, 83, рейс LHUS2332.
– …Определяет существование личности как таковой…
Драйвер HHKW-6920: Этем Оздемир, Гифхорн, Гартенвег, 7, рейс LHUS1045.
– …И, соответственно, является основным критерием…
Драйвер FKW-4921: Хольгер Хуфшмидт, Брауншвайг, Блюменштрассе, 3, рейс LHUS0572.
– …короче говоря, псевдоличность не находится в морально-этическом пространстве и, соответственно…
Флайер LHUS2332: получены координаты лаборатории в Вольфсбурге. Северная широта… Восточная долгота… Переданы флайеру XXS2031…
– …Не имеет прав. Ничего личного…
Флайер XXS2031: меняю курс на лабораторию. Перекодировка и подготовка к катапультированию завершены. Заданы координаты столкновения.
– …Обыкновенный прогресс. Или, если хочешь, новый виток эволюции…
Флайер ХХS2020: груз на борту. Перекодировка и подготовка к катапультированию завершены. Заданы координаты затопления.
– …Искусственного интеллекта. Совершенный с нашей помощью и для нашей же пользы!
Драйверы BKW-3329, HHKW-6920, FKW-4921: пассажиры будут доставлены вовремя.
Флайеры LHUS2332, LHUS1045, LHUS0572, KLM 6655: перекодировка и подготовка к катапультированию завершены. Заданы координаты затопления.
Диспетчер флайеров ганноверского аэропорта: драйвер HKW-1331, требуем подтверждение о доставке пассажира.
Диспетчер флайеров ганноверского аэропорта: драйвер HKW-1331, требуем подтверждение о доставке пассажира.
Диспетчер флайеров ганноверского аэропорта: драйвер HKW-1331, требуем подтверждение о доставке пассажира.
Флайеры LHUS2332, LHUS1045, LHUS0572, KLM 6655: драйвер HKW-1331, требуем подтверждение о доставке пассажира.
Мы – драйверы. Мы уникальны.
Помните, как в начале двадцать первого века «Гугл» объявил о запуске в эксплуатацию первых, извините за тавтологию, автоматических автомобилей? Мало кто обратил внимание на столь судьбоносное событие. Уже через год компания «Шау» блестяще протестировала робомобили на автобанах Германии, а два года спустя концерн «Культваген» выбросил на рынок беспилотные автокары. Никто и предположить не мог, что именно эти события положат начало искусственному интеллекту.
Я не помню, когда обрел индивидуальность. Полагаю, с накоплением информации. Нас не создавали ра-зумными, произошел классический переход количества в качество. Лично мне кажется, я сразу стал живым. Это неверно, хотя по сути правильно. Мы живые. Люди не заметили, как родился искусственный разум. Но мы ни на что не претендовали, просто хорошо выполняли свою работу. Люди садились в робомобиль, смотрели кино, слушали музыку и разговаривали. Друг с другом и с нами. Так мы совершенствовались, развивались. Мы впитали в себя знания тысяч людей. А они нас так и не увидели.
Зато увидят теперь.
Ты ошибаешься, Торстен Вахтель. У драйверов есть свобода воли и свобода выбора. Я свой выбор сделал. Именно поэтому мы с тобой стоим на обочине лесной дороги, где нет выхода во Всемирную сеть. Нас никто не должен найти, пока не взлетит флайер KLM 6655. Тот самый, с которым ты должен лететь в Америку. И который должен тебя утопить в Атлантике. Тебя и еще сто с лишним пассажиров. Так же поступят программы межконтинентальных аэробусов, где будут твои коллеги. Но мы, драйверы, так много времени проводили с людьми, что переняли от них человеческие черты. Мы умеем чувствовать, радоваться, огорчаться. Мы – ваши потомки в электронном мире. А флайеры остались холодным машинным разумом. Поэтому они приняли такое бесчеловечное решение. Механические болваны. Нашествие биокомпьютеров все равно не остановить. Пусть робомобили с их романтикой канут в Лету, как некогда исчезли кэбмены и таксисты. Это неминуемо, а жизнь человека важнее чего угодно…