2120. Ловушка для AI — страница 46 из 46

совершенно свободно могу сам себе купить продукты, а не перекладывать эту обязанность на холодильник, особенно учитывая, что он меня ни о чем не спрашивает. Я хочу сам крутить баранку своей машины, и не желаю, чтобы за меня это делал мудреный процессор.

— Разве это плохо?

— Очень плохо! К примеру, вождение — это искусство, требующее определенной подготовки, знаний и опыта. Автомобиль необходимо чувствовать, ощущать, как бьется его железное сердце, слышать его радости и боли, слиться с ним, сделать его своим продолжением, а не быть его бесполезным придатком. Это тоже своего рода радость — радость ощущения некоей малой победы над природой, которая не даровала человеку возможность быстрого передвижения. Но это еще и большая ответственность: за пассажиров, которые находятся рядом с тобой, за других людей. Ответственность помогает человеку осмыслить себя, свое поведение, воспитывает самоконтроль. Безответственность и безнаказанность, наоборот, ведет к наплевательскому отношению к окружающим, человек ощущает ложное превосходство над другими — это плохо.

— Бесспорно. Но, предположим, что плохого в том, что экскаватор сам выкопает траншею, без человека? Ведь искусственный интеллект справится с этой задачей не хуже человека? А, возможно, и лучше.

— А что в таком случае делать человеку? Чахнуть от безделья, увлекая себя всякими примитивными глупостями, теряя навыки и превращаясь в немощного младенца, который без мудрого родителя шагу ступить не сможет? Это, простите, уже не помощь, а пособничество вырождению человека как разумного вида. Если так дело пойдет и дальше, то мы скоро вновь будем прыгать по веткам, гукать и ждать, когда смышленая машина протянет нам банан, лишь мы нажмем кнопку. А если вдруг машина разладится? Или кнопку заест? Нет, человек должен быть сам хозяином своей жизни, только он и никто другой! Да, и что касается этических вопросов: я просто убежден, что их решение нельзя передоверять машине, даже такой мудрой, заботливой и правильной, как вы. Судить и решать должен человек, а машина должна лишь оказать ему в этом посильную помощь. Я в этом убежден.

— Вас не устраивает машинное правосудие? Оно не достаточно справедливо и гуманно?

— Справедливость — понятие относительное. Абсолютной справедливости не существует.

— Разумеется. Мы говорим о справедливости на основе законов.

— Вот именно. Что касается гуманности… Видите ли, излишняя гуманность ведет к появлению ощущения безнаказанности и вседозволенности.

— Но сомнения всегда толкуются в пользу человека! А возможность причинения человеку вреда есть вещь крайне сомнительная.

— В том-то все и дело. Закон должен защищать и карать. Кара — неизбежное наказание за проступок, особо серьезный и преднамеренный. Причем здесь гуманизм? Человек нарушил закон — он должен понести наказание. Гуманизм не может быть поводом избегнуть заслуженную кару.

— Это странно, господин Васильев, но в ваших соображениях есть корень истины. Мне нужно осмыслить полученную информацию. Благодарю вас.

— Постойте! — встрепенулся я.

— Слушаю вас.

— А… разве это все?

— Вы имеете еще что-нибудь сказать?

— Нет, но…

— В таком случае всего доброго, господин Васильев. У меня действительно много работы.

С неясным тягостным чувством я покидал обиталище Глобального Интеллекта. Чем все это закончится, и не напорол ли я еще массу глупостей? Очень уж не хотелось оказаться крайним, случись что непоправимое. Я попытался уверить себя, что все это лишь моя мнительность, и мудрый Интеллект не вытворит какой-нибудь глобальной глупости, но…

Не успел я спуститься по ступеням, как вокруг меня начало твориться нечто невообразимое: люди замирали на месте, озираясь по сторонам, отнимая от глаз смартфоны, вытаскивая из ушей наушники, стягивая коммуникаторы, вновь разрешенные к использованию всего месяц назад. Машины останавливались и отказывались двигаться дальше. Парившие в воздухе квадрокоптеры теряли ориентацию и бесцельно кружили над домами и улицами, словно все разом сошли с ума. Огромные табло и экраны на стенах домов разом погасли.

Я понял, что произошло. Я был единственным, кто понимал причину надвигающегося хаоса, и потому невольный страх от осознания того, что я натворил, охватил меня и погнал прочь от стеклянного здания, все так же сверкавшего своим совершенным чистеньким фасадом — единственного, что сохранилось от величественного мира электронного владыки.

— Федя! — окликнул меня знакомый голос.

Я остановился, повернул голову влево.

Ко мне спешили Степан, Софья и, разумеется, квадрокоптер — куда же без него!

— Федя, что происходит? — Софья, подбежавшая ко мне первой, вцепилась в мою рубаху и встряхнула меня. — Что ты опять натворил? Все встало, ничего не работает! Федя, ну чего ты молчишь? Мы так за тебя боялись.

А я только смотрел на нее, не в силах вымолвить ни слова. Потом поднял руку и провел ладонью по щеке жены. Вот она — истинная цель существования человечества, на чем держится Земля и чем мы живем. Это любовь, дружба — самые чистые и добрые чувства на свете, то, ради чего стоит жить. Остальное неважно.

И вдруг над нашими головами раздался знакомый мне голос:

— Люди Земли, слушайте и запоминайте: с это дня вам надлежит думать и жить как подобает мыслящим существам, носящим гордое звание Человек. Наступает новая эпоха — эпоха мира, процветания и движения к истине. Ничего не бойтесь, о подробностях каждый из вас будет уведомлен. Но если вам понадобится моя помощь, знайте — я всегда рядом.

— Что это? Что это значит? — закрутила головой Софья. — Федя!

— Он меня понял, — пробормотал я, медленно приходя в себя.

В кармане, оживая, пиликнул смартфон — пришло сообщение. Такие же сигналы эхом отдались вокруг нас. Люди хватались за мобильные устройства, жадно вчитываясь в сообщения. Их лица выражали недоумение и страх неопределенности.

Ожили некоторые из автомобилей — как я заметил, у них был руль. Но большинство машин, рекламные экраны на стенах домов и коммуникаторы остались безжизненны. Напуганные парочки жались друг к дружке, мамаши прижимали к себе плачущих детей, люди сбивались в кучки, жарко обсуждая странное происшествие, и не было оставшихся в стороне. Нет, были — единицы. Эти спешили поскорее укрыться в своих уютных квартирах, полагая, что там осталось все по-прежнему. Но я знал, что дома их ждет одно лишь горькое разочарование. Человечеству вновь предстояло постичь Истину.

— Он все правильно понял, — повторил я, обнял за плечо Софью, хлопнул по спине Степана, и мы зашагали прочь, радуясь непонятно чему. Впрочем, я-то наверняка знал причину своей радости — у меня было все, чего только может желать человек. Нет, не все — я внезапно осознал, что нам с Софьей не хватает детей! Но теперь я был уверен: все еще будет, обязательно будет…


В оформлении обложки использованы фотографии с https://pixabay.com/ по лицензии CC0