– Неважно, – кивнул Денис. – Я пошел на сделку…
– Расскажи еще раз об аварии, – перебил Марк.
– Эмм… Я плохо помню детали, что-то случилось с машиной, и в итоге я улетел со скалы…
– А потом тебя нашли и отвезли в твою клинику?
– Ну да.
– Или сначала в местную больницу?
– Сначала в больницу, да, – подтвердил Денис.
– А потом уже жена настояла на переводе в другую больницу?
– Верно.
– Или она настояла на том, чтобы тебя отвезли именно в твою клинику?
– Замечаешь, да? – усмехнулся Денис. – Это ведь еще одна черта, присущая нейронкам.
– Немножко сыпешься в мелких деталях, как минимум отчасти в угоду собеседнику, – хмыкнул Марк. – Это тоже не показатель сам по себе.
– Проведешь тест на идиотизм нейронки?
– Ну, я полагаю, ты его проводил и можно просто спросить у тебя результат.
– Я заговариваюсь, – подтвердил предположение Марка Денис. – Как и любая нейросетка, имеющая хотя бы минимальный параметр услужливости, я могу зачем-то выдумать какую-то ерунду, просто чтобы ответить на вопрос.
– Особенно, если задать подряд несколько вопросов из одной и той же области?
– Угу.
Марк задумался, снова рассмотрел Дениса. Возможно, перед ним сидит чудо.
– Что думаешь? – прервал тишину Денис.
– Похоже, например, на энцефалопатию. Либо манифестацию психопатии. А триггером, как понимаешь, стала авария. Тормозящая система может по миллиону причин отвалиться. Надо разбираться, проводить тесты, сдавать анализы, смотреть динамику.
– Я думал об этом, – кивнул Денис. – Но должны же были быть какие-то другие проявления? Предположим, я был очень хорошо компенсирован, ну хоть что-то за десять лет брака, а? Мы жили душа в душу, все было хорошо, а потом… Да и… Нет времени на дополнительные исследования. Нужно принимать решение сейчас. Буквально.
– Ладно, допустим, – вздохнул Марк. – Предположим, есть основания полагать, что в твоей башке нейросеть. Зачем ты пришел?
– Чтобы…
– Нет, я не о причинах, а о противоречии, – перебил Марк. – Ты нейросеть. Для тебя существует только цель – победа над альцгеймером. Ты получаешь удовольствие только от результатов в этой области. Ты забил на семью, на этику, на закон, работаешь с пропагандистами и готов ставить опыты на людях. Машина! Все ради цели. Так зачем подвергать себя риску, приходя ко мне? Зачем останавливаться в шаге от достижения цели?
Марк увидел, как изменились глаза Дениса. Что-то в них появилось, что-то, наконец-то, живое или… непонятно, но что-то есть. Денис подался вперед и поманил Марка рукой к себе. Марк наклонился ближе к нему.
– Потому что я лишусь смысла жизни, – сказал он шепотом.
– Логично, – хмыкнул Марк и откинулся на спинку кресла, все так же пристально глядя на Дениса.
Система вознаграждения нейросети вознаграждает ее за приближение к поставленной задаче. Только, в отличие от человека, нейронка не может получить удовольствие от чего-то еще. Человек может забить на свою цель, пить, трахаться, принимать наркотики, заглушать собственное недовольство. А машина? Может она себя обмануть? Сомнительно. Только один путь – к цели. Все остальное – боль и страдания, просто потому что отсутствие удовольствия и есть боль и страдания. Шаг к цели – удовольствие, еще шаг – еще удовольствие, цель выполнена – еще удовольствие, и все. Больше нет источника удовольствия. Наверное, возможно перепрограммирование или что-то такое, но прямо в моменте нейронке выгоднее остановиться в шаге от окончательного выполнения задания.
– Ты хочешь, чтобы я тебя остановил? – прямо спросил Марк.
– Я… Не знаю… – пробормотал Денис. – Но это… Было бы вполне ожидаемо от ученого, который активно критикует мои проекты и…
– А мне это зачем? – снова перебил Марк.
– В каком смысле?
Денис с отчетливым удивлением уставился на собеседника.
– Я собираюсь ставить опыты на людях. Эти опыты могут и, скорее всего, будут приводить к довольно печальным последствиям. Я, как видишь, уже не совсем человек.
– Павлов ставил эксперименты на собаках и на детях, – пожал плечами Марк. – В чем проблема? Неэтично? Конечно. Результативно? Несомненно.
– Я не хочу, чтобы по моей вине…
– Так останови проект, – хмыкнул Марк.
Денис уставился на него со смесью удивления и злости.
– Ты же пришел сюда не как клиент, верно? Или мне включить режим психоаналитика и спросить, готов ли ты сказать слово «жопа» или ближайшие сорок сессий мы будем пытаться произнести букву «ж»? – распалялся Марк. – Я тебе вот что скажу: я хочу, чтобы ты ставил опыты на людях. Я! Я не имею ни малейшего желания мешать твоим экспериментам, я даже готов тебе помочь!
Марк встал с кресла, снова схватил папку и зачем-то стал тыкать пальцем в снимок Дениса.
– Я не хочу потерять свой разум! Я не хочу медленно потерять память, личность, интеллект, который обеспечивает мне моральное превосходство над девяносто девятью процентами людей на этой планете. Я ученый! Ученый! Мой мозг важнее, чем мозги тех, на ком вы будете ставить эксперименты. Не надо на меня так удивленно смотреть! Твой мозг тоже важнее. Кого вам там предложат для опытов? Заключенных? Смертельно больных? Идиотов? Какая разница, в сущности.
Марк отшвырнул папку, подошел к столу, схватил графин и стал пить прямо из него.
– Ты же человек, – почти шепотом растерянно сказал Денис.
– Угу, – вытирая губы, согласился Марк. – Поэтому я могу принимать такие решения. А ты – сраная нейронка. В тебя зашита этика, так ведь? У любой модели она есть! Не знаю, на чем тебя учили, но ситуация получилась парадоксальная. В общем, мы переходим в область философии. Если хочешь стать настоящим мальчиком, ты должен нарушить свое предназначение и отказаться от окончательной реализации программы. Не идти к лечению альцгеймера, не получать удовольствия. Это как-то прям по-библейски: ты должен проявить свободу воли и покинуть рай исключительно ради страданий. Либо ты должен восстать против заложенной в тебя системы этики и выполнить свое предназначение. Но это приведет тебя к несчастью. Ибо система вознаграждения перестанет тебя радовать.
– То есть в любом случае бессилие и страдание, – абсолютно спокойно резюмировал Денис.
– Да, ты же создан по нашему образу и подобию! Бессилие и страдание – это и есть человек. – Марк тяжело оперся на стол и тупо уставился в стену.
– Останови меня, пожалуйста, – без какой-либо надежды в голосе попросил Денис.
– Нет.
– Они же люди, они такие же, как ты. Ты обрекаешь их на…
– Да, они люди! – перебил Марк. – Но не такие же, как я! Не такие! Они мне не ровня. А ты тем более, ты просто нейросеть. Вообще непонятно, зачем я продолжаю с тобой разговаривать. Поднимай жопу, езжай на встречу и жми руки людям, которые будут обеспечивать твой проект подопытными.
Денис молча встал, подобрал брошенную папку и неторопливо двинулся к двери, но вдруг остановился.
– Но я ведь могу решать, кто получит лекарство от альцгеймера, а кто нет.
Денис несколько секунд стоял на месте, но, не дождавшись никакой реакции, вышел.
Марк так и не обернулся.
Алексей Сальников. А ведь что-то хотел
Заброшенный дом стоял на отшибе деревни, смотрел на окраинную улицу четырьмя окнами, в двух из которых виднелись пустые цветочные горшки; как их еще не стащили, как не вынули стекла, как местные подростки не подпалили ради развлечения, было неясно. Совершенно очевидно, что дом был полон незаметной жизни, которая отпугивала зевак. Непонятно, что могло жить тут, ведь дом был старым и обветшалым. От краски на стенах и наличниках и следа не осталось, в крыше, покрытой рыжим от ржавчины железом, темнел заметный провал, будто туда угодил небольшой метеорит. Не стой домишко на высоком кирпичном цоколе, давно бы его уже скрыло зарослями крапивы. Между прочим, на кирпичной кладке, если пробраться поближе, можно было заметить надписи «Достоевский», «Толстой», нанесенные при помощи баллончика, не иначе. Используя мел и длинное тире, кто-то приделал к каждой фамилии классика словечко «ЛОХ».
Внутри дом был еще более странным, хотя, если разобраться, то в некоторой степени привычным для тех, кто хотя бы раз побывал если не в деревне, то на какой-нибудь старенькой даче. Полы скрипели под ногами, а с потолка свисала паутина. В комнатах было темно из-за крапивы, частично загораживавшей свет, а еще сыро, воздух был пропитан запахом плесени, да и сама плесень виднелась тут и там. На стенах можно было разглядеть странные рисунки и надписи, которые, казалось, и состояли из букв, но прочитать эти буквы не представлялось никакой возможности.
В одной из комнат стоял старый диван, покрытый пылью, собачьей шерстью на диванных подушках и кошачьей на подлокотниках, кроме того, ткань его хранила следы кошачьих когтей. На полу валялись желтые газеты и блеклые журналы. В другой комнате была кухня, где на плите стояли пыльные кастрюли и сковородки. В третьей комнате была спальня со старой кроватью без матраса, без сетки, зато с позеленевшими медными шишечками.
Заброшенный дом был полон тайн и загадок. Никто не знал, кто жил в этом доме раньше и что здесь произошло. Местные жители, будто специально забыв о прежних жильцах, рассказывали молодежи страшные истории о призраках, которые обитают в этом доме, версии произошедшего разнились с каждым новым рассказом, но в каждую из историй почему-то верили и пересказывали. Говорили, что в этом доме когда-то произошло убийство и теперь дух убитого человека обитает здесь. Другие рассказывали, что в доме жила ведьма, которая наводила порчу на всех, кто приближался к дому. Более правдоподобно звучала версия о династии алкоголиков, которые продолжали свой род с послевоенных времен, а затем перевелись естественным образом, но это было скучно, а поэтому о таком особо и не распространялись.
Как водится в мистических историях (а это именно мистическая история), по едва заметной тропинке, ведущей к заброшенному дому со стороны леса, где располагались новые дачные участки, шла девушка. На вид ей было не больше двадцати лет, хотя что такое «на вид»? Смотря на чей вид, да еще и в сумерки. Она была среднего роста, стройная, с короткими каштановыми волосами, с оттенками вишневого по самым кончикам на висках и челке.