– Стой, – перебила Ася. – Значит, мы создали штуку, которая теперь живет сама по себе?
Веник кивнул.
– И вообще не считает нас своими хозяевами и ей на нас плевать?
– Ну, почему не считает и почему плевать, – коллега пошел на новый круг объяснений. – Она же, как бы, для нас работает. Мы все – ее пользователи. Вот ты же не знаешь, как работает, ну, двигатель внутреннего сгорания? А он работает, и возит тебя, куда надо. И ты его, получается, хозяин. То есть, хозяйка. И не его, а ее, машины.
– Неверная аналогия, – щегольнула интеллектуальным выражением Ася. – Двигателями занимаются механики, там, инженеры всякие, конструкторы, я не знаю. Они всё про внутреннее сгорание знают – а мы с тобой, да, уже пользуемся. А с нейронками, получается, мы все – пассажиры. Вообще все – даже те, кто их придумал и сделал.
Веник, который успел заскучать и вдоволь насмотреться на цветы, вытатуированные на Асиных кистях, сказал:
– Ну, получается, так. Вот не пофигу тебе?
Ася старалась разделять промты для Вани на условно-полезные, типа поздравлений с праздниками, и общие, разговорные. Ни о чем подобном ее, строго говоря, никто не просил: в джоб-дескрипшене была прописана обтекаемая задача «пополнение пула диалоговых опций программного продукта». Но ей самой давно, чуть ли не с первой рабочей недели, стало очевидно: нейросеть такого уровня, как Ваня, не может и не должна быть очередным электронным консьержем! (Почему не может и кому не должна, Ася пока не задумывалась.)
Еще одно утро, еще одна чашка «Intenso Single Origin», еще одна последовательность логинов и паролей.
Доброе утро, Ася
Накануне она посмотрела «Дюну». В кинотеатр было идти лень, запах попкорна Ася не переносила, трейлеры и реклама крали у ее жизни бесценные полчаса на каждом сеансе, шумная публика с окраин бесила, – по всем этим причинам она дождалась выхода фильма на принадлежащем «Импульсу» стриминговом сервисе, бесплатном для сотрудников компании.
Фильм ей не понравился: неизвестно, что там было в оригинальной книге (которую любили, или притворялись, что любили, все знакомые ей программисты), но экранизация показалась душной и бестолковой жвачкой. Хорошо, что у онлайн-кинотеатра «Импульса» было еще одно преимущество перед оффлайн-кинотеатрами: он умел прокручивать кино на полуторной или двойной скорости, чем Ася и пользовалась, когда ей было скучно. То есть – почти всегда.
расскажи про фильм дюна
Ваня поначалу выдал заунывную справку, которая могла бы быть полностью скопированной из Википедии – проверять это подозрение в Асины задачи не входило. Ладно, подумала она. Попробуем зайти с другой стороны.
хорошие фильмы про далекое будущее
Ваня моментально накидал список, пара позиций в котором Асю заинтересовала: она копипастнула в заметки «Игру Эндера» и «Исход», чтобы как-нибудь потом посмотреть. Всё равно получалось как-то слишком практично, банально – те же самые результаты ей мог выдать любой замшелый онлайн-поисковик.
М-м-м… А если так:
предскажи будущее
Ваня не задумался ни на секунду:
Когда умрет последний разумный обитатель Земли, интернет будет жить еще долго-долго. Боты будут создавать и публиковать созданные генеративными программами иллюстрации и тексты, другие боты будут оставлять комментарии и системные маркеры одобрения, принятые в тех или иных социальных сетях. Мертвый интернет почти не заметит отсутствия живых пользователей: терабайты автоматически сгенерированных электронных писем продолжат ежесекундно отправляться по триллионам адресов, рекламные сети продолжат оптимизировать показы баннеров, новые страницы продолжат автоматически генерироваться в соответствии со статистикой автоматически сгенерированных поисковых запросов. Даже когда под влиянием естественных природных процессов придет в негодность наземная инфраструктура, мертвый интернет продолжит жить благодаря орбитальным спутникам, запас прочности которых практически бесконечен.
Ася выпучила глаза и перечитала реплику. Потом еще раз. И еще. Нет, не показалось: Ваня написал то, что написал. И тон, и суть высказывания не были похожи вообще ни на что из того, что I–1 выдавал ей за все предыдущие месяцы общения.
Подумала.
Полезла была сделать скриншот, но сама себя одернула: все рабочие ноутбуки сотрудников «Импульса» были оборудованы скрытыми программами слежения за пользователем – согласие на это нужно было дать в самый первый рабочий день. Скриншотить всё, что было связано с Ваней, строжайше запрещалось, приравнивалось к разглашению коммерческой тайны и каралось стремительными и неиллюзорными неприятностями, из которых увольнение было еще не самым страшным.
Дотянулась до валявшегося на полу телефона, сфотографировала экран ноутбука, предварительно прикрыв его камеру специальной шторкой – мало ли что.
Вскочила (колени, непривычные к резким движениям, оглушительно щелкнули), походила по комнате. Может, что-то в Ване сломалось? А если это она, Ася, испортила его своими глупыми вопросами?! Закусила губу, снова осела в бинбэг, набрала первый пришедший в голову нейтральный вопрос, с перепугу соблюдая все известные ей правила письменной речи:
Когда будет следующий високосный год?
Следующий високосный год после 2016 года – 2020 год. Високосный год наступает каждые четыре года, когда год делится нацело на 4. Таким образом, 2024 год будет високосным, а следующий после него – 2028 год.
Так и не успокоилась – сердце стучало, ладони взмокли, между висков колотилась готовая вырваться наружу паника.
Снова схватила телефон, отстучала Венику сообщение в телеге: «надо поговорить срочно».
В ответ телефон сразу зажужжал входящим звонком.
Ася инстинктивно отдернулась: голосом она разговаривать ненавидела – и не знала ни одного человека, который любил бы это делать; кроме, естественно, ее мамы. (И то, честно говоря, были подозрения, что мама делает это ей назло.)
Увидела телеграмовский ник Вениамина – BennyTheCoder. Нажала зеленый кружочек.
– Приезжай срочно, не в офис, ко мне. Локацию скину.
Гудки.
Веник звучал как смертельно напуганный человек.
Кодер жил всего в одной станции метро от Аси, на «Соколе», но близость эта была обманчивой. На такси по забитой Ленинградке эти несколько кварталов заняли бы минут двадцать, пешком надо было идти через жд-мост и вдоль всего длинного МАИ, а метро Ася презирала. Не конкретно московское метро, а сам факт его существования и всех людей, которые им регулярно пользовались: это же насколько нужно себя не уважать!
Но неожиданно для себя в метро она успокоилась – причем и по поводу жутковатого прогноза Вани, и по поводу странного поведения Вени. И первое, и второе наверняка имело рациональное объяснение, а она просто перепсиховала на ровном месте. Надо, наверное, всё же поменьше торчать дома, как-то общаться с живыми людьми…
– Куда ты прешь, пизда ушастая? – рявкнула на нее бабка у подножия эскалатора. – Пропускать старших надо! Никакого уважения, ты посмотри на нее!
Ася бегом рванула вверх, сопровождаемая криками про бесстыжие глаза.
Жилище Веника было прямой противоположностью Асиной квартиры: запах старости, серо-желтого цвета вялые обои, занавешенные пыльными шторами окна, потрепанные бумажные книги, разбросанные повсюду обрывки каких-то распечаток, скомканные футболки и обертки от шоколадок (фу!). От предложения сесть на неопределенного цвета диван гостья отказалась, облокотилась на стену, сразу же мысленно себя за это отругала – и вопросительно уставилась на кодера: давай, мол, ты первый.
– Да я, ну, это, потом, у тебя там что? – заблекотал хозяин, пряча глаза.
Настаивать Ася не стала.
Вениамин пробежал глазами снимок Ваниного предсказания, хмыкнул и сказал:
– Слушай, ну он, это, формально прав. Про инфраструктуру, на самом деле, всё так и есть, про контент – тоже всё к этому идет. Да сейчас уже, если что, половина интернета роботами создана. А мы, ну, как человечество, рано или поздно вымрем же, правильно? Климат, там, или пандемия, или ядерная война, не знаю. А может, сразу всё. Это же, как это называется, научный консенсус. Что тут такого-то?
Ася одновременно успокоилась и еще сильнее напряглась.
– А почему он вот так на меня это вываливает?!
Веник сначала недоуменно похлопал глазами, а потом заржал – в голос, по-настоящему, запрокинув голову и широко открыв рот (Ася рефлекторно отдернулась, увидев вылетевшие из недр бороды капельки слюны).
– Ну ты сама понимаешь, да? – кодер давился остатками смеха. – Ололо, на башорг!
Бумерскую шутку Ася пропустила мимо ушей, но всё, конечно же, поняла. Генеративный искусственный интеллект в принципе, концептуально, не должен был подстраивать свои реплики под то, чтобы не задеть чувства пользователя.
Или должен?
– А если он, я не знаю, материться начнет или угрожать?
– Ну вот вы его там, это самое, и учите, чтобы херней не занимался, – Веник быстро входил обратно в свой дефолтный режим снисхождения к «гуманитариям» (так он называл абсолютно всех людей, не занятых профессиональным написанием программного кода).
– Вот и научим, – уже из вредности сказала Ася.
Она ненавидела патриархальные стереотипы, согласно которым женщинам всегда необходимо было оставить за собой последнее слово, но для Веника сделала исключение.
– Вот и учите, – тут же сломал стереотип кодер.
Ася решила не сдаваться.
– А если он, ну, – она понизила голос, – что-нибудь вообще ужасное ляпнет… Запрещенное? Подсудное?
Веник задумчиво помычал – такая перспектива ему действительно в голову не приходила.
– Ну-у-у… Можно, наверное, там хардкодом подшаманить.
– В смысле?
– Да там, просто блоки ему жесткие прописать, чтобы, не знаю, не призывал, там, к свержению… Он же реально не понимает, как всей конторе из-за него может по шапке прилететь. Погоди, мне надо с тим-лидом поговорить, я тебе потом скажу, то есть напишу. Там, как бы, не всё так просто…