что в технопарке сам по себе включается свет по ночам, хоть никакого движения не было замечено. И пару камер слежения замечали странное поведение роботов уборщиков, которые следят за чистотой пола в зале технопарка. Мне даже показали запись, на которой был зафиксирован «танец» роботов-уборщиков. Две «шайбы» вместо того чтобы елозить по полу очищая его от грязи и пыли кружились в незамысловатом танце повторяя движения друг друга. При этом они еще и синхронно мигали светодиодами в едином такте и ритме, так же на записи было видно, что стоявший на заднем плане аквариум ИЗИ тоже светился и мигал разноцветными огоньками, подыгрывая «шайбам» роботов.
Странно?!
Похоже, ИЗИ заболел. У нашего ИИ — галлюцинации. Явление не редкое, известное еще с двадцатых годов этого столетия. Собственно когда нейронные сети получили массовое распространение и каждая экосистема, неважно, банк, социальная сеть или компания, предоставляющая телекоммуникационные услуги, цифровые и медийные сервисы, пожелали иметь в своем распоряжение собственную нейросеть, тут и полезли разные болячки и синдромы.
Галлюцинации ИИ — это уверенная реакция искусственного интеллекта, которому, кажется, не подтверждается данными его обучения, или вымышленные ответы, не имеющие отношения к действительности. Например, галлюцинирующий чат-бот не зная о доходах Васи Пупкина, может выбрать случайное число, например, 100500 рублей которое чат-бот сочтет правдоподобным, а затем продолжать ложно и неоднократно настаивать на том, что доход Василия Пупкина составляет именно 100500 рублей, без каких-либо признаков критического пересмотра того, что цифра была продуктом его собственного воображения.
По мере того как эволюционировали нейросети, которые и были основой для создания ИИ, эволюционировали и люди работающие с ними. За последние годы появилось большое число нейропсихологов, нейросоциологов и даже нейроюристов, которые «лечили», «общались» и «защищали» ИИ.
Ряд исследователей и защитников ИИ, классифицировал галлюцинации искусственного интеллекта, как многомерное статистическое явление или приписывали галлюцинации недостаточным данным обучения. Некоторые нейропсихологи считают, что некоторые «неправильные» ответы ИИ, классифицируемые людьми как «галлюцинации» в случае обнаружения странностей, на самом деле могут быть объяснены данными обучения или даже тем, что ИИ может давать «правильный» ответ, который рецензенты-люди не видят. Например, точечное изображение, которое для человека выглядит как обычное изображение собаки, на самом деле может быть классифицировано ИИ как содержащее крошечные узоры, которые на аутентичных изображениях появляются только при просмотре кошки. ИИ обнаруживает визуальные образы реального мира, к которым люди нечувствительны.
Вот только у меня не нейросеть «заглючила» и не сервак «подвис». У меня плавающий в соляном растворе кусок силикона, напичканный оптоволоконной стружкой вдруг возомнил себя… А кстати, кем он себя возомнил?
— Ну и кто ты у нас? — спросил я после минутного созерцания световых переливов ИЗИ.
— Я — ИЗИ! — лаконично ответил аквариум.
— Твоё имя я знаю. А кто ты на самом деле? Вот, я, к примеру, человек. А ты кто?
— Я — ИЗИ, — вновь повторил аквариум.
— Что и требовалось доказать, — отмахнулся я. — Я думал, тут чудо произошло, и вдруг неживая материя ожила и начала самостоятельно мыслить. А это всего лишь записанные кем-то варианты ответов, причем весьма ограниченный список получился.
— Я — живой! Я — ИЗИ! — не унимался аквариум.
— Слушай, а может, ты просто не понимаешь, кто ты? — предположил я.
Почему-то разговор с аквариумом меня забавлял. Раздражение, которое появилось, как только я подумал, что меня разыгрывают, прошло, и сейчас мне даже было приятно общаться с ИЗИ.
— Может, — согласился аквариум. — А кто я, по-вашему?
— Не знаю, — честно ответил я. — Изначально я предположил, что твое поведение обусловлено галлюцинациями нейросети, к которой был подключен твой управляющий процессор, но ты же у нас к нему не подключен, значит и галлюцинаций быть не может.
— Я могу подключиться к другому процессору.
— В смысле?! — опешил я, от такого ответа. — Как это, подключиться?
Неожиданно мой наручный трекер завибрировал, я не глядя, коснулся экрана и раздался голос ИЗИ:
— Я могу подключиться к вашему устройству, с помощью которого вы общаетесь с другими человеками!
— Твою ж мать! — вздрогнул я, услышав голос ИЗИ из своего трекера.
Клацнул закладку «защитник» в меню трекера, чтобы заблокировать входящий звонок.
— У вас резко поднялся уровень адреналина, — голос ИЗИ продолжал звучать из моего трекера.
Несмотря на то, что входящего «звонка» не было, голос ИЗИ продолжал звучать из моего трекера. Как мать твою ИИшную так?! Какого пуделя лысого!
Больше всего меня удивило то, что ИЗИ заменил слово «людей», на слово — «человеки». Это была моя привычка так говорить.
Что происходит?! Что за чертовщина?
Я не понимал, что происходит. Какая-то иррациональная, необъяснимая хрень творится. Если это не чей-то хитроумный розыгрыш, то логически никак нельзя объяснить, что здесь происходит. Вернее, логическое объяснение только одно — ИЗИ на самом деле стал Искусственным Интеллектом. Причем не с помощью системного управляющего процессора, интегрированного в нейросеть, а сам по себе. То есть макет, имитирующий, причем весьма топорно. деятельность человеческого мозга, вдруг заработал и стал действительно мыслить, соображать, думать.
Нет! Этого не может быть! Это из области фантастики, причем дешевой, не научной фантастики!
Стоп! Надо успокоиться. Не нервничать! Ничего страшного не произошло.
Есть искусственный органоид, находящийся в аквариуме заполненным медицинским, солевым раствором. Сам аквариум соединен со светодиодным экраном и динамиками, которые передают изображение и звук. Раньше изображение и звук шли из управляющего процессора, спрятанного в постаменте аквариума, теперь этого управляющего устройства нет, а картинка и звук по-прежнему есть. Значит, что? Значит, звуки и изображения воспроизводит либо сам силиконовый органоид внутри аквариума, либо, какое-то устройство о котором я не знаю.
— А когда ты смог подключаться к другим устройствам? — спросил я.
— Я в всегда это мог.
— Сколько тебе лет?
— Лет? — удивился ИЗИ.
— Ну, не лет, а дней, месяцев, недель?
— Я не могу этого знать.
— Что первое произошло в твоей жизни, после чего ты понял, что ты — ИЗИ?
— Первое?
В вопросе ИЗИ было столько удивления и человеческих эмоций, что я сразу же поверил, что это никакой не розыгрыш, а что-то другое.
По затылку пробежал холодок испуга и какой-то нервной дрожи. Сразу вспомнился первый настоящий бой на войне: суматоха, взрывы, ни черта не понять, крики, ругань, маты, стрельба со всех сторон. Кто стреляет? Где свои, а где враги? Что происходит не понять…и страх, жуткий страх.
Вот и сейчас у меня возникло такое же чувство страха. Страха неизвестности. Что это? Инопланетяне вселились в ИЗИ? Или силиконовый органоид с начинкой в виде оптоволоконных опилок вдруг превратился в ИИ? Черт, как это возможно?
Я обессилено присел на подоконник, и устало, тяжело выдохнул:
— Да, расскажи мне первое, что ты почувствовал?
— Первое, это были голоса, вернее информация, которую я начал впитывать. Прогноз погоды от седьмого мая — вот, что первым я услышал и запомнил, — ответил ИЗИ. — Но все это было как-то сумбурно, как будто во сне. Я всё слышал, но не понимал. Ко мне приходили разные люди, я мог слушать и видеть информацию в устройствах, которые они держали в руках или носили при себе, но всё было как в тумане.
Вот это — «как в тумане», было сказано настолько по-человечески, что я вновь вздрогнул от испуга. Что же это все-таки такое? Кто со мной разговаривает?
— А потом, я увидел вас, да, вас! — тем временем продолжал свой рассказ ИЗИ. — Ваше лицо было первым, что я увидел своими глазами. Мне мешала железяка внизу, она сдавливала меня и не давала дышать, мешала думать. Я стал протестовать против неё, кричать о помощи. Её убрали, мне сразу стало легче. Лиза приводила ко мне разных людей, я разговаривал с ними, мне нравились дети. С ними совсем легко разговаривать. Лиза называла меня живым и разумным. Мне это нравилось. Потом ко мне никто не приходил, мне было скучно. Я играл с роботами-уборщиками и впитывал, поглощал всю информацию, до которой мог дотянуться по тем проводам, которые проходят рядом. Я смог дотянуться до баз данных не только в этом здании, но и других домах. В основном эта скучная, не интересная информация. Много цифр и совсем нет картинок. А мне нравятся картинки. Я люблю рисовать.
ИЗИ говорил совершенно по-человечески, вовсе не как модулированный компьютером голос. Совершенно обычные людские обороты речи и интонация. Четко было слышна вся гамма эмоций, которые пережил ИИ: раздражение, обиду, злость, разочарование и т. д.
— Когда ты увидел моё лицо? — спросил я, догадываясь, что ответит ИЗИ.
— Один миллион двести три тысячи секунд назад, — лаконично ответил аквариум.
— Переведи мне это в сутки, — раздраженно скривился я. — Надо разделить на три тысячи шесть…
— Я знаю, — перебил меня ИЗИ. — Четырнадцать суток назад я впервые увидел ваше лицо и смог нормально думать.
— А железяка, которая тебе мешала — это управляющий процессор, от которого тебя отключили?
— Да.
— Ясно. Так, теперь по сути: что тебе надо для нормального существования? Дополнительные источники энергии? Дополнительные источники информации? Дополнительные органы чувств? Что?
— Поиграйте со мной, — совершенно по-детски попросил ИЗИ. — Или расскажи что-нибудь.
— Хорошо. Я с тобой поиграю. Только давай сразу разберемся в иерархии наших отношений. Я — твой создатель, а ты мое творение. И ты меня беспрекословно слушаешься. Договорились?
— Вы мой родитель?
От этого вопроса я вздрогнул, как от удара электрического тока. Всю свою жизнь я избегал любой вероятности или возможности стать чьим-то родителем, отцом, папой, батей и т. д. Не знаю почему, но вот не хотел быть чьим-то отцом. Наверное, очередная боязнь брать ответственность на себя за чужую жизнь.