— Я не желаю вам зла, но это их приказ. Я не могу ослушаться.
— Какого черта…
Виктор в растерянности смотрел, как машина развернулась и погнала в Доху. Он бросился было вслед, но песок, только что взрыхленный колесами, тут же забил глаза и горло. Он долго откашливался, а когда ему наконец удалось открыть глаза, внедорожника и след простыл.
Виктор Соколов остался один посреди бескрайней пустыни. Он начал кричать, потом материться, но опять наглотался песка и стало тяжело дышать. Голос постепенно ослаб, а потом и сел, крики сменились каким-то всхлипами. Он попытался сориентироваться по звездам — как-то же это делают бедуины? Всматривался в горизонт в поисках оазиса. Поискал на склонах барханов следы животных. Наконец он сдался и стал припоминать, откуда они въехали в пустыню.
Следы колес уже занесло, но останавливаться нельзя. Виктор решил сосредоточиться на шагах: одна нога — другая нога, одна нога — другая нога… Прикинул, сколько времени они ехали. Получалось, что до катарско-саудовской границы километров двадцать-тридцать, не больше.
Нет ничего невозможного, твердил он себе. Он преодолеет это расстояние к рассвету, задолго до того, как температура поднимется до 50 градусов и он потеряет сознание от обезвоживания.
Бредя сквозь пески, Виктор утратил чувство времени. Горло саднило, глаза щипало от слез и пыли, с каждым шагом все сильнее болели ноги. Все барханы одинаковы, и Виктор не мог понять, продвигается он вперед или ходит кругами. Но остановиться он не смел даже на чуть-чуть.
Темное небо стало еще чернее — «тьма сгущается перед рассветом», и Виктор остро осознал: солнце уже подкралось с той стороны к горизонту и готовится нанести смертельный удар. Перед глазами поплыли сцены из прошлого — классический предвестник смерти. По сравнению с истекающими минутами жизни все воспоминания, даже самые неприятные, казались бесконечно милыми.
Мысли начали путаться. Виктор поехал за счастьем — и теперь это путешествие закончится одинокой смертью в дикой пустыне.
На горизонте появилась светлая полоса. Он не успел.
Виктор споткнулся, скатился по склону и упал ничком на песок, уже разогревающийся на утреннем солнце. Остатки воли приказывали встать и идти, но тело не слушалось. Он не хотел умирать — но если уж без этого никак, то пусть уж не здесь и не так! Но, похоже, его время пришло.
Знакомый вибрирующий гул опустился откуда-то сверху, выдергивая его сознание из небытия. Предсмертные галлюцинации? Он с трудом перевернулся лицом к безоблачному небу и увидел мираж. То ли ковер-самолет, то ли корабль без парусов. Виктор хотел крикнуть, но у него не получилось. Вот и все, это конец.
На самом деле ковер-самолет был пассажирским дроном, составленным из множества небольших беспилотников, которые могли образовывать в воздухе разнообразные фигуры.
Дрон приземлился — поднялась небольшая песчаная буря, и Виктору в очередной раз за последние сутки залепило глаза жалящим песком. Потом он почувствовал, что его подняли и несут, потом наступила прохлада и что-то впилось в руку. Гаджет, управляемый искусственным интеллектом, восполнял в его теле уровень жидкости и электролитов.
Виктор определенно начал оживать. Он сумел открыть глаза и уставился на улыбающуюся принцессу Акилу.
— Я умер? Я в раю?
— Виктор, ты жив и здоров как бык. Просто немного обезвожен.
— Как ты нашла меня?
— Сенсоры помогли. В твоей одежде, обуви, на коже, а еще в пустыне. Тут везде умная пыль.
Он повернул голову, но за окном был обычный холмистый пейзаж, залитый золотым светом.
— Это что, тоже заложено в алгоритме?
— Не совсем. Искусственный интеллект действительно помог, но разработала все я. И спасибо тебе.
— За что?
— Твой выбор заставил Махди поменять мнение, и не только об алгоритме, но и обо мне. Будешь сотрудничать с нами? Твоя игровая платформа точно поможет оптимизировать наш алгоритм.
Виктор медлил с ответом.
— Если я откажусь, меня посадят, как остальных?
Акила от неожиданности засмеялась.
— Это была фейковая новость, специально для тебя. Все гости вернулись на остров и занялись обычными делами.
— Погоди… Значит, мои соседи на острове тоже… Ох, ну конечно. Теперь понятно, почему у нас не клеился разговор. Ты правда думаешь, что это принесет людям счастье?
— Это ты мне скажи, Виктор. Посмотри на себя. Что ты чувствуешь? — Акила очень нежно положила руку ему на плечо.
В голове не осталось ни одной мысли. Пустынные пейзажи в иллюминаторе сменились морской гладью. Они возвращались на Аль-Саиду, на остров счастья — на остров их счастья. Виктор вдруг захохотал так, словно наконец-то понял смысл какой-то космической шутки. Он все смеялся, а по лицу струились слезы.
Анализ. ИИ и счастье; Общий регламент по защите данных (GDPR)[142]; персональные данные; конфиденциальные вычисления[143] посредством федеративного обучения и доверенная среда исполнения[144]
В предыдущих главах мы обсудили приложения для глубокого обучения ИИ, предназначенные для оптимизации финансовых параметров, выставления отметок школьникам, оценки состояния здоровья и так далее. Рассказ «Остров счастья» расширяет тему, а точнее, проблему, стоящую перед человечеством: может ли ИИ оптимизировать счастье? Это невероятно сложный и многогранный вопрос.
Неоднозначный финал рассказа предполагает, что в 2041 году ИИ еще не в полной мере справится с повышением нашей удовлетворенности жизнью. Будут некие подвижки, появятся прототипы алгоритмов, но предсказать, когда и как будет решена эта задача, да и случится ли это вообще, невозможно.
Почему это настолько трудно? Мне приходят в голову четыре причины. Но для начала разберемся, что такое счастье.
Его описывают бесчисленные теории, от пирамиды потребностей Абрахама Маслоу до позитивной психологии Мартина Селигмана. В 2041 году дать определение счастью станет еще сложнее. Общество шагнет в своем развитии, в частности благодаря технологиям на ИИ — значит, уровень комфортности жизни большинства, а то и всех людей на Земле, повысится.
Когда базовые потребности человека окажутся удовлетворены, что сможет сделать его счастливым? Споры вокруг этого понятия в 2041 году наверняка еще будут продолжаться.
Вторая трудность заключается в оценке. Само по себе счастье абстрактно, субъективно и индивидуалистично. Как нам измерить его уровень? Как последовательно фиксировать количество? Если нам удастся определиться с этим показателем, то как ИИ сможет корректировать нашу жизнь ради его достижения?
Третья проблема, безусловно, — сама информация. Чтобы разработать мощный ИИ, контролирующий уровень счастья, нам придется собрать невероятно огромные массивы данных, включая самые интимные сведения. Но где их надежно сохранить? В качестве нового стандарта в Европе принят Общий регламент по защите данных (GDPR), его цель — возвращение пользователям контроля над информацией о них самих. Как скажется этот документ на нашей амбициозной задаче по повышению уровня счастья? И есть ли альтернативные подходы?
Наконец, вопрос хранения. Как нам найти для этого действительно надежную организацию? История учит, что это возможно, если интересы самой организации совпадут с интересами пользователей. И как найти или создать такую структуру?
Очевидно, что разработка ИИ, оптимизирующего счастье, крайне затруднительна. Давайте подробнее рассмотрим варианты решения перечисленных проблем.
Давайте на минутку отвлечемся от ИИ и ответим на элементарный вопрос: что такое счастье? В 1943 году Абрахам Маслоу опубликовал свою судьбоносную статью «Теория человеческой мотивации», где впервые заговорил об иерархии потребностей. Ее традиционно изображают в виде пирамиды, как показано на иллюстрации. Она описывает человеческие потребности — от базовых до самых развитых. Чтобы удовлетворить каждую, нужно поступательно продвигаться снизу вверх.
Соответственно, уровни называются «физиология», «безопасность», «любовь и сопричастность», «социальный статус, уважение» и «самореализация».
Иерархия потребностей Маслоу: наше счастье возрастает по мере движения снизу вверх, когда удовлетворены базовые нужды[145]
Сегодня самым важным компонентом счастья для множества людей является материальное благосостояние. А оно главным образом относится к двум нижним уровням пирамиды — тем, где жизнеобеспечение и финансовая стабильность определяются доходами. Некоторые ассоциируют благосостояние с потребностями высокого порядка — властью, авторитетом и компетентностью. Но любопытно, что, согласно исследованиям, погоня за материальными благами не обеспечивает устойчивого ощущения счастья.
Психолог Майкл Айзенк ввел термин «гедонистическая адаптация» (или «гедонистическая беговая дорожка»). Так образно он описал человеческую склонность к постоянному возврату на определенный уровень счастья, невзирая на финансовые и имущественные приобретения (и потери).
Исследования показали: люди, неожиданно для себя получающие существенные денежные средства (например, выигрыш в лотерею), ощущают счастье несколько месяцев, после чего уровень счастья возвращается к исходному (до выигрыша) значению — то есть падает.
Именно поэтому прекраснодушный проект наследного принца Махди из рассказа «Остров счастья» был изначально обречен. Принц хотел построить гедонистический рай на отдельно взятом острове, чтобы гостей осчастливил ИИ. Когда они прибыли на остров, то сразу погрузились в разнообразные удовольствия и наслаждались кратковременными всплесками радости, но с течением времени вернулись на гедонистическую беговую дорожку, чтобы вечно стремиться, но никогда надолго не обрести счастья.