Поэтому, как я считаю, мы и должны строить наше будущее, стремясь объединить способность ИИ мыслить со способностью человека любить.
Если мы сможем создать эту синергию, она позволит нам использовать неоспоримую мощь искусственного интеллекта для достижения процветания и сохранить нашу человечность. Но такое будущее не наступит само по себе. Чтобы построить его для всего мира, необходимо переосмыслить и в корне реорганизовать все общественные системы. Нам потребуется вся наша сплоченность, эмпатия и креативность. Но в случае успеха вместо острейшего кризиса нас ждет эра беспрецедентных возможностей. Человечество стоит на перепутье между небывалым расцветом и глобальной катастрофой.
Глава 8. Мирное сосуществование человека и искусственного интеллекта
В то время как я проходил химиотерапию на Тайване, один мой старый друг, серийный предприниматель, пришел ко мне с проблемой, касавшейся его последнего стартапа. Он уже основал и продал несколько успешных технологических компаний в сфере потребительских услуг, и ему захотелось сделать что-то более значимое, например продукт для такой аудитории, на которую технологические стартапы обычно не обращают внимания. Родители моего друга, как и моя мать, уже нуждались в помощи в обычных повседневных делах, и он решил создать продукт, который облегчал бы жизнь пожилых людей. Идея заключалась в том, чтобы закрепить на стойке, которую можно разместить рядом с кроватью пожилого человека, большой сенсорный экран. На экране должны были находиться ярлыки простых и практичных приложений, позволяющих воспользоваться разными услугами: заказать доставку еды, посмотреть любимый сериал, вызвать врача и т. д. Чем старше человек, тем труднее ему ориентироваться в паутине интернета или нажимать на маленькие значки в интерфейсе смартфона, поэтому мой друг хотел сделать все максимально просто. Любое из приложений запускалось бы с помощью пары кликов, а специальная кнопка позволяла бы вызвать специалиста клиентской службы, готового помочь пользователю освоить устройство. Идея выглядела просто замечательно, и устройство немедленно стало бы востребованным на рынке. Ведь, к сожалению, многие взрослые люди в Китае слишком заняты своей работой, чтобы уделять время уходу за стареющими родителями. Они могут чувствовать себя виноватыми, но, когда нужно просто прийти и помочь, все равно не находят времени, чтобы позаботиться о родителях. В таких случаях сенсорный экран мог бы сослужить неплохую службу.
Но после испытания пробной версии своего продукта мой друг обнаружил, что у него возникла проблема. Из всех доступных услуг наиболее востребованной оказалась не доставка еды, управление телевизором или консультация врача. Это была кнопка вызова специалиста клиентской службы. Клиентская служба компании оказалась перегружена потоком входящих звонков от пожилых людей.
Чем это объяснялось? Мой друг сделал устройство максимально простым – неужели пользователи все равно не были в состоянии навести курсор и один раз нажать на кнопку? Ничего подобного. После опроса представителей клиентской службы выяснилось, что люди звонили им не потому, что не могли справиться с навигацией. Они звонили просто потому, что им было одиноко и хотелось с кем-нибудь поговорить. Дети многих пожилых пользователей старались обеспечить в первую очередь материальные потребности родителей: они привозили еду, приглашали врачей и покупали лекарства. Но когда все материальные потребности были удовлетворены, больше всего на свете эти люди хотели настоящего человеческого общения: когда можно с кем-то поговорить и он тебя выслушает.
Мой друг рассказал мне об этой «проблеме» как раз тогда, когда я сам начал задумываться о роли любви в нашей жизни. Если бы он пришел ко мне всего несколько лет назад, я бы, вероятно, порекомендовал ему какие-то технические приемы, например использовать что-то вроде чат-бота на основе ИИ, который может вести простой разговор и даже ввести в заблуждение человека на другом конце провода. Но когда я оправился от болезни и осознал, как опасен надвигающийся кризис занятости и смысла человеческого существования, я начал смотреть на многие вещи по-другому.
Когда я обдумал эту историю, в моей голове забрезжили первые очертания проекта, которой помог бы людям мирно сосуществовать с ИИ. Да, интеллектуальные машины все лучше справляются с нашей работой и удовлетворяют наши материальные потребности, разрушая целые отрасли промышленности и вытесняя рабочих. Но при этом остается нечто свойственное лишь людям – то, чем они делятся друг с другом, чтобы жизнь продолжалась: любовь.
При всех наших достижениях в области машинного обучения мы все еще очень далеки от создания мыслящих машин, которые были бы способны ощущать эмоции. Можете ли вы представить себе, какой восторг испытали бы, победив чемпиона мира по игре в го, после того как посвятили всю свою жизнь подготовке к решающему матчу? AlphaGo одержал эту победу, но не испытал никакой радости от нее: не почувствовал себя счастливым, и у него не возникло желания обнять любимого человека после своей победы. Научно-фантастический фильм «Она» рассказывает нам о любви между человеком и его обладающей искусственным интеллектом компьютерной операционной системой, но на самом деле ИИ не имеет ни способности, ни желания любить или быть любимым. Актриса Скарлетт Йоханссон сыграла эту любовь очень убедительно, но только потому, что она – живая женщина и может использовать весь свой опыт любви для того, чтобы вызвать это чувство к себе. Представьте ситуацию, когда вы сообщили умной машине, что собираетесь ее отключить, а потом передумали и дали ей отсрочку. Машина не изменила бы свой взгляд на жизнь и не пообещала бы себе проводить больше времени с другими машинами. Она неспособна к эмоциональному росту и не может открыть для себя ценности любви и служения другим. Именно в этой уникальной человеческой способности к состраданию и любви я вижу надежду на будущее. Я твердо верю, что мы должны создать новую синергию между искусственным интеллектом и чувствами человека и использовать достигнутое благодаря ИИ изобилие, чтобы воспитывать в людях любовь и сострадание. Если у нас получится, я думаю, мы выйдем на верный путь к экономическому и духовному расцвету. Этот путь не обещает быть легким, но я верю, что если люди объединятся ради общей цели, то не просто выживут в эпоху ИИ, но и вступят в эпоху небывалого благоденствия.
Испытание огнем и новый общественный договор
Стоящие перед нами задачи по-прежнему невероятно масштабны. Как уже говорилось в главе 6, в течение 15 лет мы, предположительно, получим техническую возможность автоматизировать от 40 % до 50 % всех рабочих мест в Соединенных Штатах. Это не означает, что рабочие места исчезнут в одночасье, но если рынки не контролировать, то положение трудящихся существенно ухудшится. Китай и другие развивающиеся страны могут испытать последствия автоматизации несколько раньше или позже, в зависимости от структуры их экономики. Однако общая тенденция останется неизменной: рост безработицы и усиление неравенства. Технооптимисты будут приводить примеры из истории, ссылаясь на техническую революцию в текстильной промышленности XIX века как на «доказательство» того, что прогресс – всегда благо для общества. Но, как мы уже видели, их аргументация строится на весьма шаткой основе. Масштаб и темпы ожидающей нас революции ИИ означают, что мы столкнемся с совершенно новой, не имеющей аналогов в истории задачей. Даже если самые страшные прогнозы в отношении безработицы не оправдаются, ИИ чрезвычайно ускорит рост неравенства, который уже подстегнуло развитие интернета. Мы уже наблюдали, как стагнация зарплат и неравенство могут привести к политической нестабильности и даже насилию. Влияние ИИ на экономику и общество грозит усугубить и ускорить эти процессы в разных государствах. Рынки труда имеют свойство самостоятельно стабилизироваться со временем, но сначала миру придется пройти через испытание огнем, безработицу и социальные потрясения, которые будут тормозить возвращение к нормальной жизни. Эти проблемы требуют решения, их нельзя игнорировать. Мы должны активно использовать материальные ресурсы, которые дает нам ИИ, чтобы восстановить экономику и переосмыслить понятие общественного договора. Мои прозрения во время борьбы с раком были глубоко личными, но они также позволили мне ясно увидеть, как мы все вместе могли бы подойти к решению этих проблем. Построение процветающих социумов в эпоху ИИ потребует не только существенных изменений в нашей экономике, но также существенных сдвигов в культуре и системе ценностей. Столетия индустриальной экономики сформировали у людей убеждение, что наше место в обществе (и даже восприятие себя) должно определяться работой. Отнимите у человека работу, и вы увидите, что нарушили одну из самых сильных связей между ним и социумом, к которому он принадлежит. По мере того как мы переходим от индустриальной эпохи к эпохе ИИ, нам нужно будет научиться перестать приравнивать работу к жизни и рассматривать людей как переменные в грандиозном алгоритме для оптимизации производительности труда. Вместо этого мы должны двигаться к новой культуре, в которой наивысшими ценностями считаются любовь, служение ближнему и сострадание.
Никакая экономическая или социальная политика не заставит людей по-другому чувствовать и относиться друг к другу. Но, выбирая политику, мы можем поощрять различное поведение и способствовать развитию культуры в определенных направлениях. Мы можем выбрать чисто технократический подход, при котором человек рассматривается как комплекс финансовых и материальных потребностей, которые нужно удовлетворять, и просто дать достаточно денег всем людям, чтобы они не голодали или не оказались бездомными. Идея безусловного базового дохода становится все более и более популярной в наши дни.
Но, сделав выбор в пользу этого решения, как мне представляется, мы обесценим нашу человеческую сущность и упустим множество беспрецедентных возможностей. Поэтому далее я хочу рассказать о своих предложениях по поводу того, как нам стоило бы использовать экономические выгоды от применения ИИ, чтобы сделать наше общество более человечным. Для этого потребуется пересмотреть существующий общественный договор и решить, как новая экономика могла бы поощрять социально продуктивную деятельность (подобно тому, как промышленная экономика поощряет экономически продуктивную деятельность).