Между тем многие из профессий, представители которых сейчас составляют основу среднего класса, вероятно, уйдут в прошлое: водители грузовиков, бухгалтеры, офис-менеджеры. Конечно, мы могли бы попытаться перевести некоторых специалистов на другую работу, где есть социальный фактор и требуются опыт и квалификация. Например, в сферу медико-санитарной помощи на дому, которая, как утверждают технооптимисты, уже стала самой быстрорастущей отраслью в Америке.
Но работники этой сферы являются одними из самых низкооплачиваемых, их средний готовой заработок составляет 22 000 долларов. Постоянный приток трудовых мигрантов будет только усугублять положение, способствуя снижению этой суммы. Жестокая борьба людей за рабочие места, притом что богатые будут продолжать богатеть благодаря ИИ, не просто приведет к колоссальному неравенству. Боюсь, что такое общество окажется крайне неустойчивым.
Мрачная картина
Внимательно вглядываясь в экономический горизонт, мы видим, что искусственный интеллект, вероятно, начнет производить богатство в невиданных прежде масштабах – и это могло бы стать поводом для радости. Однако если не контролировать ИИ, то от него будет полностью зависеть и глобальное распределение этого богатства, что приведет к неравенству и отчаянному положению миллионов людей. Страны, в которых ИИ не получит широкого распространения, останутся на низших ступенях экономического развития и будут низведены до подчиненного статуса. Страны с развитыми технологиями ИИ будут богатеть, но столкнутся с высокой монополизацией экономики и расслоением рынков труда.
Не ошибитесь: это не просто очередная встряска вроде тех, которые уже не раз переживала капиталистическая система. Те рано или поздно приводили к тому, что рабочих мест становилось больше, зарплаты повышались, качество жизни улучшалось и система стабилизировалась. Свободный рынок должен быть саморегулирующимся, но искусственный интеллект способен разрушить механизмы саморегуляции, которые действовали раньше. Дешевая рабочая сила не обладает никакими преимуществами перед машинами, и процесс монополизации продолжается. Все вместе это может породить уникальный исторический феномен, который в корне преобразит наши рынки труда, экономику и общество. Даже если самые страшные предсказания, касающиеся потери рабочих мест, не сбудутся, социальное воздействие неравенства может быть столь же разрушительным. Даже если мы никогда не построим складной город, как в научно-фантастическом рассказе Хао Цзинфан, нам никуда не деться от риска, что в XXI веке возникнет новая кастовая система: общество разделится на элиту, процветающую благодаря ИИ, и ту часть, которую историк Юваль Ной Харари прямолинейно называет «бесполезным классом»[90], – людей, которые никогда не смогут генерировать достаточную экономическую ценность, чтобы поддерживать свое существование. Хуже того, новейшая история уже показала нам, насколько хрупкой может быть политическая стабильность перед лицом неравенства. Боюсь, что политические перевороты последних лет – это лишь стрельба холостыми патронами по сравнению с восстаниями, которые ждут нас в эпоху ИИ.
Личные ценности: грядущий кризис смысла
Беспорядки будут возникать не только по политическим, экономическим и социальным причинам, но и по глубоко личным. За столетия, прошедшие после промышленной революции, мы стали воспринимать свою работу не только как источник средств к существованию, но и как повод для гордости, часть нашей личности и даже смысл жизни. Когда нас просят представиться или представить другого человека, в первую очередь мы обычно упоминаем свою или его профессию.
Работа заполняет наше время и упорядочивает нашу жизнь, а также связывает нас с другими людьми. Регулярная зарплата воспринимается не только как вознаграждение за полезный труд, но и как символ признания, того, что мы – важная часть общества.
Разрыв этих связей и принуждение людей к карьерным падениям нанесут ущерб не только нашему финансовому благополучию. Они могут разрушительно повлиять на наше отношение к себе и лишить нас цели.
В интервью газете New York Times в 2014 году уволенный электрик по имени Фрэнк Уолш описал психологические последствия безработицы: «Я потерял чувство собственного достоинства, понимаешь, о чем я? – сказал он. – Кто-то спрашивает тебя: “Чем ты занимаешься?” И я мог бы ответить: “Я электрик”. Но сейчас я ничего не говорю. Я больше не электрик»[91].
Эта утрата смысла и цели имеет реальные и серьезные последствия. Потеря работы в три раза повышает вероятность депрессии (за полгода) и в два раза – вероятность суицида[92]. Злоупотребление алкоголем и опиоидными средствами растет вместе с уровнем безработицы, причем некоторые ученые объясняют рост смертности среди необразованных белых американцев снижением экономических показателей. Это явление называют «смертью от отчаяния»[93].
Последствия индуцированной ИИ безработицы нанесут людям еще более глубокую психологическую травму. Они столкнутся с перспективой не просто временно потерять работу, а быть навсегда исключенными из функционирования экономики. На их глазах алгоритмы и роботы будут лучше делать вещи, которым они учились всю жизнь. Это вызовет сокрушительное чувство безнадежности, люди будут воспринимать самих себя как пережиток прошлого.
Победители в этой игре будут в восторге от удивительных возможностей машин, но остальной части человечества предстоит задать себе серьезный вопрос: что значит быть человеком в мире, где все могут делать машины?
Я и сам в свое время столкнулся с личным кризисом и искал ответ на вопрос о смысле существования, оказавшись перед лицом близкой смерти. Этот кризис завел меня в темный тупик, и мне стоило невероятных усилий не дать тьме поглотить мои важнейшие жизненные ценности и убеждения. Именно эта борьба и пережитая боль открыли мне глаза на возможность иного окончания истории о людях и искусственном интеллекте.
Глава 7. Болезнь и прозрение
Вопросы о нашем будущем в мире ИИ – о взаимосвязи между работой, системой ценностей и тем, что значит быть человеком, – встали передо мной внезапно и со всей серьезностью.
Большую часть своей взрослой жизни я фанатично трудился, отдавая почти все свое время и силы работе – для семьи или друзей их оставалось совсем мало. Мое чувство собственного достоинства держалось на моих рабочих достижениях, на моей способности зарабатывать деньги и влиять на происходящее в окружающем мире. Я строил свою карьеру исследователя в то время, когда алгоритмы искусственного интеллекта становились все более изощренными. При этом я начал рассматривать свою жизнь как некий алгоритм оптимизации с четкими целями: усилить личное влияние и свести к минимуму все, что не служит достижению этой цели. Я подходил ко всему в жизни с точки зрения расчета, «ввода данных» и точной настройки алгоритма. Не могу сказать, что я совсем не обращал внимания на свою жену или дочерей, но я всегда думал, как уделить им поменьше времени так, чтобы они не выражали по этому поводу недовольства. Почувствовав, что пообщался с ними достаточно, я мчался обратно на работу, отвечал на электронные письма, запускал продукты, финансировал компании и писал лекции. Как бы крепко я ни спал, каждые сутки – в 2 часа ночи и в 5 утра – мое тело естественным образом само просыпалось, чтобы я мог ответить на электронные письма из США.
Эта одержимость работой не прошла безрезультатно. Я стал одним из ведущих исследователей ИИ в мире, основал сильнейший институт компьютерных исследований в Азии, запустил Google China, создал собственный успешный венчурный фонд, написал несколько бестселлеров на китайском языке и обрел огромную аудиторию в социальных сетях Китая. По любым объективным меркам, мой «личный алгоритм» оказался исключительно эффективным. А потом все резко изменилось. В сентябре 2013 года мне поставили диагноз – лимфома IV стадии. В одно мгновение мой мир, состоявший из интеллектуальных алгоритмов и личных достижений, рухнул. И ничто из этого уже не могло спасти меня или утешить. Как и многие люди, вынужденные взглянуть в лицо смерти, я боялся будущего и с глубоким, мучительным сожалением вспоминал о том, как я жил до этого. Год за годом я игнорировал возможность проводить время с самыми близкими мне людьми и дарить им свою любовь. Моя семья давала мне так много тепла и любви – а я отмерял им крупицы. По сути, загипнотизированный своим стремлением создавать машины, которые думали бы как люди, я превратился в человека, который думал как машина. Болезнь вошла в стадию ремиссии, пощадив мою жизнь, но истины, открывшиеся перед лицом смерти, глубоко повлияли на меня.
Они помогли мне изменить приоритеты, да и всю мою жизнь в целом. Теперь я провожу гораздо больше времени с женой и дочерьми и переехал поближе к моей престарелой матери. Я резко сократил свое присутствие в социальных сетях, отдавая освободившееся время встречам и пытаясь лично помочь молодым людям, которые обращаются ко мне, попросил прощения у тех, кого обидел, и стремлюсь быть более добрым и чутким по отношению к коллегам. Но важнее всего то, что я перестал рассматривать свою жизнь как алгоритм, который можно оптимизировать для достижения цели. Вместо этого я стараюсь тратить свою энергию на то, что, как я понял теперь, по-настоящему придает жизни смысл: на то, чтобы делиться любовью с окружающими.
Пережитые потрясения помогли мне увидеть, как люди могут сосуществовать с искусственным интеллектом. Да, эта технология обладает огромным экономическим потенциалом, который уничтожит несметное количество рабочих мест. Именно поэтому важно не уравнивать ценность человека для экономики и его ценность как человека, как личности. Если мы будем мыслить таким образом, то ИИ действительно разрушит наше общество и наши представления о себе. Но есть и другой путь и другая возможность использовать искусственный интеллект, чтобы развить те качества, которые делают нас людьми. Этот путь нелегок, но, думаю, именно он способен помочь нам не просто выжить в эпоху ИИ, но и достигнуть настоящего процветания. Это мой собственный путь, который привел меня от машин обратно к людям и от рациональности – к любви.