[112] за рубежом или Alibaba реализует свой проект «Умный город» в Куала-Лумпуре, эти действия скорее сродни экспорту паровых двигателей и электрических лампочек, нежели первому раунду глобальной гонки вооружений.
Непредвзятый взгляд на долгосрочное воздействие данной технологии позволил нам увидеть отрезвляющую правду: разрушительный потенциал ИИ связан не с его военным применением, а с тем, что он может сделать с нашими рынками труда и обществом. Предвидя возможные социальные и экономические потрясения, мы должны смириться и задействовать всю свою деловую интуицию, чтобы сообща решить задачи, с которыми столкнемся все мы. Теперь наши судьбы неразрывно переплетены, независимо от экономических классов, к которым мы принадлежим, и государственных границ.
Глобальная мудрость эпохи ИИ
Уже скоро мир увидит и созидательную, и разрушительную силу ИИ. Поэтому мы должны будем учиться обращаться к друг другу за поддержкой и вдохновением.
Соединенные Штаты и Китай станут лидерами в области экономически обоснованного применения ИИ, но и другие страны и культуры, безусловно, будут и впредь вносить неоценимый вклад в социальную эволюцию человечества. Ни одна из них не найдет ответов на все сложнейшие вопросы, которые поставит перед нами будущее, но я считаю, что любую проблему мы сможем решить совместными силами, черпая мудрость из разных источников. Эта мудрость поможет нам изменить наши системы образования, культуру, понимание прогресса, конфиденциальности и механизмов управления.
В процессе модернизации наших систем образования мы можем многому научиться у Южной Кореи. Образовательные программы этой страны направлены на выявление и раскрытие потенциала технически одаренной молодежи, и это важное звено в работе по созданию материальных благ, которые затем могут быть распределены между всеми членами общества.
Школы по всему миру также могут извлечь много полезного из американских экспериментов в области социального и эмоционального воспитания, направленного на развитие навыков, которые окажутся неоценимыми в гуманном обществе будущего. С точки зрения отношения к труду было бы мудро взглянуть на культуру производства в Швейцарии и Японии, где стремление к совершенству превратило обычную работу в средство самовыражения и едва ли не искусство. Между тем насчитывающие множество участников и решающие важные задачи волонтерские программы в таких странах, как Канада и Нидерланды, демонстрируют, что пора менять наше отношение к самому понятию «работа». Китайская культура тоже может быть источником знаний и опыта, когда дело касается ухода за пожилыми людьми и взаимопонимания между поколениями. Сближение государственной политики и личных ценностей означает, что мы обязательно должны найти время для новых экспериментов в области определения и измерения прогресса, таких как решение Бутана использовать «валовое национальное счастье» в качестве ключевого показателя развития. Наконец, наши правительства должны будут постоянно работать сообща в поисках новых компромиссов в области обмена данными и их защиты, цифровых монополий, онлайн-безопасности и алгоритмической предвзятости. Мы можем многому научиться, сравнивая различные подходы к этим вопросам регулирующих органов в Европе, Соединенных Штатах и Китае. В свое время Европа выбрала жесткий подход – компания Google, например, была оштрафована за несоблюдение антимонопольного законодательства и попытки отобрать у технологических компаний контроль над данными, – но Китай и Соединенные Штаты позволяют технологиям и рынкам свободно развиваться, прежде чем вмешиваются в их деятельность. Оба подхода, по сути, компромиссные, при этом одни государства ставят конфиденциальность выше технического прогресса, а другие – наоборот. Если мы хотим построить процветающее общество на основе технологий, нам нужно отслеживать и изучать реальные последствия и той и другой политики в разных географических регионах и оставаться открытыми для разных подходов к управлению ИИ.
Как создается история ИИ
Ежедневный шквал информации об ИИ может вызвать ощущение, что люди теряют контроль над собственными судьбами. Пророчества о господстве роботов и формировании «бесполезного класса» безработных пагубно влияют на наше сознание, вызывая гнетущее чувство беспомощности перед лицом всемогущих технологий. Это чувство заставляет нас забыть об очень важном факте: будущее искусственного интеллекта зависит от действий людей.
Мы не пассивно наблюдаем за историей ИИ, а пишем ее. Это означает, что наши представления о будущем ИИ вполне могут подействовать как самосбывающееся пророчество. Если мы говорим себе, что ценность человека заключается исключительно в его вкладе в экономику, мы будем и поступать соответственно. Машины вытеснят людей с их рабочих мест, и мы можем оказаться в извращенном мире, подобном тому, который показала нам Хао Цзинфан в своем рассказе «Складной Пекин», где так называемые «полезные люди» и «бесполезные массы» разделены гранью ночи и дня. Но исход кризиса ИИ еще не предрешен. Сама угроза его возникновения связана с идеологией, определяющей роль человека всего лишь как сумму экономических показателей, и говорит о том, что человечество сбилось с верного пути. Мы были посланы на Землю не для того, чтобы постоянно делать одно и то же. И нам не нужно тратить свою жизнь, усердно накапливая богатства, чтобы после нашей смерти их могли получить наши дети, чья жизнь станет всего лишь новой итерацией общечеловеческого алгоритма.
Но если мы верим, что смысл жизни не сводится к погоне за материальным благополучием, то ИИ может оказаться просто инструментом, способным помочь нам глубже понять ее значение.
Ум и сердце человека
В самом начале своей карьеры исследователя ИИ, поступая в 1983 году в Университет Карнеги – Меллона, я украсил свое заявление некоторыми философскими отступлениями – например, я описывал ИИ как «количественную оценку человеческого мышления, объяснение человеческого поведения» и «решающий шаг» человечества к пониманию самого себя. Это была лаконичная дистилляция романтических представлений об ИИ того времени, и я черпал в них вдохновение долгие годы. С тех пор прошло 35 лет, я стал старше и, надеюсь, немного мудрее, и теперь я вижу вещи иначе. Программы на основе ИИ, созданные нами, справляются со многими задачами настолько же хорошо или даже лучше, чем мозг человека. Как исследователь и ученый, я горжусь этими достижениями. Но если первоначальной целью было по-настоящему понять себя и других людей, то эти десятилетия «прогресса» не дали мне ничего. По сути, я ошибся в анатомии. Вместо того чтобы пытаться превзойти человеческий мозг, я должен был попытаться понять человеческое сердце.
Прошло очень много времени, прежде чем я понял свою ошибку. Большую часть взрослой жизни я провел в попытках превратить свой мозг в тонко настроенный алгоритм максимизации собственного влияния. Я летал в разные страны, пересекал часовые пояса, работал, неустанно стремился к своей цели. И не задумывался, что в сердцах моих близких существовал гораздо более важный и гораздо более человечный мир. Мне потребовались страшный диагноз и бескорыстная любовь семьи, чтобы соединить точки в ясную картину и увидеть, что отделяет нас от созданных нами машин. Это изменило мою жизнь и окольными путями привело меня обратно к моей первоначальной цели – использовать ИИ, чтобы познать природу человека. Если ИИ когда-либо позволит нам по-настоящему понять самих себя, то не потому, что его алгоритмы смогут повторить механические процессы мышления, а потому, что они разрешат нам забыть об оптимизации и сосредоточиться на том, что действительно делает нас людьми, – способности любить и быть любимыми. Для этого потребуется напряженная работа и сознательный выбор каждого из нас. К счастью, как люди мы обладаем свободой воли, которой все еще нет у ИИ, а потому можем выбирать себе цели. Мы можем объединиться, невзирая на классовые предрассудки и границы стран, и придумать свое продолжение истории об искусственном интеллекте.
Давайте позволим машинам быть машинами, а людям – людьми. Давайте просто использовать придуманные нами устройства по назначению, и при этом, что более важно, – относиться друг к другу с любовью.
Благодарности
Прежде всего, я хочу поблагодарить моего коллегу Мэтта Шихана, проделавшего вместе со мной огромную работу над этой книгой в очень сжатые сроки. И если вы увлеченно прочитали ее и узнали много интересного, то Мэтт, несомненно, заслуживает и вашей благодарности тоже. Мне очень повезло с таким помощником, поскольку Мэтт хорошо понимает все, что происходит в Китае и США, разбирается в современных технических достижениях и, конечно же, в том, как пишутся книги.
Меня уговорили написать эту книгу мой друг и издатель Джон Брокман и его команда. Благодаря вере Джона в актуальность темы и мою способность донести свои мысли до аудитории я и решил взяться за этот проект. Оглядываясь назад, я понимаю, что Джон был абсолютно прав.
Хочу поблагодарить Рика Вольфа, решившего сделать ставку на мои прогнозы и предположения. Рик – выдающийся редактор, и он творил настоящие чудеса, выводя эту книгу на рынок. Работать с ним и ощущать, как он пытается добиться от тебя самого лучшего, при этом отдавая все самое лучшее, что есть у него самого, было невероятно здорово! Я также благодарю Эрика Бриньолфссона, Джеймса Маньика, Джонатана Войцеля, Пола Триоло, Шаолэнь Сюэ, Сюй Чэня, Сяохун Ма, Лин Квилинг, Ю Жойхуа, Майкла Чуй, Ли Юань, Кэти Янг, Аниту Хуан, Мэгги Цэй и Лори Эрлем за помощь в подготовке предыдущих проектов и за бесценные отзывы об этой книге в ходе работы над ней. И, наконец, приношу сердечную благодарность моей семье, которая терпела мою невнимательность в течение последних шести месяцев. Я не могу дождаться той минуты, когда вернусь в объятия жены и дочерей – объятия, которые поддерживают меня и научили меня так многому. Я обещал моим близким, что больше книг писать не буду и что эта – последняя, но я уже раз семь давал им такие обещания. И я все равно надеюсь, что они мне все-таки поверят.