Все тенденции, которые мы рассмотрели в этой главе, основаны на том, что я бы назвал вполне реалистичным — или даже консервативным — взглядом на возможное развитие технологий в будущем. Можно почти не сомневаться, что профессии, которые сводятся к выполнению относительно рутинных и предсказуемых действий, будут автоматизированы в ближайшие десять лет или около того. Чем более совершенными будут становиться технологии, тем больше и больше рабочих мест будет испытывать на себе их влияние.
Впрочем, не исключен и менее оптимистичный сценарий. Если учесть множество различных технологий, некоторые из которых считаются лидирующими в своих отраслях, то надежд на радужное будущее не остается совсем. В следующей главе мы попробуем трезво взглянуть не некоторые из этих по-настоящему передовых и куда более умозрительных технологий. Вполне может оказаться, что эти прорывные разработки так и останутся на уровне научной фантастики в обозримом будущем; но, если они все-таки будут реализованы, риск резкого роста безработицы и неравенства доходов возрастет многократно, что может привести к еще более опасным последствиям, чем те экономические угрозы, о которых мы говорили до сих пор.
Глава 9Сверхразум и технологическая сингулярность
В мае 2014 г. ученый-физик из Кембриджского университета Стивен Хокинг написал статью, призванную обратить внимание общественности на опасность, которую может представлять стремительное развитие технологий искусственного интеллекта. Хокинг, который опубликовал свою работу в британской газете The Independent с несколькими соавторами, включая двух физиков из MIT Макса Тегмарка и нобелевского лауреата Франка Вильчека, а также специалиста по компьютерам из Калифорнийского университета в Беркли Стюарта Рассела, предупредил, что создание по-настоящему думающей машины «станет самым большим событием в истории человечества». Компьютер, который превзойдет человеческий интеллект, сможет «переиграть всех на финансовых рынках, обойти людей-исследователей в изобретательской деятельности и разработать виды вооружений, о которых мы даже не можем помыслить». Игнорирование этой опасности как относящейся к области научной фантастики вполне может обернуться, «возможно, самой большой ошибкой в истории»{298}.
Во всех описанных мной ранее технологиях (роботах, которые перемещают коробки или делают гамбургеры, алгоритмах, занимающихся созданием музыки, написанием отчетов и торговлей на Уолл-стрит) используется так называемый «специализированный» искусственный интеллект — искусственный интеллект в его «узком» понимании. Даже Watson компании IBM, т. е. система, которая на данный момент лучше всего демонстрирует возможности машинного интеллекта, очень далека от того, что можно было бы хотя бы сравнить с общим интеллектом, которым обладает человек. И действительно, если исключить научную фантастику, все работоспособные технологии искусственного интеллекта, по сути, являются вариантами искусственного интеллекта в «узком» понимании этого термина.
Впрочем, как я пытался показать на страницах этой книги, специализированный характер форм реализации искусственного интеллекта в реальном мире совсем не является препятствием для исчезновения огромного количества рабочих мест в результате их полной автоматизации. Задачи, выполняемые большинством работающего населения, на том или ином уровне абстракции являются рутинными и предсказуемыми. Как мы уже видели, быстрое совершенствование специализированных роботов и алгоритмов машинного обучения, способных разобраться в огромных массивах данных, ставит под угрозу существование большего числа профессий, предполагающих самый разный уровень квалификации. Ни одна из них не требует, чтобы машины думали как люди. Компьютеру вовсе не нужно воспроизводить весь спектр ваших интеллектуальных способностей, чтобы лишить вас работы; ему достаточно уметь делать те конкретные вещи, за которые вам платят деньги. Поэтому большая часть исследований и разработок в области и практически весь венчурный капитал вращаются вокруг специализированных вариантов применения искусственного интеллекта, и у нас есть все основания ожидать, что эти технологии будут становиться все более мощными и гибкими в ближайшие годы и десятилетия.
За всем этим фасадом специализированных решений, которые продолжают давать практические результаты и привлекать инвестиции, скрывается куда более грандиозная задача — создание по-настоящему «умной» системы — машины, которая способна порождать новые идеи, осознавать факт своего существования и вести осмысленную беседу, — остается священным Граалем мира искусственного интеллекта.
Увлечение идеей создания по-настоящему думающей машины восходит по крайней мере к 1950-м гг., когда Алан Тьюринг опубликовал работу, знаменовавшую начало эпохи искусственного интеллекта. В течение последующих нескольких десятилетий сфера научных исследований в области искусственного интеллекта пережила немало взлетов и падений, но что оставалось неизменным, так это завышенные ожидания, которые намного опережали технические возможности того времени, в особенности производительность существовавших тогда вычислительных машин. Когда далекоидущие надежды неизбежно оборачивались разочарованием, инвестиции заканчивались, исследования останавливались, и наступали затяжные периоды стагнации, которые получили название «зимы искусственного интеллекта». Впрочем, за зимой снова наступала весна. Необыкновенная мощь современных компьютеров вкупе с передовыми разработками в специализированных отраслях исследований в области искусственного интеллекта, а также успехи в изучении человеческого мозга — все это дает повод для оптимизма.
Джеймс Баррат, который недавно опубликовал книгу о последствиях появления развитого искусственного интеллекта, провел неформальный опрос среди двух сотен исследователей, занимающихся проблемами искусственного интеллекта в общем, а не «узком» его понимании. Сами себя они называют специалистами по универсальному человекоподобному интеллекту (УЧИ). Баррат попросил их выбрать одну из нескольких предложенных дат в качестве наиболее вероятного срока появления УЧИ. Он получил следующие результаты: 42 % уверены, что думающая машина появится к 2030 г.; 25 % заявили, что это случится к 2050 г.; 20 % не верят в возможность ее появления до 2100 г. И только 2 % сказали, что это в принципе невозможно. Любопытно, что ряд респондентов адресовали Баррату комментарии, в которых предложили ему включить в варианты ответов более близкую дату: например, 2020 г.{299}
Некоторые эксперты, работающие в этой отрасли, беспокоятся, что их коллеги дают повод для очередной волны завышенных ожиданий. В октябре 2013 г. Янн Лекан, занимающий должность директора лаборатории, недавно созданной компанией Facebook в Нью-Йорке с целью проведения исследований в области искусственного интеллекта, опубликовал пост, в котором предупредил, что «за пять десятилетий "смерть" искусственного интеллекта из-за излишней шумихи наступала где-то четыре раза: люди делали безответственные заявления (часто чтобы впечатлить потенциальных инвесторов или представителей организаций, занимающихся финансированием исследований) и не могли выполнить свои обещания. Что вызывало ответную реакцию»{300}. Аналогичного мнения придерживается и профессор Нью-Йоркского университета Гэри Маркус, являющийся экспертом по когнитивным исследованиям и ведущий собственный блог на сайте журнала New Yorker: по его мнению, вокруг недавних достижений в области нейронных сетей с возможностью углубленного обучения и даже некоторых из возможностей, приписываемых IBM Watson, был создан нездоровый ажиотаж{301}.
Тем не менее совершенно очевидно, что отрасль получила невероятный толчок к дальнейшему развитию. В частности, одним из мощных факторов прогресса стал расцвет таких компаний, как Google, Facebook и Amazon. Никогда прежде корпорации с такими большими финансовыми возможностями не рассматривали искусственный интеллект в качестве главного компонента своей бизнес-модели — и никогда прежде исследования в области искусственного интеллекта не были предметом конкурентной борьбы между столь влиятельными организациями. Аналогичная борьба разворачивается и между странами. Искусственный интеллект становится незаменимым инструментом для военных, сотрудников разведывательных организаций и представителей органов контроля и надзора в авторитарных государствах[63]. Более того, мы, вполне вероятно, стоим на пороге тотальной «гонки вооружений» в области искусственного интеллекта. Главный вопрос, думаю, не в том, существует ли реальная угроза наступления новой «зимы» в развитии искусственного интеллекта в целом, а скорее, будет ли прогресс ограничиваться искусственным интеллектом в узком понимании или же распространится также и на сферу УЧИ.
Даже если исследователям все-таки удастся совершить рывок и приблизиться к созданию УЧИ, вряд ли стоит рассчитывать на появление машины, которая будет просто повторять возможности человеческого интеллекта. По закону Мура, за УЧИ быстро последует компьютер, который будет превосходить интеллектом человека. Разумеется, у думающей машины будут все преимущества современных компьютеров, включая способность выполнять вычисления и обрабатывать информацию со скоростью, которая просто немыслима для нас. Соответственно, это неизбежно поставит нас в ситуацию, когда нам придется делить планету с чем-то совершенно беспрецедентным: абсолютно чуждым нам — да еще и превосходящим нас — интеллектом.
И это будет только начало. Исследователи искусственного интеллекта сходятся во мнении, что такая система в первую очередь обратит всю мощь своего интеллекта на саму себя. Она приложит все силы к тому, чтобы усовершенствовать собственную конструкцию, переписать свое ПО и, возможно, применить методы эволюционного программирования для создания, тестирования и оптимизации улучшений в собственной конструкции и архитектуре. Это приведет к запуску итеративного процесса «рекурсивного улучшения». Система будет становиться умнее и производительнее с каждым новым изменением. В результате постоянного ускорения произойдет самый настоящий «взрыв интеллекта», который вполне может привести к появлению машины, которая будет в тысячи или даже миллионы раз умнее человека. По словам Хокинга и его соавторов, это «станет самым большим событием в истории человечества».