{67}. Технооптимисты считают, что лаг между созданием и восприятием технологии просто задерживает появление прироста производительности, и, хотя экспоненциальное развитие неизбежно замедляется, оно дает начало последующим изобретениям (так, за вакуумной лампой последовал транзистор, а за ним интегральная схема).
Гордон так и остался бельмом на глазу сторонников сингулярности. Он выступил в Wall Street Journal с утверждением, что у беспилотных автомобилей сравнительно мало возможностей для повышения эффективности. Кроме того, по его мнению, они не окажут серьезного влияния на безопасность – количество жертв на милю пробега и так снизилось в 10 раз с 1950 г., что делает будущие улучшения менее значительными{68}. Он также скептически смотрит на возможность захвата производственного сектора и сектора услуг новым поколением мобильных роботов: «Отсутствие у роботов способности к перепрограммированию на другие задачи не беспокоит энтузиастов – просто подождите, и все образуется. Вскоре наши роботы научатся не только выигрывать в телевикторине „Своя игра“, они будут регистрировать багаж в аэропортах и заменят носильщиков. Однако все многообразие физических задач, которые под силу людям, вряд ли удастся переложить на роботов в ближайшие десятилетия. Конечно, многофункциональные роботы будут разрабатываться, но потребуется немало времени, прежде чем роботы выйдут за пределы производства и оптовой торговли и смогут заметно потеснить людей в сфере услуг и строительстве»{69}.
Его скептицизм вызвал поток критики, но он не отступил. Его ответ критикам фактически означает: «Не принимайте желаемое за действительное!» По мнению Гордона, лучше всех потенциальное воздействие начавшейся в 1960 г. «третьей промышленной революции» – компьютеризации и интернета – предвидел Норберт Винер, когда говорил, что автоматизация ради автоматизации будет иметь непредсказуемые и, вполне возможно, негативные последствия.
Споры о производительности продолжаются. Относительно недавно у технарей и экономистов стало модно утверждать, что традиционные показатели производительности больше не подходят для все более цифровой экономики со свободным распространением информации. Как измерить экономическую ценность ресурса вроде Википедии, спрашивают они. Если сторонники сингулярности правы, то трансформация в форме беспрецедентного экономического кризиса из-за отказа от живого труда наступит очень скоро. Результат действительно может оказаться довольно мрачным – для людей будет все меньше и меньше места в новой экономике.
В индустриальном мире такого еще не наблюдалось, но одним из любопытных сдвигов, указывающих на существование пределов автоматизации, стало недавнее решение компании Toyota о постепенном возврате людей в производственный процесс. В сфере массового производства Toyota давно является мировым лидером по применению средств автоматизации с ее корпоративной философией кайдзен (по-японски – «положительное изменение»), или непрерывного совершенствования. Достигнув почти полной автоматизации производства, компания поняла, что без людей заводы не могут улучшать себя. Некогда Toyota располагала штатом суперквалифицированных работников, известных как ками-сама, т. е. «боги», которые, по словам президента Toyota Акио Тоёды, могли создать все что угодно{70}. Эти работники имели также свойственную человеку способность подходить к делу творчески и, таким образом, улучшать производственный процесс. Так вот, чтобы вернуть гибкость и креативность на свои заводы, Toyota решила восстановить 100 производственных зон с активным участием людей.
Возвращение «богов» Toyota воскрешает в памяти введение Стюарта Бранда к изданному в 1968 г. «Каталогу всей Земли» (Whole Earth Catalog): «Мы подобны богам и тоже можем творить». Позже Бранд признал, что он позаимствовал эту идею у британского антрополога Эдмунда Лича, который писал также в 1968 г.: «Люди стали подобны богам. Пришло время осознать нашу божественность. Наука дает нам полный контроль над окружающей средой и судьбой, но, вместо того чтобы радоваться, мы боимся. С какой стати? Как избавиться от этих страхов?»{71}
В основе полных сарказма споров о производительности и решения компании Toyota об изменении баланса автоматики и живого труда лежит вопрос о природе взаимоотношений людей и умных машин. Сдвиг Toyota в сторону более конструктивных отношений между человеком и роботом может предполагать перенос акцента на технологии для расширения возможностей человека. Сторонники сингулярности, однако, настаивают на том, что такое партнерство человека и машины всего лишь промежуточная стадия, связанная с передачей человеческих знаний, в какой-то момент дойдет очередь до передачи креативности, а может быть, она возникнет сама собой в каком-нибудь поколении суперумных машин. Они указывают пусть на небольшие, но все же успехи в области обучения машин как на свидетельства того, что в не слишком отдаленном будущем компьютеры обретут способность к обучению, подобную человеческой. Например, в 2014 г. Google заплатила $650 млн за не имевший коммерческих продуктов небольшой стартап DeepMind Technologies, который разработал алгоритмы обучения машин, позволяющие им осваивать видеоигры в некоторых случаях лучше людей. После первых сообщений о приобретении поползли слухи, что из-за потенциальных последствий этой технологии Google создает «совет по этике» для оценки неожиданных «прорывов»{72}. Остается неясным, есть ли для такого надзора реальные основания, или это всего лишь рекламный трюк с целью раздуть шумиху и оправдать уплаченную цену.
Нельзя отрицать, что искусственный интеллект и алгоритмы обучения машин уже изменяют облик таких разных областей, как наука, производство и развлечения. Примеры варьируют от машинного зрения и распознавания образов, необходимых для улучшения качества полупроводниковых приборов, и так называемых алгоритмов рационального поиска лекарств, которые привносят системный подход в создание новых фармацевтических средств, до методов, используемых в сфере государственного надзора и в социальных сетях для обработки персональных данных. Оптимисты надеются, что потенциальные злоупотребления будут минимальными, если приложения останутся ориентированными на человека, а не на алгоритмы. На данный момент Кремниевая долина, увы, не может похвастаться моральным превосходством над старыми отраслями. Было бы поистине замечательно, если бы хоть одна компания Кремниевой долины реально отказалась от выгодной технологии по этическим соображениям.
Если оставить в стороне философскую дискуссию об обладающих самосознанием машинах и пессимизм Гордона относительно роста производительности, то на первый план выходит очевидная возможность и «рациональность» удаления людей из систем с целью повышения производительности и снижения затрат. В Google, которая может встать на сторону как искусственного интеллекта, так и усиления интеллекта, похоже, идет внутренняя борьба вокруг этой двойственности. Первоначальный алгоритм PageRank, на который полагалась компания, может рассматриваться как самый наглядный пример расширения возможностей человека. Алгоритм систематически выискивал решения людей о ценности информации, объединял их и сортировал для ранжирования результатов поиска в сети. Некоторые критикуют его как способ выкачивания интеллектуальной собственности у широкого круга ничего не подозревающих людей, однако понятно, что неписаный социальный договор между пользователем и компанией допускает это. Google выискивает богатства человеческих знаний и возвращает их обществу, хотя и с выгодой для себя. Окно поисковой системы Google стало самой грандиозной информационной монополией в мире.
Но потом Google стала метаться, хватаясь то за средства усиления интеллекта, то за средства искусственного интеллекта в зависимости от того, что больше подходит для решения текущей задачи. Так, система дополнения реальности Google Glass определенно несет потенциал того, что обещает ее название, – средства расширения возможностей человека, а беспилотный автомобиль Google имеет все признаки системы искусственного интеллекта, заменяющей человека. Компания Google фактически экспериментирует с социальными последствиями массового использования искусственного интеллекта. Выступая перед группой ученых из NASA в 2014 г., директор по исследованиям Google Питер Норвиг прямо заявил, что единственное разумное направление развития искусственного интеллекта – это создание систем, в которых люди являются партнерами обладающих интеллектом машин. Это было явное заявление о намерениях сблизить разъединенные сообщества искусственного интеллекта и усиления интеллекта.
С учетом сегодняшнего стремления к созданию автоматизированных предприятий подобное сближение представляется маловероятным. Вместе с тем страхи последнего времени относительно уничтожающих рабочие места промышленных роботов, возможно, в недалеком времени уступят место более сбалансированным представлениям о наших взаимоотношениях с машинами за пределами рабочего места. Взять хотя бы Терри Гоу, председателя совета директоров Foxconn, одной из самых больших китайских производственных компаний и изготовителя Apple iPhone. Компания уже пережила немало споров относительно условий труда на своих заводах, когда в начале 2012 г. Гоу заявил, что Foxconn планирует в значительной мере заменить рабочих роботами. «Поскольку люди тоже животные, управление миллионом животных вызывает у меня головную боль», – сказал он во время деловой встречи{73}.
Это заявление привлекло всеобщее внимание, но такое видение завода без рабочих – лишь одно проявление трансформации общества в следующем десятилетии под влиянием роботизации. Конечно, ликвидация рабочих мест в