казаться интеллектом. Вышедший в декабре 2013 г. фильм «Она» нашел широкий отклик в обществе, скорее всего, потому, что миллионы людей уже взаимодействуют с персональными помощниками, такими как Siri компании Apple. Взаимодействие, подобное показанному в фильме, стало обычным. По мере того как компьютеры уменьшаются в размерах и встраиваются в предметы повседневного пользования, мы ожидаем, что взаимодействие с ними будет разумным. Работая над Siri, пока проект был еще скрыт от общественного внимания, Том Грубер называл систему «интеллект в интерфейсе». Ему казалось, что он сумел соединить конкурирующие миры искусственного интеллекта и усиления интеллекта.
И в самом деле, появление программных интеллектуальных помощников вроде бы намекает на сближение таких несовместимых сообществ, как разработчики систем человеко-машинного взаимодействия и исследователи искусственного интеллекта. Стоявший у истоков индустрии современных персональных компьютеров Алан Кей сказал, что, занимаясь компьютерными интерфейсами, он работал на будущее, которое наступит через 10–15 лет. Николас Негропонте, один из первых исследователей встроенных медиа, виртуальной реальности и речевых интерфейсов, работал на 25–30-летнюю перспективу. Как и Негропонте, Кей утверждает, что лучшие компьютерные интерфейсы – те, которые больше похожи на театр, а лучший театр настолько вовлекает публику в свой мир, что люди ощущают себя его частью. Этот подход напрямую ведет к интерактивным системам, которые будут функционировать скорее как интеллектуальные «коллеги», а не как компьютеризированные инструменты.
Как эти компьютерные аватары преобразуют общество? Люди уже сейчас тратят существенную часть времени бодрствования на взаимодействие через компьютеры друг с другом или с подобными человеку машинами в видеоиграх или в виртуальных системах от FAQbots до Siri. Мы используем поисковые системы даже в каждодневных разговорах друг с другом.
Станут ли эти интеллектуальные аватары нашими слугами, помощниками и коллегами или одновременно одним, другим и третьим? Или нас ждет более мрачный сценарий, при котором они превратятся в наших хозяев? Подход к роботам и искусственному интеллекту с точки зрения социальных взаимоотношений может в первый момент показаться абсурдным. Тем не менее, с учетом нашей склонности к очеловечиванию машин, мы наверняка будем вступать с ними в социальные отношения по мере повышения их автономности. В конце концов, разница между отношением человека к роботам и традиционным отношением людей к рабам, которых хозяева обезличивали на протяжении всей истории, не так уж велика. Гегель рассматривал отношения между господином и рабом в «Феноменологии духа», и его идеи относительно «диалектики господин – раб» повлияли на многих мыслителей от Карла Маркса до Мартина Бубера. В основе диалектики Гегеля лежит положение об обезличивании и господина, и раба в процессе их взаимоотношений.
Кей фактически перевел Гегеля для нашего времени. Сегодня многие компании разрабатывают диалоговые системы, подобные Siri. По мнению Кея, разработчики должны стремиться создавать программы, функционирующие как коллеги, а не как слуги. Если этого не сделать, то, как следует из истории, нас ждут неприятные последствия. Кея волнует то, что создание интеллектуальных «помощников» может вновь создать проблему, с которой столкнулись римляне, позволив греческим рабам думать за них. Довольно быстро находившиеся у власти утратили способность думать самостоятельно.
Не исключено, что мы уже встали на этот путь. Например, появляется все больше свидетельств того, что использование GPS для определения направления и исправления ошибок в определении местоположения ухудшает наши способности ориентироваться в пространстве, которые принципиально важны для выживания{209}. «Меня спрашивают, захватят ли компьютеры мир? – говорит Кей. – Для большинства это уже произошло, поскольку мы уступили им полномочия принимать решения по очень многим вопросам».
Это подводит нас ко второй большой проблеме: риску уступить контроль над принятием повседневных решений все более сложным алгоритмам. Не так давно ветеран венчурного бизнеса Кремниевой долины Рэнди Комисар был на конференции и слушал выступление, описывавшее конкурента Siri – сервис Google Now. «Похоже, людям до смерти хочется, чтобы какой-то интеллект подсказывал им, что надо делать, – сказал он. – Что они должны есть, с кем должны встречаться, на какие вечеринки должны ходить». На его взгляд, для сегодняшнего молодого поколения мир перевернулся вверх ногами. Вместо того чтобы использовать компьютеры для получения свободы и возможности мыслить масштабно, для установления близких отношений, для реализации своей индивидуальности и творческого потенциала, молодые люди настолько жаждут указаний, что готовы передать эту ответственность искусственному интеллекту в облаке. То, что начиналось как интернет-технологии, позволившие людям совместно использовать возникшие возможности, быстро превратилось в растущий массив алгоритмов, которые все больше диктуют им, что делать. Теперь интернет незаметно для пользователя определяет образ жизни. Это могут быть небольшие подсказки, например поиск лучшего кафе с корейским барбекю поблизости с учетом ваших предпочтений и потребностей, или более серьезные решения, подобные интернет-сервису по организации свадьбы: подбор не только блюд, подарков и цветов, но и вашей пары.
Противоречие, присущее идеологиям искусственного интеллекта и усиления интеллекта, впервые поразило меня, когда я понял, что Энгельбарт и Маккарти занимались созданием компьютерных технологий с совершенно разными целями. В их подходах была и двойственность, и парадоксальность. И это понятно – если вы расширяете возможности человека с помощью компьютерной технологии, то неизбежно вытесняете людей. В то же время выбор той или иной стороны в споре – это вопрос этики, хотя его и нельзя рассматривать как выбор между черным и белым. И Терри Виноград, и Джонатан Грудин независимо друг от друга описали конкурирующие сообщества ученых и инженеров, возникшие на заре компьютерной эры. И тот и другой хотели соединить два противоречивших друг другу подхода. Так, в 2009 г. Виноград организовал в Стэнфорде «программу по технологии освобождения», нацеленную на поиск путей использования компьютерных технологий для улучшения управления, помощи неимущим слоям населения, поддержки прав человека, обеспечения экономического развития и т. п.
Конечно, у этих технологий есть пределы. Виноград говорит, что цели применения компьютерных технологий – расширение возможностей людей или их замена – зависят в большей мере от характера экономической системы, а не от свойств самих технологий. В капиталистической экономике, если технологии искусственного интеллекта смогут заменять белые воротнички и работников интеллектуального труда, то они неизбежно будут использоваться именно таким образом. Именно в этом состоит урок для так по-разному подходящих к системам будущего исследователей искусственного интеллекта, робототехников и программистов. Понятно, что предупреждение Билла Джоя («будущее не нуждается в нас») – это только один из возможных исходов. Не менее очевидно, что преобразованный этими технологиями мир не должен обернуться катастрофой.
Немногим более столетия назад Торстейн Веблен написал фундаментальную работу с критикой индустриального мира на рубеже веков «Инженеры и система цен» (The Engineers and the Price System). По его мнению, из-за могущества и влияния промышленной технологии политическая власть должна перейти к инженерам, которые могут использовать свои глубокие знания для контроля развивающейся промышленной экономики. Этого, конечно, не случилось. Веблен апеллировал к эре прогрессизма, пытаясь найти компромисс между марксизмом и капитализмом. Возможно, он неправильно выбрал время, но его основное положение, повторенное полвека спустя, на заре компьютерной эры, Норбертом Винером, может еще оказаться правильным. Сегодня инженеры, создающие основанные на искусственном интеллекте программы и роботов, очень сильно влияют на то, как мы будем использовать их. По мере того как компьютерные системы все глубже вплетаются в ткань повседневной жизни, противоречие между усилением интеллекта и искусственным интеллектом становится все заметней.
На то, что началось для меня как парадокс, есть простой ответ. Устранение противоречия между искусственным интеллектом и усилением интеллекта зависит от решений людей – инженеров и ученых, подобных Биллу Дювалю, Тому Груберу, Адаму Чейеру, Терри Винограду и Гари Брадски, которые осознанно выбрали антропоцентрический подход.
На заре компьютерной эры Винер отчетливо понимал значимость отношений между людьми и их созданиями – умными машинами. Он видел благо автоматизации в избавлении людей от тяжелой работы, но беспокоился, что эта же самая технология может поработить человечество. Прошедшие десятилетия лишь обострили двойственность, на которую он первым обратил внимание.
Это проблема нас как людей и мира, который мы создаем.
Это не проблема машин.
Благодарности
В 2010 г. я оставил работу над репортажами о Кремниевой долине в New York Times, которой занимался с 1976 г., и перешел в научный раздел газеты. Описанные в этой книге события и идеи уходят корнями в две серии газетных статей, в подготовке которых я принимал участие, когда делал репортажи на тему робототехники и искусственного интеллекта. Серия «Умнее, чем вы думаете» (Smarter Than You Think) выходила в течение 2010 г., а «Экономика интеллекта» (iEconomy) – в 2012 г.
Мой редактор Гленн Крамон, с которым мы вместе начинали в San Francisco Examiner в середине 1980-х гг., придумал рубрику «Умнее, чем вы думаете». Я – тот репортер, который ценит хороших редакторов, а Гленн – один из лучших.
Тема, которую я предложил редакторам газеты в 2010 г. и которую рассматриваю здесь, касается того, как персональные компьютеры и интернет преобразовали мир за четыре последних десятилетия. Теперь настал черед искусственного интеллекта и робототехники. Несмотря на то что машины все больше копируют наши физические и интеллектуальные возможности, они все еще полностью искусственные. То, как они сделаны, определит, каким будет наш мир.