Сопоставление прав человека и прав робота – важнейший вопрос границ, которые сейчас размываются. В октябре 2017 года правительство Саудовской Аравии объявило, что оно предоставляет Софии гражданство[453], и она стала первым в мире роботом, получившим гражданство какой-либо страны. (Эта честь оказалась неожиданностью для ее создателей, как поведал мне Хэнсон[454], и они решили использовать этот факт, перепрограммировать Софию на выступления в защиту прав женщин.) Гражданство – это такая привилегия, которая для большинства из нас связана с обязательствами, например платить налоги, ходить на выборы и участвовать в жизни местного сообщества. Как же нам правильно распределить эти привилегии и обязанности для граждан-роботов?
И что случится, если София и другие будущие граждане-роботы смогут участвовать в наших выборах? Кто-то должен будет запрограммировать Софию, чтобы она делала выбор определенным образом; будет ли это значить, что Дэвид Хэнсон голосует как за себя, так и за Софию и у него появится больше одного голоса? Будет ли это значить, что голос Хэнсона, гражданина США, проживающего в Гонконге, учитывается на выборах в любой стране, где Софии предоставят гражданство?
София – это машина, она не больше «человек», чем тостер или автомобиль. Но ее антропоморфная внешность влияет на то, как мы с ней обращаемся. Алан Уинтфилд, профессор по этике в сфере роботов из Университета Западной Англии, напоминает нам, что люди устроены так, чтобы эмоционально реагировать на объекты, похожие на людей, – точно так же, как мы наделяем человекоподобными свойствами собаку-робота или образ, похожий на лицо, на кусочке тоста. В дискуссии на CogX в 2018 году профессор Уинтфилд призвал Дэвида Хэнсона и других задуматься, насколько «опасно притягательны роботы, напоминающие людей… Они подталкивают нас к тому, чтобы поместить их в иную категорию, для других явлений. В противном случае кому бы пришло в голову, например, присвоить роботу гражданство или титул ООН?»[455]
Сейчас, более чем когда-либо прежде, по мере размытия границ между человеком и машиной, мы сталкиваемся с беспрецедентными этическими вопросами о том, как распределить ответственность. Кто (или что) должен делать что-то для кого (или чего); и кто (или что) чем-то обязан кому (или чему)? Если мы даем гражданство машинам, как нам тогда сохранить дух и надлежащее функционирование демократии? Это же не научная фантастика. Это у нас на пороге прямо сейчас. В 2017 году Европейский парламент принял резолюцию «Гражданско-правовые нормы по робототехнике»[456], включавшую предложение изучить вопрос о создании особого «правового статуса для роботов», делающего их «электронными лицами, ответственными за возмещение любого ущерба, который они могут причинить». Более 280 экспертов в области медицины, робототехники, ИИ и этики подписали открытое письмо, в котором назвали «неуместным» предоставление роботам прав, «прямо противоречащих» правам человека, и призвали Европейскую комиссию пересмотреть свой подход[457].
Я согласна, что предоставлять роботам права «неуместно», и абсурдно полагать, что роботы могут «возместить» ущерб, который они причиняют. Представьте себе судебный иск против робота, который причинил вам вред, или обсуждение мирового соглашения между вашим юристом и юристом вашего робота. В открытом письме подчеркивается, что невозможность доказать ущерб нельзя считать правильным шагом, и она не является основанием для предоставления роботам правового статуса. Подход Европейского парламента, по-видимому, противоречит прекрасным «Руководящим принципам по этике для надежного ИИ», разработанным Экспертной группой Европейского союза по вопросам ИИ, которые включают в себя фундаментальное требование «действия и надзора со стороны человека»[458]. Мы далеки от того, чтобы обеспечить соблюдение и защиту прав человека во всем мире, даже на самом базовом уровне, например права на образование и здравоохранение. Если бы правительства предоставили права роботам, им нужно было бы очень тщательно рассмотреть вопрос об ограничении возможностей и прав людей, о непредсказуемом рассредоточении власти, а также о заражении и мутации возможных последствий. Вероятно, нам следует сосредоточиться на том, как роботы укрепляют права человека, а не наоборот.
Изучая вопрос о том, может ли робот когда-нибудь стать человеком, мне нравится спрашивать: «Можно ли сделать его на фабрике?» Если ответ будет да, тогда, по моему мнению, он не человек – даже если он похож на человека, говорит таким же голосом, проявляет различные эмоции и на ощупь его кожа похожа на нашу. Человечность – четко определенная черта, которая отличает нас от машин[459]. Определяющие характеристики человека включают знание о собственной смертности, благодаря чему мы осознаем время, у роботов этого нет, и принадлежность к виду прямоходящих существ, известных как Homo sapiens, – свойство, которое развивалось на протяжении тысячелетий. Кроме того, насколько мне известно, мы еще не создали роботов, у которых были бы собственные нравственные принципы.
Профессор Йельской школы права Джек Балкин[460], эксперт по ИИ, называет нашу эру «алгоритмическим обществом»[461], «организованным так, что социальные и экономические решения принимают алгоритмы, роботы и интеллектуальные агенты – а также в некоторых случаях сами же их исполняют»[462]. Иными словами, мы теперь не единственные, кто принимает решения, но мы все же опережаем роботов благодаря своей способности действовать этично и нести ответственность.
Прежде чем мы погрузимся глубже в изучение ИИ, нам могут пригодиться несколько кратких определений. Алгоритмы принято определять как набор инструкций или правил для выполнения определенного расчета или задачи – обычно с помощью компьютера[463]. «Большие данные» – настолько большой объем цифровой информации, что анализировать его и работать с ним может только компьютер, – и это, по словам профессора Балкина, и есть то «топливо, на котором работает алгоритмическое общество». Чем больше данных мы собираем и обрабатываем, тем больше данных генерируется и тем лучше работают алгоритмы[464]. Машинное (компьютерное) обучение, подмножество ИИ, основано на распознавании образов: системы выявляют в данных закономерности и используют эти закономерности для прогнозирования – чем больше данных поступает в систему, тем выше ее производительность[465]. Некоторое время у Софии было «диалогическое глубокое обучение», более сложный подвид машинного обучения[466]. Это позволило Софии обрабатывать социальные данные, собранные во время взаимодействия с людьми, благодаря чему ее ответы постепенно становятся более актуальными и интеллектуальными. На момент написания этой книги команда Hanson Robotics снова рассматривает вопрос возвращения Софии к диалогическому глубокому обучению.
ИИ встроен не только в роботов. Он уже просочился в нашу повседневную жизнь. Порой мы взаимодействуем с ним регулярно, например, когда Amazon выдает вам результаты поиска, Netflix рекомендует вам следующий фильм, а в ленте вашей любимой соцсети появляется таргетированная реклама. В других случаях мы даже не осознаем, что тут задействован ИИ или что он влияет на нас; примерами могут служить технология распознавания лиц в камерах наблюдения на городских улицах или трекеры в наших цифровых устройствах, которые собирают и сообщают данные о наших перемещениях и об истории просмотров в браузере. В медицинской диагностике ИИ используется революционным образом, например для диагностики рака груди[467]. Бывают и такие технологии, с которыми вы, возможно, никогда не столкнетесь, к примеру человекоподобные роботы-компаньоны, но они могут повлиять на вас, когда станут более привычной частью жизни общества.
Кроме того, мы все больше общаемся с машинами с ИИ, которые берут на себя функции людей, но при этом не стремятся быть на нас похожими. Мы вступаем в социальные и профессиональные взаимоотношения с роботами, которые переворачивают бургеры, переставляют коробки, слушают наши разговоры (и отвечают нам) и выполняют такую работу, которая раньше доставалась людям. Пеппер (Pepper)[468], робот-помощник на колесиках ростом примерно 120 см, по всему миру работает в отелях, аэропортах и ресторанах, встречая гостей и помогая обслуживать клиентов[469]. Компания, производящая Пеппер, описывает «ее» как «социального антропоморфного робота». Пеппер приветствовала меня в офисе клиента в Европе, демонстрируя экран, где мне предлагалось ознакомиться с этическими ценностями фирмы, и карточку с надписью «Порядочность»[470]. Мабу (Mabu)[471], малогабаритный медицинский робот с сенсорным экраном, представляемый на рынке как «персональный медицинский компаньон»[472], может напомнить вам о необходимости принять лекарства и спросить, как вы себя чувствуете. Маленькая София (Little Sophia), «сестренка» Софии ростом около 36 см, «ваша подружка-робот», может ходить, говорить и преподавать детям «программировани