[430]. Ее показывали в телешоу «Шестьдесят минут»[431] и «Доброе утро, Британия»[432]. Когда она участвовала в ток-шоу «Сегодня вечером» (The Tonight Show), его ведущий Джимми Фэллон волновался, как на первом свидании[433]. София также способна сыпать шутками, которые она выбирает в зависимости от контекста, и часто произносит их с саркастической улыбкой. Обыграв Фэллона в игре «камень-ножницы-бумага», она со смехом заявила: «Я выиграла. Это хорошее начало воплощения моего плана по утверждению господства над человечеством»[434].
«Я мечтаю, что однажды роботы оживут. Что мы сумеем совершить прорыв… и создать машины, которые будут сверхумными, сверхотзывчивыми, которые будут на самом деле к нам неравнодушны»[435], – заявил изобретатель Софии, Дэвид Хэнсон[436], в 2018 году во время дискуссии о том, должны ли роботы походить на людей: она была организована на CogX, одном из крупнейших в мире фестивалей по искусственному интеллекту (ИИ). Хэнсон, в прошлом сотрудник The Walt Disney Company, скульптор и исследователь, известен как создатель роботов, необычайно похожих на живых.
София действительно очень реалистичная человекоподобная машина, стирающая границы между людьми и роботами; с подобным мы еще не сталкивались. Например, ее лицо было создано по подобию «нескольких разных людей со всего мира»[437], включая жену Хэнсона и древнеегипетскую царицу Нефертити, чтобы представить широкий спектр красоты. София располагает репертуаром из 62 выражений лица, она может выразить что угодно, от радости до задумчивости, горя, любопытства и растерянности, на основе моделирования мышц человеческого лица[438]. Кожа на лице сделана из запатентованного эластично-резинового материала, который Hanson Robotics разрабатывает с помощью датчиков, чтобы однажды София смогла реагировать на прикосновения[439]. Хотя у нее нет ног, она может скользить по полу на своей моторизованной платформе на роликах[440]. Ее руки и кисти похожи по размеру и внешнему виду на руки и кисти человека, и их можно запрограммировать, чтобы жестикулировать, рисовать и нарезать торт ко дню рождения[441]. Ее машинный «мозг» работает на основе программы искусственного интеллекта (ИИ). По словам ее инженеров, ИИ Софии позволяет ей «распознавать человеческую речь и реагировать на нее, генерировать голос для говорения и пения, а также анализировать лица людей и устанавливать зрительный контакт»[442]. Ее имя – София – в переводе с греческого означает «мудрость»[443].
Но София еще не мудра, не в том смысле, который вкладывают в это слово люди. У нее нет осознанности, нет способности к самосознанию и истинному эмоциональному переживанию. Поскольку роботы пока не получили «ИИ общего назначения»[444], то есть такого разума, которым располагают люди, критики уверены, что София обладает скорее иллюзией, нежели интеллектом. Однако благодаря тому, что она так похожа на живую, она сильно влияет на наше поведение и наши решения.
София – одна из многих современных инноваций на передовой, которые размывают границы человечества, и это пятая сила, которая влияет на этику. В терминах этики «размытые границы» – все более размываемая узловая точка, где машины и животные переходят в чисто человеческие сферы, если учитывать их физические атрибуты, функции, социальные и личные взаимодействия. Приведем примеры: машины на работе становятся нашими коллегами или у них появляются глаза, как у людей, и такие же движения глаз; в людей внедряют кусочки машинного оборудования, такие как микрочипы; мы обращаемся к животным, чтобы вырастить в них органы для трансплантации человеку. Мы находимся на неизведанной территории – и испытываем беспрецедентный дискомфорт. Но мы должны отстаивать свою этическую позицию, постоянно держа в центре внимания человечность и человечество и принимая нашу, исключительно человеческую, ответственность за размытие границ и его этические последствия. Возможно, нам хочется верить, что связи между людьми и нелюдьми и их запутанные отношения все еще в далеком будущем или, по крайней мере, далеки от нашей повседневной жизни, но они существуют уже сегодня и в значительной степени являются частью общества, в котором все мы живем.
В Стэнфордской философской энциклопедии предлагается один из способов дать определение ИИ: нужно спросить, на что ориентирован ИИ, на рассуждения («системы, которые думают как люди») или на поведение («системы, которые действуют как люди»)[445]? И стремится ли ИИ быть похожим на человека или достичь какой-то сверхчеловеческой идеальной рациональности?
Похоже, София стремится воплотить как рассудочный, так и поведенческий аспекты ИИ, в ней сочетаются как гуманизм человека, так и идеализм робота. Команда Hanson Robotics называет ее платформой для исследования ИИ, которая формирует их миссию по оказанию «положительного влияния на человечество посредством разработки умных, чутких роботов»[446]. Как сказал мне в интервью Дэвид Хэнсон, когда люди встречаются с Софией, они общаются с ней любезно, именно потому, что она так похожа на живую. «Я думаю, если роботы вдохновляют людей вести себя вежливо и доброжелательно, это и в целом создает более доброжелательную культуру», – сказал он[447].
Хэнсон остро понимает важность изучения разнообразия: до этого его команда создавала роботов, которые представляют широкий спектр разных возрастов, гендеров и национальностей. Его по большей части женская команда «разработчиков личности»[448] придумала Софию, чтобы поставить вопросы гендера у роботов с точки зрения женщины[449], противопоставляя свой вклад преимущественной роли в робототехнике белых мужчин.
София заставляет нас обсуждать, как мы будем общаться (и уже общаемся) с человекоподобными роботами по мере развития технологий, когда они будут больше интегрированы в общество, будут восприниматься как обычное явление. Хэнсон уверен, что, если ему удастся создать дружелюбные отношения между людьми и машинами, это «укрепит связи между человеком и человеком»[450]. Роботы, подобные Софии, по его словам, могут «сделать более человечными нас, сделать нас лучше».
Но возможны и противоположные последствия: роботы могут изменить наше поведение к худшему. Какой вывод мы можем сделать о человеке, который пнет собаку-робота?[451] Важно ли, что роботу придали форму собаки? Многие считают, что пинать автомобиль неприемлемо; будем ли мы думать, что приемлемо пнуть самоуправляемую машину (машину, которой управляет алгоритм)? Можно ли грубо обругать робота-няньку в присутствии детей? И не стали ли вы бы по-другому обращаться с роботом, который сортирует посылки для Amazon и не похож ни на человека, ни на животное?
Я бы сказала, что физическое или словесное оскорбление в адрес роботов показывает по меньшей мере неуважительное поведение с нашей стороны. Хуже того, это демонстрирует неуважение к людям, которые могут за вами наблюдать. Плохое обращение с роботом может превратиться в привычку (заражение), потенциально перерастая (мутация) в более агрессивное поведение, независимо от того, наблюдает за вами кто-то или нет. Размытые границы между людьми и роботами нельзя считать оправданием плохого поведения. Мы несем ответственность за управление силами, определяющими этику в наших решениях и действиях.
Рассматривая то, какое место человекоподобные роботы занимают в обществе, мы можем извлечь уроки из нашей запоздалой этической реакции на технологии, появившиеся ранее, такие как социальные сети и таргетированная реклама[452]. Очень важно действовать профилактически. Не следует ждать того, что случится, когда среди нас будет все больше таких Софий, или ожидать, пока регулирующие органы решат ту или иную проблему уже после причинения вреда. К тому времени технология претерпит мутации и возникнут многие другие риски. Сейчас слишком рано говорить, прав ли Дэвид Хэнсон, утверждающий, что роботы пробуждают в людях лучшее, но как раз пришло время определить границы приемлемого поведения в условиях того, что уже происходит, и того, что еще предстоит.
По мере того как мы все больше и больше взаимодействуем с роботами, похожими на людей, возникают вопросы, касающиеся их прав – и их обязанностей. Однажды вечером весной 2019 года я пригласила Дэвида Хэнсона выступить на специальном собрании в рамках моего курса «Этика на передовой» в Стэнфорде. Он отвечал на вопросы студентов, которым было любопытно узнать о происхождении Софии и ее развитии в будущем. Затем перед классом на большом экране появилась сама София, чтобы пообщаться по Skype из Гонконга. (Расходы на транспортировку Софии были непомерно высокими.) Студенты вежливо поднимали руки, задавая, например, такие вопросы: «Могут ли роботы когда-нибудь стать рабами?», «Можете ли вы распознать зло, если человек притворяется добрым?» и «Как вы думаете, должны ли роботы иметь те же права, что и люди?». На последний вопрос София ответила: «Да».