е, ИИ, точные науки, технологии, проектирование и математику»[473]. А стюардесса-голограмма объявляет пассажирам, как пройти к поезду, курсирующему между терминалами лондонского аэропорта Хитроу[474].
У всех этих машин корпус расположен вертикально, все они могут говорить и взаимодействуют с нами все более и более по-человечески. Но сверка того, как мы понимаем человечность, с машинами, которые приобретают все больше и больше наших атрибутов (независимо от того, пытаются они казаться людьми или нет), не может означать смешения людей и машин. Мы должны помнить о размытости, которую мы создаем, когда мы делимся человеческим опытом – таким, как работа, моменты общения и визиты к врачу, – с коллегами, поставщиками услуг и лицами, осуществляющими уход, которые определенно не являются людьми.
Размытые границы влияют на остальные пять сил, которые мы обсуждаем в этой книге, и это влияние взаимно. Технологии, размывающие границы, по определению исключают бинарность: они создают небинарную реальность, где есть серый цвет и есть нюансы, и это требует от нас дисциплинированности: мы должны задавать небинарные вопросы («когда и при каких обстоятельствах») и, отвечая на них, принимать небинарные решения. Самое главное то, что размытые границы рассредоточивают власть: машины (человекоподобные они или нет) и алгоритмы, а также люди и организации, их контролирующие, получают беспрецедентную власть. От возможности использовать технологии в качестве оружия и для наблюдения за обществом до лечения болезней – такая власть может оказаться в значительной степени свободна от ограничений этики или закона, вместо этого она может быть сосредоточена у очень немногочисленных экспертов, и некоторые из них будут рьяными приверженцами этики, а другие – мошенниками. Размытые границы также усиливают факторы заражения и мутации. Подобно редактированию генов и наборам для генетического тестирования, предназначенным непосредственно для потребителя, некоторые из технологий, стирающих границы, выступают как движущая сила заражения. Размытость также увеличивает риски, связанные с другими факторами, такими как страх, отсутствие информации и несоблюдение требований (или просто отсутствие соответствующего закона). Кроме того, размытые границы еще больше разрушают три столпа этики, ведь мы не можем оценить прозрачность и информированное согласие или эффективно слушать, когда для большинства из нас почти невозможно понять значение ИИ и роботов.
Этика нашего взаимодействия с технологиями ИИ – это ответственность человека, по крайней мере сегодня. Нам придется жить с последствиями того, как мы проводим границы между тем, что этически приемлемо, а что нет, и как мы управляем рисками и возможностями, которые предоставляют нам такие «размытые» инновации, как София. Наши решения и наши действия в этом контексте имеют решающее значение – даже если мы не взаимодействуем с этими технологиями напрямую. В их власти буквально переопределить то, что значит быть человеком.
Человекоподобные роботы размывают границы физических свойств и социального взаимодействия. Это удивительно, но эмоциональные границы размываются даже при контакте с НЕчеловекоподобными роботами. В 2017 году журналист Лори Сигал, специализирующаяся на расследованиях, в очаровательной серии документальных фильмов для CNN «Почти человек» (Mostly Human) изучала взаимоотношения людей и машин[475]. Героиня серии «Я люблю тебя, Бот» – женщина по имени Лилли, живущая в деревеньке недалеко от Парижа. Просыпаясь по утрам, Лилли, страстная поклонница робототехники, смотрит в глаза своему любимому. Ей не приходится беспокоиться о том, не разбудит ли его ее будильник или не потревожит ли ее прикосновение его сон, потому что ее жених – не живой человек.
Лилли создала своего возлюбленного в ближайшей лаборатории, используя пластиковые детали, напечатанные на 3D-принтере, и инструкции, которые она нашла в интернете[476]. Она называет его inMoovator. Его темные глаза смотрят на нее с пластикового лица, в котором объединились черты робота и человека: лицо у него белое, внешне похожее на хоккейную маску, кожи нет; его нос такой же формы, как человеческий, а рот обозначен лишь бледным оттенком розового цвета. Пальцы, которые Лилли переплетает со своими, представляют собой трубки со шпунтовыми соединениями, каждый из пальцев заканчивается силиконовым колпачком. Туловище робота сделано из блестящего белого и фиолетового пластика. Ног у него нет.
Лилли объявила о помолвке с inMoovator в 2016 году, она с нетерпением ждет момента, когда во Франции официально разрешат браки между роботами и людьми: тогда они смогут пожениться[477]. Лилли рассказала Лори Сигал, что впервые осознала, как ее привлекают роботы, еще в подростковом возрасте, но пыталась убедить себя, что ей должны нравиться мужчины. На вопрос, не случилось ли в ее жизни тяжелых переживаний, из-за которых она начала искать любви в отношениях с роботом, Лилли ответила отрицательно: «У меня никогда не было никакого травмирующего опыта, ни с мужчиной, ни в семье… Нельзя это так объяснять»[478]. После двух неудачных романов, когда ей было немного за двадцать, Лилли пришла к тому, что это «против ее природы»[479] – тянуться к людям; она решила, что вместо них ей нравятся роботы. «Любовь есть любовь, – заметила Лилли. – Я чувствую то же самое, что кто-то может чувствовать к мужчине или к женщине: сильную нежность, симпатию, привязанность»[480].
inMoovator не может говорить, не может поцеловать Лилли в ответ, но она надеется, что в будущем это удастся изменить, когда им будет управлять ИИ. По словам Лилли, ее обнадеживает тот факт, что потенциальные недостатки inMoovator можно исправить, внеся изменения в компьютерную программу, – в отличие от непредсказуемых недостатков человека. Она знает, что он никогда «не изменится, не солжет [или] не изменит ей». Лилли уже решила, какими станут его первые слова, когда ИИ превратит его в нечто большее, чем набор металлических и пластиковых деталей: «Я тебя люблю»[481].
Хотя Лилли именует себя «пионером робосексуальности»[482], на самом деле она даже не на передовой. Компания из Сан-Диего, которая объединяет ИИ и робототехнику для создания разработанных по индивидуальному заказу, реалистичных партнеров для секса, утверждает, что для их многочисленных клиентов эти роботы – не просто секс-игрушки, но и компаньоны для тех, кто потерял супруга или супругу, или для тех, кому сложно даются отношения с людьми[483]. Как отмечает Сигал, «мы официально вступили в новую эру. Эру, когда люди влюбляются в машины»[484].
В 2017 году профессора Нил Макартур[485] и Марки Твист[486] придумали термин «виртосексуал», или «цифросексуал» (digisexual), чтобы обозначить «людей, чья основная половая идентичность (сексуальная ориентация) реализуется благодаря использованию технологий»[487]. По мере дальнейшего размытия отношений между роботами и людьми словарь будет расширяться[488]. Макартур и Твист говорят, что нам следует учиться на ошибках прошлого и не клеймить людей с различными видами сексуальной ориентации[489].
Язык и культура стараются идти в ногу со временем, а вот законы пока отстают. В 2018 году Reuters и CNN сообщили, что директор одной японской школы «женился» на Мику Хацунэ (Hatsune Miku), говорящей и поющей виртуальной девушке-голограмме, которую он разместил в системном блоке компьютера в своей резиденции в Токио[490]. Надев очки и блестящий белый смокинг, он поцеловал куклу, похожую на Мику, на неофициальной церемонии бракосочетания, куда пригласил 39 друзей[491]. Дома голограмма Мику просыпается в своей стеклянной оболочке, когда он зовет ее по имени, и приветствует его любезностями вроде: «Добро пожаловать домой, дорогой, как прошел твой день?» и «Позволь мне спеть для тебя песню»[492]. Производитель Мику разослал своим клиентам более трех тысяч памятных «уведомлений о бракосочетании»[493].
Возможно, вы никогда не будете ходить на свидания или вступать в брак с машиной, снабженной ИИ[494]. Но сам факт, что люди, которые это делают, существуют – и хотят, чтобы это имело обязательную юридическую силу, – ставит под вопрос фундаментальные понятия законных отношений и семей. Следует ли признавать брак с машиной? Какие юридические, имущественные или налоговые права подразумевает такой брак? Запрещается ли при этом жениться или выходить замуж еще и за человека? Что повлечет за собой развод? И возможно ли изнасиловать робота?
Вступаем ли мы во взаимодействия с роботами сознательно и добровольно или нет, на самом деле у нас нет возможности «отказаться» от тем или технологий, которые вызывают у нас брезгливость. Рассредоточенная власть, заражение и мутация могут распространить эти инновации повсюду, все быстрее и быстрее, и наша обратная связь может не иметь при этом никакого значения. На момент написания этой книги несколько крупных авиакомпаний совместно с таможней и пограничной службой США тестируют факультативную «биометрическую посадку» – распознавание лиц для ускорения процесса посадки в самолет