кая перспектива, по словам Томаса, кажется ему “успокаивающей”.
Это роботизированный момент, “успокаивающий” семнадцатилетнего парня, к которому в друзья пока что набиваются юные гопники. Возможно, Томас и согласится считать программы задушевными друзьями, ведь он уже настолько снизил свои требования к беседе, что готов принять даже предложение игрового бота: изображение честности и товарищеского интереса.
И потом еще есть вопрос, насколько мы ценим “информацию”. К первому десятилетию 2000-х было просто найти старшеклассников, полагавших, что лучше обсуждать проблему свиданий в старшей школе с компьютерными программами, чем откровенничать об этом с родителями. Программы, как объясняли эти студенты, могут прибегнуть к таким обширным базам данных, о каких родителям не приходится даже мечтать. Если кто-то дает совет по поводу свиданий, он должен поставить себя на место другого человека, проникнуться его чувствами. Следовательно, когда вы беседуете с отцом о девушках, это может также стать поводом поговорить об эмпатии и этичном поведении. Даже если отцовский совет вам не помог, будем надеяться, что вы все же узнали из этого разговора нечто такое, что поможет вам улучшить ситуацию хотя бы со следующей девушкой.
Если вы предпочитаете, чтобы о беседе насчет свиданий “позаботилась” машина, это значит, что более масштабный разговор на эту тему не состоится. Он попросту не может произойти. И чем больше мы говорим о беседах как о том, что можно поручить машинам, тем больше мы, в конечном счете, обесцениваем беседы с людьми – потому что они не могут нам предложить того, что дают машины.
Я слышу, как взрослые и подростки говорят о непогрешимых “машинах, дающих советы”, способных работать с огромным количеством данных и проверенными алгоритмами. Когда мы считаем, что человеческая жизнь опирается на алгоритм, и когда совет машины становится золотым стандартом, мы перестаем чувствовать себя в безопасности, если имеем дело с людьми, не лишенными недостатков.
Услышав, как молодые люди говорят о преимуществах того, чтобы обратиться к роботам вместо родителей, я понимаю, что эти дети разочарованы в своих родителях. Если родитель ведет себя отстраненно, его детям будет непросто понять чувства других людей. Устремляясь к своим телефонам, отцы и матери, видимо, чувствуют себя свободными от тревог, возникающих из-за того, что они игнорируют детей. И если в этом новом мире вы добавляете ко всему происходящему робота-няню, это уже не кажется странной затеей. В сущности, это может восприниматься как решение. Рассеянным родителям нравятся роботы, потому что сами они отстранены. Нравятся роботы и одиноким детям, ведь роботы всегда будут рядом.
Наиважнейшая задача детства и подросткового возраста – научиться привязанности и доверию к другим людям. Этой цели можно достичь с помощью человеческого внимания, присутствия и беседы. Когда мы раздумываем, не позволить ли роботам заботиться о детях, мы забываем о том, о чем детям действительно нужно помнить: взрослые будут рядом с ними постоянно.
С точки зрения ребенка[331], узы привязанности и выражение дружбы – одно и то же. Общаясь с людьми, дети учатся со временем распознавать, как голосовые модуляции, выражения лица и движения тела становятся единым целым. Естественно. Плавно. А потом они узнают, как раскрываются слои человеческих эмоций, тоже естественно и плавно.
Детям нужно узнать, как выглядят сложные человеческие чувства и человеческая двойственность. Им также нужно, чтобы другие люди откликались на их собственные выражения этой сложности. Это наиболее ценные вещи, которые люди могут дать детям, когда беседуют с ними в период их становления. Никакой робот не в состоянии преподать такой урок.
Но мы забываем о таких вещах, когда размышляем о том, что дети проводят значительное время, беседуя с машинами, глядя в лица роботов, вверяя себя их заботам. Стоит ли играть с огнем, когда речь идет о таких деликатных вопросах?
Но мы все же играем. Это часть общей тенденции, которую я назвала “на пути от того, что лучше, чем ничего, к тому, что лучше, чем все”. Мы начинаем со смиренного признания, что общество машин все же лучше, чем ничего – например, говорим: “на эту работу не найти людей”. Потом мы превозносим возможности того, что нам может предложить симуляция, до тех пор, пока со временем не начинаем утверждать следующее: то, что мы получаем с помощью искусственных средств, может и в самом деле быть лучше, чем то, что когда-либо предложит нам живой человек. Работники по уходу за детьми могут плохо обращаться с детьми. Няни или даже матери с лучшими намерениями могут совершать ошибки. Дети говорят, что роботизированный пес вроде питомца AIBO никогда не заболеет, к тому же его можно выключить, если вы хотите обратить свое внимание на что-то другое. А главное, такой питомец никогда не умрет. Взрослые испытывают похожие чувства. Собака-робот, поясняет пожилая женщина, “не умрет внезапно, не покинет вас и не заставит грустить”.
В нашей новой культуре связи мы одиноки, но боимся близости. Фантазии о “беседе” с искусственными существами позволяют решить дилемму. Они предлагают иллюзию товарищества без требований, выдвигаемых дружбой. Они дают нам возможность представить себе версию дружбы, лишенную трений. Требования такой дружбы находятся у нас под контролем, причем, возможно, в буквальном смысле.
Я уже говорила, что технологии связи столь соблазнительны отчасти по той причине, что они откликаются на наши фантазии, наши желания всегда быть услышанными, всегда иметь возможность обратить внимание на все, чего мы захотим, и никогда не быть в одиночестве. И, конечно же, они откликаются на подразумеваемую здесь четвертую фантазию: желание никогда не скучать.
Рассказывая об этих фантазиях, люди также описывают, нередко сами того не понимая, отношения с роботом. Робот всегда внимателен к вам и всегда терпеливо относится к тому, что ваше внимание может куда-то вас увести. Он, безусловно, не будет возражать, если вы прервете беседу с ним, чтобы ответить на сообщение или звонок. И он никогда не оставит вас, хотя тут возникает вопрос: а действительно ли он был с вами? Что касается скуки, то, само собой, робот приложит все усилия, чтобы скука навсегда ушла для вас в прошлое.
Если, подобно Таре, мы решаем разделить наши огорчения с друзьями-роботами потому, что не хотим расстраивать друзей-людей, с которыми мы находимся рядом по-настоящему и с которыми и вправду что-то чувствуем, то значение человеческой дружбы изменится. Она может стать пространством, куда вы направляетесь, чтобы поболтать о пустяках, ведь вы будете опасаться, что разговор о серьезных вещах может утомить. А это значит, что разговоров о серьезных вещах не будет вовсе, ведь роботы неспособны их понять.
И все же очень многие люди делятся со мной своей надеждой: когда-нибудь (возможно, не в самом отдаленном будущем) более совершенная версия Siri станет для них подобием лучшего друга. Того, кто слушает, когда другие не слушают. Не сомневаюсь, что это желание отражает болезненную правду, которую я узнала за долгие годы моих исследований: чувство, что “никто меня не слушает”, играет большую роль в наших отношениях с технологиями. Именно поэтому многих привлекает страница в Facebook или лента Twitter: там как раз много людей, которые слушают автоматически. И чувство, что “никто меня не слушает”, заставляет нас проводить время с машинами, для которых, как нам кажется, мы что-то значим. Мы готовы принять то, как они изображают заботу и беседу, за чистую монету.
Когда инженеры-робототехники показывают видеозаписи, где люди радостно общаются с коммуникабельными роботами, тенденция состоит в том, чтобы с гордостью показывать их в моменты увлеченной игры. Такое впечатление, что нам демонстрируют небольшой триумф: смотрите, мы это сделали! У нас человек радостно общается с машиной! Но ведь в этом эксперименте именно люди оказываются “перепроектированными” экспериментальными объектами. Мы учимся принимать “как будто” беседы с машинами всерьез. “Перформативные” беседы начинают менять наше отношение к тому, что вообще считать беседой.
Мы практикуем что-то новое. Однако меняемся в этой ситуации мы сами. Нравится ли нам то, во что мы превращаемся? Хотим ли мы больше преуспеть в этом?
В ходе моего исследования произошел один роботизированный момент, который я не могу забыть, поскольку он заставил меня изменить свое мнение.
Я посещала обитателей домов престарелых и одиноких стариков и приносила им роботов, специально разработанных, чтобы служить компаньонами. Я хотела изучить их возможности. Как-то раз я увидела, как пожилая женщина, потерявшая ребенка, разговаривает с роботом, которому придали облик детеныша тюленя. Казалось, он смотрит женщине в глаза. Казалось, он следует за ходом ее мыслей. Он утешает ее. Многие участники моей исследовательской группы, сотрудники и обслуживающий персонал дома престарелых были приятно удивлены.
Эта пожилая женщина пыталась проработать боль утраты, общаясь с машиной, которая хорошо притворялась. И тут мы уязвимы: люди готовы принять за чистую монету даже притворную симпатию. Но роботы не в состоянии проявлять эмпатию. Они не сталкиваются со смертью и не знают жизни. И поэтому меня вовсе не обрадовало, что пожилая женщина находит утешение в роботе-компаньоне. Напротив, я почувствовала, что мы бросили эту женщину на произвол судьбы. То, что я была частью этого эксперимента, оказалось одним из самых тяжелых переживаний за все пятнадцать лет моих исследований в области коммуникабельной робототехники.
Для меня это стало поворотным моментом: я чувствовала энтузиазм своей команды, а также сотрудников дома престарелых. Там было столько людей, готовых помочь, но все мы стояли сложа руки, превратившись в толпу зрителей, и все ради того, чтобы посмотреть, как старый человек устанавливает дружеский контакт с машиной. Казалось, все мы кровно заинтересованы в аутсорсинге того, что лучше всего удается нам самим: речь идет о понимании друг друга, о заботе друг о друге.