Шерри Теркл
Профессор социологии науки и технологий фонда Эбби Рокфеллер Мозе Массачусетского технологического института. Автор книги Alone Together («Одиноки вместе»).
В начале 1980-х я брала интервью у молодого студента, который учился у Марвина Мински, одного из создателей искусственного интеллекта. По словам студента, его учитель и кумир Мински пытался создать настолько прекрасную машину, чтобы «душа захотела поселиться в ней». Но в последнее время мы настроены скорее не метафизически, а прагматично. Мы изобретаем роботов для заботы о пожилых людях, роботов-нянь, роботов-учителей или секс-роботов. То есть, переиначивая слова Мински, мы пытаемся изобрести не машину с живой душой, а машину, с которой мы сами захотим жить. Мы пытаемся создать машину, которую человек мог бы полюбить.
Мечта об искусственном наперснике или возлюбленном смешивает такие сферы, которые лучше не смешивать. У человека есть тело и жизненный цикл, люди живут семьями и переходят от зависимости к независимости. Это дает им опыт привязанности, потерь, боли, страха за здоровье – и, в конце концов, опыт смерти – особый опыт, недоступный роботам. Я не говорю, что машины не могут настолько «поумнеть» или научиться огромному количеству вещей – они способны выучить многое, больше, чем мы можем предположить. Но на роль друга и объекта любовной привязанности они не подходят.
Однако машина-ассистент для физической помощи человеку, будь то обеспечение безопасности, помощь в уборке, да хоть бы достать вещи с верхних полок, – это прекрасная идея. Машина-компаньон, с которой можно было бы поболтать о человеческих взаимоотношениях, – эта идея уже не настолько хороша. Разговоры об отношениях характерны для нашего конкретного биологического вида. Такие беседы основаны на том, что обе стороны обладают опытом, который может дать лишь человеческое тело – его ограничения и его жизненный цикл.
Мы начинаем об этом забывать.
Мы забываем о заботе друг о друге и о беседе, которая возможна лишь между человеком и человеком. Английское слово conversation («беседа») происходит от глагола to converse, одно из значений которого – «склоняться, тянуться друг к другу». Для общения нам нужно слушать собеседника, ставить себя на его место, читать сигналы его тела, слышать голос, интонацию, понимать его молчание. Мы высказываем то, что нас волнует, и делимся своим опытом, ожидая того же в ответ. Робот, который делится информацией, – это отлично. Но если нужны друг и взаимная эмпатия, то «склоняться» лучше к человеку.
Когда мы думаем, например, о роботе-няне, то забываем, что дети лучше всего развиваются, когда чувствуют заботу, надежную и постоянную. Находясь среди людей, дети узнают, как сочетаются движения и речь, смысл высказываний, голос, интонации, выражения лиц и положения тел. Дети учатся многоуровневым человеческим эмоциям, их неочевидным оттенкам и сочетаниям. Ни один робот не может этому научить.
В наших разговорах о роботах-компаньонах есть паттерн, который я называю «от „лучше, чем ничего“ до „лучше всего“». Принято считать, что робот-компаньон «лучше, чем одиночество». Мол, совсем не так много людей хотят работать сиделкой или нянькой. И затем перечисляются преимущества привлечения к этой работе механических «заменителей». И по ходу рассуждений получается, что от искусственного помощника будто бы можно ожидать даже большего, чем от живого человека. Воспитатель может обидеть ребенка. Медсестра может ошибиться, санитары и сиделки подчас недостаточно умны и не получили хорошего образования.
Увлечение роботами-помощниками говорит о страхах, которые мы испытываем по отношению к другим людям. Нам кажется, что искусственный интеллект – это безопасное средство от одиночества. Мы опасаемся, что в будущем некому будет о нас заботиться. Роботы нас привлекают иллюзией компании без сложностей и ответственности дружбы. Более того, люди полагают, что со временем роботы смогут предложить и иллюзию любви без интимности. Мы помещаем роботов туда, где им не место, не потому, что они там должны быть, но из-за того, что мы разочарованы в себе подобных.
На протяжении длительного времени надежда на искусственный интеллект или на роботов была выражением стойкого технологического оптимизма – веры в то, что даже если все пойдет не так, то наука быстро все исправит и снова сделает все правильно. В сложном мире роботы всегда казались средством быстрого разрешения проблем. Роботы спасают жизни в зоне военных действий, в операционных; они функционируют и в космосе, и в пустыне, и в море – там, где человеческое тело может не справиться. Но мы ищем искусственного компаньона не для каких-то особых подвигов, а для других, менее замысловатых целей.
Каковы эти цели? Мы верим в то, что искусственный интеллект сможет стать нам другом. Что разговоры с нами станут призванием роботов, а нам будут приятны их компания и беседа.
За последние 15 лет исследований я видела, как эта надежда поддерживается и крепнет, даже несмотря на то, что у большинства людей нет опыта общения с искусственным компаньоном. Или же их опыт сводится к «разговорам» с приложениями на телефоне, такими как Siri, понимающими такие вопросы, как «Найти ресторан» или «Определить местонахождение друга». Мое исследование показывает, что даже такое простое общение заставляет нас думать о приложении как о друге, даже лучшем друге с некоторыми идеальными чертами: с ним всегда можно поговорить, он никогда не злится и его невозможно разочаровать.
Когда люди говорят о дружбе без взаимности, о друге, который всегда будет «под рукой», простые решения, достигнутые при помощи искусственного компаньона, не кажутся мне такими уж простыми. Чтобы идея об искусственном друге стала новой нормой, мы должны изменить себя, а в процессе мы изменим и человеческие ценности, и то, как устанавливаются связи между людьми. Мы меняем сами себя еще до появления разумных машин. Мы думаем, что создаем новые машины, но на самом деле мы заново создаем людей.
Искусственный интеллектРоджер Шенк
Теоретик искусственного интеллекта; исполнительный директор компании Engines for Education. Автор книги Teaching Minds («Обучение разума»).
Да, ужасное название, но ведь и сама идея не лучше. Плохие идеи приходят и уходят, но история о том, что мы скоро научимся создавать машины, которые будут «совсем как люди», господствует в популярной культуре уже длительное время. Почти каждый год на экраны выходит новое кино с новым роботом, который «совсем как человек». Но в реальной жизни такой робот не появится никогда. И дело не в том, что искусственный разум сам по себе не работает. Просто никто толком и не пытался пока его создать.
Оксфордский физик Дэвид Дойч сказал:
Ни один мозг на Земле и близко не подошел к тому, чтобы понять, как работает мозг. Попытка добиться этого искусственным путем – в области «искусственного интеллекта» – за все шестьдесят лет существования данного научного направления не добились абсолютно никакого прогресса[66].
Дойч при этом считает, что машины, умеющие думать как человек, все же когда-нибудь появятся.
Позвольте мне взглянуть на это заявление в ином свете. Будут ли у нас когда-нибудь машины, испытывающие такие же эмоции, как человек? Если задать этот вопрос кому-то из тех, кто работает в индустрии создания искусственного разума, вам могут рассказать о том, как мы уже можем заставить компьютер смеяться, плакать или сердиться. Но в самом деле испытывать чувства?
Или давайте поговорим о способности обучаться. Компьютер ведь может обучаться, не так ли? Это и есть искусственный разум. О машине нельзя сказать, что она умна, если она неспособна обучаться. Но если машинное обучение уже позволяет научить компьютер играть в «Свою игру» или предоставлять вам данные о привычках покупателей, означает ли это, что искусственный разум вот-вот родится?
Термин «искусственный интеллект» заставил многих далеких от этой области людей воображать для него такие цели, какие перед искусственным разумом никогда не стояли. Отцы-основатели научной области искусственного интеллекта (за исключением Марвина Мински) были одержимы шахматами и решением головоломок (одной из самых популярных была «Ханойская башня»). Играющая в шахматы машина просто играет в шахматы. Она не умеет думать, и не скажешь, что у нее есть ум. И конечно, она действует не как человек. Шахматный компьютер не будет играть хуже от того, что он накануне выпил лишнего или поругался с женой.
Почему все это важно? Потому что любой проект, цель которого представляется окружающим иной, чем она есть на самом деле, обречен на провал. Основатели индустрии искусственного интеллекта и те, кто работает в ней сегодня (включая меня), хотели и хотят заставить компьютеры делать то, что они сегодня делать не могут, надеясь, что эти усилия помогут узнать что-либо новое. Или что в результате этих усилий вдруг будет создано нечто полезное. Компьютер, способный поддержать разумную беседу, потенциально может оказаться полезным. Я сейчас работаю над программой, которая будет способна вести с пользователем разумную беседу на медицинские темы. Но разумна ли эта программа? Нет. У нее отсутствует самосознание. Она не знает, что она говорит, и не знает, что она знает. Мы зациклились на глупой идее умной машины и искусственного разума, и это создает у окружающих неверное представление о реальных проблемах.
Я объявляю, что искусственный интеллект мертв. Научную область «создания искусственного интеллекта» следует переименовать в «попытки заставить компьютеры делать реально крутые вещи». Но, конечно же, никто ее не переименует. У вас никогда не будет дружелюбного домашнего робота, с которым можно будет вести осмысленную беседу. Мне довелось в этом году быть судьей на ежегодном конкурсе AI Loebner (конкурс на премию Лёбнера), в котором компьютерные программы соревнуются в прохождении теста Тьюринга