Конфликт у Дрейфуса с исследователями искусственного интеллекта возник в начале 1960-х гг., когда они появились на его курсе по философии Хайдеггера и уничижительно отозвались о философах из-за того, что те так и не поняли интеллект человека, хотя изучали его на протяжении столетий{134}. Это неуважение он не забыл и на четыре десятилетия стал самым непримиримым критиком искусственного интеллекта. Его главный аргумент прозвучал в выпаде против двух исследователей искусственного интеллекта из Стэнфорда: «Фейгенбаум и Фельдман утверждают, что ощутимый прогресс действительно достигнут, но определяют его очень осмотрительно как „приближение к конечной цели“. С таким определением первый человек, который взобрался на дерево, мог говорить об ощутимом прогрессе на пути к полету на Луну»{135}. Три года спустя Пейперт дал ответ на это в статье «Искусственный интеллект Хьюберта Дрейфуса – собрание ошибок» (Artificial Intelligence of Hubert L. Dreyfus, A Budget of Fallacies). «Беспокоит не то, что Дрейфус вводит метафизику в область техники, а то, что его высказывания безответственны, – писал он. – Его факты почти всегда неправильны; его представление о программировании настолько ограниченно, что он относит к невозможным программы, которые может написать новичок; а его невосприимчивость к логике позволяет принимать собственную неспособность представить, как можно реализовать конкретный алгоритм, за основание считать, что никакой алгоритм не может достичь нужной цели»{136}.
Виноград в конечном счете полностью разошелся с Пейпертом, но произошло это через много лет. Он приехал в Стэнфорд как преподаватель в 1973 г., когда его жена, врач, приняла предложение стать ординатором в районе залива Сан-Франциско. Это случилось всего через два года после того, как Intel представила первый коммерческий микропроцессор 4004, а журналист Дон Хефлер в своем бюллетене Microelectronics News ввел в употребление название «Кремниевая долина США». Виноград еще несколько лет развивал идею понимания машиной естественного языка в ключе SHRDLU. Сначала он проводил почти половину своего времени в Исследовательском центре компании Xerox в Пало-Альто, работая с Дэнни Боброу, другим исследователем, интересовавшимся проблемой понимания естественного языка. В марте 1975 г. Xerox открыла новое красивое здание неподалеку от Стэнфорда, так как это обеспечивало компании легкий доступ к лучшим программистам. Позже Виноград говорил друзьям: «Вы ведь знаете все разработки PARC в области PC? Так вот, я работал совсем не над этим».
Виноград работал над углублением и развитием исследования, которым он занимался в Массачусетском технологическом институте и которое принесет плоды лишь четыре десятилетия спустя. В 1970-х гг. эта задача казалась невыполнимой, и многие задавались вопросом, сможет ли наука когда-нибудь разобраться, как люди понимают язык. После того как Виноград потратил на проблему компьютерной обработки языка полдесятилетия, его стал одолевать скептицизм в отношении возможности реального развития искусственного интеллекта. Он отошел от этой сферы не только из-за незначительности успехов, но и в какой-то мере под влиянием нового друга, чилийского политического беженца по имени Фернандо Флорес, а также знакомства с группой философов из Беркли во главе с Дрейфусом, намеревавшейся разоблачить рекламную шумиху вокруг нарождающейся индустрии искусственного интеллекта. Истинный технократ, Флорес был министром финансов в правительстве Альенде и чудом спасся из своего офиса во дворце при бомбардировке во время мятежа. Прежде чем попасть в Соединенные Штаты, он провел три года в тюрьме, но его выпустили в результате кампании, развернутой Amnesty International. Стэнфорд назначил Флореса консультантом по информатике, но он уехал из Пало-Альто работать над докторской диссертацией в Беркли под руководством квартета настроенных против искусственного интеллекта философов: Хьюберта и Стюарта Дрейфусов, Джона Сирла и Энн Маркуссен.
Виноград считал Флореса одним из самых ярких интеллектуалов, которых он когда-либо встречал. Виноград вспоминал: «Мы начали разговаривать, он дал мне книгу по философии науки и сказал: "Вы должны прочитать это". Я прочитал ее, мы начали обсуждать эту тему, решили написать работу по ней, получилась монография, которая превратилась в книгу. Это был процесс пробуждения интереса к нему и осознания того, что наши разговоры интеллектуально обогащают»{137}. Из бесед с Флоресом молодой программист понял причину своей неудовлетворенности тем, что воспринимал как «идеологию» искусственного интеллекта. Флорес был согласен с харизматичным Вернером Эрхардом, организация которого «Учебные семинары Эрхарда» (Erhard Seminars Training – EST) имела в 1970-е гг. множество последователей в районе залива Сан-Франциско. (В Стэнфордском научно-исследовательском институте Энгельбарт отправил весь штат своей лаборатории на тренинг в EST и вошел в совет директоров организации.)
Хотя компьютерный мир в то время был крошечным, противоречия подходов Маккарти и Мински, с одной стороны, и Энгельбарта – с другой, были очень осязаемыми. PARC работала над персональным компьютером; Стэнфордская лаборатория искусственного интеллекта занималась всем – от манипуляторов и мобильных роботов до программ для игры в шахматы. В недавно переименованном Стэнфордском исследовательском институте (который стали называть SRI из-за антивоенных протестов студентов) исследователи работали над широким спектром проектов – от системы NLS Энгельбарта и робота Shakey до распознавания речи и «умного» оружия. Виноград приезжал в Беркли для неофициальных встреч за ланчем с философами Сирлом и Дрейфусом, их аспирантами и Фернандо Флоресом. Хьюберт Дрейфус выступал против оптимистических предсказаний исследователей искусственного интеллекта, а Джон Сирл шел дальше и ставил один из самых острых философских вопросов XX в.: действительно ли возможно построить думающую машину?
Умевший привлечь внимание блестящий лектор Сирл никогда не уклонялся от спора. До того как заняться преподаванием философии, он был политическим активистом. Во время учебы в Висконсинском университете в 1950-х гг. он состоял в организации «Студенты против Джозефа Маккарти[15]», а в 1964 г. стал первым штатным сотрудником Беркли, который присоединился к «Движению за свободу слова». Еще когда Сирл был молодым философом, его привлекала междисциплинарная область – когнитивистика. В то время считалось, что биологический разум является аналогом оживляющего машины программного обеспечения. В этом случае понимание процессов мышления человека становилось просто вопросом разгадывания программы, заложенной в миллиардах переплетенных нейронов человеческого мозга.
Фонд Слоуна направил Сирла в Йельский университет, чтобы обсудить тему искусственного интеллекта. В самолете тот начал читать книгу об искусственном интеллекте, написанную Роджером Шанком и Робертом Абелсоном, ведущими исследователями Йеля во второй половине 1970-х гг. В их книге «Сценарии, планы, цели и понимание» (Scripts, Plans, Goals and Understanding){138} говорилось, что программы искусственного интеллекта могли «понимать» истории, составленные их разработчиками. Например, разработчики могли предложить компьютеру простую историю, описывающую, как человек идет в ресторан, заказывает гамбургер, а затем убегает, не заплатив за него. В ответ на вопрос программа делала вывод, что человек не съел гамбургер. «Здесь что-то не так, – подумал Сирл. – Получается, что мне предлагают историю на китайском языке со множеством правил расстановки символов, я не понимаю ни слова по-китайски, но все равно могу дать правильный ответ»{139}. На его взгляд, из этого не следовало, что компьютер способен понимать что-либо в результате простого умения интерпретировать набор правил.
Так, по пути в Йель у него родился аргумент против разумных машин, названный «китайской комнатой». Сирл исходил из того, что никаких смоделированных «мозгов в коробке» существовать не может. Его аргумент отличался от критики Дрейфуса, который утверждал, что невозможно добиться от программ искусственного интеллекта эффективности, сопоставимой с человеком. Сирл просто указывал, что компьютер всего лишь очень быстрое средство перебора символов, использующее ряд синтаксических правил. Чего ему не хватает, так это способности биологического разума интерпретировать семантику. Биологические корни семантики, постижения смысла, остаются загадкой. Аргумент Сирла приводил представителей сообщества искусственного интеллекта в бешенство в какой-то мере потому, что связывал их доводы с теологическим представлением о разуме как о сущности за пределами физического, биологического мира. По мнению Сирла, умственная деятельность полностью определяется биологическими процессами в мозге и реализуется в нем, и думающая машина должна копировать, а не моделировать эти процессы. В тот момент Сирл полагал, что его возражение восприняли и на дискуссию не потребуются недели, не говоря уже о десятилетиях. Но все произошло с точностью до наоборот. Реакцией на первую статью Сирла стали 30 опровержений. И даже три десятилетия спустя дискуссия далека от завершения. Число публикаций с критикой его идеи достигло к настоящему моменту нескольких сотен. Сирл по-прежнему здравствует и продолжает защищать свою позицию.
Нужно также заметить, что дискуссии за ланчем о возможности создания интеллектуальных и предположительно обладающих самосознанием машин велись на фоне наращивания военного потенциала при Рейгане. Война во Вьетнаме закончилась, но активные группы политически несогласных еще сохранялись по всей стране. Философы собирались на перекрестке через дорогу от университетского городка в Беркли. Виноград и Дэнни Боброу из Xerox PARC стали постоянными участниками этих дискуссий, и Виноград заметил, что они шли вразрез с его представлениями о философских основах искусственного интеллекта.