Виноград намеревался сделать систему, которая могла бы отвечать на вводимые с клавиатуры команды на естественном языке и выполнять полезные операции. Тогда уже ясно обозначилась волна первых экспериментов по созданию диалоговых программ. Программу Eliza, написанную ученым-компьютерщиком из Массачусетского технологического института Джозефом Вейценбаумом в 1964 и 1965 гг., назвали в честь Элизы Дулитл, которая училась правильно говорить по-английски в «Пигмалионе» Бернарда Шоу и в мюзикле «Моя прекрасная леди». Eliza была прорывным экспериментом в исследовании взаимодействия человека с машинами: она позволяла пользователям разговаривать с компьютером, как с человеком. Чтобы обойтись без реальных знаний, Eliza имитировала роджерианский подход в психологии и часто преобразовывала фразы пользователей в вопросы. Беседа была в основном односторонней, поскольку Eliza могла отвечать лишь на определенные ключевые слова и фразы. Этот подход приводил к крайне нелогичным выводам и странным отклонениям. Так, на фразу пользователя, где фигурировали слова «их мать», Eliza отвечала вопросом: «Вы имеете в виду свою мать?» Неожиданно для Вейценбаума пользователи Eliza настолько увлекались беседами с программой, что даже рассказывали глубоко личные детали. Это было удивительное откровение, касающееся не машин, а человеческой природы. Как оказалось, люди склонны очеловечивать практически все, с чем они взаимодействуют, от неодушевленных объектов до программ, имитирующих человеческий интеллект.
Может ли случиться так, что в кибербудущем все более изолированным друг от друга людям останется лишь общаться с суррогатным компьютерным интеллектом? Каким будет этот мир? Возможно, таким, какой показан в фильме 2013 г. «Она», где застенчивый парень общается с искусственным интеллектом. Сегодня все еще не ясно, станет ли появление киберпространства огромным шагом вперед для человечества, как рисуют киберутописты, например поэт Джон Барлоу в своей опубликованной в журнале Wired в 1996 г. «Декларации независимости киберпространства» (A Declaration of the Independence of Cyberspace). Или это будет намного более холодный мир, описанный Шерри Теркл в книге «Одинокие вместе: Почему мы ожидаем от технологий большего, чем друг от друга» (Alone Together: Why We Expect More from Technology and Less from Each Other)? По Барлоу, киберпространство станет утопическим миром без преступлений и деградации «реального мира». Теркл описывает мир, в котором компьютерные сети все более и более разделяют людей, оставляя их в одиночестве и изоляции. На взгляд Вейценбаума, вычислительные системы могут существенно уменьшать общение людей. Почти в том же ключе, что и марксистский философ Герберт Маркузе, клеймивший развитое индустриальное общество, он опасается, что грядущая информационная эра породит «одномерного человека».
После создания Eliza группа ученых Массачусетского технологического института, включая основоположника теории информации Клода Шеннона, собралась в Конкорде, штат Массачусетс, чтобы обсудить социальные последствия этого явления{130}. Привлекательность взаимодействия с Eliza беспокоила Вейценбаума, который усматривал в чрезмерной ориентации на технологии признаки морального падения общества. Корни такого взгляда восходят ко временам его детства в нацистской Германии. В 1976 г. он изложил гуманистическую критику компьютерной технологии в книге «Возможности вычислительных машин и человеческий разум: От суждений к вычислениям» (Computer Power and Human Reason: From Judgment to Calculation). В ней не было доводов против возможности создания искусственного интеллекта, она предъявляла страстные обвинения автоматизированным системам, которые принимают решения вместо человека. Автор утверждал, что компьютеры являются консервативной силой в обществе, поддерживают бюрократию и превращают мир в тесное и бесплодное место, ограничивая потенциал человеческих отношений.
Критика Вейценбаума так и не нашла отклика в Соединенных Штатах. Годы спустя его идеи получат большее понимание в Европе, куда он переедет в конце жизни, но тогда в США, где внедрялись новые компьютерные технологии, было больше оптимизма в отношении искусственного интеллекта.
В конце 1960-х гг. аспирант Виноград попал в тепличную атмосферу Лаборатории искусственного интеллекта Массачусетского технологического института, места рождения культуры программистов-фанатиков, которая привела к появлению PC и идеологии «свободы обмена информацией», а позже движения 1990-х гг. за открытую среду. Многие в лаборатории строили карьеру на вере в то, что дружелюбные и автономные интеллектуальные машины скоро станут реальностью. Eliza, а позднее и SHRDLU Винограда стали прямыми предшественниками более сложных электронных личных помощников, появившихся в последующие десятилетия. В Массачусетском технологическом институте уже предпринимались попытки строить микромиры или «блочные миры» – ограниченные смоделированные среды, в которых исследователи могли создавать программы, способные судить об окружающей обстановке и планировать действия. Иногда использовались даже реальные манипуляторы и блоки. Когда Виноград начал работать над своим проектом, уже создавалась система заказа авиабилетов, но это не очень интересовало его. Он собирался построить собственную ограниченную среду для исследований и рационализации и выбрал для нее форму виртуального компьютерного мира.
Виноград создал компьютерную модель мира, населенного цветными блоками, которые можно было исследовать и которыми можно было управлять с помощью языка программирования под названием Micro-Planner, основанного на работах аспиранта Массачусетского технологического института Карла Хьюитта. Учитывая сравнительно невысокий уровень развития вычислительной техники в то время, во многом приходилось полагаться на воображение. Наглядного графического представления мира блоков не было. Пользователь просто сидел у терминала Teletype и вводил вопросы с клавиатуры, а компьютер отвечал на естественном языке. Виноград выбрал название SHRDLU потому, что ничего лучше не пришло в голову. Позже он сказал, что последовательность букв SHRDLU, наверное, сидела у него в подсознании. Последовательность «etaoin shrdlu» – самые ходовые в английском языке буквы – располагается на левой стороне клавиатуры линотипа, как «1qaz 2wsx» в пишущей машинке. Эта последовательность символов время от времени мелькала в шутку в журнале Mad как якобы случайно проскочившая при печати строка. У линотипа, который отливает всю строку из расплавленного металла, не было клавиши Backspace. Поскольку завершить отливку строки с ошибкой быстрее, чем заниматься исправлением, наборщики обычно «заполняли» оставшуюся часть строки бессмысленным набором символов и удаляли всю строку, когда она застывала, а если забывали это сделать, то уповали на то, что корректор выловит ее{131}.
В то время Винограда мало заботили этические последствия создания системы обработки естественного языка, которая могла «понимать» и отвечать в виртуальном мире. В SHRDLU «понимание» означало, что программа анализировала структуру введенных вопросов и пыталась ответить на них и отреагировать на команды. Это была одна из первых попыток справиться с неоднозначностью – проблемой обработки естественного языка, сложной для решения даже сегодня. Например, к чему относится местоимение «он» в предложении «стакан поставили на стол, и он сломался», к стакану или столу? Без контекста ни человек, ни искусственный интеллект не могут этого определить.
Система Винограда опиралась на общие знания о своем микромире при ответе и реагировании на вопросы. В диссертации Виноград приводил следующий пример диалога:
Человек: Подними большой красный блок.
Компьютер: ОК.
Человек: Возьми пирамиду.
Компьютер: Я не понимаю, какую пирамиду вы имеете в виду.
Человек (передумав): Найди блок, который выше того, что ты держишь, и положи его в коробку.
Компьютер: Я полагаю, что «его» означает блок, который выше, чем тот, который держу я.
Компьютер: ОК.
Человек: Что в коробке?
Компьютер: Синяя пирамида и синий блок.
Человек: На чем стоит пирамида?
Компьютер: Коробка.
Человек: Сколько блоков не в коробке?
Компьютер: Четыре.
Человек: Есть ли среди них более узкий, чем тот, который я велел взять?
Компьютер: Да, красный куб{132}.
В 1970 г. после завершения работы программа SHRDLU стала одной из самых успешных демонстраций потенциала искусственного интеллекта, возможно, слишком успешной. Годы спустя это детище Винограда обвинили в том, что оно способствовало появлению слишком оптимистического представления о возможности «масштабирования» подобных программ для решения проблем реального мира. Например, в 1980–1990-х гг. сообщество искусственного интеллекта в целом верило, что можно создать машину с умственными способностями по крайней мере ребенка детсадовского возраста путем простого накопления практических правил.
Впрочем, критика оптимистов искусственного интеллекта началась еще до того, как Виноград создал SHRDLU. Если выступления Вейценбаума касались этической стороны создания интеллектуальных машин, то вопрос принципиальной возможности таких машин вызывал более горячие споры. Сеймур Пейперт, научный руководитель Винограда, спорил с Хьюбертом Дрейфусом, философом и последователем Хайдеггера[14]. Дрейфус всего через десятилетие после того, как Маккарти ввел термин «искусственный интеллект» в употребление, высмеял это направление в статье «Алхимия и искусственный интеллект» (Alchemy and Artificial Intelligence), изданной в 1965 г. RAND Corporation{133}. (В его честь в ремейке 2014 г. кинофильма «Робокоп» (RoboCop) вымышленного американского сенатора, сторонника закона о запрете роботов-полицейских, назвали Хьюбертом Дрейфусом.)