ЭВОЛЮЦИЯ СМЫСЛА
1. Поиски подлинного смысла
– Когда Я беру слово, оно означает то, что я хочу, не больше и не меньше, – сказал Шалтай презрительно.
– Вопрос в том, подчинится ли оно вам, – сказала Алиса.
– Вопрос в том, кто из нас здесь хозяин, – сказал Шалтай-Болтай.
В философии нет проблемы, которой уделяли бы больше внимания, чем проблеме смысла во всем многообразии ее проявлений. В заоблачных высях философы всевозможных школ сражаются с важнейшим вопросом о смысле жизни (и пытаются понять, есть ли смысл задаваться этим вопросом). В подлунном мире современные философы-аналитики (чью дисциплину непосвященные иногда называют «философией языка») в рамках весьма различных проектов дотошно анализируют нюансы значений отдельных слов и целых высказываний. В 1950–1960‐х годах школа «философии обыденного языка» внимательнейшим образом изучала мельчайшие различия между конкретными словами: упомянем лишь знаменитый пример о разнице между «сознательным», «предумышленным» и «нарочитым» поступками725. За этими изысканиями последовали более формальные и систематические исследования. Какую пропозицию можете вы иметь в виду, произнося такие, к примеру, предложения, как:
Том полагает, что Орткатт – шпион.
И какая теория объясняет различия между их исходными посылками, контекстами и подтекстами? Такого рода проблему решает одна из ветвей философии языка, которую подчас называют «спецподразделением пропозициональной установки»: среди последних парадигмальных трудов этих исследователей – работы Пикока726 и Ричарда727. Начало другой серии исследований было положено теорией «неестественного значения» Пола Грайса728. То была попытка определить условия, в которых конкретное поведение имеет не только естественное значение (где есть дым, есть и огонь; где слезы, там и печаль), но и то значение, которым обладает речевой акт с его элементом условности. В каком состоянии должен находиться говорящий (или слушающий), чтобы высказывание означало хоть что-то – или нечто определенное? Или, иными словами, каково отношение между психологией актора и смыслом используемых им слов?729
Все программы исследований в этой области философии исходят из предположения о существовании единственного вида смысла (возможно, имеющего множество различных подвидов), зависимого от языка. До появления слов смысла у слов не было, даже если и существовали иные виды смыслов. Еще одно рабочее допущение, особенно распространенное среди англоязычных философов, состоит в том, что до тех пор, пока мы не разберемся, каким образом слова могут иметь смысл, мы вряд ли далеко продвинемся в исследовании других видов смыслов, и в особенности столь обескураживающих проблем, как смысл жизни. Но у этого разумного допущения обычно есть излишний и деструктивный побочный эффект: сконцентрировавшись, прежде всего, на лингвистическом значении, философы исказили свое представление о разуме, от которого зависят эти слова, думая о нем скорее как о чем-то sui generis, а не о принадлежащем природному миру феномене, возникшем в результате эволюции. Это в особенности проявляется в сопротивлении, оказываемом философами эволюционным теориям значения – теориям, стремящимся установить, что значения слов и все тем или иным образом лежащие за ними состояния сознания в конечном счете укоренены в плодородной почве биологической функции.
С одной стороны, немногие философы (если такие вообще были) захотели отрицать очевидный факт: люди – результат эволюции, и их способность говорить и тем самым вкладывать в высказывания смысл (в соответствующем значении) определяется набором специфических адаптаций, не разделяемых ими с другими возникшими в результате эволюции видами. С другой стороны, философы неохотно рассматривают гипотезу, что эволюционное мышление могло бы пролить свет на их специфические вопросы о том, каким образом обладают смыслом слова и их источники и цели в человеческом разуме или мозгу. Из этого правила есть немаловажные исключения. Уиллард ван Орман Куайн730 и Уилфрид Селларс731 разрабатывали функционалистские теории значения, прочно (хотя и лишь в первом приближении) укорененные в биологии. Однако Куайн слишком надежно прицепил свой вагон к поезду бихевиоризма, которого придерживался его друг, Б. Ф. Скиннер, и в течение тридцати лет был вынужден (без особого успеха) убеждать философов в том, что его утверждения нельзя опровергнуть путем уничижительной критики любых видов алчного редукционизма, обрушивавшихся на Скиннера и всех бихевиористов когнитивистами, захватывающими плацдарм под руководством Хомского и Фодора732. Селларс, отец «функционализма» в философии сознания, говорил все правильно, но его слова трудны для восприятия, и когнитивисты их, как правило, игнорировали733. Ранее Джон Дьюи ясно дал понять, что дарвинизм следует рассматривать как основание любой натуралистической теории значения.
Никакое описание Вселенной с точки зрения всего лишь перераспределения материи в движении не является полным, вне зависимости от того, насколько оно соответствует истине в доступных для него границах, ибо игнорирует ключевой факт: характер материи в движении и ее перераспределения таков, чтобы кумулятивно достигать цели – чтобы повлиять на известный нам мир ценностей. Если вы отрицаете это – вы отрицаете эволюцию; если вы это признаете, то вы признаете существование цели в единственно объективном (то есть в единственно разумном) смысле этого слова. Я не говорю, что в дополнение к этому механизму существуют иные оказывающие воздействие идеальные причины или факторы. Я лишь настаиваю на том, чтобы рассматривать историю полностью – характер механизма (а именно то, что он таков, что производит и поддерживает различные формы благ) следует принимать в расчет734.
Заметьте, как осторожно Дьюи пролагает путь меж Сциллой и Харибдой: он не апеллирует ни к каким небесным крючьям («идеальным причинам или факторам»), но нам не следует полагать, что мы можем разобраться в непроинтерпретированной версии эволюции, эволюции, которой не приписано никаких функций, в которой не усматриваются никакие смыслы. Не так давно мы с несколькими другими философами ясно изложили несколько специфически эволюционных описаний рождения и поддержания смысла, как в языке, так и до его появления735. Версия Рут Миликан, безусловно, является наиболее аккуратной и изобилует выводами, важными для понимания деталей других упомянутых выше философских подходов к проблеме смысла. Различия между нашими позициями представляются ей более существенными, чем мне, но они быстро преодолеваются736, и я надеюсь, что эта книга сблизит наши взгляды еще сильнее. Однако здесь не место говорить об оставшихся между нами разногласиях, ибо они второстепенны в контексте более масштабного сражения, битвы, которую мы еще не выиграли, боя за хоть какую-нибудь эволюционную теорию смысла.
Нам противостоят именитые противники, чей союз, правда, может показаться неожиданным: Джерри Фодор, Хилари Патнэм, Джон Сёрль, Сол Крипке, Тайлер Бёрдж и Фред Дрецке, – каждый из них по-своему противостоит как эволюционной теории смысла, так и идее искусственного интеллекта. Все эти шесть философов возражали против искусственного интеллекта, но Фодор с особенной прямотой ниспровергал эволюционную теорию смысла. Его филиппики против каждого натуралиста со времен Дьюи737 зачастую довольно забавны. Например, высмеивая мои взгляды, он говорит: «Плюшевые мишки искусственны, как и настоящие медведи. Одних набиваем мы, других – Мать-Природа. Философия полна сюрпризов»738.
Согласно Шалтаю Болтаю, мы сами наделяем слова смыслом – но откуда мы его берем? Фодор и другие перечисленные выше философы озабочены тем, чтобы противопоставить настоящее значение и его суррогат, «сущностную» или «изначальную» интенциональность и интенциональность производную. Что ж, пусть Фодор стремится высмеять идею организмов как артефактов, ибо это позволяет нам занять позицию, с которой основной недостаток его воззрений, от которого несвободны и воззрения остальных пяти его соратников, можно будет выявить в ходе мысленного эксперимента739.
Представьте автомат, продающий прохладительные напитки, разработанный и изготовленный в Соединенных Штатах, и снабженный стандартным датчиком, принимающим и отвергающим американские четвертаки. Назовем этот прибор «четвертачником». Когда в него кидают четвертак, тот обычно переходит в состояние – скажем, состояние Q, которое «означает» (обратите внимание на кавычки): «Сейчас я воспринимаю/принимаю подлинный американский четвертак». Такие приборы достаточно «хитроумны» и «изощренны». (Еще кавычки; мысленный эксперимент начинается с предположения, что такого рода интенциональность не является настоящей, и демонстрирует, к каким затруднениям такое предположение приводит.) Однако приборы эти вряд ли защищены от ошибок. Если говорить, не прибегая к метафорам, то иногда они переходят в состояние Q, когда в них засовывают пластиковый жетон или иной посторонний предмет, а иногда отвергают совершенно настоящие четвертаки – не переходят в состояние Q, хотя ситуация того требует. Несомненно, можно проследить закономерности, в соответствии с которыми совершаются эти «ошибки восприятия». Без сомнения, по крайней мере некоторые из случаев «ошибочной идентификации» могли бы быть предсказаны тем, кто обладает достаточными знаниями о соответствующих законах физики и параметрах конструкции прибора. Иными словами, из законов физики следует, что объекты вида K переведут прибор в состояние Q с тем же успехом, что и четвертаки. Объекты вида K будут хорошими «фальшивками», неизменно «обманывающими» датчик.
Если объекты вида K станут более распространенными в обычном окружении датчиков, следует предположить, что их владельцы и разработчики изобретут более сложные и чувствительные датчики, способные эффективно отличать подлинные американские четвертаки от подделок вида K. Разумеется, в этом случае могут появиться более изощренные фальшивки, и датчики придется делать еще более чувствительными. В какой-то момент такая «гонка вооружений» станет экономически невыгодной, ибо абсолютно надежных механизмов не существует. Тем временем инженеры и обыватели мудро удовольствуются стандартными, элементарными приборами, ибо защищаться от угроз, которыми можно пренебречь, нерационально.
Единственное, что делает прибор скорее детектором четвертаков, чем детектором фальшивок или детектором-четвертаков-или-фальшивок, – окружающая среда, формируемая общими устремлениями разработчиков, производителей и владельцев артефактов, – то есть тех, кто ими пользуется. Лишь в контексте этих пользователей и их намерений мы можем назвать некоторые примеры состояния Q «достоверными», а другие – «ошибочными». Собственно, лишь в контексте этих намерений мы можем с полным основанием называть этот прибор «четвертачником».
Думаю, что пока что Фодор, Патнэм, Сёрль, Крипке, Бёрдж и Дрецке кивают, соглашаясь со мной: так дело с подобными артефактами и обстоит; это – образцовый пример производной интенциональности, ясный и очевидный. Подобный артефакт совершенно лишен сущностной интенциональности. А потому любой без смущения признает, что конкретный датчик, только что собранный на американской фабрике и с клеймом «Модель А» на боку, можно встроить в панамский автомат для продажи прохладительных напитков, где он продолжит работать, принимая и отвергая монеты достоинством в четверть панамского бальбоа, которые легко отличить от американских четвертаков из‐за разницы в отчеканенных изображениях, но невозможно – если ориентироваться на вес, плотность, диаметр или материал. (Я ничего не придумал и опираюсь на безупречно авторитетное свидетельство Альберта Эрлера из Flying Eagle Shoppe, торгующего редкими монетами: стандартные торговые автоматы не различают американские четвертаки и панамские монеты достоинством в четверть бальбоа, отчеканенные в период с 1966 по 1984 год. Ничего удивительного – ведь они отчеканены из заготовок для американских четвертаков на американских монетных дворах. И – чтобы удовлетворить любопытных, хотя для нашего примера эта информация не имеет никакого значения, – когда я в последний раз проверял, обменный курс для панамских монет составлял 0,25 доллара.)
Такой прибор, отправленный в Панаму, продолжит, как обычно, переходить в определенное физическое состояние – состояние с физическими характеристиками, на основании которых мы отождествляем его с состоянием Q, – каждый раз, когда в него кидают американский четвертак, объект вида K или панамскую монету в четверть бальбоа, но теперь он допускает ошибку в другом наборе случаев. В новом окружении американские четвертаки считаются подделками, поскольку так же, как и объекты вида К, приводят к ошибке, неправильному толкованию и неверным сведениям. В конце концов, в США своего рода подделкой будет панамский «четвертак».
Как только наш прибор установлен в Панаме, должны ли мы продолжать говорить, что он все еще переходит в состояние, которое мы раньше называли состоянием Q? Физическое состояние, в котором прибор «принимает» монету, продолжает возникать, но не следует ли теперь говорить, что его нужно считать «реализующим» новое состояние – назовем его состоянием QB? В какой момент мы должны будем сказать, что изменилось значение (или функция) этого физического состояния прибора? Что ж, что бы мы ни сказали, ситуация предполагает известную степень свободы, если не сказать скуки: ведь в конечном счете датчик – это всего лишь артефакт; рассуждения о том, что он истолковывает нечто верно или ошибочно, о том, соответствуют ли реальности «переживаемые» им состояния – короче говоря, о его интенциональности, – будут «всего лишь метафорическими». Называйте внутреннее состояние прибора как хотите, но оно на самом деле (изначально, по сути) не означает ни «вот это – американский четвертак», ни «вот это – монета в четверть панамского бальбоа». По-настоящему оно ничего не значит. Это то, на чем, inter alia, будут настаивать Фодор, Патнэм, Сёрль, Крипке, Бёрдж и Дрецке.
Изначально датчик был разработан для определения американских четвертаков. Это – его «собственная функция»740 и, в буквальном смысле, его raison d’être. Никто бы и не подумал его создавать, если бы не поставил перед собой такую цель. Исторический факт обосновывает словоупотребление: мы можем называть нечто четвертачником, вещью, чья функция – опознавать четвертаки, так что относительно этой функции можно определять как ее соответствующие действительности состояния, так и ошибки.
Это не помешает изъять прибор из его первоначального окружения и приспособить (экзаптировать) для выполнения любых новых функций, которым способствуют обстоятельства и не противоречат физические законы. Его можно использовать для опознания объектов вида K, в качестве детектора фальшивок, детектора бальбоа-и-четвертаков, ограничителя для двери или смертоносного оружия. В своей новой роли он может «пережить» краткий период замешательства или неопределенности. Насколько большой нужно накопить опыт, чтобы перестать быть четвертачником и превратиться в детектор-монет-в-четверть-бальбоа (мы могли бы назвать его ч-бальбер)? В самом начале карьеры ч-бальбера, после десяти лет безупречной работы в качестве четвертачника, будет ли состояние, в которое перейдет прибор при контакте с монетой в четверть бальбоа, соответствующим действительности опознанием монеты этого достоинства или речь пойдет о совершенной в силу своего рода привычки ностальгической ошибке, принятии четверти бальбоа за американский четвертак?
Как сказано выше, наш прибор до смешного прост, и о нем никак нельзя сказать, что он располагает памятью наподобие наших воспоминаний об опыте прошлого, но можно сделать первый шаг к тому, чтобы его такой памятью наделить. Предположим, что в него встроен счетчик, показания которого меняются каждый раз, когда прибор переходит в состояние Q, и который после десяти лет службы будет свидетельствовать о 1 435 792 срабатываниях. Предположим, что после переезда детектора в Панаму счетчик не обнулили, так что после принятия первой монеты в четверть бальбоа он будет показывать, что прибор сработал 1 435 793 раза. Будет ли это свидетельствовать в пользу утверждения, что прибор еще не переключился на опознание монет в четверть бальбоа? (Можно и дальше усложнять и модифицировать ситуацию, если это способно повлиять на наши интуитивные предположения. Должно ли такое влияние возникнуть?)
Ясно одно: в четвертачнике (и его внутренней деятельности), рассматриваемом в индивидуальном порядке, нет абсолютно никаких сущностных свойств, которые могли бы позволить отличить его от оригинального ч-бальбера, созданного по заказу панамского правительства. Разумеется, значение должно иметь то, выбрали ли прибор из ряда других за его способность опознавать панамские четвертаки741. Если его выбрали новые владельцы (в самом простом случае), то, даже если они забыли обнулить счетчик, первое совершенное им действие будет соответствующим действительности опознанием четверти бальбоа. Новые владельцы могут с радостью воскликнуть: «Работает!» Если, в противном случае, четвертачник был отправлен в Панаму по ошибке или оказался там в результате случайного совпадения, то первое совершенное им действие не будет иметь никакого значения, хотя вскоре те, кто сталкивается с прибором, могут оценить его способность отличать панамские четвертаки от местных подделок, и тогда он может начать функционировать в качестве ч-бальбера в самом полном значении этого термина – хотя путь к этой «должности» и окажется менее формальным. Это, кстати говоря, уже противоречит мнению Сёрля, что функции могут быть только у артефактов, причем это – функции, которыми их наделили их создатели посредством совершения весьма специфических ментальных актов создания артефактов. Первые конструкторы четвертачника могли совершенно не подозревать о последующем использовании их предприимчиво экзаптированного изобретения, так что их намерения в расчет не принимаются. А новые владельцы, выбравшие прибор, тоже могут не суметь сформулировать какие-то конкретные намерения – они могут просто поддаться привычке полагаться на то, что четвертачник выполняет какую-то полезную функцию, не подозревая о бессознательной экзаптации, в которой поучаствовали. Вспомним, что в «Происхождении видов» Дарвин уже привлекал внимание к бессознательному отбору характеристик домашних животных; бессознательный отбор характеристик артефактов вовсе не является натяжкой; можно предположить, что он происходит достаточно часто.
Вероятно, Фодор и его товарищи не захотят спорить с таким рассуждением об артефактах, которые, по их утверждению, не обладают и толикой настоящей интенциональности, но их может обеспокоить, что я вынудил их ступить на скользкий склон; теперь давайте поговорим о совершенно аналогичном примере: о том, что глаз лягушки сообщает ее мозгу. В классической статье Леттвина, Матураны, Мак-Каллока и Питтса742 – еще одном шедевре из Института радиоинженерии – показано, что зрительная система лягушки чувствительна к небольшим движущимся темным пятнам на сетчатке, крохотным теням, практически в любых естественных обстоятельствах отбрасываемым пролетающими поблизости мухами. Этот механизм опознания мух закономерным образом связан с очень чувствительным «спусковым крючком» в языке лягушки, что прекрасно объясняет, как лягушки добывают себе пропитание в этом жестоком мире и тем самым способствуют распространению своего вида. А теперь вопрос: что именно сообщает глаз лягушки ее мозгу? Что мимо пролетает муха, или что мимо пролетает муха-или-подделка (фальшивая муха того или иного рода), или что мимо пролетает предмет вида F (того вида, что неизбежно заставляет срабатывать это зрительное устройство)? Будучи разработчиками дарвиновской теории значения, мы с Милликан и Израэлем обсуждали этот самый пример и попытки Фодора доказать, что, по его мнению, не так со всеми эволюционными рассуждениями о подобных значениях: все они слишком расплывчаты. Они не в состоянии отличить (как следовало бы) такие сообщения лягушачьего глаза, как «вот летит муха» от сообщений наподобие «вот летит муха или небольшое темное тело» и так далее. Но это неверно. Можно использовать конкретную окружающую среду, в которой находится лягушка (в той мере, в которой мы можем определить, что это за среда), чтобы провести различие между разными кандидатами. Для этого мы прибегаем ко в точности тем же соображениям, которые высказывались в ходе решения вопросов (в той мере, в которой их имело смысл решать) о значении состояния четвертачника. И если невозможно сказать, в какой именно среде происходил отбор, то нельзя ответить и на вопрос о том, что по-настоящему означает сообщение лягушачьего глаза. Все это можно сделать еще нагляднее, отослав лягушку в Панаму – или, точнее, поместив ее в новую окружающую среду, осуществляющую давление отбора.
Предположим, что ученые сформировали небольшую популяцию лягушек какого-нибудь вида, представители которого ловят мух на лету, и поместили ее под охраной в новую окружающую среду – в особый лягушачий зоопарк, где вовсе нет мух, но есть смотрители, периодически запускающие небольшие гранулы корма в полет поблизости от лягушек, о которых заботятся. К их удовольствию, все выходит как надо; лягушки процветают, ловя языками кусочки корма, и через некоторое время в нашем распоряжении окажется их многочисленное потомство, ни разу в жизни не видевшее мухи – только пищевые гранулы. Что глаза этих лягушек сообщают их мозгу? Если вы настаиваете на том, что значение не изменилось, то вы зашли в тупик, ибо это – всего лишь чистейший рукотворный пример того, что постоянно происходит в природе, то есть экзаптации. Как нам заботливо напоминал Дарвин, использование механизма для достижения новых целей – один из секретов успеха Матери-Природы. Мы можем довести рассуждение до логического конца для тех, кому требуются дальнейшие доказательства, предположив, что не все лягушки в этом зоопарке одинаково успешны, поскольку из‐за различий в способности их глаз определять появление кусочков пищи, одни питаются хуже других и в результате хуже размножаются. В скором времени мы увидели бы неопровержимые результаты отбора – преимущество получили бы те лягушки, которые лучше распознавали бы гранулы корма, – хотя было бы ошибкой точно указывать, в какой момент действие отбора стало бы достаточно существенным, чтобы принимать его в расчет.
Если бы не существовало «бессмысленного» и «неопределенного» разнообразия в условиях, при которых в разных лягушачьих глазах срабатывает механизм распознавания гранул корма, то не было бы «сырья» (слепой вариативности) для действия отбора с учетом новой цели. Расплывчатость, которую Фодор (и другие) считает недостатком дарвинистских описаний эволюции значения, является, на самом деле, предварительным условием любой такой эволюции. Идея, будто должно существовать нечто определенное, что на самом деле имеет в виду лягушачий глаз (некое, возможно, неизвестное высказывание на лягушачьем языке, выражающее в точности то, что глаз лягушки сообщает ее мозгу), – это всего лишь эссенциализм применительно к смыслу (или функции). Подобно функции, с которой он так непосредственно связан, смысл не является чем-то от природы определенным. Он возникает не в результате сальтации или особого акта творения, но в ходе (как правило, постепенного) изменения обстоятельств.
А теперь мы готовы рассмотреть единственный пример, который имеет для этих философов какое-то значение: что происходит, когда мы перемещаем человека из одного окружения в другое? Вот знаменитый мысленный эксперимент Хилари Патнэма с Двойником Земли743. Не хочется вдаваться в детали, но я уже понял, что лишь подробное изложение и перекрытие всех ходов к отступлению дает шанс убедить приверженцев врожденной интенциональности. А потому, извините, без подробностей не обойтись. Вооружившись полученными ранее сведениями о четвертачнике и лягушке, можно понять, что именно делает мысленный эксперимент с Двойником Земли столь непререкаемо убедительным. Предположим, что Земля-Двойник – это планета, являющаяся точной копией Земли за единственным исключением – на ней нет лошадей. Там есть животные, которые выглядят в точности как лошади, которых жители Двойника Бостона и Двойника Лондона называют horses, а жители Двойника Парижа – chevaux, и так далее – вот как похожа Земля-Двойник на Землю. Но эти животные с Земли-Двойника – не лошади; это какие-то другие животные. Назовем их кошади, и, если угодно, можете предположить, что они – своего рода псевдомлекопитающие, скажем, покрытые шерстью рептилии, – это философия, и вы вправе выдумывать любые детали, которые, по вашему мнению, заставят «сработать» ваш мысленный эксперимент. А теперь – драматический поворот. Однажды ночью, пока вы спали, вас перенесли на Землю-Двойника. (То, что в этот момент вы спали, важно, поскольку таким образом вы не знаете, что с вами произошло, – вы остаетесь «в том же состоянии», в каком были на Земле.) Проснувшись, вы выглядываете в окно и видите несущуюся галопом кошадь. «Гляди-ка, лошадь!» – восклицаете вы (неважно, вслух или про себя). Чтобы не усложнять, предположим, что уроженец Земли-Двойника произносит то же самое сочетание звуков в то же самое время, когда тоже видит галопирующую кошадь. И вот на чем настаивают Патнэм и другие философы: уроженец Земли-Двойника говорит и думает нечто истинное – а именно что мимо только что пробежала кошадь. Вы, землянин (а вы продолжаете им оставаться), говорите и думаете нечто ложное – а именно что мимо только что пробежала лошадь. Однако как долго вам придется прожить на Земле-Двойнике, называя кошадей «лошадями» (в точности так, как и все местные жители), прежде чем состояние вашего разума (или то, что ваши глаза сообщают вашему мозгу) станет истиной о кошадях, а не ложью о лошадях? (Когда способность разума быть направленным на предмет или интенциональность сменит позицию? – этим теоретикам нужна сальтация.) Совершите ли вы когда-нибудь этот переход? Произойдет ли это как-то без вашего сознательного участия? В конце концов, четвертачник так никогда и не узнал, что смысл его внутреннего состояния изменился.
Полагаю, вы можете быть склонны считать себя совершенно непохожим на лягушку и четвертачник. Может показаться, что ваша интенциональность является сущностной и подлинной и что это чудесное свойство обладает определенной степенью инерции: ваш мозг не может просто развернуться на полном ходу и внезапно начать подразумевать под своим старым состоянием нечто новое. У лягушек, напротив, память недолгая, а у четвертачников ее и вовсе нет. Под словом «лошадь» (вашей личной идеей лошади) вы понимаете нечто вроде одно из этих конеобразных животных, на которых любим ездить мы, земляне; это представление закреплено в вашем разуме всеми воспоминаниями о конноспортивных соревнованиях и ковбойских фильмах. Давайте согласимся, что эта матрица памяти фиксирует то, к каким объектам применимо ваше понятие о лошадях. Ex hypothesi, кошади – животные, к этому виду не принадлежащие; они – совершенно другой вид, просто у вас нет простого способа отличить их от лошадей. А потому, в соответствии с этим ходом мысли, вы совершаете невольную ошибку всякий раз, когда неверно классифицируете кошадей – в момент восприятия или в мыслях («Какая прекрасная лошадь проскакала вчера галопом за моим окном!»).
Но можно подойти к тому же примеру с другой стороны. Ничто не заставляет нас предполагать, что ваше понятие о лошади изначально не было менее строгим, подобно вашему понятию о столе. (Попробуйте пересказать историю о Земле-Двойнике, предположив, что столы на самом деле не являются столами, но просто выглядят и используются как столы. Не правда ли, это не имеет смысла?) Возможно, лошади и кошади принадлежат к разным биологическим видам, но что, если вы, как и большинство землян, не имеете четкого понятия о виде и категоризируете существ на основании того, как они выглядят: живое существо, выглядящее как Буцефал. При таком способе классификации и лошади, и кошади попадают в один вид, и значит, вы все-таки правы, называя лошадью животное с Земли-Двойника. Если принять во внимание, что вы понимаете под «лошадью», то кошади являются лошадьми – не земными, но все-таки лошадьми. Не земные столы – тоже столы. Ясно, что у вас могло бы быть такое нестрогое понятие о лошадях, а могло бы – и более строгое, согласно которому кошади – не лошади, поскольку не принадлежат к тому же земному виду. И то и другое возможно. А теперь спросим, должно ли быть четко определено, понимали ли вы под лошадью (до своего перемещения) конкретный вид или более широкий класс существ? Возможно – например, если вы хорошо разбираетесь в биологии, – но, предположим, это не так. Тогда ваше понятие (то, что на самом деле значит для вас слово «лошадь») страдает той же расплывчатостью, что и понятие мухи для лягушки (или то было понятие маленький летящий кусочек пищи?).
Может оказаться полезным более реалистичный пример – что-то, что могло бы произойти прямо здесь, на Земле. Мне рассказывали, что некогда в сиамском языке было слово, означающее, скажем, «кошка», но жители этой страны никогда не видели и не представляли себе каких-либо иных кошек, кроме сиамских. Представим, что они использовали слово «гошка» – детали не имеют значения, неважно даже, соответствует ли истине эта конкретная история. Возможно, соответствует. Обнаружив, что существуют другие разновидности кошек, сиамцы столкнулись с проблемой: значит ли используемое ими слово «кошка» или «сиамская кошка»? Обнаружили ли они только что, что существуют гошки, выглядящие иначе, и весьма разнообразные, или что гошки и все эти прочие создания принадлежат к какой-то общей группе? Был ли традиционный сиамский термин названием для вида или разновидности? Если у них не было биологической теории, проводившей это различие, то как, в принципе, мог быть задан сам вопрос? (Конечно, они могли бы обнаружить, что разница во внешнем виде для них очень важна: «Это животное попросту выглядит не как гошка, а значит, гошкой не является!» А вы могли бы обнаружить, что у вас не меньшее сопротивление вызывает предположение, будто Шетландские пони – лошади.)
Когда сиамец видел, как мимо идет (не сиамская) кошка, и думал: «Гляди-ка, гошка!» – было то ошибкой или истинной правдой? Возможно, сиамец понятия не имел бы, как ответить на этот вопрос, но имел ли место сам факт ошибки – вне зависимости от того, сможем ли мы его обнаружить? В конце концов, то же самое может случиться и с вами: представьте, что в один прекрасный день биолог сообщил вам, что койоты – это, на самом деле, собаки, – что они принадлежат к тому же виду. Возможно, вы зададитесь вопросом, общее ли у вас с этим биологом понятие о собаке. Насколько вы убеждены, что термин «собака» означает вид, а не большой подвид домашних собак? Говорит ли вам ваш внутренний голос громко и ясно, что вы уже сочли гипотезу, будто койоты – собаки, «по определению» неверной, или молча соглашается, что ваше понятие о собаках изначально было достаточно гибким, чтобы согласиться с этим мнимым открытием? Или вы обнаружите, что теперь, когда вопрос поставлен, вам придется так или иначе решить то, что раньше никогда не было проблемой, поскольку вы об этом не задумывались?
Такой подход к неопределенности обессмысливает мысленный эксперимент Патнэма. Чтобы настоять на своем, Патнэм пытается заткнуть пробоину, заявив, что наши понятия (вне зависимости от того, известно нам об этом или нет) отсылают к естественным видам. Но какие виды естественны? Разновидности не менее естественны, чем виды, а те не менее естественны, чем роды и более высокие разряды классификации. Мы наблюдали, как эссенциализм оказался несостоятельным применительно к значению состояния сознания лягушки и внутреннего состояния Q (или QB) четвертачника; он точно также должен оказаться несостоятельным применительно к нам. Лягушка с той же готовностью ловила бы на лету гранулы корма, если бы они ей встретились в дикой природе, а потому у нее точно нет какого-то механизма, который опознает и отвергает эти гранулы. В некотором смысле, для лягушек естественным видом является гранула-или-муха; они естественным образом неспособны их различать. В другом смысле гранула-или-муха для лягушек естественным видом не является; ранее их естественная окружающая среда никогда не делала эту классификацию осмысленной. То же самое верно и для вас. Если бы кошадей тайно перевезли на Землю, вы бы с той же готовностью назвали их «лошадьми». Вы были бы неправы, если бы уже каким-то образом было решено, что этот термин отсылает к виду, а не одинаково выглядящим животным, но если нет, то не будет никаких оснований счесть вашу классификацию ошибочной, поскольку различие никогда ранее не проводилось. Подобно лягушке и четвертачнику, у вас есть внутренние состояния, обретающие значение благодаря своим функциональным ролям, а там, где функция не может дать ответа, и спрашивать больше не о чем.
Если читать историю о двойнике Земли сквозь призму дарвинизма, то она доказывает, что человеческие смыслы являются столь же производными, как и смыслы, которыми «оперируют» лягушки и четвертачники. Пример предназначен не для этого, но любая попытка воспрепятствовать такой интерпретации обречена постулировать загадочные и необоснованные догматы эссенциализма и категорически настаивать, что существуют совершенно не воспринимаемые и не поддающиеся обнаружению факты о смысле, которые тем не менее являются фактами. Поскольку некоторые философы готовы глотать эти горькие пилюли, надо выдвинуть несколько дальнейших доводов.
Идея, будто наши смыслы зависят от функции точно так же, как и смыслы состояний артефактов, а потому являются столь же производными и потенциально неопределенными, кажется некоторым философам невыносимой потому, что не способна обеспечить смыслу приличествующую каузальную роль. Это – идея, с прежним воплощением которой (беспокойством о том, что разум – всего лишь результат, а не порождающая причина) мы уже встречались. Если смысл определяется силами отбора, поддерживающими конкретные функциональные роли, то всякий смысл может показаться, в некотором роде, всего лишь приписываемым задним числом: то, что предмет означает, это не его сущностное свойство, способное изменить мир в момент его появления, но в лучшем случае коронация задним числом, происходящая лишь в результате анализа произведенных впоследствии результатов. Это не вполне верно: инженерный анализ четвертачника, только что прибывшего в Панаму, позволит нам сказать, для каких ролей хорошо подходит сконструированный таким образом прибор, даже если его еще не выбрали для того, чтобы какую-то роль исполнить. Можно вынести следующий вердикт: состояние Q могло бы означать «вот монета в четверть бальбоа», если бы мы поместили прибор в подходящее окружение. Но, разумеется, в иных условиях оно могло бы означать и множество иных вещей, а потому оно ничего не значит до того, как будет утверждена конкретная функциональная роль – и нет границы, определяющей, сколько времени требуется, чтобы утвердить функциональную роль.
Для некоторых философов, полагающих, будто понимаемый таким образом смысл не выполняет своих функций, этого недостаточно. Яснее всего эту идею выразил Фред Дрецке744, настаивающий, что сам смысл должен играть в нашей интеллектуальной жизни каузальную роль таким образом, каким он никогда ее не играет в жизни артефакта. В этом случае попытка отличить настоящий смысл от искусственного выдает мечту о небесных крючьях, о чем-нибудь «принципиальном», способном воспрепятствовать постепенному возникновению смысла из некоего каскада всего лишь бесцельных, механических причин, но это (как вы, должно быть, подозреваете) лишь один из способов интерпретации, и притом предвзятый. Как обычно, дело сложнее, чем я показываю745, но на ключевые моменты можно указать с помощью небольшой сказочки, придуманной мною недавно специально для того, чтобы возмутить этих философов. Сперва сказочка, потом – возмущение.
Ил. 42
2. Два черных ящика746
Давным-давно жили-были два больших черных ящика, A и B, соединенные длинным изолированным медным проводом. На ящике A было две кнопки, помеченные буквами α и β, а на ящике B – три лампочки: красная, зеленая и янтарно-желтая. Согласно наблюдениям ученых, изучавших поведение ящиков, каждый раз, когда вы нажимали кнопку α на ящике A, на ящике B вспыхивала красная лампочка, а каждый раз, когда вы нажимали кнопку β на ящике A, вспыхивала лампочка зеленая. Складывалось впечатление, что янтарно-желтая лампочка никогда не загорается. Ученые провели миллиард экспериментов в весьма разнообразных условиях и обнаружили, что из этого правила нет исключений. Им казалось, что существует каузальная закономерность, которую они для наглядности резюмировали так:
Все α приводят к красному.
Все β приводят к зеленому.
Они определили, что каузальная связь каким-то образом устанавливается с помощью медного провода, поскольку, когда они его перерезали, лампочки на ящике B перестали загораться, а при попытках загородить ящики друг от друга, не перерезая провод, закономерность никогда не нарушалась. Поэтому им, естественно, было интересно узнать, каким образом открытая ими каузальная закономерность осуществлялась с помощью провода. Возможно – думали они – нажатие кнопки α вызывает низковольтный разряд, который проходит по проводу и заставляет срабатывать красную лампочку, а нажатие кнопки β вызывает высоковольтный разряд, который заставляет вспыхивать зеленую лампочку. Или, может быть, нажатие кнопки α вызывает единичный разряд, зажигающий красную лампочку, а нажатие кнопки β – двойной разряд. Ясно, что нечто всегда возникало в проводе при нажатии кнопки α, а нечто другое всегда возникало при нажатии кнопки β. Если бы они обнаружили, что бы это могло быть, то объяснили бы открытую ими каузальную закономерность.
Своего рода прослушивание провода вскоре показало, что все сложнее. Какая бы кнопка ни нажималась на ящике A, по проводу в ящик B тут же пересылалась длинная последовательность разрядов и интервалов (включений и выключений, или байтов) – если быть точнее, десять тысяч байтов. Но каждый раз это была новая последовательность!
Очевидно, у последовательностей байтов должна была быть характеристика или свойство, из‐за которого в одном случае зажигалась красная, а в другом – зеленая лампочка. Что бы это могло быть? Ученые решили вскрыть ящик B и посмотреть, что происходит с последовательностью байтов, когда она достигает цели. Внутри ящика B они обнаружили суперкомпьютер – всего лишь обычный цифровой, серийный суперкомпьютер с обширной памятью, содержащий большую программу и большую базу данных, записанные, разумеется, другими последовательностями байтов. А когда ученые пронаблюдали результаты воздействия входящих последовательностей байтов на эту компьютерную программу, то не обнаружили ничего необычного: входящая последовательность всегда самым заурядным образом попадала в центральный процессор, где в ответ на нее за несколько секунд совершалось несколько миллиардов операций, что всегда завершалось одним из двух исходящих сигналов: 1 (зажигавшим красную лампочку) или 0 (который включал лампочку зеленую). Ученые обнаружили, что в любом случае могут без каких бы то ни было проблем или противоречий объяснить каждый этап причинно-следственной связи на микроскопическом уровне. Они не подозревали воздействия каких-либо мистических сил и, например, когда они делали так, чтобы в суперкомпьютер снова и снова вводилась одна и та же последовательность десяти тысяч байтов, программа в ящике B всегда выдавала один и тот же результат – загоралась красная или зеленая лампочка.
Но все это было несколько загадочно, поскольку, хотя исход всегда был одним и тем же, он не всегда достигался при помощи одинаковых промежуточных шагов. На самом деле система почти всегда проходила через разные состояния, прежде чем выдать один и тот же результат. Само по себе это загадкой не было, поскольку программа сохраняла копию каждой введенной в нее последовательности сигналов, а потому, когда в нее во второй, третий или тысячный раз вводилась та же последовательность, состояние памяти компьютера каждый раз немного отличалось. Но результат всегда был одинаков; если в первый раз при вводе конкретной последовательности загоралась красная лампочка, то именно она вспыхивала и при каждом следующем вводе той же последовательности, и та же закономерность была верна для «зеленых» последовательностей (как ученые начали их называть). Соблазнительно было предположить, что все последовательности являются либо «красными» (приводящими к вспышке красной лампочки), либо «зелеными» (приводящими к вспышке зеленой лампочки). Но, конечно же, ученые не проверяли все возможные последовательности – только те, которые передавал ящик A.
А потому они решили проверить свою гипотезу, временно нарушив связь между ящиками A и B и вводя вариации последовательностей, передаваемых ящиком A, в ящик B. К их замешательству и изумлению, оказалось, что практически каждый раз, когда они изменяли последовательность, передаваемую ящиком A, загоралась янтарно-желтая лампочка! Можно было подумать, что ящик B распознал, что они вмешались. Однако не было сомнений, что ящик B с легкостью принимал составленные людьми версии «красных» последовательностей, зажигая красную лампочку, и составленные людьми версии «зеленых» последовательностей, зажигая лампочку зеленую. Лишь когда менялся один – или больше, чем один – байт в «красной» или «зеленой» последовательности, обычно – почти всегда – загоралась янтарно-желтая лампочка. «Вы убили его!» – однажды ляпнул кто-то, увидев, как «поддельная» красная последовательность превратилась в янтарно-желтую, и это привело к шквалу рассуждений о том, что красные и зеленые последовательности были в некотором смысле живыми особями – возможно, мужского и женского пола, – тогда как янтарно-желтые – мертвыми. Но как бы привлекательна ни была эта гипотеза, она, как оказалось, никуда не вела, хотя дальнейшие эксперименты с несколькими миллиардами случайных разновидностей последовательностей в десять тысяч байтов длиной и в самом деле позволили ученым уверенно предположить, что в действительности существуют три вида последовательностей: красные, зеленые и янтарно-желтые, – причем янтарно-желтых последовательностей на много, много порядков больше, чем красных и зеленых. Практически все последовательности были янтарно-желтыми. Это сделало открытую учеными закономерность лишь более интригующей и загадочной.
Из-за чего при вводе красных последовательностей загоралась красная, а при вводе зеленых – зеленая лампочка? Разумеется, в каждом конкретном случае никакой загадки не было. Ученые могли проследить причинно-следственные связи, возникающие в суперкомпьютере из ящика B при вводе каждой конкретной последовательности, и увидеть, что они с отрадной детерминированностью зажигают красную, зеленую и янтарно-желтую лампочки, как и должно было быть. Однако, не проводя «полевых» испытаний с ящиком B, им не удалось обнаружить способ предсказать, к какому из трех исходов приведет ввод новой последовательности. Из эмпирических данных, которыми они располагали, было ясно, что очень высоки шансы на то, что любая новая последовательность окажется янтарно-желтой, – если только речь не шла о последовательности, про которую было известно, что она сформирована ящиком A: в этом случае шансы на то, что последовательность будет либо красной, либо зеленой, были выше, чем миллиард к единице, но никто не мог сказать, какого из двух исходов ожидать, не введя прежде последовательность в ящик B, чтобы посмотреть, что решит программа.
Поскольку, несмотря на многочисленные блестящие и дорогостоящие исследования, ученые обнаружили, что все еще совершенно не способны предсказать, окажется ли последовательность красной, зеленой или янтарно-желтой, некоторые теоретики испытывали соблазн назвать эти свойства эмерджентными. Они имели в виду, что эти свойства (с их точки зрения) было, в принципе, невозможно предсказать на основании лишь анализа микросвойств самих последовательностей. Но это вовсе не казалось вероятным, поскольку каждый конкретный случай был столь же предсказуем, как и любой детерминированный ввод данных в любую детерминированную программу. В любом случае, были ли свойства красного, зеленого и янтарно-желтого непредсказуемыми принципиально или только практически, то, несомненно, были свойства удивительные и загадочные.
Возможно, решение загадки таится в ящике A? Ученые открыли его и обнаружили еще один суперкомпьютер – другой конструкции и модели и проигрывающий другую огромную программу, но тоже всего лишь заурядный цифровой компьютер. Они вскоре определили, что при любом нажатии кнопки α программа запускалась, поскольку центральный процессор принимал посланный таким образом код (11111111), а при нажатии кнопки β код был иным (00000000), запускавшим другой набор миллиардов операций. Оказалось, что внутри компьютера со скоростью миллионы раз в секунду тикали «часы», и каждый раз, когда кто-нибудь нажимал любую из двух кнопок, компьютер первым делом считывал с «часов» время (например, 101101010101010111) и разбивал его на последовательности, которые затем использовал, чтобы определить, какие подпрограммы запустить и в какой последовательности и к какому фрагменту памяти сначала обратиться в ходе подготовки последовательности байтов, которая отправится по проводу в ящик B.
Ученые смогли установить, что именно «сверка часов» (дающая, по сути дела, случайные результаты) на практике гарантировала, что одна и та же последовательность байтов никогда не будет отослана повторно. Но несмотря на эту случайность или псевдослучайность, истиной оставалось то, что при нажатии кнопки α составленная компьютером последовательность оказывалась красной, а при нажатии кнопки β она в конечном счете оказывалась зеленой. На самом деле, ученые обнаружили несколько аномалий: приблизительно в одном из миллиарда случаев нажатие кнопки α приводило к вспышке зеленой лампочки или нажатие кнопки β – к вспышке лампочки красной. Этот крохотный изъян в совершенной картине лишь раздразнил аппетит исследователей, стремившихся объяснить закономерность.
А затем настал прекрасный день, когда в лаборатории появились два специализировавшихся на искусственном интеллекте хакера, которые сконструировали ящики, – и все объяснили. (Не читайте дальше, если хотите сами решить эту загадку.) Ал, американец, который сконструировал ящик A, годами работал над созданием «экспертной системы» – базы данных, содержащей «истинные пропозиции» обо всем, что только существует на земле, и механизма логического вывода, который делал бы дальнейшие выводы из аксиом, составлявших базу данных. В нее были загружены статистические данные об играх Высшей лиги, метеорологические записи, биологические классификации, исторические сведения о народах мира и бесчисленное множество всевозможных фактов. Бо, швед, сконструировавший ящик B, в этот же самый период работал над конкурирующим проектом: базой данных, содержащей все знания мира, для своей собственной экспертной системы. Оба наполнили свои базы данных всеми «истинами», которые только смогли туда поместить за годы работы747.
Но годы шли, экспертные системы им наскучили, и они решили, что практический потенциал этой технологии сильно переоценен. На самом деле системы были не слишком хороши в решении интересных задач, или «мышлении», или «поиске креативных решений проблем». Все, на что они годились благодаря своим механизмам логического вывода, – это составление огромного количества истинных предложений (на языках их создателей) и проверка того, являются ли вводимые в них предложения (на языках их создателей) истинными или ложными – естественно, в сравнении с располагаемыми ими «знаниями». Итак, Ал и Бо встретились и придумали, как применить плоды своих впустую потраченных усилий. Они решили сделать философскую игрушку. Они выбрали lingua franca для перевода между двумя репрезентативными системами (собственно, английский в стандартной кодировке ASCII, используемой в электронной почте), и соединили машины вместе проводом. При каждом нажатии кнопки на ящике A тот должен был случайным (или квазислучайным) образом выбрать одно из своих «убеждений» (хранящихся в базе данных аксиом либо общих выводов из них), перевести его на английский (в компьютере английские буквы уже будут записаны кодом ASCII), затем добавить достаточное количество случайных байтов, чтобы сумма была равна десяти тысячам, и отправить полученную последовательность в ящик B, который переведет полученное на свой собственный язык (шведский Lisp) и сверит с собственными «убеждениями», то есть своей базой данных. Поскольку обе базы данных состоят из истинных утверждений, и это приблизительно одни и те же утверждения, то каждый раз, как A посылает B что-то, во что «верит» A, B тоже в это «верит» и заявляет об этом вспышкой красной лампочки. Каждый раз, как A посылает B нечто, что считает ложью, B сообщает о том, что тоже считает это ложью, зажигая зеленую лампочку.
И каждый раз, как кто-то вмешивается в передачу данных, почти всегда возникает последовательность, которая не является грамматически корректным английским предложением (ящик B не терпит «опечаток»). На такие последовательности B реагирует вспышкой янтарно-желтой лампочки. Каждый раз, как кто-нибудь выбирает последовательность байтов случайным образом, Чрезвычайно высок шанс, что она не будет грамматически верным истинным или ложным предложением на английском в кодировке ASCII; отсюда и преобладание янтарно-желтых последовательностей.
Итак, сказали Ал и Бо, эмерджентное свойство красный было на самом деле всего лишь свойством быть истинным предложением на английском языке, зеленый – свойством быть ложным английским предложением. Внезапно многолетние безрезультатные поиски ученых оказались детской забавой. Любой может ad nauseam составлять красные последовательности – просто запишите в кодировке ASCII, например, «Дома больше арахисовых орехов», или «Киты не летают», или «Трижды четыре на два меньше, чем дважды семь». Если вам нужна зеленая последовательность, попробуйте «Девять меньше восьми» или «Нью-Йорк – столица Испании».
Философы вскоре набрели на забавные трюки: например, отыскали последовательности, которые будут красными первые сто раз, когда их передают ящику B, а после – зелеными (например, записанное кодом ASCII предложение: «Это предложение послано вам для оценки меньше, чем сто один раз»).
«Но, – сказали некоторые философы, – свойства последовательностей (красный и зеленый) на самом деле не означают „истина на английском“ или „ложь на английском“». В конце концов, есть истинные утверждения на английском языке, запись которых кодом ASCII занимает миллионы байтов и, кроме того, несмотря на все их усилия, Ал и Бо не всегда вводили в свои программы факты. Кое-что из того, что в момент работы над базами данных считалось общим местом, впоследствии было опровергнуто. И так далее. Есть множество причин, по которым свойство последовательности (каузальное свойство) быть красным не является точным соответствием свойству быть истинным утверждением на английском языке. Поэтому, возможно, свойство быть красным было бы лучше определить как сравнительно короткую запись на английском в кодировке ASCII чего-то, во что «верит» ящик B (чьи «убеждения» почти всегда верны). Некоторых это удовлетворило, но другие выискивали блох, по разным причинам настаивая, что это определение неточно или что возможны контрпримеры, которые нельзя отмести не ad hoc, и так далее. Но, как указывали Ал и Бо, лучшего способа описать это свойство не предвиделось, и разве не как раз о таком объяснении и мечтали ученые? Разве загадка красных и зеленых последовательностей не разрешилась? Более того, теперь, когда она решена, не ясно ли, что не было никакой надежды объяснить каузальную закономерность, с описания которой мы начали наш рассказ, не прибегая к некоторым семантическим (или менталистским) терминам?
Некоторые философы настаивали, что, хотя вновь открытое описание закономерностей происходящих в проводе процессов и можно использовать для предсказания поведения ящика B, это в конечном счете не каузальная закономерность. Правда или ложь (или любой из их только что рассмотренных вариантов) являются семантическими свойствами, и как таковые они совершенно абстрактны, а потому не могут быть причиной чего-либо. Что за чушь! – возражают другие. Нажатие кнопки α приводит к вспышке красной лампочки с той же неизбежностью, с которой ваша машина заводится при повороте ключа зажигания. Если бы оказалось, что по проводу пересылаются только высоковольтные и низковольтные или одинарные и двойные разряды, все согласились бы, что это – образцовая каузальная система. То, что эта система оказалась машиной Руба Голдберга, не доказывает, что связь между кнопкой α и красной лампочкой сколько-нибудь менее каузальна. Напротив, в каждом отдельном случае ученые могут в точности проследить проложенный на микроуровне путь, объясняющий полученный результат748.
Другие философы, убежденные этими рассуждениями, начали говорить, что это доказывает, что свойства быть красным, зеленым и янтарно-желтым – на самом деле вовсе не являются семантическими или менталистскими: они всего лишь имитация семантических свойств, как бы семантические свойства. По их мнению, быть красным и зеленым на самом деле – очень, очень сложные синтаксические свойства. Однако эти философы воздерживались от каких-либо дальнейших рассуждений о том, что это за синтаксические свойства, или объяснений того, как даже маленькие дети могут быстро и гарантированно их производить или распознавать. Тем не менее философы были уверены в том, что должно существовать чисто синтаксическое описание закономерности, поскольку, в конце концов, обсуждаемые каузальные системы были «всего лишь» компьютерами, а компьютеры – это «всего лишь» синтаксические механизмы, не способные к созданию какой-либо подлинной семантичности.
«Полагаю, – отвечали Ал и Бо, – что если бы внутри наших черных ящиков вы обнаружили нас, разыгрывающих вас по той же схеме, то тогда бы вы уступили и согласились, что действующее каузальное свойство является подлинной истиной (или, в любом случае, истиной, в которую верят). Можете ли вы предложить хоть одну вескую причину, вынуждающую проводить такое различие?» В результате некоторые мыслители заявляют, что в определенном важном смысле Ал и Бо сидели в ящиках, поскольку они отвечали за создание соответствующих баз данных – как модели их собственных убеждений. Это привело других к отрицанию того, что где-то в мире на самом деле существуют какие-либо семантические или менталистские свойства. Они говорили, что содержание было элиминировано. Дискуссия продолжалась годами, но загадка, с которой мы начали, разрешилась.
3. Перекрывая пути к отступлению
Это – конец истории. Однако опыт показывает, что не существует такой вещи, как мысленный эксперимент, описанный настолько ясно, что его не может превратно истолковать ни один философ, а потому, чтобы предвосхитить некоторые из наиболее привлекательных неверных интерпретаций, я прямо и грубо обращу ваше внимание на несколько важных подробностей и объясню, какую роль они выполняют в этом насосе интуиции.
1. Приборы в ящиках A и B – не что иное, как автоматизированные энциклопедии; это даже не «ходячие энциклопедии», а просто «коробки с истинами». Ничто из сказанного не предполагает и не подразумевает, что эти приборы обладают сознанием или являются мыслящими вещами или даже акторами – разве что в том строгом смысле, в котором актором является термостат. Это – бесконечно скучные интенциональные системы, жестко запрограммированные для достижения одной-единственной простой цели. Они содержат большое количество истинных утверждений и механизмы логического вывода, необходимые для того, чтобы получить еще больше истин и проверить их на «истинность», соотнося утверждение-кандидата с уже существующими базами данных749.
Поскольку две системы были созданы независимо друг от друга, не может быть веских оснований предполагать, будто они содержат в точности одни и те же истины (в действительности или даже на практике), но, чтобы все происходило именно так, как, по моим словам, и происходило, нам придется предположить, что базы данных в значительной степени перекрывают друг друга, так что ситуация, когда сгенерированная ящиком A истина не будет признана истиной ящиком B, в высшей степени маловероятна. Я утверждаю, что это правдоподобно по двум соображениям: a) Ал и Бо, возможно, живут в разных странах, и родные языки у них разные, но они – обитатели одного и того же мира; и b) хотя и существует невообразимое множество истинных утверждений о мире (нашем мире), тот факт, что Ал и Бо решили создать полезные базы данных (содержащие информацию, связанную со всеми человеческими устремлениями, кроме наиболее recherché), гарантирует, что две созданные независимо системы будут в значительной степени дублировать друг друга. Хотя Ал может знать, что в полдень того дня, когда ему исполнилось двадцать, его левая нога была ближе к Северному полюсу, чем к Южному, а Бо не забыл, что его первого учителя французского языка звали Дюпон, это не те истины, которые они могли бы поместить в свои базы данных. Но если вы сомневаетесь, что одного лишь их желания создать энциклопедию, полезную вне зависимости от страны, где к ней обращаются, достаточно, чтобы обеспечить такое значительное соответствие их баз данных друг другу, просто добавьте в качестве не слишком изящной подробности тот удобный факт, что в период создания этих баз они договаривались о том, какие темы будут в них освещены.
2. Почему бы просто не взять Ала и Бо (его земляка-американца) или, если уж на то пошло, почему бы просто не поместить в ящик B дубликат созданной Алом системы? Потому, что суть (упс!) моей истории заключается в том, что нет простого, синтаксического соответствия, которое можно было бы обнаружить на практике и которое могло бы объяснить наблюдаемую закономерность. Поэтому язык программирования системы Бо – шведский Lisp: это позволяет скрыть от любопытных взглядов фундаментальные семантические совпадения между структурами данных, к которым обращается во время формирования предложения ящик A и переводом-и-проверкой предложения ящиком B. Идея состояла в том, чтобы создать две системы, проявляющие описанную выше поразительную регулярность во внешнем поведении, но внутри настолько разные, насколько только возможно, так чтобы объяснить систематичность мог лишь тот факт, что внутреннее строение каждого из механизмов было систематической репрезентацией общего для них мира.
3. Можно остановиться и спросить, могут ли или нет две такие системы когда-нибудь стать настолько непостижимыми, чтобы быть неуязвимыми для обратного конструирования. Криптография проникла в области столь сложные и таинственные, что следует подумать по меньшей мере трижды, прежде чем вынести суждение по этому поводу. Понятия не имею, можно ли сформулировать разумный довод о существовании абсолютно неподдающихся анализу схем шифрования (или их невозможности). Но, если оставить в стороне вопрос о шифровании, хакеры оценят, что все удобные пояснения и иные указатели, помещаемые в «исходный код» при написании программы, исчезают, когда исходный код «компилируется», оставляя почти неподдающуюся расшифровке путаницу команд на языке программирования. «Декомпиляция» иногда возможна на практике (всегда ли она принципиально возможна?), хотя, конечно, в ее ходе не будут восстановлены пояснения – лишь в общих чертах воспроизведены структуры на языке более высокого уровня. Мое допущение, что усилия ученых, пытающихся декомпилировать программу и расшифровать базы данных, плодов не принесут, можно в случае необходимости усилить, постулировав наличие шифрования.
Если взять первоначальный вариант истории, то можно согласиться – странно, что ученым так и не пришло в голову проверить, можно ли перевести потоки проходящих по проводу байтов на ASCII. Как они могли быть такими недогадливыми? Вы правы: отошлите всю конструкцию (ящики A и B с соединяющим их проводом) на Марс, и пусть инопланетные ученые попробуют догадаться о закономерности. То, что нажатие кнопки α вызовет красную вспышку, нажатие кнопки β – зеленую, а случайная последовательность байтов – янтарно-желтую, будет для них столь же очевидно, как и для нас, но ASCII поставит их в тупик. Для марсиан этот дар из космоса будет представлять собой совершенно загадочную закономерность, которую никак невозможно понять при помощи анализа, если только они не догадаются, что каждый из ящиков содержит описание мира, и что это – описания одного и того же мира. Основа закономерности – тот факт, что каждый ящик соотносится с одними и теми же предметами (пусть и описанными с использованием разных «терминологий» и по-разному аксиоматизированных) посредством многообразных семантических связей.
Когда я опробовал этот мысленный эксперимент на Дэнни Хиллисе, создателе параллельного суперкомпьютера, он немедленно подумал о криптографическом «решении» задачи, а затем согласился, что мое решение можно с успехом рассматривать как частный случай его решения: «Ал и Бо использовали мир в качестве одноразового шифра!» – уместная отсылка к стандартному методу шифрования. Это можно понять, представив себе вариацию на ту же тему. Вас с вашим лучшим другом вот-вот схватят враги, которые, возможно, говорят по-английски, но о вашем мире знают не слишком много. Вам обоим известна азбука Морзе, и вы придумали следующую импровизированную схему шифрования: тире – говорите правду, точка – лжете. Ваши тюремщики могут слышать, как вы разговариваете: «Птицы откладывают яйца, а жабы летают. Чикаго – город, мои ноги не из жести, а в бейсбол играют в августе», – говорите вы и отвечаете: «Нет» (Тире-точка; тире-тире-тире) на все, что только что спросил ваш друг. Даже если ваши тюремщики знают азбуку Морзе, они не смогут понять, какая фраза означает точку, а какая – тире, если только не смогут определить, которая из них соответствует истине, а которая – нет. Этой историей можно сдобрить нашу сказочку: вместо того чтобы отправлять компьютеры в ящиках на Марс, отправим туда посаженных в коробки Ала и Бо. Если они сыграют с марсианами шутку с азбукой Морзе, то озадачат их не меньше, чем озадачили бы компьютеры, – разве что те придут к выводу (очевидному для нас, но не для марсиан), что эти штуковины в ящиках следует интерпретировать семантически.
Смысл истории прост. Интенциональную позицию ничем не заменить; вы либо занимаете ее и объясняете закономерность, находя факты на семантическом уровне, или же эта очевидная закономерность – каузальная закономерность – навеки поставит вас в тупик. Тот же урок, как мы видели, можно извлечь из интерпретации фактических сведений об истории эволюции. Даже если вы в самых мельчайших подробностях можете описать каждый каузальный факт в биографии каждого когда бы то ни было жившего на свете жирафа, то (если только вы не подниметесь уровнем-двумя выше и в поисках причин, одобренных Матерью-Природой, не спросите: «Почему?») вам никогда не удастся объяснить очевидные закономерности: например, почему у жирафов появились длинные шеи. Именно это имеет в виду Дьюи в рассуждении, приведенном в начале этой главы.
Если вы похожи на множество философов, то в этот момент вам кажется привлекательным заявление, что такой мысленный эксперимент «работает» лишь потому, что ящики A и B – артефакты, чья интенциональность в том виде, в котором она существует, является полностью производной и искусственной. Структуры данных в их памяти получают референцию (если они вообще ее получают) благодаря опосредованному обращению к органам чувств, биографиям и целям их создателей, Ала и Бо. Подлинный источник смысла, или истины, или семантики артефактов – их творцы-люди. (Именно это и означало замечание, что в определенном смысле Ал и Бо сидели каждый в своем ящике.) Да, я мог бы рассказать эту историю иначе: внутри ящиков были два робота, Ал и Бо, каждый из которых, прежде чем забраться в ящик, провел весьма долгую «жизнь», бродя по миру и собирая разнообразные факты. Я выбрал более простой путь, чтобы предвосхитить все вопросы о том, являются ли ящики A и B «по-настоящему мыслящими», но теперь мы можем восстановить в правах темы, тем самым ловко обойденные, ибо наконец пришло время раз и навсегда отбросить подозрение, будто подлинная интенциональность не может возникнуть ни в каком искусственном «разуме» без вмешательства создателя(-человека?). Предположим, что это так. Иными словами, предположим, что, каковы бы ни могли быть различия между простой коробкой с истинами наподобие ящика A и роботом настолько сложным, насколько только можно вообразить, ни у того ни у другого не может быть подлинной – или врожденной – интенциональности (поскольку оба – артефакты), но лишь производная интенциональность, полученная от их создателя. Теперь вы готовы к еще одному мысленному эксперименту, reductio ad absurdum этого предположения.
4. Безопасная дорога в будущее750
Предположим, вы по какой-то причине решили, что хотите пожить в XXV веке, и предположим, что единственный известный способ так долго поддерживать в вашем теле жизнь предполагает помещение его в своего рода устройство для гибернации. Предположим, что это – «анабиозная капсула», охлаждающая ваше тело до температуры лишь на несколько градусов выше абсолютного нуля. В этой капсуле ваше тело сможет, погруженное в суперкому, покоиться так долго, как вы того пожелаете. Можно устроить все так, чтобы вы забрались в капсулу, помещенную в камеру обслуживания, уснули, а затем были автоматически разбужены в 2401 году и отпущены на волю. Это, конечно же, проверенный временем научно-фантастический сюжет.
Проектирование самой капсулы окажется не единственной инженерной проблемой, которую вам придется решать, поскольку капсулу нужно будет на протяжении 400 лет охранять и снабжать необходимой энергией (для работы систем охлаждения и т. д.). Рассчитывать на то, что ее обслуживанием займутся ваши дети и внуки, разумеется, нельзя, ибо все они умрут задолго до наступления 2401 года, и совершенно неразумно полагать, будто более отдаленные ваши потомки (если они вообще будут) окажутся озабочены вашим благополучием. А потому вам нужно разработать суперсистему, которая защищала бы вашу капсулу и обеспечивала ее энергией, потребной для того, чтобы проработать четыре века.
Вот две основные стратегии, которыми вы можете руководствоваться. Выбрав первую, вам нужно отыскать идеальную местность (в той мере, в какой вы можете предвидеть будущее), чтобы установить там оборудование, обеспечив его доступом к воде, солнечному свету и всему, что еще нужно вашей капсуле (и самой суперсистеме) для работы. Основной недостаток такой установки, или «укоренения», состоит в том, что в случае опасности (скажем, если прямо в месте ее размещения кто-нибудь решит построить скоростную магистраль) капсулу нельзя будет перенести. Альтернативная стратегия гораздо сложнее и дороже, но этого изъяна не имеет: создайте для размещения капсулы передвижной аппарат, снабженный всеми необходимыми сенсорами и системами раннего оповещения, чтобы он мог покинуть опасное место и, если понадобится, отыскать новые источники энергии и материалов для ремонта. Короче говоря, постройте гигантского робота и установите капсулу, в которой будете находиться, внутри него.
Две эти фундаментальные стратегии заимствованы у природы: они примерно соответствуют разделению между растениями и животными. Поскольку вторая, более сложная стратегия лучше отвечает нашим целям, предположим, что вы решили построить робота для размещения своей капсулы. Разумеется, следует попробовать сконструировать его так, чтобы он в первую очередь «выбирал» действия, служащие к вашей пользе. Не называйте эти простые точки переключения в системе управления вашего робота точками «выбора», если вам кажется, что это подразумевает, будто робот наделен свободой воли или сознанием, ибо я вовсе не хочу протащить нечто подобное в свой мысленный эксперимент контрабандой. Мой тезис непротиворечив: мощность любой компьютерной программы состоит в ее способности действовать в соответствии с командами разветвления, переходя от решения к решению на основании проводимых проверок доступных ей данных, и я хочу сказать только то, что, разрабатывая систему управления робота, было бы разумно попытаться структурировать ее так, чтобы каждый раз, как перед ней появляется ветка возможностей, она склонна была бы двигаться по пути, с наибольшей вероятностью служащему вашим интересам. В конце концов, вы – raison d’être всего устройства. Идея спроектировать «железо» и программное обеспечение таким образом, чтобы оно было приспособлено для работы в интересах конкретного человеческого существа, уже перестала быть научно-фантастической, хотя конкретные конструкторские проблемы, с которыми столкнутся создатели вашего робота, окажутся весьма сложными инженерными задачами, решение которых сегодня лежит за гранью новейших достижений инженерной мысли. Этот мобильный автомат будет нуждаться в «зрительной» системе, которая направляла бы его передвижения, а также других «сенсорных» системах в дополнение к механизмам самодиагностики, информирующих его о собственных потребностях.
Поскольку вы все время будете в коме, а потому не сможете направлять робота и планировать стратегию его поведения, вам нужно будет сконструировать его суперсистему таким образом, чтобы она генерировала собственные планы в ответ на изменение обстоятельств, с которыми столкнется в течение столетий. Он должен «знать» как «искать», «распознавать», а затем использовать источники энергии, как перемещаться на более безопасные территории, как «предвидеть» опасности и избегать их. Когда впереди столько работы, которую нужно сделать быстро, вам лучше бы сэкономить на всем, на чем только можно: снабдите своего робота не более изощренной способностью выбора, чем ему, вероятно, понадобится, чтобы проводить различия там, где их в нашем мире следует проводить – исходя из его конструкции.
Ваша задача станет гораздо сложнее, если вы не сможете рассчитывать на то, что ваш робот окажется единственным подобным роботом, выполняющим такую миссию. Предположим, что помимо тех людей и животных, которые будут жить в грядущие века, будут и другие роботы – множество разных роботов (и, возможно, также и «растений»), конкурирующих с вашим роботом за энергию и безопасность. (С чего бы вдруг распространилась подобная причуда? Предположим, что у нас есть неопровержимые доказательства того, что в 2401 году на нашу планету прибудут путешественники из иной галактики. Лично я умирал бы от желания встретиться с ними, и возможность залечь в холодильник показалась бы мне соблазнительной, будь это единственный способ такое желание исполнить.) Если вы планируете общение с другими акторами-роботами, действующими в интересах своих клиентов, подобных вам, было бы разумно наделить своего робота достаточно сложной системой управления, чтобы он мог вычислять вероятные преимущества и риски кооперации с другими роботами или формирования взаимовыгодных альянсов. Было бы совершенно непредусмотрительно предположить, что другие клиенты очарованы правилом «живи и жить давай другим», – например, вполне могут существовать недорогие роботы-«паразиты», только того и ждущие, чтобы наброситься на ваш дорогой автомат и его эксплуатировать. Любые вычисления вашего робота относительно этих угроз и возможностей должны быть «дешевы и сердиты»; не существует абсолютно надежного способа отличить друзей от врагов или предателей от тех, кто держит слово, а потому вам придется сделать так, чтобы робот, подобно игроку в шахматы, был способен принимать решения и рисковать в условиях нехватки времени.
Результатом такого конструкторского проекта будет робот, способный демонстрировать высокий уровень самоконтроля. Поскольку, погрузившись в сон, вам придется отказаться от непосредственного контроля в режиме реального времени, вы окажетесь в ситуации «дистанционного управления», словно те инженеры в Хьюстоне, которые наделили космический корабль «Викинг» автономностью (см. двенадцатую главу). Как автономный актор, робот сможет выводить свои собственные дочерние цели из собственных оценок текущей ситуации и значимости этой ситуации для конечной цели (то есть сохранения вашей жизни до 2401 года). Эти вторичные цели, поставленные в ответ на ситуации, которые в данный момент вы не можете в точности предсказать (если бы вы могли, то зашили бы наилучшие ответы в «железо»), могут увести робота далеко в сторону, заняв его выполнением проектов, на реализацию которых потребуются века, и некоторые из которых вполне могут, несмотря на все ваши усилия, оказаться опрометчивыми. Возможно, поддавшись убеждениям другого робота подчинить свою собственную жизненную миссию какой-либо другой, ваш робот может предпринять действия, противоречащие вашим целям и даже самоубийственные.
Этот придуманный нами робот будет с головой погружен в свой собственный мир и свои проекты, но им всегда в конечном счете будет руководить то, что останется от целевых состояний, заложенных вами в момент, когда вы легли в капсулу. Все его будущие предпочтения – производные тех, которыми вы его наделили изначально в надежде, что это позволит вам попасть в XXV век, но это вовсе не обязательно означает, что действия, предпринятые в свете будущих предпочтений робота, будут и дальше напрямую отвечать вашим интересам. Вы надеетесь на это, исходя из своих эгоистических интересов, но не сможете непосредственно контролировать робота, пока не проснетесь. У него будет некий внутренний образ того, что в данный момент является приоритетной целью, его summum bonum, но если он поддастся на уговоры товарищей, которых мы вообразили, то железная хватка сконструировавшего его инженерного искусства будет поставлена под угрозу. Робот все еще будет артефактом, он все еще будет действовать так, как диктует ему его конструкция, но в соответствии с набором частично выработанных им самим desiderata.
Тем не менее, согласно допущению, которое мы решили исследовать, робот не будет проявлять никакой иной интенциональности, кроме производной, поскольку является всего лишь артефактом, созданным, чтобы служить вашим интересам. Мы можем назвать такую позицию «клиентоориентированной» с точки зрения робота: я – источник всех производных смыслов, которыми располагает мой робот, как бы далеко они ни отклонились от изначального состояния. Это – всего лишь механизм жизнеобеспечения, созданный, чтобы я целым и здоровым попал в будущее. То, что теперь он напряженно работает над проектами, лишь отдаленно связанными с моими интересами и даже противоположными им, согласно нашему допущению, не наделяет подлинной интенциональностью его состояния управления, «ощущения» или «восприятия». Если вы все еще хотите настаивать на клиентоориентированности, то вам следует быть готовыми сделать следующий вывод: вы сами никогда не имели никаких состояний с изначальной интенциональностью, поскольку вы – лишь механизм жизнеобеспечения, изначально спроектированный для того, чтобы сохранять ваши гены до момента воспроизводства. В конце концов, наша интенциональность является производной интенциональности наших эгоистичных генов. Это они – неумышленно мыслящие, а не мы!
Если вам такой подход не нравится, рассмотрите другую возможность. Давайте согласимся, что достаточно сложный артефакт (нечто, похожее на этих воображаемых роботов) – может проявлять подлинную интенциональность, если принять в расчет богатый набор встроенных в него функций и способность к самозащите и самоконтролю751. Как и вы, он обязан своим существованием проекту, целью которого было создать механизм жизнеобеспечения, но, как и вы, он получил определенную автономию и стал локусом самоконтроля и самоопределения не в результате какого-то чуда, но всего лишь сталкиваясь в ходе своей «жизни» с проблемами – проблемами выживания, которые ставил перед ним мир, – и так или иначе их решая. Более простые механизмы жизнеобеспечения (например, растения) никогда не достигают высот самоопределения, доступных вашему роботу благодаря его сложности; если рассматривать их только как механизмы жизнеобеспечения их находящихся в коме обитателей, то все закономерности их поведения найдут объяснение.
Следуя этим курсом (что я, разумеется, рекомендую), вам придется отвергнуть «принципиальные» возражения Сёрля и Фодора против «сильного искусственного интеллекта». Представленный нами робот не является невозможным (сколь бы трудной и невероятной ни была такая инженерная задача) – и они этого и не говорят. Они согласны с его возможностью, и лишь оспаривают его «метафизический статус»; по их словам, какую бы находчивость он ни проявлял, его интенциональность не будет настоящей. Вот – резюме их позиции. Я предлагаю избавиться от такой тщетной оговорки и признать, что смыслы, которые подобный робот отыщет в мире и использует для общения с другими, будут столь же настоящими, как и ваши. Тогда ваши эгоистичные гены можно рассматривать как изначальный источник вашей интенциональности – а потому и всех смыслов, над которыми вы когда-либо размышляли или которые себе воображали, – несмотря даже на то что вы можете возвыситься над своими генами, используя ваш опыт и, в частности, впитанную вами культуру, чтобы построить практически полностью независимый (или «трансцендентный») локус смысла на том фундаменте, который обеспечили ваши гены.
Я считаю, что это совершенно замечательный – и, на самом деле, вдохновляющий – способ разрешения противоречия, возникающего из‐за того, что я как личность считаю себя источником смысла, судящим о том, что и почему имеет значение, и при том одновременно являюсь представителем вида Homo sapiens, результатом нескольких миллиардов лет совершенно прозаической проектно-конструкторской деятельности, и не обладаю какими бы то ни было признаками, которые тем или иным образом не возникли в ходе того же набора процессов. Я знаю, что других это настолько шокирует, что они с новой силой обращаются к убеждению, что где-то как-то просто должна существовать преграда на пути дарвинизма и искусственного интеллекта. Я постарался показать, что из опасной идеи Дарвина следует, что такой преграды нет. Истинность дарвинизма означает, что мы с вами – артефакты Матери-Природы, но наша интенциональность вовсе не становится менее настоящей из‐за того, что является результатом миллионов лет бездумного, алгоритмического проектирования и конструирования вместо того, чтобы быть даром свыше. Джерри Фодор может шутить о нелепости идеи, будто мы – артефакты Матери-Природы, но его смех – пустой звук; любые альтернативные точки зрения требуют введения того или иного небесного крюка. Вызванного этим выводом шока вам может хватить, чтобы проявить большую симпатию к тщетным попыткам Хомского и Сёрля избежать заключения, что все, что нужно, это естественный отбор – алгоритмическая последовательность кранов, поднимающих ввысь все более сложные формы замысла.
Или он может подтолкнуть вас к поискам спасителя. Разве математик Курт Гёдель не доказал великую теорему, демонстрирующую невозможность искусственного интеллекта? Так думали многие, и совсем недавно один из наиболее известных физиков и математиков мира, Роджер Пенроуз, в своей книге «Новый ум короля: о компьютерах, мышлении и законах физики»752 решительно поддержал их интуитивную догадку. Этому и будет посвящена следующая глава.
ГЛАВА 14: Настоящий смысл, тот, который имеют слова и идеи, сам по себе является продуктом, возникающим в результате изначально бессмысленных процессов – алгоритмических процессов, создавших всю биосферу, включая и нас. Робот, спроектированный как механизм, обеспечивающий ваше выживание, подобно вам был бы обязан своим существованием инженерному проекту с иными высшими целями, но это не помешало бы ему стать автономным творцом смыслов в самом полном значении этого слова.
ГЛАВА 15: Следует рассмотреть и нейтрализовать одно из авторитетных и влиятельных оснований для скептицизма в отношении искусственного интеллекта (и опасной идеи Дарвина): не теряющее популярности убеждение, будто теорема Гёделя доказывает невозможность искусственного интеллекта. Этот благоденствующий во мраке мем недавно возродил Роджер Пенроуз, изложивший его настолько ясно, что это равносильно разоблачению. Мы можем экзаптировать его артефакт для наших собственных целей: с его невольной помощью этот мем можно уничтожить.