— а именно, прежней машиной, к которой добавлена «новая часть». С другой стороны, одним из основных свойств нашего разума является его способность размышлять о себе самом и критически воспринимать собственные действия — и для этого не требуется никакая дополнительная часть; наш мозг совершенен, и в нем нет никакой Ахиллесовой пяты.
Таким образом, эта тема становится скорее объектом концептуального анализа, чем математического открытия. Подтверждением этому служит аргумент, выдвинутый Тюрингом. До сих пор нам удавалось построить только очень простые и предсказуемые аппараты. Когда мы увеличим сложность наших машин, нас, возможно, будут ожидать сюрпризы. Он приводит в пример атомный реактор, пока не достигнута «критическая» масса, ничего не происходит; но как только перейден порог критической массы, начинается реакция. Возможно, что то же самое верно и в отношении разума и машин. Большинство мозгов и никакие машины в данный момент не достигли этого порога — они реагируют на внешние стимулы тяжеловесным и неинтересным образом, не рождают новых идей и производят только готовые ответы; однако некоторые мозги уже сейчас «достигли критической массы» и функционируют независимо — то же может быть верно и в отношении будущих машин. Тюринг утверждает, что это только вопрос сложности, и что когда перейден некий критический порог сложности, происходит качественный скачок; таким образом, сложные машины будущего могут оказаться совершенно непохожими на простые аппараты настоящего.
Возможно, что это верно. Сложность часто порождает качественную разницу. Хотя это кажется маловероятным, может случиться, что достигнув определенного уровня сложности, машина перестанет быть даже в принципе предсказуемой и начнет действовать самостоятельно — используя весьма показательное выражение, у нее может появиться собственный интеллект. У нее может появиться собственный интеллект. Этот собственный интеллект появится тогда, когда машина перестанет быть полностью предсказуемой и послушной и начнет делать вещи, которые мы воспринимаем как разумные, а не как ошибки или случайности, и которые не были никем запрограммированы. Тогда она перестанет быть машиной в обычном смысле этого слова. Главным вопросом спора о машинном интеллекте является не то, как возникает разум, а то. как он оперирует. Основным тезисом механистов является то, что модель интеллекта должна действовать согласно «механическим принципам»; это означает, что действие целого может быть понято, исходя из действия его частей, и что действие каждой отдельной части должно либо определяться ее начальным состоянием и конструкцией машины, либо быть случайным выбором между определенным числом определенных операций. Если машина становится такой сложной, что это определение перестает действовать, тогда мы уже не можем считать ее машиной, как бы она ни была построена. Тогда пришлось бы сказать, что мы создали разум, в том же смысле, как сейчас мы говорим о рождении нового человека. В таком случае, было бы два способа давать миру новый разум, традиционный способ — рождение детей от женщин и новый способ — конструкция сложнейших систем клапанов и переключателей. Говоря о втором способе мы должны подчеркнуть что хотя наши создания выглядели бы как машины, они, тем не менее, таковыми бы не являлись, поскольку они были бы большим, чем сумма их частей. Было бы невозможным предсказать их поведение на основе знания их конструкции и начального состояния их частей, мы не знали бы границ того на что они способны поскольку они отвечали бы верно даже на заданные им вопросы Геделева типа. На самом деле, нужно отметить что любая система, которую не сбить с толку Геделевым вопросом это ео ipso не машина Тюринга, то есть не машина в обычном смысле слова.[39]
Когда я читаю этот отрывок, моя мысль пытается уследить за быстрой сменой тем, ссылок, ассоциаций, путаницы и заключений. Она перепрыгивает от парадокса Кэррола к Геделю а затем к Тюрингу, к искусственному интеллекту, к холизму и редукционизму — и все это на двух страничках. Поистине Лукас заставляет нас задуматься! В следующих главах мы вернемся ко многим темам, мимоходом затронутым в этом интересном отрывке.
Ария с разнообразными вариациями
Черепаха пришла составить компанию своему другу Ахиллу, который в последнее время стал страдать бессоницей.
Черепаха: Сочувствую вам, Ахилл; бессоница — пренеприятная вещь! Надеюсь, мое общество немного отвлечет вас от тех невыносимых мыслей, что не дают вам забыться сном. Может быть, мне удастся навеять на вас такую скуку, что вы, наконец, сможете заснуть — в таком случае, мой визит принесет вам безусловную пользу.
Ахилл: Увы… на мне уже пробовали руку чемпионы нудности и скуки — вы им и в подметки не годитесь — и все, к сожалению, без толку. Нет, г-жа Ч, я пригласил вас с тем, чтобы вы развлекли меня своими рассказами о теории чисел — надеюсь, что это скрасит мне долгие ночные часы. Видите ли, я обнаружил, что немного теории чисел весьма успокоительно действует на мои расстроенные нервы.
Черепаха: Хорошенькая мысль, ничего не скажешь! Знаете, это мне напоминает о бедном графе Кайзерлинге.
Ахилл: Кто это такой?
Черепаха: О, был такой саксонский граф в восемнадцатом веке — захудалый график, говоря по правде, но благодаря ему… История довольно забавная — хотите послушать?
Ахилл: Прошу вас!
Черепаха: Однажды наш добрый граф заболел бессоницей. Случилось так, что в том же городе жил тогда известный музыкант; граф Кайзерлинг решил заказать ему серию вариаций с тем, чтобы его придворный клавесинист играл бы их графу, когда тот не мог заснуть. Граф надеялся, что так время пролетит быстрей и приятней.
Ахилл: И как, удалось местному композитору выполнить это требование?
Черепаха: Кажется, да, поскольку граф его щедро вознаградил: он подарил ему золотой бокал с сотней луидоров внутри.
Ахилл: Невероятно! Интересно, где сам граф раздобыл этот бокал с луидорами?
Черепаха: Может быть, он увидел такой бокал в музее и тот ему понравился?
Ахилл: Вы намекаете на то, что граф его попросту украл?
Черепаха: Ну, зачем же так грубо… Знаете, в те дни на это смотрели не так, и графам многое позволялось. Так или иначе, графу музыка явно пришлась по вкусу, поскольку он беспрестанно просил своего клавесиниста — совсем еще мальчишку, по имени Гольдберг, — сыграть ту или иную из этих тридцати вариаций. В результате, по иронии судьбы, вариации стали связаны с именем молодого Гольдберга, а не графа.
Ахилл: Вы имеете в виду, что композитором был Бах, и что это произведение — так называемые «Гольдберг-вариации»?
Черепаха: Вы угадали! На самом деле, эта пьеса сначала именовалась «Ария с различными вариациями»; в ней тридцать вариаций. Знаете ли вы, как Бах построил эти великолепные вариации?
Ахилл: Я весь внимание.
Черепаха: Каждая из пьес, кроме последней, построена на одной и той же теме, которую он назвал «арией». В действительности, пьесы связаны скорее не общей мелодией, а одинаковым гармоническим фоном. Мелодии могут варьироваться, но в их основе — одна и та же тема. Только в последней вариации Бах позволил себе некоторую вольность — это что-то вроде «конца после конца». Там содержатся странные музыкальные идеи, почти не связанные с первоначальной темой — а именно, две немецкие народные песенки. Эта вариация называется «quodlibet».
Ахилл: А что еще необыкновенного в «Гольдберг-вариациях»?
Черепаха: Каждая третья вариация построена в форме канона; в первом из них оба голоса вступают на одной и той же ноте; во втором, один из голосов вступает НА ОДНУ ступень ВЫШЕ, в третьем — НА ДВЕ, и так далее, до последнего канона, в котором голоса отстоят ровно на девять интервалов. Десять канонов, и все они —
Ахилл: Подождите минутку. Мне помнится, я что-то слышал о том, что недавно обнаружили еще четырнадцать Гольдберг-канонов!
Черепаха: Вы, случайно, прочли это не в том самом журнале, что недавно оповестил мир о сенсационном открытии четырнадцати новых дней в ноябре?
Ахилл: Да нет, это правда. Некий музыковед по имени Вольф прослышал о том, что в Страсбурге хранится специальная копия «Гольдберг-вариаций»; он поехал туда и, к своему удивлению, на задней обложке этой копии, что-то вроде «конца после конца», он нашел четырнадцать новых канонов, основанных на первых восьми нотах темы. Так что на самом деле Гольдберговых вариаций сорок четыре, а не тридцать.
Черепаха: Сорок четыре, пока какой-нибудь музыковед не обнаружит еще нескольких в самом невероятном месте. И хотя это кажется маловероятным, все еще возможно, что найдутся новые вариации, и затем еще новые, и еще… Это может продолжаться до бесконечности! Мы можем так никогда и не узнать, когда у нас будут полные «Гольдберг-вариаций».
Ахилл: Престранная идея. На самом деле, все считают, что это последнее открытие было просто счастливой случайностью, и что теперь у нас есть все существующие вариации. Но если предположить, что вы правы, и что найдутся еще какие-нибудь, мы должны быть к этому готовы. Тогда название «Гольдберг-вариаций» изменит свое значение и будет означать не только уже известные вариации, но и те, которые могут быть найдены в дальнейшем. Это число — назовем его «g» — разумеется, не бесконечно, но знать то, что g конечно, — это не то же самое, что знать его величину. Следовательно, этой информации недостаточно, чтобы определить, когда найденная вариация окажется действительно последней.
Черепаха: Это верно.
Ахилл: Скажите мне, когда Бах создал эти знаменитые вариации?
Черепаха: В 1742 году, когда он был кантором в Лейпциге.
Ахилл: 1742? Гмм… Это число мне о чем-то напоминает…
Черепаха: Естественно, так как это очень интересное число: это сумма двух нечетных простых чисел, 1729 и 13.