ЛОГИКА
Глава 13
Взрыв Оракула Бреддиджа
Когда предсказание само является частью предсказываемого события, могут возникать всякого рода логические парадоксы. Я несколько раз писал о таком явлении. Текст этой главы был впервые опубликован в «Isaac Asimov's Science Fiction Magazine» (август 1979). Более раннюю версию этого парадокса, в виде пари, заключаемого у стойки бара, можно найти в «Ibidem» (канадском журнале, посвященном математической магии), в номере за март 1961 года, а также в главе и моих «Новых математических забав из «Scientific American» (Нью-Йорк: «Simon & Schuster», 1966). А вот следующая глава книги, которую вы держите в руках, будет посвящена куда более загадочному парадоксу, связанному с предсказаниями.
Профессор Чарльз Бреддидж, ведущий английский специалист по искусственному интеллекту, наконец-то завершил создание своего «Оракула» (ОРАКУЛ — оперативный расчетный аппарат для казусов, управляемых логикой). По уверениям Бреддиджа, этот компьютер — настолько мощный, что способен со стопроцентной точностью предсказывать любое событие, которому предстоит случиться в лаборатории профессора в течение ближайшего часа и в радиусе десяти метров от компьютерной консоли.
Вот как он действует. «Оракулу» описывают какое-нибудь событие, которое может произойти или не произойти в указанной зоне на протяжении ближайшего часа. Если компьютер прогнозирует, что данное событие произойдет, включается зеленая лампочка: ответ — «да». Если же он считает, что событие не случится, включается красная лампочка: ответ — «нет».
Профессор Бреддидж ясно дал понять, что до истечения отведенного часа необходимо скрывать лампочки от всех присутствующих при эксперименте. Иначе кто-нибудь сможет исказить результат предсказания, сделав что-нибудь такое, из-за чего предсказание станет неверным. Предположим, что компьютер выдал «да» в ответ на предположение: «По западной стене лаборатории пробежит таракан». Если кто-нибудь раньше времени увидит зеленый огонек, он может нарочно встать у стены и проследить, чтобы такое событие не произошло.
Ассистенткой у Бреддиджа работала д-р Ада Разлейс, юная и весьма миловидная рыжеволосая особа с докторской степенью в области логики и теории множеств. Накануне того дня, когда Бреддиджу предстояло демонстрировать могущество «Оракула» группе визитеров — видных ученых-компьютерщиков, влиятельных генералов и правительственных чиновников, — д-р Разлейс подошла к нему и объявила: «Весьма сожалею, профессор, но я только что доказала: «Оракул», по всей видимости, не во всех случаях способен давать успешный прогноз. Я могу описать событие, которое либо произойдет, либо не произойдет в нашей лаборатории в течение часа и в пределах десяти метров от «Оракула», — событие такой природы, что для компьютера окажется логически невозможным предсказать, случится оно или нет».
Бреддидж отказывался верить Аде, пока она не рассказала ему, что это за событие. Потрясенный ученый тотчас же упал в обморок, и его пришлось отвезти в больницу.
Какое же событие придумала Ада?
А вот какое: «При ближайшем предсказании «Оракул» включит красную лампочку».
В результате компьютер поневоле впадет в логическое противоречие. Если в ответ он зажжет красную лампочку («нет»), его прогноз окажется неверным, поскольку красный свет действительно загорится. Если же он включит зеленую («да»), это также будет ошибкой: показав «да», он предположил, что загорится красная лампочка, а на самом деле зажглась зеленая.
Пока профессор Бреддидж приходил в себя, д-р Разлейс сама ввела в Оракул описание этого события и потребовала выдать предсказание. Компьютер замкнуло, возникла так называемая петля «да/нет», зеленая и красная лампочка попеременно то загорались, то гасли, раздалось жужжание, делавшееся всё громче и громче, и наконец аппарат взорвался, полностью уничтожив труд всей жизни Бреддиджа.
Существует масса вариантов этого парадокса, демонстрирующего, что при определенных условиях предсказание будущего невозможно в принципе. Сумеете ли вы придумать версию этого компьютерного парадокса — настолько простую, чтобы ее можно было вывалить на приятеля, потратив меньше пятнадцати слов?
Не знаю, кто первым сочинил эту историю с красной и зеленой лампочкой, ставшую очередным вариантом парадокса с компьютерными прогнозами. Она послужила основой для игры-пари, о которой я рассказывал в колонке для «Scientific American», позже перепечатанной в виде главы и моих «Новых математических забав». Если хотите парадокс потруднее, загляните в следующую главу моей нынешней книги.
«Бреддидж» — это, как вы уже догадались, обыгрывание фамилии Чарльза Бэббиджа, британского ученого, создавшего прообраз программируемого компьютера. Богатая, умная и сообразительная Ада Августа Лавлейс, прекрасная юная графиня, его близкий друг и ученица, была отличным математиком и к тому же единственным законным ребенком лорда Байрона, известного поэта. Это она первая заявила, что вычислительные машины делают лишь то, что им велят. Образ Ады в одноименном романе Набокова отчасти списан с леди Лавлейс.
Если хотите узнать больше об этой замечательной паре, можете обратиться к работе Филипа и Эмили Моррисон «Чарльз Бэббидж и его вычислительные машины», к книге Дорис Лэнгли Мур «Ада, графиня Лавлейс» и к статье Б.Х. Ньюмена «Дочь Байрона» («Mathematical Gazette», № 57, июнь 1973, с. 94–97).
Глава 14
Казнь Филберта-Фальсификатора
Логический парадокс, представленный в этой главе, называли «парадоксом неожиданного допроса»: так его именовал Д.Дж. О'Коннор, впервые описавший его в своей статье «Практические парадоксы» («Mind», № 57, июль 1948). Позже его окрестили «парадоксом неожиданного повешения». Более глубокий разбор этой задачи — в первой главе моей книги «Неожиданное повешение» (Нью-Йорк: «Simon & Schuster», 1969). Я привожу там пространную библиографию, далеко не полную, ибо с тех пор опубликовано множество работ, касающихся этого парадокса. А нижеследующая версия, сделанная в жанре фантастики, впервые напечатана в «Isaac Asimov's Science Fiction Magazine» в ноябре 1968 года.
К середине XXIII века смертная казнь в цивилизованном мире почти повсеместно заменена иным наказанием, которое именуют «стиранием». Голову преступника помещают внутрь электронного устройства — «машины забвения». Всего за несколько минут из мозга удаляют все воспоминания о событиях, которые случились после первых шести месяцев жизни человека. Это, разумеется, возвращает злодея обратно в младенчество. Давно установили, что никто не рождается с криминальными наклонностями — они приобретаются благодаря опыту. С годами такой «младенец» со стертой памятью постепенно развивается, становясь новым взрослым человеком. Поскольку процедура стирания делает из него новую личность, не помнящую о своем прежнем Я, этого приговора опасаются почти так же, как страшились смертной казни.
В систему юстиции внесли и еще одно радикальное новшество: на смену судьям (и даже некоторым адвокатам) пришли роботы. Законы стали настолько многочисленными и запутанными, что теперь лишь компьютеры могут упомнить все их детали. Судей-роботов тщательно программируют — так, чтобы они принимали только мудрые и логически обоснованные решения. Робот-судья не способен лгать. Если электрические цепи в его мозгу дадут сбой и он выдаст ложное заключение, все его решения объявляются недействительными и назначается новый процесс.
Одним из наиболее отвратительных деяний в XXIII веке, наряду с убийством и изнасилованием считается фальсификация данных научного эксперимента. Уважение к святости научного метода достигло таких высот, что всякий, кого признали виновным в такой подтасовке, автоматически приговаривается к стиранию памяти.
Филберта Х1729В арестовали за подделку данных опыта по изучению устойчивости зубов к разрушению: он руководил этим экспериментом, проводившимся в Лаборатории стоматологических исследований Орального центра Оурала Робертса в городе Талса, штат Оклахома[83]. Филберту оказался не по карману робот-адвокат. Его защитник-человек не отличался опытностью и провалил дело. Произнося приговор, робот-судья заявил:
— Вы будете стерты в 15.00 в один из шести дней следующей недели, которая начнется в понедельник. Вам сообщат точную дату в 10.00 дня стирания.
— Но, судья, — запротестовал Филберт, — разве вы не можете прямо сейчас сказать мне, в какой день это будет?
— Нет. Дата еще не определена. Однако могу с уверенностью проинформировать вас, что стирание произойдет в понедельник, вторник, среду, четверг, пятницу или субботу на ближайшей неделе. Вам не будет известен конкретный день, пока мы не сообщим его вам утром, за пять часов до исполнения наказания.
— Спасибо, ваша честь.
Это был последний приговор на сегодня, так что судья нажал кнопку на левой подмышке и отключился до утра, когда суд должен был открыться вновь.
Сидя у себя в камере, Филберт принялся обдумывать слова судьи. И вдруг вскочил на ноги, испустив радостный вопль. Его смогут казнить, только если судья при этом окажется лжецом! Но если судья — лжец, это потянет за собой новый процесс. Может быть, его жена и друзья смогут за это время наскрести денег на приличного робота-адвоката.
Как рассуждал Филберт?
А Филберт рассуждал следующим образом:
«Допустим, день моего стирания — суббота. Никто не сообщит мне утром в пятницу, что казнь состоится в субботу, а значит, в пятницу днем я уже буду точно знать, что она завтра. Но судья сказал мне, что я не буду знать день, пока не настанет утро этого самого дня. А значит, меня не могут казнить в субботу — иначе окажется, что судья лгал.
Теперь возьмем пятницу. Она тоже исключается. Поскольку суббота не может быть тем днем, когда я суну голову в машину забвения, то если мне так и не сообщат дату к середине четверга, я буду знать, что роковой день — пятница. Почему? Потому что остаются только пятница и суббота. Как я уже показал, это не может быть суббота, а значит, это должна быть пятница. Но если я уже в четверг буду знать, что меня казнят в пятницу, судья снова окажется обманщиком.
Итак, пятницу и субботу мы исключили. Рассмотрим четверг. Он тоже исключается — путем такого же рассуждения! Если до полудня среды мне так и не сообщат день казни, я буду знать, что это четверг, поскольку это не может быть ни пятница, ни суббота. Такое же рассуждение применимо к среде, вторнику и понедельнику. Какой день ни выбери, я все равно буду заранее его знать к середине предыдущего дня. В каждом случае это уличит судью в лжи и обеспечит мне повторный процесс».
Построения Филберта кажутся неопровержимыми, однако в его логике кроется гибельная ошибка. Нелегко в точности указать, где именно она залегает, но очень просто доказать, что рассуждения Филберта не могут быть верными. Каким образом?
В четверг утром Филберту сообщили: его память сотрут сегодня днем. Поскольку Филберт никак не мог заранее узнать, что это будет в четверг, новость стала для него полной неожиданностью. Казнь произошла в четверг. И слова судьи оказались абсолютно верными.
ПОСТСКРИПТУМ
Это один из самых знаменитых предсказательских парадоксов в современной философии. Более полное его обсуждение, а также список двадцати двух статей, посвященных этой проблеме, можно найти в моей книге «Неожиданное повешение» (глава 1). Книга вышла в 1969 году, и с тех пор появилось около десятка новых трудов по этому вопросу. Они перечислены в обширной библиографии к работе «Ожидая неожиданного» (авторы — Майя Бар-Хиллель и Авишаи Маргалит).