[67]. Глупости, которые там выдавались за искусственный интеллект, были тем, чем и казались, – просто глупостями. У судей уходило максимум 30 секунд на то, чтобы определить, где человек, а где компьютер.
Людей кормят не только знаниями. Я сам воспитал в жизни пару человек. И я кормил их человеческой едой, а не знаниями. Я отвечал на их вопросы, но это были их собственные вопросы, которые они сами генерировали. Я старался помочь им добиться того, чего они хотели, но это были (и есть) их собственные, глубоко прочувствованные желания. Человек рождается как личность, уже имея собственные желания и потребности, и он очень рано начинает их выражать и проявлять. Ни один компьютер не может начать работать, изначально ничего не зная, а затем постепенно совершенствуясь в процессе общения и взаимодействия с человеком.
Мы постоянно пережевываем эту идею, когда обсуждаем искусственный разум, но никто еще ни разу не построил такой самообучающийся компьютер, потому что это попросту невозможно. Да это и не должно быть целью той области науки, которая прежде носила название «развитие искусственного интеллекта». Подлинная цель состоит в том, чтобы понять, каким образом человек делает разные замечательные вещи, и попытаться научить машину делать хотя бы крохи и кусочки этих вещей. Я полагаю, что шахматный компьютер – это неплохо, но он ничего не расскажет вам о том, как человек думает. И он никогда не захочет внезапно научиться играть в новую игру лишь потому, что шахматы ему надоели.
Нет никакой реальной необходимости создавать искусственного человека. У нас вполне достаточно настоящих людей.
Разум – это всего лишь мозгТаня Ломброзо
Адъюнкт-профессор когнитивной психологии Калифорнийского университета в Беркли.
Сначала был дуализм. Декарт выделял две сущности – нефизический разум и материальное тело. Лейбниц говорил о сфере ментального и физического. Но дуализм столкнулся с вызовом – с объяснением того, как взаимодействуют тело и разум. Разум намеревается поднять палец, и – внимание – он поднимается! Тело натыкается на что-то острое, и разум регистрирует боль.
Теперь мы знаем, конечно, что разум и мозг тесно связаны. Травмы мозга могут влиять на восприятие, когнитивные способности и личность. Изменения в химических процессах мозга могут делать то же самое. Не существует «ментальной субстанции», которая появилась в филогенетическом направлении нашей эволюционной истории, как нет смысла и в онтогенезе, во время которого мы получаем нефизическое вливание материи разума. Мы далеко ушли от определения разума, которое дает в своем «Словаре сатаны» Амброз Бирс: «Загадочная форма материи, выделяемая мозгом».
Похоже, разум – это всего лишь мозг. Или, как сказал Марвин Мински: «Разум – это то, что делает мозг». И, если мы хотим понять разум, ответы мы должны искать в неврологии.
А вдруг нет?
Наш энтузиазм в поиске научно обоснованной альтернативы довел некоторых из нас до крайней степени редукционизма. Чтобы понять разум, знаний о мозге недостаточно. Но тогда чего нам не хватает? Многие альтернативы уравнению разум = мозг парадоксальны и противоречат здравому смыслу. Некоторые предполагают, что разум выходит за рамки мозга и включает все тело или даже часть окружающей среды. Другие – что разум не подчиняется законам физики.
Есть ли другие варианты? Они есть. Принимая во внимание, что разум и мозг – материи, так сказать, весьма головоломные, лучше рассмотреть вопрос на более конкретном (и приятном) примере – скажем, на выпечке булочек.
В вопросах выпечки я – антиредукционист. Я не верю ни в какую «кондитерскую субстанцию» – отдельную материальную сущность, не зависящую от муки, сахара и дрожжей. И я не думаю, что у булочек есть какие-то магические метафизические свойства (хотя в лучших из них определенно что-то такое присутствует). Положения булочного антиредукционима намного менее противоречивы, и они произрастают ровно из того, чего мы и ждем от нашей «теории выпечки». Мы хотим понять, почему некоторые булочки лучше других и что мы можем сделать, чтобы наши собственные булочки были еще вкуснее в будущем. Не стоит ли заменить ингредиенты? Или, может быть, нежнее замешивать тесто?
Ответ на эти вопросы могут дать химия и физика. Но теорию выпечки не стоит формулировать, прибегая к терминам «атом» и «молекула». Как хозяйка, я хочу понимать взаимосвязь между, например, техникой замешивания и получающейся текстурой, а не между кинетической энергией и гидратацией протеинов. Взаимоотношения переменных, которыми мы манипулируем, и результат, которого мы хотим достичь, лежат в области химии и физики. Но было бы ошибкой принять концепцию «булочного редукционизма» и заменить уроки выпечки теоретическим изучением химических и физических взаимодействий между компонентами пирога.
Конечно же, вы можете совершенно не интересоваться выпечкой и потому отвергнуть мои построения и склониться в пользу химии и физики. Но если вы заинтересованы в том, чтобы объяснить, прогнозировать и контролировать качество вашей выпечки, то вам так или иначе понадобится какая-то теория, на которую вы будете опираться.
А теперь подумайте о разуме. Большинство из нас интересуется теорией разума, потому что мы хотим объяснить, прогнозировать и контролировать поведение, ментальные состояния и получаемый опыт. Приняв, что ментальные процессы физически реализуются в мозге так же, как взаимодействуют ингредиенты теста, станет понятно, что понимание работы мозга чрезвычайно полезно. Но если мы хотим знать, к примеру, как воздействовать на разум с целью вызвать определенное поведение, будет ошибкой искать объяснения только на уровне мозга.
Эти соображения не станут новостью для философов, и тем не менее их стоит повторить. Отвергнуть понятие разума в попытке достичь научной легитимности – тренд, который мы наблюдаем в бихевиоризме и в некоторых популярных течениях неврологии, – дело ненужное и не отвечающее целям научной психологии. Понимать разум – не значит понимать мозг. К счастью, мы можем достичь этого понимания, оставаясь в рамках строгой науки. Или, возвращаясь к моей любимой теме, – испечь булочку и съесть ее.
Разум против материиФрэнк Вильчек
Профессор физики по программе имени Германа Фешбаха, Массачусетский технологический институт. Лауреат Нобелевской премии по физике 2004 года. Автор книг Lightness of Being («Легкость бытия») и A Beautiful Question[68].
Различение между разумом и материей встроено в повседневный язык и мышление и еще больше укоренено в философии и теологии. Великий философ и теолог Джордж Беркли назвал материю «разумом Бога», сформулировав знаменитый каламбур:
Что есть разум? Это неважно.
Что есть материя? Это несущественно[69].
Науке долгое время было удобно принимать этот дуализм если не в качестве доктрины, то в качестве методологии. В современной физике материя подчиняется собственным математическим законам, вне зависимости от того, что кто-то об этом думает, – даже если это (или, может быть, в особенности если это) Бог. Но это разделение обречено, и его отставка изменит наш взгляд на всё – под «всем» я подразумеваю разум/материю. Разделяющие эти два понятия стены уже рушатся. Их необратимо подтачивают три открытия.
1. Мы узнали, что такое материя. И наша новая материя, понятие о которой было сформировано в ходе XX столетия открытиями в области теории относительности, квантовой механики, трансформационной симметрии, кажется гораздо более необычным и потенциально гораздо более богатым феноменом, чем могли бы мечтать наши предшественники. Она то и дело устраивает непостижимые танцы с замысловатыми коленцами, проявляя способности к самоорганизации и экспорту энтропии.
2. Мы узнали – и теоретически, благодаря Тьюрингу, и на практике благодаря развитию глобальной компьютеризации, – что многие достижения, которые ранее мыслились возможными только для разума, от игры в шахматы до планирования маршрута, дружбы и взаимных интересов, доступны и машинам (в строении которых нет никаких секретов) благодаря только вычислительным операциям.
3. Мы многое узнали о мозге как о материи особого свойства. Мы знаем, что многие аспекты восприятия начинаются на молекулярном уровне. Впереди еще большие открытия – пояснение процесса работы памяти, рождения эмоций и креативного мышления на таком же уровне. Но есть все основания полагать, что и эти явления прояснятся. По крайней мере, пока для этого нет никаких препятствий.
Вечные, неясные «проблемы» свободной воли и сознания с должным уважением будут отринуты, когда механистическое понимание работы мозга создаст более мощные и менее расплывчатые теории (как это уже случилось с вычислениями).
Наиболее интересен вопрос о последствиях этого. Вот подходящий ментальный эксперимент. Вообразите очеловеченный искусственный интеллект, который изучает схему собственного устройства. Что он сделает? Думаю, вероятнее всего, одной из первых его мыслей будет размышление о том, какие улучшения можно внести. Процессор может быть быстрее, память лучше – и прежде всего система поощрения более «поощряющей»!
Наш герой, конечно же, будет воодушевлен, как и я, предсказанием Уильяма Блейка: «Если бы двери восприятия были чисты, все предстало бы человеку таким, как оно есть – бесконечным».
В плохой научной фантастике андроиды иногда пугаются осознания того, что они – «лишь машины». Следуя совету дельфийского оракула о познании самого себя, мы делаем похожее открытие по поводу себя. Зрелой и мудрой реакцией на знание о том, что разум и материя едины, будет получение удовольствия от того, каким прекрасным инструментом разум/материя может быть и, собственно, является.
Интеллект как свойствоАлександр Висснер-Гросс
Ученый, изобретатель, предприниматель; член Института прикладной вычислительной науки Гарвардского университета.