Фрэнк Вильчек
профессор физики в Массачусетском технологическом институте, лауреат Нобелевской премии 2004 года по физике, автор книги «Красота физики. Постигая устройство природы».
Я познакомился с Фрэнком Вильчеком в 1980-х годах, когда он пригласил меня к себе домой в Принстон, чтобы кое-что обсудить. «Мой адрес – дом 112 по Мерсер-стрит, – написал он. – Ищите дом без подъездной дороги». Несколько часов спустя я сидел в старой гостиной Эйнштейна [71]и беседовал с будущим лауреатом Нобелевской премии по физике. Если Фрэнк и испытывал, подобно мне, благоговение перед историческим местом, по его виду догадаться об этом было невозможно. Он разве что скупо прокомментировал трудности с парковкой перед «домом без подъездной дороги».
В отличие от большинства физиков-теоретиков, Фрэнк давно проявляет большой интерес к ИИ, о чем свидетельствуют следующие три «наблюдения»:
1. Фрэнсис Крик рассуждал об «удивительной гипотезе»: сознание, также известное как разум, является развивающимся свойством материи, из чего, если данное утверждение истинно, следует, что «всякий интеллект есть машинный интеллект. От естественного искусственный интеллект отличается не сутью, а способом появления».
2. «Искусственный интеллект не является продуктом инопланетного вторжения. Это артефакт определенной стадии человеческой культуры, отражающий ценности этой культуры».
3. Поразительное утверждение Давида Юма «Разум есть и должен быть только рабом аффектов», высказанное в 1738 году, относилось, конечно, сугубо к человеческому разуму и человеческим аффектам. «Но логико-философская точка зрения Юма применима и к ИИ. Проще говоря, поведение определяют стимулы, а не абстрактная логика».
По мнению Вильчека, «главное в истории XX и XXI столетий то, что [по мере развития] вычислительной техники мы учимся все лучше и лучше рассчитывать последствия [фундаментальных] законов. Существует также обратная связь: когда лучше понимаешь материю, проще создавать такие компьютеры, которые ускоряют вычисления. Это своего рода восходящая спираль».
В очерке ниже Фрэнк утверждает, что человеческий разум на данный момент обладает преимуществом, однако наше будущее, не ограниченное ни Солнечной системой, ни, несомненно, нашей Галактикой, невозможно без содействия ИИ.
– может ли искусственный интеллект быть сознательным?
– может ли искусственный интеллект быть творческим?
– может ли искусственный интеллект быть злым?
Эти вопросы часто задаются сегодня в популярных медиа и научных дебатах. Но плоды дискуссий противоречат друг другу. Позвольте ответить на эти вопросы следующим образом.
Отталкиваясь от физиологической психологии, нейробиологии и физики, смело скажу, что меня сильно удивит, если мы не ответим «Да» на все три вопроса. Причина проста, но при этом весома: факты, накопленные в перечисленных областях, неоспоримо доказывают отсутствие принципиального различия между естественным и искусственным интеллектом.
В своей одноименной книге 1994 года знаменитый биолог Фрэнсис Крик выдвинул «удивительную гипотезу» о том, что разум возникает из материи. Он утверждает, что разум во всех своих проявлениях есть «не более чем поведение огромного скопления нервных клеток и связанных с ними молекул».
«Удивительная гипотеза» на самом деле является основой современной нейробиологии. Люди пытаются понять, как работает разум, изучая функционирование мозга, и пытаются понять, как функционирует мозг, изучая, как информация кодируется в электрических и химических сигналах, преобразуется физическими процессами и используется для управления поведением. В своих научных устремлениях они не учитывают экстрафизическое поведение. До сих пор в тысячах тщательно продуманных экспериментов эта стратегия никогда не подводила. Просто не возникало необходимости учитывать влияние сознания или творчества без привязки к деятельности мозга для объяснения наблюдаемых явлений из области психофизики или нейробиологии. Никто и никогда не сталкивался с силами разума, существующими отдельно от обыкновенных физических событий в биологических организмах. Разумеется, многого о мозге и разуме мы не понимаем, но «удивительная гипотеза» вполне правдоподобна.
Если мы выдвинемся за пределы нейробиологии и примем во внимание весь спектр научных экспериментов, доказательства покажутся еще более убедительными. В современной физике объектом интереса часто становятся чрезвычайно малые явления. Чтобы их исследовать, экспериментаторам приходится принимать серьезнейшие меры предосторожности, препятствующие возникновению «шума». Нередко оказывается необходимым создавать комплексную защиту от паразитных электрических и магнитных полей; компенсировать крошечные вибрации от микро-землетрясений или проезжающих мимо машин; работать при экстремально низких температурах и в вакууме и т. д. Но имеется примечательное исключение: никогда не было необходимости делать поправку на мысли людей поблизости (или, если уж на то пошло, людей в отдалении). Как кажется, никаких «мысленных волн», отдельных от известных физических процессов и способных влиять на физические события, не существует.
Этот вывод, если на него опираться, стирает различия между естественным и искусственным интеллектом. Из него вытекает, что, доведись нам дублировать или точно имитировать физические процессы в мозге – теоретически это возможно, – и соединить входы и выходы с органами чувств и мышцами, то мы сумеем воспроизвести в физическом артефакте наблюдаемые проявления естественного интеллекта. Мы не упустим ничего наблюдаемого. Как у наблюдателя, у меня нет реальных причин приписывать артефакту меньшую или большую сознательность, творческий потенциал или злонамеренность, чем в ситуации, когда я приписываю эти свойства естественным носителям разума, то есть другим людям.
Так, комбинируя нейробиологическую «удивительную гипотезу» Крика с убедительными доказательствами физики, мы приходим к выводу, что естественный интеллект является частным случаем искусственного интеллекта. Этот вывод заслуживает особого названия, и я назову его «удивительным следствием».
Благодаря ему у нас появляется ответ на наши три вопроса. Поскольку сознание, творчество и зло являются очевидными признаками естественного человеческого интеллекта, они будут и возможными признаками искусственного интеллекта.
Сто или даже пятьдесят лет назад поверить в гипотезу о том, что разум возникает из материи, и сделать вывод, что естественный интеллект является особым случаем искусственного интеллекта, означало совершить, так сказать, прыжок веры. Ввиду обилия пробелов – точнее, даже пропастей – в тогдашнем понимании биологии и физики, такие утверждения действительно выглядели чрезвычайно сомнительными. Но эпохальные достижения в указанных областях изменили эту картину.
В биологии: Столетие назад не только мышление, но и метаболизм, наследственность и восприятие виделись сугубо загадочными «элементами» человеческой жизни, недоступными для физического объяснения. Сегодня же мы располагаем чрезвычайно богатыми и подробными описаниями механизмов обмена веществ, наследственности и многих функций восприятия – с молекулярного уровня и выше.
В физике: Столетие развития квантовой физики и ее практического применения привело к тому, что специалисты снова и снова обнаруживают, сколь разнообразным и странным может быть поведение материи. Сверхпроводники, лазеры и многие другие нынешние чудеса демонстрируют, что крупные совокупности молекулярных единиц, каждая из которых проста сама по себе, могут проявлять качественно новое, «эмерджентное» поведение, полностью при этом подчиняясь физическим законам. Химия, в том числе биохимия, словно опрокинула рог изобилия эмерджентных явлений, и все они получили достаточно прочное физическое обоснование. Физик-теоретик Филипп Андерсон в статье под названием «Больше значит иначе» предлагает вариант классической дискуссии об эмерджентности. Он начинает с признания того, что «редукционистская гипотеза» [то есть полнота физических объяснений, основанных на известных взаимодействиях простых элементов] «все еще остается предметом споров среди философов, но подавляющее большинство физиков, полагаю, принимают ее без вопросов». Но далее он подчеркивает, что «поведение больших и сложных агрегатов элементарных частиц, как выясняется, не следует воспринимать через простую экстраполяцию свойств немногих частиц»[72]. Каждый новый уровень количества и сложности стимулирует появление новых форм организации, структуры которых кодируют информацию по-новому, а их поведение точнее всего описывается с использованием новых концепций.
Электронные компьютеры являются великолепным примером эмерджентности. Здесь, как говорится, все карты на столе. Инженеры обычно проектируют машины по методу «снизу вверх», опираясь на известные (и достаточно сложные) физические принципы, и творят устройства, способные обрабатывать информацию поистине поразительным образом. Ваш айфон может обыграть вас в шахматы, быстро отыскать и передать информацию о чем угодно, а также фотографировать в отличном качестве. Поскольку процесс, посредством которого компьютеры, смартфоны и другие интеллектуальные устройства проектируются и производятся, полностью прозрачен, не может быть никаких сомнений в том, что их замечательные способности порождаются регулярными физическими процессами, каковые возможно проследить до уровня электронов, фотонов, кварков и глюонов. Очевидно, что грубая материя может, скажем так, резко поумнеть.
Позвольте обобщить изложенное выше. Из двух твердо подтвержденных гипотез мы делаем следующие выводы:
– человеческий разум возникает из материи;
– материя есть то, что изучает физика;