Искусственный интеллект доказывает правоту одной из величайших идей в истории человечества: речь о том, что абстрактное царство знания, разума и цели не подразумевает elan vital[93], нематериальной души или чудесных сил нервной ткани. Скорее, оно может быть связано с физическим царством животных и машин благодаря концепциям информации, вычислений и контроля. Знание можно объяснить как накопление образцов материи или энергии, находящихся в систематических отношениях с состояниями мира, математическими и логическими истинами и друг с другом. Мышление же можно объяснить как трансформацию этого знания посредством физических операций, которые предназначены для сохранения указанных отношений. Цель может быть объяснена как способ контроля операций для осуществления изменений в мире на основании несоответствий между текущим и целевым состояниями. Мозг, плод естественной эволюции, представляет собой всего-навсего наиболее привычную систему, которая создает интеллект через информацию, вычисления и контроль. Разработанные человеком системы, способные к обретению интеллекта, подтверждают предположение, что для объяснения здесь достаточно понятия обработки информации, – то есть, как выразился покойный Джерри Фодор, подтверждают вычислительную теорию разума.
Исходная работа для авторов настоящего сборника – книга «Человеческое применение человеческих существ» Норберта Винера – зафиксировала это интеллектуальное достижение, одним из творцов которого был сам Винер. К неочевидному прорыву середины XX столетия, подарившему нам вычислительную теорию разума, причастны также Клод Шеннон и Уоррен Уивер, которые объяснили знания и коммуникацию через информацию. Следует воздать должное и Алану Тьюрингу с Джоном фон Нейманом за объяснение интеллекта и мышления с точки зрения вычислений. Что касается Винера, он объяснил загадочный мир целей, задач и целеполагания через техническую концепцию обратной связи, управления и кибернетики (в первоначальном значении слова – «управления» работой системы, ориентированной на достижение целей). «По моему мнению, – писал он, – физическое функционирование живых индивидуумов и работа некоторых новейших коммуникативных машин совершенно параллельны друг другу в аналогичных попытках контролировать энтропию посредством обратной связи». То есть борьба с угрожающей жизни энтропией является конечной целью человечества.
Винер применил идеи кибернетики к третьей системе – обществу. Законы, нормы, обычаи, средства массовой информации, форумы и институты сложного сообщества могут рассматриваться как каналы распространения информации и обратной связи, которые позволяют обществу справляться с беспорядками и реализовывать поставленные цели. Этот тезис прослеживается красной нитью по всей книге; вполне возможно, что сам Винер считал его главным. В своем объяснении обратной связи он писал: «Этот комплекс поведения обычно игнорируется средним человеком; в частности, он не играет заметной роли в житейском анализе социальных процессов; однако мы вправе изучать как физическое реагирование индивида, так и органическое реагирование самого общества».
Действительно, Винер придал научное обоснование предположению о том, что в истории, политике и обществе имеют значение идеи. Убеждения, идеологии, нормы, законы и обычаи, регулируя поведение людей, которые их разделяют, способны формировать общество и влиять на ход исторических событий точно так же, как физические явления воздействуют на структуру и эволюцию Солнечной системы. Говорить, будто идеи – а не только климат, ресурсы, география или вооружение – могут формировать историю, вовсе не значит впадать в мистику. Перед нами утверждение о каузальности информации, которая создается в человеческом мозге и передается через сети связи и обратной связи. Детерминистские теории истории, признают ли они первопричиной технологии, климат или географию, опровергаются каузальной мощью идей. Среди последствий этих идей можно выделить непредсказуемые колебания и смещения, возникающие благодаря положительной обратной связи – или неправильной калибровке отрицательной обратной связи.
Анализ общества с точки зрения распространения идей также предоставил Винеру трибуну для социальной критики. Здоровое общество – такое, которое наделяет людей средствами к продолжению жизни вопреки энтропии – позволяет информации, воспринимаемой и распространяемой его членами, порождать обратную связь и влиять на способы управления этим обществом. Дисфункциональное общество опирается на догму и на власть навязывать контроль сверху вниз. Потому Винер называл себя «сторонником либерального мировоззрения» и посвятил бо́льшую часть моральной и риторической критики в своей книге (издания 1950 и 1954 годов) осуждению коммунизма, фашизма, маккартизма, милитаризма и авторитарной религии (в особенности католицизма и ислама), а также предупреждениям о том, что политические и научные институты постепенно становятся все более иерархическими и замкнутыми.
Книга Винера, кроме того, есть ранний образчик произведения в жанре, который уверенно обретает популярность, – жанре технического пророчества. Причем речь не о пророчестве в смысле простого прогноза, а о предсказании в духе Ветхого Завета, мрачном предостережении относительно катастрофического возмездия за упадок. Винер рассуждал об ускорении гонки ядерных вооружений, о технологических изменениях, которые навязываются обществу без учета благополучия человека («Будучи учеными, мы должны знать, какова природа человека и каковы присущие ему цели»), и о том, что сегодня называется проблемой выравнивания ценностей: «подобная джинну машина, способная к обучению и принятию решений на базе этого обучения, никоим образом не окажется обязанной принимать те решения, какие приняли бы мы сами или какие были бы приемлемыми для нас». В более трагическом по тону издании 1950 года он предупреждал об угрозе нового фашизма со стороны machine a gouverner.
Техническое пророчество Винера побуждает вспомнить романтическое восстание против «угрюмых сатанинских мельниц» промышленной революции и, возможно, даже более ранние примеры – судьбу Прометея, Пандоры и Фауста. Сегодня же оно звучит особенно остро. Многочисленные Иеремии (сам Винер, например) от науки и техники бьют тревогу по поводу нанотехнологий, генной инженерии, больших данных и, прежде всего, искусственного интеллекта. Ряд авторов настоящего сборника характеризуют книгу Винера как яркий пример технического пророчества и стараются превзойти своего предшественника в живописании грядущих ужасов.
Тем не менее две моральные темы «Человеческого применения человеческих существ» – либеральная защита открытого общества и дистопийный страх перед разгулом технологий – остаются вполне актуальными. Общество с каналами обратной связи, максимизирующее человеческое процветание, будет располагать нужными механизмами и сможет адаптировать их к изменяющимся обстоятельствам таким образом, чтобы они приспосабливали технологии к человеческим целям. Здесь нет ничего идеалистического или мистического; как подчеркивал Винер, идеи, нормы и институты сами по себе суть технологии, фрагменты информации, распределенные в сознании. Вероятность того, что машины принесут с собой новый фашизм, следует сопоставить с ценностью либеральных идей, институтов и норм, отстаиваемых Винером на протяжении всей книги. Проблема современных антиутопических пророчеств состоит в том, что они игнорируют существование этих норм и институтов или сильно недооценивают их каузальную силу. В результате возникает технологический детерминизм, чьи мрачные предсказания неоднократно опровергались реальным ходом событий. Цифры «1984» и «2001» могут служить наглядными примерами[94].
Рассмотрим два случая. Технические пророки нередко предупреждают о «всевидящем оке»: дескать, правительство, располагающее нужными технологиями, будет отслеживать и контролировать всю частную переписку ради выявления инакомыслия и подрывной деятельности, тем самым препятствуя сопротивлению государственной власти. Сразу вспоминаются оруэлловские экраны; недаром еще в 1976 году Джозеф Вейценбаум, один из мрачнейших технических пророков всех времен, советовал моим студентам не заниматься автоматическим распознаванием речи, поскольку единственным мыслимым применением этой технологии является государственное «всевидящее око».
Считая себя убежденным либертарианцем, которого сильно беспокоят нынешние угрозы свободе слова, я не теряю сон из-за технологических достижений, будь то интернет, видео или искусственный интеллект. Дело в том, что почти все различия в свободе мысли во времени и пространстве обусловлены различиями в нормах и институтах, они почти никак не определяются различиями в технологиях. Безусловно, можно вообразить гипотетическое сочетание злобных тоталитаристов и передовых технологий, но в реальном мире мы должны бдительно следить за нормами и законами, а не за технологиями.
Рассмотрим изменения во времени. Если, как намекал Оруэлл, прогрессирующие технологии действительно являются основным фактором стимулирования политических репрессий, то западные общества становились бы все более и более сдержанными в свободе слова на протяжении столетий, причем резкое ухудшение наблюдалось бы во второй половине XX столетия и в XXI веке. Но история развивалась иначе. Именно тогда, когда коммуникация осуществлялась перьями и чернильницами, происходили аутодафе, а мыслителей сажали в тюрьму или под нож гильотины. В годы Первой мировой войны, когда вошел в моду телеграф, Бертрана Рассела посадили под замок за публичное выражение пацифистских взглядов. В 1950-е годы, когда компьютеры занимали целые помещения, сотни либеральных писателей и ученых страдали от преследований. В нашем же технологически развитом и гиперсвязанном XXI веке 18 процентов профессоров социальных наук привержены марксизму[95]; телевизионные комики вечерами высмеивают президента Соединенных Штатов Америки как расиста, извращенца и недалекого деревенщину; а главная угроза со стороны технологий для политического дискурса заключается в трансляции слишком большого количества сомнительных заявлений, а не в подавлении просвещенных умов.