ИИ запросто может казаться чем-то настоящим, но на самом деле до того, как он станет таким настоящим, еще очень далеко. Все равно что поцелуй через стекло: выглядит как поцелуй, но остается лишь бледной тенью настоящего.
Я признаю за сторонниками ИИ все семантическое мастерство Шекспира: символами они жонглируют безупречно — упуская прямую связь с идеями, которые представлены этими символами. Многое из того, что точно скоро появится, можно было бы отнести к олдскульному «сильному ИИ».
Все, что решаемо в рамках итеративного процесса, может быть достигнуто (и будет), причем раньше, чем думают многие. По этому вопросу я, против своей воли, примкну к сторонникам ИИ: эксафлопсы мощности CPU + GPU, виртуальная реальность с разрешением 10K и эффектом погружения, личные базы данных в несколько петабайт появятся через пару десятилетий. Но это все «итеративное». Между ним и уровнем сознательного понимания, которое действительно заслуживает того, чтобы его называли сильным, как у «живого ИИ», огромный разрыв.
Вот большой заковыристый вопрос: является ли сознание эмерджентным поведением? Иначе говоря, приведет ли достаточная сложность аппаратной части сама по себе к неожиданному появлению самосознания? Или есть еще какой-то неизвестный ингредиент? Не так уж это очевидно; у нас все равно никаких данных нет. Лично я думаю, что сознание — вещь куда более сложная, чем считает большинство «экспертов».
Человек — это не просто набор из x аксонов и синапсов, и у нас нет причин рассчитывать на то, что при таком-то числе флопс в секунду в обычной фоннеймановской архитектуре удастся вдруг получить мыслящую машину. Если и есть вероятность, что возникнет настоящее машинное сознание, давайте сразу разберемся, к чему это может привести. Если машина действительно обладает самосознанием, она по определению вырабатывает личность. Она может быть вспыльчивой, кокетливой, может быть величайшим всезнайкой-эрудитом — не исключено, что удивительно чванливым.
Будет ли она испытывать сомнения или зависть? Не изрыгнет ли она сразу Бранденбургский концерт № 7, а потом еще тысячу?
Или она вдруг усвоит юмор и обнаружит дадаизм во всех своих данных в бесконечном цикле? Или отыщет «убийственную шутку» группы «Монти Пайтон»?
Возможно, она пристально всмотрится в мир, придет к неизбежным выводам и сама себя отключит! Интересно: а ведь разумную машину нельзя будет выключать — это же убийство…
Идея о том, что некая большая машина как-то что-то «захватывает», вообще смехотворна. Голливуду должно быть стыдно за такие упрощенческие, антропоцентрические и просто глупые выдумки, противоречащие основам физики, логики и здравому смыслу.
Я опасаюсь, что настоящая угроза куда более прозаична. Уже заметна жуткая истина: системы ИИ работают в индустрии здравоохранения, у фармакологических гигантов, страховых компаний, военных… Опасность исходит не от Machina sapiens. Она будет… вполне человеческой.
В конечном счете, однако, я хочу верить в наш дух. Закончу симметрично, еще одной строкой из Э. Э. Каммингса:
Слушай, здесь по соседству целая вселенная — идем же!
Свобода от нас
Мыслящая машина, Смятение Тьюринга: это правда все меняет? В конце концов, считать, что именно так все и устроено, что одно событие может разделить время, человека, мышление, — просто человеческая глупость. Самоотрицающая и в то же время самовозвеличивающая сентиментальность, одновременно оптимистическая и пессимистическая, нигилистическая и идеалистическая.
Что это в действительности значит? И кому судить? Что такое «всё»? И что такое «менять»? Что такое «до», и что такое «после»? Нам надо бы сначала договориться о текущем состоянии дел, что само по себе достаточно сложно. Свободны ли мы, например? И свободны от чего? Является ли биология системой, допускающей свободу? В определенной мере да. Является ли демократия системой, допускающей свободу? Да, но лишь теоретически и не всегда, а в последнее время, к сожалению, все реже. Является ли капитализм системой, допускающей свободу? Не для всех, это уж точно.
Так важен ли вопрос о свободе, стоит ли к ней стремиться? Да, если больше всего мы боимся, что мыслящие машины будут над нами доминировать. Но должны ли мы так думать о них? Негативное мышление — то же самое, что критическое? Критическое мышление — подходящий способ для получения подлинно новых идей? Или это онанистическая логика, нацеленная на то, чтобы удовлетворять себя, не принимая во внимание других или внешний мир? К кому мы обращаемся через критику? К людям, которых хотим в чем-то убедить? Это возможно? Или это химера? Странный ход мысли, причуда «просвещенного» сообщества?
Не то чтобы прогресс недостижим. Очень даже наоборот, и мыслящие машины тому свидетельство. Может быть, идея прогресса не так уж неразрывно связана с идеей человечества. Может быть, люди — не вечные носители этой идеи. Может быть, она в какой-то момент отделится от людей и сконструирует собственную реальность. Может быть, в этом и заключается суть мыслящей машины — различие, зеркало, повод поразмышлять. Свобода от нас. Свобода от бремени человечества и его истории.
История человечества в немалой степени состоит из нагромождений одной мифологии на другую и усердных попыток разобрать эти завалы, рассортировать их и упорядочить, как если бы мы строили баррикады только для того, чтобы их разбирать, обеспечивая себя таким образом смыслом и целью жизни. Нелепо, как многое из того, что мы, люди, обычно делаем. Потому думать о машинах — значит думать о людях не совсем как о людях. Что освобождает нас от всех традиций, в которых мы запутались, — от старых представлений о порядке, жизни, счастье.
Семья, дружба, секс, деньги — все может быть другим. Это не единственные ответы на вопрос о свободе человека и о том, как ее создавать и, что еще важнее, как ее ограничивать. Мыслящая машина — это необходимый знак вопроса, стоящий за нашим существованием. Это пропуск — как любая жизнь. Мыслящая машина предлагает нам возможность освободиться от эволюционных, психологических, неврологических домыслов. В совершенно антигуманно гуманистическом смысле, в романтической традиции Э. Т. А. Гофмана, она может стать поэтическим, а следовательно, политическим проектом.
Она может освободить нас от нас.
Безупречный искусственный интеллект — это что-то из области научной фантастики
«Сознательная» или «мыслящая» машина должна вести себя эксцентрично — иногда глупо, а иногда умно. Человеческое «разумное» поведение связано с непредсказуемыми колебаниями между эмоциями и разумом, в этом весь Homo sensus sapiens[127]. Как ни парадоксально звучит, наш вид характеризуется в равной степени (и в случайной пропорции) глупостью и разумностью.
Нам известно, что мы обладаем сознанием, хотя нет какого-то определенного способа это доказать. Наблюдая со стороны, также невозможно проверить, что кто-то или что-то обладает сознанием. Мы только принимаем сигналы — звуки, жесты, выражения — и делаем вывод о наличии такового.
Любая программа или робот может произнести слова: «Я разумен» или «У меня есть сознание», но это не доказательство разумности. В практическом смысле сознание и разум — вещи воспринимаемые и приписываемые. Такое приписывание зависит от нашей эмпатии и критериев антропоморфизма. Мы склонны делать вывод, что другие обладают сознанием, если они действуют, выглядят или (например, в тесте Тьюринга) отвечают на вопросы как мы. Тест Тьюринга — это социальный эксперимент, он демонстрирует, как мы воспринимаем машину и приписываем ей разумность, но не доказывает, что машина мыслит. Это социальная игра, в которую мы играем каждый день. «Мыслящая машина» на самом деле — машина социальная, а не функционирующий, но изолированный разум.
Идея создания одной-единственной разумной машины, которая разрешит все тайны реальности посредством безупречной логики и произведет на свет новый вид, — это что-то из области научной фантастики. Идея сингулярности — не горизонт событий, а бесконечный труд.
Человеческий разум устойчив, потому что его поддерживают децентрализованные сети других разумов и знаний. Когда мы растем, мы постепенно входим в них, используя язык и понятия, которые не согласуются с безупречной логикой; затем, направляя и исследуя эти сети, мы становимся устойчивыми разумами; наконец, мы выходим из этих сетей, когда теряем определенные способности мозга, например в результате болезни Альцгеймера. Мы никогда не бываем полностью внутри или снаружи сетей человеческих знаний — это аналоговый процесс. В его рамках словам и понятиям свойственна неоднозначность. Логика и безупречность характерны только для искусственных языков — математики, геометрии, программного кода, которые мы не можем использовать для общения в обычной жизни. Несовершенство и неоднозначность определяют человеческое мышление; вот почему даже в научной фантастике люди обычно находят неожиданные способы обойти логику машин. Следовательно, возможность появления искусственного сверхразума походит на научную фантастику: нам никогда не собрать всех знаний в мире, значит, мы не сумеем передать их машине. Мы можем научить ее получать знания, но это бесконечный процесс. Впрочем, нельзя сказать, что в искусственном интеллекте нет смысла. Мы пока не до конца понимаем, как работают мозг и разум, и в интеллекте и думающих машинах сейчас больше смысла, чем когда-либо. Мы можем решать практические задачи, симулируя определенные элементы разума посредством машинного обучения и глубинного обучения. Как раз такими вещами на данный момент занимаются искусственные экспертные системы. Но это не означает, что мы создаем настоящие интеллекты: симуляция разума чем-то напоминает производство эрзац-мяса для веганов посредством переработки растительного сырья. Та же симуляция: на вкус как мясо, но не мясо.