Юваль Ной Харари: ИИ взломал операционную систему человеческой цивилизации
Статья в оригинале находится на сайте Economist, и любой желающий может с ней ознакомиться. Мы лишь приведем основной тезис и доводы Харари.
Человеческая цивилизация зашифрована в речи, языке, который используется для передачи смыслов. Деньги, религия, права, которыми обладает каждый от рождения, тоже зашифрованы в речи. Смысл того или иного феномена передается словами; наша культура есть не что иное, как смысл, облеченный в слова. Наша история — слова, записанные кем-то когда-то. И вот у нас появился ChatGPT, который может манипулировать словами и понятиями быстрее и ловчее, чем обычный человек.
Благодаря этому алгоритм, сам того не ожидая, способен создать то, чего раньше не существовало, например религию. Или повлиять на предвыборную гонку. А может, и эти строки написаны ИИ? Кто знает. ИИ в том виде, в котором он существует сегодня, необходимо запретить или хотя бы серьезно ограничить, иначе нас ожидает «конец демократии».
Примерно в эти три абзаца можно упаковать эссе размером чуть более полутора тысяч слов. Однако на развитие ИИ допустимо посмотреть и с иной стороны, которая не нашла отражения в современном дискурсе, по крайней мере не так явно и громко. Техноевангелисты не трубадурят, а молча и тихо делают свое дело.
Рустам Агамалиев: наблюдать следует не за машиной, а за человеком
Фортуна улыбается смелым.
Не так давно я прочитал статью Юваля Ноя Харари о взломе кода цивилизации и на два-три дня задумался. Сложно не согласиться с тем, о чем он пишет. Действительно, человеку для доминирования на Земле не потребовалось обладать длинными когтями, острыми клыками или могучей силой. Любой представитель дикой природы, который живет охотой, одолеет хомо сапиенса. Однако у человека есть то, что хотя и присутствует у льва, тигра, гориллы, но не развито на достаточно продвинутом уровне, — речь. Харари раскрывает в эссе довольно однобокий взгляд на машину, которая освоила речь. Пусть даже на уровне способности предугадывать следующее слово и генерировать местами осмысленные и глубокие, однако нечастые наборы слов, но освоила.
Речь — это звуки, которые складываются в слова, слова — в предложения, предложения — в абзацы, а абзацы — в текст. При помощи речи нам удается успешно коммуницировать, связывать мысль со словами. Однако в соответствии с мнением технолуддитов (будем называть так тех, кто переживает за человечество и считает, что угроза, исходящая от ИИ, реальна) речь — последний бастион человечности. Именно она отличает нас от «недумающей» машины и делает теми, кто мы есть. Харари посвятил этой теме больше полутора тысяч слов.
Сложно оспорить то, что благодаря языку мы стали хозяевами планеты. Способность выражать мысль словами понятно — уникальное свойство человека и наиболее универсальное. Благодаря речи мы обладаем возможностью манипулировать идеями, играть со смыслами и прошивать человеческий культурный код. Харари уместно привел в качестве примера деньги. По большому счету это не более чем бумажка с символами или код из нолей и единиц, если речь идет о цифровых деньгах. Они сами по себе не несут ничего, но благодаря речи и смыслу, заложенному в фундамент монетарной системы, человек получил универсальный инструмент обмена ценностями.
Речь — это в первую очередь способ передачи ценности и смыслов и один из способов скрыть что-нибудь за набором непонятных или мутных терминов. Человек достиг мастерства в игре словами и понятиями. И теперь это универсальное и уникальное свойство принадлежит не только нам. Вся наша культура — продукт речи. Все, что предстает нашему взору, наделено словесным смыслом, который мы же и заложили. Если мы не знаем, как что-то называется, или если это новый феномен, мы в первую очередь придумываем, как обозначить его в речи. Любой физический объект обладает лингвистическим смыслом. Благодаря языку мы можем манипулировать смыслами не только физически доступных объектов, но и абстрактных концепций, таких как теория относительности, теория вероятности, логика, математика (хотя в последнем случае это спорно: есть мнение, что мы биологически предрасположены к овладению математикой благодаря пальцам).
История человечества — это не события с датами, а мотивы и причины поступков, которые выражены словами, зафиксированы в летописях, народных сказаниях и фольклоре. Если нам нужно что-то выяснить, мы обращаемся к Google (или к другому поисковику) и вводим словесный запрос, который нам поможет. Когда тема необъятная и Google не дает ответа, удовлетворяющего потребность, мы идем в библиотеку. Поиск — это манипуляция со словами. Библия — это вера, выраженная в письменной форме, слова, которые мы наделили смыслом. Идея — это образ, который для успешного воплощения необходимо сформулировать в словах, письменно.
И вот нам дали поиграться с ChatGP T. О боже! Эта балаболка умеет играть словами, манипулировать идеями, отвечать на вопросы, сохраняя контекст. Не удивлюсь, если в какой-то версии она способна пройти «тест Тьюринга». Неужели Харари, Маск и прочие технолуддиты думают, что мы из-за этого теряем способность владеть языком? Эссе Харари, интервью Маска у Такера Карлсона говорят, на мой взгляд, именно об этом. О страхе, что теперь словами может манипулировать не только человек, но еще и компьютерный алгоритм. GPT делает это быстрее, точнее и аккуратнее, чем раньше это делал человек. Мы боимся, что кто-то, манипулируя алгоритмом, повлияет на наши действия, решения. Более того, Харари пишет о том, что мировоззрение может быть изменено, если не проконтролировать умную машину, а если не остановить развитие GPT, то свободе слова придет конец (это его последний аргумент). Все это сказано в будущем времени, позиция четкая: если мы не остановим ИИ, то нашей цивилизации будет плохо.
Но Харари и Маск опоздали. Мы потеряли контроль давно, когда появились социальные сети и всеми любимый ютьюбчик, где выдача контента происходит алгоритмизированно. В момент, когда мы позволили системе или тем, кто ею управляет, пессимизировать поисковую выдачу, мы отдали свободу. Харари, Маск и прочие техногиганты, подписавшиеся под письмом, опоздали. Нами управляют алгоритмы, и эти люди боятся утратить возможность влиять и контролировать алгоритм. «Демократия под угрозой» — так они говорят. Она давно сгинула, а все, кто о ней говорит как о чем-то существующем, глумятся над бренным ее трупом. Ну да ладно, пусть живут в своей иллюзии.
Я сейчас попробую посмотреть на ИИ и все, что с ним связано, как на нечто другое. Харари писал, что «взломан код цивилизации». Что история — это продукт деятельности операционной системы человека, ключевым элементом которой стала речь. По его мнению, она и способность коммуницировать взломаны ChatGPT. Но почему он решил, что может наступить конец истории человека? Я именно так интерпретировал его статью. Почему это не новый виток? Возможно, история перестанет принадлежать исключительно человеку, мы ее разделим между машиной и собой. Конечно, это все розовые мечты футуристов, но если размышлять широко, то почему бы не настолько масштабно?
С появления первой летописи мы считали, что история — это описание событий, произошедших в прошлом. Обычно они связаны с деятельностью человека как существа, обладающего свободой воли. Это крайне спорно, хотя бы потому, что поступки и действия человека становятся следствием биохимических процессов, происходящих в организме. Когда в нас бушует ураган гормонов, мы ли принимаем решения? Может, обстоятельства диктуют последовательность действий? Мы думаем, что обладаем свободой воли, и делаем предположение, будто история пишется биологическим существом, нами, доминирующим видом на этой планете. Однако теперь нам вдруг стало страшно, что вместе с нами историю может писать и машина. Сама или совместно с нами.
Если рассматривать технологический вид жизни как нечто потенциально возможное, то с таким отношением, которое есть сейчас, его существование действительно оказывается под вопросом. Нам необходимы еда и партнер для размножения, а машине этого не нужно. Роботы, заменившие человека в некоторых потенциально опасных профессиях, не обладают хрупким телом, им не требуется девяти месяцев на написание кода и десятки лет на воспитание мозга и декодирование и перенос культуры с буквенного выражения в смысловой. Им не нужны осознание и долгое обучение. Мы боимся этого: что машина станет разумной, что бы это ни значило. Но если вдруг это произойдет, что дальше? Отключать ИИ или оставить все как есть и наблюдать за происходящим? Для меня ответ очевиден: наблюдать.
Причем наблюдать не за машиной, а за человеком и его реакцией на то, что она делает. Видеть, как создается новый культурный объект, наделенный смыслом (мы, кстати, не знаем, существует ли уже что-то подобное). А вдруг машина создаст новую, уникальную идею, смысл который мы пока понять не в состоянии ввиду ограниченности вычислительной мощности мозга. Начнем ли мы жить в новой истории? Истории машины и человека? За всеми заявлениями о безопасности ИИ стоит звериный страх потери контроля. Как так, на Земле может появиться кто-то кроме нас, способный думать и, возможно, размышлять?! Важно отметить, что до этого еще очень далеко, даже рано об этом размышлять сколько-нибудь серьезно. Но раз все переживают о том, как не дать ИИ возможности развиваться, позволю себе рассмотреть другую сторону и порассуждать о причинах невозможности иного сценария. ИИ будет развиваться. Искусственное торможение технологии, возможно, замедлит, но не остановит этот процесс.
Пристегнитесь и наслаждайтесь поездкой в будущее.
ИИ в нынешнем виде не способен никоим образом причинить вред человеку, однако мы активно пропитываемся культурой ненависти к технологиям. Голливуд не создает образ доброго ИИ. Конечно, не все, что делает «фабрика грез», представляет злой ИИ. Однако подавляющее большинство историй опирается в той или иной форме на страх человека потерять контроль, перестать быть единственным хозяином планеты, творцом среды обитания, рассказчиком, учителем, строителем и мастером своего дела. Действительно, сложно оставаться экспертом, когда интеллектуальная машина может сделать то же самое быстрее и лучше. Невольно вспоминаются слова Уилла Смита из кинофильма «Я, робот»: