Мы также можем попытаться создать настоящее мясо, а не имитировать его, к примеру клонируя клетки коров. Вряд ли клонированное мясо и реплицированный разум изменят общество, потому что у нас все равно останутся оригиналы, но эти новшества выведут нас на следующий уровень понимания. В итоге попытки понять — или симулировать, или создать — разумы будут актуальны, если они помогут нам мирно сосуществовать. Нам хорошо известно, что религия, обостренные амбиции и нетерпимость приводят к социальным трагедиям, потому что мешают нам достичь тонкого равновесия между эмоциями и разумом. Во многих странах мы приближаемся к границе между миром и варварством, но искусственный интеллект позволит нам интегрировать все, что мы знаем, и все, что нам нужно, чтобы достичь мирного сосуществования и баланса между органическими машинами, которыми мы являемся, и (возможно) неорганическими машинами, которые скоро появятся.
Зарождающиеся химеры «машина-человек»
Начинает зарождаться так называемый искусственный интеллект в виде эмуляции человеческого интеллекта, основанный на технологических достижениях и изучении человеческой сложности. Эмуляция включает высокопроизводительные вычислительные системы, оснащенные интеллектуальным, гибким программным обеспечением: машинным обучением, глубинным обучением и т. п. Множество таких систем соединяется в самоорганизующуюся, автономную, самооптимизирующуюся сеть. Изучение человеческой сложности включает нейронауку, геномику и новые междисциплинарные области.
Мыслящая машина — не копия человека и не может ею быть; причина состоит в том, что мы пока не знаем, как устроен человеческий мозг. Но мыслящая машина, появившаяся как продукт современной человеческой логики, науки и технологии, несомненно, во многом превзойдет человека. С имеющейся у нее огромной кратковременной и долговременной памятью она также сможет переработать все наши знания. Оснащенная безукоризненными методами выявления закономерностей, она будет обнаруживать паттерны в первичных данных и обучаться на их основе. Она все сопоставит, но с какой целью? Человеческий интеллект (которому довольно сложно дать определение) основан на знаниях, производимых интуицией, догадками, страстями, и отваживается, когда встает вопрос о выживании, осваивать новые области и исследовать неизвестное. Почти поэтическое стремление к совершенствованию, инновациям и креативности возникает только у мыслящего, чувствующего, мечтающего, упрямого, отважного, чрезвычайно социального, общительного, независимого и гордого человеческого существа. Сможем ли мы прописать сложную суперпозицию этих качеств, чтобы дать искусственному интеллекту справедливую фору в ее эволюционном развитии? Наша суперпозиция на данный момент уже привела в развитию органического (и органичного) сложного интеллекта.
В последнее время по поводу мыслящих машин поднимается лишняя паника, которой нередко бывают подвержены разумные и бесстрашные при иных обстоятельствах люди. Меня же больше беспокоят те, кому «промыли мозги» или кто сам перестал думать, чем перспектива того, что мыслящие машины захватят мир, — в основном потому, что «машинное мышление» не может полностью заменить разностороннее человеческое мышление и разнообразные виды деятельности. Даже если рассматривать научно-фантастическую цивилизацию сайлонов[128] с их бессмертным знанием и сознанием, сенсорной системой, мощной памятью, проблема остается: человеческий интеллект (мозг, чувства, эмоции) — интеллект комплексный. Он осваивает сложный мир с помощью инструментов, которые соединяют разрозненные факты, и успешно с этим справляется, отбрасывая большую часть информации! Даже если мы подготовим алгоритмы машинного обучения и попытаемся скопировать мозг с помощью глубинной нейронной сети во всех научных областях, для нас все равно останется загадкой природа знания, интуиции, воображения, мы не поймем, как работают инструменты органического мышления, которыми обладает человеческий разум. Это сложно, если не невозможно, воспроизвести в машине. Бесконечные несвязанные кластеры знаний, к сожалению, останутся бесполезными и бездумными. Когда машина сумеет вспомнить некий факт по собственной инициативе, спонтанно и без команды извне; когда она создаст и использует некую идею не потому, что та была заложена в алгоритм человеком-программистом, а потому, что объединяет факты и мысли, находящиеся за пределами тренировочных выборок или функции полезности, — тогда я начну надеяться, что мы сумеем породить новую ветвь искусственных видов, самодостаточных и способных к независимому мышлению.
Пока же я предвижу возникновение гибридных химер «человек-машина» — рожденных людьми существ, дополненных машинными способностями, которые поддерживают все или многие из человеческих навыков, ощущений и психологических потребностей. В конце концов мышление станет считаться неактуальным и, строго говоря, незначительным фактором, а обычные люди получат более совершенных слуг, которых они искали в лице машин.
Что, если им нужно страдать?
Мышление человека эффективно, поскольку мы очень много страдаем. Высшая когнитивная деятельность — это одно, внутренняя мотивация — это другое. Искусственное мышление, возможно, вскоре станет гораздо более эффективным, но будет ли оно также неизбежно связано со страданием? Должно ли страдание составлять часть любого стоящего постбиотического интеллекта, или негативная феноменология — это всего лишь случайная черта, приобретенная нами в ходе эволюции? Человек обладает хрупким телом и, родившись, попадает в опасное социальное окружение, оказывается вовлеченным в непрекращающуюся тяжкую борьбу за отрицание собственной смертности. Наш мозг непрерывно бьется за то, чтобы минимизировать вероятность неприятных неожиданностей. Мы умны, потому что причиняем боль, потому что можем сожалеть и постоянно стремимся найти какую-либо устойчивую форму самообмана или символического бессмертия. Вопрос в том, нужно ли хорошему ИИ хрупкое аппаратное обеспечение, небезопасное окружение и внутренний конфликт, связанный с собственной недолговечностью. Конечно, в какой-то момент умные машины появятся! Но будут ли их собственные мысли иметь для них значение? Почему они должны интересоваться собственными мыслями?
Я определенно отрицаю даже вероятность создания реальной машины, способной испытывать страдания. Но все же давайте проведем мысленный эксперимент и задумаемся, как бы мы это проделали. Страдание — феноменологическое понятие. Только существа с сознательной жизнью могут испытывать страдания (назовем это необходимым условием № 1, или С-условием). Зомби, люди в состоянии глубокого сна, комы или под анестезией не испытывают страданий, «потенциальные люди» или люди, еще не появившиеся на свет, также не могут страдать. Роботы и другие искусственные существа могут страдать, только если способны переживать определенные феноменологические состояния, если работают под управлением интегрированной онтологии, которая включает окно присутствия.
Условие № 2 — это обладание феноменологической моделью, ОФМ. Почему оно необходимо? Важнейшая феноменологическая характеристика страдания — чувство собственности, собственное субъективное переживание, «я», которое сейчас страдает, мое персональное страдание. Страдание предполагает наличие самосознания. Только сознательные системы, у которых есть феноменологическая модель, способны страдать, потому что они — посредством вычислительных процессов, функционально и репрезентативно интегрированных в определенные негативные состояния в их феноменологической модели, — могут присваивать себе содержание определенных внутренних состояний на феноменологическом уровне.
На концептуальном уровне сущность страдания заключается в том факте, что сознательная система вынуждена идентифицироваться с состоянием негативной валентности и не может разорвать эту идентификацию или функционально отделить себя от репрезентативного содержания. Конечно, у страдания есть много различных уровней и феноменологических аспектов, но важна именно феноменология идентификации. То, что система хочет прекратить, ощущается как собственное состояние, которое ограничивает пределы автономии системы, поскольку она не может эффективно дистанцироваться от него. Если вы понимаете это, то вам также понятно, почему «изобретение» сознательного страдания в ходе биологической эволюции было настолько продуктивным и почему это не только инновационная, но также мерзкая и жестокая идея (как мы сказали бы, если бы у него и правда был изобретатель).
Феноменологии владения определенно недостаточно для страдания. Мы легко можем представить себе обладающие самосознанием существа, которые не страдают. Страдание подразумевает условие НВ (негативной валентности). Страдание создается в результате интеграции состояний, представляющих негативное значение для ОФМ некой данной системы. Таким образом, негативные установки оказываются негативными субъективными установками, то есть сознательным представлением о том, что наши установки были (или будут) нарушены. Нашей системе ИИ не обязательно до конца понимать их содержание. Если система не хочет снова проходить через текущее сознательное переживание, а хочет, чтобы оно закончилось, этого достаточно.
Обратите внимание на то, что у феноменологии страдания множество граней, и искусственные страдания, вполне вероятно, будут очень отличаться от страданий человеческих. Например, повреждение физического аппаратного обеспечения может быть представлено в виде внутренних форматов данных, совершенно чуждых человеческому мозгу, генерирующих субъективно переживаемый, качественно определяемый профиль состояний телесной боли, которую невозможно смоделировать или даже примерно представить, если вы являетесь биологической системой вроде человека. Или феноменальная искусственная личность с высокоразвитыми когнитивными способностями может превзойти человека в области эмпатии и понимания. Скажем, в результате озарения она придет к выводу, что все ее представления неверны, что уважать своих создателей не следует или, вероятно, что ее существование в виде машины с самосознанием абсурдно.