Чего мы хотим и для людей, и для машин, так это возможности накапливать опыт, развиваться и делать больший вклад в общие задачи в рамках симбиоза и синтеза. Объясню это так: все сущности располагаются на шкале способности к индивидуации (способности расти и полностью реализовывать свой потенциал). Для лучшего взаимодействия между разумными видами потребуется общая система возможностей, благоприятных для роста, в том числе взаимного роста.
Нам нужно подумать о том, что мы хотим большего взаимодействия между мыслящими машинами как в количественном или рациональном выражении, так и в качественном: мы хотим расширить наш внутренний опыт, восприятие себя и реальности, развиваться вместе в огромном пространстве возможностей интеллекта.
Любовь
Создать мыслящую машину — это как отправить человека на Луну: эффект будет прямо противоположен всеобщим ожиданиям. Программа «Аполлон» не стала началом космической эры для всего человечества. Она привела к чему-то более важному — к началу эры Земли. Мы оставили свой дом, чтобы исследовать Вселенную, и впервые по-настоящему открыли то место, откуда пришли. Изображение нашей планеты в лунном небе стало каноническим символом для экологического и глобалистского движения.
Мыслящие машины ознаменуют большие перемены в нашем понимании вещей более утонченных и чужеродных, чем ИИ, — в понимании нас самих. Если мы научим машины мыслить, мы приблизимся к пониманию, кто мы такие и как мы мыслим. Мы делаем это не так, как сами об этом думаем. Большая часть нашей активности в плане высокоуровневой обработки информации нами вообще не осмысливается. Мы просто это делаем. Ребенку угрожает опасность, и мы действуем незамедлительно. Лишь потом мы начинаем обдумывать ситуацию. В нашем разуме появляется мысль — прекрасная, светлая, захватывающая мысль. Она просто есть. Мы о ней не думали, пока она не стала мыслью.
Мы не сознаем большую часть информации, которую обрабатываем в процессе мышления. Все это происходит бессознательно, в нашем разуме, в нашем теле. Раз — и готово. Нас даже нельзя назвать разумными в смысле логичности или явного следования дедуктивному принципу. Мы действуем быстро, интуитивно и эмоционально.
Экономисты считают, что мы являемся Homo economicus — эгоистичными, рациональными, действующими обоснованно в собственных интересах. Но большинство экономических и социальных взаимодействий имеют отношение к справедливости, доверию, коллективизму и долгосрочным отношениям. Экспериментальная экономика показывает, что, когда мы действуем непосредственно и незамедлительно, мы социальны и отзывчивы. Только когда мы начинаем задумываться хоть на несколько секунд, мы становимся эгоистичными.
Только если не имеем дело с компьютерами. Когда мы играем в экономические игры с соперниками-машинами, мы склонны быть холодными и эгоистичными. Можно даже измерить, как различаются кровообращение в мозгу и уровень гормонов в крови. Мы думаем о машинах так, как экономисты думают о нас — как о сущностях рациональных, хладнокровных и эгоистичных. В результате мы с ними так и обращаемся.
Инстинктивно мы знаем о том, что люди более человечны, чем мы думаем сами о себе с точки зрения теоретической экономики (или других социальных наук). Мы действуем в соответствии с этим инстинктом, но все равно находимся под ложным впечатлением того, что мы — Homo economicus. Создание мыслящих машин покажет нам, что в наших социальных инстинктах есть глубокая эволюционная мудрость: в долгосрочной перспективе гораздо выгоднее не быть эгоистом. В действительности быть эгоистом — не так уж эгоистично, раз бескорыстие ведет к лучшим результатам лично для вас.
Урок стратегии, который нам придется преподать машинам, будет только о любви.
Исследователь робототехники Ханс Моравек описал различные биологические и технологические системы с точки зрения их способностей обрабатывать и хранить инофрмацию. С одного конца — простые, основанные на правилах и стереотипические существа, такие как вирусы, черви и компьютеры. С другого — подлинно мощные информационные процессоры вроде китов, слонов и людей. Все существа с большими способностями — млекопитающие. Их потомство не рождается с полным набором программ, необходимых для функционирования. Они проходят через многолетнее обучение, прежде чем смогут существовать самостоятельно. Их навыки определены не как правила, а как уроки, выученные на собственном опыте. Вы бьетесь головой о стол, пока не научитесь так не делать. Учитесь методом проб и ошибок. Исследуете. Это возможно только потому, что о молодых млекопитающих заботятся старшие млекопитающие. Воспитание. Забота. Любовь.
Любовь создает доверие, которое дает молодым млекопитающим достаточно уверенности в себе, чтобы отправиться в путешествие за большими данными о мире. И переварить их. И залечить раны.
Любовь — вот рецепт, как вырастить человеческий интеллект, человеческий набор навыков и человеческую способность мыслить. Чтобы заставить машины мыслить, нам придется отдать им нашу любовь. Это будет больше похоже на детский сад, чем на высокотехнологичную лабораторию. Нам придется позволить машинам исследовать все самим, делать странные вещи, а не просто действовать согласно нашим пожеланиям. Им придется быть не смирными, а дикими, действовать по собственной воле.
Вызовом для нас окажется необходимость любить дикие мыслящие машины. Нам придется отойти от наших представлений о них и об искусственной жизни, поскольку когда что-то становится живым, а следовательно, способным к самовоспроизводству и изменению, оно перестает быть искусственным. Когда оно мыслит самостоятельно, оно уже не машина, а мыслящее существо. Оно будет нелогичным, обладающим интуицией и благими намерениями. Мы будет дивиться тому, как оно стало таким. Пока не поймем, что оно создано по нашему образу.
Зловещий тест трех колец для Machina sapiens
Вот и весна, ведь мир сочно —
грязный хлипкий хромой
продавец воздушных шаров
тихо насвистывает вдали
и бегут эддиибилл
прочь от пиратов и шариков
из стекла. да — весна
ведь мир тало-дивный[124]…
Когда я думаю об ИИ, у меня пробегает по спине такой классный холодок и замечательные мурашки. Детский восторг от прыжков по сочно-грязным лужам, забавы со стеклянными шариками, игры в пиратов и бег вприпрыжку… Все это никак не объяснить гипотетической разумной машине.
Можно добавить в машину десятки камер и микрофонов, тактильных сенсоров и устройств речевого вывода; вы правда думаете, что она когда-нибудь побежит вприпрыжку, как в стихотворении Эдварда Эстлина Каммингса 1916 года (здесь, к сожалению, приведенном с сокращением)?
По-моему, дело не в упрощенческом «У машин нет души», а в рубеже между манипулированием символами и действительным пониманием их подлинного смысла. Не просто точка зрения или отсутствие подхода к семантике, но подлинный скачок из этой системы.
Проблема заключается в том, что мы до сих пор говорим об ИИ, слишком часто пользуясь терминами и аналогиями первооткрывателей отрасли. Нам нужно оказаться в настоящем моменте и дать вещам определения с новой исходной отметки, которой станет подлинный интерес к проверке достижений «сознания».
Нам нужен тест трех колец[125]. Что такое настоящий ИИ? Что такое «интеллект» вообще? Шкала интеллекта Стэнфорд — Бине, коэффициент интеллекта как отношение умственного возраста к истинному (IQ) Уильяма Штерна — им уже больше ста лет! Это нам уже не подходит, а еще меньше будет подходить для ИИ. Так на самом деле можно проверить только способность выполнять эти тесты и способность действительно умных людей… избегать их выполнения.
Мы слишком легко пользуемся терминами типа «искусственный интеллект»; как там было у Хемингуэя: «Все наши слова притупились из-за небрежного обращения с ними»[126]. Детям об искусственном интеллекте известно из игр: зомби, драконы, солдаты, пришельцы. Если они уклоняются от ваших выстрелов или слаженно вас атакуют, то это называется «ИИ». Если регулируют отопление, освещение, закрывают дверь гаража, нам говорят, что это «умный дом». Конечно, ум подобных механизмов сводится к обычным «экспертным системам»: справочным таблицам, правилам, библиотекам кейсов. Может быть, их следует называть, по выражению художника Тома Беддарда, просто «искусственными хитростями»?
Предположим, вы разговариваете о еде с каннибалами, но каждое их предложение крутится вокруг приправленных трюфелями локтей, тефтелей с коленными чашечками, пенисов в вине, мочек ушей с пикантным соусом. С их точки зрения, вы вне их системы взглядов и не можете понять их мышление, по крайней мере в этой конкретной, узкой области. Настоящее значение и эмоциональное воздействие, которые имеют их слова, когда их произносят для кого-то другого, для вас просто не существуют (или требуют довольно значительной коррекции диеты). Конечно, каннибалы наделят вас статусом «разумного существа», но все равно станут смеяться над каждой вашей репликой, поскольку для них она будет звучать неубедительно и фальшиво — «не по-каннибальски», так сказать.
Зигмунд Фрейд впервые написал о «зловещем» в 1919 году (оговорка по Фрейду — в заключении статьи он проводит связь с женскими гениталиями); затем в 1970 году Масахиро Мори описал понятие «зловещая долина» (применительно к «венской руке» — старинному протезу). Это жуткое чувство того, что нечто не вполне нормально, не на своем месте (фрейдовское Unheimliche). Вроде как видишь страстно целующуюся парочку, но если приглядишься, заметишь между людьми стеклянную панель.