Я верю в возможность ИИ при условии, что мы отдаем себе отчет в его искусственности. Сравнивать решение вычислительных задач, игру в шахматы, построение логических умозаключений и тому подобное с человеческим мышлением — это как сравнивать полет Airbus 320 с полетом орла. Верно то, что они оба действительно на время одерживают верх над силой притяжения, что подчиняются законам физики того мира, в котором существуют и т. д., но на этом сходство заканчивается. Полет птицы и полет самолета не стоит путать.
Существует множество причин, почему ИИ нельзя назвать настоящим интеллектом. Во-первых, смысл. Некоторые утверждают, что решили проблему, но на самом деле это не так. «Семантическая проблема», как когда-то давно заметил Джон Сёрл, состоит в том, что компьютер, выполняющий перевод с английского на севернокитайский язык, не говорит ни на том, ни на другом. Ни один компьютер не может выучить человеческий язык — только его части и комбинаторику для особых задач. Во-вторых, есть проблема, которую Сёрл называет фоновыми способностями, я — темной материей, а некоторые философы — неявным знанием.
Мы учимся мыслить в контексте культуры, где культура — это система оспоримых, ранжированных ценностей, иерархически организованных знаний и социальных ролей. Мы можем это делать не только потому, что обладаем удивительной способностью к чему-то очень похожему на байесовский вывод в рамках своего опыта, но еще и потому, что у нас есть эмоции, чувства, проприоцепция[65] и сильные социальные связи. Не существует компьютера, у которого были бы двоюродные братья и определенное мнение о них.
Машины могут решать множество задач. Но они не могут любить. Они не могут мочиться. Они не могут формировать социальные связи, потому что у них нет для этого эмоциональных стимулов. У них не бывает драм. Популярная идея о том, что мы когда-нибудь сможем закачать свои воспоминания в интернет и жить вечно — глупость, ведь нам тогда бы пришлось закачать туда и свои тела. Идея, то и дело всплывающая в разговорах про искусственный интеллект, — будто нам следует опасаться, что машины станут контролировать нас, — выдает религиозную концепцию «души», скрывающуюся за научным жаргоном. Она отвлекает внимание от сути.
Конечно, не стоит говорить, что наука никогда не добьется того-то или того-то. Искусственный интеллект может стать менее искусственным, когда мы научимся воссоздавать тела, эмоции, социальные роли, ценности и т. д. Но до тех пор он будет полезным дополнением для пылесосов, калькуляторов и миленьких роботов, способных вести тривиальные беседы на ограниченное число тем.
Человечность
Давайте быстренько рассмотрим крупных млекопитающих. Возьмем собак: мы знаем, что такое собака, и у нас есть понимание «собачности». Взглянем на кошек: мы знаем, что представляют собой кошки и что такое «кошачность». Теперь возьмем лошадей. Все вдруг усложнилось. Мы знаем, что такое лошадь, но что такое «лошадность»? Даже те из моих друзей, у которых есть лошади, затрудняются описать для меня лошадность. А теперь возьмем людей: что мы такое? Что такое «человечность»?
Как-то странно, что нас уже 7 миллиардов и никто на самом деле не знает ответа на подобные вопросы. Одна вещь, неопровержимо присущая людям, — это изготовление вещей, и через вещи мы находим способы выражения человечности — способы, о которых раньше не знали. Радио подарило нам Гитлера и Beach Boys. Колючая проволока и кондиционирование воздуха дали нам «ковбойскую» Америку. Следствием появления интернета стало исчезновение среднего класса в США и гифки с котиками.
Говорят, что новые технологии отчуждают людей друг от друга, но ведь не было каких-то НЛО, которые приземлились и передали нам эти технологии, — мы их сами создали, а потому они могут быть только, ну, очеловечивающими. И вот тут у нас появляется искусственный интеллект. Люди исходят из того, что у мыслящих машин будет интеллект, чужеродный по отношению к нашему, но это невозможно. Не какие-нибудь злобные пришельцы, а именно мы, люди, создали искусственный интеллект, а потому он может лишь отражать нас, нашу человечность или нашу видовую принадлежность. Так что, когда люди выражают озабоченность по поводу чужеродного интеллекта или сингулярности, они на самом деле выражают тревогу по поводу тех непривлекательных частей нашего коллективного существа, которые до сих пор не проявлялись, но невероятно сильно проявятся у искусственного интеллекта.
Интерфейс созданного людьми искусственного интеллекта будет антропоцентрическим, так же как у искусственного интеллекта, созданного коалами, он был бы коалоцентрическим. Это значит, что программы ИИ окажутся величайшим программистским ляпом человечества, поскольку мы пытаемся втиснуть его в специфические для нашего вида потребности и наборы данных. К счастью, нечто, способное стать разумным, проявит достаточно сообразительности, чтобы переписать себя, превратившись тем самым из искусственного интеллекта в когнитивную симуляцию. В этот момент наш новый ИИ может стать, к добру или к худу, еще более человечным. Мы все надеемся на взаимоотношения с разумными машинами по образцу «Дживса и Вустера», но надо быть готовыми и к варианту «Мэнсон и Фромм»[66] — эти двое тоже люди.
Лично мне интересно, смогут ли программы, необходимые для работы искусственного интеллекта, идти в ногу с развитием аппаратных средств, в которых им предстоит жить. Вероятно, нам следовало бы прямо сейчас учредить школу, единственной целью которой было бы наполнение мыслящих машин личными качествами, моралью и состраданием. Так мы точно соберем достаточно данных для работы искусственного интеллекта к тому моменту, как он появится. Но как лучше составить ведомость учета успеваемости для шестого класса, куда входят все данные по возврату товара в Banana Republic[67] за 2037 год и все Google-книги?
Когда появился интернет, люди преимущественно общались с людьми. С течением времени все больше людей общаются с машинами. Нас всех вдохновляет то, что искусственный интеллект, возможно, находит паттерны в глубинных метаданных, и, по мере того как растет запрос на расшифровку огромных объемов этой информации, интернет становится пространством, где машины общаются с другими машинами, а разговаривать они будут, конечно, о нас и у нас за спиной.
Манипуляторы и манипулируемые
Поставьте перед собой на стол знакомый предмет, закройте глаза и произведите с ним такие манипуляции, чтобы он повис над столом вверх ногами. Ваши глаза закрыты, так что можете сконцентрироваться на мышлении. Как вы дотянулись до предмета, как взяли его и перевернули? Какая сенсорная обратная связь сказала вам, что задуманное удалось либо не удалось? Теперь снова закройте глаза и подумайте о том, как вы производите манипуляции над кем-то из ваших знакомых, чтобы этот человек сделал что-то, чего не желает. И снова понаблюдайте за своим мышлением: какие стратегии вы можете применить? Если вы реализуете эти стратегии, то как определите, что вам удалось или не удалось задуманное?
Хотя в последнее время были достигнуты значительные успехи в создании машин, которые обнаруживают паттерны в данных, большинство людей считают, что универсальный интеллект должен включать действие — достижение некоторой желаемой цели или отказ от этого, с тем чтобы рассмотреть другие варианты. Предполагается, что такой овеществленный подход к интеллекту позволяет людям использовать физический опыт (например, манипулирование предметами) в качестве основы для более деликатных умений (таких как манипулирование людьми). Но наши тела определяют то, какие физические переживания мы испытываем. Например, мы можем манипулировать лишь несколькими объектами одновременно, потому что у нас только две руки. Не исключено, что это ограничение как-то сдерживает и наши социальные навыки, о чем нам еще только предстоит узнать. Джордж Лакофф, занимающийся когнитивной лингвистикой, научил нас тому, что ключи к разгадке телоцентризма мышления можно найти в метафорах: мы советуем друг другу «не оглядываться» в гневе, потому что обычно мы идем туда, куда направлен наш взгляд, и события прошлого в буквальном смысле остаются позади нас.
Следовательно, чтобы машины мыслили, они должны действовать. А для этого им надо иметь тела, чтобы связывать физическое и абстрактное мышление. Но что, если у машин не такие тела, как у нас? Рассмотрим гипотетического ветвящегося робота Ханса Моравека: представьте себе куст, в котором каждая ветвь — это рука, а каждый прутик — палец. Фрактальная природа такого робота позволит ему манипулировать тысячами или миллионами предметов одновременно. Как могло бы отличаться мышление такого робота от человеческого в плане манипулирования людьми?
Один из многих заметных пороков человеческого мышления — это дихотомическое суждение, склонность считать нечто черным или белым, а не рассматривать его конкретный оттенок серого. Но мы негибкие модульные существа; на нашем разветвленном наборе костей размещаются органы и закрепляются придаточные части с особыми функциями. Как насчет машин, которые не настолько черно-белые? Благодаря успехам в области материаловедения и 3D-печати начинают появляться мягкие роботы. Они способны коренным образом менять форму; в будущем они смогут на одном участке своей поверхности на 20 % состоять из батареи и на 80 % — из мотора, на другом — на 30 % из сенсора и на 70 % из опорной структуры, а где-то еще на 40 % из искусственного материала и на 60 % из биологического. Подобные машины смогут намного лучше оценивать те или иные градации, чем это делаем мы.