По крайней мере, это невозможно без соответствующего программного обеспечения. Но как нам создать ПО, сравнимое с тем, что основано на генетике нашего мозга, на разработку которого у природы ушло 3,5 миллиарда лет? Мы еще очень далеки от понимания всех программ нашего мозга. Можно говорить о рациональном параллелизме, присущем его структуре, но это досадно неадекватное описание того, как он в действительности работает. Параллельность операционных систем наших компьютеров и программ просто позволяет нам делать несколько дел одновременно — предположительно, каким-то неординарным образом, но опять же это всего лишь увеличение скорости вычислений. Удастся ли нам когда-нибудь произвести обратное проектирование нашего мозга — не в смысле выявления контуров и сетей нейронов, в которых мы уже довольно неплохо разбираемся, а в общем техническом решении, что дало бы цифровым машинам возможности абстрактного мышления, ощущение собственного «я» и прочее, что есть у людей?
Если только не произойдет какого-то невероятного аналитического открытия, все, что нам остается — это писать программы, которые пытаются имитировать эволюционный процесс. Благодаря высокой скорости вычислений наших машин мы, вероятно, получим какие-то результаты быстрее, чем за 3,5 миллиарда лет. Мы можем создать размножающиеся цифровые сущности (программы, которые воспроизводят сами себя) и заставить их мутировать, но стимулировать эволюцию подобной сущности так, чтобы она превратилась в мыслящую машину, — это слишком грандиозная задача. Для того чтобы с нею справиться, нам нужно найти способ создать для машины среду с чем-то наподобие естественного отбора (но такой отбор на самом деле будет искусственным) или с какой-то иной мотивацией, приводящей к необходимым изменениям. Можем ли мы заставить машину «захотеть» чего-либо, так чтобы это позволило провести отбор в пользу более развитого интеллекта?
Любые достижения в области ИИ, скорее всего, будут результатом действий, которые мы в ближайшее время сможем проделать с единственным имеющимся у нас видом мыслящих машин — с собой.
Эволюция Homo sapiens в условиях естественного отбора закончилась с созданием обществ (семьи, племен, деревень, городов, стран). Благодаря этому люди смогли защищать слабых, и выживание наиболее приспособленных перестало быть движущей силой естественного отбора. Индивиды с недостатками, которые раньше оказались бы для них смертельными, стали жить достаточно долго, чтобы размножаться. Теперь же мы на грани того, чтобы изменить человеческий вид с помощью генной инженерии. В какой-то момент мы попытаемся доработать свой разум, изолировав гены, отвечающие за более высокий интеллект и аналитические способности. А мы обнаружим эти гены до того, как разберемся, как они работают, и задолго до того, как верно смоделируем их в цифровых программах. Искусственный — не естественный — отбор изменит состав наших генов.
Наше будущее, вероятно, — за улучшенным биологическим, а не машинным интеллектом. Именно в этом заключаются опасности и/или преимущества. Мы могли бы, например, выбрать определенные гены (или даже создать новые), которые, по нашему мнению, увеличат интеллект, для этого даже не надо полностью понимать, как работают конкретные комбинации генов. Но не запустим ли мы невольно процесс, который изменит лучшие человеческие качества? Стремясь к более высокому интеллекту, не снизим ли мы на генетическом уровне нашу способность к состраданию или врожденную потребность в формировании социальных связей? Как может измениться человеческий вид в долгосрочной перспективе? Те качества, которые нас создали, — любознательность, интеллект, сострадание и умение сотрудничать, возникающие вследствие нашей потребности в социальных связях, — требуют сложной комбинации генов. Можем ли мы их получить посредством искусственного генетического отбора? Можем ли мы их потерять? Эти проблемы, вероятно, не остановят некоторых ученых, решивших использовать искусственный отбор. Какими же будут наши внуки?
Очень полезные хитрости
В дискуссиях по поводу искусственного интеллекта недостаточно внимания уделяется интеллекту человеческому. ИИ объявляют либо нашим спасением, либо проклятием, что явно демонстрирует бессмысленность таких споров.
Прорывные технологии начинают появляться по экспоненте, это означает, что первые удвоения могут казаться несущественными, поскольку их общее число невелико. Потом наступает революция, когда экспонента взрывается, а вместе с ней — преувеличенные обещания и предостережения, но это прямая экстраполяция очевидных наблюдений за графиком в логарифмическом масштабе. Примерно в тот же момент начинают действовать пределы роста, экспонента переходит в сигмоиду, а предельные надежды и страхи исчезают. Именно это мы с нашим искусственным интеллектом сейчас и переживаем. Размеры баз данных распространенных понятий, по которым можно проводить поиск, или число уровней инференции, которые можно обучить, или размерность векторов характеристик, которые можно классифицировать, — во всех этих областях был достигнут значительный прогресс, который любому, кто за ним не следил, показался бы дискретным.
Важное наблюдение: в дискуссии ни с одной из сторон не участвуют те, кому принадлежит наиболее значительный вклад в этот прогресс. Такие достижения, как теория случайных матриц для сжатого восприятия, конвексная релаксация эвристической функции для трудноразрешимых задач и базовые методы аппроксимации функций высокой размерности фундаментальным образом меняют наше понимание того, что значит «понимать» что-либо. Оценка искусственного интеллекта давно уже стала задачей о развивающихся целевых показателях. Научить его играть в шахматы удалось благодаря оценке и анализу большего числа ходов, играть в Jeopardy! — благодаря хранению большего числа фактов, переводить естественные языки — благодаря накоплению большего числа примеров. Эти достижения наводят на мысль: возможно, секрет искусственного интеллекта заключается в том, что никакого секрета нет. Как многое другое в биологии, разум, похоже, является набором очень полезных хитростей. Думать, что сознание — исключительная особенность нашего вида, значит проявлять неуместную гордыню, особенно если учесть растущие объемы эмпирических данных, полученных в ходе исследования поведения и познавательных способностей животных. Эти данные говорят о том, что самосознание — продукт эволюции и может проявляться у других видов. Нет причин для того, чтобы придерживаться механистического объяснения поведения других форм жизни, объявляя одну из них неприкосновенной и закрытой для обсуждения.
Мы уже давно вступили в симбиоз с машинами в плане мыслительной деятельности; мои исследовательские возможности опираются на инструменты, которые помогают мне воспринимать, запоминать, осмысливать и передавать информацию. Спрашивать, разумны ли они, настолько же уместно, как спрашивать, откуда я знаю, что существую, — это интересно с философской точки зрения, но эмпирически не проверяемо.
Спрашивать, опасны ли они, разумно; впрочем, это относится к любой технологии. Ни паровозы и порох, ни ядерная энергетика и биотехнологии не означали для нас немедленной гибели или спасения. В каждом случае спасение заключалось в деталях, куда более интересных, чем банальные и упрощенные аргументы за или против. Только игнорируя историю искусственного интеллекта, да и всего остального, можно предполагать, что в этот раз все будет иначе.
Airbus 320 и орел
Чем больше мы узнаем о познании, тем больше появляется аргументов в пользу того, что человеческое мышление — это центр сцепления нескольких факторов, эмерджентное свойство взаимодействия человеческого тела, человеческих эмоций, культуры и специализированных возможностей мозга в целом. Одной из величайших ошибок западной философии было то, что все клюнули на картезианский дуализм, сформулированный в известном утверждении: «Мыслю, следовательно существую». С таким же успехом можно сказать: «Сжигаю калории, следовательно существую». Куда уместнее было бы: «Обладаю эволюционной историей человечества, следовательно могу осмыслить факт своего существования».
Разум — это всего лишь шаблон для обозначения того, что мы не понимаем в своем мышлении. Чем чаще мы используем термин «разум» для человеческого мышления, тем сильнее подчеркиваем это непонимание. По крайней мере, такого мнения придерживается все большее число исследователей в областях нейроантропологии, изучения эмоций, прикладной и фундаментальной когнитивистики, теории двойной наследственности, эпигенетики, нейрофилософии и теории культуры.
Например, в лаборатории профессора Мартина Фишера в Потсдамском университете проводится занятное исследование по взаимосвязи тела человека и математического мышления. Группа Стивена Левинсона по психолингвистическим исследованиям в Институте психолингвистики Общества Макса Планка в Неймегене показала, как культура может влиять на способность к навигации, жизненно важной для большинства видов. В моих собственных исследованиях я рассматриваю влияние культуры на формирование того, что я называю «темной материей разума», — набора знаний, ориентиров, искажений и паттернов мышления, которые оказывают глубокое и сильное воздействие на процесс нашего познания.
Если познавательная способность человека в самом деле является качеством, которое возникает в месте соприкосновения наших физических, социальных, эмоциональных и вычислительных способностей, тогда интеллект в том виде, в каком мы знаем его у людей, никакого отношения не имеет к «интеллекту», лишенному всего этого.