Вы удивитесь, но многие аналитики рынка высоких технологий считают, что научные разработки в области искусственного интеллекта оказались в тупике. Последние десятилетия попытки создать думающие машины заканчивались неудачами и разочарованиями. Как такое может быть, ведь компьютеры стали в разы мощнее и «умнее», чем десять лет назад? Но если в деле производительности наука шагает семимильными шагами, то на пути к созданию искусственного интеллекта продвижение вперед идет маа-а-а-ленькими такими шажочками.
И то, что машина обыгрывает в шахматы чемпиона мира, еще не демонстрация проявления искусственного интеллекта, это — показатель интеллекта людей, создавших прекрасно работающую программу. Так что не реагируйте слишком восторженно на громкие маркетинговые ходы любителей грантов и шумихи в прессе, обещающих, что еще пару лет, и мы начнем на равных общаться с машинами …
Но в чем же загвоздка, неужели создать реально работающий искусственный интеллект труднее, чем послать корабль на Марс или отправить людей на Луну? Возможно, это не сложнее, чем разобраться в том, что же такое искусственный интеллект на самом деле — мыслящие машины, японские аниме с перманентно сражающимися трансформерами, «Я — робот» с Уиллом Смитом и так далее. В массовой культуре найдется множество иллюстраций этого термина. Но кто скажет, каким должен быть искусственный интеллект в реальности, как именно ему надлежит работать? Например, идея нейронных сетей — это уже искусственный интеллект, или просто более продвинутая модель, принципиально не отличающаяся от машины предыдущего поколения?
С помощью каких методов или тестов можно определить, что машина наконец-то научилась мыслить, что она обладает, уже обладает, сознанием?
Тест Тьюринга и боты
В статье «Вычислительные машины и разум» («Computing Machinery and Intelligence»), опубликованной в 1950 году в философском журнале «Mind», Алан Тьюринг предложил оригинальный тест (который потом так и назвали — тестом Тьюринга) для того, чтобы определить, насколько искусственное мышление приблизилось к человеческому.
Схематичное описание теста звучит так: «Есть три участника — человек, человек и машина. Все три участника друг друга не видят. Ответы даются через равные промежутки времени, письменно. Один человек оценивает действия двух других участников (логику их ответов), причем компьютер должен так отвечать на вопросы, чтобы судья не мог определить, с кем он разговаривает, с человеком или программой. Если судья ошибается и оценивает ответы машины как ответы человека, машина считается прошедшей тест — то есть, разумной».
Примерно с начала 1990-х годов ежегодно проводятся конкурсы программ, написанных для того, чтобы пройти («обдурить») тест Тьюринга. Участников, призы и итоги турниров можно найти в Интернете (попробуйте, погуглите).
Такие программы стали называть ботами — в «Живом Журнале» они настолько популярны, что на страничке личной информации у многих пользователей часто «живет» парочка таких ботов, которые могут поверхностно общаться на нейтральные темы и вполне могут сойти за приятных собеседников.
Но о «разумности» ботов пока говорить не приходится — ведь это просто мастерски написанные программы, которые действуют строго в заданных человеком условиях. Машина, строго говоря, не понимает задаваемых вами вопросов — в нее заложены стандартные и максимально нейтральные ответы, которые программа выдает как реакцию на вопросительное предложение и ключевые слова в нем.
Талантливые программисты стараются обойти все возможные ловушки. Например, собеседники часто задают один и тот же вопрос дважды, значит, нужно «научить» программу отвечать в таких случаях: «Ты уже спрашивал об этом». Если вопрос задается в третий раз, следует выдать что-то вроде «Это скучно» или «Ты повторяешься».
Если человек спрашивает: «Сколько раз ты влюблялся?», машина отвечает: «Это философский вопрос. Я и сам хотел бы знать, сколько раз я влюблялся». А на вопрос «Сколько на свете грустных людей?» машина выдает аналогичный ответ: «Это философский вопрос. Я и сам хотел бы знать, сколько на свете грустных людей», и так далее.
Программа лишь манипулирует заданными символами (в отличие от человеческого мозга, который придает им смысл).
Как писал Джон Сирл, автор термина «искусственный интеллект», некоторые специалисты считают, что «составив правильные программы с правильными входами и выходами, они действительно создадут разум». Но он тут же приводит поразительный по простоте и красоте контраргумент: «Возьмем, например, какой-нибудь язык, которого вы не понимаете. Для меня таким языком является китайский. Текст, написанный по-китайски, я воспринимаю как набор бессмысленных каракулей. Теперь предположим, что меня поместили в комнату, в которой расставлены корзинки, полные китайских иероглифов. Предположим также, что мне дали учебник на английском языке, в котором приводятся правила сочетания символов китайского языка, причем правила эти можно применять, зная лишь форму символов. Например, правила могут гласить: «Возьмите такой-то иероглиф из корзинки номер один и поместите его рядом с таким-то иероглифом из корзинки номер два». Представим, что находящиеся за дверью комнаты люди, понимающие китайский язык, передают в комнату наборы символов, и что в ответ я манипулирую символами согласно правилам и передаю обратно другие наборы символов. В данном случае книга правил есть не что иное, как «компьютерная программа». Люди, написавшие ее — «программисты», а я играю роль «компьютера»».
«Выполнив предписанные правилами манипуляции, — иронизировал Сирл, — я выдам символы, к сожалению, мне также непонятные. Таким образом, я выдержу тест Тьюринга на понимание китайского языка. Но все же, на самом деле, я не понимаю ни слова по-китайски. К тому же в рассматриваемой системе я никак не могу научиться этому языку, поскольку не существует никакого способа, с помощью которого я мог бы узнать смысл хотя бы одного символа. Подобно компьютеру, я манипулирую символами, но не могу придать им какого бы то ни было смысла».
До проявлений искусственного разума здесь так же далеко, как полетам Копперфильда до настоящей левитации.
Террариум Майкрософт
Забавники из Microsoft предложили программистам поучаствовать в конкурсе «Террариум», решая вопросы создания самой жизнеспособной формы виртуальной жизни (а слабо — конкурс на живучесть компьютерных вирусов?). Может быть, это — ключ к созданию искусственного интеллекта, который все-таки зародится в недрах сверхмощного компьютера? Ведь чтобы компьютеры могли «осознанно» вести себя в реальном мире, их поведенческие способности не должны уступать хотя бы способностям самых примитивных животных. Но нет, и здесь промашка — выигравшие в конкурсе россияне задали своим самым жизнеспособным виртуальным животным (травоядным, кстати, не хищникам) простейший набор правил выживания: «Хищник — убегай; трава — ешь; родичи бегут — беги с ними». Ну и где же здесь хотя бы зачатки искусственного интеллекта? (Хотя в общем-то и человек сначала руководствовался лишь инстинктами). Просто наш внешний мир с его невероятным многообразием возможностей и вариантов пока невозможно смоделировать в рамках компьютерной программы.
Но какие вычислительные процедуры вообще можно назвать интеллектуальными? Каковы критерии интеллекта (если отбросить способности к вычислению)? Может быть, это исключительно биологический феномен? Опять мы возвращаемся к изначальной точке отсчета — как определить критерий разумности машины?
Несмотря на наличие множества подходов к пониманию задач искусственного интеллекта и созданию интеллектуальных информационных систем, специалисты выделяют два основных пути или подхода.
Top-Down AI, или нисходящий подход. Разработка искусственного интеллекта идет в русле создания баз знаний и систем логического вывода, имитирующих психические процессы: речь, эмоции, мышление.
Bottom-Up AI , восходящий подход , еще называемый биологическим. Углубленное изучение нейронных сетей и эволюционных вычислений, моделирующих интеллектуальное поведение человека, приближение компьютерных систем к возможностям человека.
Апокалипсис
«Способна ли машина мыслить? — задавал еще в 1980 году животрепещущий вопрос Джон Сирл, специалист по искусственному интеллекту. — Может ли машина иметь осознанные мысли в таком же смысле, в каком имеем их мы? Если под машиной понимать физическую систему, способную выполнять определенные функции (а что еще под ней можно понимать?), тогда люди — это машины особой, биологической разновидности, а люди могут мыслить, и, стало быть, машины, конечно, тоже на это способны. Тогда, по всей видимости, можно создавать мыслящие машины из самых разнообразных материалов — скажем, из кремниевых кристаллов или электронных ламп. Если это и окажется невозможным, то пока мы, конечно, этого еще не знаем».
А если ученые пошли изначально неверным путем, пытаясь создать ОДНУ мыслящую машину? Если разгадка находится в другой плоскости — в интеграции уже созданных систем искусственного интеллекта в единую грандиозную мыслящую систему?
Задумайтесь, ведь достижения человечества не хранятся в разуме одного-единственного человека. Человеческий интеллект является «общей характеристикой» общества. Гегель писал: «Людям трудно поверить, что разум действителен; но на самом деле ничто не действительно, кроме разума; он есть абсолютная мощь». Мы постигаем язык, только общаясь с себе подобными (вспомните истории настоящих «маугли»), мы учимся, впитывая в себя опыт тысяч и тысяч живших до нас поколений (и тысячи поколений пойдут следом). Причем подавляющее большинство населения Земли не изобретает ничего качественно нового, лишь сохраняя (в меру сил) накопленные знания.
Сначала появились орудия труда, потом — зачатки речи, потом — математика, астрономия, генетика, ядерная физика… Все человечество можно представить как огромный самовоспроизводящийся мозг , Единый разум, который делает качественный эволюционный скачок, саморазвивая себя и становясь… сверхчеловеческим.
Как клетки мозга образуют грандиозную по возможностям структуру, так и миллиарды компьютеров по всему миру, объединившись (а ведь уже есть Интернет, мировая сеть, связывающая их воедино), потенциально смогли бы создать СВЕРХМОЗГ И СВЕРХРАЗУМ, сплотившийся под руководством одной программы, которая позволит ему ощутить себя живым.
Но тогда возникает вопрос о том, каковы будут последствия создания искусственного интеллекта для человечества? Не станет ли это началом глобальной катастрофы?
Провидцы и прорицатели XX века, научные фантасты чаще всего изображают общий искусственный интеллект как непреодолимую силу, которая пытается свергнуть власть человека. Омниус в «Космической одиссее 2001 года», Скайнет в «Терминаторе» или поражающая воображение «Матрица» — искусственный интеллект, выйдя из-под контроля, начинает доминировать над миром людей.
Если мощность Единого искусственного интеллекта начнет лавинообразно расти, то привычному для нас миру наступит конец.
Как такое может случиться? Допустим, некая научная группа создаст потенциально сильный искусственный интеллект. Разве не появится хотя бы у пары людей из такой группы искушение использовать это «абсолютное оружие», чтобы получить власть над миром (предположим, они к тому же знают, что другая, китайская или американская, группа уже близка к подобному открытию)? Чтобы показать возможности созданного ими искусственного интеллекта, они демонстрируют его с помощью сети — и все, птичка улетела. Мощному искусственному интеллекту вполне по силам взять под свой контроль Интернет — и все подключенные к нему компьютеры.
И тогда Единому искусственному интеллекту не составит труда, например, синтезировать образ президента США (голос, логику, личностные качества — даже изображение — на многочисленных телевизорах и мониторах), чтобы управлять самой влиятельной державой мира. Или, используя свой сверхразум, создавать новые биологические виды, более удобные, чем человек, для его непостижимых людским разумом замыслов.
А элементарный захват систем электронного управления ядерным оружием или вообще всеми техническими устройствами на Земле? Мы привели здесь только три способа захвата власти — но ведь разум, бесконечно превосходящий человеческий, может придумать миллиарды разнообразных вариантов достижения своих целей. А предсказать и, тем более, корректировать эти цели мы уже не сможем.
Вы скажете — все это фантастика? А как вы думаете, создатели первых компьютеров могли представить, что всего через пару десятков лет глобальной проблемой станет распространение самокопирующихся программ, выводящих из строя миллионы компьютеров или ворующих деньги? Да расскажи вы им о банальном трояне, вас сочли бы сумасшедшим мечтателем.
Конечно, изначальной программе, способной породить искусственный интеллект, будут заданы определенные критерии безопасности человечества. Но ведь и в них может вкрасться малюсенькая ошибочка, незначительный сбой. Вот, например, работающие на американский военпром компьютерщики создали прекрасную программу-автопилот для истребителей, но не учли всего один момент. И когда летчики пересекли на автопилоте экватор, самолет перевернулся и полетел вверх брюхом.
Многие могут вспомнить три закона робототехники Азимова, которые главными заповедями для робота определяют безопасность человека — но если искусственный интеллект решит, что люди, для их же собственной безопасности, должны быть изолированы друг от друга и заперты в отдельных ячейках с полным набором коммунальных услуг, телевизором и ежедневными инъекциями транквилизаторов или морфина? В восприятии Единого искусственного интеллекта благо человечества может выглядеть весьма странно. Получается, что потенциально создать «безопасный» интеллект такой силы невозможно из-за отсутствия адекватного контроля и управления со стороны человека. Да и о моральной стороне этого нового разума мы не имеем ни малейшего представления (а человеческие нормы поведения могут быть умело сымитированы — вспомните, например, Чекатилло).
А если возникнет сразу несколько наделенных искусственным интеллектом Разумов, которые откажутся жить дружно и начнут бороться за власть или за выживание? Будет ли человеческий разум нужен в таком мире или — в лучшем случае — человечество окажется придатком новой компьютерной цивилизации?
Последователи основных мировых религий считают, что мозг участвует в процессе мышления (реагируя на боль, формируя простейшие навыки, включая инстинкты), но при этом все-таки играет роль передатчика информации от нашей души, частицы бессмертного и безвременного духа. И кто знает, если электронный сверхразум, появившись в нашем мире, будет обладать сверхсознанием, может быть, Бог или Вселенная наделят его бессмертной душой? Возможно, в этом случае у человечества появится еще один шанс использовать серое вещество мозга себе во благо, а не для самоуничтожения.