…а угроза эта исходит от искусственного интеллекта. Число параметров нейронных сетей каждый год увеличивается на порядок и уже намного превысило десять миллиардов. Объём вычислений, используемых ими для тренировки, каждые три месяца возрастает вдвое.
Что это? Сверхстремительное развитие искусственного интеллекта и закат человеческой цивилизации – или движение процесса по инерции? Ведь количественные показатели нейросетей растут намного быстрее качества, и до появления универсального искусственного разума пока ещё далеко.
– А чем так страшен или хорош этот нечеловеческий разум? – спросил модератор и сам же ответил: – Тем, что он или уничтожит нас, или сделает бессмертными. И на этой мажорной ноте я передаю слово учёным.
31. Про человеческие взгляды на нечеловеческое
Сходство сцены с боксёрским рингом провоцировало спикеров, но встреча Бориса и Дилана Мэя не превратилась в интеллектуальный мордобой. Это был взаимно уважительный обмен мнениями на заявленную тему, разве что мнения противоречили друг другу, а Борис выступал намного более эмоционально, чем его именитый собеседник.
Поначалу разногласий было немного. Спикеры рассуждали о том, что искусственный интеллект способен решать задачи колоссального масштаба. У человечества благодаря новым технологиям и возможностям есть два пути: либо эволюция, либо глобальная катастрофа по тому или иному сценарию. Путь, который будет избран, зависит от того, кому удастся оседлать технологическую сингулярность.
– Давайте вспомним, что в доиндустриальных обществах рост населения и его потребностей опережали рост производства продуктов, – говорил Мэй. – Этот феномен получил название мальтузианской ловушки. Но современный прогресс оставляет нам некоторые надежды…
– Давайте представим, что прогресс остановился, – рассуждал Борис. – Новые технологии больше не появляются и не позволяют разрабатывать новые ресурсы. А имеющиеся ресурсы конечны, и существующие технологии исчерпают их за сто лет. На безнадёжно загрязнённой планете наступит коллапс…
– Остановить прогресс невозможно, – говорил Мэй, – его можно разве что сориентировать. Поскольку человек желает управлять информацией, веществом и природой, прогресс движется в направлениях развития искусственного интеллекта, нанотехнологий и биотехнологий. Неуклюжие действия в любой из этих трёх областей способны заметно ускорить печальный конец человечества. Про создание новых материалов с новыми свойствами или попытки продления человеческой жизни я знаю не так много. Зато насчёт искусственного интеллекта за последние лет шестьдесят у меня накопились кое-какие соображения. Надеюсь, они покажутся вам интересными…
– Я достаточно долго участвую в разработках искусственного интеллекта и без ложной скромности говорю о блестящих успехах в этой области, – заявил Борис. – Простой пример: в течение короткого времени компьютерные программы научились обыгрывать чемпионов мира не только в шахматы, но и в китайские шашки го, которые намного сложнее шахмат. Почему это так важно? Потому что принятие эффективных стратегических решений невозможно запрограммировать – его можно только натренировать. Искусственный интеллект играл сам с собой, анализировал ошибки и совершенствовал алгоритмы. Бессчётное число сыгранных партий сделало уровень мастерства программы недосягаемым для человека. То же касается и множества других областей, где искусственный интеллект вчистую выигрывает у человеческого…
– По моему скромному мнению, есть разница между мастерством и перебором вариантов, – парировал Мэй. – Здесь узкоспециальная компьютерная программа превосходит способности человека. Но это ничего не говорит о превосходстве искусственного интеллекта над человеческим. Это соревнование в примитивных комбинаторных решениях. Программу для игры в крестики-нолики я написал на первом курсе, когда большинства из присутствующих в зале ещё на свете не было. А сейчас, если уж на то пошло, надо сперва определиться с терминами. О чём вообще у нас идёт речь?
Борис не почувствовал подвоха.
– Охотно напомню, что термин искусственный интеллект в тысяча девятьсот пятьдесят шестом году предложил Джон Маккарти, – сказал он. – А интеллектуальную функцию он определял как вычислительную составляющую способности достигать целей. То есть речь у нас идёт про создание интеллектуальных компьютерных программ.
Не переставая улыбаться, Мэй поблагодарил Бориса за справку и заметил:
– Я имел в виду несколько другое. С компьютерными программами как раз всё довольно просто. Алан Тьюринг придумал свой тест в пятидесятом году – ещё до появления термина искусственный интеллект. Как все здесь, без сомнения, помнят, тест Тьюринга проверяет, разумен ли компьютер. Вернее, он позволяет определить, насколько успешно компьютер при помощи заложенной в него программы имитирует человеческое мышление…
Память – коварная штука. Сегодня всем известны программы распознавания лиц, но мало кто помнит, что ещё в семьдесят пятом году тем же самым благополучно занималась нейронная сеть «Когнитрон», способная к самоорганизации. Сегодня владельцы смартфонов пользуются голосовыми помощниками и считают их последним достижением техники, но программа «Элоиза» успешно поддерживала диалог с собеседником в шестьдесят шестом году. А ещё на десять лет раньше – в пятьдесят шестом – на заводах General Motors доставку деталей на конвейер начали выполнять компьютеризированные роботы, которые мало чем отличались от современных роботов на складах компании Amazon.
– Я вспоминаю это не для того, чтобы показать, какой я старый, – всё с той же отстранённой улыбкой сказал Мэй. – Я лишь хочу, чтобы вы поняли: то, что сегодня выдаётся за уникальное и новое, в действительности не уникально и не ново. То, что сегодня называют искусственным интеллектом, – это использование старых инструментов и идей в новых продуктах, только и всего.
Одинцов незаметно увлёкся разговором. Искусственный интеллект никак не входил в круг его интересов, но современные новшества были на слуху – роботы-логисты, киноэффекты, самоуправляемые автомобили, голосовой помощник в смартфоне… С некоторыми технологиями, вроде того же распознавания лиц, Одинцов сталкивался по работе – их использовали в системах безопасности. А радикальное продление человеческой жизни он совсем недавно обсуждал с Вейнтраубом, пусть и в очень специфическом ключе.
Беседа спикеров производила двоякое впечатление. Вроде бы Одинцов знал основы того, про что они говорили, но никогда не задумывался, какими путями и куда движется человечество. Что-то происходит – ну и пусть происходит. Значит, так надо. Не задумывался Одинцов и о том, насколько выросла зависимость людей от компьютерных технологий. Он прошёл хорошую школу и смог бы выжить, оказавшись голым в лесу зимой, поэтому к достижениям прогресса относился просто: есть они – хорошо, надо использовать; нет – ничего не поделаешь, обойдёмся. Такое отношение можно назвать философским, а можно безразличным. Но сейчас ему предложили два взгляда на происходящее, и спикеры расходились в этих взглядах чем дальше, тем больше. Очевидно, сам формат встречи подталкивал зрителей к решению, чья позиция им ближе. И Одинцов – вовсе не из личного отношения к Борису, хотя и оно наверняка играло роль, – склонялся на сторону Дилана Мэя.
– Современные компьютеры, оснащённые современными программами, способны решать сверхсложные задачи, которые из-за своей сложности кажутся многим абстрактными. Что это, если не искусственное мышление? Что это, если не интеллект? – спрашивал Борис, и собеседник отвечал:
– Человек мыслит на основе познания и приобретённого опыта. У машины нет ни того, ни другого: она использует колоссальные вычислительные ресурсы и возможности памяти. У человека и машины несопоставимый инструментарий.
– Именно поэтому я говорю о превосходстве и самых вдохновляющих перспективах развития искусственного интеллекта, – подхватывал Борис. – Машиной достигнуто естественное превосходство над человеком в области интеллектуальных игр, и этого превосходства она уже не уступит. Искусственный интеллект отныне и всегда – я повторю: всегда! – будет побеждать человека в играх.
– Да, будет, – соглашался Мэй. – Но компьютер не играет в шахматы, он рассчитывает все возможные варианты. Его программа умеет считать бесконечно быстрее человека, поэтому компьютер побеждает. А вот играть – именно играть! – в шахматы может только человек, у которого есть личность. Потому что для личности важна не только победа: для личности важны размышления, важно интуитивное понимание, важен интерес. Когда эти качества есть, можно говорить о разуме. Когда их нет, мы получаем скучнейшее соревнование автомобиля с бегуном. Само собой, автомобиль обгонит даже чемпиона мира. Точно так же неинтересно соревнование между штангистом и автопогрузчиком. Для человека спорт – это преодоление себя и расширение возможностей, а для машины – просто работа.
Борис упирался:
– Мы обсуждаем не бег или поднятие тяжестей. У нас речь про соревнование в интеллектуальной области. Соперники демонстрируют мыслительные способности, а мышление представляет собой строгий математический процесс.
– Это верно лишь отчасти, – говорил Мэй. – Если поставить между ними знак равенства, мы тут же потеряем, по сути, фундаментальную составляющую человеческого познания. Либо надо снова вернуться к уточнению терминов и признать, что речь у нас не про интеллектуальную деятельность, а про автоматизацию процессов.
– Ничего подобного! – Борис возмущённо ёрзал в кресле. – Автоматизация усовершенствует инструментарий, который используется для достижения целей, выбранных человеком. А искусственный интеллект сам определяет цели. Интеллектуальные системы постоянно изменяются и самосовершенствуются благодаря анализу получаемых данных. В результате они приобретают способность, которая ещё недавно была только у человека. Это способность к формированию стратегических суждений о будущем. Например, компьютер играет в шахматы. На старте его программа обладает лишь установочными данными в виде правил игры. Искусственный интеллект добывает новые данные по собственному усмотрению, сыграв сам с собой миллионы раз. Он усваивает информацию и приобретает навыки с феноменальной скоростью. Поэтому, поставив себе цель – победить человека в интеллектуальной игре, он достигает этой цели.