При обсуждении будущего ИИ нужно думать о целях. Именно в них заключается вклад человечества и вклад цивилизации. Мы способны и должны автоматизировать реализацию целей. Каково будущее людей в таком мире? Чем им предстоит заняться? Суть одного моего проекта как раз и сводилась к постижению эволюции человеческих целей в перспективе. Сегодня мы располагаем всевозможными целями. А если вернуться на тысячу лет назад, цели были совсем другими: как добыть еду? как надежно обеспечить безопасность? В современном западном мире мы по большей части уже не тратим львиную долю жизни на размышления об этих целях. При взгляде из прошлого некоторые цели, формулируемые сегодня, наверняка покажутся, мягко говоря, странными (скажем, беговые тренировки – тысячу лет назад это была полнейшая нелепица).
Итак, чем люди займутся в будущем? Многие цели наших дней возникают вследствие дефицита того или иного рода. В мире мало ресурсов. Люди хотят получать больше того-то и того-то. В нашей жизни мало времени. Постепенно эти формы дефицита исчезнут. Несомненно, самым драматическим достижением будет фактическое обретение человечеством бессмертия. Придем ли мы к нему биологически или через «цифру», сказать сложно, однако рано или поздно это случится. Многие наши текущие цели частично обуславливаются нашей смертностью: «Мне суждено прожить лишь короткий срок, потому надо сделать то-то и то-то». Но что произойдет, когда большинство наших целей будет реализовываться автоматически? Мы лишимся той мотивации, которая движет нами сегодня. Очень хотелось бы узнать ответ на следующий вопрос: к чему в конце концов придут в будущем «производные» людей? Не исключено, кстати, что они станут коротать время за какими-то аналогами нынешних видеоигр.
Значение термина «искусственный интеллект» уточняется за счет употребления в техническом жаргоне. Сегодня тема ИИ весьма популярна, и люди имеют некоторое представление о том, что это такое. А когда в 1940-х и 1950-х годах разрабатывались первые машины, типичное название книги или журнальной статьи о компьютерах гласило: «Гигантский электронный мозг». Считалось, что, как бульдозеры, паровые двигатели и пр. автоматизировали ручной труд, так и компьютеры автоматизируют труд интеллектуальный. Но пообещать, к удивлению многих, оказалось проще, чем сделать. Первоначально наблюдался изрядный оптимизм; государственные средства обильно тратились на исследования в 1960-х годах. Подчеркну – тратились впустую.
В фантастических фильмах того времени много забавных представлений о компьютерах. Например, симпатичный агрегат по имени Desk Set, по сути, IBM-совместимый компьютер, который устанавливают в вещательной компании – и который оставляет всех без работы[230]. Забавно то, что этому компьютеру задают кучу справочных вопросов. Когда мы с коллегами создавали систему WolframAlpha, то хотели, в частности, чтобы она эффективно отвечала на те справочные вопросы, которые когда-то задавались модели Desk Set. К 2009 году наша система могла ответить на все.
В 1943 году Уоррен Маккаллок и Уолтер Питтс предложили модель концептуальной, формальной работы человеческого мозга – искусственную нейронную сеть. Они считали, что их «мозгоподобная» модель будет выполнять вычисления аналогично машинам Тьюринга. Из их расчетов следовало, что мы в состоянии строить «мозгоподобные» нейронные сети, действующие как обычные вычислительные машины. В действительности же практические опыты команды ЭНИАК[231], Джона фон Неймана и другие специалистов показали, что «обходная» модель нейронной сети эффективнее машины Тьюринга.
Но простые нейронные сети мало на что годились. Фрэнк Розенблатт изобрел обучающее устройство, которое он назвал перцептроном и которое представляло собой одноуровневую нейронную сеть. В конце 1960-х Марвин Минский и Сеймур Пейперт опубликовали книгу «Перцептроны», где довольно убедительно доказывалось, что перцептроны почти бесполезны. Так оно и есть. Перцептроны способны лишь на линейное различение объектов. Поэтому концепцию фактически забросили. Дескать, эти ребята (Минский с Пейпертом) доказали, что такие нейронные сети не могут делать ничего внятного, значит, вообще никакие нейронные сети ни к чему не пригодны, поэтому давайте забудем о нейронных сетях. Эта позиция господствовала в течение некоторого времени.
Между тем наметилось несколько других подходов к ИИ. Один основывался на символическом, формальном понимании мироустройства, а другой опирался на статистику и вероятности. Что касается символического ИИ, ему дали, например, тестовое задание: возможно ли научить компьютер работать с интегралами и выстраивать исчисления? Были и задачи наподобие машинного перевода, поскольку считалось, что это удачный образчик демонстрации компьютерных возможностей. Увы, к началу 1970-х эти усилия потерпели крах.
Далее сформировался интерес к так называемым экспертным системам, которые появились в конце 1970-х и начале 1980-х годов. Идея состояла в том, что машина выучивает правила от эксперта и тем самым постигает процесс экспертного мышления. Тоже ничего не вышло, после чего исследования в области ИИ стали восприниматься как форма научного безумия.
Меня с детских лет интересовало, как построить машину с подобием ИИ. В особенности меня занимало, каким образом можно аккумулировать знания, накопленные человеческой цивилизацией, и автоматизировать ответы на вопросы на основе этих знаний. Я думал о том, как сделать это символически, посредством системы, разбивающей вопросы на символические единицы и выдающей ответы. В ту пору я занимался нейронными сетями – без весомого успеха, – а потому временно отложил эти изыскания.
В 2002 году я снова задумался над тем, что нужно для создания системы вычисления знаний. Мои исследования, проделанные к тому времени, свидетельствовали, что мое исходное представление о процессе было полностью неверным. Я исходил из убеждения, что для создания полноценной системы вычисления знаний необходимо сначала создать «мозгоподобное» устройство, в которое затем заливаются знания (так происходит обучение людей при стандартном подходе). Но я сообразил вдруг, что нет и никогда не было четкой грани между разумом и простыми вычислениями.
Я предполагал, что существует некий магический механизм, который делает людей гораздо более талантливыми, чем все, кто способен к вычислениям. Это предположение было абсолютно ошибочным. Именно понимание этого привело к созданию системы WolframAlpha. Я обнаружил, что можно взять большой набор мировых знаний и автоматически отвечать на вопросы на их основе, используя, по сути, сугубо вычислительные методы. Это альтернативный способ разработки ИИ – способ, который во многом аналогичен нашей биологии и нашей эволюции.
В сущности, при компилировании программы мы обыкновенно действуем пошагово. Но возможно также исследовать вычислительную вселенную и добывать технологии из этой вселенной. Как правило, проблемы здесь те же, что и при физической добыче ресурсов: скажем, мы находим залежи железа, кобальта или гадолиния с некоторыми особыми магнитными свойствами – и собираемся использовать эту особенность для достижения человеческих целей, на развитие каких-то технологий. Для магнитных материалов найдется множество способов применения. С точки зрения программы они равнозначны. Имеется громадное количество программ, от больших до крошечных, выполняющих сложные вычисления. Получится ли «увлечь» их достижением полезных человеческих целей?
И как заставить ИИ реализовывать наши цели? Что ж, можно просто поговорить с ними на естественном языке человеческих высказываний. Это отлично срабатывает при общении с Сири. Но вот когда требуется объяснить что-то сложное подробно, такой способ не годится. Нужен компьютерный язык, который позволяет репрезентировать сложные концепции, который можно постепенно усложнять, а естественный язык этого не подразумевает. Моя компания потратила много времени на создание языка данных, который бы включал знания о мире непосредственно в язык. Традиционный подход к созданию компьютерного языка состоит в том, чтобы разработать код, отражающий операции, которые компьютеры «изначально» знают, как выполнять: через выделение памяти, распределение значений переменных, итерации, изменение программных счетчиков и т. д. По сути, мы говорим компьютерам, что им делать. Мой подход состоял в том, чтобы создать язык, который «благоволит» не компьютерам, а людям; взять человеческие мысли и преобразовать их в некую форму, понятную компьютеру. Можем ли мы инкапсулировать знания, накопленные в науке и житейском опыте, в язык, который использовался для коммуникации с компьютерами? Таково значимое достижение последних тридцати лет моей жизни: возможность осуществить на практике описанное выше.
В 1960-х люди часто повторяли: «Когда мы сможем сделать то-то и то-то, мы будем знать, что у нас есть ИИ. Когда мы сможем вывести интеграл из исчисления, мы будем знать, что у нас есть ИИ. Когда мы сможем поговорить с компьютером и заставить его казаться человеком…», и т. д. Трудность заключалась в следующем: «Черт возьми, компьютер просто не знает достаточно о мире». Вы спрашиваете машину, какой сегодня день недели, и она в состоянии ответить. Вы спрашиваете, кто президент, и она с великой вероятностью теряется с ответом. В этот миг вы осознаете, что разговариваете с компьютером, а не с человеком. А сегодня, когда доходит до пресловутых тестов Тьюринга с их простыми вопросами, люди, которые пытались задействовать для тестов, например, систему WolframAlpha, обнаруживают, что боты неизменно проигрывают. Требуется всего-навсего начать задавать машине сложные вопросы, чтобы она ответила! Ни один человек не может этого сделать. К тому времени, как вы зададите несколько разрозненных вопросов, уже не сыщется человека, способного дать все ответы – зато система их знает. В этом отношении мы действительно сумели создать довольно эффективный ИИ.