[37].
Однако сегодня мы смотрим на ИИ иначе. Ни одно новшество, каким бы революционным оно ни было, не сравнится с изначальным замыслом и (как мы полагаем) пока что временной целью наших устремлений – создать интеллект, превосходящий разум любого человека[38].
Осмыслить место ИИ в истории можно двумя способами.
Первый – через призму преемственности. До сих пор самые передовые в задачах преобразования технологии улучшали или усиливали функции человеческого тела. Колесо облегчило перемещение грузов, двигатели избавили от физического переутомления, а рентген, микроскопы и лампы расширили границы восприятия дальше естественных возможностей глаза. Телефон усилил наш голос так, как никогда не смогли бы голосовые связки. Каждый аспект человеческих способностей так или иначе был дополнен, усилен или переосмыслен благодаря машинам. Остается вопрос: не является ли ИИ просто следующим шагом в этой череде усовершенствований?
Второй подход состоит в том, чтобы признать, что на этот раз все иначе. ИИ обладает особыми качествами, которые не сводятся к усилению человеческих способностей. Создав за несколько десятилетий аналог того, что эволюция формировала миллионы лет – искусственный мозг, – мы подошли к последнему рубежу: воспроизведению неорганическим путем самого сложного органа, который нам еще только предстоит переосмыслить.
В предыдущей главе мы обратили внимание на сходство машинного обучения ИИ с тренировкой разума аспиранта, изучающего философию. Этот пример можно развить: по сути, создание машинного интеллекта напоминает процесс биологического созревания человеческого мозга от подросткового возраста до взрослого состояния.
Учащиеся в ходе получения среднего образования осваивают основы ключевых предметов, формируя базовое представление о мире. Это представление может быть не слишком глубоким или не всегда верным, но то же самое можно сказать и о том, как получает знания машина. Системы ИИ, как и люди, учатся, усваивая информацию и преобразуя ее в концепцию для последующего применения. В это время алгоритм обрабатывает огромные объемы данных, собранных из открытых источников в интернете или предоставленных другими, более узконаправленными источниками, и сводит результаты в сжатое и компактное отображение концепций для дальнейшего использования. Подобно тому как человеческий мозг преобразует сенсорные данные в нейронные связи – «веса», формирующие сеть обработки информации, машины также требуют постепенной настройки своих вычислительных параметров.
Нейронные сети, как и старшеклассники (не все, конечно), могут лениться. На ранних этапах обучения ИИ будет делать лишь минимум необходимого. Запоминая ответы вместо того, чтобы действительно учиться, модель, столкнувшись с примером «2 + 2», может поначалу лишь закодировать ответ «4», не освоив базового принципа сложения. Однако по достижении определенного порога (достаточно быстро) этот подход перестает работать, вынуждая систему, подобно человеку, переходить к более универсальным аксиомам знаний.
Это и отличает ИИ от обычных компьютеров: его картина мира создается не программированием, но обучением. В традиционном программировании алгоритм, созданный человеком, указывает машине, как преобразовать набор входных данных в набор выходных. В машинном обучении, напротив, созданные человеком алгоритмы указывают машине только на то, как улучшить себя, позволяя ей самой разрабатывать схемы преобразования входных данных в выходные. По мере того как машина «учится» на бесчисленных пробах, ошибках и корректировках, она совершенствует свои алгоритмы, итеративно перестраивая внутренние отображения шаблонов и связей, которые она «видит» в данных.
Периодически специалисты-тренеры дают машине обратную связь о точности и качестве ее результатов. Машина усваивает их поправки с помощью метода, который называется «обратным распространением ошибки» (back-propagation). Этот метод позволяет эффектам изменений, внесенных тренерами, распространяться в обратном направлении через уже созданные машиной математические связи, тем самым улучшая общую модель.
Однако человек предоставляет модели обратную связь лишь для ограниченного подмножества возможных входных и выходных данных. Когда модель достигает достаточного уровня эффективности в серии тестов, разработчики могут быть уверены: созданные ей алгоритмы будут давать безопасные и точные ответы – даже на неожиданные запросы – с высокой вероятностью успеха.
Каждым из этих способов ИИ уже сегодня расширяет – и в будущем продолжит расширять – границы человеческого познания. Но он достигает этого – и мы доверяем полученным результатам – посредством процессов, которые до сих пор не до конца нам понятны.
Если обычный ученик заканчивает американскую среднюю школу за четыре года, то современная модель ИИ может легко освоить тот же объем знаний, и даже значительно больше, за четыре дня. Таким образом, скорость оказалась первой из ряда ключевых характеристик, которые отличают ИИ от человеческих свойств и умственных способностей.
Несмотря на высокоразвитую способность к параллельной обработке, то есть возможность одновременно воспринимать и анализировать различные виды стимулов, человеческий мозг является крайне медленным процессором. Он ограничен скоростью наших биологических механизмов. Если оценивать работу человеческого мозга по компьютерным метрикам производительности – тактовой частоте или скорости обработки данных, – современные суперкомпьютеры для ИИ уже превосходят биологический мозг по быстродействию в 120 миллионов раз.
Конечно, скорость – не главный показатель интеллекта: даже очень глупые люди способны быстро соображать. Однако более высокая скорость обработки информации дает два преимущества по сравнению с человеческим мозгом: возможность усваивать значительно больше информации и обрабатывать множество одновременных запросов. При этом человеческий мозг преимущественно функционирует в фоновом режиме, автоматически регулируя физиологические процессы (сердцебиение, двигательные функции) и активируя сознательный контроль лишь при возникновении нештатных ситуаций.
ИИ же благодаря своей вычислительной мощи способен целенаправленно развивать исключительные когнитивные способности, открывая путь к решению задач, которые пока остаются за пределами возможностей биологического интеллекта. После завершения интеллектуального обучения как человек, так и машина теоретически способны мыслить или, говоря техническим языком, делать выводы. В ситуациях собеседования, дискуссии или личного общения образованный человек опирается не на механически заученные факты и цифры, а на глубоко осмысленный и переработанный личный опыт. Именно способность к рефлексии и синтезу знаний отличает настоящее образование от простого накопления информации. Человеческий мозг эволюционно не приспособлен для точного запоминания и дословного воспроизведения информации – да и подавляющее большинство людей просто не способно на такое механическое запоминание. После бесчисленных уроков, сочинений и экзаменов в сознании должно остаться понимание более глубоких и долговечных концепций (которые должны раскрыться при помощи этих образовательных инструментов), таких как, например, чудо астрономии, трагедия амбиций, необходимость (или ее отсутствие) революции.
Этот принцип применим и к искусственному интеллекту. После завершения обучения модель больше не нуждается в доступе к исходным данным – вместо этого она оперирует сформированным интуитивным пониманием, достаточным для генерации ответов, сложных логических построений, точного прогнозирования.
Подобно тому как люди не носят с собой библиотеки учебных материалов, ИИ делает выводы, а не извлекает заученные факты. Ключевое отличие, однако, в том, что благодаря колоссальной скорости обработки ИИ способен опираться на такой объем информации, который превосходит любые человеческие возможности. Для этого, даже чтобы ответить на простой вопрос, модель ИИ может выполнить миллиарды сложных технических операций. В то время как традиционный компьютер просто извлекает конкретную информацию, хранящуюся в его памяти – поскольку он не способен прийти к выводам, которых там еще нет – ИИ запускает вычисления по принципам, схожим с работой человеческого мозга. Люди учатся, чтобы мыслить, в то время как машины обучаются, чтобы делать выводы. Второе невозможно без первого.
Первая фаза обучения – и для человека, и для ИИ – всегда наиболее ресурсоемка. Соискатель ученой степени может потратить пару десятков лет или даже больше на то, чтобы научиться писать глубокие аналитические работы за считаные дни. Так же и современные модели ИИ: их обучение занимает месяцы интенсивных вычислений, зато последующая генерация результатов происходит за доли секунды.
Сегодняшние системы ИИ уже дают вполне логичные и продуманные ответы на запросы человека. В своих последних и перспективных версиях они станут охватывать все более обширные массивы данных, интегрируя знания из различных научных областей и демонстрируя когнитивную гибкость, превосходящую возможности любого отдельного человека или даже коллектива экспертов. Для искусственного интеллекта масштаб данных буквально преобразуется в скорость работы: чем глубже обучение системы, тем стремительнее и точнее становятся ее выводы. Более того, обнаруживая в данных скрытые закономерности, недоступные человеческому восприятию, системы ИИ способны генерировать принципиально новые интерпретации традиционных знаний. Обрабатывая колоссальные массивы информации, они создают совершенно оригинальные концепции и идеи.
И этот потенциал искусственного разума ставит перед человечеством вопрос – даже, пожалуй, комплекс фундаментальных вопросов.
Откуда мы получаем знания об устройстве Вселенной? И как можем быть уверены в их достоверности?