ться как ключ к достижению лучших и быстрых результатов, наш собственный разум может показаться архаичным и недостаточным. Независимое применение человеческого разума может отойти на второй план.
Печатная революция XV в. в Европе породила множество новых тем и идей, изменив и обогатив привычную жизнь. Революция ИИ может привести к значительным научным и экономическим достижениям, но ее влияние на уровень дискурса пока трудно определить. Помогая людям ориентироваться в массивах цифровой информации, революция ИИ может обогатить и расширить поле нашего мышления – но может случиться и так, что ИИ, оценивая закономерности в массе доступных данных, просто создаст набор очевидных истин, которые станут общепринятыми на континентальных и глобальных сетевых платформах. Это может снизить нашу способность к спонтанности и критическому поиску, которая определила нынешнюю эпоху, или направить различные страны или сообщества сетевых платформ в отдельные и противоречивые ветви реальности.
ИИ может пойти на пользу или – при его неправильном использовании – во вред человечеству, но сам факт его существования бросает вызов основополагающим допущениям. До сих пор люди сами развивали свое понимание реальности, и эта способность определяла наше место в мире и отношение к нему. На этом фундаменте мы создавали философские учения, выбирали формы правления, разрабатывали военные стратегии и моральные заповеди. Теперь ИИ показал, что могут существовать иные способы исследования реальности, возможно, более глубокие, чем самостоятельное познание мира людьми. Иногда ИИ будет добиваться не менее ошеломляющих открытий, чем достижения самых влиятельных мыслителей-людей своих эпох, которые порождали озарения и бросали вызов устоявшимся концепциям, требовавшим переосмысления. Чаще ИИ будет невидимым, вездесущим и встроенным в обыденность, тонко приспосабливающим нашу реальность к нам так, чтобы у нас это не вызывало протеста.
Мы должны признать, что достижения ИИ в рамках определенных для него параметров иногда не уступают или даже превосходят те, на которые способен человек. Мы можем успокаивать себя тем, что ИИ никогда не сможет достичь сознательного, человеческого восприятия реальности. Но когда мы столкнемся с некоторыми достижениями ИИ, способного на мыслительные, технические, стратегические прорывы, обучаемого на основе больших и сложных систем, сложного в управлении, станет очевидно, что перед нами иная сущность с иным опытом восприятия мира.
Благодаря ИИ перед нами открываются широкие горизонты. Пределы человеческого разума ограничивали нашу способность собирать и анализировать данные, фильтровать и обрабатывать новости и разговоры, вести социальную жизнь в цифровой среде. ИИ позволяет нам более эффективно ориентироваться в этих сферах. Он может расширить наше видение, снабжая нас информацией и показывая нам тенденции, которых не могли так же изящно и эффективно выявить традиционные алгоритмы. ИИ может более тесно связать нас с этими сферами, предоставляя нужный нам контент – близкую нам информацию и соответствующие нашему мировоззрению материалы. ИИ не только расширяет наше понимание физической реальности – он позволяет нам организовать и освоить растущий цифровой мир.
Одновременно ИИ ослабляет нас. Из-за него постепенно исчезает человеческий разум в том виде, в каком мы привыкли к нему в современную эпоху. Социальные сети лишают человека пространства для размышлений, поиск в интернете отменяет потребность в организации знаний, а ИИ усиливает обе эти тенденции. Алгоритмы и раньше бесперебойно снабжали людей затягивающим контентом, а ИИ делает это еще эффективнее. Время, необходимое для внимательного чтения или глубокого анализа, сокращается, снижается мотивация к размышлению, становится все труднее отказаться от преимуществ цифровой среды, при этом растет ее способность развлекать и отвлекать. Как следствие, роль человека в анализе, проверке и осмыслении информации снижается – человеческий анализ все чаще дополняют или вытесняют системы с ИИ.
Если романтики утверждали, что субъективные человеческие эмоции – достоверный и важный источник опыта, а постмодернисты поставили под сомнение саму возможность видения объективной реальности через фильтр субъективного опыта, то ИИ идет еще дальше. Открывая нам новые объективные факты, такие как медицинские диагнозы, прогнозы промышленных и экологических катастроф, угрозы безопасности и т. п., ИИ будет перестраивать информацию в сфере СМИ, политики, общественной дискуссии и развлечений в соответствии с нашими предпочтениями, подтверждая предубеждения, усугубляя субъективность опыта и сужая доступ к объективной реальности. Таким образом, в эпоху ИИ человеческий разум будет не только дополнен, но и ослаблен, причем совершенно новыми способами.
По мере того как эти технологии вплетаются в ткань нашего повседневного существования, расширяют и трансформируют его, человечество, естественно, будет сталкиваться с противоречивыми импульсами. Найдется круг людей, которые, столкнувшись с ИИ, поддадутся искушению рассматривать его суждения как проявления божественного. И такие побуждения, пусть ошибочные, не будут совсем лишены смысла, ведь если «интеллект», не поддающийся пониманию или контролю, будет делать полезные выводы, почему бы не подчиниться его суждениям – даже если они могут показаться чуждыми? Так может возникнуть новая глобальная «религия» с ИИ в роли прорицателя, которому некоторые будут доверять, не имея разумного и глубокого понимания.
Такой культ принизит роль человеческого разума. И так же, как некоторые отказываются от социальных сетей, ограничивают для своих детей время пользования гаджетами или отказываются от продуктов питания с ГМО, найдутся люди, которые попытаются отказаться от пользования благами ИИ или ограничить влияние ИИ-систем на свою картину мира. В либеральных странах такой выбор, хотя бы на уровне отдельного человека или семьи, наверное, будет возможен – но он будет равносилен отказу не только от таких удобств, как рекомендации фильмов к просмотру или прокладывание маршрутов, но и от огромных массивов данных, сетевых платформ и прогресса во всех областях – от здравоохранения до финансов, которыми нас все больше и больше обеспечивает ИИ.
Отказ от ИИ на уровне цивилизации будет, скорее всего, невозможен, и руководителям государств придется противостоять негативным последствиям внедрения этой технологии.
Исключительно важно разработать этический кодекс для эпохи ИИ, и это задача не для какой-то одной сферы. Компьютерные ученые и руководители компаний – разработчиков технологий, внедряющие эти технологии военные стратеги, политические лидеры как их заказчики и пользователи, философы и богословы в поисках глубинных смыслов этих технологий – все они видят свою часть картины, и все они должны вести диалог, в ходе которого им придется отказаться от предубеждений.
У человечества будет три основных варианта действий: ограничить ИИ, сотрудничать с ним или отступить перед ним. Эти варианты отражают как философские, так и практические аспекты применения ИИ в конкретных задачах или областях. Например, что делать в критической ситуации при управлении самолетом или автомобилем – должен ли ИИ-пилот подчиниться человеку или наоборот? Людям в каждом случае придется отвечать на эти вопросы, некоторые ответы будут меняться по мере развития возможностей ИИ и тестирования машинного обучения. Иногда будет уместно послушаться ИИ – раз уж он может раньше и точнее диагностировать рак груди по маммограмме, нужно использовать это для спасения жизней. Иногда лучшим вариантом будет партнерство – например, автопилоты автомобилей, скорее всего, будут функционировать аналогично автопилотам современных самолетов. Наконец, для критических условий, например войны, важно выработать строгие и четкие ограничения, которые будут беспрекословно выполняться.
Появление ИИ изменит наше понимание того, что мы знаем, как мы это узнали и что еще доступно нашему знанию. В Новое время ценились знания, полученные человеческим разумом в процессе умозаключений, сбора и изучения данных, на основе наблюдений. Идеальным видом истины было уникальное проверяемое знание, доказанное проверяемыми способами. В век ИИ мы принимаем концепцию знания как результата партнерства между людьми и машинами. Люди создают и запускают компьютерные алгоритмы, которые исследуют данные гораздо быстрее и систематичнее, чем человек, и делают выводы, которые могут отражать особенности мира, находящиеся за пределами нашего понимания.
Таким образом, люди и ИИ вместе проверяют на прочность и раздвигают границы человеческого знания о нашем физическом мире. ИИ уже вышел за пределы человеческого восприятия. В одних случаях это обусловлено тем, что алгоритмы и вычислительная мощность позволяют ИИ быстро проходить путь обучения, на который у человеческого разума ушли бы десятилетия или столетия, но в других случаях сами по себе скорость и вычислительная мощность не объясняют достижений ИИ.
Верно ли, что люди и ИИ подходят к одним и тем же явлениям с разных точек зрения и с разными взаимодополняющими возможностями? Или же существуют две пересекающиеся реальности: одну развивают люди с помощью своего разума, а другую – ИИ с помощью его алгоритмов? Если верно второе, то мы не можем воспринять то, что воспринимает ИИ, не только потому, что у нас не хватает на это временнóго ресурса, но и потому, что эти вещи существуют в сфере, в принципе недоступной нашему разуму. Это изменит наш процесс познания – мы смиримся с тем, что получение определенных знаний нам придется доверить ИИ. В любом случае, по мере того как ИИ будет решать все более сложные и объемные задачи, люди все чаще будут воспринимать его как особую сущность, испытывающую и познающую мир, – не просто инструмент, а нечто живое и разумное.
Эта головоломка становится тем сложнее, чем ближе мы будем к появлению ИИ общего назначения (AGI). Как описано в главе 3, AGI не будет ограничен обучением и выполнением конкретных задач, как существующие ИИ, он по определению будет обучаться и выполнять широкий спектр задач, подобно человеку. Разработка таких ИИ потребует огромных вычислительных мощностей, и это, вероятно, приведет к тому, что их созданием будут заниматься лишь немногие мощные и хорошо финансируемые организации. Как и нынешний ИИ, AGI будет легко тиражируемым, но, учитывая его возможности, доступ к AGI будет предоставляться лишь небольшому числу организаций. Для остальных доступ будет ограничен (это реализуемо, если предоставлять AGI в качестве услуги, а не распространять его как программное обеспечение). Но тогда возникнут неизбежные вопросы: кто контролирует AGI и доступ к нему? Возможна ли демократия в мире с несколькими уникальными «гениальными» машинами, которыми управляет лишь небольшое число организаций (коммерческих, правительственных или некоммерческих)? Как вообще в таких условиях возможно партнерство с ИИ? Появление AGI, если оно произойдет, станет важным интеллектуальным, научным и стратегическим событием. Но ИИ и без этого знаменует революцию для человечества.