В марте 2016 года, проиграв три партии подряд, корейский мастер игры в го Ли Седоль испытывал не ярость или печаль, а лишь безмерное изумление. Мастер и представить не мог, что проиграет ИИ – этому ультрасовременному противнику. Ведь он отдал всю свою жизнь постижению тайн этой древней игры. Тем не менее ошеломляющий ход № 37, сделанный в предыдущей партии программой AlphaGo, заставил всерьез задуматься: неужели ИИ и правда способен на нечто большее, чем бездушные расчеты? Не сверкнула ли в его алгоритмах искра творчества?
К тому моменту Ли, потрясенный необыкновенным противником, играл уже не ради победы – ведь в их поединке best-of-five-формата[111] он признал свое поражение, – но ради красивого финала. В следующей, четвертой, партии он ответил на 37-й ход своим 78-м – изящным контрударом, который неожиданно для всех принес ему победу – единственную за всю историю классической AlphaGo (2016). По всему миру, где следили за матчем, разочарование вмиг сменилось всеобщим ликованием.
В тот мартовский день в Сеуле первый игрок мира вел поединок один на один с бездушной моделью ИИ, прерываясь лишь на редкие перекуры на террасе фешенебельного отеля-спонсора. Вообразить себе такого противника было сложно в принципе, однако Ли Седоль принял на себя максимальный груз ответственности, играя за самую взыскательную команду – все человечество. Такой миссии он вряд ли когда-либо себе пожелал бы. История сохранит не результат этого поединка, а саму демонстрацию человеческих возможностей – как гения Ли Седоля, так и разработчиков ИИ, бросивших ему вызов[112].
Девиз компании DeepMind, одержавшей победу в Корее, призывает: «Познай природу разума – и тогда сумеешь раскрыть все прочие тайны мироздания»[113]. Интеллект как движущая сила нового творения способен перевернуть наше представление о мире. Но перед лицом этой бездонной неизвестности нас невольно охватывает тревога. И все же в некоторых случаях, пожалуй, стоит следовать примеру Ли Седоля, который отнесся к ИИ не как к сопернику, а как к источнику вдохновения.
Положение Ли Седоля было исключительным – будучи лучшим из лучших в своей области, он соревновался с ИИ в контролируемых условиях эксперимента. Возможно, именно это позволило ему с исследовательским азартом искать новые стратегии, вместо того чтобы погрузиться в горечь поражения от невидимого оппонента и его создателей. Увы, большинство людей отнесутся к успехам ИИ куда менее благородно – волной неприятия и страха.
Особенно остро конфронтация проявляется в мнимых «играх с нулевой суммой[114]» – прежде всего при возможном замещении человеческого труда искусственным разумом. В этой главе мы постараемся развенчать этот, на наш взгляд, ошибочный стереотип и продемонстрировать, как ИИ способен даровать человечеству неожиданное процветание – особенно в мире, где труд перестанет быть необходимостью.
Для подавляющего большинства людей работа никогда не была игрой с возможностью выигрыша или желанным мастерством. Она оставалась тяжким бременем – изнурительной повинностью и социальными оковами. Хотя эти оковы и поддерживали стабильность, их цена неизменно заключалась в подавлении самой человеческой сути.
В Бхагавад-гите – одной из частей великого индийского эпоса Махабхарата – диалог между царевичем-воином Арджуной и его возничим (такой облик принял на время бог Кришна) раскрывает природу социально-религиозных устоев, веками поддерживавших порядок в индийском обществе. Когда Арджуна колеблется, подняв меч на своих сородичей, Кришна недвусмысленно напоминает: «Нет отступлений от долга, нет отклонений от судьбы»:
Лучше выполнить свой долг плохо, чем чужой – безупречно. Прими смерть, но не берись за дело, тебе не предназначенное[115].
В этой системе каждый исполняет предопределенную роль, сколь бы тягостной она ни была, жестко заданную фактом рождения. Как гласит Бхагават-гита,
долг брахманов [высшей касты] – хранить мудрость и спокойствие; кшатриев – сражаться мужественно; вайшьев – возделывать землю и вести торги; шудр – служить смиренно[116].
Общество преуспевает лишь тогда, когда каждый честно выполняет свои обязанности. Те, кто следует этому в нынешней жизни, получают шанс на высшую участь в следующей. Тем же, кто пренебрегает своим долгом, уготованы страдания в новом перерождении.
Индуистская кастовая система не была уникальным явлением. Политическая философия Аристотеля также предполагала строгое разделение социальных функций. А рабство – узаконенное, поддерживаемое насилием и унижением – в некоторых обществах и вовсе превратилось в основной инструмент эксплуатации людей и насаждения искусственной иерархии.
В последние два столетия демократические государства с рыночной экономикой практически устранили кастовую систему и рабство, заменив их концепцией вознаграждения по заслугам. Духовенство возвело трудолюбие в добродетель, ученые в своих трудах всесторонне рассмотрели его значение для общества, а трудящиеся освоили методы коллективных переговоров и организованных протестов. Но даже сегодня, где бы ни использовался человеческий труд – во имя высших сил, государственных интересов или ради заработной платы, – наши интеллектуальные и физические усилия, как правило, служат не столько нам самим, сколько другим.
Немало войн вспыхивало из-за споров вокруг вопроса «Кому что положено – и почему?» (как в названии бестселлера экономиста Элвина Рота, 2015) либо приводило к пересмотру самих этих принципов. Ограниченность земли, рабочей силы и капитала сделала дефицит, а не изобилие базовой экономической парадигмой. Жестокие конфликты возникают не столько за распределение созданных благ, сколько за крохи оставшегося. Эти противоречия пронизывают как внутреннюю жизнь обществ, так и международные отношения – даже в мирные периоды, когда граждане требуют перераспределения ресурсов для смягчения неравенства.
Эффективное производство в сочетании с социальной справедливостью неизменно повышает благосостояние. Однако для этого требуется фундаментальная трансформация, чтобы все общества были уверены в том, что ресурсов действительно хватает. Лишь тогда спор о выживании сменится поиском путей достойного существования.
И вот мы создали ИИ – технологию, способную кардинально изменить сами факторы производства, переложив трудовые функции с людей на машины. Более того, ИИ можно направить на поиск и разработку более дешевых, но неограниченных источников сырья для собственных нужд. По мере внедрения ИИ в производство потребность в капиталовложениях для выпуска товаров может существенно сократиться. Хотя некоторые редкие и невозобновляемые ресурсы пока остаются критически важными для создания систем ИИ, даже эта зависимость может исчезнуть, если ИИ разработает их синтетические аналоги. Более того, ИИ способен создать принципиально новые вычислительные архитектуры, на порядки превосходящие по эффективности нынешние. В долгосрочной перспективе то же самое произойдет и с автоматизированными производствами – они смогут самостоятельно воспроизводить компоненты для новых поколений машин.
Разрабатывая экологически чистые синтетические аналоги сырья для производства самых разных товаров, ИИ способен положить начало эпохе всеобщего изобилия, устойчивого достатка и процветания. Даже в условиях сохраняющихся физических ограничений его потенциал, хотя и не безграничный, может оказаться достаточным для удовлетворения основных потребностей человечества и реализации многих устремлений. Это освободит наше мышление от тирании концепции дефицита и поменяет отношение к труду от восприятия его как тягостной повинности к осознанию свободной созидательной деятельности.
Сэм Альтман, генеральный директор OpenAI, предлагает оценивать успехи экономики по двум критериям: динамике и социальной вовлеченности[117]. Исторический опыт показывает: большинство стран достигало либо одного, либо другого – как правило, на небольшой срок. Устойчивое сочетание обоих факторов остается исключительным случаем. Как отмечает сам Альтман,
Капитализм прекрасно стимулирует экономический рост, поощряя инвестиции в перспективные активы. Эта система действительно эффективно создает и распространяет технологические инновации. Но неизбежной платой за такой прогресс становится растущее неравенство.
Иными словами, ИИ и связанный с ним рост производительности способны обеспечить долгосрочный подъем экономики. Однако социальная вовлеченность не возникнет сама собой – ее нужно сознательно выстраивать.
Поэтому в эпоху ИИ, следуя предложению Альтмана, ключевым решением может стать налогообложение двух фундаментальных источников мировой ценности – высокотехнологичных компаний, разрабатывающих и применяющих искусственный интеллект, и земельных ресурсов, остающихся неизменной основой (по крайней мере, в пределах нашей планеты). Если люди не несут ответственности за стоимость труда искусственного разума, логика требует распределять эту стоимость коллективно. И весьма вероятно, что земля (а на какое-то время и редкоземельные элементы, используемые в микроэлектронике) останутся единственными невосполнимыми активами, сохраняющими ценность в эпоху изобилия, а значит, и основными объектами налогообложения.
Однако такой подход предполагает, что государства (или их функциональные аналоги) сохранят функции органов перераспределения, а корпорации останутся в зоне налогового администрирования. Более того, рост ценности земельных ресурсов и технологических инноваций способен разжечь бесконечную конкур