Сейчас важно задать вопрос: почему эта безумная игра в бога и желание производить машины, пытающиеся заменить людей и даже человеческий мозг, заразили многих блестящих ученых? И почему идея искусственного интеллекта встала на первое место на повестке дня деловых кругов в качестве потенциального решения всех проблем и панацеи от всех забот человечества на этой стадии развития, несмотря на все ее широко известные чудовищные недостатки?
Я считаю, что ажиотаж вокруг исследований в области искусственного интеллекта и его современных и будущих приложений проистекает из слияния воедино двух главных ментальных абстракций нашего времени — Церкви Рынка и Культа Машины. Как я полагаю, возникшая в результате этого слияния навязчивая идея внедрения искусственного интеллекта во многих отраслях промышленности связана с ложным представлением о том, что путем замены человеческого труда или его жесточайшего сокращения в этих сферах удастся очень значительно снизить производственные расходы, включая самые неприятные затраты на оплату человеческого труда, и при этом поднять прибыль до небес. В таком случае экономические рассуждения в основе этого нового толчка в развитии искусственного интеллекта, по-видимому, можно описать следующим образом: если компания показывает, что элемент кода или умный робот справляется с функцией опытного рабочего, она получает невероятное преимущество в отношении затрат и прибыли, которые практически невозможно сравнивать с таковыми при использовании человеческого труда. Соответственно, по моему мнению, занижение ценности человека и его физических и умственных способностей путем заявлений (и, возможно, демонстрации) о том, что кусок металла или несколько тысяч линий кода могут делать дело лучше, чем рабочие, которые его делали раньше, является частью хорошо продуманной стратегии современных капиталистов и большого бизнеса, направленной на получение почти бесконечной прибыли. Единственная проблема заключается в том, что они, по-видимому, забыли заключить соглашение с экономистами и учеными, которые не готовы скрывать свое мнение и подтверждающие его данные о том, что это утверждение современных капиталистов является ложным и крайне аморальным. Я говорю так, поскольку большинство из этих «предпринимателей в сфере высоких технологий» либо не знают, либо не беспокоятся о возможных социальных последствиях уничтожения миллионов рабочих мест из-за внедрения своих творений. Более того, они оставляют в стороне серьезную проблему, заключающуюся в том, что увольнение трудящихся также приведет к массовому сокращению как размера, так и покупательной способности их же потребительской базы.
Но продвижение идеи искусственного интеллекта направляется не только деньгами. Вообще говоря, современная «золотая лихорадка» в поисках искусственного интеллекта также объясняется расширенным и достаточно пугающим тезисом Оруэлла, стоящим за большинством современных стратегий и планов на будущее: «Тотальный контроль ради тотальной безопасности!»
Купившись на эту антиутопию, некоторые правительства представили своим избирателям ложную идею о том, что для обеспечения всеобщей безопасности в отношении всех возможных врагов — реальных и воображаемых — людям нужно согласиться на отказ от неприкосновенности частной жизни и разрешить официальное наблюдение, позволяющее осуществлять тотальный контроль граждан. Как элемент этого кошмара некоторые правительства надеются использовать технологии искусственного интеллекта для предсказания любого решения и перемещения каждого из своих граждан. Конечной целью активнейшего стремления внедрения искусственного интеллекта со стороны оборонных и разведывательных служб всего мира является не что иное, как установление «государства тоталитарной слежки» — тоталитарного режима нового типа, в котором данная технология используется правительством для предвосхищения действий и, при желании, даже мыслей каждого индивидуума. В этом оруэлловском мире потенциальные «преступления против государства» можно обнаружить в зародыше в головах отдельных людей еще до того, как они воплощаются в реальном мире в виде тех или иных действий. Кто-то может заявить, что это очень полезно для снижения уровня преступности, но важно подчеркнуть, что, даже если такая технология будет реализована, государство легко может злоупотребить ею для создания идеального метода полицейского надзора на невиданном ранее уровне. По сравнению с таким инструментом политических преследований сталинский НКВД и гитлеровское гестапо покажутся детскими игрушками.
Забавно, что эта золотая мечта диктаторов, разведывательных служб и военных и гражданских деспотов родилась вовсе не в структурах государственных аппаратов современных стран. Она была выдвинута и впервые приведена в действие в рамках нового бизнес-плана одной из самых знаменитых компаний Силиконовой долины теми самыми предпринимателями, которые всего несколько лет назад торжественно обещали не использовать во зло преимущества своей растущей монополии в интернете. Эта новая бизнес-практика, выношенная и выпущенная с оглушительным успехом компанией Google, была передана ее руководством другой гигантской интернет-компании — Facebook. Эта история была описана почетным профессором Гарвардской школы бизнеса Шошаной Зубофф в книге «Эпоха надзорного капитализма: борьба за человеческое будущее на новой границе власти», опубликованной в 2018 году, когда я готовил последнюю версию этой главы. Профессор Зубофф очерчивает тот же сценарий вмешательства в частную жизнь, который я изложил несколькими абзацами выше в качестве новой бизнес-модели, выдвинутой компанией Google. Зубофф называет брак по расчету между Церковью Рынка и Культом Машины «надзорным капитализмом». В ее определении надзорный капитализм — это «новый экономический порядок, который объявляет человеческий опыт бесплатным сырьевым материалом для скрытой коммерческой практики добычи, предсказаний и продажи». В полном соответствии с моими утверждениями профессор Зубофф полагает, что надзорный капитализм представляет собой «такую же серьезную угрозу человеческой природе двадцать первого века, какую представлял промышленный капитализм для мира природы в девятнадцатом и двадцатом». Она также утверждает, что эта «неконтролируемая мутация капитализма» позволила появиться «новым инструментам власти, которые обеспечивают господство над обществом и представляют невероятную угрозу для рыночной демократии».
Хотя существует множество явных и скрытых свидетельств того, что правительства многих стран, включая Соединенные Штаты, с удовольствием применили бы и более изощренные технологии надзора при возможности, я пока еще могу спокойно спать по ночам по причине моей глубокой убежденности в том, что ограничения цифрового подхода искусственного интеллекта не позволят этому плану реализоваться в ближайшем будущем, а быть может, и никогда. Однако эти ограничения не помешают тем же самым структурам продолжать поиски способов управления человеческим мозгом для создания новых инструментов слежки или даже нового поколения контролируемого мозгом оружия, что породит эпоху, когда человеческий мозг будет полностью интегрирован в новые средства вооружения. Учитывая недавний значительный интерес оборонных и разведывательных служб США к активному участию в американском исследовательском проекте BRAIN, организованному президентом Бараком Обамой, специалисты в области нейробиологии и общество в целом должны очень серьезно отнестись к использованию человеческого мозга в качестве оружия, что до сегодняшнего дня оставалось лишь сюжетом научно-фантастических фильмов. В этой новой реальности нейробиологи должны очень глубоко задумываться, прежде чем принимать финансирование от военных и разведывательных служб, поскольку риски неправомерного использования продукта их теоретической и экспериментальной работы во вред людям никогда не были еще столь велики и конкретны. Впервые за свою краткую историю нейробиология должна сыграть ведущую роль в качестве одного из защитников и стражей всеобщего общественного блага. Общество нейробиологов должно стать броней для социума и постоянно предупреждать людей о любых возможных нынешних и будущих посягательствах на базовые человеческие права, такие как право на частную жизнь и свободу слова, или о любых попытках помешать свободному проявлению человеческого поведения путем внедрения в святилище нашего разума.
С этой точки зрения серьезнейшие экзистенциальные угрозы для будущего человечества со стороны усиливающегося союза между Церковью Рынка и Культом Машины ясно показывают, почему так важно принять мозгоцентрическую космологию, чтобы обеспечить возможность нам в качестве вида вновь занять центральное место в нашей собственной человеческой вселенной. Для начала мозгоцентрическая космология раскрывает происхождение главенствующих сил современной жизни — рынков, денег и машин, показывая, что они являются не чем иным, как побочным продуктом активности человеческого мозга, мысленным миражом, выстроенным внутри нас самих, который после столетий эволюции, проб и ошибок приобрел собственную жизнь и описывает приоритеты, стратегии и практики, которые стремятся понизить человеческое влияние, нужды и стремления до гораздо менее важных и менее ценных вторичных ролей.
В таком качестве мозгоцентрическое видение вселенной совершенно ясно демонстрирует печальную реальность, заключающуюся в том, что на протяжении тысячелетий человеческое общество принимало решения, диктовавшие будущее человеческой культуры и в конечном итоге выживание нашего вида, исходя из ментальных конструкций, основанных вовсе не на истинных интересах большинства живущих и будущих представителей нашего вида. Суровые религиозные догмы, любого рода предубеждения, экономические системы, основанные на огромном неравенстве, и другие искаженные представления не должны диктовать действия и поведение человека. Вот почему я постоянно настаиваю на том, что понимание их истинного происхождения (и нашего собственного мозга) поможет объяснить все большему и большему числу людей, почему эти ментальные абстракции не должны управлять нашим образом жизни.