Если отвлекаться от творчества маститых авторов, то даже такой юмористический роман Брюса Ветке, как «Интерфейсом об тейбл», содержит стандартное объяснение от имени самих ИИ: «мы нуждаемся в человеке, как форель в воде». То есть говорится о некоей условной форме симбиоза между машинами и людьми. Но ведь симбиоз подразумевает некий взаимовыгодный обмен. Люди же могут представить только некую инфраструктуру, которую они создавали много лет, но которую уже не хуже их могут создавать машины. Даже по условиям, заданным в романе, нарушение равновесия в пользу машин — весьма близкая перспектива.
То допущение, которое было простительно для Ф. Лейбнера в «Серебряных яйцеглавах» — вековое равноправное сосуществование расы роботов и расы людей — сейчас выглядит таким же анахронизмом, как перфокарты и ламповые компьютеры.
Итак, уловки — это просто литературный способ спрятать голову в песок. Самые известные (или самые одиозные) трансгуманисты называют 2030-е годы{13} наиболее вероятным временем технологической сингулярности. Эти прогнозы могут не сбыться. Как не сбылись в полном объеме прогнозы о быстром создании программ-переводчиков, о конструировании ИИ еще в 70-х гг. XX века, и множество других предположений. Но даже если к созданию полноценного самосовершенствующегося ИИ человечество подойдет в 2070-х — это будет означать коренное изменение человеческой истории.
Однако в пояснении того, что же будет дальше, за гранью, — футурологи чрезвычайно немногословны. Будет взрыв — в этом сходятся все. Бешеное ускорение научно-технического прогресса — революции буквально во всех областях науки, техники. Радикальнейшая перестройка цивилизации, первейшим признаком которой будет чрезвычайное увеличение темпа событий, появление множества новых факторов. Всё это вполне очевидно без сколько-нибудь длительных умозаключений — достаточно использовать только посылку о самосовершенствовании ИИ.
Туг можно сформулировать центральный вопрос этой статьи: насколько необоримым для человека фактором выступает сингулярность, может ли человек сосуществовать с разумными компьютерами? И как воспринимают эту перспективу фантасты? Переберем основные варианты развития событий, оценим, сохранится ли человек после сингулярности, т. е. можно ли считать её неким горизонтом человечества.
Будем исходить из того, что внутренние противоречия, свойственные всему на свете, никуда не исчезнут — даже самосовершенствующиеся ИИ не будут от них свободны.
Еще прежде, чем будет создан ИИ, прежде, чем компьютеры обретут разум,—уже откроется дорога к объединению техносферы. Средства связи улучшаются еще быстрее, чем увеличивается мощность компьютеров. Еще двадцать лет назад проблемой была электронная почта и не совсем умер телеграф, а сейчас пользователи за смешные деньги запросто скачивают из сети десятки фильмов. Средства контроля и программы повышения эффективности скоро обеспечат отслеживание показаний любого прибора в реальном времени — где он находится, сколько электричества потребляет, какую функцию исполняет в данный момент. Между спутником и холодильником в этом отношении уже сейчас практически нет никакой разницы. Барьеры, которыми люди пытаются разделить части мировой паутины, весьма условны. Хакеры проникают в оборонные сети, и автор этих строк подозревает, что ядерная война до сих пор не началась только потому, что для пуска ракет требуется повернуть рубильник обычными человеческими пальцами.
С момента своего создания ИИ будет не ограничен в росте. Биологических рамок, которые задает мозг, у него нет. Любой тиран-человек не может заниматься тысячью дел одновременно — для машины это вопрос техники. Как \Утбо№ может координировать действия десятков программ, так ИИ сможет не только это, но, главное, он сможет самосовершенствоваться, улучшая методы своего мышления. Следовательно, возможно объединение всей техносферы в рамках единой управляющей структуры — возникновение моносубъекта.
Этот сюжет неоднократно рассматривался в фантастической литературе, однако, при всём многообразии выдумок, очень редко можно найти примеры действительно состоявшегося моносубъекта. Львиная доля сюжетов посвящена борьбе с машинами, отключению рубильника в последнюю секунду и т. п. Даже в «Терминаторе 3» машинный разум существует в постоянной борьбе с человеком и сам же, спровоцировав третью мировую войну, уничтожает большую часть техносферы. Это форменное самоубийство. Кроме того, авторы слишком желают видеть человека управляющим, главным. Роман «Этот идеальный день» — показывает нам некий сверхкомпьютер, который управляет всем человечеством, контролирует всё — от обыденных мелочей до стратегических решений, притом что людям еще и промывают мозги специальными «лечениями». Но когда главный герой с бомбой в руках всё-таки прорывается в комплекс этого сверхкомпьютера — выясняется, что там живет дружная община программистов. Они-то и есть истинные хозяева планеты.
Пожалуй, один из немногих примеров обратного—трилогия Ф. Рола и Дж. Уильямса «Рифы космоса». Показана Земля, на которой осуществляется План Человека — преобразования, управляемые и корректируемые компьютерами. Люди формально сохранили статус, есть даже главный программист, но по сути своей они ничего не решают, а подтверждают выводы компьютеров. Но слишком уж нелепой и устаревшей выглядит эта Машина. Авторы могут сохранить за человеком решающую роль в произведении только за счет несовершенства Машины и множества выдумок, вроде разумных звезд, млекопитающих, живущих в открытом космосе, и т. п.
Но даже такой усеченный образ моносубъекта позволяет сформулировать основное, можно сказать, «несущее» противоречие, которое будет характерно для техносферы после достижения технологической сингулярности:
противостояние между моносубъектностью и полисубъектностью; между неантагонистическим решением всех противоречий в рамках одной личности — и острой конкурентной борьбой нескольких индивидуумов.
То есть противоречие между частью и целым, между всеохватным единством и необходимым разнообразием.
Единоцентричность дает любой системе множество преимуществ, особенно кратковременного, тактического плана. Любой кризис в целиком компьютеризованной техносфере (или же в человеческом обществе, которое ею пользуется) будет провоцировать возникновение моносубъекта хотя бы с целью экономии ресурсов или для победы над противником. И с возможностью подобного «конца истории» необходимо считаться — ведь на фоне моносубъекта человечество уже не будет играть определяющей роли, а только декоративную.
Но будет ли бесконечным развитие этого моносубъекта? Фантасты в этом отношении единодушны: нет. В тех же «Рифах космоса» Машина оказалась неспособной воспринять принципиально новые угрозы (действия разумных звезд) и реагировала стандартными указаниями — разыскать, арестовать, пустить на органы и т. п.
Как бы ни был велик набор знаний моносубъекта, они охватят только часть вселенной. Следовательно, когда перед единым ИИ встанет необходимость развития — хотя бы для получения новых энергоресурсов, материала для производства процессоров и т. п., — ему необходимо решать принципиально новые задачи. Где будут те противоречия, из которых он сможет черпать самообновление?
Внутри моносубъекта их может элементарно не оказаться — все самостоятельные центры мышления будут устранены. Это может быть строго упорядоченная система. Тогда для развития возможно использование противоречий между техносферой и всем остальным миром — т.е. между разумно организованной материей и еще стихийной. Этот путь ведет к бесконечной экспансии моносубъекта во вселенной и при этом, как ни парадоксально, к потере субъектности. Если будут повторяться одни и те же стандартные решения, замкнется цикл самовоспроизводства — и мы получим образ, похожий на образ Океана планеты Солярис, так талантливо продемонстрированный С. Лемом. Моносубъект скатится, если уместно такое сравнение, из животного мира в растительный. И кремниевый «Океан», выросший из наших компьютеров, будет активно заселять планету за-планетой.
Возможны полуавтономные личности, существующие в рамках моносубъекта, персонифицированные функции или потребности техносферы, созданные на манер младших богов в языческом пантеоне или даже ангелов в христианстве, — но все подобные конструкции нестабильны и в итоге провоцируют раскол единого информационного поля.
Каковы же перспективы человека? В подобных вариантах развития событий человечество в целом становится либо послушной машиной, либо вообще уходит с исторической арены. Род людской перестает быть самим собой. Отдельные герои хороши только для романов. Откровенными утопиями выглядят произведения, в которых моносубъект послушно служит человеку, к примеру, «Метаморфозы высшего интеллекта» Р. Вильямса.
Среди множества сюжетов и прогнозов, рассматривавших моносубъект, есть и оптимистичные для «человека биологического» варианты, согласно которым можно, например, переждать опасность (период активности моносубъекта); объединенный компьютерный разум очень скоро потеряет интерес к человечеству: будет заниматься проблемами, не сопоставимыми с масштабами деятельности людей. С. Лукьяненко в романе «Звезды: холодные игрушки», между прочим, описывает несколько планет, настолько далеко ушедших в своём интеллектуальном развитии, что их обитатели равнодушны к войнам обычных людей. К сожалению, подобные образы скорее относятся к художественной литературе: ни в каком бункере, ни на каком подножном корму переждать расцвет моносубъекта не получится — объединение и учет всех ресурсов не оставят человеку никаких экологических ниш. Возникновение моносубъекта можно признать одной из постоянных опасностей, которые возникают от развития техники, — как экологическая катастрофа и ядерная война. Они сравнительно маловероятны, но чтобы эта вероятность не стала роковой неизбежностью — надо принимать меры предосторожности.
Полисубъектность привнесет в техносферу более явные противоречия. Между ИИ разных государств, разных конструкций и т. п. Эти противоречия могут оказаться живительными. Пример чему в литературе рассказ Р. Желязны «Миг бытия так краток» — на обезлюдевшей Земле несколько машин пытаются восстановить мосты, дороги и прочую инфраструктуру, причем два основных «жестяных мозга» соперничают между собой, впустую растрачивая ресурсы, и лишь один из служебных ИИ находит способ перенести свой разум в тело клонированного человека, таким образом воссоздав род людской. Однако подобные противоречия выглядят случайными, в теории — легко устранимыми.