Процесс интеграции и углубления связей между людьми и цифровыми технологиями ускоряют сетевые платформы. Благодаря ИИ, обученному отвечать на вопросы человека и выполнять его запросы, сетевые платформы обрабатывают информацию – то есть делают то, с чем человеческий разум когда-то справлялся сам (хотя и менее эффективно). Они решают задачи агрегирования информации и опыта, причем в гораздо более широких масштабах, чем человеческий разум в течение одной жизни, – вот почему их ответы и рекомендации часто кажутся удивительно точными. Ведь никакой даже самый придирчивый покупатель не сможет, выбирая зимние сапоги, оценить сотни тысяч покупок аналогичных товаров в стране и регионе, учесть последние погодные тенденции и время года, просмотреть аналогичные предыдущие поиски и изучить схемы доставки, прежде чем решит, какая пара сапог будет лучшей покупкой для него, – а ИИ сможет.
Все это приводит к тому, что люди начинают относиться к сетевым платформам, управляемым ИИ, так, как они никогда не относились к другим продуктам, услугам или машинам. По мере того как человек взаимодействует с ИИ, а ИИ адаптируется к предпочтениям человека (как он просматривает интернет, как осуществляет поиск, где бывает, какой имеет доход и какие социальные связи), у людей формируется своего рода негласное партнерство с сетевыми платформами. Они становятся для человека комбинацией почтовой службы, универмага, консьержа, исповедника и друга – функции, которые традиционно возлагались на предприятия, правительства и других людей.
Отношения между человеком, сетевой платформой и другими ее пользователями выглядят как очень близкие – только в дистанционном режиме. Уже сейчас сетевые платформы просматривают значительные объемы пользовательских данных, большая часть которых носит личный характер (геоданные, контактная информация, сеть друзей и знакомых, информация о финансах или о состоянии здоровья). Пользователи обращаются к ИИ с самыми разнообразными вопросами, касающимися всех сторон жизни. Способности ИИ отвечать на эти вопросы обусловлены его способностью анализировать сотни миллионов похожих отношений и триллионы похожих запросов в пространстве (географическая широта пользовательской базы) и времени (история взаимодействий) – и реагировать на них. Контактируя, пользователи сетевой платформы и ее ИИ взаимодействуют друг с другом и учатся друг у друга.
Но ИИ сетевой платформы следует логике, которая не является человеческой и во многом непостижима для людей. Когда сетевая платформа оценивает изображение, текст в социальных сетях или поисковый запрос, человек может не понимать, что именно сейчас делает ИИ. Инженеры Google знают, что сетевой поиск на основе ИИ дает более четкие результаты, но они не всегда могут объяснить даже порядок поисковой выдачи. Пользователи ИИ оценивают скорее пользу от полученных результатов, чем процесс, который выдал эти результаты. Это означает, что по сравнению с теми временами, когда человек понимал каждый шаг в любых интеллектуальных или физических процедурах (идея, общение, бизнес-процесс) и мог их приостановить, проконтролировать и повторить, приоритеты изменились.
Например, в большинстве промышленно развитых стран мира уже мало кто помнит о той эпохе, когда, собираясь в путешествие, нужно было договориться по телефону с принимающей стороной, изучить карту города или штата, а где-нибудь по пути остановиться на заправке или у магазина, чтобы убедиться в том, что маршрут проложен правильно (или исправить ошибку). Теперь этот процесс проходит гораздо эффективнее благодаря картографическим приложениям, которые оценивают возможные маршруты и их продолжительность, зная обычную картину дорожного движения в это время суток, учитывая аварии или другие возможности задержки на маршруте, включая маршруты, планируемые другими пользователями на тот же отрезок времени.
Переход от карт, отпечатанных на бумаге, к онлайновым навигационным сервисам оказался настолько удобным, что мало кто оценил революционность этого изменения и задумался о его последствиях. Человек и общество пользуются плодами нового типа отношений с сетевой платформой и ее оператором – а именно доступом к постоянно развивающемуся массиву данных, который они дополняют своими данными (включая собственное местоположение), доверяя результатам, которые выдает ИИ. В некотором смысле человек, пользующийся такой услугой, становится частью системы, в которой человеческий и машинный интеллекты сотрудничают, чтобы направлять совокупность людей по их индивидуальным маршрутам.
Скорее всего, таких постоянных ИИ-компаньонов будет становиться все больше. Благодаря сетевым платформам меняются и здравоохранение, и логистика, и розница, и финансы, и связь, и СМИ, и транспорт, и развлечения. Меняется наше восприятие мира в целом.
Когда пользователи обращаются к услугам сетевых платформ, в их распоряжении оказываются такие возможности сбора и обработки информации, каких никогда не было в истории человечества. Благодаря масштабу, мощи и способности таких платформ находить новые решения мы получаем невероятное удобство и возможности – и участвуем в совершенно беспрецедентном диалоге между человеком и машиной. Способ, которым сетевые платформы меняют человеческую деятельность, нам непонятен и не поддается четкому определению или выражению. В связи с этим возникают важные вопросы: какие задачи имеет такой ИИ? По чьему замыслу и в рамках каких нормативных параметров он работает?
Кто управляет этими процессами, кто их регулирует, какое влияние они могут оказать на социальные нормы и институты, кто вообще имеет доступ ко всем этапам процесса? Если человек никогда не сможет охватить своим пониманием все данные или получить доступ ко всем этапам – значит ли это, что роль человека теперь будет сводиться к проектированию, мониторингу и установке параметров для ИИ? Хорошо это или плохо? Ответы на эти и подобные вопросы могут оказаться любыми – и они будут определять жизнь и общество.
Компании и государства
Сетевые платформы с поддержкой ИИ возникли случайно, по мере того как отдельные компании, инженеры и их клиенты пытались решить определенные проблемы. Целью операторов сетевых платформ было связать покупателей и продавцов, потребителей и поставщиков информации, а также людей, объединенных общими интересами или целями. Они применяли ИИ для улучшения своих продуктов, для оказания услуг, для повышения удовлетворенности пользователей и комплаенса.
По мере роста и развития сетевых платформ, управляемых ИИ, некоторые из них стали оказывать влияние, выходящее далеко за рамки их первоначального назначения. И, как уже отмечалось ранее, люди стали доверять определенным сетевым платформам информацию, которую они вряд ли показали бы друзьям или представителям власти, – включая исчерпывающие данные о том, где они были, что (и с кем) делали, какую информацию искали и просматривали на своем телефоне или компьютере.
Доступ к персональным данным обеспечил сетевым платформам такую динамику развития, что они сами, их операторы и используемые ими ИИ стали пользоваться реальным общественным и политическим влиянием. Это стало особенно заметно в эпоху пандемии, когда в условиях социальной дистанцированности и удаленной работы сетевые платформы стали важнейшим ресурсом общества – вроде социального клея, благодаря которому люди могли и дальше самовыражаться, делать покупки, получать продовольствие и пользоваться транспортом. Эти изменения происходят в таких масштабах и с такой скоростью, что общество и государства попросту не успевают осознавать степень расширения роли сетевых платформ.
Как показали недавние события, связанные с распространением политической информации и дезинформации через социальные сети, некоторые сетевые платформы взяли на себя настолько значительные функции, что потенциально могут влиять и на государственное управление. Но и эта их способность возникла фактически случайно, без соответствующих изысканий и необходимой подготовки. В правительственной сфере и в мире технологий ценятся совершенно разные умения, навыки и опыт. У них разные языки, структуры, движущие принципы и основные ценности, им не понять друг друга без переводчика. При этом сетевые платформы, функционирующие в соответствии со своими собственными коммерческими целями и для удовлетворения своих пользователей, вполне могут работать в сфере управления и национальной стратегии, и традиционным игрокам будет сложно понять мотивы и тактику платформы в отношении национальных и глобальных целей.
К тому же ИИ действует в соответствии со своими собственными процессами, которые отличаются от психических процессов человека и зачастую опережают их. ИИ разрабатывает свои собственные подходы к выполнению тех или иных задач. Результаты работы ИИ не характерны ни для человека, ни для каких-либо национальных или корпоративных культур. Благодаря всеобщему проникновению цифрового мира и способности ИИ сетевых платформ глобально контролировать, блокировать, адаптировать, производить и распространять информацию эти сложности распространяются и на информационные пространства отдельных государств.
Постоянно совершенствуясь, ИИ сетевых платформ продолжают создавать общественные и бизнес-механизмы в национальном и мировом масштабах. Сами по себе платформы социальных сетей (и их ИИ) обычно независимы от контента, но стандарты сообщества, а также способы фильтрации и представления информации вполне могут влиять на то, как эта информация создается, агрегируется и воспринимается. Поскольку работа ИИ – рекомендовать контент и связи, классифицировать информацию и концепции, а также предсказывать предпочтения и цели пользователей, он может непреднамеренно усиливать определенный индивидуальный, групповой или общественный выбор, а по сути – стимулировать распространение определенных типов информации и формирование одних типов связей за счет других. Независимо от намерений и понимания операторов платформ это потенциально влияет на социальные и политические процессы. Отдельные пользователи и группы пользователей постоянно взаимодействуют друг с другом, это происходит быстро и в огромных масштабах. Поскольку это взаимодействие зависит от сложнейших рекомендаций ИИ, сами операторы сетевых платформ могут не особенно хорошо понимать, что именно происходит на самом деле.