1. Технологии Четвертой промышленной революции существенно расширяют и преобразуют цифровые системы.
2. Технологии распространяются с экспоненциальной скоростью, проникая в материальные объекты и в нашу жизнь.
3. Разрушительная мощь технологий усиливается по мере того, как они комбинируются и запускают очередной цикл инноваций.
4. Разные технологии создают похожие преимущества и проблемы.
Преимущества и проблемы перспективных технологий связаны с такими важными вопросами, как неравенство, безработица, демократия, суверенитет, экономическое развитие, здоровье и безопасность.
Чтобы успешно справляться со скоростью и масштабностью влияния технологий Четвертой промышленной революции, потребуются новые, более гибкие модели управления для частного сектора, общественных организаций, а также для правительств и традиционных регуляторов. Мы должны создать новые, более гибкие и приспособленные к будущим реалиям формы управления, включая нормы, стандарты и практики, которые будут учитывать всеобщие интересы.
Глава 3Внедрение ценностей в технологии
В книге «Четвертая промышленная революция» (2016) утверждается, что для «продвижения вперед» необходим ценностно-ориентированный подход к сложной, неопределенной и переменчивой технологической среде{17}. В этой главе мы подробнее рассмотрим эту идею и определим те принципы и ценности, которые помогут нам двигаться вперед и сохранять роль общества в формировании технологического будущего.
Нельзя отрицать, что технологии повысили качество жизни и общее благосостояние населения планеты. Но они также породили немало проблем и опасных последствий. Например, многие цифровые платформы концентрируют богатство у все более узкого круга людей, делая положение рабочих нестабильным и уязвимым; новые способы добычи природного газа наносят ущерб окружающей среде, обогащая владельцев предприятий за счет всех остальных; с инвестициями в капитальное оборудование связывают до 83 % сокращений производственных рабочих мест в США, начиная с 1990 года, с последующим исчезновением целых сообществ{18}.
В последние 30 лет многие из этих внешних эффектов проявлялись медленно. Но в ходе Четвертой промышленной революции изменения ускорятся, и нам придется иметь дело с более разнообразными, сложными и разрушительными последствиями применения технологий. К чему это приведет, можно только предполагать, но многие эксперты всерьез озабочены возможными опасными эффектами. Как говорилось в конце второй главы, отчет о глобальных рисках (Global Risks Report), представленный на Всемирном экономическом форуме в 2017 году, показал, что особое беспокойство у экспертов вызывают биотехнологии, ИИ, геоинжиниринг и Интернет вещей{19}. Отчет о глобальных рисках на 2018 год показывает, что в прошлом году главным риском стали растущие киберугрозы, которым подвергаются все цифровые сущности, включая информационные массивы, инфраструктуру, персональные и идентификационные данные. Так можем ли мы говорить, что технологии Четвертой промышленной революции действительно улучшат мир и нашу жизнь? Стоят ли экономические и прочие преимущества потенциальных человеческих жертв? Сможем ли мы снизить сопутствующие риски? И чего мы на самом деле хотим от этих технологий?
Любая конкретная технология может дать удобства, развлечения, власть, продуктивность или комбинацию этих четырех элементов, но в итоге мы все хотим от технологий того же, чего от здоровой экономики, – улучшения нашей жизни. В первой главе мы отметили, что технологии должны расширять возможности, а не ограничивать их; что будущее должно формироваться людьми и для людей; что ценности должны быть достоинствами, а не недостатками технологий. На первом месте должно быть повышение уровня жизни. Если Четвертая промышленная революция приведет к усилению неравенства, бедности, дискриминации, нестабильности или вреда для окружающей среды; если произойдет маргинализация, порабощение или обесценивание людей, значит, мы пошли не тем путем.
К сожалению, усиливается ощущение, что весь мир идет на поводу у технического прогресса и экономических императивов, упуская из виду самое важное. Известные экономисты, такие как Эрик Бринолфссон (Erik Brynjolfsson) и Эндрю Макафи (Andrew McAfee), популяризовали идею «великого отделения» человеческого труда от продуктивности экономики в результате внедрения технологий{20}, и, по некоторым прогнозам, уже к 2020 году до 40 % рабочих мест перейдет на модель «гигномики», появившуюся благодаря технологиям{21}. Сокращение доли оплаты труда в национальном доходе стран – членов ОЭСР на 80 % связывают с влиянием технологий. Они способствуют усилению неравенства, и общественность все острее воспринимает политику, стимулирующую экономический рост в ущерб социальному единству и благосостоянию общества{22}. Вместо того чтобы спросить себя, чего мы хотим от технологических изменений, мы по-прежнему вынуждены бороться с их опасными последствиями.
Ценностно-ориентированный подход к технологиям поможет нам восстановить баланс и выйти из этого трудного положения. Во-первых, прямо признав политическую природу технологий, мы сможем сформировать требования к ответственному и эффективному управлению. Во-вторых, сделав приоритетом управления общественные ценности, мы сможем контролировать, как используются технологии и кому они несут выгоду. В-третьих, четко определив, где и как ценности становятся частью технологических систем, мы сможем лучше понять их и найти оптимальные стратегии внедрения ценностей в процесс разработки технологий.
Политика технологий
Связи между технологиями и ценностями нелегко сформулировать. Ценности абстрактны и неосязаемы, к тому же они сильно различаются у разных людей и обществ. А технологии распространились повсюду – от языков до космических ракет. При таких масштабах поиск связей становится сложной задачей. К сожалению, в попытках найти простое решение возникли две всем знакомые, но дезориентирующие позиции. Их можно вкратце изложить так:
Точка зрения № 1: технологии предопределяют будущее
Эта точка зрения предполагает, что технологии влияют на общество, мотивируя, направляя и ограничивая нас разными способами, а технический прогресс – это внешняя, почти неодолимая сила, которую нельзя изменить или остановить. Люди, принимающие эту точку зрения, часто говорят о технологиях так, будто они определяют историю и наши ценности, направляя нас к прогрессу или упадку, и считают, что нет смысла пытаться помешать этому.
Точка зрения № 2: технологии нейтральны по отношению к ценностям
Вторая точка зрения отрицает, что сами по себе технологии имеют какое-либо значимое влияние на общество, и характеризует их как нейтральные инструменты. Сторонники этой точки зрения утверждают, что на общество влияют отдельные личности, которые выбирают, как именно использовать инструменты. При этом обсуждение возможностей технологий и их влияния на людей несправедливо переключается на моральные качества исключительно пользователей, а не создателей и распространителей этих технологий.
Этих точек зрения недостаточно, чтобы задать направление Четвертой промышленной революции. Хотя в каждой из них есть зерно правды, обе они достаточно опасны в эпоху, когда технологии показывают динамику, описанную во второй главе, распространяясь все быстрее, предоставляя пользователям все больше власти, окружая нас со всех сторон и проникая в нас.
Сторонники первой точки зрения считают, что технологии находятся вне контроля общества, тогда как вторые снимают с общества ответственность за влияние, оказываемое технологиями. И те и другие упускают из виду, что технологии и общество формируют друг друга. Ядерные технологии – хороший пример, показывающий, как опасно полностью принять любую из этих точек зрения. Это определенно не «просто инструменты», ведь само существование ядерных технологий, позволяющих получать энергию и создающих угрозу ядерного уничтожения, создает огромную напряженность. Недавние обострения геополитических споров напомнили всем о ядерной опасности, а Нобелевскую премию мира в 2017 году присудили Международной кампании за запрещение ядерного оружия (International Campaign to Abolish Nuclear Weapons, ICAN). В то же время ядерные технологии не обязаны определять судьбу человечества, потому что общество способно решать, какие технологии разрабатывать, как это делать, кто при этом имеет право голоса и каким целям все это служит. И действительно, все больше стран решает отказаться от ядерной энергии, о чем свидетельствует обязательство правительства Германии закрыть к 2022 году последнюю ядерную станцию{23}.
Для продвижения по пути прогресса во время Четвертой промышленной революции требуется более вдумчивое и практичное отношение к технологиям, а также возможность подробно обсуждать их цели, риски и неопределенности. Необходима третья точка зрения: «Все технологии имеют политическую природу». О политике здесь говорится в описательном смысле. Мы не подразумеваем, что технологии олицетворяют правительства, связаны с определенной партией или каким-то образом вытекают из «левой» или «правой» идеологии. Мы имеем в виду, что технологии – это решения, продукты и воплощения идей, полученные в результате социальных процессов, поддерживающие и выражающие стремления людей и организаций, содержащие в себе целый ряд допущений, ценностей и принципов, которые, в свою очередь, могут повлиять (и влияют) на власть, структуру и состояние общества.
В итоге технологии связаны со всем, что мы знаем, с тем, как мы принимаем решения и как мы думаем о себе и других. Они связаны с нашей самоидентификацией, с нашим мировоззрением и вероятным будущим. Значение технологий, будь то ядерные разработки, космическая гонка, смартфоны, социальные сети, машины, медицина или инфраструктура, делает их политическими. Даже концепция «развитой» страны опирается на уровень применения технологий и на их экономическое и социальное значение.
Многие ученые и технологи уже признали политические аспекты технологий. Например, Институт инженеров по электротехнике и электронике (Institute of Electrical and Electronics Engineers, IEEE) в своей Глобальной инициативе по этическим соображениям относительно искусственного интеллекта и автономных систем (Global Initiative for Ethical Considerations in Artificial Intelligence and Autonomous Systems) называет ИИ «социотехнической системой»{24}. Необходимость глубоких размышлений о ценности ИИ привела к появлению ряда общественных инициатив, координируемых академическими, правительственными и промышленными экспертами. Наффилдский совет по биоэтике определяет биотехнологии как «сочетание знаний, практик, продуктов и приложений»{25}. В объяснении этого определения указывается, что биотехнологии, как и люди, – это больше, чем сумма физических частей:
Несмотря на большое разнообразие биотехнологий, условия, приводящие к появлению только определенных сочетаний в конкретном социально-историческом контексте, рождают общий ряд проблем. К этим условиям относятся и естественные ограничения, и добровольный выбор (даже если он не всегда осознанный или очевидный). При этом выбор зависит от сложных суждений, включающих ценности, убеждения и ожидания, связанные с технологиями и их применением. То, как совершается этот выбор, как оцениваются, включаются или исключаются разные ценности, убеждения и ожидания, имеет важные этические и политические аспекты, как и сама природа этих соображений.
Любая технология несет в себе отражение ценностей, целей и убеждений ее создателей. И чем мощнее технология, тем важнее понимать то, что в нее заложено.
Чаще всего экономические мотивы диктуют, какие технологии целесообразно развивать, как их реализовывать и применять. Эти мотивы можно распознать по социальным последствиям. Например, недавно обсуждалось, этично ли (и сколько это будет стоить) фильтровать цифровой контент для борьбы с фальшивыми новостями. Это обсуждение непосредственно связано с экономическими императивами технологических компаний, с архитектурой их платформ, с их приемами отслеживания, сегментации и доставки контента группам потребителей. В среде цифровых социальных медиа, как и в традиционной индустрии газет, телевидения и радио, экономическое давление и методы управления продуктами определяют, что и как становится известно миллиардам людей. Открытая природа Интернета позволяет быстро масштабировать технологии социальных медиа, но при этом чрезвычайно усложняет мониторинг сетей в поисках контента, который считается «асоциальным».
Признавая, что технологии олицетворяют определенные социальные установки, интересы и цели, мы получим больше возможностей, чтобы инициировать изменения. Одновременно мы будем обязаны брать на себя ответственность, потому что не сможем ни винить в нежелательных последствиях только технологии, ни игнорировать их влияние на наши решения. Признать это – значит взять на себя три обязанности:
1. Определить ценности, связанные с конкретными технологиями.
2. Понять, как технологии влияют на наш выбор, на принятие решений.
3. Определить наилучшие способы влияния на развитие технологий для всех заинтересованных сторон.
В политических переговорах между представителями общества, технологий и бизнеса именно мы должны определять, какое внимание будет уделено общественным ценностям.
Приоритет общественных ценностей
Поскольку технологии тесно интегрированы в общество, на нас лежит ответственность за определение направления их развития и обязанность объявить приоритет общественных ценностей. Хотя технологии часто воплощают те ценности, которые заложены в их структуру и предназначение, непросто решить, какими должны быть эти ценности. Джон Хэвенс (John Havens) из IEEE сформулировал эту проблему так: «Как машины узна́ют, каковы наши ценности, если мы сами этого не знаем?.. …Мы не сможем улучшить благосостояние человечества, если не уделим время определению наших общих ценностей, чтобы создавать технологии, которые наверняка будут отвечать этим идеалам»{26}.
Разные люди и общества ценят разные вещи, поэтому всегда будут разногласия в социальных и культурных точках зрения на технологии. Тот факт, что разные культуры и типы ценностей ведут к различиям в приоритетах, не должен мешать ценностно-ориентированному подходу к технологиям. Наоборот, чем больше мы об этом думаем, тем лучше поймем, какие приоритеты критически важны для обществ, как технологии повлияют на ценности и как будут их поддерживать. Вполне возможно найти ряд ценностей, общих для большинства культур. В документе «Новое социальное соглашение» (A New Social Covenant) Совет Всемирного экономического форума по глобальной повестке дня по вопросам ценностей в 2012–2014 годах определил «широкий консенсус между представителями различных культур, религий и философий относительно некоторых общечеловеческих стремлений», которые представляют «мощный объединяющий идеал» для «преданных друг другу личностей, уважающих будущие поколения»{27}.
Определение позитивных объединяющих ценностей – лишь первый шаг. Такое соглашение необходимо реализовать на практике. Один из способов это сделать – организовать ответственное и эффективное управление. Обычно организациям сложно угнаться за скоростью и масштабностью технологических изменений. Многие правовые системы плохо подготовлены для управления новыми рисками; мир только начал осознавать реальность широкого ряда беспрецедентных сценариев развития событий, угрожающих всему – от окружающей среды до прав человека. Кроме того, сложно предвидеть, какие внешние последствия будут иметь новые технологии в зависимости от выбранных способов их создания, применения и управления. Риски могут и будут неожиданно возникать на стыках технологических дисциплин. Стратегии управления должны быть достаточно гибкими и адаптивными, чтобы мы могли адекватно реагировать на риски, не блокируя работу организаций.
Совет Всемирного экономического форума по глобальной повестке дня по вопросам ценностей (2012–2014).
Наш призыв таков: после целенаправленных глобальных размышлений мы должны принять важнейшие решения нашего времени. Один из способов помочь этим размышлениям – разработать Новое социальное соглашение.
Многие предыдущие попытки фокусировались на индивидуальных правах, которые, без сомнения, важны. Но мы сконцентрируемся на наших обязанностях по отношению друг к другу, как внутри государств, так и между ними… Когда дело касается ценностей, существует большое культурное разнообразие. Но есть и широкий консенсус – между культурами, религиями и философиями – по некоторым общечеловеческим стремлениям:
• Достоинство человека, независимо от расы, пола, происхождения и убеждений.
• Важность общего блага, превосходящая индивидуальные интересы.
• Необходимость разумного управления и заботы не только о нас самих, но и о наших потомках.
Чтобы привить эти ценности, важны как личные, так и коллективные усилия. Необходимо внедрить эти ценности в общественную жизнь, чтобы преодолеть разрыв между стремлениями и практикой. Обсуждения недостаточно – мы должны принимать решения. Успех зависит от трансформирующего ценностно-ориентированного лидерства во всех областях человеческой деятельности. Мы должны культивировать, поощрять и приветствовать новые модели поведения как на Всемирном экономическом форуме, так и вне его. Необходимо привлекать людей, которые смогут эффективно и продуктивно решать глобальные задачи, людей, которые построят и оставят после себя более справедливый, изобильный и жизнеспособный мир.
Примеры ценностно-ориентированного управления в действии уже существуют. Общий регламент по защите данных (General Data Protection Regulation, GDPR), принятый Евросоюзом, вступит в силу в середине 2018 года. Это постановление изменит правила получения согласия пользователя на обработку персональных данных и потребует предоставления соглашения с понятными условиями. Компании, управляющие данными, должны будут уведомлять пользователей об инцидентах безопасности[3], предоставлять информацию об использовании данных, соблюдать «право на забвение»[4], обеспечивать переносимость данных, при необходимости нанимать специалистов по защите данных и выполнять юридические требования к безопасности данных на этапе проектирования технологий и служб{28}.
Акцент GDPR на обеспечении конфиденциальности на этапе проектирования технологий демонстрирует тщательный подход к практической реализации ценностей: внедрение ценностей в процессы разработки технологий, чтобы их разработка отражала ценности общества, а не только их создателей. Вместо того чтобы пытаться решить проблемы, возникшие из-за принципа невмешательства в технологии и этику, лучше сразу решать вопросы этики, ценностей и социальных последствий на различных этапах технологической разработки. Этим мы окажем важное влияние на то, как технологии интегрируются и поддерживают стремление общества к всеобщему благосостоянию. Блокчейн, Интернет вещей, автономные системы, нейротехнологии и алгоритмы – это примеры технологий, которые создаются специализированными сообществами с узкими интересами, иногда в тех областях, где ценности еще предстоит явно определить.
К сожалению, интегрировать нужные ценности в процессы технологического развития не всегда легко. Это нельзя сделать, просто добавив некий «этический компонент», – для этого может потребоваться принятие новых методологий, формирование организационной культуры и даже изменение рыночного мышления, предполагающего, что двигателем прогресса является экономика. Другая сложность заключается в том, что многие технологии, особенно цифровые, можно использовать разными способами, а риски и потенциальные последствия их применения сложно оценить. Даже если сделать прогноз рисков, не все технологии предусматривают возможность «программирования». Например, неясно, как разрабатывать блокчейн-технологии, чтобы предотвратить их использование преступными организациями или уменьшить их экологический вред из-за чрезмерного потребления энергии. Тем не менее компаниям и организациям следует думать не только о проектировании и внедрении – они должны включаться в социально ответственные процессы с самого начала. На уровне инженерии и разработки продуктов следует учитывать не только экономические стимулы и технические требования к разработке и использованию технологий, но и влияние на общество{29}.
Внедрение ценностей в технологии
Успешно возвести общественные ценности в приоритет невозможно без нисходящего регулирования. Для этого необходимо поднять вопрос о ценностях и дать людям и организациям возможность перейти на новые модели поведения. Кроме того, требуется вдохновение и мотивация от общественных лидеров. Начало может быть положено во многих местах, о чем говорится далее, в разделе, посвященном переломным моментам, но в любом случае, чтобы помочь изменить поведение, повысить уровень осведомленности о широком влиянии технологий и способствовать возведению общественных ценностей в приоритет, можно использовать следующие подходы к технологиям.
Во-первых, критически важно осознавать серьезность и всепроникающее влияние технологий. Технологии вовлечены в каждый аспект человеческой жизни, они помогают нам взаимодействовать друг с другом, поддерживают нашу экономику, влияют на наше здоровье и окружающую среду, позволяют обрабатывать информацию, от которой зависит работа организаций и отдельных людей. В таких сферах, как производство передовых материалов и фармацевтических средств, уже давно сложился ответственный подход к технологиям, и другие технологии, от поисковых и автономных систем до блокчейна, требуют похожего отношения. Если рассматривать не только влияние на уровень смертности, но и совокупное влияние технологий на нашу жизнь, можно по-новому взглянуть на многие технологии, кажущиеся безобидными.
Во-вторых, более четкую перспективу для использования технологий могут дать размышления о персональной или организационной цели. Научные и технологические исследования требуют свободы для выхода за существующие границы, но мы должны также стараться согласовывать новые возможности со стремлением к благосостоянию общества. Например, в знаменитой речи, произнесенной в 1945 году после применения первых атомных бомб, физик Роберт Оппенгеймер сказал, что предназначение ученого – получать знания и делиться ими во благо человечества{30}. Начав с этого, он выступил за создание комиссии по атомной энергии, свободный обмен информацией и прекращение производства бомб, призывая проявлять любознательность, амбициозность и коллективную ответственность.
В-третьих, приоритет ценностей позволяет превратить убеждения в действия. Огромную помощь в этом может оказать укрепление веры в ценности, провозглашенные организацией. Этический кодекс или просто организационная концепция с изложением целенаправленного ценностно-ориентированного подхода к технологиям может способствовать формированию соответствующей культуры в организации или даже в целой профессии или отрасли. В качестве примера можно привести клятву Гиппократа, которая помогает помнить о потенциальном риске исследований, анализа и применения технологий, и может быть одной из причин того, что в индустрии биотехнологий, подверженной влиянию медицинского сектора, наблюдается довольно высокий уровень самоанализа и самоограничения.
Наконец, важно использовать поворотные точки, когда ценности могут стать эффективным средством для формирования технологий и путей их разработки. Опираться на благие намерения и обязательства важно, но граждане и лидеры могут приложить больше усилий для повышения уровня осведомленности в критические моменты разработки технологий. Например, на уроках этики педагоги могут демонстрировать важность рационального принятия решений на примере «проблемы вагонетки»{31}.
Эта этическая головоломка позволяет студентам понять, что сложные для людей решения часто основываются на неосязаемых жизненных принципах, цену которых невозможно точно определить. Если такие решения должны принимать машины, эти неизмеримые критерии необходимо представить в виде кода. Поворотные точки дают лидерам возможность подчеркнуть роль ценностей в формировании технологий.
Стюарт Уоллис (Stewart Wallis), независимый мыслитель, спикер и сторонник Новой экономической системы, Великобритания.
Мир сталкивается с проблемами, которых никогда не было. Впервые за всю историю человечества мы достигли критических пределов планетарной экологии или уже вышли за них. В то же время к 2050 году мы должны создать около 1,5 млрд новых рабочих мест или обеспечить людей другими средствами к существованию в условиях роста населения и еще более быстрых технологических изменений (многие из которых ведут к исчезновению существующих профессий). Более того, при текущих темпах расходования углеродных источников топлива и других редких экологических ресурсов мы сталкиваемся с потенциальным конфликтом между направленностью на создание новых рабочих мест и заботой о благополучии планеты. Добавьте сюда растущую геополитическую напряженность и межконтинентальное движение беженцев и экономических мигрантов, постоянное увеличение глобального неравенства в уровне благосостояния и доходов, положительные и отрицательные последствия Четвертой промышленной революции – и станет очевидно, что все это приведет либо к катастрофическому регрессу, либо к позитивному преображению человеческого прогресса. В любом случае, мы увидим ошеломляющее изменение системы. Есть много потенциальных решений, но воспользуемся ли мы ими и будут ли изменения положительными, в значительной степени зависит от ценностей.
Ценности дают нам четкий пункт назначения – «истинный север» на компасе – и средства, чтобы двигаться к нему. За промышленной революцией в Западной Европе стоял сдвиг ценностей в сторону креативности, доверия и предприимчивости. За отменой рабства и возникновением движения за гражданские права также стояло кардинальное переосмысление ценностей. Аналогично этому сдвиги в ценностях стояли и за двумя крупными изменениями в западной экономике XX века: в середине столетия произошел переход к кейнсианству, а в 1980-е, 1990-е и первое десятилетие XXI века – к тому, что грубо назвали неолиберализмом. Во всех этих случаях сдвиг в ценностях предоставил цели и средства их достижения, так как ценности мотивировали людей к действию. Сдвиги в ценностях сопровождались появлением четкой, позитивной и сильной идеологии, которая, в свою очередь, сопровождалась мощными стимулами к преобразованиям. И лишь последующие изменения в нормах и законах привели к более масштабному сдвигу ценностей человечества в целом.
Учитывая беспрецедентную скорость технологических и социальных изменений во время Четвертой промышленной революции, нельзя надеяться, что желаемый исход можно получить исключительно с помощью государственного законодательства и экономических стимулов. К тому времени, когда законодательство вступает в силу, оно часто уже устаревает, становится оторванным от реальности или излишним. Единственный способ гарантировать положительные результаты – дальнейшая революция ценностей.
Признать, что технологии оказывают на нас комплексное влияние, просто. Об этом каждый день говорится в заголовках СМИ. Сложнее найти подходящие способы, чтобы повысить уровень осведомленности о ценностях и культивировать навыки контекстного анализа, необходимые на различных этапах технологического развития. На каком же этапе мы можем внедрить в процесс технологического развития определенные ценности, такие как эффективность и эстетические соображения, и сопоставить их с более широкими общественными ценностями, такими как человеческое достоинство и общее благо?
Начинать следует со следующих девяти поворотных точек. Лидеры – проектировщики, предприниматели, законодатели и общественные деятели – могут совершать изменения в этих точках, используя их для критического анализа ценностей, инициируя обсуждение более широкого контекста применения технологий и предпринимая соответствующие действия.
Образовательные программы
Внимания требуют не только технологии. Людям тоже нужно ответственное развитие. В последние годы некоторые академические аккредитующие органы сделали этику обязательным курсом для инженеров{32}. Однако в этих образовательных программах чаще всего рассматриваются вопросы профессионального поведения, говорится о необходимости следовать нормам и подчеркивается, что несоблюдение правил и требований может приводить к человеческим жертвам. В ответ на громкие случаи мошенничества в программы MBA тоже стали включать курсы по этике наряду с вопросами корпоративной социальной ответственности и экологического просвещения. Оба типа образовательных программ могут выиграть от более открытых дискуссий о связи ценностей с технологиями, обществом и экономической системой. Если педагоги будут развивать в студентах осознанность, это поможет инженерам и менеджерам оказывать влияние на остальных, принимая более широкую точку зрения на решение проблем, размышляя о целях и сопоставляя их с текущими условиями.
Финансирование и инвестиции
Когда вопрос касается стыковки ценностно-ориентированного подхода с технологическим развитием, первыми в дело вступают предприниматели и инвесторы. Предприниматели ищут решения проблем, возникающих у групп людей с похожими нуждами или желаниями, но обязательно затрагивающих более широкий круг лиц. Логично предположить, что размышления о более глобальных социальных последствиях на этом этапе будут иметь значительные каскадные эффекты. Инвесторы, с другой стороны, имеют средства, чтобы определять направление развития технологий. Независимые финансисты могут серьезно повлиять на привлечение внимания к вопросам о социальных последствиях и предложить ценностно-ориентированные обоснования для инвестиций. Если эти люди найдут способы позитивно влиять на предпринимателей и стимулировать их, чтобы те приняли ценностно-ориентированный подход к разработкам, эффект может быть очень существенным.
Организационная культура
Ценности предпринимателей и лидеров организаций оказывают огромное влияние на работников и развитие технологий. Руководители могут трансформировать культуру компании и отдать приоритет общественным ценностям. Стартапы особенно эффективны в установке ценностей, потому что первые сотрудники обычно подбираются по общим интересам или целям. Один из примеров эффективного лидерства – FIFCO, компания – производитель алкогольных напитков из Коста-Рики. Ценности руководителя привели к тому, что эта компания стала пропагандировать строгое ограничение употребления алкоголя и стремиться, чтобы ни один ее сотрудник не жил в бедности{33}. Руководители организаций могут оказывать большое влияние в этой поворотной точке, устанавливая правила и подавая примеры, помогающие создавать целеустремленные и социально ответственные организации.
Принятие решений и расстановка приоритетов
В начале любого институционального процесса, будь то выделение бюджета, определение программы исследований или выбор рынков, явно или неявно устанавливаются приоритеты, вызывающие эффект домино. Например, процесс принятия решений для инженерных и бизнес-проектов часто включает допущения и стимулы, связанные с эффективностью, масштабируемостью, прибылью и многим другим. Анализируя эти допущения и стимулы, можно выявить лежащие в их основе ценности и понять, как решения организации или ее отдельных сотрудников, принимаемые в процессе разработки или внедрения, могут повлиять на дальнейшее развитие событий. Независимо от того, какой продукт разрабатывается – приложение для мобильного телефона или секретная военная технология, – разделение процесса принятия решения на составные части помогает выявить его архитектуру ценностей. Руководители могут использовать эту возможность, чтобы еще раз проверить свои цели на соответствие более широким общественным приоритетам.
Операционные методологии
С 1970-х годов социологи указывают на то, что методы и процессы, которые ученые, инженеры и другие специалисты используют для работы, показывают, какие ценности проповедуются на рабочих местах. Эти структурированные ценности, в свою очередь, влияют на результаты научной работы и создаваемые физические продукты{34}. Обсуждение процессов, процедур и протоколов предоставляет еще одну возможность повысить уровень осведомленности о ценностях во время разработки технологий. Кроме того, лидеры организаций могут анализировать, как выполняется применение научных методов на рабочих местах и как ограничения технологических инструментов и продуктов могут влиять на ценности и встраивать эти ценности в методы работы. Тщательное изучение динамики рабочего окружения позволяет руководителям и исполнителям определять, какие ценности и предубеждения внедряются в конечный продукт.
Экономические поощрения
Любая экономическая система создает стимулы, влияющие на общественные ценности и цели. Определение рычагов экономического давления, таких как ответственность акционеров или конкурентоспособность, может заставить нас задуматься о том, для чего используются технологии и согласуются ли они со стимулами и целями. Изучение рычагов экономического давления помогает также выявить области, в которых стимулы поднимают проблему целого класса технологий. Например, текущие экономические стимулы часто препятствуют разработке социально выгодных технологий, таких как роботизированное протезирование, которые не обещают быстрого возврата инвестиций или не имеют больших рынков. Обратив внимание на эти области, мы сможем сфокусироваться на вопросе о том, чего мы действительно хотим от технологий, и формировать поведение, способствующее получению желаемых результатов.
Проектирование продуктов
Почти каждый аспект проектирования продукта, от формы до функциональности, связан с ценностями. Проектировщикам приходится учитывать целый ряд соображений, включая ответственность за продукцию, культурные предубеждения и эмоции, к которым должен апеллировать продукт. В качестве примера открытого поощрения проектировщиков к принятию ценностей во внимание можно привести пять принципов робототехники, сформированные Советом по исследованиям в области инженерии и физических наук (Engineering and Physical Sciences Research Council). Три из этих принципов явно говорят о том, что роботы являются продуктами, при проектировании которых должны учитываться интересы человека{35}. Руководители, изобретатели, проектировщики и общественность играют свои роли в цикле разработки продукта, и поднятие вопроса о соответствии технологий и результатов их применения общественным ценностям – хорошая возможность для задания общего курса.
Техническая архитектура
Крупномасштабные технические комплексы, такие как Интернет, военная и транспортная инфраструктуры, позволяющие развертывать другие технологии, сами несут в себе ценности посредством того, как и где они строятся или применяются. Например, технические решения, связанные с архитектурой систем, определяют течение потоков данных, влияют на доступ к Интернету, поднимают вопросы о правах граждан и вносят свой вклад в такие феномены, как цифровая дискриминация{36}. Решения о том, как техническая архитектура влияет на общество, принимаемые на этапе проектирования и конструирования крупных систем, – еще один способ, которым законодатели и промышленные лидеры могут ориентировать развитие на ценности и сохранять социальные приоритеты.
Сопротивление общества
Ценности встраиваются в технологии в процессе переговоров. Новые технологии создаются небольшими группами людей, имеющими определенные интересы и сознательно или неосознанно встраивающими в свои технологии определенные ценности. Когда атрибуты технологий сталкиваются с общественными приоритетами, возникает сопротивление, и разработчикам приходится делать шаг назад. Если технологии вызывают большое возмущение общественности или определенных заинтересованных лиц, изучение спорных вопросов помогает выявить конфликты между ценностями общества и ценностями, включенными в технологии в процессе разработки.
Многие из этих поворотных точек используются недостаточно активно, почти без обсуждения этических и ценностных соображений, имеющих отношение к инвесторам и их потенциалу для формирования ценностно-ориентированных подходов к разработке технологий. Хотя инвесторы могут вступать в игру на самых ранних этапах, к сожалению, именно сопротивление общества часто становится последней поворотной точкой, в которой регулирующим органам приходится обращать внимание на ценности. Само возникновение общественного сопротивления говорит о том, что другие возможности для рассмотрения ценностей и широких последствий разработки технологий были упущены. Не ретроспективное, а предварительное рассмотрение ценностей в каждой поворотной точке позволяет руководителям, законодателям и другим заинтересованным сторонам влиять на технологии, выходя за пределы своих экономических ролей и отстаивая свою гражданскую позицию.
Создать кредо, позволяющее определять четкие ценности и приоритеты, можно разными способами. Такое кредо может быть узконаправленным или иметь самый широкий охват. В качестве примера рассмотрим универсальный этический кодекс, принятый сообществом молодых ученых Всемирного экономического форума.
Предлагаемый этический кодекс имеет общий характер и может применяться к любым дисциплинам. Он продолжает меняться и дополняться, обеспечивая высокие стандарты поведения и предоставляя исследователям свободу для самоконтроля.
1. Стремитесь к поиску истины. Продолжайте исследования, к чему бы они ни вели, оставайтесь непредубежденными в процессе работы и во время подведения итогов, ищите объективного подтверждения.
2. Поддерживайте разнообразие. Стремитесь создать окружение, в котором идеи различных групп выслушиваются и оцениваются на основе эмпирических доказательств.
3. Поддерживайте контакт с общественностью. Установите открытые двусторонние каналы связи, по которым можно вести диалог о науке, последствиях и необходимости исследований для общества.
4. Поддерживайте контакт с теми, кто принимает решения. Своевременно консультируйте и информируйте ответственных руководителей, помогая принимать решения, основанные на фактах, и способствуя положительным общественным изменениям.
5. Будьте наставниками. Делитесь опытом и давайте коллегам возможность расти и в полной мере реализовать свой потенциал.
6. Минимизируйте ущерб. Принимайте все разумные меры предосторожности, чтобы минимизировать известные риски и опасности, связанные с экспериментами и их результатами.
7. Несите ответственность. Отвечайте за свои действия во время исследований.
Продвижение вперед с ориентацией на ценности
Новейшие технологии изменяют не только то, как мы создаем, обмениваем и распространяем ценности, но и то, какой мы в этом видим смысл – смысл, помогающий нам представлять возможное будущее, ради которого стоит жить. Продвижение вперед требует от нас осознания политической природы технологий и рассмотрения последствий нашего выбора в каждой поворотной точке. Для успеха Четвертой промышленной революции лидеры из всех слоев общества должны культивировать ответственное отношение к технологиям и учитывать интересы людей, которых затронут принимаемые решения. Чтобы суметь включить в инновационные экосистемы, производящие технологии, интересы всех групп населения, лидеры должны иметь устойчивые ценности и намерение формировать лучшее будущее.
Создание новых систем, предоставляющих значимые возможности для растущего числа людей и сохраняющих ценность отдельных личностей как членов общества, потребует глубоких размышлений о том, как технологии постепенно выбивают почву у нас из-под ног. Кроме того, принятие ценностно-ориентированного подхода к разработке технологий может стать одним из способов для установления доверия между общественностью, правительством и бизнесом. Глядя вперед, в потенциальное будущее, создаваемое с помощью новых технологий, мы должны сохранить за собой возможность формировать эти технологии. Чтобы увидеть культурное возрождение, мы должны озвучить важность общественных ценностей и изменить баланс между обществом, технологиями и экономикой. Мы должны сделать это вместе, и это необходимо делать сейчас. Принять во внимание точки зрения всех вовлеченных групп и оценить их вклад – первый шаг к созданию процветающего будущего для всех нас.
Через два или три поколения, когда современные развивающиеся технологии достигнут зрелости, наши потомки, оглядываясь назад, либо поблагодарят нас за правильный выбор траекторий развития этих технологий в пользу равенства, человеческого достоинства и общего блага, либо будут сожалеть, что мы подвели их, упустив открывающиеся перед нами возможности.
Распространены две точки зрения на технологии, ни одна из которых не помогает в определении организационной стратегии или в выборе направления для Четвертой промышленной революции:
1. Технологии определяют наше будущее, нам они неподконтрольны.
2. Технологии – обычные инструменты, нейтральные по отношению к ценностям.
Ни одна из этих точек зрения не отражает тот факт, что технологии и общество непрерывно формируют друг друга посредством политических принципов и ценностей, которые они включают в себя.
Мы должны принять более конструктивную точку зрения на технологии, ориентируясь на человеческие интересы. Необходимо признать следующее:
• Все технологии имеют политическую природу. Они являются воплощением общественных тенденций и компромиссов, выраженных посредством развития и реализации этих технологий.
• Технологии и общество взаимно формируют друг друга. Мы являемся продуктом наших технологий в той же степени, в какой они являются создаваемым нами продуктом.
Такой взгляд на технологии напоминает нам, что технологии – это решения и продукты, разрабатываемые через общественные процессы, которые отражают укоренившиеся приоритеты и ценности.
Из такого понимания технологий вытекают три обязанности:
1. Идентификация ценностей, связанных с определенными технологиями.
2. Понимание того, как технологии влияют на принимаемые людьми решения.
3. Определение наилучших путей влияния на технологическое развитие с учетом интересов всех вовлеченных сторон.
В этой главе мы определили девять поворотных точек, предоставляющих возможности для изучения, анализа и влияния на ценности, внедряемые в технологии:
1. Образовательные программы.
2. Финансирование и инвестиции.
3. Организационная культура.
4. Принятие решений и расстановка приоритетов.
5. Операционные методологии.
6. Экономические поощрения.
7. Проектирование продуктов.
8. Техническая архитектура.
9. Сопротивление общества.
Специальная вставкаСтандарты в области прав человека[5]
Технологии Четвертой промышленной революции преобразуют общество и меняют наше будущее.
В результате возникает необходимость более четкого формулирования этических рамок, нормативных стандартов и моделей ценностно-ориентированного управления, помогающих организациям выбирать направления развития и использования в обществе этих мощных инструментов с учетом общечеловеческих интересов, выходящих за пределы географических и политических границ.
Права человека – это жесткая граница ценностей, и международные стандарты и обязательства в области прав человека предоставляют существенную основу для решения этих вопросов.
Всеобщая декларация прав человека (ВДПЧ), принятая в 1948 году и подписанная 192 странами, предлагает универсальный ряд принципов, применимых к любым культурам. Организация Объединенных Наций приняла эту декларацию в то время, когда мир отходил от ужасов холокоста и испытывал всеобщее желание создать новое, более обнадеживающее будущее для человечества. Как отмечал чилиец Эрнан Санта Крус, член редакционного подкомитета, в первую очередь декларация служила выражением глобальных ценностей:
«Я четко осознавал, что участвую в действительно значимом историческом событии, когда достигнут консенсус относительно высшей ценности человеческой личности, ценности, которая возникает не по чьему-то решению, а по самому факту существования».
ВДПЧ устанавливает универсальные стандарты в поддержку усилий государств и организаций по разработке законов и норм относительно широкого ряда вопросов, от криминальной юстиции до защиты окружающей среды, от глобального развития до торговли, от безопасности до миграции. ВДПЧ и ряд юридически обязывающих договоров, разработанных на основе положений ВДПЧ, предоставляют существенную основу, позволяющую частным и международным организациям и государствам отстаивать равенство и справедливость в вопросах, связанных с технологическими инновациями, затрагивающими интересы людей и планеты.
Хотя эти глобальные правовые нормы были приняты государствами для регулирования поведения официальных лиц, они все чаще применяются к частному сектору. Например, международные компании, которые решают вопросы трудового права в глобальных цепочках поставки, или информационные и коммуникационные компании, отстаивающие право на конфиденциальность и свободу слова, пытаются урегулировать эти проблемы с помощью правозащитных механизмов. Аналогично этому стандарты в области прав человека могут помочь нам в решении вопросов, возникающих по мере того, как мы пытаемся найти баланс между уменьшением человеческих страданий и опасностями применения новых научных инструментов.
Четвертая промышленная революция должна основываться на обсуждении широкого ряда вопросов, касающихся общества, в котором мы хотим жить. Сегодня технологии предлагают нам огромный простор для расширения человеческих возможностей, но мы не должны забывать о возможных последствиях применения этих технологий для людей, их повседневной жизни и их прав.
Это больше не прерогатива государств и международных организаций – частный сектор должен занять ведущую позицию. Для начала частным организациям и их акционерам следует пересмотреть свои ценности с учетом ВДПЧ и других стандартов в области прав человека, а затем разработать механизмы, позволяющие оценивать соответствие выбранному курсу.