уже объединяется с корпорациями. Например, в 2020 году NASA в партнерстве с компанией SpaceX отправили своих астронавтов на Международную космическую станцию на Crew Dragon, первом космическом корабле, построенном частной фирмой[226]. Каждый случай индивидуален, но государственно-частное партнерство может дать всем больше возможностей и перспектив[227].
Давайте на минутку остановимся и подчеркнем один основополагающий момент: мы не можем допустить монополизации этики. Риски монополизации таких услуг, как онлайн-поиск или социальные сети, и все большая вовлеченность корпораций в такие сферы, которые ранее контролировали общественные организации, бледнеют в сравнении с рисками, которые грозят обществу и человечеству в случае монополизации этики.
К несчастью, современные технологии распространяют опасную убежденность в том, что закон и этика не обязательны. Такие сферы, как космос, национальная оборона и обращение с валютой, которые раньше были общественными услугами, не должны подпадать под контроль нескольких крупных корпораций. На этой скользкой дорожке нам надлежит быть внимательными. Тщательно контролируемые контракты, регулирующие конкретные действия в рамках взаимодействия корпораций и правительств ради исследований, предоставления продуктов и услуг, полезны и необходимы для развития общества. Совсем другое дело – позволять корпорации выступать посредником между гражданами и доступом к общественным благам (будь то космос или цифровая валюта) или же позволять корпорациям контролировать национальную политику в области обороны, здравоохранения, окружающей среды и так далее. А самое главное, хотя в определенных сферах корпорации порой и монополизируют власть, мы не можем позволять им или мошенникам, которым они могут передать рассредоточенную власть, определять этику общества.
Ответственность за то, что рассредоточенная власть оказывает влияние на наш личный выбор, ложится главным образом на нас самих. Один из важных примеров можно найти в медицинской сфере. Отправной точкой и опорой должны быть принципы.
Самая сложная и актуальная проблема с принципами на передовой заключается в том, что они с большей долей вероятности будут противоречить друг другу. Бинарное решение, вроде преодоления расизма, обычно позволяет применить разом все наши принципы – например, безопасность, порядочность, сострадательность и уважение, все они противопоставлены расизму. Что до небинарных проблем, когда у любой стороны и у любого решения есть свои преимущества и недостатки, от нас может потребоваться взвесить все принципы и расставить приоритеты – и возможно, где-то даже поступиться ими. Например, метод лечения, эффективность которого не доказана, таит в себе риски – но при этом способен исцелить или улучшить самочувствие. Так о чем нам задуматься прежде всего – о безопасности или о сострадании?
Хотя никто не может быть подготовлен к тому, как мы будем чувствовать себя, когда сами столкнемся с угрожающим жизни заболеванием или состоянием, понимание того, как могут противоречить друг другу принципы, может помочь обосновать наш ход мысли. Я участвую в работе двух комитетов по этике, в Американском госпитале в Париже и в Исследовательском центре Института Пастера в Париже, и встречаюсь с родителями, врачами, медсестрами, учеными и другими заинтересованными сторонами, которые сталкиваются с душераздирающими этическими дилеммами в ситуациях с широким кругом генетических проблем. Такие технологии, как CRISPR, только делают эти медицинские этические дилеммы, связанные с противоречием принципов, более распространенными. Возможно, ясное представление о собственных принципах – в идеале составленное еще до того, как вам придется делать жизненно важный выбор или высказывать свое мнение, – поможет вам обосновать свою позицию, когда придется неожиданно принимать сложное решение. А кроме того, благодаря такому представлению вы сумеете остаться верным себе, поскольку ваше решение, принятое с учетом этики, будет подобно многим другим, какие вы принимали прежде.
Среди вопросов, которые встают перед пациентами в этих учреждениях, есть и такие: будут ли родители изменять эмбрион будущего ребенка, чтобы устранить предрасположенность к смертельному заболеванию, передающемуся по наследству, например болезни Гентингтона, или нарушение слуха. И если вернуться к тому, что беспокоило доктора Конклина: должны ли мы позволять честолюбивым родителям влиять на гены, которые связаны с интеллектом, музыкальными и спортивными способностями? Обдумывая эти небинарные решения, спросите себя: когда и при каких обстоятельствах я бы стал использовать эту технологию? Когда и при каких обстоятельствах я бы счел приемлемым для общества разрешить такое вмешательство? Только вы можете решить, какой ответ будет лучшим в вашей ситуации или в отношении ваших взглядов на общество. Однако то, как вы применяете свои принципы, особенно то, как вы расставляете приоритеты и разрешаете любые противоречия между ними, не только определит вашу личность и последствия для вас, но и будет иметь серьезные последствия для других.
Второй шаг, согласно нашей структуре, – убедиться, что ваша оценка информации, заинтересованных лиц и последствий учитывает характеристики рассредоточенной власти – и невыявленные, и доступные, и во многом неподвластные регулированию.
Включили ли вы трудности не только со сбором информации, необходимой для принятия обоснованного этического решения, но и с предсказанием всех фактических и потенциальных заинтересованных сторон? Представьте, что вы должны принять решение о здоровье вашего ребенка или голосуете за или против закона, который предлагал бы ограничения при редактировании генов у многих детей. То, чего вы не можете знать, будет так же важно, как и то, что вы знаете.
Но как нам распределить ответственность между этими заинтересованными сторонами и как вернуть их обратно к этике? В случае с Коди Уилсоном заинтересованные стороны включают: производителей самодельного оружия, людей, на которых оказало влияние использование технологии 3D-печати, «темный веб», социальные сети и сайты для обмена информацией, где распространяется эта власть; законы, законодателей и регулирующие органы, а также общественность. Иногда мы можем привлечь заинтересованные стороны к ответственности (регулирующие органы и законодатели), а иногда нам это не удается (тайные злоумышленники, распечатывающие штурмовые винтовки у себя в гостиной). Иногда желание показать свою власть делает таких людей более заметными, и их легче призвать к ответу (доктор Хэ жаждал признания в научных кругах, Коди Уилсон выступал за свободу слова). Распределение ответственности касается не только злоумышленников. Самые благонамеренные эксперты, политики и отдельные лица, стоящие перед личной дилеммой, могут способствовать рассредоточению власти практически в отрыве от этики, потому что мы порой не способны видеть то, как одно решение повлияет на многих.
Когда мы не в силах определить заинтересованных лиц, предсказать последствия становится чрезвычайно сложно, если не невозможно. Люди будут гибнуть от выстрелов. Гены будут редактировать[228]. Но размах, уровень и возможные последствия по прошествии некоторого времени предвидеть сложнее. Мы знаем, что 3D-печать станет менее дорогой и более доступной, что увеличит объем производства оружия и случайный характер его воздействия. Мы знаем, что манипуляции с геномом эмбриона затрагивают зародышевую линию человека, но мы не знаем, каковы будут побочные эффекты этого влияния для следующего поколения и последующих поколений или какое воздействие это окажет на компании, законы, правительства и человека как вид.
Распределение ответственности в условиях рассредоточения власти также требует того, чтобы в учет принимали и рассредоточение неравенства. Кажется, это противоречит интуитивному пониманию ситуации, но законодатели обращаются к этике, поскольку и они понимают, что постановления и распоряжения не могут угнаться за рассредоточенной властью. То, что законодатели обращаются к этическим нормам, я считаю обнадеживающей и необходимой ступенькой на пути к регулированию – только мы не должны снимать с них ответственность по разработке эффективных нормативов и предписаний и усовершенствованию наших правоприменительных возможностей.
В апреле 2019 года я встретилась с калифорнийским конгрессменом Ро Ханной, который представляет 17-й округ конгресса, сердце Кремниевой долины[229]. Ханна стремится демократизировать преимущества технологической мощи Кремниевой долины, поэтому я хотела понять его приоритеты и подход. Он считает, что «Илоном Маском способен быть любой» – любой может что-то изобрести и сколотить большое состояние. Ханна утверждает, что мы не можем, не нарушая этики, построить общество, исключающее пожилых людей или тех, кто страдает от экономического неравенства.
Ханна пытается рассредоточить власть вкупе с большим равноправием. Он хочет распространять цифровую грамотность и блага новых технологий. Для этого у него разработан комплексный подход, который включает «Билль о правах в интернете», предоставляющий пользователям больше контроля за собственными личными данными, и кампанию по созданию рабочих мест и возможностей в тех областях, которые обошел стороной технический бум, например в Кентукки и Западной Виргинии. Он также выступает за то, чтобы Кремниевая долина решала больше вопросов, чем просто «[налоговая] репатриация, шифрование и патентные тролли»[230]. Ханна называет нынешнюю узкую направленность Кремниевой долины «убогой концепцией развития для места, которое в буквальном смысле верит в то, что хочет изменить человеческую цивилизацию».
Его работа – один из многочисленных примеров, иллюстрирующих, как правительство старается действовать этично там, где это не прописано в рамках закона. Я вижу, как это работает, когда выступаю как член правления Центра этики и инноваций данных в Великобритании