намеренным искажением реальности – в этом случае его мотивировал и усугубил расизм.
Никакая этическая структура и никакой контроль и надзор не в силах предотвратить все намеренные правонарушения. И все системы поддержки этики, включая столпы, полагаются на добросовестность и приверженность истине. Эта история показывает, как важно разграничивать трудности, возникающие у благонамеренных людей в сложных с точки зрения этики ситуациях, будь то корпорации, совершенствующие прозрачность, как 23andMe, или мы сами, когда имеем дело с инновациями, – и обычную нечестность. Столпы показывают нам действительность. Они не обязаны создавать для нас реальность, которая нам бы нравилась или была бы удобна для нас. Выборочный отказ от столпов или, что еще хуже, ложь о них, как в данном случае, превращает инструмент этики в оружие для поддержки неэтичных целей, таких как отвратительные расистские идеологии, – это дальнейшее развитие мутации, которая угрожает столпам.
Удостоенная наград книга журналиста Та-Нехаси Коутса «Между миром и мной» (Between the World and Me) была написана как письмо сыну-подростку, в ней описываются реалии и эмоции, связанные с жизнью черного человека в США. В одном из самых трогательных фрагментов автор описывает печальную встречу с матерью одного из его друзей по Говардскому университету: друг погиб от выстрела полицейского. Коутс рассуждает: «Большую часть нашей встречи я пытался отделить то, что она чувствовала, от того, что она должна была чувствовать, согласно моим впечатлениям»[422].
Это проницательное наблюдение поражает, потому что Коутс интуитивно уловил очень человеческую реакцию, которую испытывают многие из нас, – реакцию, подрывающую принятие этических решений. Подобно Коутсу, мы можем думать, что слушаем, но на самом деле мы часто строим предположения о том, что люди «должны чувствовать». В основном мы слышим то, что ожидаем или даже хотим услышать, а не то, что на самом деле говорит нам другой человек. На самом деле мы слушаем сами себя – это идеально описывает эффект эхо-камеры и эффект бункера, которые вызывают такое сильное заражение неэтичным поведением.
Что еще хуже, мы угадываем или воображаем, что думают или чувствуют другие люди. Эта проблема часто всплывает в моей работе, на консультациях, когда клиенты задают мне вопросы вроде «Что, по вашему мнению, этот человек думает об Х?» или «Что, по вашему мнению, почувствует этот человек, если я сделаю Y?». Они готовы очертя голову действовать в соответствии со своими – или моими – догадками, вместо того чтобы выяснить, что происходит на самом деле, и реагировать на конкретную ситуацию. С друзьями и родными это тоже случается. Как правило, я не играю в угадайку о том, что думают или чувствуют люди. Я помогаю клиентам выстраивать разговоры и структурировать контроль за этическими нормами, чтобы получить необходимую им информацию о том, что люди думают и чувствуют на самом деле.
Неэффективное слушание веками приводило к этической слепоте. Первый шаг к тому, чтобы с ним справиться, – это выяснить, как поставить себя на место кого-то другого. Начните с правильных вопросов. Если мы задаем бинарный вопрос, мы получаем ответ «да» или «нет», это почти ничего не проясняет о том, как человек мыслит. Если мы не спрашиваем, каково ему приходится на своем месте, мы можем упустить из виду собственное предубеждение, неправильное истолкование, страх и чрезмерную самоуверенность, которые мешают нам его услышать.
Затем мы принимаем во внимание заинтересованные стороны. Кого мы должны выслушать? Кто должен выслушать нас? Коутс вел свое повествование в форме монолога – в этой беседе была лишь одна заинтересованная сторона, которая имела значение. Но мы зачастую должны учитывать разные точки зрения, например членов семьи и профессионалов, перед тем как сделать генетический тест. Это как с белыми пятнами в информации: иногда у нас нет возможности определить, кто должен высказаться, или мы просто не можем поговорить с этими людьми, даже если мы знаем, кто они (например, родственники, которые могли умереть после того, как загрузили образец своей ДНК на сайт об изучении родословной).
И наконец, мы должны подтвердить то, что, как нам кажется, мы услышали. Мой коллега по Стэнфорду Скотти Мак-Леннан, бывший декан факультета религии в Стэнфорде, каждый год присоединяется ко мне, чтобы вместе со мной провести несколько занятий в рамках курса «Этика истины в мире постправды». Он просил студентов в многоконфессиональных дискуссионных группах повторять реплики, прозвучавшие от других студентов, до тех пор, пока эти студенты не соглашались с тем, что их услышали и поняли правильно. Возможно, прежде чем разрешить покупку, сайт 23andMe должен потребовать, чтобы пользователь проходил трехминутный опрос (а потом выслушивал трехминутное объяснение допущенных ошибок и правильных ответов), чтобы убедиться, что покупатель понимает основные риски.
Слушание важно само по себе, но оно также работает в тандеме с информированным согласием и прозрачностью. Сайты для тестирования ДНК весьма способствуют тому, что слушание становится неэффективным, убирая этот элемент из процесса получения информированного согласия, ведь у них нет посредника (врача или генетика-консультанта), которого можно было бы выслушать. Разговор становится совершенно односторонним, и главным каналом информации является интернет. Мы должны задаться вопросом, будет ли это этично, если вы узнаете из интернета, что вы не биологический сын своего родителя или что у вас есть генетическая предрасположенность к неизлечимой болезни. Это негуманно. Однако миллионы людей согласились получать информацию, которая изменит их жизнь именно таким способом. Возвращение слушания (путем повторного внедрения посредника, например медработника) – вот что предлагает нам 23andMe, если мы получим информацию, с которой нам понадобится помощь[423]. Я бы добавила, что им следует сделать доступной для клиента консультацию живого специалиста, например по телефону, или по крайней мере предлагать пообщаться с представителем компании, как сделали в Airbnb, создав горячую линию для соседей, где можно поговорить с живым человеком.
Давайте рассмотрим пример золотого стандарта слушания. Эксперты по медицинской этике демонстрируют, почему необходимо, чтобы компании и регулирующие органы признавали важность предоставления потребителям возможности консультироваться с человеком, а не только с источником в интернете или с кем-то, кого рекомендуют наши цифровые помощники.
В медицинской сфере одна из обязанностей врача – определить, способен ли пациент дать информированное согласие. В здравом ли он рассудке? Убедились ли мы, что его никто не принуждает? Здесь все дело в нюансах. Например, профессор Дэвид Магнус, руководитель Стэнфордского центра биомедицинской этики, выяснил, что пациенты и врачи зачастую расходятся в понимании того, что означает термин «излечимый», когда речь идет о серьезном заболевании[424]. Когда врач говорит: «Эта болезнь излечима» или «У нас есть лекарство для вашего близкого», пациенты и члены их семей часто уверены, что им сообщают обнадеживающие новости, дают хороший прогноз. Но врачи могут просто иметь в виду, что «лекарство от этого есть», а не обещают, что оно продлит пациенту жизнь или что это хотя бы целесообразно.
Профессор Магнус и его коллеги с состраданием проделывают блестящую работу, выслушивая пациентов, чтобы как можно лучше определить, способны ли те давать согласие. Их методы могут быть очень практичными, например, можно попросить пациента рассказать о чем-то, не связанном с конкретной медицинской процедурой, чтобы оценить его осведомленность о контексте принимаемого решения. Врач может поговорить о том, как у пациента прошел день, обсудить что-то из новостей – затронуть темы, не имеющие отношения к согласию, – уточнить нюансы психического состояния пациента.
Слушание – это зона ответственности каждого из нас в отдельности и одновременно зона общей ответственности. Каждый из нас может удвоить свои усилия и также сделать так, чтобы другие услышали то, что мы говорим. Мы можем коллективно подтвердить важность слушания человека человеком, даже среди миллионов цифровых слушателей, таких как Alexa. Тщательная оценка воздействия рушащихся столпов и нашей ответственности за их поддержку возвращает нас к нашей этической схеме.
Итак, когда мы делаем выбор, как схема для принятия этичных решений помогает нам уделять достаточно внимания рушащимся столпам?
Прежде чем вы начнете пользоваться этой структурой, убедитесь, что ваш вопрос не бинарный. Когда и при каких обстоятельствах вам следует использовать продукцию для генетического тестирования, предназначенную непосредственно для потребителя? Не позволяйте компаниям превращать ваш длинный список потенциальных вариантов действий в автоматический бинарный выбор между «всё» (предоставить всю возможную информацию о своей ДНК) и «ничего» (даже не покупать такой набор). У вас есть альтернативы. Вы также можете решить не соглашаться предоставлять свои генетические данные для исследований. Или же, возможно, вы хотите получить информацию только по определенному кругу заболеваний и ничего не желаете знать о своих предках. Или вы действительно можете выбрать одну из крайностей. Но все вопросы, которые вы себе задаете, должны давать вам разные варианты, и затем этическая схема покажет вам возможности и риски каждого из них.
Теперь перейдем к четырехступенчатой схеме. Начиная с принципов, следующий ключевой вопрос, который затрагивают рушащиеся столпы, звучит так: как ваши принципы направляют вас, когда вы знаете, что можете давать согласие на серьезные последствия для других людей и/или серьезные непредсказуемые последствия в будущем. Мы также должны учитывать то, как мы привлекаем отдельных лиц и компании к ответственности за их принципы, зная, что столпы рушатся – будь то из-за состояния науки, рассредоточенной власти, допускающей неправильное использование продукции, или преднамеренных неправомерных действий.