[322]; двумя годами позже она уступила следующему претенденту, за которого проголосовали на 150 человек больше. В 2016 году Дэвид Эдкинс сумел удержаться на своем посту в палате представителей Нью-Мексико с перевесом всего лишь в 9 голосов[323]. В 2000 году, после того как Верховный суд США вмешался в вызвавший много споров пересчет голосов во Флориде, кандидат в президенты от республиканцев Джордж Буш – младший победил кандидата от Демократической партии Альберта Гора, опередив его всего на 537 голосов, что дало ему достаточно голосов коллегии выборщиков для победы[324]. А в 1981 году мэром Берлингтона, штат Вермонт, стал случайный человек по имени Берни Сандерс, никогда не занимавший в городе никаких постов, он обошел действующего мэра на десять голосов[325].
На результат влияет каждый голос. Тем не менее, согласно данным переписи населения, в 2018 году явка избирателей в США составляла примерно 53 %[326]. Для сравнения: явка избирателей в Швеции в 2018 году равнялась приблизительно 87 %[327]. Согласно опросам избирателей, покидающих участок для голосования, в Великобритании на референдум о выходе страны из Европейского союза пришло меньше молодых людей, чем представителей старшего поколения, хотя это решение затронет молодых в большей степени[328].
То, что представляет собой каждый из нас в отдельности, в сумме при голосовании определяет то, какая мы нация. Уделите время тому, чтобы оценить свое решение согласно этической схеме. Роберт Каро напоминает нам: «Изучите конкретные выборы достаточно глубоко – изучите не только платформы кандидатов, их философию и обещания, но и те выгоды, которых они позволили достичь, изучите их во всей их бесчеловечности – сосредоточьтесь на всех этих элементах достаточно глубоко, и вы обнаружите универсальные истины о предвыборных кампаниях в демократической стране и о природе силы, которая формирует нашу жизнь»[329].
Если бы среди нас было больше людей, которые воспринимают право выбора как священную честь и обязанность, просто представьте себе, какого повышения этических стандартов мы бы смогли потребовать от наших лидеров. Представьте себе благотворные последствия, которые проявились бы по всему миру. Представьте, что наши этичные представления, поступки и решения могли бы даже стать заразительными.
Глава 4Рушащиеся столпы
Недавно я была в гостях у подруги в ее лондонской квартире. Готовя ужин, она показала мне стоящий на столе новый девайс, колонку-цилиндр, а потом спросила: «Алекса, какая погода будет завтра в Лондоне?» Колонка ожила и ответила, что будет дождь. У моей подруги была умная колонка Amazon Echo с персональным помощником Alexa с голосовым управлением, но это могла быть любая из умных колонок, которые есть в миллионах домов по всему миру[330].
В 2014 году, когда впервые запустили голосовой помощник Alexa[331], я отнеслась к этому скептически. Я и без того легко проверяла, какая будет погода, и слушала музыку на своем телефоне. Но что еще важнее, мне не нравилась сама идея того, что Alexa будет меня «подслушивать».
К счастью, все время обеда колонка моей подруги молчала, и я почти забыла о ней. Но иногда я спрашивала себя, выключена она или слушает, или, может быть, слушает и в то же время записывает.
По дороге домой, копаясь в сумочке, я случайно включила на своем iPhone помощника Siri и услышала, как электронный голос спросил: «Чем я могу вам помочь?» Отключив Siri, я начала раздумывать, как повсеместное распространение голосовых помощников влияет на детей. Разрешила бы я своим (теперь уже взрослым) детям обращаться за советом к Сири или Алексе или даже отдавать распоряжения ей? Какие у этого могут быть последствия для психического здоровья и поведения? Рискуем ли мы вырастить поколение, которое не читает новости, не ищет информацию с помощью исследований или, что еще хуже, ожидает, что у них под рукой всегда будет цифровой слуга?
Вскоре после визита к подруге Alexa вновь проявилась в моем профессиональном мире. Когда я готовилась к занятию в Стэнфорде, я нашла статью о роли Alexa в деле с двойным убийством[332]. Согласно этой статье, судья в США приказал компании Amazon передать следователям, расследующим дело, записи с устройства Echo, установленного в доме жертв в Нью-Гэмпшире, поскольку имелись веские основания полагать, что там содержатся «улики преступлений». В частности, судья упомянул сервер «и/или записи, которые ведутся для Amazon.com», включающие аудиозаписи, сделанные устройством. Я в общих чертах поняла, что это означает, будто аудиоданные Alexa хранятся на сервере, но я понятия не имела о последствиях, которые несут эти действия для меня или для общества.
Я прочитала все ответы на часто задаваемые вопросы на сайте компании Amazon, где говорилось, что Alexa реагирует на специальные «пробуждающие» слова: «Алекса», «Амазон», «компьютер» или «эхо». Услышав эти слова, она включается, и «запись того, о чем вы спросили Alexa, посылается в облачное хранилище Amazon», где и обрабатывается запрос. Это меня тоже не слишком устроило, и я не отступила. Вот что я нашла дальше: «Аудиозапись не сохраняется и не отправляется в облачное хранилище, пока устройство не услышит “пробуждающего слова” (Alexa также можно активировать нажатием кнопки)»[333].
Даже после изучения этого вопроса я все еще не вполне отдавала себе отчет, на что я соглашаюсь, приглашая Alexa в свой дом или офис. Я не представляла себе реальных последствий этого шага. Может ли кто-нибудь услышать эти записи? Может ли Amazon продавать эти данные? А разговаривала я не с человеком, способным ответить на любой вопрос, который мне придет в голову; я разговаривала с машиной, способной отвечать лишь на те вопросы, которые были предусмотрены программой.
Распространение технологий на передовой, таких как Alexa и другие домашние голосовые помощники, наряду с тем, что мы с энтузиазмом внедряем их в свои повседневные привычки, способствует катастрофическому краху трех столпов этического принятия решений. Даже когда мы прилагаем усилия, чтобы понять, или просим совета, пытаясь узнать о потенциальных последствиях использования таких технологий, результаты наших усилий не позволяют нам получить такую информацию и нас не защищают.
Долгие столетия все мы примерно одинаково представляли себе, какое поведение в обществе будет воспринято как этичное. Такие представления в основном базировались на общем понимании той реальности, в которой разворачивались наши решения. Эти основополагающие ожидания стали определяться тремя столпами, поддерживающими принятие этических решений: прозрачность (открытый обмен важной информацией); информированное согласие (согласие на действие на основе понимания самого этого действия и его последствий) и эффективное слушание (понимание того, что имеет в виду говорящий).
На передовой эти опоры нужны нам более, чем когда-либо прежде: они помогают нам вновь установить это общее понимание в мире, который становится все сложнее и сложнее. Как вы увидите, эти три столпа определяют наш выбор, помогая нам ответить на следующие вопросы: принимаем ли мы решения на основе единодушного и точного понимания того, что поставлено на карту, – информации, заинтересованных сторон и последствий? Как нам следует распределить этическую ответственность за принятое решение? Эти опоры также связывают нас друг с другом, от отношений врача и пациента, дружбы и романтических отношений до поведения корпораций по отношению к потребителям и взаимодействия правительства со своими гражданами. И даже с нашими машинами они могут связывать нас более этично.
Мы изучим и четвертую силу, оказывающую влияние на этику: то, как и почему рушатся эти столпы и что это означает для этичного принятия решений – и линзой нам послужат наборы для генетического тестирования, продаваемые непосредственно потребителю, например 23andMe. Мы увидим, как эти опоры должны работать и как быть, если наш выбор приведет к тому, что они начнут разрушаться. Среди проблем, которые мы рассмотрим, будут и удивительные случаи, когда благонамеренные потребители, соглашаясь использовать эти наборы для генетического тестирования, могут также невольно дать согласие на то, чтобы подвергнуть опасности и, возможно, причинить вред близким членам семьи, родственникам и другим людям, которых они даже не знают; как развивающиеся в наше время виды потребления и технологии, связанные с этими наборами, еще больше усложняют задачу этих опор; как вступают в борьбу рассредоточенная власть и заражение и как восстановить эффективное слушание.
Итак, три столпа.
Прозрачность – предоставление точной информации, которая может оказать важное влияние на результат наших решений – то есть на последствия, которые проявятся со временем, и на ответственность. Быть прозрачным не означает раскрывать абсолютно все потенциальные риски, но информация должна включать все данные, которые понадобятся разумному человеку, чтобы сделать с учетом обстоятельств правильный выбор. Например, прозрачность обычно хорошо работает с лекарствами, относительно которых определены правила: производители сообщают нам о необходимой дозировке, предупреждают, кому нельзя принимать это лекарство, информируют об опасности сочетания с другими лекарственными средствами и о потенциальных побочных эффектах. Большинству из нас не нужно знать историю разработки формулы или данные о потреблении этого лекарства в других странах. В других случаях ответственность за прозрачность можете нести