На следующем шаге анализируем этап информации и сразу переходим к пробелам, или разрывам. Каковы разрывы между тем, что вы должны, по-вашему, знать, и той информацией, которую предоставляет компания? Недостающая информация может отсутствовать потому, что ее еще не отыскала наука, либо компания может о чем-то вам не сообщать, либо вы используете продукт с потенциальными рисками в будущем. Как всегда, необходимо учитывать движущие силы заражения, особенно те, которые ослабляют столпы, например страх, давление и рыночную конкуренцию. Во многих случаях вам остается только оценить, сможете ли вы жить как с риском незнания, так и с тем фактом, что прозрачность и осознанное согласие стали на передовой более шаткими, чем в обычных ситуациях. Только вы можете это определить. Наконец, если компания не разъясняет риски четко и внятно, это сигнализирует о том, что вы не должны доверять всему пакету в целом.
Информационный этап, словно зеркало, отражает нашу ответственность в плане информации. Все мы ежедневно получаем так много информации, так много обновлений политики поставщиков товаров и услуг. Выбирайте, чему уделить время, исходя из важности потенциальных последствий вашего согласия. Я признаю, что нажимаю на кнопку «Согласен», не прочитав условия обслуживания и пользовательское соглашение, ради развлечения (Netflix или Spotify) или когда у меня нет выбора (мой iPhone). Но я бы не стала так поступать с набором для генетического тестирования, предназначенным непосредственно для потребителя, или цифровым ассистентом вроде Alexa от Amazon. Я отношу здоровье, безопасность и товары с возможным воздействием на других в категорию «повышенная боевая готовность»: здесь я не даю согласия, пока не смогу уделить вопросу достаточно внимания и времени. С соцсетями я занимаю третью позицию, ставя во главу угла использование, а не информацию: я знаю, что не стану тратить время (если мы не говорим о моих исследованиях) на то, чтобы перечитывать и анализировать все нововведения в их политике. Но то, как я использую соцсети, может оказывать на других постоянное влияние. Поэтому я ограничиваю для себя возможность пользования соцсетями, например никогда не размещаю фотографий и никогда не пересказываю истории других людей.
Переходя к следующему этапу, заинтересованным сторонам, уделите первоочередное внимание вопросу о том, может ли ваш выбор непредсказуемым образом повлиять на людей, которых вы знаете, или затронуть заинтересованные стороны, которые вы не можете определить.
И наконец, составьте список последствий, которые проявятся со временем. Начните с определения самых важных возможностей сотворить добро, которые могут быть утрачены. Затем проверьте, есть ли другие способы сделать это доброе дело. Если какой-то вопрос о вашей ДНК настолько важен, что вы готовы принять все риски использования наборов для тестирования, чтобы узнать ответ, почему бы вам не пойти к профессиональным медработникам еще до того, как сделать такой тест? Даже если вы хотите всего лишь удовлетворить любопытство и не беспокоитесь о диагнозах, почему бы не выполнять за раз по одному делу? Посмотрите, каково вам будет после того, как вы узнаете самый минимум. Потом запросите больше информации. В самом крайнем случае, как предлагает 23andMe, обсудите результаты своего теста с профессиональным медиком, прежде чем начать действовать, исходя из этих результатов. Затем проанализируйте риски.
В любом случае стоит составить план. Кому вы расскажете, если обнаружите информацию о своем здоровье или о своем происхождении, способную повлиять на других? И как бы много это ни отнимало времени, пожалуйста, прочитайте то, что написано мелким шрифтом.
Прежде всего этическая схема подчеркивает жизненно важный вывод: когда информированного согласия, прозрачности и слушания недостаточно, решения, которые мы принимаем на передовой, могут еще больше подорвать наше доверие к институтам и отдельным лицам – и доверие других к нам, когда из-за нашего выбора они подвергаются рискам.
Имея возможность учиться на основании этической схемы, как мы распределяем ответственность за влияние рушащихся столпов? Возможно, нам следует стать более разборчивыми в выборе. Если бы мы получали информацию о ДНК лишь благодаря этим наборам, все могло быть по-другому, но большинство из нас могут посоветоваться с врачами или консультантами-генетиками, обученными и сертифицированными в соответствии с требованиями всех трех столпов. И нам уж точно не обязательно использовать наборы в развлекательных целях или дарить их.
Со своей стороны, компании на передовой также несут значительную ответственность за поддержание классических столпов этики. Когда в 2018 году комитет конгресса спросил основателя Twitter Джека Дорси, понятны ли правила Twitter пользователям, Дорси был на удивление честен: «Я полагаю, что, если бы вы перешли к нашим правилам и сели с чашечкой кофе их почитать, вы бы их не поняли»[425]. Всем компаниям следует начать с того, чтобы, подобно Дорси, предположить, что никто из тех, кто прочитает их пользовательское соглашение, его не поймет. Затем они должны спросить себя, что им нужно сделать, чтобы нести свою долю ответственности за свою продукцию и чтобы предоставить пользователям возможность делать правильный выбор, а регулирующим органам – возможность разрабатывать эффективные законы.
Компании также могут способствовать расширению возможностей выбора для клиентов, как это сделала компания GEDmatch, введя четыре категории согласия, чтобы нам не навязывали такие решения, которые укладываются в бинарные опции. Они должны взять на себя обязательство не продавать и не передавать наши данные иным образом без дополнительного согласия. Они должны убедиться, что их технологии и процессы соблюдают границы предоставленного согласия. И они должны подчеркивать и сообщать потребителям о потенциальном использовании их данных правоохранительными органами, исследователями-медиками, страховыми компаниями или другими организациями и лицами, а также информировать, можно ли будет повторно идентифицировать анонимные данные с помощью развивающихся технологий.
Новаторы могут сообщать нам, когда они втайне сохраняют определенную информацию, способную повлиять на наш выбор. Например, если они не желают обнародовать, как именно их алгоритм принимает решения относительно наших данных (так бывает часто, чтобы защитить интеллектуальную собственность, и это понятно), они должны по крайней мере уведомить нас, что не скажут нам, как работает алгоритм, чтобы защитить интеллектуальную собственность. Иными словами: будьте прозрачны, не скрывайте, что именно вы нам не говорите и почему. Помогите нам сделать правильный выбор.
Для таких инноваций, как 23andMe, которые предназначены для обычных граждан и оказывают значительное влияние на широкие массы, регулирующие органы должны применять к прозрачности подход «оповещения в полный голос», подобно тому, как на сигаретных пачках в США должны быть напечатаны крупным шрифтом и размещены на видном месте предупреждения вроде «Курение может убить вас»[426]. Кроме того, регулирующие органы должны контролировать сайты и выявлять заявления, которые могут ввести в заблуждение, как это делается с рекламой. Даже если продукция не будет смертельно опасной, когда риски неизвестных способов использования и последствия значительны и широкомасштабны, стандарты предоставления информации потребителям, дающим согласие, и стандарты прозрачности для общественности требуют привлечения внимания и четкого информирования. Стандарты должны выходить за рамки стандартной клеточки «отметьте, чтобы согласиться».
На передовой мы больше не можем полагаться на три фундаментальных столпа – информированное согласие, прозрачность и эффективное слушание. Легко также не выполнить своих обязательств по их адекватному использованию. Как напоминают нам истории, которые мы рассмотрели в этой главе, такое, казалось бы, незначительное действие, как взятие мазка со внутренней стороны щеки и отправка его для ДНК-анализа, может удовлетворить наше любопытство в отношении личных качеств и происхождения, может даже предоставить ценную информацию о здоровье. Но это также может иметь серьезные последствия, которые ни мы, ни компании, занимающиеся генетическим тестированием, ни эксперты не способны предсказать или даже вообразить.
Информированное согласие, прозрачность и эффективное слушание еще больше скомпрометированы тем, что границы между людьми, машинами и животными размываются. Наш подход к этим дилеммам определит будущее человечества.
Глава 5Размытые границы
Представьте себе машину с телом робота, но при этом с приятным человеческим лицом. Вы вдвоем могли бы проводить время, рассуждая о величайших экзистенциальных вопросах человечества: о Боге, о жизни после смерти, о природе сознания, – или просто болтая о новостях дня и о погоде. Поскольку машина также может читать выражение вашего лица и реагировать на него, вы замечаете, как она улыбается вам в ответ и смеется над вашими шутками, а это, в свою очередь, влияет на то, как вы общаетесь с ней.
Этого компанейского человекоподобного робота зовут София (Sophia), и она может делать все это и многое другое[427]. С момента своего первого появления в марте 2016 года на фестивале South by Southwest в Остине, штат Техас, София путешествовала (в чемодане, который носят люди[428]), выступала и участвовала в церемониях по всему миру. Программа развития ООН (ПРООН) назвала Софию первым лидером инноваций, не являющимся человеком, в Азии и Тихоокеанском регионе[429], а Китай назначил ее послом инновационных технологий проекта «Один пояс и один путь»