Мы также должны приложить усилия, чтобы понять, что роботы могут быть более важны для тех, кто уязвим. Так много людей оказываются в сложных ситуациях, когда человеческая помощь небезопасна или недоступна, возможно, из-за высокой стоимости, местонахождения – в изоляции или зоне конфликта, – нехватки человеческих ресурсов или по другим причинам. Мы можем быть более предупредительными при учете заинтересованных сторон. Поддержите в сфере технологий тех лидеров, которые проливают свет на важность разнообразия данных и точек зрения при создании и регулировании технологий, а не просто для возмещения вреда. Убедитесь, что своими взглядами делятся неспециалисты из самых разных слоев общества, с разными политическими взглядами, разных возрастов, это снижает риск того, что технологии, создающие размытие, будут способствовать неравенству.
Размытые границы также подрывают нашу способность видеть потенциальные последствия, которые проявятся в будущем: размывается видимость. У нас пока нет достаточных данных исследований, нет понимания того, какими могут быть мутации. Например, мы не знаем, какой долгосрочный психологический или экономический эффект будет иметь то, что уход за человеком осуществляют роботы, или то, что дети растут, контактируя с ИИ в социальных сетях и цифровых устройствах. Мы видели, как социальные сети улучшают связи между людьми и дают им право голоса, но мы также видели, что они способны вызывать привыкание и проблемы с психическим здоровьем и могут превращаться в оружие для распространения искаженной правды и даже насилия.
Я призвала бы компании и новаторов, создающих вроде бы дружелюбный ИИ, сделать еще один шаг вперед: почаще встраивать технические перерывы, выключатели. Подумайте, где преимущества их продуктов и услуг могут быть недостаточно полезными для общества, чтобы оправдать дополнительные риски, которые они создают. Всем нам также нужно прилагать больше усилий, чтобы использовать тот контроль, которым мы располагаем. Мы можем настаивать на действительно информированном согласии. Если наш врач использует ИИ для диагностики, нам следует сообщить об этом, в том числе обо всех рисках и преимуществах. (Это легче сказать, чем сделать, поскольку нельзя ожидать, что врачи будут экспертами в области ИИ.) Мы можем ограничить то, что мы говорим роботам и устройствам ИИ, таким как Alexa, или даже вообще отказаться от их использования. Мы можем удвоить наши усилия, показывая детям пример хорошего поведения по отношению к этим технологиям, будь они человекоподобными или нет. И мы можем безотлагательно поддержать политические усилия по расстановке приоритетов и улучшению правового регулирования, образования и исследований.
Недавно взрослым детям из двух разных семей моих знакомых понадобилась пересадка почки. Один из них жил в Европе, другой в США. Семьи не только боялись, выживут ли их близкие, не только смотрели, как те переносят болезненные процедуры в ожидании почки, но и сами прошли через этап мучительного тестирования, чтобы определить, может ли кто-то из родственников быть подходящими донорами.
В обоих случаях пациенты изначально отказались от того, чтобы донором стал родственник. Они не хотели подвергать родных столь рискованной операции, да и вообще не хотели лишать любимого человека почки или опасались, что это навредит их отношениям. Но после сложного, эмоционального периода принятия решения обе семьи согласились на это. В одном из случаев успешным донором оказался отец пациента. В другом случае никто из семьи не подошел, и, когда я пишу эти строки, реципиент все еще ждет донора.
Статистические данные о том, скольким людям необходима пересадка органов, вызывают печаль и душевную боль. В США приблизительно 20 человек умирают в ожидании органа ежедневно, и каждые 10 минут к списку ожидания присоединяется новый человек[502]. По данным Глобальной обсерватории донорства и трансплантации Всемирной организации здравоохранения (ВОЗ), ежегодно в мире происходит 130 000 операций по пересадке органов, что составляет менее 10 процентов от фактической глобальной потребности[503].
Будучи молодым практикующим врачом, профессор генетики из Стэнфорда доктор Хиромицу Накаути был свидетелем того, как многие пациенты с терминальной стадией органной недостаточности умирали, поскольку не могли получить необходимых трансплантатов[504]. Годы спустя он все еще тяжело переживал смерть своих пациентов и решил сосредоточиться на проблеме нехватки органов для пересадки.
Инновационная идея доктора Накаути размывает самые границы человечества. «Если мы сможем выращивать органы для трансплантации у животных, – рассудил он, – мы поможем многим, многим людям»[505].
Возможно, вам знакомо понятие ксенотрансплантата, когда пациенту пересаживают ткани и органы от представителя другого вида, например сердце бабуина[506]. Но межвидовая трансплантация органов может повлечь за собой серьезные риски, включая отторжение иммунной системой и передачу инфекционных заболеваний. Вместо этого Накаути и его команда надеются, используя свиней и овец, создать идеально подходящие человеческие органы для пациентов, что потенциально может спасти сотни тысяч жизней[507].
Например, если пациенту нужна почка, когда-нибудь ученые, возможно, сумеют взять клетки этого пациента и перепрограммировать их в индуцированные плюрипотентные стволовые клетки – это такой тип клеток, которые можно «уговорить» стать клетками почек[508]. Затем ученые введут эти человеческие клетки в эмбрион свиньи, генетически модифицированный таким образом, что свои почки у него не развиваются. Если все пройдет хорошо, внутри животного по мере его взросления разовьется человеческая почка, которая подойдет пациенту генетически. Поскольку свиньи растут быстро, у пациента будет новый орган через «десять месяцев или раньше», а риск отторжения окажется значительно меньше.
В исследовании, результаты которого были опубликованы в журнале Nature в 2017 году, Накаути и его исследовательская команда успешно вырастили поджелудочную железу мыши у крысы и затем трансплантировали ее части страдавшей диабетом мыши[509]. Новый орган излечил мышь от диабета. Опыт также показал, что органы можно выращивать в животных одного вида и пересаживать животным другого вида для исцеления от болезни, не подавляя иммунную систему реципиента. «Десять лет назад, – сказал Накаути, – люди говорили, что мы безумны, если предполагаем, что крысиную поджелудочную железу можно использовать для мыши»[510]. В 2018 году Накаути и его коллега по исследованию доктор Пабло Росс объявили о новых значительных прорывах после того, как им удалось успешно ввести человеческие стволовые клетки в эмбрионы свиньи и овцы[511].
Накаути объясняет, что, в дополнение к их быстрому росту, свиньи удобны тем, что размер их органов схож с размером органов человека, а также они приносят большой приплод, до 15 поросят, что позволяет скорее снабдить органами большее число пациентов. Более того, мы и так довольно близко взаимодействуем со свиньями – разводим их на фермах, едим свинину и используем свиной инсулин при лечении диабета[512]. Еще одна возможность – использовать овец, поскольку они хорошо поддаются экстракорпоральному оплодотворению и их органы также сопоставимы по размеру с органами человека[513].
В июле 2019 года, как сообщалось в журнале Nature, японское правительство впервые дало доктору Накаути и его команде разрешение на «эксперименты с эмбрионами животных и человека»[514]. Его родная Япония, которая недавно сняла запрет на такие эксперименты, разрешила ему как трансплантировать эмбрионы, так и провести полный цикл их развития[515]. Национальные институты здравоохранения США приостановили финансирование данного типа исследований эмбрионов в 2015 году[516]. Но в 2016 году они запросили открытое общественное обсуждение и создали рабочий комитет ученых и экспертов по защите животных для рассмотрения возможности внесения поправок в свою политику[517]. Изменения моратория на финансирование со временем станут важным барометром мнений экспертов об этичности.
Исследования Накаути имеют определяющие для человечества преимущества. Наши этические обязательства состоят в том, чтобы максимально использовать возможности и свести к минимуму вред. У некоторых людей могут возникнуть понятные возражения против использования свиней (по религиозным или иным причинам) или против идеи выращивания человеческих клеток в теле животных (исходя из прав животных или по иным причинам), тут легко почувствовать беспокойство или отвращение. Но если без трансплантации пациент умрет – если он больше не может ждать и не может продлить жизнь с помощью альтернативных методов лечения, таких как диализ, – выбор становится совсем другим. Что бы вы сделали, если бы вы или кто-то, кого вы любите, умирали из-за отсутствия органа для пересадки? Вы бы пожертвовали религиозными принципами или позволили бы любимому умереть? На эти вопросы можете ответить только вы, и первостепенное значение тут имеет уважение свободы выбора, достоинства и свободы вероисповедания.
А в чем заключается ответственность врачей? Я убеждена, что они должны стремиться к прозрачности при общении с пациентами и должны получить от них соответствующее информированное согласие; минимизировать медицинские и иные риски и помочь пациентам оценить ставки при принятии решения, притом что такие ставки ни в коем случае не заурядны и их не обсуждают широко. Все три компонента требуют убедиться в том, что пациент или объект исследования понимает, какие риски преодолимы, а какие нет, а также какие из возможностей имеют решающее значение, а какие нет.