Давайте проанализируем два очень разных примера устойчивости и восстановления: первая ситуация – с компанией Microsoft, а вторая – с канадским премьер-министром Джастином Трюдо.
В 2016 году компания Microsoft в рамках социального эксперимента запустила в сети Twitter разговорный ИИ-бот под названием Тэй (Tay, @TayandYou – это акроним фразы «Думая о вас», Thinking About You): чем больше люди будут общаться с Тэй, тем интеллектуальнее будет его обучение и тем более естественной будет его речь. Не прошло и 16 часов, как Тэй стал размещать тысячи расистских, сексистских и антисемитских комментариев, поскольку злонамеренные пользователи Twitter научили его им подражать. Microsoft немедленно удалила все сообщения, чтобы остановить распространение этой вредной волны, отключила Тэй и извинилась за «непреднамеренные оскорбительные и обидные твиты… которые не отражают того, кто мы такие, что мы поддерживаем и как мы разрабатывали Тэй»[693]. Далее представители компании признали, что они не ожидали атак именно такого типа, спровоцировавших реакции Тэй, но им следовало их предугадать. Они рассказали, чему научилась в этой ситуации компания Microsoft и как она будет использовать эти уроки, признавая сложность управления положительными и отрицательными сторонами систем ИИ[694]. Вот четкий пример устойчивости и восстановления: говорите правду, берите на себя ответственность и составьте план исправления недостатков. История с Тэй также демонстрирует, как все наши мелкие решения – даже наши твиты – могут в совокупности сдвинуть стрелку этики в неправильном направлении.
В 2001 году 29-летний Джастин Трюдо посетил костюмированную вечеринку «Арабские сказки» («Тысяча и одна ночь») в частной школе, где он тогда преподавал[695]. В 2019 году, когда Трюдо был уже премьер-министром Канады, в разгар предвыборной кампании, в которой его кандидатуру выдвинули на новый срок, всплыла фотография с этой вечеринки: Трюдо в белом тюрбане и с коричневым гримом на лице, что имитирует внешность темнокожих людей. Это поставило его в неловкое положение. Трюдо немедленно созвал пресс-конференцию и заявил: «Мне не следовало так поступать. Мне следовало подумать об этом как следует, но я этого не сделал, и мне искренне жаль»[696]. Он также признал, что в старших классах один раз наложил на лицо темный грим и исполнил на школьном конкурсе песню Day-O[697]. «Тогда я не считал, что это расистский поступок, но теперь мы смотрим на вещи по-другому. Это было недопустимо, и, несомненно, это проявление расизма», – сказал Трюдо, пресекая любую возможность распространения заражения для тех, кто мог бы подумать, что им подобное поведение сойдет с рук: нет, это проявление расизма, и мы все знаем, что и тогда, и сейчас это неправильно. В конце концов Трюдо избрали на второй срок. Мы не знаем, сыграла ли в этом успехе свою роль эта поправка, но нам точно известно, что это был важный момент его кампании.
Помимо серьезных этических промахов, любой из нас способен допустить ошибку в суждении. С кем из нас не случалось такого, что иногда не хватало мужества быть честным? Кто не отправлял подстрекательское или конфиденциальное электронное письмо не тому получателю или не сожалел о размещении какой-нибудь фотографии в социальных сетях? Важно не это, а то, как мы и другие применяем этическую схему и движемся вперед.
В число задач этичного подхода к принятию решений не входит задача кого-то обвинить, пристыдить или упрекнуть. Таких задач не ставит и понятие устойчивости или процесс восстановления. Все эти три действия имеют отношение к прошлому, а не к пути в будущее. Анализируя собственную реакцию и собственные решения по этической схеме, используйте следующие вопросы: я нахожу их наиболее важными, даже если говорить об устойчивости на лету.
Был ли проступок намеренным? Повторялся ли он? Когда вы изучаете информацию, намерения имеют значение. Случается, что люди причиняют немалый вред, даже если они верили, что действовали в лучших интересах, например, собственного ребенка, которому не сделали прививку – и который затем заразился корью. Намерения свидетельствуют о том, насколько вероятно повторение проступка, определяют, каким должно быть наказание и что потребуется для того, чтобы восстановить доверие. Однако добрые намерения не отменяют уже причиненного вреда и не дают права снять с себя ответственность. Вместе с тем, если чьи-то намерения были ошибочными, при этом человек немедленно сказал правду, принял на себя ответственность и прекратил вести себя недостойно, – как это сделали Microsoft и Pret A Manger, – это знак того, что он решительно заинтересован в восстановлении.
Не была ли ситуация такой, что подобную ошибку могли бы допустить множество людей? Возможно, в то время такое поведение было вполне в порядке вещей, пусть оно и не становится от этого менее отвратительным. На этапе изучения информации важен контекст, равно как и нюансы. Например, когда Йельский университет решил переименовать Кэлхун-колледж, один из многочисленных легендарных колледжей с полным пансионом, одним из аргументов за принятие этого решения было то, что Джон К. Кэлхун проявил себя не только как рабовладелец (что неправильно, но при его жизни было вполне обычным явлением), но и как активный сторонник рабства[698]. В других историях могут быть случаи, когда информации было недостаточно – разрыв был слишком большим или размытым, – чтобы человек мог знать, что последствия его действий могут выйти из-под контроля.
О каком человеке мы тут говорим? Те, кто занимает должности, связанные с ответственностью перед обществом, например политики, врачи, представители духовенства, а также коллегиальные органы управления организациями и руководство или те, кто служит таким уязвимым членам общества, как дети, пожилые люди и больные, должны заслужить наше доверие. По закону к ним зачастую применяются более высокие требования, и у нас есть право ожидать от них соблюдения более строгих этических стандартов, чем говорится в законе, потому что их роль зависит от нашего доверия.
Наконец, кто допустил проступок? Возможно, это молодой человек, который никогда не оступался и не допускал неэтичных действий в прошлом, но принял ужасное решение впервые в жизни – и признаёт это? У молодых людей сегодня очень мало прав на ошибку, когда их промахи выставляют на всеобщее обозрение в социальных сетях. Я не оправдываю плохое поведение, но мы должны учитывать, как технологии превратили обычные ошибки, связанные с возрастным развитием, в приговор на всю жизнь.
Возможно, вам стоит даже проделать упражнение со шкалой, чтобы понять, какое место на этой шкале занимает тот или иной проступок. На одном конце шкалы вы могли бы разместить Харви Вайнштейна или Хэ Цзянькуя (повторяющиеся проступки, никакого раскаяния или признания), а на другом – голодного ребенка, который украл пакетик с чипсами из торгового автомата в метро. Где-то посередине находятся истории тех, кто должен был понимать, что творит, но оступился, например ситуация с управленцем, который как-то раз наврал в своем резюме, или со старшеклассником, который только однажды нарушил правила в отношении алкоголя.
Процесс определения последствий тоже должен быть полным достоинства, последовательным, пропорциональным, он должен подразумевать, что провинившийся человек, остальные заинтересованные лица и общество в целом способны продвигаться к восстановлению. Цель этичных решений совсем не в том, чтобы захлопывать двери к искуплению или загонять людей в угол.
Поэтому часто, когда мы думаем, как прийти к восстановлению после этического промаха, всплывает вопрос прощения. Я много раз слышала, как люди говорили, что прощение помогает тому, кто прощает, достичь умиротворения. Я никогда по-настоящему не понимала эту точку зрения, поскольку она требует, чтобы мы преодолели себя и выдали кредит доверия, а не сделали осознанный выбор, и, следовательно, чужие проступки останутся без объяснения и без ответа. Я не верю в такие кредиты; я считаю, что к прощению нужно относиться как к любому другому этическому выбору. Для этого нужно применить те же подходы, рассмотреть силы, проверить истинность, принять ответственность и совершить необходимые действия. По моему мнению, если пытаться скрыть недостатки, игнорировать прошлое или не прояснять конкретные шаги на пути вперед, умиротворения не достичь.
Когда оступившийся человек сказал правду и выбрал четкий путь к преображению и возмещению ущерба, тогда мы рассматриваем вопрос, дать ли ему второй шанс. (Но не двадцать второй шанс.) Когда кому-то уже вынесли предупреждение, что его поведение недопустимо – для вас, или для общества в целом, или и для того и для другого, – если эти действия повторяются, это свидетельствует о том, что этот человек не уважает нас или наши границы и он не начал путь к искуплению. Он все знал и поступал так же, несмотря ни на что.
У прощения есть и обратная сторона. В своей работе консультантом я заметила, что мир все больше одержим идеей «нулевой толерантности»[699]. Временами это и правда, наверное, необходимо. В 2018 году генеральный директор Disney Роберт Айгер однажды проснулся и обнаружил, что Розанна Барр, звезда весьма рейтингового телешоу, которое было названо в ее честь и выходило в эфире его сети ABC, опубликовала расистский твит о бывшем советнике президента Барака Обамы Валери Джарретт[700]. Айгер немедленно отменил шоу Барр. «На самом деле принять это решение было легко. Я никогда не спрашивал, каковы будут финансовые последствия, мне было все равно, – пишет Айгер в своих мемуарах «Поездка длиной в жизнь» (The Ride of a Lifetime). – В такие моменты, как этот, не следует обращать внимание на то, какими будут коммерческие потери, надо руководствоваться простым правилом: нет ничего важнее, чем качество и порядочность ваших людей и вашей продукции. От соблюдения этого принципа зависит все».