[98]. Кроме того, широко известно, что отели, их управляющие и персонал в прошлом подвергали гостей дискриминации по расовому признаку. Даже если создатели Airbnb упустили из виду особые законы против дискриминации, они должны были учитывать риск того, что расизм проникнет на их платформу через гостей и хозяев. Учитывая то, что в интернете постоянно появляется очень много контента с расовым подтекстом, и то, что проявление расизма в гостиничной индустрии было известным фактом, основатели Airbnb должны были знать (или, по крайней мере, могли знать), что им следовало уделить внимание дискриминации в модели, где встречается гостиничный бизнес и интернет.
Под заинтересованной стороной я подразумеваю любого человека, организацию, объект или фактор, которые могут повлиять на решение или ситуацию или на которые может повлиять такое решение или ситуация. Мы часто думаем, что «заинтересованная сторона» – это только человек, но на самом деле это могут быть и неодушевленные объекты, если они оказывают воздействие на наш выбор (или наш выбор оказывает воздействие на них). Даже термометр у вас на кухне можно назвать участником событий, ведь он дает вам информацию («на улице +2 °C»), которая влияет на ваши решения («Надо надеть пальто»). Заинтересованными сторонами могут быть компания, политика, алгоритм, чат-бот, результат экзамена, фальшивые новости – фейки, отредактированный ген, правительственная организация и многое другое. Они могут внести положительный или отрицательный вклад в ваши решения, а вы можете повлиять на них – положительно или отрицательно.
В случае с Boeing решения, принятые на разных этапах трагедии с самолетами 737 Max, оказали «волновой» эффект на широкий круг заинтересованных сторон, в число которых, как минимум, входили: сотрудники, руководители и акционеры Boeing; поставщики Boeing и их сотрудники; коммерческие перевозчики, которые перестали поднимать в воздух эти самолеты и отменяли рейсы; экипажи самолетов по всему миру, в том числе пилоты американской авиакомпании Southwest Airlines, которые подали в суд на Boeing из-за того, что им не выплатили компенсацию[99]; конкурент Boeing, компания Airbus, которая в 2019 году поставила в два раза больше пассажирских самолетов, чем Boeing[100]; множество предприятий, которые полагаются на самолеты Boeing для путешествий; Федеральное управление гражданской авиации (ФАА), потерявшее авторитет мирового лидера в области безопасности полетов[101]; другие отрасли, разрабатывающие технологии автоматизации, – теперь они изучают эту трагедию, чтобы извлечь из нее урок; и, разумеется, 346 жертв, их близкие и люди, которых они даже никогда не встречали, но которых так или иначе затронула их гибель.
Не бывает так, чтобы при принятии решения мы были единственной заинтересованной стороной. Не бывает так, чтобы наши решения касались только нас самих. Они влияют на множество людей и явлений – о некоторых из них в момент принятия решения мы не подозреваем и можем никогда о них не узнать. В ситуациях на передовой бывает сложно, порой даже невозможно определить все заинтересованные стороны, как фактические, так и потенциальные. К моменту создания этой книги компания Airbnb обслуживает каждые сутки в среднем по 2 миллиона гостей в 220 странах и регионах по всему миру[102]. И это мы не говорим о хозяевах, членах их семей, их соседях, предприятиях, которые затрагивает деятельность Airbnb, законодателях, которые регулируют (или не регулируют) эту деятельность, последствиях их работы в налоговой сфере и так далее.
Как подойти к вопросу определения всех заинтересованных сторон? Начать можно с тех, на кого развязка будет влиять непосредственно, или с тех, кто непосредственно влияет на развязку (например, некомпетентная регулирующая организация), или с тех, кто несет серьезные риски (например, пассажиры самолета). Если определить отдельных лиц мы не можем, мы все же можем принимать в расчет категории заинтересованных сторон (например, сотрудников предприятий-поставщиков Boeing или хозяев, сдающих жилье через Airbnb). Как мы увидим в главе 2, временами на передовой мы не можем даже представить себе, кем окажутся заинтересованные стороны, поскольку мы не способны вообразить потенциальные способы использования или злоупотребления той или иной технологией или отклик людей на какую-то ситуацию.
Эта парадигма требует, чтобы мы рассмотрели последствия своих решений в краткосрочной, средней и долгосрочной перспективе уже в тот момент, когда мы их принимаем. Следовательно, нам нужно осуществить обычные для этой структуры сверки, чтобы отслеживать последствия с течением времени и учитывать вновь возникающие повороты.
Например, после первого крушения 737 Max 8 в ФАА установили, что в течение ближайших месяцев весьма вероятно повторение подобных чрезвычайных ситуаций с MCAS[103]. Должны были прогреметь все сигналы тревоги. Вместо этого компания Boeing пообещала ФАА, что она создаст для MCAS корректировки к программному обеспечению[104]. Однако, когда упал второй самолет, эти корректировки все еще не были готовы. К этому моменту в ФАА должны были знать, что потенциальные последствия – следующая катастрофа; как говорилось выше, для ответа на вопрос, запретить ли этим самолетам подниматься в воздух или нет, дополнительные данные были совершенно не нужны.
Позже высокопоставленный чиновник ФАА засвидетельствовал перед сенатом, что «с точки зрения безопасности мы были твердо уверены, что то, что мы сделали, было адекватным»[105]. Но в оценке и сертификации мер безопасности ФАА все больше полагалось на Boeing, поэтому сохранять статус-кво «адекватное» было недостаточно. Напротив. Рассматривая этические аспекты возможных последствий своих решений, ФАА и Boeing должны были задать себе следующие неотложные вопросы – они помогут и вам быстро оценить последствия ваших собственных решений.
• Какие потенциальные последствия этого решения будут одновременно и непоправимыми, и важными?
• Какая возможность принести пользу может быть упущена?
• Что бы я чувствовал, если бы это решение повлияло на меня напрямую?
Если бы ФАА и Boeing принимали в расчет первый вопрос, решение было бы ясно: с учетом обстоятельств, риск для жизни людей – недопустимое потенциальное последствие. Им даже не потребовалось бы переходить к двум следующим вопросам.
После трагедий, после того как по всему миру отказались от полетов на этих самолетах и огромного урона репутации генеральный директор Boeing Мюленбург заверил конгресс, что компания устанавливает обновления программного обеспечения, проводит обучение для пилотов, укрепляет культуру безопасности и внедряет другие изменения, которые, по его словам, сделают «безопасные самолеты даже безопаснее»[106]. Но эти самолеты не были безопасными изначально. Если руководство Boeing отказывается признать эту фундаментальную проблему, то как можно доверять решениям, которые принимает эта компания?
Следующий шаг после правильного применения нашей схемы – распределение ответственности между заинтересованными сторонами. В этом компания Airbnb, в отличие от Boeing, проявила себя достойно, поскольку ответственность руководители взяли на себя. В 2016 году, после эпизода с Грегори Селденом и эксперимента в Гарварде, генеральный директор Брайан Чески извинился за то, что не откликнулся быстрее, и назвал дискриминацию «величайшим препятствием, с которым мы как компания сталкиваемся. Она (дискриминация) проникает в самую нашу суть и затрагивает ценности, за которые мы боремся»[107]. Компания Airbnb начала собственное внутреннее расследование расового профилирования на своей платформе и предприняла комплексные меры по борьбе с дискриминацией. Были добавлены «Обязательства членов сообщества Airbnb»[108], и их были обязаны подписать все хозяева, тем самым обещая «относиться ко всем членам сообщества Airbnb с уважением, без осуждения и предубеждения, вне зависимости от их расы, религии, национальной и этнической принадлежности, инвалидности, пола, гендерной идентичности, сексуальной ориентации или возраста».
Руководители также стремятся принимать решения с участием многих заинтересованных сторон. Чтобы проверить платформу и разработать тренинг для хозяев, нацеленный на борьбу с предубеждениями, Airbnb нанял авторитетных экспертов-консультантов из правительства, научных кругов и юристов[109]. Компания встречалась с различными группами, чтобы узнать разнообразные точки зрения: это сотрудники, хозяева, представители городских администраций, государственных учреждений, туристических компаний, группы по защите гражданских прав и пользователи Airbnb, которые ранее подвергались дискриминации. Компания также собрала команду инженеров-специалистов по программному обеспечению, экспертов по обработке данных, исследователей и дизайнеров с целью выявить и искоренить предвзятость на своей платформе.