ению неполные данные с сайтов. (И нам известны случаи, когда юристы компаний пытались преследовать таких исследователей и мешать их работе.)
Даже компании с самыми благими намерениями могут выбирать не самые лучшие подходы к борьбе с дискриминацией, потому что, насколько нам известно, не существует системы для взвешенного рассмотрения доступных вариантов дизайна с этой точки зрения и их возможных последствий. Наша цель в этой статье – предложить компаниям схему, с помощью которой они смогут построить процветающую площадку и управлять ею, одновременно минимизируя склонность к дискриминации.
Мы не рассчитываем на то, что все создатели рынков будут принимать одинаковые решения. Конкуренты по-разному подходят к решению других вопросов (например, Lyft позволяет оставлять чаевые через приложение, а Uber – нет), и они точно так же будут по-разному решать проблему дискриминации (например, среди прочего, они могут по-разному стимулировать меры, направленные на борьбу с ней. (Хотя мы убеждены, что платформы должны стремиться к высшим стандартам в этом отношении.) Наша цель – помочь создателям лучше разобраться в возможных последствиях и компромиссах их решений.
Ниже мы предлагаем два основных принципа для платформ, стремящихся решить эту задачу. Затем мы оценим четыре варианта решений, которые способны повлиять на дискриминацию.
Платформы должны начинать с более тщательного отслеживания. В настоящее время большинству неизвестен расовый и гендерный состав участников их сделок. Регулярные отчеты (и время от времени аудит) о расовой и половой принадлежности пользователей, а также оценка успешности каждой из групп на платформе – необходимый (хотя и недостаточный) шаг к раскрытию и искоренению любых проблем. Это проливает свет на сферы, где дискриминация действительно является проблемой, и дает возможность следить за прогрессом. В деле борьбы с дискриминацией это может стать отличным первым жестом доброй воли. Например, Airbnb может регулярно отчитываться о проценте положительных ответов на запросы по группам пользователей в зависимости от расы и пола. Открытый доступ к такой информации поможет привлечь внимание пользователей и регулирующих органов к проблеме и заставить компании всерьез взяться за ее решение. (Открытый доступ к данным по дискриминации – один из аспектов объявленной Airbnb политики, который пока не реализован в полной мере, однако стоит отметить, что в целом грандиозные и похвальные цели компании уже трансформировались в конкретные результаты.)
Платформы должны заниматься тем, что у них получается лучше всего, – экспериментировать. Такие компании, как Facebook, Yelp и eBay прочно встроили экспериментальное мышление в практики развития своих новых продуктов и функций. Для тестирования дизайнерских решений, которые, наряду с другими способами вмешательства, могут повлиять на степень дискриминации, компании должны проводить рандомизированные контролируемые испытания. Стоит поаплодировать Airbnb за ее недавний эксперимент со скрытием фото владельцев недвижимости на главной странице с результатами поиска, чтобы изучить влияние этого фактора на результаты бронирования (хотя компания пока и не представила эти данные открыто).
Во многих случаях самое простое и эффективное изменение, которое может внести платформа в свой дизайн – отказаться открывать информацию, которая способна сделать более уязвимыми те или иные категории пользователей (например, сведения о половой и расовой принадлежности), пока соглашение о сделке не будет заключено. Некоторые платформы, в том числе Amazon и eBay, уже сделали это. Однако для многих других это означает отход от привычных способов ведения бизнеса. Топ-менеджер одной платформы, стоящей миллиарды долларов, сказал нам, что его компания никогда не будет рассматривать возможность скрытия фото или имен пользователей.
Платформы могут выбирать не только то, какую информацию раскрыть, но и как ее преподнести. И есть много доказательств того, что большое значение имеет выделение той или иной информации при представлении на сайте. Например, на некоторых платформах стоимость доставки указана отдельно от базовой цены и менее заметна на странице. Экономисты Дженнифер Браун, Танжим Хоссейн и Джон Морган показали, что в этом случае более низкая базовая цена повышает шансы на продажу товара, даже если стоимость его доставки оказывается выше. Иными словами, на потребителя влияет не только информация как таковая, но и выразительность ее представления.
Чтобы понять, как можно применить это знание, давайте вернемся к сравнению Airbnb, которая показывает фото хозяев на главной странице с результатами поиска, с HomeAway, которая этого не делает. (В сентябре Airbnb заявила, что протестирует альтернативные способы представления фотографий и прочей информации, имеющей отношение к расе, хотя не конкретизировала, как и что именно будет сделано.) Не делая акцента на расовой принадлежности, платформы способны снизить уровень дискриминации.
Используя Uber, вы касаетесь экрана смартфона, чтобы заказать машину; только после подтверждения заказа вы можете увидеть, кто именно к вам приедет. Теоретически, после этого вы можете отказаться, если вам не понравился рейтинг или внешний вид водителя. Но для этого нужно потратить дополнительные усилия, и этой небольшой «цены транзакции» обычно оказывается достаточно для того, чтобы не отменять поездку на основе только внешнего впечатления. Uber вполне мог бы позволить пассажирам видеть водителя до того, как они подтвердят или отменят заказ, но решил этого не делать.
Если транзакция происходит до того, как одна из сторон узнает расовую и половую принадлежность другой, риск дискриминации существенно снижается. Возьмем, к примеру, такую услугу Airbnb, как «моментальная бронь», которая призвана сделать бронирование жилья проще и удобнее. Владелец предоставляемой недвижимости разрешает арендаторам бронировать ее без предварительного одобрения с его стороны. Это необязательная услуга – хозяева жилья могут подписаться на нее по своему желанию. Исследования показали, что склонность к использованию варианта по умолчанию очень сильна: большинство хозяев выбирают именно тот вариант, который установлен по умолчанию. Если бы Airbnb сделала моментальную бронь такой опцией, чтобы хозяевам пришлось приложить дополнительные усилия для отказа от нее, скорее всего, дискриминация снизилась бы. Компания могла бы даже предложить хозяевам платить за привилегию подробного изучения данных клиента – например, брать отдельную плату за отказ от услуги моментального бронирования. (В сентябре компания заявила, что хочет продвигать эту услугу, но не пояснила, что именно собирается делать для этого.)
Мы считаем, что повышение автоматизации и правильно применяемые стандартные экономические стимулы способны снижать уровень дискриминации, а также – благодаря исключению ряда шагов из процесса завершения сделки – повысить прибыль на самых разных платформах.
В исследовании 2012 года команда, состоявшая из Лизы Шу, Нины Мазар, Франчески Джино, Дэна Ариэли и Макса Бейзермана, решила проверить, может ли нечто столь примитивное, как расположение подписи на бланке, влиять на честность. Людям часто приходится заполнять различные формы и затем подтверждать верность информации подписью. Ученым стало интересно, станут ли люди реже вносить недостоверную информацию, если им нужно будет ставить подпись в самом верху бланка, то есть до того, как его заполнить. И действительно, оказалось, что в таком случае люди врут реже, как в лабораторных экспериментах, так и в реальной жизни (в полевом эксперименте, проведенном в компании автострахования). Те же результаты были получены и в сфере налоговой отчетности.
Мы можем извлечь из этого полезный урок для маркетплейсов: если вы хотите, чтобы люди что-то сделали, тщательно продумайте, как и когда подтолкнуть их к этому. На большинстве платформ существует некая антидискриминационная политика, но нередко она похоронена под грудой мелкого шрифта. Например, хозяева жилья на Airbnb обязуются не дискриминировать потенциальных арендаторов, но они подписываются под этим при первом же выставлении своей недвижимости на сайте. К тому моменту, когда хозяину придется принимать решение, откликнуться ли на чей-то запрос, он, вероятно, уже забудет о том, что именно подписывал. Площадки должны выставлять свою антидискриминационную политику как нечто более актуальное – и заставлять владельцев недвижимости подписывать антидискриминационное соглашение в процессе реальной транзакции. Конечно, кто-то все равно будет нарушать эти условия, но это уже будет гораздо более осознанный выбор.
Степень, в которой алгоритм может стать источником дискриминации, также определяется решениями его разработчиков. До сего момента многие разработчики алгоритмов игнорировали такие факторы, как раса и пол, и просто надеялись на лучшее. Однако во многих случаях вероятность того, что алгоритм случайным образом будет обеспечивать равенство, практически равна нулю; вспомните приведенный выше пример с рекламой в Google.
Если разработчика алгоритма заботит справедливость, он должен проследить, как расовая или половая принадлежность влияет на пользовательский опыт, и установить для себя четкие цели. Хочет ли он гарантировать, чтобы черным клиентам не отказывали чаще, чем белым? Чтобы с женщин брали ту же цену, что и с мужчин?
Google скорректировал свой алгоритм после исследования с рекламой баз данных об арестах, но компании могут и сами проактивно мониторить и реагировать на подобные проблемы. Представьте, к примеру, что Uber заметил, что некоторые пассажиры постоянно ставят низкие оценки черным водителям, в то время как большинство высоко оценивает их. Подсчитывая общий рейтинг таких водителей, компания может снизить значимость оценок, выставленных пассажирами, которые проявили себя расистами.