нимания естественного языка, говорят как о предвзятом, – значит, это плохой алгоритм. И когда психологические эксперименты снова и снова демонстрируют, что люди систематически предвзяты в своих суждениях и решениях, мы начинаем сомневаться в человеческой рациональности.
Но предвзятость – это не всегда плохо. Даже наоборот, на некоторые вопросы лучшие ответы находятся за счет предвзятости.
Многие из самых сложных задач, которые приходится решать человеку, – это так называемые индуктивные задачи, то есть такие, где правильное решение не может быть окончательно найдено исходя из имеющихся данных. Два классических примера таких задач – это как раз распознавание объектов в изображениях и интерпретация естественного языка. Изображение – это всего лишь двухмерный массив пикселей, набор чисел с указанием того, светлый ли это участок или темный, зеленый или синий. Объект же является трехмерным; в одном и том же наборе пикселей содержится множество разных комбинаций трехмерных форм. Когда мы смотрим на определенный набор чисел, сам по себе он ничего не говорит нам о том, какую из этих трехмерных форм он представляет: мы должны взвесить все имеющиеся данные и догадаться самостоятельно. Подобным же образом извлечение слов из «сырого» потока человеческой речи требует от нас обоснованного «угадывания» смысла конкретного произнесенного предложения.
Единственный способ успешного решения индуктивных задач – это некоторая изначальная предвзятость. Поскольку имеющихся данных недостаточно для принятия решения, нам приходится привлекать уже имеющиеся у нас знания и предвзятые суждения, которые существуют независимо от этих данных. И наше умение решать подобные задачи – то есть способность делать правильные догадки – зависит от того, насколько адекватно эта предвзятость помогает нам оценить вероятность правильности того или иного ответа.
Человек в принципе отлично умеет решать индуктивные задачи. Распознавание объектов и понимание естественного языка – именно те два вида задач, которые человек до сих пор решает лучше, чем компьютер. А объяснение этого как раз и состоит в том, что человеческий разум склонен к предвзятому суждению, и эта предвзятость тонко настроена именно на решение подобных задач.
Предвзятость зрительной системы человека проявляется во многих оптических иллюзиях – изображениях, которые демонстрируют удивительные несовпадения между нашими догадками и реальностью. Тот факт, что такие иллюзии редко встречаются нам в повседневной жизни, – свидетельство полезности нашей предвзятости. Изучая оптические иллюзии, на которые откликается наше зрительное восприятие, мы можем идентифицировать предвзятости этого восприятия, а затем встроить их в компьютерные алгоритмы.
Предвзятость в интерпретации мы демонстрируем, когда играем в испорченный телефон или пытаемся понять слова какой-нибудь песни на слух. Эту предвзятость можно обнаружить и в программах по распознаванию речи. Однажды я, уходя из своего кабинета на совещание, запер за собой дверь, а по возвращении обнаружил, что кто-то взломал мой компьютер и оставил на экране поэтическое послание в стихах. Кто это был, и что он хотел мне сказать? Спустя пару минут, полных замешательства и самых неприятных предположений, я обнаружил, что забыл выключить программу распознавания речи, и таинственное послание – ее интерпретация шелеста листьев за приоткрытым окном! Тот факт, что из этого шелеста получился сравнительно вразумительный английский текст, демонстрирует способность программы к предвзятому суждению, что и позволяет ей «услышать» в шорохе листвы звуки человеческой речи.
Нашими способностями в решении зрительных и языковых задач мы во многом обязаны изначальным «склонностям» нашего сознания в пользу рациональных, конкретных ответов. Таким образом, и компьютерные алгоритмы, призванные решать подобные задачи, должны быть «искажены» подобным образом. Поэтому нас не должна удивлять и систематическая предвзятость человека и в других областях. Эта особенность совершенно не обязательно означает какое-то отклонение от рациональности; она просто показывает сложность задач, которые приходится решать людям. И чтобы научить компьютеры лучше решать эти задачи, нам надо сперва понять, как именно работают наши предвзятые суждения.
Утверждая, что предвзятость не всегда вредна, я вовсе не собираюсь заявлять, что она всегда полезна. Объективность – это идеал, когда мы выносим моральные суждения, например, оцениваем действия других людей. Чем больше информации и времени будет у нас в распоряжении, тем больше мы сможем приблизиться к идеалу. Но подобная объективность – слишком большая роскошь в условиях дефицита информации и времени. Так что при решении индуктивных задач предвзятость – это самый рациональный подход.
Картезианская гидравлическая модельРоберт Курцбан
Профессор психологии, Университет штата Пенсильвания, директор Лаборатории экспериментальной эволюционной психологии Пенна (PLEEP). Автор книги Why Everyone (Else) Is a Hypocrite («Почему все (остальные) – лицемеры»).
В XVII веке Рене Декарт предположил, что принцип работы нервной системы отчасти подобен статуям в королевских садах Сен-Жермен, приводимым в движение водой проходящих через них труб. Иллюстрацией этой концепции служит хорошо известная гравюра, которая часто используется во вводных учебниках по психологии: мальчик протягивает ногу в огонь, а трубка, ведущая через все его тело от ноги к мозгу, демонстрирует идею Декарта о гидравлических рефлексах.
Спустя три столетия, в середине 1900-х годов, остатки гидравлической концепции поведения, которая в настоящее время окончательно забыта, все еще проявлялись в литературе. В научной литературе, например, эта идея присутствовала в работах Фрейда (катарсис как способ освобождения от всего этого давления). В повседневном языке связанные с жидкостью метафоры как ранее, так и сейчас используются для выражения психических состояний – кипятиться, выпустить пар (когда я наконец закончу это эссе, то буду чувствовать себя как выжатый лимон).
Без сомнения, вопрос об устройстве нашего ума остается открытым для дебатов. Я уверен, что даже в ответах на вопрос Edge.org этого года будет живо обсуждаться вопрос о том, насколько идея о мозге как о «вычислительной машине» полезна для развития психологического знания. Тем не менее если последняя теория еще требует дальнейшей разработки, то гидравлическая модель Декарта уже мертва и похоронена.
Впрочем… мертва-то она мертва, но вот похоронена ли?
Гидравлика, как оказалось, действительно дает правильное объяснение довольно важной биологической функции (мужской) – но только не той, о которой думал Декарт. Метафоры, указывающие на представление ума в виде конструкции из наполненных жидкостью труб с соединениями, клапанами и резервуарами, указывают на возможность того, что Декарт обратился к этой аналогии не только потому, что гидравлика была передовой технологией того времени, но и потому, что в ней есть что-то интуитивно убедительное.
И действительно, идея Декарта нашла воплощение как минимум в одном научном сочинении (хотя я думаю, что далеко не в одном). Где-то около десяти лет назад некоторые ученые начали вдруг продвигать идею «резервуара» силы воли. Согласно этой идее, человек с пустым резервуаром воли не может контролировать себя – то есть не может устоять перед сладостями, отвлекается и т. д., – и по мере высыхания этого резервуара нам становится все труднее и труднее проявлять самообладание.
Учитывая категорическую ошибочность декартовой идеи о принципах работы ума, становится ясно, что такого рода подход просто не может быть верным. Результаты проведенных экспериментов опровергли предсказания данной теории, но даже это не является аргументом в пользу того, почему от этой идеи следует отказаться. Или, по крайней мере, не главным аргументом. Эту идею нужно отбросить по той же причине, что и декартову гидравлическую модель, – несмотря на то, что, возможно, наш разум и не работает как компьютер (и, безусловно, отличается от любого компьютера по множеству показателей), нам известно, что у вычислительной науки гораздо больше шансов объяснить человеческое поведение, чем у гидравлики.
С теорией Макса Планка о сути развития научного знания многие не согласятся. Но я бы сказал, что из-за определенных ограничений современная психология оправдает опасения Планка с большей вероятностью, чем другие науки.
Во-первых, психологические теории часто развиваются под влиянием интуиции, по сути дела, находясь у нее в плену. Мне нравится, как это объяснил Дэниел Деннетт в книге Consciousness Explained («Разъяснение сознания», 1991), обсуждая (тоже в корне неверную) идею картезианского театра – предположения дуалистов о том, что в мозге существует некий особый центр, эпицентр идентичности, Единственное и Подлинное «Я», волшебник за кулисами. Деннетт назвал эту концепцию «самой живучей из вредных идей, искажающих наши попытки понять сознание». Наша интуиция подсказывает нам, что это самое «Я» где-то там присутствует, и это ощущение вновь и вновь заставляет нас воскрешать к жизни идею «специального центра».
Во-вторых, психологи чрезмерно вежливы по отношению к идеям своих коллег (из своего опыта могу сказать, что экономисты такой вежливостью не отличаются). В 2013 году один известный психологический журнал опубликовал статью, в которой рассказывалось о попытках подтвердить результаты некоего ранее опубликованного исследования. Заголовок статьи был устроен таким образом: сначала название спорного явления, затем двоеточие и после него вопрос: «Реальный или неуловимый феномен?». Выбор слова «неуловимый» (вместо «несуществующий») намекает, что назвать выводы чьей-то работы ошибочными – это грубость, их всего лишь трудно повторить. Поэтому мы не будем говорить вслух, что предыдущее исследование, без сомнения, подтвердило, что спорный феномен в реальности не существует.