Роджерс пишет, что Айер сказал Тайсону прекратить. Боксер ответил:
– Черт возьми, ты знаешь, кто я? Чемпион мира в тяжелом весе.
Айер стоял на своем.
– А я бывший профессор логики в Оксфорде. В своих областях мы оба знамениты. Предлагаю поговорить об этом как разумные люди.
Тайсон, который, видимо, оказался любителем философии, был достаточно впечатлен и отступил.
Впрочем, если бы Тайсон захотел ударить Айера интеллектуальным апперкотом, он мог бы спросить его, на каком основании философ считает оправданным вмешиваться в его заигрывания с Наоми Кэмпбелл. В конце концов, как утверждал сам Айер в книге «Язык, истина и логика», мораль лежит вне рамок эмпирической дискуссии. Хотя вполне могло быть так, что Кэмпбелл боялась Тайсона. Железный Майк мог спросить: «Существуют ли логические причины, по которым мужчинам ненормально навязывать себя женщинам при их собственном сексуальном влечении?»
Айеру пришлось бы признать, что он навязывает общепринятые нормы того типа собраний, на котором они присутствовали в данный момент. К этому Тайсон мог бы добавить, что его нормы, приобретенные в криминальной юности на улицах Бруклина, отличались от норм Айера, получившего образование в Итоне; а это оставляло им мало общих позиций для продолжения дискуссии. «И если вы не возражаете, – мог бы продолжить Железный Майк, – то я хотел бы вернуться к ухаживанию за этой красивой дамой тем способом, который считаю наиболее подходящим».
Не могу знать, в этом ли направлении шел их разговор, но точно известно, что во время их беседы Наоми Кэмпбелл сбежала с вечеринки. Майка осудили за изнасилование другой женщины спустя четыре года, и теперь он сексуальный преступник.
Эта история Тайсона и Айера иллюстрирует (среди прочего) фундаментальную проблему для любого последователя строго позитивистского подхода. Невозможно решить даже самые очевидные моральные дилеммы. Несмотря на честность математики и логического мышления, каждый человек должен сам разбираться со своей нравственностью.
Очевидно, здесь в логическом позитивизме чего-то не хватает. Вопрос – чего? Чтобы отточить наши представления о роли математики в морали, английский философ Филиппа Фут разработала в 1967 году мысленный эксперимент, который стал известным под названием «проблема вагонетки»[196]. Его можно описать так:
Эдвард управляет вагонеткой, у которой отказали тормоза. На рельсах перед ним пять человек, и насыпи настолько крутые, что люди не успеют сойти с пути. У рельсов есть ответвление вправо, и Эдвард может повернуть вагонетку туда. К сожалению, на правом пути тоже есть человек. Эдвард может либо повернуть вагонетку и убить одного человека, либо не поворачивать и убить пятерых.
Встает вопрос – что делать Эдварду: повернуть и убить одного либо ехать прямо и убить пятерых. Немного поразмыслив, большинство из нас обычно решают, что первый вариант лучше. Одно убийство лучше, чем пять. Пока все хорошо.
Теперь рассмотрим другой вариант проблемы вагонетки, предложенный в 1976 году Джудит Томсон – профессором философии из Массачусетского технологического института:
Джордж стоит на пешеходном мостике над рельсами для вагонетки. Они видит, что одна вагонетка приближается, а за мостом на рельсах стоят пять человек, и насыпи настолько крутые, что люди не успеют сойти с пути. Джордж понимает, что есть один способ остановить неуправляемую вагонетку: сбросить перед ней что-нибудь тяжелое на рельсы. Однако единственный имеющийся достаточно тяжелый объект – какой-то толстяк, который тоже смотрит на вагонетку с моста. Джордж может либо столкнуть его на рельсы перед вагонеткой, убив его при этом; либо не делать этого и позволить умереть пятерым.
Что делать Джорджу? С одной стороны, сбрасывать человека на рельсы явно неправильно. С другой – при бездействии он позволяет погибнуть пяти человекам (как если бы Эдвард не повернул вагонетку).
В опросе примерно 81 % американцев сказали, что на месте Эдварда отклонили бы вагонетку и убили одного человека; однако всего 39 % считали, что Джорджу нужно столкнуть толстяка и спасти пятерых[197]. Китайские и российские респонденты также были более склонны полагать, что Эдварду нужно действовать, а Джорджу – нет. Это поддерживает гипотезу, что у людей есть общее моральное представление для таких дилемм[198]. Однако культурные различия всё же имеются: китайцы скорее позволят вагонетке двигаться своим курсом в обеих ситуациях.
Джудит Томсон разработала этот второй вариант проблемы вагонетки, чтобы дилемма стала прозрачной[199]. Обе проблемы описывают одну математическую задачу – спасти пятерых или спасти одного; однако наша интуиция говорит, что они сильно отличаются друг от друга. Математическое решение простое – моральное гораздо сложнее. Проблемы вагонетки заставляют нас задуматься о действиях, которые мы готовы – или не готовы – предпринять для спасения жизней.
Проблема вагонетки лежит в центре многих произведений современной научной фантастики. Эта дилемма занимает от тридцати минут до часа в фильме (внимание: спойлер) «Мстители: война бесконечности» из вселенной Marvel. Философски настроенный суперзлодей Танос, став свидетелем того, как перенаселение полностью разрушило его родную планету, решает, что неплохо бы уничтожить половину населения вселенной. Он считает, что убийство половины людей сейчас спасет больше жизней в будущем, и – если рассуждать в терминах задачи Томсон – решает щелчком пальца сбросить миллиарды толстяков под вагонетку. В продолжении – «Мстители: финал» – Тони Старк сталкивается с более личной дилеммой того же типа: существование его дочери или возвращение друзей. Его просят сделать практически невозможный выбор.
Обычно в научной фантастике злодеи предпочитают столкнуть толстяка. Во многих случаях такое решение изображается в форме жесткой беспощадной логики. Роботы или ИИ принимают утилитарное решение спасти пятерых, а не одного – независимо от того, насколько ужасно действие, необходимое для достижения их цели. Для прагматичного робота, запрограммированного людьми на спасение максимального количества людей, в приоритете числа, а не чувства. При прочих равных условиях пользы от пятерых больше, чем от одного. Это точно тот же вопрос, который Филиппа Фут и Джудит Томсон иллюстрировали проблемой вагонетки: неверно считать, что мы можем решить такие проблемы с помощью утилитарного подхода. В фильмах роботы ошибаются, а если бы существовали в реальной жизни – ошибались бы тоже. Научная фантастика напоминает нам, что мы не можем создать универсальное правило, например
если 5 > 1, то печатать («спасти 5»),
чтобы решить все проблемы. Если мы так сделаем, то совершим самые ужасные моральные преступления, которые никогда не сможем оправдать перед будущими поколениями.
Когда я был моложе, мог смотреть на отказ от действия – даже сталкивания толстяка на рельсы – как на указание логической слабости части человечества.
С моей стороны это было ошибкой, и не только потому, что я оказался слишком строг к человечеству. По сути, делать такой вывод – логическая слабость. Проблема вагонетки иллюстрирует два момента. Во-первых, она подтверждает, что на вопросы реальной жизни нет чисто математических ответов. Это то же, что Айер отвечал на риторический вопрос Пуанкаре об «универсальной» природе математики. Это причина того, что кода да Винчи не существует. Наше ощущение универсальности математики – результат ее тавтологической природы, а не более глубокой истинности. Мы не можем использовать ее как божественные заповеди. Только – как в этой книге – в качестве инструмента для организации своей работы вокруг моделей и данных.
Во-вторых, дилемма вагонетки сообщает нам, что чистый утилитаризм – идея, что мораль можно построить вокруг попытки максимизировать счастье, жизнь или любую другую переменную – одно из величайших зол среди всех (одинаково неверных) моральных кодексов, доступных нам[200]. Правило «спасти как можно больше жизней» противоречит нашей нравственной интуиции и заставляет нас делать ужасные вещи. Если мы начинаем разрабатывать оптимальные моральные кодексы, то в итоге создаем моральный лабиринт.
Я пришел к выводу, что на эти дилеммы есть очень простой ответ: мы должны научиться доверять своей нравственной интуиции и пользоваться ею. Это и сделал Алфред Айер при стычке с Майком Тайсоном. То же сделала Моа Бёрселл, когда решила изучать расизм, увидев, как нацисты преследуют ее друзей. Это то, чем руководствовался я, когда изучал дела компании Cambridge Analytica, фейковые новости и предвзятость алгоритмов или руководил написанием диссертации Бьорна по иммиграции и подъеме правых сил в Швеции. Это то, чем руководствовалась Николь Нисбетт, когда рассматривала коммуникацию в политике. И именно это делает Человек-паук: с помощью своей интуиции и умений убивает плохого парня.
Проблема вагонетки говорит нам, что нужен более мягкий способ размышлений для таких моральных и философских дилемм – дополняющий жесткую брутальную честность использования моделей и данных.
Участники «Десятки», которые вносят наибольший вклад в общество, мыслят и мягко (используя свою нравственную интуицию, чтобы определить, какие проблемы им решать), и жестко (сочетая модели и данные ради честности своих ответов). Они прислушались и поняли ценность окружающих. Они осознают, что не более любого другого человека компетентны, чтобы выбирать проблемы, но более компетентны в умении их решать. Они служители общества, сохранившие тот дух, что ввел в «Десятку» Ричард Прайс почти 260 лет назад. Прайс был неправ насчет чудес[201]