Усугубляла этот «режим спутанности» нехватка у Бонэна опыта в управлении самолетами без поддержки компьютеров. Хотя он и провел много времени в кабине А330, большая его часть была потрачена на отслеживание показателей и настройку компьютеров самолета, а не непосредственное им управление. И из мизерного количества часов, проведенных за ручным управлением, едва ли хоть пара из них прошла без повышенного внимания fly-by-wire, так как все наверняка приходились на взлет или посадку. Неудивительно, что он инстинктивно управлял самолетом как при прерванном заходе на посадку. Неудивительно, что за штурвалом он чувствовал себя настолько беспомощно.
Пилоты Air France «были страшно некомпетентными», — говорит Уильям Лангевише, писатель и профессиональный авиатор[239]. И Лангевише думает, что знает причину. Он убедительно заявлял на страницах Vanity Fair, что летчики попросту не привыкли управлять своим самолетом на высоте без помощи компьютера. Даже опытный капитан Дюбуа был не в форме: из 346 часов, проведенных за штурвалом в течение последних полугода, лишь четыре приходились на ручное управление, а не медитацию над автопилотом. И даже тогда fly-by-wire работала в полноценном режиме. У каждого из трех пилотов не было возможности отработать свои навыки, потому что борткомпьютер самостоятельно управлял полетом.
Эта проблема имеет название — парадокс автоматизации. Она возникает повсеместно: от ошибок в работе сотрудников атомных станций и команд круизного лайнера до нашей неспособности запоминать телефонные номера, так как все они хранятся в наших мобильных, или того факта, что мы не можем делить или умножать в уме, так как окружены калькуляторами. Чем лучше системы автоматизации, тем менее опытными будут их операторы и тем необычнее ситуации, с которыми они столкнутся[240]. Психолог Джеймс Ризон, автор книги «Человеческие ошибки», писал: «Ручное управление — это высококвалифицированная деятельность, и навыки необходимо постоянно практиковать с целью их сохранения[241]. Однако системы автоматического контроля, которые дают сбой лишь в редких случаях, лишают операторов возможности оттачивать умения… когда необходимо взять ситуацию в свои руки, обычно что-нибудь идет не так. Таким образом, операторам нужно стать еще более квалифицированными, чтобы справиться с нетипичными условиями»{43}.
Итак, парадокс автоматизации имеет три направления. Во-первых, автоматические системы служат причиной некомпетентности из-за простоты обращения и автоматической корректировки ошибок. Поэтому неопытный оператор может работать долгое время до тех пор, пока отсутствие практического опыта вдруг не вскроется, — его некомпетентность является скрытой слабостью, которая, возможно, вообще никогда не обнаружится. Во-вторых, автоматические системы способны ухудшить даже навыки экспертов, отсекая необходимость в практике. В-третьих, автоматика склонна сбоить в необычных ситуациях или сама служить их причиной, требуя вмешательства сверхкомпетентного человека. В каждом из этих трех случаев повышение эффективности и надежности электроники лишь усугубит проблему.
Существует множество примеров, когда автоматизация не создает подобных парадоксов. Веб-страница сервисного центра может обрабатывать рутинные жалобы и запросы, при этом сотрудники избавлены от однообразной работы и могут эффективнее помогать клиентам с проблемами серьезнее.
Совсем иначе ситуация обстоит с самолетами. Автопилоты и незаметная работа системы fly-by-wire не облегчают нагрузку экипажа, чтобы последний сосредоточился на более важных задачах. Вместо этого они позволяет пилотам засыпать на штурвалах — образно или буквально. В конце 2009 года произошел нашумевший инцидент, когда два пилота на автопилоте (не в переносном значении) пролетели мимо аэропорта Миннеаполиса более чем на 160 километров. Они просто уткнулись в свои ноутбуки и отвлеклись[242].
Когда в подобных ситуациях что-то идет не так, сложно быстро прийти в себя и справиться с проблемой, которая с большой вероятностью вскоре усугубится.
Заспанный капитан Дюбуа прибыл в кабину всего лишь через минуту и 38 секунд после того, как отказал индикатор скорости. Самолет по-прежнему летел на высоте 10,6 километра, хотя и терял в высоте 47 метров в секунду. Система антиобледенения сработала, и датчик скорости снова заработал, но пилоты больше не доверяли ни одному из приборов. Электроника, теперь совершенно исправная, сообщала, что скорость упала почти до нуля, а самолет устремился в сторону океана. Но экипаж, судя по всему, решил, что автоматика не пришла в норму, а засбоила еще сильнее. Дюбуа молчал в течение 23 секунд — это долго. Достаточно для того, чтобы лайнер потерял еще 1,2 километра в высоте.
Спасти пассажиров и самолет по-прежнему было не поздно — если бы Дюбуа разобрался в ситуации. Нос самолета теперь был задран так высоко, что предупреждение о сваливании больше не звучало — борткомпьютер, как и пилоты, попросту отклонил данные, которые выглядели неправдоподобно. Пару раз Бонэн наклонял штурвал от себя, и снова возникало предупреждение о сваливании STALL, STALL, STALL, которое, несомненно, запутывало его еще сильнее. В какой-то момент он попытался использовать воздушный тормоз, решив, что машина движется слишком быстро, — это было еще одной ошибкой. Самолет пробирался сквозь облака со скоростью менее 60 узлов, то есть около 112 километров в час — это невероятно низкое значение.
Скорость падения была в 2 раза выше. В смятении пилоты какое-то время спорили о том, набирает ли высоту самолет или все же снижается.
В кабине воцарилось полное замешательство. Бонэн и Робер кричали друг на друга, пытаясь управлять самолетом. Трое пилотов не слушали друг друга. Самолет пытался набрать высоту — нос был направлен кверху — и одновременно с этим стремительно терял ее.
РОБЕР: За скоростью следи! Ты набираешь высоту! Снижайся! Снижайся, снижайся, снижайся!
БОНЭН: Я снижаюсь!
ДЮБУА: Нет, ты взлетаешь!
БОНЭН: Взлетаю? Хорошо, мы снижаемся.
Никто не сказал: «Мы сваливаемся. Направь нос самолета вниз и набери скорость».
В 23 часа 13 минут 40 секунд, менее чем через 12 минут после того, как Дюбуа впервые вышел из кабины вздремнуть, и спустя 2 минуты после того, как выключился автопилот, Робер кричал на Бонэна: «Взлетай… взлетай… взлетай… взлетай…» — тогда как поступить нужно было наоборот. Бонэн отвечал, что он все время удерживал рычаг управления на себя, — эта информация могла помочь Дюбуа определить сваливание, только вот у капитана ее не было.
Наконец до Дюбуа, стоящего между пилотами, дошло, что происходит: «Нет, нет, нет… Не взлетай… нет, нет».
Робер понял намек. Он сообщил, что принял управление и направил нос самолета вниз. Самолет начал наконец-то разгоняться. Но он опоздал на минуту — высота составляла 3,35 километра. На тот момент между падающим самолетом и черными водами Атлантического океана не было достаточного пространства для восстановления поступательной скорости и вывода самолета из пике.
В любом случае Бонэн молча перехватил управление и попытался снова набрать высоту — просто потому, что был в панике. Робер и Дюбуа, возможно, осознали, что самолет заваливался, — но ничего об этом не сказали. Они могли вообще не осознавать, что их коллега управлял лайнером. Последний тоже до конца не понимал, что делал. Последними словами Бонэна были: «Да что же происходит?»
Спустя четыре секунды самолет рухнул в воды Атлантического океана на скорости 201 километр в час. Все находившиеся на борту 228 пассажиров и члены экипажа погибли мгновенно.
Эрл Винер, культовая фигура в области авиабезопасности, умерший в 2013 году, изобрел то, что сейчас известно как «Законы Винера» об авиации и человеческих ошибках. Один из них звучит так: «Цифровые устройства исправляют маленькие ошибки, создавая возможности для крупных»[243].
Мы можем перефразировать его следующим образом: «Автоматизация убирает привычный хаос, но время от времени создает хаос чрезвычайный». Это происходит не только в авиации.
Несколько лет назад полицейское управление в Сан-Леандро (Калифорния) сделало как минимум 112 фотографий двух автомобилей местного жителя Майкла Катц-Лакаба. Этот факт был выявлен не в скандальном судебном деле, где Катца-Лакаба обвиняли бы в терроризме или управлении криминальной сетью, а потому, что он подал запрос на доступ к публичным материалам, чтобы увидеть фотографии. И автомобили гражданина были сфотографированы не потому, что он подозревался в преступлении. Камеры снимали все машины, изображения сканировались, номерные знаки регистрировались, и все отправлялось в архив с датой и геометками. Дочери мистера Катц-Лакаба в возрасте пяти и восьми лет тоже попали в архив. Почему? Потому что они находились рядом с машиной, когда сработал виртуальный затвор[244].
Фотографии автомобилей — и детей — мистера Катц-Лакаба были отправлены с миллионами других в Региональный разведывательный центр Северной Калифорнии, который находится в ведении федерального правительства США. Сто миллионов фотографий номерных знаков в секунду доступны для просмотра благодаря программному обеспечению, разработанному компанией из Кремниевой долины Palantir Technologies. Потенциал по борьбе с преступностью с таким обширным и легко анализируемым набором данных очевиден. Но с таким же успехом этот массив можно использовать с менее благородными целями: как рассуждал Катц-Лакаб на встрече с Энди Гринбергом из журнала Forbes, правительство может пролистать базу данных, чтобы узнать, «припарковался ли кто у дома, непохожего на жилище супруга или супруги, навестил аптеку с лечебной марихуаной, центр планирования семьи или акцию протеста».