скачать книгу бесплатно
Сила этики. Искусство делать правильный выбор в нашем сложном мире
Сьюзан Лиото
В нашем сегодняшнем мире многие компании ставят прибыль выше здоровья людей и их безопасности, технологии создают риски для общества – с минимальными последствиями для тех, кто должен нести ответственность. В частной жизни мы задумываемся, как обеспечить конфиденциальность данных в интернете и уберечь детей от нежелательной информации, как делать выбор, что и у кого покупать, как относиться к несправедливости, свидетелями которой мы становимся дома и на работе. Сьюзан Лиото, преподаватель этики в Стэнфордском университете, исследует некоторые из наиболее сложных на сегодняшний день этических дилемм, объясняет четырехэтапный процесс принятия решений, а также описывает шесть сил, движущих практически каждым этическим выбором.
«Этика – составная часть всех жизненных решений и обучения на протяжении всей жизни, от детских садов и начальной школы до высшего образования, обучения на рабочем месте и повышения квалификации. Этическая компетентность не зависит от ученых степеней, специализации или социально-экономических обстоятельств… Мы способны совершать выбор, дающий надежду, и все, что для этого нужно, находится рядом с нами, на расстоянии вытянутой руки. Ваша история и история всех, с чьими жизнями вы соприкасаетесь, как и история человечества в целом, зависят от вашего выбора». (Сьюзан Лиото)
В формате PDF A4 сохранён издательский дизайн.
Сьюзан Лиото
Сила этики. Искусство делать правильный выбор в нашем сложном мире
Посвящается Луке, Оливии, Паркеру, Алексе, Кристо и Бернарду:
это для вас.
И для всех тех, кто изо всех сил старается поступать этично: с глубочайшим восхищением и надеждой на то, что эта книга поддержит вас и придаст вам смелости создавать самые лучшие истории
Susan Liautaud with Lisa Sweetingham
THE POWER OF ETHICS
How to Make Good Choices in a Complicated World
© Susan Liautaud, 2021
© Лисенкова О.А., перевод на русский язык, 2023
© Издание на русском языке. ООО «Издательская Группа «Азбука-Аттикус», 2023
КоЛибри
* * *
Доступная, глубокая и увлекательная книга исследует многие этические проблемы сегодняшнего и завтрашнего дня… Полезное практическое руководство для всех, кто пытается найти решение современных этических проблем.
Джеймс Маньика, генеральный директор Глобального института McKinsey
Проницательная книга… важное напоминание о том, как каждое из наших решений влияет на истории окружающих нас людей.
Себастьян Базен, председатель и генеральный директор Accor
Книга рассказывает о принятии этичных решений не в туманном философском ключе, а в той самой точке, где мы сталкиваемся с проблемами в реальной жизни. Читать эту книгу одно удовольствие.
Майкл Шур, продюсер и создатель телесериала «В лучшем мире»
Истина – валюта этики. Сьюзан Лиото делится двадцатилетним опытом консультирования компаний по вопросам демократизации этики и обеспечения ее доступности для всех. Это вдохновляет. Практично и как никогда своевременно.
Эммануэль Люлен, директор по этике компании L’Orеal
Бесценный инструмент, дающий отдельным лицам и компаниям возможность принимать этичные решения, важные для формирования конкурентоспособных и заслуживающих доверия организаций.
Омид Кордестани, бывший председатель совета директоров Twitter и бывший старший вице-президент Google
Доступное руководство по определению этической линии поведения в наши сложные времена.
Kirkus Review
Эта книга повествует об этических промахах в огромном современном мире. Сьюзан дает нам практическую основу для принятия этических решений в среде, которая становится все сложнее. Это книга для лидеров, ее нужно читать и держать под рукой.
Роб Чеснат, бывший начальник юридической службы Airbnb
Любой, кто надеется быть хорошим человеком и творить в мире добро, обязательно должен прочитать эту книгу.
Книжный клуб Next Big Idea Club
Введение
На передовой линии этики
Ко мне по коридору шла молодая женщина – высокая, темноволосая, с прямым пристальным взглядом. На вид ей было слегка за тридцать. Пока она приближалась ко мне, я заметила глубокие шрамы и неправильно сросшиеся после переломов лицевые кости. Кто-то сотворил это с ней – возможно, кто-то из близких или ее партнер. Я протянула ей руку.
Это было в 1989 году. 26-летней студенткой я изучала право в Колумбийском университете и руководила студенческой группой защиты общественных интересов, которая занималась сбором средств, а затем распределяла небольшие гранты по некоммерческим организациям. Потенциальным грантополучателем было одно местное агентство, которое помогало пострадавшим от насилия женщинам, находящимся в опасности. Мы читали о его программах, и, если мне не изменяет память, в тот вечер пригласили эту отважную женщину прийти и рассказать свою историю.
Когда мы подошли к двери в аудиторию, где собралась наша команда, я остановилась. «Можете подождать минутку? – спросила я. – Просто хочу убедиться, что все готовы».
Войдя в аудиторию, я оглядела сидящую там маленькую группу и объяснила, что наша сегодняшняя гостья пострадала больше, чем мы могли бы себе представить – слишком сильно, чтобы ее было уместно об этом расспрашивать. Я хотела подготовить своих однокурсников к серьезности ее травм. Следующий час мы посвятили тому, что слушали ее историю.
На полпути между буквой закона и исполнением постановлений суда система правосудия подвела эту женщину и подвергла ее жизнь риску. Мы узнали, что ей не удавалось получить главный документ – охранный ордер, который защитил бы ее от насильника, – до тех пор, пока она несколько раз не заявила о тяжких телесных повреждениях, испытав при этом жестокие душевные страдания. Необходимость доказывать, что ей причинили вред, чтобы получить правовую защиту, – это казалось мне нелогичным и несправедливым. Мне было сложно смириться с тем, что такое бывает.
Я выросла с убеждением, что в общем и целом закон защищает и направляет нас – справедливо, эффективно и даже сострадательно. В тот момент я только начала осознавать, что даже в тех случаях, когда закон ясен, а суды доступны, правовая система все равно порой не оправдывает наших ожиданий. До меня постепенно начало доходить, что, даже когда закон предполагает защиту, каждый из нас должен требовать от себя большего.
Тогда я не называла это этикой и, уж конечно, не задумывалась о карьере в этой области, но я старалась понять, как сделать так, чтобы поступать правильнее – как отдельному человеку, так и людям в целом.
На протяжении многих лет моя мантра звучала так: «Принятие этичных решений позволяет нам оставаться людьми, помогает всегда и всюду выдвигать человека на первый план». Я искренне надеюсь, что эта книга даст каждому читателю возможность делать выбор, прежде всего учитывающий интересы людей, выбор, которым можно гордиться как сейчас, так и в будущем.
* * *
Наступил ключевой момент: сейчас ставки для этичного принятия решений выше, чем когда-либо. Этика должна стать неотъемлемой частью наших решений, поскольку затрагивает в XXI веке все в повседневной жизни – от того, следуем ли мы рекомендациям экспертов для защиты своего здоровья и здоровья других людей, независимо от того, кто их допускает – мы сами или друзья. Наш мир – это мир, в котором этические ошибки (и успехи) множатся. Неправомерное поведение распространяется более широко и непредсказуемо, укореняется более прочно и вовлекает все больше людей и институтов. И все же, как бы парадоксально это ни звучало, сегодня у нас гораздо больше возможностей, чем раньше, для принятия этических решений. Чтобы не упустить эти моменты, мы должны понимать, что движет этикой на передовой.
Та встреча на юридическом факультете Колумбийского университета определила мои взгляды на передовую линию этики. Ту линию, за которой закон нами больше не руководит и не защищает нас, и здесь единственным стандартом, по которому можно выстраивать наше поведение, становится этика. Линия эта подвижна, и пространство, где мы руководствуемся только этикой, становится все шире. В этой зоне пересекаются люди, компании, инновации и явления, которые, казалось бы, не имеют ничего общего. Например, соцсети могут объединять нас с родными и друзьями, открывать для нас возможности трудоустройства и знакомить нас с иными культурами. А еще они могут выступать как источник недостоверной медицинской информации, разжигать ненависть и способствовать травле, которая распространяется повсюду.
Почему эта передовая линия смещается и почему происходят неожиданные пересечения? Во-первых, закон не успевает меняться вслед за быстротечными изменениями в технологиях и инновациях. Во-вторых, мы имеем дело с многочисленными глобальными и системными рисками – от изменения климата до распространения фейков и пандемии. В-третьих, новые технологии и глобальные риски вместе только усиливают как современные, так и вечные опасности: популизм и экстремизм подпитывают угрозы демократии и устоявшимся демократическим институтам, а социальные проблемы, такие как расизм и торговля людьми в целях сексуальной эксплуатации, становятся невероятно актуаль- ными.
Если мы сумеем интегрировать этику в повседневный процесс принятия решений, мы сможем лучше осознавать собственное место в мире. Мы сможем изменить к лучшему и наши отношения с другими людьми, и то влияние, которое мы оказываем на общество вокруг нас. И наоборот, неспособность делать наши решения этичными – глобальный системный риск, который опаснее всего недооценить, с чем сталкиваются и отдельные граждане, и руководители, и организации, и страны. Это та самая экзистенциальная угроза, которая лежит в основе многих других.
Я веду курсы по этике в Стэнфордском университете с 2014 года. Первое занятие курса «Этика на передовой» я начинаю с вопроса: «В чем заключается история?» Что в действительности происходит в этих бесчисленных дилеммах, которые мы наблюдаем в новостях, на работе, в жизни семьи и друзей, в мире вокруг? Если мы не понимаем, какие силы стоят за этическими промахами, мы вряд ли сможем предотвратить их и загладить их последствия. Мы не сумеем достичь успеха в этой сфере (и вдохновить на его достижение).
А последний день курса я завершаю еще одним вопросом: в чем заключается ваша история? Потому что я верю: то, в какой степени мы встраиваем этику в свои процессы принятия решений и укореняем ее в реальности, определяет наш жизненный путь и влияет на всех тех, чьей жизни мы коснулись, даже если со многими из них мы никогда не встречались.
Каждый день мы имеем дело со сложными ситуациями, отдаленные последствия которых непредсказуемы. Что делать, если вам не нравится ни один из кандидатов на пост мэра? Стоит ли выкладывать фотографию своего ребенка в соцсетях? Что нужно принять во внимание, прежде чем плюнуть в пробирку и отправить образец ДНК на генетический анализ? Стоит ли привлечь к уходу за престарелыми родителями робота-сиделку? Последствия не всегда легко увидеть, но первый шаг к их осознанию – понять, что? нам нужно искать.
Принятие этичных решений вырастает не из стремления к совершенству, не из попыток найти виноватого или подвергнуть кого-то критике. Скорее я надеюсь дать вам позитивный, осознанный подход к решению проблем и прочную основу для устойчивости и восстановления после тех неизбежных для человека моментов, когда мы и другие люди совершаем ошибки.
Эта книга познакомит вас с четырьмя простыми шагами, позволяющими решить любую дилемму, что станет для вас делом привычки. Вы также познакомитесь с шестью движущими силами этики – я называю их Исключение бинарности, Рассредоточенная власть, Заражение, Рушащиеся столпы, Размытые границы и Истина под угрозой. Эти силы задействованы почти во всех этических проблемах, с которыми мы сталкиваемся, будь то стремление к успеху на работе, воспитание детей, участие в обсуждении главных событий и новостей, поддержание дружеских отношений со сложным человеком, интеграция этики в духовную сферу и многое другое. Вы быстро научитесь определять и применять их, так что это станет вашей второй натурой.
В сфере этики я реалист и оптимист. На этих страницах я предлагаю вам то, что я узнала за десятилетия работы, исследований и практики, встреч с многочисленными студентами, клиентами, коллегами, руководителями и многими другими людьми, с которыми я изучала эти вопросы.
Работая над книгой, я ставила перед собой задачу сделать этику демократичной. Каждый из нас может принимать более эффективные и более этичные решения. Каждый из нас может участвовать в преодолении проблем дома, на работе и в обществе. Пусть все наши повседневные действия сделают этот мир более совершенным – для нас и для всех тех, чьи жизни соприкасаются с нашей, сегодня и в будущем.
Глава 1
Исключение бинарности
Утро воскресенья 10 марта 2019 года выдалось прохладным и ясным[1 - Renee Duff, «Самолет Ethiopian Airlines разбился вскоре после взлета, погибли все 157 человек на борту» // https://www.accuweather.com/en/weather-news/ethiopian-airlines-jetliner-crashes-shortly-after-takeoff-killing-all-157-people-on-board/335117; также с. 52 «Промежуточного отчета о расследовании катастрофы B737-8 (MAX)», Бюро по расследованию авиационных происшествий, Министерство транспорта, Федеративная Демократическая Республика Эфиопия, 9 марта 2020 г., http://www.aib.gov.et/wp-content/uploads/2020/documents/accident/ET-302%20%20Interim%20Investigation%20%20Report%20March%209%202020.pdf]. Командир воздушного судна Яред Гетачеу[2 - «Промежуточный отчет о расследовании катастрофы B737-8 (MAX)» и «Бюллетень о происшествиях» № 3, 10 марта 2019 г., Ethiopian Airlines, по данным Twitter 17 апреля 2020 г., https://twitter.com/flyethiopian/status/1104744539686866944/photo/1] и второй пилот Ахмед Нур Мохаммод[3 - Авторитетные СМИ дают различные варианты написания имени второго пилота: в Бюллетене о происшествиях № 3 Ethiopian Airlines – «Ahmed Nur Mohammod Nur»; в газете The Wall Street Journal – «Ahmed Nur Mohammed» (https://www.wsj.com/articles/ethiopia-mourns-the-loss-of-two-young-pilots-11552752808); в газете New York Times указано: «Авиалинии установили личности командира судна Яреда Гетачеу и второго пилота Ахмеднура Мохаммеда» (https://www.nytimes.com/2019/03/10/world/africa/ethiopian-airlines-plane-crash-victims.html) Мы решили придерживаться варианта англоязычного написания согласно материалам агентства Reuters, включавшим интервью с близкими и друзьями второго пилота: Maggie Fick, «Самый молодой капитан, любящий сын: в Эфиопии почтили память погибших пилотов», Reuters, 20 марта 2019 г., https://www.reuters.com/article/us-ethiopia-airplane-pilots/youngest-captain-loving-son-ethiopian-pilots-honored-in-death-idUSKCN1R11LV] заняли свои места в кабине самолета для выполнения рейса 302 авиакомпании Ethiopian Airlines. Перелет от международного аэропорта Боле в Аддис-Абебе, Эфиопия, до Найроби, Кения, должен был занять два часа. 29-летний командир Гетачеу был восходящей звездой[4 - Matina Stevis-Gridneff и Yohannes Anberbir, «Эфиопия скорбит из-за гибели двух молодых пилотов», Wall Street Journal, 16 марта 2019 г., https://www.wsj.com/articles/ethiopia-mourns-the-loss-of-two-young-pilots-11552752808; и Fick, «Самый молодой капитан, любящий сын: в Эфиопии почтили память погибших пилотов». Кроме того, представители компании Ethiopian Airlines заявили BBC News, что он «справлялся со своими обязанностями достойно»: «Ethiopian Airlines: Жертвы “общемировой трагедии”», BBC News, 4 апреля 2019 г., https://www.bbc.com/news/world-africa-47522028], самым молодым командиром воздушного судна в Ethiopian Airlines, впрочем уже успевшим налетать 8122 часа и отличавшимся «безупречной историей полетов»[5 - Согласно отзыву генерального директора Ethiopian Airlines Тевольде Гебре Марьяма, из материала Alison Sider и Robert Wall, «крушение Boeing спровоцировало споры о том, какой срок обучения пилотов будет достаточным», Wall Street Journal, 18 марта 2019 г., https://www.wsj.com/articles/boeing-crashes-spur-debate-over-how-much-pilot-training-is-enough-11552937613]. Как командир Гетачеу, так и второй пилот Мохаммод, которому исполнилось 25 лет, были выпускниками Авиационной академии Эфиопии[6 - «Промежуточный отчет о расследовании катастрофы B737-8 (MAX)», с. 19–20; и Zain Asher, «CNN Маркетплейс Африка: Авиационная академия Эфиопии авиакомпании Ethiopian Airlines», 23 марта 2016 г., Ethiopian Airlines, YouTube, https://www.cnn.com/travel/article/ethiopian-airlines-aviation-academy/index.html], крупнейшей авиационной академии в Африке. Они должны были управлять новехоньким самолетом Boeing 737 Max 8[7 - Транспортный полет этого самолета состоялся 15 ноября 2018 г., см. с. 24 «Промежуточного отчета о расследовании катастрофы B737-8 (MAX)».], последней моделью крупнейшего в мире производителя аэрокосмической техники[8 - «Boeing вкратце», Boeing, по данным от 17 апреля 2020 г., https://www.boeing.com/company/general-info/; и John Misachi, «Крупнейшие авиакомпании в мире», World Atlas, 13 августа 2019 г., по данным на 26 марта 2020 г., https://www.worldatlas.com/articles/largest-aerospace-companies-in-the-world.html Boeing также крупнейший производитель в Америке: David Gelles и Natalie Kitroeff, «Boeing отражает экономику. Состояние не очень», New York Times, 17 марта 2020 г., https://www.nytimes.com/2020/03/17/business/economy/boeing-coronavirus-economy.html]: его выпустили всего четырьмя месяцами ранее.
В 08:37[9 - Самолет поднялся в воздух в 08:38 утра, согласно «Пояснительной записке» в составе «Промежуточного отчета о расследовании катастрофы B737-8 (MAX)». Обратите внимание, что время, указанное в отчете, приведено в соответствие с Всемирным координированным временем (UTC), а время, указанное в истории, переведено обратно в соответствии с тем, какое было в то время на земле в Эфиопии.] диспетчер дал пилотам разрешение на взлет, и самолет покатился по взлетно-посадочной полосе, набирая скорость, прежде чем подняться в воздух. На борту рейса 302 находились 157 человек из 35 стран. Среди пассажиров были экологи, педагоги, представители неправительственных организаций (НПО), путешествующие пенсионеры и мать с четырьмя детьми (в возрасте от девяти месяцев до 33 лет)[10 - David Gelles, Eden Weingart и Josh Williams, «Эмоциональные обломки смертельной авиакатастрофы», New York Times, 9 марта 2020 г., https://www.nytimes.com/interactive/2020/03/09/business/boeing-737-crash-anniversary.html; и BBC News, «Ethiopian Airlines: Жертвы “общемировой трагедии”».].
Согласно данным эфиопских следователей, вскоре после взлета в кабине раздался аварийный сигнал, оповещавший пилотов, что нос самолета задран под углом 75 градусов[11 - Этот параметр также называется угол атаки (англ. angle of attack, AOA); цифра составляла в точности 74,5°. См. «Данные», раздел 5, с. 131 «Промежуточного отчета о расследовании катастрофы B737-8 (MAX)».]: это опасный угол, который может привести к смертельно опасному сваливанию. Внезапно показания скорости и высоты на левой стороне панели управления стали отличаться от показаний на правой ее стороне[12 - Согласно тому же источнику, «Пояснительной записке», вскоре после взлета в 08:38 утра «вибросигнализатор левой ручки управления активировался и оставался активным почти до конца записи. Кроме того, значения скорости полета и высоты из левосторонней системы воздушных сигналов начали отклоняться от соответствующих правосторонних значений».], и устройство, известное как вибросигнализатор штурвала, принялось яростно греметь на штурвале командира, предупреждая о неизбежности сваливания[13 - Там же; и Andrew Tangel, Andy Pasztor и Mark Maremont, «Четырехсекундная катастрофа: Как компания Boeing обрекла 737 MAX», Wall Street Journal, 16 августа 2019 г., https://www.wsj.com/articles/the-four-second-catastrophe-how-boeing-doomed-the-737-max-11565966629].
Но это была ложная тревога. Самолет летел идеально ровно. Один из двух датчиков угла атаки, установленных на носу, вышел из строя[14 - «Данные», раздел 5, с. 131 «Промежуточного отчета о расследовании катастрофы B737-8 (MAX)». Также сообщения средств массовой информации, например: James Glanz, Thomas Kaplan и Jack Nicas, «Подозревают, что причиной авиакатастрофы в Эфиопии стал неисправный датчик на Boeing 737 Max», New York Times, 29 марта 2019 г., https://www.nytimes.com/2019/03/29/business/boeing-737-max-crash.html; и Dominic Gates, «В промежуточном отчете о крушении Эфиопия обвиняет Boeing 737 MAX», Seattle Times, 9 марта 2020 г., https://www.seattletimes.com/business/boeing-aerospace/interim-ethiopian-government-report-on-max-crash-blames-boeings-design-and-training/], поэтому и запустилась автоматическая система предотвращения сваливания. Датчики угла атаки, как известно, могут искривляться, трескаться, замерзать или получать повреждения от столкновения с птицами[15 - Jack Nicas, Natalie Kitroeff, David Gelles и James Glanz, «Boeing встроил в 737 Max смертоносные допущения без учета более поздних изменений в конструкции», New York Times, 1 июня 2019 г., https://www.nytimes.com/2019/06/01/business/boeing-737-max-crash.html; и «Понимание и техническое обслуживание датчиков угла атаки (AOA)», информация для операторов, ФАА, 14 августа 2019 г., https://www.faa.gov/other_visit/aviation_industry/airline_operators/airline_safety/info/all_infos/media/2019/InFO19009.pdf]. Согласно анализу, проведенному телеканалом CNN, Федеральное управление гражданской авиации (ФАА), регулирующее в США сферу авиации и авиационной безопасности, с 2004 года получило 216 отчетов об отказах датчиков угла атаки или о необходимости их починки, замены или настройки[16 - Curt Devine и Drew Griffith, «В Boeing полагались на единственный датчик для 737 Max, на который 216 раз жаловались в ФАА», CNN, 1 мая 2019 г., https://edition.cnn.com/2019/04/30/politics/boeing-sensor-737-Max-faa/index.htmlСм. также Nicas et al., «Boeing встроил в 737 Max смертоносные допущения…», где говорится: «В ходе обзора двух баз данных ФАА, проведенного журналистами Times, выявлены сотни отчетов об изогнутых, треснувших, срезанных, неправильно установленных или в ином смысле неисправных датчиках угла атаки на коммерческих самолетах, и эти отчеты появлялись на протяжении тридцати лет».]. Может показаться, что 216 – число незначительное, вместе с тем эти меры безопасности совершенно необходимы, чтобы пилоты правильно оценивали ситуацию[17 - См. «Приборное оборудование», «Датчики угла атаки», Справочник ФАА, с. 8–22, по данным на 25 марта 2020 г., https://www.faa.gov/regulations_policies/handbooks_manuals/aviation/phak/media/10_phak_ch8.pdf; и «Понимание и техническое обслуживание датчиков угла атаки (AOA)», информация для операторов, ФАА, 14 августа 2019 г., https://www.faa.gov/other_visit/aviation_industry/airline_operators/airline_safety/info/all_infos/media/2019/InFO19009.pdf]. Однако компания Boeing приняла принципиально важное решение, что для запуска системы предотвращения сваливания на Max 8 достаточно сигнала от одного датчика[18 - Официальный представитель Boeing сказал CNN: «В таких случаях в нашей отрасли считаются приемлемыми данные от единственного источника», в Devine и Griffith, «В Boeing полагались на единственный датчик для 737 Max…».См. также Nicas et al., «Boeing встроил в 737 Max смертоносные допущения…».]: сигнала от второго датчика для подтверждения аварийного состояния при этом не требуется.
Когда один из датчиков угла атаки показал, что нос самолета задран слишком высоко и судно может потерять стабильность, автоматически было активировано технологическое решение для предупреждения сваливания под названием «система улучшения характеристики маневрирования», MCAS (Maneuvering Characteristics Augmentation System)[19 - MCAS регулирует горизонтальный стабилизатор, маленькое крыло на хвосте самолета, что, в свою очередь, приводит к тому, что нос самолета опускается.См. «Обновление программного обеспечения 737 Max», Общий обзор, Boeing, по данным на 26 марта 2020 г., https://www.boeing.com/commercial/737max/737-max-software-updates.page; «Катастрофа Ethiopian Airlines», Reuters Graphics, 12 марта 2019 г., https://graphics.reuters.com/ETHIOPIA-AIRPLANE/0100911Q1DX/index.html; и Nicas et al., «Boeing встроил в 737 Max смертоносные допущения…».]. Эта система должна была исправить положение хвоста самолета, что, в свою очередь, выравнивает его нос. Если бы для ее активации в Boeing требовалось сверять данные от обоих датчиков угла атаки, это могло бы предотвратить трагические последствия.
Когда рейс 302 достиг высоты 8100 футов (2469 м)[20 - См. карту высот ET302 в Ian Petchenik, «Данные Flightradar24 о крушении рейса 302 Ethiopian Airlines», FlightRadar24, 10 марта 2019 г., https://www.flightradar24.com/blog/flightradar24-data-regarding-the-crash-of-ethiopian-airlines-flight-302/; «Катастрофа Ethiopian Airlines», Reuters Graphics; и Matina Stevis-Gridneff и Yonathan Menkir Kassa, «Последние минуты обреченного самолета Boeing 737 MAX авиакомпании Ethiopian Airlines», Wall Street Journal, 29 марта 2019 г., https://www.wsj.com/articles/the-final-minutes-of-ethiopian-airlines-doomed-boeing-737-Max-11553876300], система MCAS получила ошибочные показания датчика, и самолет завалился носом вниз. Командир Гетачеу попытался поднять судно. Однако система MCAS направляла его носом вниз снова и снова. В кабине пилотов начался хаос. Они столкнулись с такой же ситуацией, в которой погиб самолет Boeing того же типа, выполнявший рейс 610 авиакомпании Lion Air в Индонезии чуть более чем за четыре месяца до этого. В той катастрофе вибросигнализатор штурвала громко вибрировал, показания датчиков сбились, датчик угла атаки подал ложный аварийный сигнал, и двенадцать долгих минут ошеломленный командир корабля с переменным успехом вел бой с собственным судном[21 - 11 минут 56 секунд, согласно «Истории полета», с. 19–27, «Отчет о расследовании авиационного происшествия», Komite Nasional Keselamatan Transportasi, Республика Индонезия, октябрь 2019 г., http://knkt.dephub.go.id/knkt/ntsc_aviation/baru/2018%20-%20035%20-%20PK-LQP%20Final%20Report.pdf; и Ian Petchenik, «Данные Flightradar24 о рейсе JT610 авиакомпании Lion Air», FlightRadar24, 29 октября 2018 г., https://www.flightradar24.com/blog/flightradar24-data-regarding-lion-air-flight-jt610/. См. также Mika Gr?ndahl, Allison McCann, James Glanz, Blacki Migliozzi и Umi Syam, «За 12 минут все пошло не так», New York Times, 26 декабря 2018 г., https://www.nytimes.com/interactive/2018/12/26/world/asia/lion-air-crash-12-minutes.html]. Самолет поднимался и опускался двадцать один раз[22 - Dominic Gates, «Пилоты боролись с системой контроля 737 MAX Boeing на обреченном рейсе Lion Air», Seattle Times, 27 ноября 2018 г., https://www.seattletimes.com/business/boeing-aerospace/black-box-data-reveals-lion-air-pilots-struggle-against-boeings-737-max-flight-control-system/; BBC News, «Boeing объявляет об исправлениях для своего самолета 737 MAX», 28 марта 2019 г., https://www.bbc.com/news/business-47722258], а потом рухнул в Яванское море, и 189 человек, находившихся на борту, погибли[23 - «Краткое содержание», с. 245, «Отчет о расследовании авиационного происшествия». Также сообщения в СМИ, например: Hannah Beech и Muktita Suhartono, «Замешательство, а затем молитва в кабине обреченного самолета Lion Air», New York Times, 20 марта 2019 г., https://www.nytimes.com/2019/03/20/world/asia/lion-air-crash-boeing.html].
После катастрофы рейса Lion Air ФАА выпустило срочную директиву по летной годности, предупреждая пилотов, что на самолетах Boeing 737 Max 8 и 9 неисправный датчик угла атаки может активировать автоматическую систему улучшения характеристики маневрирования (MCAS)[24 - «Срочная директива по летной годности» ФАА, 7 ноября 2018 г., https://rgl.faa.gov/Regulatory_and_Guidance_Library/rgad.nsf/0/83ec7f95f3e5bfbd8625833e0070a070/$FILE/2018-23-51_Emergency.pdf]. Компания Boeing также опубликовала информационное письмо[25 - «Заявление Boeing об информационном письме о руководстве по эксплуатации», Boeing, по данным на 26 марта 2020 г., https://boeing.mediaroom.com/news-releases-statements?item=130327; и John Ostrower, «Boeing выпустил для 737 Max информационное письмо с предупреждениями о датчиках угла атаки после крушения Lion Air», The Air Current, 7 ноября 2018 г., https://theaircurrent.com/aviation-safety/boeing-nearing-737-max-fleet-bulletin-on-aoa-warning-after-lion-air-crash/], чтобы привлечь внимание пилотов к тем процедурам, которые следовало выполнить при получении неверных сигналов от датчиков угла атаки: можно было использовать ряд переключателей на панели управления, чтобы отключить эту систему и отменить команду, из-за которой самолет «сваливается». Хотя MCAS впрямую не упоминалась, пилоты тогда впервые узнали о том, что на новых самолетах 737 Max эта система существует.
Второй пилот Мохаммод, следуя инструкции, нажал все переключатели, выключавшие систему MCAS. Командир Гетачеу потянул за штурвал, чтобы поднять нос самолета вручную, но аэродинамические силы, воздействовавшие на хвост судна, не дали это осуществить. «Тяни вместе со мной», – сказал Гетачеу второму пилоту. Вместе они старались перебороть 81,6 килограмм-силы[26 - См. с. 16, с. 18 и пояснительную записку в составе «Промежуточного отчета о расследовании катастрофы B737-8 (MAX)»; также Gates, «В промежуточном отчете о крушении Эфиопия обвиняет Boeing 737 MAX».]. В отчаянии они снова включили систему, чтобы попытаться использовать электричество и вернуть себе контроль над положением хвоста. Но тут опять вступила в действие система MCAS[27 - Коллектив Seattle Times, «Два трагических рейса, 12 проблем», Seattle Times, 27 октября 2019 г., https://projects.seattletimes.com/2019/boeing-737-max-12-problems/; пояснительная записка в составе «Промежуточного отчета о расследовании катастрофы B737-8 (MAX)».]. Через шесть минут после взлета из Аддис-Абебы рейс 302 рухнул на незасеянное поле на скорости 925 км/ч[28 - См. с. 18 «Промежуточного отчета о расследовании катастрофы B737-8 (MAX)», «расчетные значения скорости самолета достигли 500 уз.», то есть узлов, что приблизительно равняется 575 милям в час, или 925 км/ч.]. Удар был таким сильным, что спасательные вертолеты не сразу нашли место катастрофы[29 - Stevis-Gridneff и Kassa, «Последние минуты обреченного самолета Boeing 737 MAX авиакомпании Ethiopian Airlines»; детальное описание последствий см. в Theo Leggett и Simon Browning, «Битва из-за вины», BBC News, https://www.bbc.co.uk/news/extra/sd9LGK2S9m/battle_over_blame]: упавший самолет ушел под землю на глубину около 10 м[30 - Согласно «Промежуточному отчету о расследовании катастрофы B737-8 (MAX)», с. 65, из-за падения самолета возник «кратер глубиной примерно 10 м (последняя обнаруженная деталь самолета) с отверстием шириной примерно 28 м и длиной около 40 м. Большая часть обломков была под землей».]. Никто не выжил.
Судьба рейса 302 привлекла внимание всего мира не только из-за трагической развязки, но и из-за мрачного сходства с авиакатастрофой Lion Air. Все прониклись недоверием к этим самолетам, а вскоре после этого и к тому, как принимают решения в компании Boeing и в ФАА.
Реакции Boeing и ФАА на этот кризис радикально отличались от реакции правительств по всему миру – и не соответствовали требованиям действительности. В понедельник 11 марта, на следующий день после катастрофы, компания Boeing опубликовала заявление, в котором выражала соболезнования родным и близким погибших на рейсе 302, но в то же время настаивала, что самолет 737 Max «безопасен для полетов»[31 - В пресс-релизе от 11 марта 2019 г. (по данным на 1 марта 2020 г.) компания Boeing отмечала: «В течение последних нескольких месяцев и после случая с рейсом 610 компании Lion Air компания Boeing разрабатывала усовершенствование программного обеспечения управления полетом для 737 MAX, чтобы сделать и без того безопасный самолет еще более безопасным» и «737 MAX – это безопасный самолет, который был спроектирован, построен и обслуживается нашими квалифицированными сотрудниками, которые подходят к своей работе с максимальной добросовестностью»; Заявление Boeing об обновлении программного обеспечения 737 MAX, https://boeing.mediaroom.com/news-releases-statements?item=130402]. ФАА выпустило «Продолжение директивы по летной годности»[32 - «Продолжение директивы по летной годности для международного сообщества», ФАА, 11 марта 2019 г., по данным на 1 марта 2020 г., https://www.faa.gov/news/updates/media/CAN_2019_03.pdf], где говорилось, что его специалисты изучают данные и «предпримут соответствующие меры, если данные покажут, что это необходимо», но у него пока нет достаточной информации, чтобы «делать какие-либо выводы или предпринимать какие-либо действия». Однако две катастрофы вызвали немалое беспокойство, так что авиакомпания Ethiopian Airlines немедленно перестала пользоваться своим парком самолетов Max[33 - Авиакомпания объявила о прекращении полетов всех своих самолетов 737 Max 8 в понедельник 11 марта, утром, но заявила, что эти меры «вступили в силу вчера, 10 марта 2019 г., до дальнейшего уведомления». Ethiopian Airlines, Twitter, 10 марта, https://twitter.com/flyethiopian/status/1104965069710999552], Управление гражданской авиации Китая приказало не поднимать в воздух ни один из имевшихся в стране 96 самолетов Max[34 - Trefor Moss, Wenxin Fan и Andy Pasztor, «Китай прекращает полеты всех самолетов 737 Max 8 после крушения самолета Ethiopian Airlines», Wall Street Journal, 11 марта 2019 г., https://www.wsj.com/articles/china-grounds-all-boeing-737-max-8-jets-after-ethiopian-airlines-crash-11552271191]; другие авиакомпании и страны быстро последовали их примеру.
Ко вторнику 12 марта, через два дня после катастрофы, Великобритания, Германия, Франция, Австралия, Малайзия и Сингапур запретили самолетам Max пролет над своей территорией; авиалинии в Омане, Норвегии и Южной Корее перестали поднимать свои суда в воздух[35 - Charlotte King, «Какие авиакомпании используют самолеты Boeing 737 Max?», The Guardian, 12 марта 2019 г., https://www.theguardian.com/world/2019/mar/12/which-airlines-operate-boeing-737-max-jets]. Однако Соединенные Штаты не сделали ничего подобного: в то время компания Boeing была крупнейшим промышленным предприятием Америки, поставлявшим товары на экспорт. В 2018 году общая выручка Boeing составила рекордные 100 миллиардов долларов[36 - Aaron Gregg, «Выручка Boeing впервые превысила отметку в 100 миллиардов долларов», Washington Post, 30 января 2019 г., https://www.washingtonpost.com/business/2019/01/30/boeing-soars-past-billion-revenue-mark-first-time/; также Josh Mitchell и Doug Cameron, «Неприятности Boeing создают препятствия для экономики США», Wall Street Journal, 2 февраля 2020 г., https://www.wsj.com/articles/boeings-woes-create-headwinds-for-u-s-economy-11580655600]. По всему миру на эту корпорацию работали 145 000 человек[37 - «Близкие отношения с участниками рынка по всему миру являются ключевыми», Boeing, по данным на 26 марта 2020 г., https://www.boeing.com/company/key-orgs/boeing-international/], она сотрудничала с 13 000 отечественных поставщиков[38 - Doug Cameron и Alison Sider, «Приостановка полетов Boeing 737 MAX затрагивает экономику и негативно влияет на ВВП», Wall Street Journal, 22 июля 2019 г., https://www.wsj.com/articles/boeings-737-max-grounding-spills-over-into-economy-weighs-on-gdp-11563815426], в том числе с такими компаниями, как General Electric, производителем двигателей Max.
Во вторник утром генеральный директор Boeing Деннис Мюленбург лично позвонил Дональду Трампу, чтобы заверить президента, что причин для беспокойства нет и что «самолет MAX безопасен»[39 - Звонок был частным, но, согласно CNN, «Пресс-секретарь Boeing подтвердил, что разговор состоялся, и сказал, что Мюленбург “разъяснил президенту, что самолеты MAX безопасны”». Jeff Zeleny и Fredreka Schouten, «Трамп разговаривает с генеральным директором Boeing после твитов о технологиях авиакомпаний», CNN, 12 марта 2019 г., https://www.cnn.com/2019/03/12/politics/donald-trump-boeing-ceo-dennis-muilenberg/index.html. См. также Keith Bradsher, Kenneth P. Vogel и Zach Wichter, «Две трети самолетов 737 Max 8 в мире прекратили полеты», New York Times, 12 марта 2019 г., https://www.nytimes.com/2019/03/12/business/boeing-737-grounding-faa.html, где говорится, что Мюленбург «доказывал, что в Соединенных Штатах не надо прекращать полеты самолетов 737 MAX, об этом сообщили двое из тех, кто получил информацию об этом разговоре».].
Когда я смотрела новости, я была в ужасе, мое сердце разрывалось от боли за жертв, их родных и близких. Также я видела в этой трагедии переплетение неправильных решений и пренебрежение этикой. Сразу после катастрофы меня не переставало беспокоить то, что лица, принимающие решения, похоже, не несут за них полную ответственность. Затем я обратила внимание на наше решение: когда и при каких обстоятельствах мы могли бы полететь на самолете 737 Max? Как бы мы могли оценить этот риск? Позже Мюленбург скажет репортеру, что он «непременно» пойдет на такой риск и посадит свою семью в один из таких самолетов[40 - В интервью журналисту Норе О’Доннелл он ответил: «Без малейших колебаний. Непременно». «Генеральный директор Boeing говорит, что посадит свою семью в 737 Max “без малейших колебаний”», CBS News, 29 мая 2019 г., https://www.cbsnews.com/news/boeing-ceo-dennis-muilenburg-says-he-wouldput-his-family-737-Max-without-any-hesitation-exclusive-2019-05-29]. Но что до меня, мой ответ был совершенно ясен: нет.
К утру среды 13 марта более 60 стран запретили самолетам Boeing полеты над своей территорией[41 - Nigel Chiwaya и Jiachuan Wu, «КАРТА: Эти страны запретили полеты Boeing 737 Max 8», NBC News, 13 марта 2019 г., https://www.nbcnews.com/news/world/country-banned-boeing-737-Maxairplanes-list-n982776]. Однако ФАА свою позицию не изменило. В заявлении, опубликованном накануне, ФАА упомянуло, что данные все еще изучаются, но «оснований запрещать полеты» нет и нет данных, которые «требовали бы что-то предпринять»[42 - В заявлении отмечалось: «Пока что наш обзор не выявил системных проблем с функциональными показателями и не дает оснований для приказа о приостановке полетов этих самолетов. Другие руководящие органы гражданской авиации также не предоставили нам данных, которые потребовали бы принятия мер». См. «Обновления ФАА о Boeing 737 Max», «12 марта 2019 г. 18:10», «Заявление исполняющего обязанности директора ФАА Дэниела К. Элвелла», по данным на 23 марта 2020 г., https://www.faa.gov/news/updates/?newsId=93206].
Поймите правильно: крайне важно оценивать факты и свидетельства как после трагедий, подобных этим катастрофам, так и ради постоянного мониторинга угроз безопасности и новых технологий. Но данные не играли никакой роли для ответа на вопрос, с которым столкнулись Boeing и ФАА после того, как за пять месяцев погибли 346 человек, летевших на самолетах одной и той же модели, – на вопрос, имеющий решающее значение: следует ли нам позволить и дальше использовать для полетов самолеты Max 737? В данном случае нужно было не оценивать усредненные значения и не прикидывать вероятность тех или иных событий. Единственное, на чем нужно было сосредоточиться, – это на устранении вероятности того, что погибнут люди. Есть только одно решение, которое позволяет достичь этой цели, – запретить этим самолетам взлет. Именно это и сделал в конце концов президент Трамп. В среду днем он приказал ФАА отменить полеты всего парка самолетов 737 Max 8 и Max 9, потому что «первоочередная задача» – это «безопасность»[43 - Самолеты Max 7 тогда еще не были поставлены заказчикам, а самолеты Max 10 были все еще в разработке. См. «Срочный запрет», ФАА, 13 марта 2019 г., https://www.faa.gov/news/updates/media/Emergency_Order.pdf Также сообщения в СМИ, например, Kent German, «Полеты Boeing 737 Max могут быть запрещены до конца 2020 г.», CNET, 27 мая 2020 г., https://www.cnet.com/news/boeing-737-max-8-all-about-the-aircraft-flight-ban-and-investigations/; Alex Davies, «У испытательного полета Boeing 737 MAX были плюсы и минусы», Wired, 6 августа 2019 г., https://www.wired.com/story/boeing-737-max-test-flight-ups-and-downs/; также Jordan Fabian и Brett Samuels, «Трамп издал экстренный приказ о запрете полетов самолетов Boeing 737 Max», The Hill, 13 марта 2019 г., https://thehill.com/policy/transportation/433902-trump-announces-us-to-ground-boeing-737-max-planes].
В последующие месяцы следователи обнаружат множество доказательств того, что у Boeing проблемы не только с безопасностью. 103-летняя американская компания сбилась с пути с точки зрения этики. В скандале, отмеченном пренебрежением к человеческой жизни, корпорация Boeing не просто проигнорировала проблемы с безопасностью или технологические ошибки; ей не удалось на каждом уровне интегрировать этику в процесс принятия решений в компании, что привело к краху доверия к очень уважаемой организации. На интернет-сайте Boeing в то время говорилось: «Наша позиция в отношении этичного ведения бизнеса проста: каждый раз поступайте правильно, исключений нет»[44 - Это заявление было размещено на сайте Boeing до второй катастрофы и в тот день, когда она случилась, а также на момент написания этой книги. См. «Наши принципы: Этика и соответствие», Boeing, по данным на 23 марта 2020 г., https://www.boeing.com/principles/; см. также Wayback Machine, по данным на 5 марта 2019 г., https://web.archive.org/web/20190305095058/http://www.boeing.com/principles/]. Но они делали исключения снова и снова, подрывая доверие клиентов, теряя самую ценную валюту Boeing.
* * *
Трагедия Boeing – это оглушительный аварийный сигнал нашего времени, явный маркер того, что в последние годы этикой в процессе принятия решений руководствуются значительно реже, и это часто имеет серьезные последствия. Почему этика сейчас важнее, чем когда-либо? И как нам принимать правильные решения, когда закон отстает от реальности и границы – или то, что я называю «гранью», «передовой», – размыты? Передовая – это та точка, где закон больше не защищает нас и наши решения должна определять только этика. Даже там, где закон действует эффективно, это наименьший общий знаменатель, а не высший и даже не достаточно высокий стандарт поведения. Этика должна действовать сверх закона, помимо его.
В этой главе объясняется, как важно исключить бинарность. Это один из шести шагов, которые подразумевает этичное принятие решений на передовой. Бинарные решения предполагают, что надо осуществить выбор между двумя понятными вариантами, например, корпорации Boeing пришлось выбирать между защитой жизней или собственной прибылью. Но большинство этических решений, особенно на передовой, требуют, чтобы мы отказались от бинарности, подавили свойственное нам желание чрезмерно упрощать этические вопросы, превращая их в упражнение по выбору той или иной стороны: «да или нет», «черное или белое», «хорошее или плохое». Часто мы стремимся классифицировать людей, поведение и действия как «этичные» или «неэтичные». Как вы увидите, такое навешивание этических ярлыков или присвоение кодовых обозначений нельзя считать этичным процессом принятия решений.
Бинарные решения могут требовать углубленных дискуссий о рисках и возможностях, например, о том, должна ли компания продавать технологии дронов правительству. Ответы на бинарные вопросы могут быть и простыми. Например, вопросы из разряда «Должны ли платформы социальных сетей допускать торговлю людьми в целях сексуальной эксплуатации?» и «Следует ли учителю допускать травлю в классе?» требуют такого однозначного ответа: нет.
Однако на передовой этики мы чаще сталкиваемся с такими сложными этическими вопросами, которые не будут бинарными: они включают разные оттенки серого и постоянно изменяющееся соотношение рисков и возможностей для всех сторон. Поскольку мир вокруг нас меняется, этические границы размываются, мы часто оказываемся перед этическими дилеммами, на которые редко удается дать простой ответ.
Нам часто приходится заменять вопросы из разряда «Следует ли мне…?» более открытыми и реалистичными вопросами вроде того, который я задала себе о Boeing: «Когда и при каких обстоятельствах мне следовало бы…?» Формулировка наших этических дилемм в небинарных терминах помогает закрепить наш выбор в реальности. Как я говорю своим студентам, вы можете сколько угодно «заниматься этикой» в отрыве от реальности, но жить вам придется со вполне реальными последствиями.
Большинство решений, которые нам необходимо принять, будут небинарными. Но я начала с ситуации с Boeing, чтобы проиллюстрировать, что все же выбор «правильно или неправильно», «да или нет» существует. История с корпорацией Boeing – пример по-настоящему бинарного решения… и неправильного ответа. Вопросы были прямолинейными, а ставки – максимально высокими.
Прежде чем мы начнем анализировать решения, принятые Boeing, нам необходимо лучше разобраться в том, как конструкция самолета Max привела к падению корпорации. Все началось в 2010 году, когда главный соперник компании, французский авиастроитель Airbus, объявил о запуске нового самолета, который будет сжигать на 20 % меньше горючего[45 - Заявление об Airbus A320, 1 декабря 2010 г., https://www.airbus.com/newsroom/press-releases/en/2010/12/airbus-offers-new-fuel-saving-engine-options-for-a320-family.html; заявление о сокращении расхода топлива на 20 %, Airbus, 23 сентября 2014 г., https://www.airbus.com/newsroom/press-releases/en/2014/09/a320neo-family-sets-new-standards-with-20-reduced-fuel-burn.html; и заявление Boeing, 30 августа 2011 г., https://boeing.mediaroom.com/2011-08-30-Boeing-Introduces-737-Max-With-Launch-of-New-Aircraft-Family (все по данным на 26 марта 2020 г.).]. Когда в Boeing узнали о том, что их давний клиент авиакомпания American Airlines рассматривает возможность приобретения двухсот новых французских самолетов, они немедленно вступили в конкурентную борьбу[46 - Коллектив бизнес-отдела Seattle Times, «Временная шкала: Краткая история Boeing 737 Max», Seattle Times, 5 мая 2019 г., https://www.seattletimes.com/business/boeing-aerospace/timeline-brief-history-boeing-737-Max. «Американские авиалинии» закажут 260 самолетов Airbus и 200 самолетов Boeing Max: Nicola Clark, «Заказ самолета “Американскими авиалиниями” – удача для конкурента Boeing», New York Times, 20 июля 2011 г., https://www.nytimes.com/2011/07/21/business/global/american-places-record-order-with-2-jet-makers.html].
Проектирование нового судна могло занять десять лет, потребовалось бы дорогостоящее обучение пилотов, поэтому вместо этого корпорация Boeing решила обновить уже существующую модель 737, снабдив ее новыми топливосберегающими двигателями[47 - David Gelles, Natalie Kitroeff, Jack Nicas и Rebecca R. Ruiz, «Boeing устроил гонку с производством 737 Max, чтобы обогнать Airbus», New York Times, 23 марта 2019 г., https://www.nytimes.com/2019/03/23/business/boeing-737-max-crash.html; и Alec MacGillis, «Дело против Boeing», The New Yorker, 11 ноября 2019 г., https://www.newyorker.com/magazine/2019/11/18/the-case-against-boeing]. В августе 2011 года совет директоров Boeing одобрил запуск в 2017 году переоборудованной модели 737, которая стала известна как Max. Еще до начала строительства компания успела получить 496 заказов на новые топливосберегающие самолеты[48 - Boeing Media Room, «Boeing запускает новое семейство двигателей 737 с обязательствами на 496 самолетов для пяти авиакомпаний», 30 августа 2011 г., https://boeing.mediaroom.com/2011-08-30-Boeing-Launches-737-New-Engine-Family-with-Commitments-for-496-Airplanes-from-Five-Airlines].
Инженеры Boeing вскоре выяснили, что при установке массивных современных двигателей на самолет, изначально построенный в 1967 году, возникают серьезные проблемы[49 - «Исторический снимок», Коммерческий транспорт 737, Boeing, по данным на 17 апреля 2020 г., https://www.boeing.com/history/products/737-classic.page]. Например, у модели 737 остается совсем небольшое расстояние между корпусом самолета и землей, поэтому под крыльями судна просто не хватало места для размещения двигателей большего размера. В результате новые двигатели переместили немного выше крыла и продвинули вперед[50 - «Boeing 737 Max: Анализ дизайна, развития и маркетинга самолета», слушания перед Комитетом транспорта и инфраструктуры, палата представителей конгресса, 30 октября 2019 г., https://www.govinfo.gov/content/pkg/CHRG-116hhrg38282/pdf/CHRG-116hhrg38282.pdf. Р. 4.]. Но это нарушило всю аэродинамику[51 - «Служебная записка о предварительном проектном решении», с. 119, «Boeing 737 Max: Анализ дизайна, развития и маркетинга самолета».]: когда самолет был на полной тяге во время взлета, нос часто задирался слишком высоко, вызывая сваливание. Поначалу инженеры оценивали идею изменения формы крыльев или добавления к крыльям небольших металлических лопастей, чтобы изменить аэродинамику[52 - Dominic Gates и Mike Baker, «История MCAS изнутри: Как система Boeing 737 MAX наращивала влияние и потеряла предохранительные устройства», Seattle Times, 22 июня 2019 г., https://www.seattletimes.com/seattle-news/times-watchdog/the-inside-story-of-mcas-how-boeings-737-max-system-gained-power-and-lost-safeguards/; и Jack Nicas, Natalie Kitroeff, David Gelles и James Glanz, «Boeing встроил в 737 Max смертоносные допущения», New York Times.]. Когда эти варианты не сработали, компания Boeing разработала в качестве программного решения систему MCAS[53 - «Обновления программного обеспечения 737 Max», Boeing, https://www.boeing.com/commercial/737max/737-max-software-updates.page; Gates и Baker, «История MCAS изнутри»; Ralph Vartabedian, «Как дизайн пятидесятилетней давности вернулся, чтобы создать проблемы Boeing с ее злополучным самолетом 737 Max», Los Angeles Times, 15 марта 2019 г., https://www.latimes.com/local/california/la-fi-boeing-max-design-20190315-story.html; и Gelles et al. «Boeing устроил гонку с производством 737 Max, чтобы обогнать Airbus».]. MCAS изначально была создана так, чтобы учитывать входные сигналы от двух источников: от одного из датчиков угла атаки и о перегрузке. Если и угол атаки, и перегрузка были слишком велики, MCAS тонко отрегулировала бы положение хвоста самолета, чтобы опустить нос. Но затем инженеры поняли, что самолет может испытывать аэродинамическую нестабильность не только на высоких, но и на низких скоростях, поэтому они убрали фактор перегрузки как механизм запуска системы MCAS. Это означало, что теперь активировать MCAS мог и один датчик угла атаки[54 - «MCAS», с. 5, «Boeing 737 Max: Анализ дизайна, развития и маркетинга самолета».].
ФАА сертифицировало систему MCAS и ее активацию с помощью одного датчика, основываясь на предварительном «анализе безопасности системы», который компания Boeing предоставила надзорным органам. Но впоследствии инженеры Boeing сделали MCAS более мощной и интенсивной – без обновления сертификационных документов ФАА. К тому времени, когда самолеты были доставлены заказчикам, MCAS могла перемещать хвост в четыре раза дальше, чем предполагалось изначально, и могла автоматически перезагружаться, снова и снова опуская нос самолета, даже когда пилот поднимал его. Согласно показаниям руководства Boeing, летный экипаж уже был обучен обращению с тем, что называется «неуправляемым стабилизатором», – по сценарию, при котором нос самолета также опускается. Из-за этого руководство Boeing «предположило», что пилоты будут реагировать на ошибочную активацию MCAS и решат эту проблему таким же образом: щелкнут переключателями на панели управления и отключат эту систему[55 - См. с. vi, «4. Изменения в процессе сертификации», и с. 30, а также «Данные», разделы F6.1-A, F6.4-A, F6.7-A и F10.5-A в «Boeing 737 Max: Система управления полетом. Наблюдения, выводы и рекомендации», представленные заместителю администратора по авиационной безопасности, Федеральное авиационное управление США, 11 октября 2019 г., https://www.faa.gov/news/media/attachments/Final_JATR_Submittal_to_FAA_Oct_2019.pdf; Dominic Gates, «Ошибочный анализ, провалившийся контроль: как Boeing и ФАА сертифицировали подозреваемую систему управления полетом 737 MAX», Seattle Times, 17 марта 2019 г., https://www.seattletimes.com/business/boeing-aerospace/failed-certification-faa-missed-safety-issues-in-the-737-max-system-implicated-in-the-lion-air-crash/; и Tangel et al. «Четырехсекундная катастрофа: Как компания Boeing обрекла 737 MAX».].
Ошибочные предположения Boeing привели к нескольким неверным шагам. Во-первых, эти предположения были основаны на том факте, что в ходе испытаний опытные пилоты Boeing смогли распознать опасность заваливания носа, щелкнуть переключателями и взять под контроль самолет за четыре секунды. Но при испытаниях не учитывались хаотические ситуации в кабине или другие возможные переменные. Национальный совет по безопасности на транспорте США (NTSB) указал в своем официальном отчете за 2019 год, что ФАА должно разработать новые стандарты проектирования и потребовать внедрения бортовых диагностических инструментов для повышения эффективности пилотирования. Национальный совет также отметил, что «отраслевые эксперты обычно признают, что система самолета должна быть спроектирована таким образом, чтобы последствия любой ошибки человека были ограничены»[56 - «Допущения, используемые в процессе оценки безопасности, и влияние многочисленных предупреждений и индикаций на работу пилота», с. 12–13, Национальный совет по безопасности на транспорте, 19 сентября 2019 г., https://www.ntsb.gov/investigations/AccidentReports/Reports/ASR1901.pdf].
Кроме того, компания Boeing с одобрения ФАА поставила самолеты Max (с активацией MCAS одним датчиком) без дополнительной подготовки пилотов и без упоминания MCAS в руководстве по эксплуатации. Первый пилот в отставке Чесли «Салли» Салленбергер, прославившийся тем, что в 2009 году благополучно посадил самолет на воды реки Гудзон в Нью-Йорке, в июне 2019 года объяснил подкомитету конгресса: «Я сомневаюсь, что до этих происшествий кто-либо из пилотов американских авиакомпаний сталкивался с подобным сценарием при обучении на тренажерах»[57 - Обе цитаты можно найти на с. 24 документа «Статус Boeing 737 Max: Мнения заинтересованных сторон», слушания перед подкомитетом по авиации Комитета транспорта и инфраструктуры, палата представителей конгресса, 19 июня 2019 г., https://www.congress.gov/116/meeting/house/109642/documents/CHRG-116hhrg37476.pdf]. Он также настаивал на том, что нельзя заставлять пилотов компенсировать «внутренние дефекты» в конструкции самолета.
В этом случае причина принятия неверных решений отчасти кроется в том факте, что ФАА наделяло Boeing все большими и большими полномочиями в отношении сертификации безопасности. Смысл в том, чтобы привлекать к этому инженеров компании, в какой-то мере есть[58 - Как сообщил комитету сената в марте 2019 г. заместитель директора ФАА, «нашему сертификационному бюро потребовалось бы еще примерно 10 000 сотрудников и еще 1,8 миллиарда долларов», чтобы осуществлять весь процесс самим. Jeremy Bogaisky, «Вы хотите, чтобы ФАА занималась только сертификацией самолетов? Дайте мне еще 10 000 сотрудников и 1,8 миллиарда долларов, – говорит руководитель конгрессу», Forbes, 27 марта 2019 г., https://www.forbes.com/sites/jeremybogaisky/2019/03/27/want-faa-to-do-aircraft-certification-alone-give-me-10000-more-employees-and-18-billion-chief-tells-congress/#43f1812a14dc. См. также Reuters, «ФАА сообщает сенату США, что им нужно еще 10 000 новых сотрудников и 1,8 миллиарда долларов, чтобы полностью взять на себя сертификацию», 27 марта 2019 г., https://www.reuters.com/article/us-ethiopia-airline-congress-faa/faa-tells-u-s-senate-it-would-need-10000-new-employees-1-8-billion-to-assume-all-certification-idUSKCN1R82FT]. У Boeing достаточно опыта, чтобы помогать ФАА с отдельными аспектами, на которые у последнего нет ресурсов или времени. Первоначально инженеры по сертификации назначались ФАА, подчинялись непосредственно своим коллегам в ФАА и получали оплату от Boeing. Но в 2004 году система изменилась[59 - См. с. 3, «4. Конфликтующее представление» и «5. Влияние Boeing на недосмотр со стороны ФАА» в отчете «Самолет Boeing 737 MAX: Цена, последствия и уроки, вынесенные на основе его дизайна, развития и сертификации», представленном Демократическим составом комитета палаты представителей по транспорту и инфраструктуре для председателя Питера А. Де Фацио, председателя подкомитета по авиации Рика Ларсена и членов комитета, март 2020 г., https://transportation.house.gov/imo/media/doc/TI%20Preliminary%20Investigative%20Findings%20Boeing%20737%20MAX%20March%202020.pdf; также репортажи из Seattle Times и New York Times: для обоих дали интервью «более дюжины» инженеров компании Boeing и других людей, принимавших участие в процессе сертификации. Dominic Gates и Mike Baker, «Инженеры утверждают, что в Boeing настаивали на ограничении испытаний мер безопасности в гонке по сертификации самолетов, включая 737 MAX», Seattle Times, 5 мая 2019 г., https://www.seattletimes.com/business/boeing-aerospace/engineers-say-boeing-pushed-to-limit-safety-testing-in-race-to-certify-planes-including-737-max/; Dominic Gates, «Ошибочный анализ, провалившийся контроль: как Boeing и ФАА сертифицировали подозреваемую систему управления полетом 737 MAX»; Nicas et al., «Boeing встроил в 737 Max смертоносные допущения…»; и Natalie Kitroeff, David Gelles и Jack Nicas, «Корни кризиса с Boeing 737 Max: Регулирующий орган ослабляет контроль», New York Times, 27 июля 2019 г., https://www.nytimes.com/2019/07/27/business/boeing-737-max-faa.html]: теперь их назначали – и руководили ими – менеджеры Boeing, принимавшие окончательные решения о том, что будет представлено ФАА. Эти изменения дали менеджерам Boeing больше полномочий, а инженерам по сертификации – меньше независимости, и корпорация Boeing воспользовалась этими изменениями, обратив их в свою пользу.
Расследования, проведенные американскими газетами New York Times и Seattle Times, показали, что руководство Boeing было настолько одержимо стремлением опередить Airbus, настолько сосредоточено на скорости производства и стоимости, что инженеры были вынуждены представлять технические планы «вдвое быстрее обычного», а менеджеры работали в «сжатые сроки и с ограниченным бюджетом». Один из информаторов утверждал, что в трех разных случаях компания отклоняла те меры безопасности, которые могли бы предотвратить роковые катастрофы[60 - Gelles et al. «Boeing устроил гонку с производством 737 Max, чтобы обогнать Airbus»; Gates и Baker, «Инженеры утверждают, что в Boeing настаивали на ограничении испытаний мер безопасности в гонке по сертификации самолетов, включая 737 MAX»; Dominic Gates, Steve Miletich и Lewis Kamb, «По словам осведомителя, в Boeing отказались от обновлений мер безопасности 737 MAX перед смертельными катастрофами», Seattle Times, 2 октября 2019 г., https://www.seattletimes.com/business/boeing-aerospace/boeing-whistleblowers-complaint-says-737-Max-safety-upgrades-were-rejected-over-cost/; и с. 2, «1. Давление в производственном процессе» в отчете «Самолет Boeing 737 MAX: Цена, последствия и уроки, вынесенные на основе его дизайна, развития и сертификации». Компания Boeing в газете the New York Times утверждала: «Программа Max была запущена в 2011 г. Ее предложили клиентам в сентябре 2012 г. Четко определенная конфигурация самолета была достигнута в июле 2013 г. Первый завершенный 737 Max 8 сошел с завода в Рентоне в ноябре 2015 г.». Компания добавила: «Процесс длительностью несколько лет вряд ли можно оценивать как спешку» и еще: «Разработанное решение должно было предлагать клиентам наилучшую стоимость, включая операционные экономические показатели, а также сроки, что, несомненно, было очень важным фактором». А также: «Когда мы проектируем, строим и обслуживаем наши самолеты, наш наивысший приоритет – безопасность». В заявлении газете Seattle Times компания Boeing сказала, что в компании «действуют строгие процедуры как для обеспечения тщательного рассмотрения таких жалоб, так и для защиты конфиденциальности сотрудников, которые их подают». А также «соответственно, Boeing не комментирует существо или наличие таких внутренних жалоб».].
Процесс принятия решений в Boeing был свернут, когда в компании увлеклись гонкой к финишной черте, а также и позже. В 2017 году, через несколько месяцев после поставки самолетов, в компании Boeing обнаружили сбой с предупреждением о расхождении показаний датчиков угла атаки[61 - «Заявление Boeing о расхождении в показаниях датчиков угла атаки», по данным на 27 декабря 2019 г., https://boeing.mediaroom.com/news-releases-statements?item=130431; также David Gelles и Natalie Kitroeff, «В Boeing были уверены, что аварийная сигнализация в 737 Max была в стандартной комплектации. Но это было не так», New York Times, 5 мая 2019 г., https://www.nytimes.com/2019/05/05/business/boeing-737-max-warning-light.html; также Tracy Rucinski и David Shepardson, «Компания Boeing не сообщала ФАА о проблеме с 737 MAX в течение 13 месяцев», Reuters, 5 мая 2019 г., https://www.reuters.com/article/us-ethiopia-airplane-boeing/boeing-did-not-disclose-737-max-alert-issue-to-faa-for-13-months-idUSKCN1SB0JC, тут говорится, что решение Boeing сохранить оповещение о расхождении показаний датчиков угла атаки в стандартной комплектации «возвращает нас к тому, что мы видели на дисплеях предыдущих моделей 737NG примерно с середины прошлого десятилетия».]. Предупреждение о несогласии – это стандартная функция, которая сообщает пилоту, что два датчика угла атаки имеют разные показания: это говорит о том, что один из датчиков, возможно, вышел из строя. Сбой, как обнаружили в Boeing, заключался в том, что предупреждение о несогласии в самолетах Max ошибочно связывалось со второй необязательной функцией, «индикатором датчиков угла атаки», которая была премиальной функцией. Это означало, что если перевозчик не покупал опцию «премиум», предупреждение о несогласии у него не срабатывало. Компания Boeing не уведомила об этом ни покупателей, ни пилотов[62 - Только 5 мая 2019 г., через два месяца после второй катастрофы, компания Boeing раскрыла эту проблему в пресс-релизе «Заявление Boeing о сигналах о расхождении в показателях датчиков угла атаки».]. Вместо этого она решила подождать до следующего запланированного обновления программного обеспечения в 2020 году, чтобы исправить ошибку[63 - «Заявление Boeing о сигналах о расхождении в показателях датчиков угла атаки», также Mike Baker, «Компания Boeing не планировала исправлять аварийную сигнализацию 737 MAX до 2020 г.», Seattle Times, 7 июня 2019 г., https://www.seattletimes.com/business/boeing-aerospace/boeing-didnt-plan-to-fix-737-max-warning-light-until-2020/].
Предупреждение о несогласии могло бы проинформировать пилотов компаний Lion Air и Ethiopian Airlines о неисправности одного из датчиков, что могло бы помочь им быстрее распознать проблему. Но ни один из этих перевозчиков не оплатил опцию «премиум», поэтому предупреждение у них не сработало. Такой индикатор для датчиков угла атаки приобрели примерно 20 % всех клиентов Max; следовательно, только эти 20 % также располагали этим средством обеспечения безопасности. Даже среди трех американских перевозчиков, которые купили самолеты Max, за премиальный вариант заплатили лишь American Airlines и Southwest Airlines, а United Airlines – нет[64 - Hiroko Tabuchi и David Gelles, «Обреченным самолетам Boeing не хватало двух функций безопасности, которые компания продавала только как дополнительные опции», New York Times, 21 марта 2019 г., https://www.nytimes.com/2019/03/21/business/boeing-safety-features-charge.html; Andy Pasztor, «Компания Boeing не сообщила авиакомпаниям и ФАА, что отключила аварийную систему», Wall Street Journal, 28 апреля 2019 г., https://www.wsj.com/articles/boeings-enduring-puzzle-why-certain-safety-features-on-737-max-jets-were-turned-off-11556456400; также Amanda Macias сообщает, что авиакомпания Southwest предприняла шаги, чтобы активировать индикатор несогласия после крушения Lion Air: «В Boeing только после катастрофы Lion Air сообщили отделу безопасности авиакомпании Southwest, что на 737 Max система предупреждений об опасности отключена», CNBC News, 28 апреля 2019 г., https://www.cnbc.com/2019/04/28/boeing-didnt-tell-southwest-that-safety-feature-on-737-max-was-turned-off-wsj.html].
Модель Max 8 была запущена в эксплуатацию в 2017 году и быстро стала самым продаваемым самолетом Boeing в истории[65 - Сайт Boeing, архив Wayback Machine, по данным на 25 декабря 2019 г., https://web.archive.org/web/20191225100949/https://www.boeing.com/commercial/737Max/] – ошеломительный успех… пока вскоре пилоты не оказались вынуждены вести бой против своих самолетов, а сами самолеты не упали с небес на землю. Модель Max была призвана укрепить позицию Boeing как самого уважаемого и успешного производителя самолетов в мире. Вместо этого она пролила свет на этическую проблему, решение которой нельзя откладывать.
* * *
Давайте рассмотрим три важных бинарных решения, с которыми столкнулась компания Boeing.
Во-первых, в 2017 году ее руководители осознали, что они сделали средство обеспечения безопасности (предупреждение о несогласии датчиков угла атаки) премиальным вариантом, а не стандартом. На этом этапе вопрос звучал так: будем ли мы делать это достоянием общественности и все исправлять или нет?
Компания Boeing решила придерживаться позиции, согласно которой предупреждение о несогласии предоставляет только «дополнительную информацию» и не является средством обеспечения безопасности[66 - В «Заявлении Boeing о сигналах о расхождении в показателях датчиков угла атаки» компания Boeing сказала: «Они дают только дополнительную информацию и никогда не считались мерами безопасности для коммерческих транспортных самолетов».]. Возможно, так оно было и с более старыми моделями 737, но в Boeing должны были знать, что мощный характер системы MCAS превратил это предупреждение в необходимую функцию безопасности, предоставляющую пилотам важную информацию. Компания Boeing не сообщила об этом и не исправила эту ошибку, решив вместо этого исправить ее через три года при обновлении программного обеспечения[67 - «Заявление Boeing о сигналах о расхождении в показателях датчиков угла атаки»; также Baker, «Компания Boeing не планировала исправлять аварийную сигнализацию 737 MAX до 2020 г.».].
Во-вторых, после того как в Индонезии разбился первый самолет, выбор был таким: отзываем ли мы самолеты до тех пор, пока не выясним наверняка, что стало причиной катастрофы, и не сможем исправить это и соответствующим образом обучить пилотов, или мы будем продолжать полеты на этих самолетах? Компания не только продолжала полеты; она также заняла бессовестную позицию, обвинив во всем пилотов. «Мы использовали стандартное для нашей отрасли предположение о пилотах и о том, какие у них бывают реакции», – свидетельствовал главный инженер Boeing Джон Гамильтон на слушаниях в сенате США в октябре 2019 года[68 - Главный инженер Boeing Джон Гамильтон выступал как свидетель в сенате США, в Комитете по коммерции, науке и транспорту на слушаниях по авиационной безопасности и вопросу будущего Boeing 737 MAX 29 октября 2019 г.: https://www.commerce.senate.gov/2019/10/aviation-safety-and-the-future-of-boeing-s-737-max/dd0f5a92-0362-45e8-bab1-957d0e82f168. См. также с. 123 «Промежуточного отчета о расследовании катастрофы B737-8 (MAX)»; с. 6 «Четыре допущения из их числа были следующими» и с. 7 «Анализ: допущения о распознавании ситуации и реакции пилота при оценке безопасности» в материале «Допущения, используемые в процессе оценки безопасности, и влияние многочисленных предупреждений и индикаций на работу пилота», Национальный совет по безопасности на транспорте, 19 сентября 2019 г., https://www.ntsb.gov/investigations/AccidentReports/Reports/ASR1901.pdf; и с. 3 «2. Ошибочные допущения» в «Самолет Boeing 737 MAX: Цена, последствия и уроки, вынесенные на основе его дизайна, развития и сертификации».]. Поскольку неправильные условия работы MCAS были похожи на проблему с неконтролируемым стабилизатором, руководство Boeing предположило, что пилоты должны были знать, что следует щелкнуть переключателями и отключить MCAS. Но, как ранее в том же году заявил конгрессу капитан Салленбергер, пилоты заслуживают того, чтобы летать на самолетах, на которых «не установлены непреднамеренные ловушки»[69 - Цитату капитана Салленбергера можно найти на с. 24 документа «Статус Boeing 737 Max: Мнения заинтересованных сторон», слушания перед подкомитетом по авиации Комитета по транспорту и инфраструктуре, палата представителей конгресса, 19 июня 2019 г., https://www.congress.gov/116/meeting/house/109642/documents/CHRG-116hhrg37476.pdf].
Вне зависимости от того, что пилоты должны были или не должны были знать, неисправное программное обеспечение Boeing также послужило причиной гибели 189 человек. Это бинарное решение, здесь есть однозначный ответ: отозвать самолеты, а затем устранить нарушения в системах безопасности и обучить пилотов.
Время принимать третье решение, как для Boeing, так и для ФАА, настало, когда в Эфиопии разбился второй самолет: разрешаем ли мы самолетам продолжать полеты или нет? Вместо того чтобы запретить самолетам все рейсы, глава корпорации Мюленбург позвонил президенту Трампу, чтобы заверить его, что полеты безопасны. Компания Boeing настаивала на том, чтобы самолеты Max 737 продолжали летать, и ФАА это разрешило, хотя более шестидесяти стран уже дали им правильный ответ.
Кризис Boeing показывает, что даже простой выбор из двух вариантов можно сделать ошибочно, если мы не сможем интегрировать в процесс принятия решений этику. Если мы не в состоянии правильно ответить на бинарные вопросы, даже когда на кону стоит человеческая жизнь, тогда у нас возникнут гораздо более серьезные проблемы, когда границы станут более размытыми и мы столкнемся с необходимостью принимать небинарные решения.
Если говорить об этике на передовой, сложные этические проблемы в общем и целом требуют, чтобы мы сосредоточились на отключении бинарного мышления, потому что оно способствует упрямству и может привести к чрезмерно упрощенным «правильным» или «неправильным» решениям, не основанным на реальности. Проблемы, лежащие в основе нереалистичного выбора одного из двух вариантов, который, как мы видели, наблюдается по всему миру, – например, с вопросом, должна ли Великобритания оставаться в Евросоюзе либо выйти из него (брексит) или следует ли США построить стену на южной границе с Мексикой, – требуют более тонкого подхода к принятию решений.
