скачать книгу бесплатно
В распоряжении наших потомков могут оказаться целые эпохи, когда они будут исследовать эти новые вершины новыми способами. И речь здесь не только о благосостоянии. Что бы вы ни ценили – красоту, понимание, культуру, сознание, свободу, приключения, открытия, искусство, – наши потомки сумеют вывести все это на новый уровень, а может, даже обнаружить совершенно новые категории ценностей, пока нам вовсе незнакомые. Музыку, которую нам не дано услышать.
Пропасть
Но это будущее под угрозой. Дело в том, что недавно случился еще один сдвиг в нашей способности менять мир, и этот сдвиг не менее значителен, чем неолитическая, научная и промышленная революции, которые ему предшествовали.
Со взрывом первой атомной бомбы человечество вступило в новую эпоху[50 - Сложно сказать, когда именно началась новая эпоха. Я выбрал первый взрыв атомной бомбы, поскольку он принес возможность разрушить весь мир, накалив атмосферу (см. подробнее в главе 4). Можно выбрать и более позднюю дату, когда ядерные арсеналы стали достаточно велики, чтобы угроза наступления ядерной зимы оказалась действительно реальной. Если расширить идею от вымирания до экзистенциального риска (см. главу 2), то можно, вероятно, начать отсчет эпохи на несколько лет раньше и связать датировку с угрозой глобального тоталитаризма, которую принесла с собой Вторая мировая война.]. В тот момент наша быстро нарастающая технологическая мощь наконец достигла уровня, на котором мы обрели способность уничтожить самих себя. Впервые в истории внутренняя угроза человечеству перевешивает угрозы внешнего мира. Будущее человечества висит на волоске. Все завоевания наших предков могут быть растеряны, а достижения наших потомков – отвергнуты. Бо?льшая часть книги человеческой истории окажется ненаписанной, рассказ прервется, страницы останутся белыми.
С появлением ядерного оружия власть человека над окружающим миром резко возросла. Единственная бомба, сброшенная на Хиросиму, погубила многие тысячи человек. А в одной термоядерной бомбе, изобретенной шесть лет спустя, содержалось больше энергии, чем во всей взрывчатке, использованной в ходе Второй мировой войны[51 - Это было испытание “Айви Майк”, проведенное в США в 1952 году. Мощность взрыва составила 10,4 мегатонны (в тротиловом эквиваленте, который используется в качестве стандартной единицы взрывной мощности), в то время как совокупная мощность взрывчатки, использованной за всю Вторую мировую войну (включая бомбардировку Хиросимы и Нагасаки), составила около 6 мегатонн (Pauling, 1962). Но лишь через несколько лет термоядерное оружие удалось уменьшить в достаточной степени, чтобы его смог поднять бомбардировщик.].
Стало очевидно, что война таким оружием изменит планету беспрецедентным в истории человечества образом. Мировые лидеры, ученые-атомщики и общественные деятели начали всерьез полагать, что ядерная война может положить конец человечеству, которое ждет либо уничтожение, либо полный крах цивилизации[52 - Обратите внимание, что многие уважаемые ученые самоуверенно заявляли о неминуемом уничтожении человечества в XX веке. См. Pinker (2018, p. 309).]. Поначалу опасения вызывали радиоактивные осадки и ущерб озоновому слою, но в 1980-х годах акцент сместился на сценарий, называемый ядерной зимой, во время которой ядерные огненные смерчи будут поднимать дым из горящих городов в верхние слои атмосферы[53 - Это вовсе не доказано. Даже сегодня существует слишком мало исследований на тему того, что именно станет главным разрушительным механизмом в случае ядерной войны.]. Высоко над облаками дым не вымывается дождем и потому будет сохраняться годами, коптя небо, охлаждая Землю и приводя к серьезному неурожаю злаков. Так ядерная война может привести к сильнейшему голоду не только в противоборствующих странах, но и во всех странах мира. Миллионы людей погибнут непосредственно от взрывов, а затем миллиарды умрут от истощения и – возможно – в результате коллапса человечества.
Насколько мы близки к такой войне? На кону стоит очень многое, и ядерная война не выгодна никому. Можно ожидать, что такие очевидные опасности обеспечат определенную степень защиты, а мировые лидеры неизбежно будут отступать, не пересекая последнюю черту. Однако по мере обнародования все новой и новой закулисной информации о холодной войне становится очевидно, что мы едва избежали полномасштабного ядерного конфликта.
Мы видели, как вмешательство единственного человека, капитана Василия Архипова, возможно, предотвратило настоящую ядерную войну на пике Карибского кризиса. Но еще поразительнее то, сколько раз за эти несколько дней мы оказывались на пороге катастрофы и спасались только благодаря решениям отдельных людей.
Основные события кризиса уложились в одну неделю. В понедельник, 22 октября 1962 года, президент США Джон Кеннеди выступил по телевидению с речью и сообщил американцам, что СССР начал размещать стратегическое ядерное вооружение на Кубе, тем самым создавая прямую угрозу США. Он предупредил, что любое применение этого вооружения приведет к ответному полномасштабному ядерному удару по СССР. Его советники подготовили планы для воздушного удара по 48 обнаруженным ракетам и для военного вторжения на Кубу. Американские войска были переведены в состояние повышенной боевой готовности DEFCON 3 в ожидании возможной ядерной войны[54 - По шкале DEFCON определялся уровень готовности войск к боевым действиям, но расшифровка уровней в период холодной войны менялась. Чем меньше цифра, тем более вероятна война. Самым высоким из достигнутых уровней стал DEFCON 2, который был зафиксирован позже во время Карибского кризиса, а также в ходе первой войны в Персидском заливе в 1991 году.].
В среду, 24 октября, США начали морскую блокаду, чтобы воспрепятствовать доставке новых ракет на Кубу, и перевели свои ядерные силы на беспрецедентный уровень боевой готовности DEFCON 2. Ядерные боеголовки были подготовлены к пуску, а бомбардировщики – носители ядерного оружия поднялись в воздух, готовые начать полномасштабную атаку на СССР. Пик кризиса пришелся на субботу, когда СССР сбил американский самолет-разведчик U-2 ракетой класса “земля – воздух”, в результате чего погиб летчик.
Воскресным утром все было кончено. СССР отступил, неожиданно объявив, что уберет все ядерные боеголовки с Кубы. Но все вполне могло закончиться иначе.
Ведутся споры о том, насколько близко этот кризис подвел нас к ядерной войне. Но по мере обнародования подробностей в последующие десятилетия краски сгущались. Кеннеди и Хрущев приложили большие усилия, чтобы не позволить воинственным политикам и генералам пересечь черту[55 - Здесь нельзя не задаться вопросом, насколько опаснее стал бы кризис, если бы у власти в то время пребывали другие люди. Сумели ли бы наши действующие лидеры обеспечить мирное разрешение конфликта?]. Но война вполне могла начаться, даже если этого не хотела ни одна из сторон, как в случае с Первой мировой. В ту неделю события на местах вышли из-под контроля, и лидеры едва смогли предотвратить эскалацию кризиса. США были в шаге от нападения на Кубу, вероятность ядерного ответа в этом случае была гораздо выше, чем кто-либо мог предположить, а это, в свою очередь, вполне могло перерасти в полномасштабную ядерную войну.
Дважды в период кризиса США чуть не начали атаку на Кубу. На пике трений Кеннеди согласился, что если будет сбит U-2, то США немедленно ударят по Кубе, не созывая заново военный совет. В субботу U-2 действительно сбили. И все же Кеннеди передумал и отменил контрудар. Он предъявил СССР секретный ультиматум, в котором пообещал начать атаку с воздуха и почти наверняка полное вторжение, если СССР не согласится убрать боеголовки в течение суток или если будет сбит еще один самолет.
Этот шаг тоже едва не стал поводом к атаке. Американцы не знали, что Хрущев далеко не в полной мере контролирует свои войска на Кубе. U-2 был сбит советским генералом, нарушившим прямой приказ Хрущева. Еще в меньшей степени Хрущев контролировал кубинские войска, которые уже попали по летящему на небольшой высоте самолету-разведчику из зенитных орудий и очень хотели сбить еще один. Понимая, что он не сможет сдержать собственных союзников, жаждущих сбить очередной самолет, и что в результате это спровоцирует атаку США, Хрущев поспешил выступить с заявлением и положить конец кризису, не дожидаясь возобновления разведывательных полетов утром.
Что случилось бы, если бы США все же начали наступление? Американские лидеры полагали, что исключительно обычная (не ядерная) атака на Кубу спровоцирует аналогичный ответ. Они считали, что СССР в таком случае не станет наносить ядерный удар по материковой части США. Однако они упускали из виду еще один значимый факт. Американцы обнаружили на Кубе лишь часть ракет, которые доставил СССР. Всего на острове было 158 боеголовок. И более 90 из них были тактическим ядерным оружием, которое СССР привез специально, чтобы нанести ядерный удар первым и уничтожить флот вторжения США, прежде чем американцы произведут высадку[56 - Около 100 из этих боеголовок состояли на вооружении во время кризиса: 92 единицы тактического ядерного оружия и 6–8 баллистических ракет средней дальности. Все цифры взяты из работы Norris & Kristen-sen (2012). Численность советских войск также значительно превышала ожидания: на Кубе были дислоцированы не 7 тысяч, а 42 тысячи человек (Ellsberg, 2017, p. 209).].
Более того, Кастро очень хотелось пустить их в ход. Он открыто просил Хрущева выпустить ядерные боеголовки, если американцы попытаются начать вторжение, хотя и понимал, что такой шаг приведет к уничтожению его страны: “Что случилось бы с Кубой? Она была бы полностью уничтожена”[57 - Кастро сказал это на саммите, устроенном по случаю 40 летней годовщины Карибского кризиса, о чем Роберт Макнамара сообщает в документальном фильме “Туман войны” (Morris, 2003). После этого было обнародовано письмо Кастро Хрущеву. В пятницу Кастро написал: “Я полагаю, что агрессия империалистов чрезвычайно опасна, и если они действительно осуществят жестокое вторжение на Кубу в нарушение принципов международного права и морали, настанет момент навсегда положить конец этой угрозе посредством совершенно законного оборонительного выступления; каким бы жестким и ужасным ни был этот шаг, другого выхода не существует”. В воскресенье, выступив с заявлением, что боеголовки (о которых стало известно) будут вывезены с Кубы, Хрущев ответил: “Естественно, если начнется вторжение, необходимо будет дать отпор любыми средствами” (Roberts, 2012, pp. 237–238).]. Совершив еще один беспрецедентный шаг, Хрущев ослабил центральный контроль над тактическим ядерным оружием, передав коды запуска и право принятия решения об открытии огня советскому командующему на месте. Прослушав телеобращение Кеннеди, Хрущев отдал новые приказы не применять оружие без четкого разрешения, но все же опасался, что в пылу конфликта их нарушат, как ранее нарушили его приказ не стрелять по американским самолетам-разведчикам.
Таким образом, хотя американское военное командование этого не знало, атака на Кубу с применением обычного оружия, вероятно, была бы встречена ответным ядерным ударом по американским войскам. Такой удар с большой вероятностью привел бы к ядерному ответу США. Скорее всего, США не ограничились бы атакой на Кубу и развязали бы полномасштабную ядерную войну с СССР. В своем телеобращении в понедельник Кеннеди прямо заявил: “Любой пуск ракеты с Кубы против любого государства в Западном полушарии наша страна будет рассматривать как атаку СССР на США, требующую полномасштабного ответного удара по Советскому Союзу”[58 - Дэниел Эллсберг, занимавший пост военного советника во время Карибского кризиса, говорит так: “Вторжение почти наверняка спровоцировало бы двусторонний обмен ядерными ударами, который с огромной вероятностью вылился бы в массированный ядерный удар США по СССР” (Ellsberg, 2017, p. 210).].
Чрезвычайно сложно оценить вероятность перерастания Карибского кризиса в ядерную войну[59 - Главная трудность в том, что не совсем понятно, о чем вообще идет речь. Мы можем рассуждать о степени уверенности, которую ключевые участники событий ощущали в то время (от 10 до 50 %). Мы также знаем, случилось ли возможное в итоге (в нашем случае нет, или 0 %). Но чувствуется, что можно оценить вероятность объективнее, чем в первом случае, но при этом не ограничиваться вариантами 0 % и 100 %, как во втором. В частности, мы хотели бы учесть информацию, которая стала известна позже, например о присутствии на Кубе тактического ядерного оружия, а также о событиях на подводной лодке Б-59. Мы хотели бы получить ответ примерно на такой вопрос: если бы случилось 100 подобных кризисов, сколько из них привело бы к ядерной войне? Но трактовать слово “подобных” очень сложно. Подозреваю, существует реальная и полезная оценка вероятности для нашего случая, но вряд ли она была должным образом объяснена, поэтому, рассуждая об этом, мы рискуем запутаться.]. Вскоре после него Кеннеди сказал одному из ближайших советников, что, по его мнению, шансы завершения кризиса ядерной войной с СССР были “примерно в диапазоне от одного к трем до равных”[60 - Слова Джона Ф. Кеннеди цит. по: Sorenson (1965), p. 705.]. Недавно стало известно, что в день окончания кризиса Пол Нитце (член военного совета Кеннеди) оценил вероятность в 10 % и счел, что остальные члены совета назвали бы еще более высокую цифру[61 - Ellsberg (2017), p. 199. Не давая оценку вероятности, Макнамара позже сказал: “Помню, как я вышел из Белого дома тем субботним вечером. Стоял чудесный осенний день. Я тогда подумал, что этот закат вполне может стать для меня последним” (Ellsberg, 2017, pp. 200–201).]. Более того, никто из этих людей не знал о тактическом ядерном оружии на Кубе, о том, что Хрущев не контролировал свои войска, а также о произошедшем на подводной лодке Б-59.
Хотя мне не хочется сомневаться в тех, чьи решения вполне могли привести к началу войны, лично я полагаю, что они были настроены чересчур пессимистично, учитывая, что им было известно в то время. Тем не менее, если добавить к их сведениям обнародованную позже информацию о том, что на самом деле происходило на Кубе, мои оценки примерно совпадут с их мнением. Я бы сказал, что вероятность эскалации кризиса в ядерную войну с СССР составляла примерно 10–50 %[62 - В свете всех последних открытий оценка Дэниела Эллсберга такова: “Гораздо больше, чем один к ста, в тот день даже больше, чем один к десяти, как считал Нитце” (Ellsberg, 2017, pp. 220).].
Когда пишешь о таких критических ситуациях, возникает соблазн приравнять их вероятность к вероятности краха цивилизации или уничтожения человечества. Но это было бы большим и ненужным преувеличением. Нам следует сочетать вероятность начала ядерной войны с вероятностью, что такая война приведет к уничтожению человечества или человеческой цивилизации, чего может и не произойти. И все же даже с такими оговорками Карибский кризис остается одним из поворотных моментов в двухсоттысячелетней истории человечества и, возможно, той точкой, когда мы сильнее всего рисковали потерять вообще всё.
Даже теперь, когда холодная война осталась в прошлом, ядерное оружие по-прежнему представляет опасность для человечества. На момент написания этой книги вероятнее всего, пожалуй, ядерный конфликт с участием КНДР. Но не все ядерные войны одинаковы. Количество ядерных боеголовок в арсенале КНДР составляет менее 1 % от запасов России или США, и сами боеголовки значительно меньше. Ядерная война с КДНР стала бы ужасной катастрофой, но в настоящее время она не слишком угрожает долгосрочному будущему человечества[63 - Я особенно удивился в январе 2018 года, когда “Бюллетень ученых-атомщиков” выставил на своих знаменитых “часах Судного дня” время 23:58, поскольку мир “столь же опасен, как после Второй мировой войны” (Mecklin, 2018). Основной причиной для перевода стрелок стало усиливающееся ядерное напряжение между США и КНДР. Часы должны показывать, насколько мы близки к коллапсу цивилизации, но при этом не было предпринято никаких попыток объяснить, почему ситуация опасна для человеческой цивилизации и почему угроза сегодня серьезнее, чем во время Карибского кризиса и других кризисов холодной войны.].
Основной экзистенциальный риск от ядерного оружия сегодня, вероятно, по-прежнему связан с огромными арсеналами России и США. Разработка МБР (межконтинентальных баллистических ракет) дала каждой из сторон возможность уничтожить большую часть ракет противника, потратив лишь тридцать минут на подготовку, и поэтому обе стороны перевели многие ракеты в “состояние повышенной готовности”, благодаря чему их можно запускать всего за десять минут[64 - США по прежнему располагают 450 ракетами шахтного базирования и сотнями ракет подводного пуска, приведенными в состояние повышенной боевой готовности (UCS, n. d.).]. При таком уровне готовности ракеты очень легко запустить случайно или намеренно при ложной тревоге. Как мы увидим в четвертой главе, леденящий душу список ложных тревог продолжает пополняться и по завершении холодной войны. В более длительной перспективе также существует риск, что другие страны создадут собственные огромные арсеналы, что инновации в военных технологиях подорвут логику сдерживания путем устрашения и что сдвиги в геополитической сфере приведут к началу новой гонки вооружения с участием крупных держав.
Человечеству угрожает не только ядерное оружие. Наше внимание направлено именно на него, поскольку оно стало первым серьезным риском и уже грозило человечеству. Но есть и другие риски.
Экспоненциальное повышение благосостояния, которое подтолкнула промышленная революция, сопровождалось стремительным ростом объема выбросов углекислого газа. Незначительный побочный эффект индустриализации в конце концов вылился в глобальную угрозу здоровью, окружающей среде, международной стабильности и, возможно, даже всему человечеству.
Ядерное оружие и изменение климата имеют поразительные сходства и различия. В обоих случаях человечеству грозят существенные сдвиги в температуре Земли, но эти сдвиги направлены в разные стороны. Один из них – результат непредсказуемого научного прорыва, другой – продолжение векового развития старых технологий. Один связан с малым риском внезапной и резкой катастрофы, другой предполагает длительный, постепенный процесс с отложенным началом, где катастрофа в некоторых масштабах неизбежна и неясно только, насколько серьезной она будет. Один сопряжен с секретной военной технологией, контролируемой горсткой могущественных людей, другой – с совокупностью малых воздействий на мир со стороны каждого из его обитателей.
Технологии продолжают развиваться, и на горизонте возникают новые угрозы. Эти угрозы, вероятно, будут похожи скорее на ядерное оружие, чем на изменение климата: они будут возникать из-за неожиданных прорывов, приводить к резким катастрофам и связываться с действиями небольшого числа лиц. Меня особенно заботят две зарождающиеся технологии, которым будет посвящена пятая глава.
С самой неолитической революции мы меняли геном растений и животных, чтобы удовлетворять свои нужды. Но открытие генетического кода и создание инструментов, позволяющих читать и переписывать его, привело к резкому расширению нашей способности перестраивать жизнь с новыми целями. Внедрение биотехнологий приведет к значительному прогрессу в медицине, промышленности и сельском хозяйстве. Но возникнут и риски для цивилизации и самого человечества, и их источниками будут как случайности, которые могут произойти при санкционированных исследованиях, так и возможность создания биологического оружия.
Мы также наблюдаем стремительное расширение способностей систем искусственного интеллекта (ИИ), причем самый серьезный прогресс наблюдается в тех областях, где ИИ традиционно был слабее всего, таких как восприятие, обучение и общий интеллект. Специалисты полагают, что в этом столетии человеческие способности превзойдет не только узкий ИИ, но и общий, то есть умеющий преодолевать разнообразные препятствия для достижения поставленных целей. Человечество смогло обрести контроль над миром именно благодаря своим непревзойденным умственным способностям. Если мы уступим пальму первенства машинам, именно они в итоге займут наше уникальное положение. Это должно заставить нас задуматься, почему именно человечество и дальше будет править миром. Нам нужно научиться соотносить цели все более умных и автономных машин с интересами человечества, и сделать это необходимо прежде, чем такие машины станут сильнее нас.
Эти угрозы человечеству и наши ответы на них определяют наше время. Появление ядерного оружия создало реальный риск уничтожения человечества в XX веке. Технологии развиваются все быстрее, а серьезных усилий для защиты человечества не прикладывается, поэтому есть все основания полагать, что в текущем столетии риск станет еще выше и будет расти с каждым веком, пока продолжается технический прогресс. Поскольку такие антропогенные риски превосходят все природные риски, вместе взятые, именно они определяют, сколько у человечества времени, чтобы отойти от края пропасти.
Я не утверждаю, что вымирание – это неизбежный итог научного прогресса или даже самый вероятный его результат. Я утверждаю, что человечество становится все могущественнее и уже достигло той точки, когда само создает серьезную угрозу собственному существованию. Нам решать, как мы будем работать с этим риском.
Я не призываю и к отказу от технологий. Технологиям принадлежит огромная заслуга в улучшении благосостояния человечества. Кроме того, без технологий человечество не сумеет раскрыть свой потенциал в долгосрочной перспективе. В отсутствие технологий мы были бы обречены из-за совокупного риска таких природных катастроф, как падение астероидов. В отсутствие технологий мы никогда не придем к истинному процветанию, хотя мы могли бы его достичь.
Проблема не столько в переизбытке технологий, сколько в недостатке мудрости[65 - Это связано с “проблемой темпов” (pacing problem), знакомой всем, кто изучает регулирование технологической сферы. Проблема темпов заключается в том, что технологические инновации все сильнее обгоняют способность законов и норм эффективно регулировать эти технологии. Ларри Даунс (2009) отметил: “Технологии меняются экспоненциально, а социальные, экономические и правовые системы – поступательно”.Ключевое различие между двумя контекстами состоит в том, что проблема темпов связана со скоростью технологических изменений, а не с их растущей способностью менять мир.]. Особенно хорошо об этом сказал Карл Саган:
Большинство угроз, с которыми мы сталкиваемся, действительно обусловлены наукой и технологиями, но на более фундаментальном уровне они вызваны тем, что мы стали могущественнее, при этом не став соизмеримо мудрей. Средства изменения миров, полученные нами благодаря технологии, требуют такой осмотрительности и дальновидности, которые не требовались нам никогда ранее[66 - Sagan (1994), pp. 316–317; перевод О. Сивченко.].
Адвокатом этой идеи выступает даже бывший президент США:
Сама искра, которая служит отличительной особенностью нашего вида, – наши мысли, наше воображение, наш язык, наше умение изготавливать инструменты, наша возможность отстраняться от природы и подчинять ее своей воле – всё это также дает нам беспрецедентные способности к разрушению… Технологический прогресс, не сопровождаемый эквивалентным прогрессом в сфере человеческих институтов, обречет нас на гибель. Научная революция, которая привела к делению атома, требует и революции в моральной сфере[67 - Barack Obama, Remarks at the Hiroshima Peace Memorial (2016). Обратите также внимание на слова Джона Ф. Кеннеди, сказанные по случаю двадцатой годовщины с момента первой ядерной цепной реакции (всего через месяц после окончания Карибского кризиса): “Мы добились огромных успехов в применении науки, но наши успехи в налаживании отношений невелики” (Kennedy, 1962).].
Нам нужно обрести эту мудрость, пережить моральную революцию. Поскольку вымирание необратимо, нельзя откладывать дела на потом и ждать, когда угроза воплотится в жизнь. Необходимо действовать заблаговременно. Мудрость не обрести, а моральную революцию не начать в одночасье, поэтому нам пора браться за дело.
Думаю, мы, скорее всего, переживем этот период. Не потому, что трудности незначительны, а потому, что мы сумеем с ними справиться. Упомянутые риски проистекают из действий человека, и одно это показывает, что человек в состоянии на них ответить[68 - В своем стремлении к установлению мира после Карибского кризиса Кеннеди (1963) выразился так: “Проблемы, с которыми мы столкнулись, возникли по вине человека, поэтому и решить их может сам человек. Человек может быть великим настолько, насколько он этого пожелает. Нет такой проблемы в судьбе человечества, которую человечество не могло бы разрешить”.Разумеется, теоретически можно столкнуться с проблемами, возникшими по вине человека и уже прошедшими точку невозврата, но с теми проблемами, которые рассматриваются в этой книге, такого пока не произошло. Мы могли бы предотвратить их даже простым бездействием: перестав делать то, что грозит бедой.]. Пораженчество неуместно и контрпродуктивно, как самосбывающееся пророчество. Нам следует работать с этими рисками, рассуждая трезво и беспристрастно и руководствуясь позитивным видением будущего, которое мы стараемся защитить.
Как серьезны эти риски? Сложно точно ответить на этот вопрос, ведь речь идет о комплексных (то есть не поддающихся простому математическому анализу) и беспрецедентных (то есть не подлежащих аппроксимации по частоте возникновения в долгосрочной перспективе) рисках. И все же очень важно хотя бы попытаться дать количественную оценку. Такие качественные утверждения, как “серьезный риск вымирания человечества”, можно трактовать как риск в диапазоне от 1 до 99 %[69 - Проблема здесь особенно очевидна, поскольку, описывая степень серьезности риска словами, мы часто учитываем и вероятность его наступления, и размер ставок. Проиграть в карты с вероятностью 1 % не так уж страшно, а потерять ребенка с такой же вероятностью – весьма. Аналогичная проблема возникает, когда МГЭИК применяет качественные термины, описывая вероятность различных сценариев изменения климата (Mastrandrea et al., 2010), что, на мой взгляд, ошибочно.]. Они не проясняют ситуацию, а усиливают путаницу. В связи с этим я предлагаю количественные оценки, но с оговоркой, что их нельзя считать точными и можно пересматривать.
Насколько я могу судить, в XX веке риск вымирания человечества или непоправимого коллапса цивилизации составлял примерно один к ста. С учетом всего, что мне известно, я оцениваю экзистенциальный риск в текущем столетии как примерно один к шести: это русская рулетка[70 - Точное определение “экзистенциального риска” см. на с. 47. Это понятие включает в себя риск вымирания, а также риск иными способами навсегда лишить человечество его потенциала, например в результате непоправимого коллапса цивилизации.]. (См. Таблицу 6.1 на с. 199, где приводятся оценки для разных рисков.) Если мы не возьмемся за ум, если мы допустим, чтобы наша сила и дальше нарастала быстрее, чем накапливается мудрость, то стоит ожидать, что этот риск станет еще выше в следующем столетии и далее будет усиливаться от века к веку.
Это самые серьезные риски, с которыми мы когда-либо сталкивались[71 - См. главу 6, где проводится сравнение с уровнем естественного риска.]. Если я хотя бы в общих чертах прав, то с такими рисками многие столетия нам не прожить. Этот уровень риска неприемлем[72 - Об этом говорит Bostrom (2013).]. Следовательно, так или иначе этот период вряд ли продлится больше чем несколько веков[73 - Существуют несколько сценариев, которые могут к этому привести, но я считаю их маловероятными. Так, уровень риска может дойти примерно до одного к шести, но при этом нам посчастливится прожить еще десяток, а то и больше таких столетий. Или, например, нам лишь с переменным успехом удастся контролировать упомянутые риски, в результате чего уровень риска вернется к значениям XX века, но больше не снизится, и тогда мы сможем прожить еще сотню и даже больше веков в таких условиях.]. Либо человечество обретет контроль над собственной судьбой и снизит риск до приемлемого уровня, либо люди уничтожат самих себя.
Представим историю человечества как долгое путешествие по диким землям. В пути случается свернуть не туда и столкнуться с трудностями, но порой быстро преодолеваешь большое расстояние и перед тобой открывается головокружительный вид. В середине XX века мы прошли по высокогорному перевалу и обнаружили, что дальше есть лишь одна дорога – узкая тропинка вдоль ущелья, осыпающийся карниз на краю пропасти. Стоит посмотреть вниз – и кружится голова. Если мы упадем, все будет потеряно. Мы не знаем, насколько вероятно падение, но это самый серьезный риск, с которым мы когда-либо сталкивались.
Этот сравнительно короткий период – уникальное испытание в истории нашего вида. Наш ответ на вызов определит нашу историю. В будущем историки дадут название этому времени, о нем будут рассказывать на школьных уроках. Но я думаю, что название ему не помешает и сейчас. Я называю этот период Пропастью.
Пропасть наделяет наше время огромным смыслом. В огромных масштабах истории – если мы сумеем выжить – наше время запомнится именно этим: высочайшими уровнями риска, а также пробуждением человечества, которое придет к зрелости и гарантирует себе долгое и светлое будущее. В этом и заключается смысл нашего времени.
Я не прославляю наше поколение, но и не пытаюсь выставить нас злодеями. Дело в том, что ставки сегодня чрезвычайно высоки. В зависимости от того, как мы распорядимся своими возможностями, мы станем либо победителями, либо проигравшими. Надеюсь, мы выживем и расскажем своим детям и внукам, что не сидели сложа руки, а воспользовались шансом, чтобы сыграть отведенную нам историческую роль.
Защита человечества от этих опасностей должна быть главной задачей нашего времени. Я не говорю, что в мире нет других проблем и людям следует забыть обо всем, что им важно, ради этого. Но если вы понимаете, как внести свой вклад, – если у вас есть необходимые навыки или если вы молоды и можете самостоятельно прокладывать свой путь, – то, думаю, защита человечества сегодня входит в число самых благородных целей, которым вы могли бы служить.
Пропасть и антропоцен
Становится все более очевидно, что человек оказывает самое значительное влияние на окружающую среду. Ученые приходят к выводу, что человечество занимает центральное место не только в своем представлении, но и при рассмотрении ситуации с объективных позиций биологии, геологии и климатологии. Если в далеком будущем найдутся геологи, они обнаружат, что слой породы, соответствующий нашему времени, фундаментально отличается от прошлых слоев.
В связи с этим современные геологи подумывают о том, чтобы официально изменить классификацию геологического времени и выделить в нем новую эпоху антропоцена. Среди предлагаемых точек ее отсчета – исчезновение мегафауны, неолитическая революция, пересечение Атлантики, промышленная революция и первые испытания ядерного оружия[74 - В мае 2019 года Рабочая группа по антропоцену при Международной комиссии по стратиграфии проголосовала за выделение новой эпохи антропоцена с началом в середине XX века. Официально предложение будет внесено к 2021 году, и тогда будет названа возможная точка отсчета эпохи (Subramanian, 2019). [В конце 2022 года это предложение еще не было принято. – Прим. науч. ред.] В 2017 году рабочая группа отметила, что наиболее вероятным маркером станут отметки, оставленные при испытаниях ядерного оружия (Zalasiewicz et al., 2017).].
Соответствует ли она Пропасти? В чем их различия?
Антропоцен – это время, когда человечество оказывает существенное влияние на окружающую среду, а Пропасть – время, когда человечество всерьез рискует уничтожить само себя.
Антропоцен – это геологическая эпоха, а геологические эпохи, как правило, длятся миллионы лет, в то время как Пропасть – это период человеческой истории (сродни эпохе Просвещения и промышленной революции), который, вероятно, завершится за несколько веков.
Точкой отсчета для обоих может служить первое испытание атомной бомбы, но объясняется такой выбор совершенно по-разному. В случае с антропоценом это событие главным образом обеспечивает удобную датировку эпохи, но в случае с Пропастью отсчет ведется именно от него потому, что ядерное оружие представляет угрозу для выживания человечества.
Глава 2
Экзистенциальный риск
Ключевая роль, отведенная нам как существам моральным, – это роль членов межпоколенческого сообщества, сообщества существ, которые смотрят назад и вперед, трактуют прошлое в свете настоящего, считают будущее продолжением прошлого, чувствуют свою принадлежность к устойчивым семьям, народам, культурам, традициям.
Аннетт Байер[75 - Baier (1981).]
Мы увидели, как длинная кривая человеческой истории привела нас к исключительно важной точке нашего повествования – ко времени, когда наше будущее повисло на волоске. Мы также заглянули в будущее и поняли, что может ждать нас впереди, если только мы сумеем преодолеть риски.
Пора глубже изучить, что стоит на кону и почему защита человечества в этот период имеет такую важность. Для этого нам прежде всего нужно дать определение экзистенциальному риску. Что такое экзистенциальный риск? Как это понятие соотносится с более знакомыми нам идеями о вымирании и крахе цивилизации?
После этого мы проанализируем, почему эти риски требуют повышенного внимания. На мой взгляд, главная причина в том, что мы можем полностью лишиться будущего: того, кем мы могли бы стать и чего могли бы достичь. Но этим дело не ограничивается. Необходимость сберечь свое будущее проистекает также из множества нравственных устоев и традиций. Экзистенциальные риски грозят и разрушить наше настоящее, и предать наше прошлое. Они проверяют цивилизацию на прочность и грозят тому, что, возможно, представляет собой самый сложный и значимый компонент Вселенной.
Если любая из этих причин кажется нам достаточно весомой, то нам предстоит немало сделать, чтобы защитить свое будущее. Дело в том, что экзистенциальным риском обычно пренебрегают и государства, и ученые, и общество. Мы увидим, почему дело обстоит именно так и почему есть основания полагать, что ситуация изменится.
Что такое экзистенциальный риск?
Будущее человечества изобилует возможностями. Мы достигли глубокого понимания обитаемого мира и вышли на такой уровень здоровья и благосостояния, о котором наши предки могли только мечтать. Мы начали исследовать другие миры в небесах у себя над головой и создавать виртуальные миры, непостижимые для наших предков. Границ тому, чего мы можем добиться, почти не существует.
Вымирание человечества закроет наше будущее. Оно уничтожит наш потенциал. Ликвидирует все возможности, кроме одной: мира, лишенного процветающего человечества. Вымирание приведет к возникновению этого обреченного мира и навсегда отрежет любые пути назад.
Философ Ник Бустрём показал, что вымирание – не единственный сценарий, по которому такое может произойти: возможны и другие катастрофические исходы, связанные с потерей не только настоящего, но и потенциала в будущем[76 - См. Bostrom (2002b; 2013).].
Представьте мир в руинах: масштабная катастрофа привела к глобальному коллапсу цивилизации и вернула человечество в состояние, в котором оно пребывало до перехода к сельскому хозяйству. В ходе этой катастрофы окружающей среде был нанесен такой серьезный урон, что у выживших не осталось шанса восстановить цивилизацию. Даже если бы такая катастрофа не привела к вымиранию человечества, она оказала бы сходное влияние на наше будущее. Огромный диапазон возможных вариантов будущего, открытых для нас сегодня, существенно сузился бы. Мы оказались бы в обреченном мире, не имея никакой надежды вернуться назад.
Рисунок 2.1. Классификация экзистенциальных катастроф по типу исхода, который не поддается изменению.
Теперь представьте мир в оковах: в будущем, напоминающем “1984” Джорджа Оруэлла, где вся планета оказалась во власти жестокого тоталитарного режима, решительно настроенного не сдавать своих позиций. Благодаря мощной пропаганде, поддерживаемой технологиями, а также надзору и принуждению, немногочисленные диссиденты не в силах даже отыскать друг друга, не говоря уже о том, чтобы произвести переворот. Так живет все население Земли, и режим не знает угроз – ни внутренних, ни внешних. Если бы такой режим мог поддерживаться бессрочно, погружение в тоталитарный мир имело бы немало общего с вымиранием: у людей осталось бы лишь ограниченное число вариантов будущего и не осталось бы выхода.
Вслед за Бустрёмом я буду называть такие события “экзистенциальными катастрофами”, определяя их следующим образом[77 - Бустрём (2013) определил экзистенциальный риск как риск, “который грозит преждевременным вымиранием возникшей на Земле разумной жизни или необратимым и радикальным уничтожением ее потенциала для желаемого развития в будущем”. Мое определение (и пояснения ниже) соответствует второй половине определения Бустрёма. Я не повторил первую часть, поскольку логически необходимость в ней отсутствует (наше “преждевременное вымирание” само по себе стало бы “необратимым и радикальным сокращением”), а потому она только отвлекает внимание от сути вопроса – от уничтожения нашего долгосрочного потенциала.Обратите внимание, что в соответствии с моими определениями экзистенциальный риск – это просто риск экзистенциальной катастрофы. Я мог бы так и написать, но хотел, чтобы определение было самостоятельным.]:
Экзистенциальная катастрофа – это разрушение долгосрочного потенциала человечества.
Экзистенциальный риск – это риск, грозящий уничтожением долгосрочного потенциала человечества.
Эти определения показывают, что исход экзистенциальной катастрофы и плачевен, и необратим. У нас не просто исчезнет возможность реализовать свой потенциал – сам потенциал тоже будет навсегда потерян. Хотя я хочу оставить официальные определения краткими, несколько аспектов этих понятий требуют пояснения.
Во-первых, долгосрочным потенциалом человечества я считаю совокупность всех возможных вариантов будущего, которые открыты для нас[78 - Я намеренно не указываю, как именно совокупность возможных вариантов будущего определяет наш потенциал. Проще всего сказать, что ценность нашего потенциала соответствует ценности лучшего из открытых для нас вариантов будущего, то есть экзистенциальная катастрофа происходит, когда лучший из оставшихся вариантов будущего оказывается во много раз менее ценным, чем лучший из вариантов, который был у нас ранее. Можно также учесть сложность реализации каждого из возможных вариантов будущего, например определив ценность нашего потенциала как ожидаемую ценность нашего будущего в том случае, если мы пойдем лучшим из имеющихся путей. Но над этим еще предстоит поработать.Определяя, считать ли катастрофу экзистенциальной, я ориентируюсь на уничтожение потенциала человечества, вместо того чтобы сделать акцент на необратимости итога, по двум основным причинам. Во-первых, такое определение удобнее для выявления набора рисков, которые имеют сходные механизмы работы и предполагают сходные стратегии для их предотвращения. Во-вторых, я смотрю на человечество с оптимизмом. Учитывая, что достаточно долгое время наш потенциал оставался невредим, я полагаю, что у нас есть очень большая вероятность его реализовать, а откаты назад будут лишь временными, если только не уничтожат нашу способность к восстановлению. В таком случае вероятность того, что человечество не сможет достичь великого будущего, главным образом связана именно с уничтожением его потенциала, то есть с экзистенциальным риском.]. Это огромный диапазон, куда входит все, чего человечество может добиться в будущем, даже если нам только предстоит изобрести средства достижения своих целей[79 - Потенциал можно определять и иначе – например, в более узком смысле, учитывая только то, на что мы способны сегодня или, вероятно, будем способны завтра. Потенциал такого типа можно увеличить, если работать над расширением своих способностей. Однако в этой книге я рассматриваю только наш долгосрочный потенциал (вкладывая в это понятие тот смысл, который описан в основном тексте). Когда я говорю просто “потенциал” (ради краткости), речь идет о “долгосрочном потенциале”.]. Но отсюда следует, что, если выбор, который мы совершаем сегодня, отсекает часть наших возможностей, он уже не может открыть новые. Таким образом, любое уменьшение потенциала человечества должно считаться необратимым. Сегодня перед нами стоит задача сохранить наш огромный потенциал и защитить его от риска последующего уничтожения. Суть в том, чтобы дать нашим потомкам возможность реализовать этот потенциал и воплотить в жизнь один из лучших открытых для нас вариантов будущего.
Хотя в таком масштабе моя идея может показаться абстрактной, на самом деле мы сталкиваемся с ней изо дня в день. Представьте ребенка, обладающего высоким долгосрочным потенциалом: ему доступно множество вариантов прекрасного будущего. Важно сохранить этот потенциал, чтобы лучшие варианты будущего не оказались отсеченными из-за несчастного случая, травмы или недостатка образования. Важно и защитить этот потенциал, то есть принять превентивные меры, чтобы его потеря стала крайне маловероятной. Также важно, чтобы ребенок в итоге реализовал свой потенциал – иными словами, прошел по одной из лучших дорог, которые ему открыты. С человечеством дело обстоит точно так же.
Экзистенциальные риски грозят уничтожить потенциал человечества. Уничтожение может быть как полным (например, при вымирании), так и почти полным, скажем при необратимом коллапсе цивилизации, когда остаются возможности для очень скромного процветания или слабая надежда на восстановление[80 - Если остается слабая надежда на восстановление, то некоторые из моих прямолинейных утверждений нельзя воспринимать буквально. Например, утверждение о том, что после экзистенциальной катастрофы “нет пути назад”. Это досадно, но я считаю, что игра стоит свеч.Я оставляю слабую надежду на восстановление, чтобы мне не могли возразить, что шанс на возрождение всегда есть, пусть даже бесконечно малый. Следовательно, строго говоря, потенциал не может быть уничтожен полностью. Однако от такого строгого прочтения мало пользы. Чтобы сделать выбор, нам не нужно знать, каким именно будет шанс на восстановление при реализации определенного сценария – ровно 0 % или 0,1 %. Обе ситуации почти одинаково плохи в сравнении с текущей, и плохи они по одной причине: их чрезвычайно сложно обратить вспять, и они (почти полностью) уничтожают наш долгосрочный потенциал. Более того, в обоих случаях нам следует действовать схожим образом: принимать предупредительные меры, а не учиться на ошибках. Ситуации, в которой у человечества в буквальном смысле “нет пути назад”, стоит избегать по тем же причинам, что и ситуации, когда “практически нет пути назад”. Таким образом, лучше всего включить почти необратимые ситуации в определение наравне с совершенно необратимыми.]. Я не провожу четких границ, но следует понимать, что в случае любой экзистенциальной катастрофы бо?льшая часть нашего потенциала утрачивается и остается лишь минимум[81 - Если наш потенциал значительно превосходит текущее состояние цивилизации, то событие, которое просто законсервирует текущее положение вещей, будет считаться экзистенциальной катастрофой. Примером может служить перманентная остановка технического прогресса.Может показаться странным, что мы называем катастрофой сценарий, который просто крайне далек от оптимального. Мы привыкли считать, что потенциал уничтожают такие события, которые вызывают страдания незамедлительно, а не такие, которые разрушают чей либо потенциал, не меняя качества жизни в настоящий момент. Но рассмотрим, например, решение родителей не давать образование своему ребенку. Оно не вызовет страданий немедленно, но может привести к катастрофическому исходу для ребенка в отдаленном будущем.].
Во-вторых, упор на человечество в моих определениях не подразумевает, что я не учитываю ценность окружающей среды, других животных, преемников Homo sapiens и существ, живущих в других областях космоса. Я вовсе не хочу сказать, что в расчет идут только люди. Я лишь утверждаю, что люди – единственные из известных нам существ, которые воспринимают моральные суждения и доводы, а следовательно, могут изучать мир и решать, как лучше поступать. Если мы не справимся, то эта направленная вверх сила, эта способность стремиться к лучшему и справедливому попросту исчезнет из мира.
Наш потенциал – это то, чего человечество может достичь в результате совокупных усилий всех людей до единого. Ценность наших действий будет отчасти определяться тем, что мы делаем в отношении людей и для людей, но будет также зависеть от того, как наши действия влияют на другие виды. Если в будущем мы каким-то образом поспособствуем возникновению новых моральных агентов, в соответствии с моим определением их нужно будет включить в категорию “человечества”.
Поскольку я рассматриваю все человечество, угрозы отдельным странам и культурам не могут считаться экзистенциальными рисками. Подобный термин существует и для них – порой люди называют нечто “экзистенциальной угрозой для определенной страны”. Если не учитывать, что такие утверждения обычно бывают преувеличенными, в их основе лежит схожая идея – идея о том, что нечто грозит навсегда уничтожить долгосрочный потенциал отдельной культуры или страны[82 - В некоторых случаях идеи и методики из этой книги могут также применяться к таким местным “экзистенциальным угрозам”, поскольку они имеют определенные сходства (в миниатюре).]. Но очень важно, чтобы понятие “экзистенциального риска” (без явной привязки к конкретной группе) употреблялось только в отношении угроз для всего человечества.
В-третьих, любое определение риска сопряжено с понятием вероятности. Каков принцип оценки вероятности экзистенциального риска? Нет смысла рассматривать вероятность как объективную долгосрочную частоту, поскольку экзистенциальные катастрофы, которые нас интересуют, могут случиться лишь один раз и всегда будут оставаться беспрецедентными, пока не станет слишком поздно. Нельзя сказать, что вероятность экзистенциальной катастрофы равняется нулю просто потому, что такой катастрофы никогда не происходило прежде.
Подобные ситуации требуют логического подхода к оценке вероятности, при котором на основе имеющейся информации называется адекватная степень уверенности в том, что событие произойдет. Такой подход используется в судах, банках и букмекерских конторах. Говоря о вероятности экзистенциальной катастрофы, я буду иметь в виду то, насколько человечеству следует быть уверенным, что такая катастрофа произойдет, с учетом самых убедительных доказательств, имеющихся в нашем распоряжении[83 - Здесь тоже есть свои проблемы. Так, порой нам придется говорить, что нечто было риском в прошлом (насколько нам известно), но больше риском не является. Например, раньше были опасения, что ядерное оружие подожжет атмосферу (см. с. 108). Но обратите внимание, что такое случается с рисками любого типа: так, на прошлой неделе мы могли полагать, что существует риск падения лифта из за потертости троса, но теперь этот риск снизился до нуля, поскольку у нас появились новые данные (мы проверили трос и обнаружили, что с ним все в порядке). Подробнее об объективной и логической вероятности при определении экзистенциального риска пишут Bostrom & Сirkovic (2008) и Bostrom (2013).].
Множество возможных кошмарных исходов не попадают в категорию экзистенциальных катастроф.
Например, может случиться не одно событие, которое приведет человечество к шагу в пропасть, а целый ряд менее серьезных сбоев. Дело в том, что я пользуюсь традиционным определением катастрофы как единственного решающего события, а не совокупности событий, приводящих к неблагоприятному исходу. Если бы мы растеряли свой потенциал, просто неизменно плохо относясь друг к другу или вообще не совершая великих дел, результат был бы столь же неудачен, но наступил бы не в результате катастрофы.
Или же может случиться единственная катастрофа, но такая, которая оставит человечеству шанс на восстановление. С нашей точки зрения, если заглянуть на несколько поколений в будущее, подобная перспектива может показаться не менее мрачной. Но через тысячу лет ее, возможно, будут считать лишь одним из нескольких печальных эпизодов в человеческой истории. Настоящая экзистенциальная катастрофа должна быть по природе своей решающим моментом – той точкой, в которой мы потерпели полное поражение.
Даже катастрофы, способные привести к глобальному коллапсу цивилизации, могут не дотягивать до экзистенциального уровня. Хотя глобальный коллапс цивилизации нередко называют “концом света”, он может и не поставить точку в человеческой истории. Несмотря на серьезнейшие последствия, он может не оказаться ни полным, ни необратимым.
В этой книге я использую понятие “коллапс цивилизации” в буквальном смысле, имея в виду ситуацию, когда человечество по всему земному шару утрачивает цивилизацию (по крайней мере временно) и возвращается к тому образу жизни, который вело до перехода к сельскому хозяйству. Часто это понятие используют в более узком смысле, когда говорят о сильной разрухе, утрате современных технологий или уничтожении нашей культуры. Я же говорю о мире, в котором нет ни письменности, ни городов, ни законов, ни каких-либо иных признаков цивилизации.
Коллапс цивилизации – очень серьезная катастрофа, вызвать которую чрезвычайно сложно. Несмотря на все трудности, с которыми цивилизации сталкивались в своей истории, такого не случалось никогда – даже в масштабах континента[84 - Часто появляются списки потерпевших крах цивилизаций прошлого, таких как Римская империя и цивилизация майя. Но в этой книге, говоря о (глобальном) коллапсе цивилизации, я имею в виду другое. Статистика небольших коллапсов практически бесполезна при определении того, ждет ли нашу цивилизацию глобальный коллапс.Погибшие цивилизации были в высокой степени локализованы, поэтому их коллапс был скорее сравним с коллапсом отдельной страны, а не глобальной цивилизации. Так, даже Римская империя в период своего расцвета была гораздо меньше современной Бразилии и по площади, и по численности населения. Эти небольшие цивилизации были гораздо более уязвимы для региональных климатических эффектов, для действий единственного плохого правительства и для нападений внешних врагов. Кроме того, их коллапсы были вовсе не столь разрушительны, как тот, о котором я веду речь: часто целые города и деревни переживали “коллапс”, но народы не возвращались в состояние, в котором пребывали до перехода к сельскому хозяйству, а многие аспекты культуры продолжали развиваться.]. Европа выжила, потеряв 25–50 % своего населения во время эпидемии чумы, но сохранив цивилизацию невредимой, и это свидетельствует, что коллапс цивилизации может случиться, только если в каждом регионе мира будет потеряно более 50 % населения[85 - Или если произойдет событие, которое более непосредственным образом воспрепятствует развитию цивилизации и ведению сельского хозяйства: например, будет нанесен исключительный ущерб окружающей среде или начнется длительная эпидемия болезни с тяжелыми последствиями.Возможно, хрупкость мира возросла и сегодня он менее устойчив к коллапсу, чем средневековая Европа, а следовательно, коллапс может произойти и при потере менее 50 % населения. Впрочем, я сомневаюсь на этот счет и полагаю, что такой сценарий не более вероятен, чем сценарий, при котором даже потеря 90 % населения не приведет к полной утрате цивилизации.].
Даже если бы коллапс случился, вполне вероятно, что цивилизацию удалось бы восстановить. Как мы видели, цивилизации независимо друг от друга возникли по крайней мере у семи обособленных народов[86 - С точки зрения новейшей истории эти неолитические революции происходили в разные времена, и тысячелетия форы сыграли большую роль в развитии некоторых цивилизаций и определении их веса на мировой арене. Но если смотреть шире, разные регионы независимо друг от друга перешли к сельскому хозяйству практически одновременно: в диапазоне нескольких тысяч лет в масштабах истории, которая тянется сотни тысяч лет. Это позволяет предположить, что сельское хозяйство было не маловероятным техническим прорывом, а достаточно типичным решением общей проблемы. Наиболее вероятным толчком к нему стало завершение великого “ледникового периода”, случившееся в промежутке от 17 до 10 тысяч лет назад, прямо в период зарождения сельского хозяйства. Оно оказало огромное влияние на окружающую среду, сделав мир менее подходящим для охоты и более подходящим для земледелия.]. Хотя может показаться, что из-за истощения ресурсов восстановить цивилизацию будет сложнее, на самом деле задача сегодня значительно проще. Если произойдет катастрофа, в результате которой человечество не вымрет, после нее на земле останутся одомашненные животные, а также огромное количество материальных ресурсов в руинах городов: заново выковать железо из старых перил наверняка проще, чем выплавить его из руды. Гораздо проще, чем в XVIII веке, будет получить доступ даже к невозобновляемым ресурсам, таким как уголь, ведь у нас найдутся заброшенные разработки и шахты[87 - Общая тенденция такова, что доступ к ресурсам затрудняется, поскольку первым делом мы добываем то, что добыть легко. Так происходит с нетронутыми ресурсами в земных недрах. Но в результате люди забывают об огромном объеме ресурсов, которые уже извлекаются, отправляются на хранение и остаются среди руин цивилизации. Например, одна угольная шахта открытого типа в Вайоминге дает 100 млн тонн угля ежегодно, и остаток запасов в ней составляет 1,7 млрд тонн (Peabody Energy, 2018). На момент написания этой книги в резервах у угольных электростанций в США находится 100 млн тонн готового к использованию угля (EIA, 2019). В стратегических резервах хранится около 2 млрд баррелей нефти (IEA, 2018, p. 19), а количество используемого в нашей глобальной цивилизации железа составляет около 2000 кг на душу населения (Sverdrup & Olafsdottir, 2019).]. Кроме того, по всему миру будут обнаруживаться свидетельства о том, что цивилизация вообще возможна, и сведения об инструментах и знаниях, необходимых, чтобы ее восстановить.
Существуют, однако, две тесные связи между коллапсом цивилизации и экзистенциальным риском. Во-первых, если коллапс необратим, он может считаться экзистенциальной катастрофой. Так, вполне можно представить, что определенное изменение климата или специально подготовленная эпидемия сделают планету непригодной для жизни, в результате чего человечество навсегда вернется к собирательству и разрозненному образу жизни[88 - Хотя в главе 4 мы увидим, что даже экстремальная ядерная зима или изменение климата вряд ли причинят окружающей среде по всему миру достаточный ущерб, чтобы это произошло.]. Во-вторых, глобальный коллапс цивилизации может повысить вероятность вымирания человечества, сделав людей более уязвимыми для последующей катастрофы.
В частности, коллапс может привести к вымиранию, если крупнейшая из выживших популяций окажется меньше минимальной жизнеспособной популяции, то есть если ее численность будет ниже, чем необходимо для выживания. Точной цифры здесь нет – этот уровень определяют с позиций вероятности с учетом множества факторов: где находится популяция, к каким технологиям она имеет доступ, в какой катастрофе она выжила. Оценки варьируются в диапазоне от нескольких сотен до десятков тысяч человек[89 - Вопрос о минимальной жизнеспособной популяции также встает, когда речь заходит о космических путешествиях, во время которых сменяются поколения. Marin & Beluffi (2018) полагают, что достаточно начальной популяции размером 98 человек, в то время как Smith (2014) считает минимальной гораздо более крупную популяцию размером от 14 до 44 тысяч человек. Возможно, выжить сумеют и меньшие популяции – все зависит от того, какие генетические технологии они смогут применять для минимизации рисков инбридинга и дрейфа генов.]. Если непосредственно в результате катастрофы численность населения планеты опускается ниже этого уровня, логичнее считать такую катастрофу событием вымирания, а не необратимым коллапсом цивилизации. Я полагаю, что этот путь к вымиранию будет одним из наиболее типичных.
Мы редко всерьез задумываемся о рисках для всего потенциала человечества. В основном мы сталкиваемся с ними в боевиках, но в таких случаях наш эмоциональный ответ оказывается приглушенным из-за того, что подобными угрозами злоупотребляют, ведь с их помощью легко усилить драматический эффект[90 - Полагаю, это стало одной из причин, почему люди считают возможность вымирания человечества казенным штампом, а не серьезной угрозой. Когда этот риск используют в качестве двигателя сюжета в подобных фильмах, он действительно превращается в штамп. Однако не стоит совершать ошибку и позволять этому штампу заслонять реальную угрозу для нашего будущего.]. Мы видим их и в интернете, когда листаем списки вроде “десять вариантов конца света”, составляемые главным образом для того, чтобы будоражить и развлекать читателей. После окончания холодной войны мы редко натыкаемся на рациональные дискуссии с участием ведущих мыслителей на тему того, что вымирание значило бы для нас, для наших культур, а также для всего человечества[91 - Мы редко встречаем и серьезные эмоциональные рассуждения на эту тему, такие как песни Let Me Die in My Footsteps (1963) Боба Дилана и Eve of Destruction (1965) Барри Макгуайра.]. Поэтому в обычной жизни люди зачастую довольно легкомысленно относятся к перспективе вымирания человека.
Но когда риск становится очевидным и достоверным – когда совершенно ясно, что миллиарды жизней и все будущие поколения висят на волоске, – большинство людей не сомневается в важности защиты долгосрочного потенциала человечества. Если бы мы узнали, что к Земле летит крупный астероид, столкновение с которым с вероятностью более 10 % приведет к вымиранию человечества до завершения текущего столетия, вряд ли кто-то стал бы спорить, что? лучше – потрудиться и построить отклоняющую систему или же закрыть глаза на проблему и понадеяться на авось. Напротив, ответ на угрозу немедленно стал бы одним из главных мировых приоритетов. Таким образом, отсутствие беспокойства из-за подобных угроз сегодня связано скорее с тем, что мы пока не верим в их существование, чем с тем, что мы всерьез сомневаемся в огромном размере ставок.
И все же очень важно постараться понять, из каких источников исходят серьезные угрозы. Это понимание подстегнет наши эмоции и подтолкнет к действию, вызовет новые дискуссии, а также поможет принимать решения о расстановке приоритетов.
Что мы видим в настоящем?
Не все экзистенциальные катастрофы предполагают вымирание человечества, и не все сценарии вымирания предполагают боль или безвременную смерть. Например, теоретически мы могли бы просто решить не заводить потомство. Это могло бы уничтожить наш потенциал, не причинив нам страданий, что вполне допустимо. Но экзистенциальные риски, с которыми мы сталкиваемся в реальности, не столь безболезненны. Напротив, они объективно чудовищны, если судить по общепринятым моральным стандартам.
Если в грядущее столетие человечество будет уничтожено в ходе ядерной зимы, или спроектированной пандемии, или катастрофической войны с использованием новых технологий, то прервутся семь миллиардов жизней, включая, возможно, и вашу жизнь или жизни ваших близких. Многие, вероятно, умрут в муках – от голода, огня, болезней.
Нет нужды объяснять, почему мораль обязывает нас предотвратить этот ужас. Человечество уже переживало катастрофы меньших масштабов, в которых погибали тысячи и даже миллионы людей. Мы знаем, как бесконечно важно предотвращать такие события. В таком масштабе мы теряем способность в полной мере осознавать величину убытков, и все же цифры дают нам представление о том, что с моральной точки зрения стоит на кону[92 - См. Slovic (2007).]. При прочих равных миллионы смертей значительно хуже тысяч, а миллиарды – значительно хуже миллионов. Даже если оценивать катастрофы только по количеству прерванных жизней, вымирание человечества, несомненно, стало бы худшим событием в нашей долгой истории.
Что мы видим в будущем?
Но экзистенциальная катастрофа – это не просто катастрофа, уничтожающая исключительно большое число жизней. Она уничтожает и наш потенциал.
Мой наставник Дерек Парфит предлагал нам представить, как опустошительная ядерная война убивает 99 % населения планеты[93 - Parfit (1984), pp. 453–454.]. После такой войны на многие столетия настали бы темные времена, но в конце концов выжившие смогли бы восстановить цивилизацию в прежнем виде, посрамленные, израненные – но непобежденные.
Теперь сравните это с войной, в которой погибают все 100 % населения. Вторая война, конечно, будет хуже, но насколько? Любая из них может стать худшей катастрофой в истории. В любой погибнут миллиарды. Во второй войне погибших будет на десятки миллионов больше, и по этой причине она хуже. Но есть и другое, гораздо более значимое различие между этими войнами. В обеих погибают миллиарды человек, но только во второй погибает человечество. Обе разрушают наше настоящее, но лишь вторая разрушает наше будущее.
Именно эта количественная разница в потерях за счет последнего процента делает экзистенциальные катастрофы уникальными, в связи с чем снижение риска экзистенциальной катастрофы приобретает исключительную важность[94 - Как мы увидим далее, эта количественная разница также играет решающую роль при анализе представлений о нашем прошлом, наших добродетелях и нашей космической значимости.].
