Тоби Орд – На краю пропасти. Экзистенциальный риск и будущее человечества (страница 38)

Исход. Как катастрофа доводит дело до конца?

Каким образом она убивает всех, где бы они ни были? Подобно пыли, поднятой астероидом, смертоносное вещество может распространяться в окружающей среде; подобно пандемии, оно может переноситься людьми, которые перемещаются с места на место; а если вызвать вымирание было у кого-то в планах, катастрофу можно специально нацеливать на уничтожение всех горсток выживших до единой.

Мы можем противостоять риску на любом из этих этапов: предупреждение может не допустить его происхождения, реакция – ограничить его разрастание, а устойчивость – помешать наступлению исхода. В зависимости от риска мы можем или направлять свои усилия на самый эффективный для борьбы с ним этап, или придерживаться стратегии глубокой обороны и работать со всеми этапами одновременно.

Такая классификация позволяет нам представить вероятность вымирания как произведение (1) вероятности того, что вымирание начнется, (2) вероятности того, что, начавшись, оно разрастется до глобальных масштабов, и (3) вероятности того, что, разросшись до глобальных масштабов, оно вызовет вымирание:

P _{вымирания} = P _{происхождения} × P _{разрастания} × P _{исхода.}

Предупреждение, реакция и устойчивость помогают снизить каждый из факторов риска в соответствии со своей направленностью. Поскольку вероятности перемножаются, некоторому снижению одного фактора сопутствует пропорциональное снижение всех остальных факторов. Таким образом, по общему правилу приоритетным должен становиться тот фактор, который легче всего уменьшить наполовину в текущий момент[473].

Существуют и другие полезные способы классификации рисков. Так, Шахар Авин и его коллеги из кембриджского Центра изучения экзистенциального риска (CSER) классифицируют риски по тому, какой из важнейших систем они угрожают, будь то система окружающей среды, человеческого организма или социума[474].

Объединение и сравнение рисков

Рисковый ландшафт образован множеством разных экзистенциальных рисков. Пока мы в основном рассматривали каждый из них по отдельности. Однако, если мы хотим понять, как риски объединяются и соотносятся друг с другом, нам нужно изучить принципы их взаимодействия. Важным образом взаимодействуют даже статистически независимые друг от друга риски: стоит одному риску уничтожить нас, как другие лишаются этой возможности.

Для начала разберемся, что такое общий экзистенциальный риск. Это риск того, что человечество рано или поздно столкнется с экзистенциальной катастрофой любого типа[475]. Он учитывает все риски: природные и антропогенные, известные и неизвестные, близкие и далекие. Все пути к тому, чтобы катастрофа навсегда уничтожила потенциал человечества.

Это чрезвычайно полезное понятие, поскольку в его рамках все риски приводятся к общему знаменателю, которым становится их вклад в общий риск. Но для этого приходится вводить упрощающее предположение о том, что ставки по разным рискам примерно одинаковы, а различия между рисками определяются главным образом различиями в их вероятностях. Это не всегда так, но это служит хорошей отправной точкой[476].

Как отдельные риски объединяются в общий риск? Допустим, во всем нашем будущем лишь два риска с вероятностями 10 % и 20 %. Каков при этом общий риск? Возникает желание просто сложить вероятности, но обычно это дает неверный результат. Ответ зависит от взаимосвязи этих рисков (см. Рис. 6.1).

Рисунок 6.1. Риски могут сочетаться множеством способов, от идеальной антикорреляции (А) до идеальной корреляции (Б). Промежуточное положение занимает важный случай взаимозависимости (В). Общий риск зависит от того, сколько риска “теряется” при наложении их друг на друга – в той области, где катастрофа все равно случится, даже если мы уничтожим один из рисков. Большое наложение снижает общий риск, но также ограничивает преимущества уничтожения одного из рисков.

Хуже всего, когда они находятся в идеальной антикорреляции (например, как вероятность того, что случайное число в интервале от 1 до 100 меньше либо равно 10, и того, что такое число больше 80). В таком случае общий риск представляет собой сумму двух его факторов: 30 %. Лучше всего, когда риски находятся в идеальной корреляции, например 10 %-ный риск наступает только в тех случаях, когда наступает и 20 %-ный (например, как вероятность того, что случайное число в интервале от 1 до 100 меньше либо равно 10, и вероятность того, что такое число меньше либо равно 20)[477]. В таком случае общий риск равен более высокому из двух: 20 %. Если риски статистически независимы друг от друга (например, риски в двух отдельных лотереях), вероятность оказывается промежуточной. В таком случае она составит 28 %. (Проще всего понять это, представив вероятность того, что не случится ни одна из катастроф: 90 % × 80 % = 72 %. Если мы вычтем это произведение из 100 %, получится 28 %.)

Чего нам ожидать на практике? В целом, полагаю, нам следует ожидать некоторой положительной корреляции между большинством пар рисков в силу существования общих причин и общих решений[478]. Так, серьезная мировая война может повысить многие экзистенциальные риски, а успешная деятельность общемирового института по управлению экзистенциальным риском может многие из них снизить. Это умеренно хорошая новость, поскольку из-за этого риски чаще накладываются друг на друга, а общий риск становится чуть ниже, чем если бы риски просто суммировались или считались бы независимыми[479]. Если связь между рисками не видна, логично сначала предположить, что такие риски независимы, а затем проверить, что изменилось бы, если бы между ними наблюдалась корреляция или антикорреляция.

Как ни странно, такие проблемы возникают не только при объединении рисков, но и при сопоставлении их важности. Насколько 20 %-ный риск важнее 10 %-ного? Очевидный ответ “вдвое” почти никогда не оказывается верным (для этого риски должны состоять в идеальной антикорреляции). Чтобы получить верный ответ, нужно учесть, что важность устранения риска определяется тем, какая доля общего риска исчезнет с его устранением. После этого можно проверить, чему равна эта доля.

Например, на Рис. 6.1 мы увидели, что независимые 10 %-ный и 20 %-ный риски дают общий 28 %-ный риск. Следовательно, устранение 10 %-ного риска снизит общий риск на 8 % (с 28 до 20 %), а устранение 20 %-ного риска снизит его на 18 % (с 28 до 10 %), что более чем вдвое больше. 20 %-ный риск окажется в 2,25 раза более важным, чем 10 %-ный, и, как правило, более высокие риски важнее, чем можно подумать. Эти неочевидные эффекты (и не только они) становятся тем значимее, чем сильнее корреляция рисков и чем выше общий риск. Они приобретают особенную важность, если риск в этом столетии выше, чем я предполагаю, или если высок общий риск для всего нашего будущего (некоторые неожиданные следствия этого рассматриваются в Приложении D).

Факторы риска

В главах 3–5 мы рассмотрели многие характерные экзистенциальные риски. Вооружившись понятием общего риска, мы могли бы рассматривать эти главы как разбивку общего риска на набор отдельных рисков, каждый из которых имеет собственный механизм для разрушения нашего потенциала. У нас могло бы возникнуть желание рассматривать этот набор как перечень важнейших тем, которые встают перед человечеством: как меню, из которого начинающий альтруист может выбрать себе дело всей жизни. Но это было бы преждевременно. Дело в том, что существуют и другие способы разбить общий экзистенциальный риск на отдельные элементы.

Рассмотрим возможность войны между некими мощными силами в текущем столетии. Иными словами, войны между любыми из самых могущественных в мире стран или блоков[480]. Война такого масштаба определила первую половину XX века, а ее угроза определила большую часть второй половины столетия. Хотя международная напряженность снова нарастает, кажется практически немыслимым, чтобы в текущем десятилетии любые из великих держав вступили в войну друг с другом, и в обозримом будущем это тоже представляется маловероятным. Но век – это долгое время, и, несомненно, существует риск, что между великими державами снова случится война.

Мы могли бы посчитать войну между великими державами экзистенциальным риском, но только с натяжкой. Сама по себе война не может выступать в роли механизма, уничтожающего человечество или наш потенциал, поскольку не она наносит нам решающий удар. И все же война между великими державами повысит экзистенциальный риск. Она повысит риски, связанные с различными технологиями вооружения: ядерным оружием, пандемиями искусственного происхождения, а также всеми новыми типами оружия массового уничтожения, изобретенными к ее началу. Кроме того, она косвенно поспособствовала бы повышению вероятности других рисков: подрыв международного доверия и сотрудничества усложнил бы управление изменением климата и безопасную разработку ОИИ, что увеличило бы сопряженные с ними опасности. В дополнение к этому войны между великими державами могут ускорять появление новых экзистенциальных рисков. Не забывайте, что ядерное оружие появилось во время Второй мировой войны, а его разрушительная сила была существенно увеличена во время холодной войны, когда изобрели водородную бомбу. История показывает, что войны такого размаха искушают человечество заглядывать в самые темные глубины технологий.