Тоби Орд – На краю пропасти. Экзистенциальный риск и будущее человечества (страница 44)

Даже не имея исторических данных об экзистенциальной катастрофе, мы можем оценивать сопряженные с ней вероятности или определять границы этих вероятностей. Например, в третьей главе мы научились ориентироваться на продолжительность существования людей и подобных животных, чтобы получить достаточно грубую оценку общего природного риска. Мы также можем учитывать случаи, когда нам едва удалось избежать гибели: как крупнейшие из случившихся катастроф (например, черную смерть), так и едва не случившиеся экзистенциальные катастрофы (например, в ходе Карибского кризиса). Это поможет нам понять, насколько общество устойчиво к крупным катастрофам и как из-за неполноты информации страны порой оказываются гораздо ближе к войне с фатальными последствиями, чем планировали. Нам нужно извлекать как можно больше уроков из таких случаев, даже если они не являются точными аналогиями для новых рисков, с которыми мы сталкиваемся, поскольку других данных у нас попросту нет.

В некоторой степени использование данных о едва не случившихся катастрофах систематизировано в сфере анализа рисков. Существуют методы для оценки вероятности беспрецедентных катастроф на основе прецедентных просчетов, которые должны необходимо случиться, чтобы катастрофа действительно произошла. Например, методика анализа дерева ошибок была разработана для оценки надежности стартовых комплексов ядерных ракет и регулярно помогает при управлении такими низкочастотными рисками, как авиакатастрофы и ядерные аварии[529].

Особенно сложно оценивать риски вымирания человечества. Вне зависимости от вероятности такого события найти в прошлом его прецедент невозможно. Вариация этого эффекта отбора может искажать исторические данные о некоторых катастрофах, связанных с вымиранием, даже если они вызывают его не всегда. Например, у нас, вероятно, нет возможности непосредственно применить имеющиеся данные о столкновениях с астероидами и полномасштабной ядерной войне. Насколько нам известно, такие эффекты отбора не слишком искажают исторические данные, но статей по этой теме мало, а некоторые методологические проблемы еще не решены[530].

Наконец, трудность возникает и при работе со всеми маловероятными рисками с высокими ставками. Допустим, по оценкам ученых, беспрецедентный технологический риск может с чрезвычайно малой вероятностью вызвать экзистенциальную катастрофу. Пусть вероятность этого составляет один на триллион. Можем ли мы использовать эту конкретную цифру в своем анализе? К сожалению, нет. Вероятность того, что ученые некорректно оценили эту вероятность, во много раз выше, чем один на триллион. Как мы помним, они не сумели оценить масштаб колоссального ядерного взрыва “Касл Браво”[531], а если бы просчет был настолько маловероятен, таких примеров не было бы. Следовательно, если катастрофа все-таки происходит, гораздо вероятнее то, что в расчеты закралась ошибка и реальный риск был серьезнее, чем то, что произошло событие с вероятностью один на триллион.

Это значит, что число один на триллион не может быть точкой отсчета при принятии решений, а те, кто их принимает, должны учитывать это и ориентироваться на более высокую вероятность[532]. Не очень понятно, как именно это делать. Общая установка состоит, в частности, в том, что неопределенность физической вероятности события не может быть причиной игнорировать риск, поскольку истинный риск может быть как выше, так и ниже. Более того, если изначальная оценка вероятности очень низка, корректный учет неопределенности часто ухудшает ситуацию, поскольку истинная вероятность может быть существенно выше, а может быть и значительно ниже[533].

Трудности, связанные с экзистенциальным риском, неординарны, но они разрешимы. Для этого необходимо расширить наши теоретические знания о том, как оценивать риски, беспрецедентные по своей природе. Нужно научиться лучше сканировать горизонт и прогнозировать появление подрывных технологий, а также более эффективно внедрять эти методы и идеи в процесс принятия стратегических решений.

Международная координация

Защита человечества – общественное благо мирового масштаба. Как мы увидели ранее, даже в такой влиятельной стране, как США, живет всего одна двадцатая часть населения Земли, а следовательно, на долю США придется лишь одна двадцатая часть выгод от предотвращения катастрофы. Если страны не пытаются скоординировать свои усилия, возникает проблема коллективных действий. У отдельных стран недостаточно стимулов для того, чтобы совершать определенные действия по снижению риска и избегать действий, ведущих к возникновению риска, и все стараются выехать за счет других. Поэтому следует ожидать, что действия по снижению риска будут недостаточны, а действия, ведущие к его повышению, – избыточны.

В связи с этим возникает необходимость международной координации в сфере экзистенциального риска. Мотивы отдельной страны совпадают с мотивами человечества лишь в том случае, если мы делим издержки на внедрение соответствующих мер точно так же, как делим выгоды. Иногда страны все же действуют в общих интересах человечества, но это скорее исключение, чем правило. Совместными усилиями мы можем справиться с этой трагедией общих ресурсов, если будем делать ставки не на альтруизм стран, а на их благоразумие: пусть не идеальный, но все же более приемлемый вариант.

Полезно было бы и централизовать часть международной работы по защите человечества. Это поможет объединять накопленный опыт, делиться знаниями и облегчит координацию. Кроме того, станет проще принимать меры там, где необходимо выступить единым фронтом, меры, эффективность которых завязана на самом слабом из звеньев цепи: например, при введении мораториев на опасные типы исследований или в сфере регулирования применения геоинженерии.

Для координации наших действий необходимы международные институты, работающие с экзистенциальным риском. Но пока совсем неясно, какими они должны быть. Нужно решить, как проводить эти изменения – плавно или резко, какими сделать институты – консультационными или регуляторными, а также какой сделать их сферу ответственности – узкой или широкой. Спектр возможностей широк: от того, чтобы постепенно улучшать небольшие агентства, до радикальной трансформации важнейших институтов, таких как Совет безопасности ООН, и вплоть до создания совершенно новых органов для урегулирования важнейших мировых вопросов.

Несомненно, многие сочтут такие серьезные сдвиги в международном управлении ненужными или нереалистичными. Вспомните, однако, как создавалась ООН. Организацию основали в рамках массивного переустройства миропорядка в ответ на трагедию Второй мировой войны. Полное уничтожение потенциала человечества гораздо хуже Второй мировой, а следовательно, сравнимая по масштабам перестройка международных институтов вполне оправданна. Хотя сейчас мы не видим такого запроса, он может появиться в ближайшем будущем, если риск повысится настолько, что станет реальной угрозой в глазах широкой общественности, или если произойдет глобальная катастрофа, которая послужит предупредительным выстрелом. Все это означает, что нужно начать проектировать новые идеальные международные институты, одновременно проводя изменения меньшего масштаба в уже существующих[534].

Точно так же стоит подходить к выработке нашей стратегии. Поняв, в какой ситуации мы оказались, и признав, что человечество уязвимо, мы столкнемся с огромными трудностями. Но, вероятно, у нас появятся и новые стратегические возможности. Ответ на вызовы, который сначала казался невозможным, может стать реальным, а со временем даже неизбежным. Ульрих Бек сформулировал это так: “Можно сделать два диаметрально противоположных утверждения: глобальные риски внушают парализующий ужас или глобальные риски открывают новое пространство для маневра”[535].

Рассматривая наше текущее положение, можно сказать, что в существующем миропорядке человечество разделено на множество государств, каждое из которых достаточно устойчиво внутренне, но состоит лишь в слабых связях с остальными. Такая структура не лишена преимуществ даже с точки зрения экзистенциального риска, поскольку она позволяет сводить к минимуму риск того, что одно скверное правительство заведет человечество в ловушку ужасного исхода, не подлежащего изменению. Однако по мере того как одной стране – или даже небольшой группе в одной стране – становится проще угрожать всему человечеству, этот баланс может начать меняться. В мире 195 стран, и это потенциально дает 195 шансов, что неадекватное руководство приведет к уничтожению человечества.

Некоторые из влиятельных пионеров экзистенциального риска полагали, что в свете растущей вероятности экзистенциальной катастрофы человечеству необходимо сформировать мировое правительство[536]. Так, в 1948 году Эйнштейн написал:

Я призываю к созданию мирового правительства, поскольку убежден, что не существует другого способа устранить самую ужасную опасность, с которой когда-либо сталкивался человек. Задача избежать полного уничтожения должна иметь преимущество над любой другой[537].

Идея о мировом правительстве расплывчата, поскольку разные люди по-разному понимают этот термин. Иногда, например, им обозначают ситуацию, в которой государства лишены возможности объявлять друг другу войну. Это практически равноценно миру во всем мире и приближено к идеалу (хотя добиться этого поразительно нелегко). Но мировым правительством называют и политически гомогенизированный мир с одним органом управления (грубо говоря, страну размером с мир). Такая ситуация гораздо более противоречива и может повышать общий экзистенциальный риск, если в такой стране установится глобальный тоталитаризм или навсегда закрепятся плохие ценности.