Дмитрий Ланецкий – Тёмная сторона здравого смысла: как недоверие становится новой доверчивостью (страница 9)
Сцепление хуже воспринимается сознанием, чем замысел. Замысел можно пересказать за одну минуту. Сцепление приходится разворачивать: что было слабым, что совпало, кто недооценил, где не сработала защита, почему сигнал заметили поздно, какие решения были разумными в моменте и опасными в сумме. Такой рассказ не даёт немедленного удовлетворения. Он похож на разбор механизма, а не на разоблачение злодея. Поэтому подозрительный человек часто отказывается от него уже на входе. Ему кажется, что объяснение через случайность, ошибку и накопление факторов слишком мелкое для такой крупной беды.
Здесь и рождается оскорбление интеллекта. Человек говорит: вы хотите убедить меня, что всё это произошло случайно? Он слышит в таком объяснении попытку сделать его простаком. Но точный разговор о случайности не утверждает, что "ничего не произошло" или "никто не виноват". Он утверждает другое: не всякий вред является результатом заранее составленного плана. Ответственность может возникать не только из намерения, но и из небрежности, самоуверенности, плохого контроля, неверных стимулов, отказа слушать предупреждения. Иногда виновность есть, а тайного сценария нет.
Это различие трудно удерживать. Нам кажется, что если не было злого умысла, значит, нет и серьёзной вины. Поэтому общественное воображение часто усиливает событие до заговора, чтобы сохранить моральную тяжесть. Простая авария звучит легче, чем преступный план. Системный провал звучит суше, чем намеренное вредительство. Но в реальности небрежность может убивать. Самоуверенность может разрушать. Экономия на безопасности может быть чудовищной без всякой тайной церемонии за закрытыми дверями. Вред не обязан быть театральным, чтобы быть реальным.
Почему случайность кажется унижением
Случайность отнимает у человека чувство особого положения. Она не признаёт, что событие обязательно должно иметь смысл, связанный с нами. Она может ударить по внимательному и невнимательному, по осторожному и беспечному, по богатому и бедному, по подготовленному и неподготовленному. Конечно, уязвимость распределена неравномерно: одни живут в более опасных домах, работают в более рискованных условиях, имеют меньше доступа к медицине, защите, информации и деньгам. Но сама встреча неблагоприятных факторов часто не похожа на нравственный сюжет. Она просто происходит.
Человеку трудно принять такую безразличность. Если случилась беда, хочется понять, почему именно здесь, именно сейчас, именно с этими людьми. Вопрос естественный. Но на него не всегда есть ответ в форме намерения. Землетрясение не выбирает жертв по справедливости. Наводнение не знает, чей дом оно заливает. Вулканическое облако, способное остановить воздушное сообщение над огромными территориями, не имеет политического мотива. Молния не строит интригу. Вирус не пишет манифест. Но человек, столкнувшийся с последствиями, почти неизбежно ищет смысл, потому что бессмысленный ущерб невыносим.
Именно здесь подозрение становится психологическим обезболиванием. Если есть злодей, боль получает адрес. Если есть скрытый план, хаос становится сообщением. Если есть группа, которая всё устроила, человек возвращает себе ощущение понятного мира. Пусть мир враждебен, зато он не бессмыслен. В этом странная привлекательность мрачных версий: они дают причинность там, где страшно увидеть смесь природных сил, слабой подготовки, поздней реакции, технических ограничений и случайного совпадения.
После природных катастроф почти всегда появляются разговоры о том, что "нам не всё говорят", "на самом деле это кому-то нужно", "такие совпадения не бывают случайными". Иногда такие разговоры питаются реальными вопросами: почему не предупредили, почему строили в опасной зоне, почему не укрепили инфраструктуру, почему службы реагировали медленно, почему документы подписывались так легко. Эти вопросы важны. Но они могут незаметно съехать в другую сторону: раз последствия страшные, значит, само событие было кем-то устроено. Тогда внимание уходит от проверяемой ответственности к туманной картине скрытого режиссёра.
А проверяемая ответственность часто лежит не в происхождении беды, а в подготовке к ней. Нельзя приказать землетрясению не происходить. Можно строить иначе, предупреждать лучше, не закрывать глаза на риски, не экономить на системах оповещения, не выдавать желаемое за готовность. Нельзя отменить ливень. Можно не превращать городскую инфраструктуру в ловушку. Нельзя сделать природу послушной. Можно уменьшать ущерб от того, что природа делает без всякого интереса к человеческим версиям.
Злодей удобнее вероятности
Вероятность почти невозможно почувствовать. Человек может понимать её словами, но жить внутри неё тяжело. Маловероятное событие кажется невозможным до того, как оно случилось, и неизбежным после того, как оно произошло. Пока риск не реализовался, его считают преувеличением. После реализации многие говорят, что всё было очевидно. Так работает задний ум: он перекрашивает прошлое в цвета настоящего знания.
Когда редкое событие всё же происходит, оно кажется подозрительным именно из-за редкости. "Слишком маловероятно", — говорит человек. Но маловероятно не означает невозможно. Если миллионы людей каждый день летят, ездят, покупают, торгуют, подключаются к сетям, запускают программы, принимают лекарства, подписывают договоры, хранят данные, то редкие сбои где-то обязательно проявляются. Масштаб повторений превращает малую вероятность в ожидаемое появление неприятностей. Для конкретного человека это выглядит как невероятное совпадение. Для большой системы это статистическая неизбежность.
Парадокс в том, что чем шире система, тем больше в ней возможностей для странных совпадений. В огромной цифровой платформе всегда найдётся пользователь, чей аккаунт заблокировали в самый неудобный момент. В большой банковской системе всегда найдётся клиент, у которого комиссия, сбой, задержка и ошибка поддержки совпали так, будто его специально мучили. В крупной больнице всегда будут истории, где человеческая невнимательность, перегрузка и протоколы сложились в травматичный опыт. В масштабном рынке всегда найдутся люди, которые купили перед падением и продали перед ростом. Для каждого участника его случай уникален. Для системы такие совпадения возникают постоянно.
Это не оправдание плохих систем. Наоборот, чем крупнее система, тем выше обязанность проектировать защиту от редких, но тяжёлых случаев. Но если каждый редкий случай объявлять доказательством кулис, мышление перестаёт различать проектный дефект, случайное совпадение, предсказуемый риск и сознательное вредительство. Всё становится одинаково подозрительным. А одинаковая подозрительность плохо помогает исправлять конкретные ошибки.
Вероятность раздражает ещё и потому, что она говорит языком "может быть". Человеку хочется "кто виноват". Вероятность отвечает: зависит от условий, частоты, выборки, распределения, устойчивости системы, точности измерения. Такой ответ звучит уклончиво, хотя часто он честнее. Злодей экономит умственные силы. Он превращает "при определённом сочетании факторов риск реализовался" в "они всё сделали". Первая формулировка требует думать. Вторая даёт чувство раскрытия.
Авария как зеркало наших ожиданий
Крупные аварии почти всегда вызывают одну и ту же волну: сначала шок, потом жажда причины, затем борьба между техническим объяснением и нравственной потребностью в виновнике. Чем больше жертв или ущерба, тем меньше терпения к сухим словам экспертов. Люди хотят знать, кто допустил, кто скрыл, кто нажился, кто не предупредил. И это справедливое желание, пока оно не превращается в требование заранее назначить умысел.
Любая сложная авария представляет собой цепочку. В авиации, энергетике, промышленности, медицине, транспортной инфраструктуре защита обычно строится слоями. Один человек может ошибиться, но система должна заметить. Один прибор может дать сбой, но должен быть резерв. Один регламент может оказаться неполным, но обучение должно компенсировать. Катастрофы часто происходят тогда, когда несколько слоёв защиты оказываются слабее, чем предполагалось. Где-то недооценили риск. Где-то привыкли к отклонению как к норме. Где-то сигнал считался ложным слишком много раз. Где-то экономия выглядела разумной. Где-то персонал не имел права остановить процесс. Где-то культура организации наказывала плохие новости.
Такое объяснение не выглядит мягким. Оно может быть жестче версии о тайном вмешательстве, потому что вскрывает повторяемый механизм. Если виноват один скрытый злодей, достаточно найти его. Если виновата культура, стимулы и устройство контроля, придётся менять систему. Это дороже, дольше, неприятнее. Поэтому общественному воображению часто легче держаться за образ умысла: он конкретнее.
Но аварии редко уважают нашу потребность в простоте. Чернобыльская катастрофа стала символом сочетания технических особенностей, управленческой культуры, секретности, ошибок операторов, давления системы и позднего признания масштаба беды. Фукусима показала, как природная сила, оценка риска, инженерные решения, расположение оборудования, организационная готовность и коммуникация могут соединиться в трагический результат. В таких историях нет недостатка в ответственности. Но свести их к одной скрытой воле значит обеднить понимание. Настоящий урок таких катастроф в том, как много условий должно быть устроено плохо или самоуверенно, чтобы случайность получила власть над последствиями.