Юваль Харари – Нексус. Краткая история информационных сетей от каменного века до искусственного интеллекта (страница 20)
Правительство Гоги вмешалось, чтобы предложить решение воображаемой проблемы, придуманной его собственной пропагандой. 22 января 1938 года правительство издало закон, предписывающий всем евреям в Румынии предоставить документальное подтверждение того, что они родились на территории Румынии и имеют право на румынское гражданство. Евреи, не предоставившие доказательств, теряли гражданство, а также все права на проживание и работу.
Внезапно евреи Румынии оказались в бюрократическом аду. Многим пришлось отправиться на родину в поисках соответствующих документов, чтобы обнаружить, что муниципальные архивы были уничтожены во время Первой мировой войны. Евреи, родившиеся на территориях, присоединенных к Румынии только после 1918 года, как Черновцы, столкнулись с особыми трудностями, поскольку у них не было румынских свидетельств о рождении, а многие другие документы об их семьях хранились не в Бухаресте, а в бывших габсбургских столицах - Вене и Будапеште. Евреи часто даже не знали, какие документы им следует искать, поскольку в законе о переписи не было указано, какие документы считаются достаточным "доказательством".
Клерки и архивариусы получили новый и прибыльный источник дохода, поскольку неистовые евреи предлагали большие взятки, чтобы получить в свои руки нужный документ. Даже если взятки не было, процесс был чрезвычайно затратным: любой запрос документов, равно как и подача заявления о гражданстве в органы власти, требовали уплаты пошлины. Поиск и подача нужного документа не гарантировали успеха. Разницы в одной букве между написанием имени в свидетельстве о рождении и в документах на гражданство было достаточно, чтобы власти лишили гражданства.
Многие евреи не смогли преодолеть эти бюрократические препоны и даже не подали заявление на получение гражданства. Из тех, кто подал, только 63 % получили разрешение на получение гражданства. В общей сложности из 758 000 румынских евреев 367 000 потеряли свое гражданство. Среди них был и мой дедушка Бруно. Когда в Бухаресте был принят новый закон о переписи населения, Бруно не стал долго раздумывать. Он родился в Черновцах и прожил там всю свою жизнь. Мысль о том, что ему нужно доказывать какому-то бюрократу, что он не иностранец, показалась ему нелепой. К тому же в начале 1938 года заболела и умерла его мать, и Бруно почувствовал, что у него есть куда более важные заботы, чем погоня за документами.
В декабре 1938 года из Бухареста пришло официальное письмо, аннулирующее гражданство Бруно, и его, как иностранца, немедленно уволили с работы в черновицком радиомагазине. Теперь Бруно был не только одинок и безработен, но и лишен гражданства, и у него не было особых перспектив найти другую работу. Девять месяцев спустя началась Вторая мировая война, и опасность для безбумажных евреев возрастала. Из румынских евреев, потерявших гражданство в 1938 году, подавляющее большинство было убито в течение следующих нескольких лет румынскими фашистами и их союзниками-нацистами (у евреев, сохранивших гражданство, процент выживания был гораздо выше).
Мой дед неоднократно пытался сбежать из затягивающейся петли, но без нужных документов это было сложно. Несколько раз он тайно пробирался на поезда и корабли, но его ловили и арестовывали. В 1940 году ему наконец удалось сесть на один из последних кораблей, направлявшихся в Палестину, прежде чем врата ада захлопнулись. Когда он прибыл в Палестину, его сразу же заключили в тюрьму британцы как нелегального иммигранта. После двух месяцев заключения британцы предложили ему сделку: остаться в тюрьме и подвергнуться риску депортации или поступить на службу в британскую армию и получить палестинское гражданство. Мой дед ухватился за это предложение обеими руками и с 1941 по 1945 год служил в британской армии в Североафриканской и Итальянской кампаниях. В обмен он получил свои документы.
В нашей семье сохранение документов стало священным долгом. Банковские выписки, счета за электричество, студенческие билеты с истекшим сроком действия, письма из муниципалитета - если на них стояла официальная печать, они отправлялись в одну из многочисленных папок в нашем шкафу. Никогда не знаешь, какой из этих документов в один прекрасный день может спасти тебе жизнь.
ЧУДОДЕЙСТВЕННЫЙ ДОКУМЕНТ
Должны ли мы любить бюрократическую информационную сеть или ненавидеть ее? Истории, подобные той, что произошла с моим дедом, указывают на опасности, присущие бюрократической власти. Истории, подобные лондонской эпидемии холеры, указывают на ее потенциальную благотворность. Все мощные информационные сети могут приносить как пользу, так и вред, в зависимости от того, как они спроектированы и используются. Простое увеличение количества информации в сети не гарантирует ее благотворности и не облегчает поиск правильного баланса между правдой и порядком. Это ключевой исторический урок для разработчиков и пользователей новых информационных сетей XXI века.
Информационные сети будущего, особенно основанные на ИИ, будут во многом отличаться от прежних. Если в первой части мы рассматривали, как мифология и бюрократия были важны для крупномасштабных информационных сетей, то во второй части мы увидим, как ИИ берет на себя роль и бюрократов, и мифотворцев. Инструменты ИИ умеют находить и обрабатывать данные лучше, чем бюрократы из плоти и крови, и ИИ также приобретает способность сочинять истории лучше, чем большинство людей.
Но прежде чем мы изучим новые информационные сети XXI века, основанные на ИИ, и рассмотрим угрозы и обещания мифотворцев и бюрократов от ИИ, нам нужно понять еще одну вещь, касающуюся долгосрочной истории информационных сетей. Мы уже убедились, что информационные сети не максимизируют истину, а скорее пытаются найти баланс между истиной и порядком. И бюрократия, и мифология необходимы для поддержания порядка, и обе они с удовольствием жертвуют истиной ради порядка. Какие же механизмы позволяют бюрократии и мифологии не терять связь с истиной, какие механизмы позволяют информационным сетям выявлять и исправлять собственные ошибки, даже ценой некоторого беспорядка?
То, как человеческие информационные сети справлялись с проблемой ошибок, станет главной темой следующих двух глав. Для начала мы рассмотрим изобретение другой информационной технологии - священной книги. Священные книги, такие как Библия и Коран, представляют собой информационную технологию, которая призвана одновременно содержать всю жизненно важную информацию, необходимую обществу, и быть свободной от любой возможности ошибки. Что происходит, когда информационная сеть считает себя абсолютно неспособной на ошибку? История якобы непогрешимых священных книг подчеркивает некоторые ограничения всех информационных сетей и содержит важные уроки для попыток создания непогрешимых ИИ в XXI веке.
ГЛАВА 4.
Ошибки: Фантазия о непогрешимости
Святой Августин знаменито сказал: "Ошибаться - это человеческое, а упорствовать в ошибках - дьявольское". Заблуждения людей и необходимость исправления человеческих ошибок играют ключевую роль в любой мифологии. Согласно христианской мифологии, вся история - это попытка исправить первородный грех Адама и Евы. Согласно марксистско-ленинскому мышлению, даже рабочий класс может быть одурачен своими угнетателями и неверно определить свои собственные интересы, поэтому он нуждается в руководстве мудрого партийного авангарда. Бюрократия тоже постоянно находится в поиске ошибок - от неправильно оформленных документов до неэффективных процедур. Сложные бюрократические системы обычно содержат органы самодисциплины, и когда происходит крупная катастрофа - военное поражение или финансовый крах, - создаются комиссии по расследованию, чтобы понять, что пошло не так, и убедиться, что подобная ошибка не повторится.
Для того чтобы функционировать, механизмы самокоррекции нуждаются в легитимности. Если люди склонны к ошибкам, как мы можем доверять самокорректирующимся механизмам, что они свободны от ошибок? Чтобы избежать этого кажущегося бесконечным цикла, люди часто фантазировали о каком-то сверхчеловеческом механизме, свободном от всех ошибок, на который они могли бы положиться, чтобы выявить и исправить свои собственные ошибки. Сегодня можно надеяться, что ИИ сможет обеспечить такой механизм, как в апреле 2023 года, когда Элон Маск объявил: "Я собираюсь запустить нечто, что я называю TruthGPT или максимально правдоподобный ИИ, который попытается понять природу Вселенной". В последующих главах мы увидим, почему это опасная фантазия. В предыдущие эпохи подобные фантазии принимали другую форму - религии.
В нашей личной жизни религия может выполнять множество различных функций, например, давать утешение или объяснять тайны жизни. Но исторически наиболее важной функцией религии было обеспечение сверхчеловеческой легитимности социального порядка. Такие религии, как иудаизм, христианство, ислам и индуизм, утверждают, что их идеи и правила были установлены непогрешимым сверхчеловеческим авторитетом, поэтому они свободны от любой возможности ошибки и никогда не должны подвергаться сомнению или изменению со стороны непогрешимых людей.