Юваль Харари – Нексус. Краткая история информационных сетей от каменного века до искусственного интеллекта (страница 5)
Если мы хотим избежать передачи власти харизматичному лидеру или непостижимому искусственному интеллекту, мы должны сначала лучше понять, что такое информация, как она помогает строить человеческие сети и как она связана с истиной и властью. Популисты правы, когда с подозрением относятся к наивному взгляду на информацию, но они ошибаются, когда думают, что власть - это единственная реальность и что информация - это всегда оружие. Информация не является сырьем для истины, но она также не является и простым оружием. Между этими крайностями есть достаточно места для более тонкого и обнадеживающего взгляда на человеческие информационные сети и на нашу способность разумно распоряжаться властью. Эта книга посвящена исследованию этой середины.
ПУТЬ ВПЕРЕД
В первой части этой книги рассматривается историческое развитие человеческих информационных сетей. В ней нет попытки представить исчерпывающее описание информационных технологий, таких как письменность, печатные станки и радио, от века к веку. Вместо этого на нескольких примерах рассматриваются ключевые дилеммы, с которыми сталкивались люди во все эпохи, пытаясь создать информационные сети, и анализируется, как различные ответы на эти дилеммы формировали контрастные человеческие общества. То, что мы обычно считаем идеологическими и политическими конфликтами, часто оказывается столкновениями между противоположными типами информационных сетей.
Часть 1 начинается с рассмотрения двух принципов, которые были важны для масштабных человеческих информационных сетей: мифологии и бюрократии. В главах 2 и 3 описывается, как крупные информационные сети - от древних королевств до современных государств - опирались как на мифотворцев, так и на бюрократов. Например, библейские истории были важны для христианской церкви, но Библии не было бы, если бы церковные бюрократы не курировали, не редактировали и не распространяли эти истории. Сложная дилемма для каждой человеческой сети заключается в том, что создатели мифов и бюрократы тянут в разные стороны. Институты и общества часто определяются балансом, который им удается найти между противоречивыми потребностями мифотворцев и бюрократов. Сама христианская церковь разделилась на конкурирующие церкви, такие как католическая и протестантская, которые по-разному балансировали между мифологией и бюрократией.
Глава 4 посвящена проблеме ошибочной информации, а также преимуществам и недостаткам существования механизмов самокоррекции, таких как независимые суды или рецензируемые журналы. В главе противопоставляются институты, полагающиеся на слабые механизмы самокоррекции, например католическая церковь, и институты, развившие сильные механизмы самокоррекции, например научные дисциплины. Слабые механизмы самокоррекции иногда приводят к историческим катаклизмам, таким как европейские охоты на ведьм раннего нового времени, в то время как сильные механизмы самокоррекции иногда дестабилизируют сеть изнутри. Если судить по продолжительности существования, распространению и силе, то католическая церковь была, возможно, самым успешным институтом в истории человечества, несмотря на относительную слабость механизмов самокоррекции - а может быть, и благодаря ей.
После того как в первой части были рассмотрены роли мифологии и бюрократии, а также контраст между сильными и слабыми механизмами самокоррекции, глава 5 завершает историческую дискуссию, сосредоточившись на другом контрасте - между распределенными и централизованными информационными сетями. Демократические системы позволяют информации свободно распространяться по множеству независимых каналов, в то время как тоталитарные системы стремятся сконцентрировать информацию в одном узле. У каждого варианта есть как преимущества, так и недостатки. Понимание таких политических систем, как США и СССР, с точки зрения информационных потоков может многое объяснить в их различных траекториях развития.
Эта историческая часть книги крайне важна для понимания современных событий и будущих сценариев. Возникновение ИИ - это, пожалуй, крупнейшая информационная революция в истории. Но мы не сможем понять ее, если не сравним с ее предшественниками. История - это не изучение прошлого, это изучение изменений. История учит нас тому, что остается неизменным, что меняется и как все меняется. Это относится как к информационным революциям, так и к любым другим видам исторических преобразований. Так, понимание процесса, в ходе которого якобы непогрешимая Библия была канонизирована, дает ценное представление о современных претензиях на непогрешимость ИИ. Аналогичным образом, изучение охоты на ведьм в ранние времена и сталинской коллективизации дает суровое предупреждение о том, что может пойти не так, когда мы предоставляем ИИ больший контроль над обществами XXI века. Глубокое знание истории также необходимо для того, чтобы понять, что нового в ИИ, чем он принципиально отличается от печатного станка и радиоприемника и в чем конкретно будущая диктатура ИИ может быть совершенно не похожа на то, что мы видели раньше.
В книге не утверждается, что изучение прошлого позволяет нам предсказывать будущее. Как неоднократно подчеркивается на последующих страницах, история не детерминирована, и будущее будет зависеть от того, какой выбор мы все сделаем в ближайшие годы. Смысл написания этой книги заключается в том, что, делая осознанный выбор, мы можем предотвратить худшие последствия. Если мы не можем изменить будущее, зачем тратить время на его обсуждение?
Опираясь на исторический обзор первой части, вторая часть книги - "Неорганическая сеть" - рассматривает новую информационную сеть, которую мы создаем сегодня, фокусируясь на политических последствиях развития ИИ. В главах 6-8 рассматриваются недавние примеры из разных стран мира - например, роль алгоритмов социальных сетей в разжигании этнического насилия в Мьянме в 2016-17 годах, - чтобы объяснить, чем ИИ отличается от всех предыдущих информационных технологий. Примеры взяты в основном из 2010-х, а не из 2020-х годов, поскольку мы получили небольшую историческую перспективу событий 2010-х годов.
В части 2 утверждается, что мы создаем совершенно новый тип информационной сети, не задумываясь о его последствиях. В ней подчеркивается переход от органических к неорганическим информационным сетям. Римская империя, католическая церковь и СССР - все они опирались на углеродные мозги для обработки информации и принятия решений. Компьютеры на основе кремния, которые доминируют в новой информационной сети, функционируют радикально иначе. К лучшему или худшему, кремниевые чипы свободны от многих ограничений, которые органическая биохимия накладывает на углеродные нейроны. Кремниевые чипы могут создавать шпионов, которые никогда не спят, финансистов, которые никогда не забывают, и деспотов, которые никогда не умирают. Как это изменит общество, экономику и политику?
В третьей, заключительной части книги - "Компьютерная политика" - рассматривается вопрос о том, как различные типы обществ могут справиться с угрозами и обещаниями неорганической информационной сети. Есть ли у углеродных форм жизни, таких как мы, шанс понять и контролировать новую информационную сеть? Как уже отмечалось выше, история не детерминирована, и еще как минимум несколько лет мы, сапиенсы, можем определять свое будущее.
Соответственно, в главе 9 рассматривается вопрос о том, как демократии могут справиться с неорганической сетью. Как, например, политики из плоти и крови могут принимать финансовые решения, если финансовая система все больше контролируется искусственным интеллектом, а само значение денег зависит от непостижимых алгоритмов? Как демократии смогут поддерживать общественный разговор о чем бы то ни было - будь то финансы или гендер, - если мы больше не можем знать, говорим ли мы с другим человеком или с чатботом, маскирующимся под человека?
В главе 10 рассматривается потенциальное влияние неорганической сети на тоталитаризм. Хотя диктаторы были бы рады избавиться от всех публичных разговоров, у них есть свои собственные страхи перед ИИ. Автократии основаны на терроре и цензуре своих агентов. Но как человеческий диктатор может терроризировать ИИ, подвергнуть цензуре его непостижимые процессы или помешать ему захватить власть в свои руки?
Наконец, в главе 11 рассматривается, как новая информационная сеть может повлиять на баланс сил между демократическими и тоталитарными обществами на глобальном уровне. Сможет ли ИИ склонить баланс в пользу одного из лагерей? Расколется ли мир на враждебные блоки, соперничество которых сделает всех нас легкой добычей для вышедшего из-под контроля ИИ? Или мы сможем объединиться, защищая наши общие интересы?
Но прежде чем мы изучим прошлое, настоящее и возможное будущее информационных сетей, нам нужно начать с обманчиво простого вопроса. Что именно представляет собой информация?
ЧАСТЬ
I
.
Человеческие сети
.
ГЛАВА 1.
Что такое информация?
Сложно дать определение фундаментальным понятиям. Поскольку они являются основой для всего, что за ними следует, сами они, кажется, не имеют никакой собственной основы. Физикам трудно дать определение материи и энергии, биологам - жизни, а философам - реальности.