Юваль Харари – Нексус. Краткая история информационных сетей от каменного века до искусственного интеллекта (страница 90)
Все более актуальным становится вопрос о том, могут ли люди принимать любую виртуальную личность, которая им нравится, или их идентичность должна быть ограничена их биологическим телом? Если мы придерживаемся лютеранской позиции sola fide, то биологическое тело не имеет особого значения. Для принятия определенной сетевой идентичности важно лишь то, во что вы верите. Этот спор может иметь далеко идущие последствия не только для человеческой идентичности, но и для нашего отношения к миру в целом. Общество, которое понимает идентичность в терминах биологических тел, должно также больше заботиться о материальной инфраструктуре, такой как канализационные трубы, и об экосистеме, поддерживающей наши тела. Оно будет рассматривать онлайн-мир как вспомогательное средство для офлайн-мира, которое может служить различным полезным целям, но никогда не сможет стать центральной ареной нашей жизни. Его целью будет создание идеального физического и биологического царства - Царства Божьего на земле. Напротив, общество, которое преуменьшает значение биологических тел и фокусируется на онлайн-идентификации, вполне может стремиться к созданию погруженного в киберпространство Царства Божьего, не обращая внимания на судьбу таких материальных вещей, как канализационные трубы и тропические леса.
Эти дебаты могут сформировать отношение не только к организмам, но и к цифровым сущностям. Пока общество определяет личность, ориентируясь на физические тела, оно вряд ли будет рассматривать ИИ как личность. Но если общество будет придавать меньше значения физическим телам, то даже ИИ, лишенные каких-либо телесных проявлений, могут быть приняты в качестве юридических лиц, обладающих различными правами.
На протяжении всей истории человечества различные культуры давали разные ответы на проблему "разум-тело". Споры о проблеме "разум-тело" в XXI веке могут привести к культурным и политическим расколам, более значительным, чем раскол между иудеями и христианами или между католиками и протестантами. Что произойдет, например, если американская сфера будет игнорировать тело, определять человека по его сетевой идентичности, признавать ИИ в качестве личности и преуменьшать значение экосистемы, в то время как китайская сфера займет противоположные позиции? Нынешние разногласия по поводу нарушения прав человека или соблюдения экологических стандартов покажутся ничтожными по сравнению с этим. Тридцатилетняя война - возможно, самая разрушительная в истории Европы - велась, по крайней мере, частично из-за того, что католики и протестанты не могли договориться о таких доктринах, как sola fide и о том, был ли Христос божественным, человеческим или недвойственным. Могут ли будущие конфликты начаться из-за споров о правах ИИ и небинарной природе аватаров?
Как уже отмечалось, это все дикие предположения, и, по всей вероятности, реальные культуры и идеологии будут развиваться в других - возможно, даже более диких - направлениях. Но вполне вероятно, что в течение нескольких десятилетий компьютерная сеть сформирует новые человеческие и нечеловеческие идентичности, которые не будут иметь для нас никакого смысла. А если мир будет разделен на два соперничающих цифровых кокона, то идентичность сущностей в одном коконе может оказаться непонятной для обитателей другого.
ОТ КОДОВОЙ ВОЙНЫ К ГОРЯЧЕЙ
Хотя Китай и США в настоящее время являются лидерами в гонке ИИ, они не одиноки. Другие страны или блоки, такие как ЕС, Индия, Бразилия и Россия, могут попытаться создать свои собственные цифровые сферы, каждая из которых будет находиться под влиянием различных политических, культурных и религиозных традиций. Вместо того чтобы быть разделенным только между двумя глобальными империями, мир может быть разделен между дюжиной империй. Неясно, смягчит ли это в какой-то мере или только усугубит имперскую конкуренцию.
Чем больше новые империи соперничают друг с другом, тем выше опасность вооруженного конфликта. Холодная война между США и СССР так и не переросла в прямую военную конфронтацию во многом благодаря доктрине взаимного гарантированного уничтожения. Но опасность эскалации в эпоху ИИ еще больше, поскольку кибервойна по своей сути отличается от ядерной войны.
Во-первых, кибероружие гораздо более универсально, чем ядерные бомбы. Кибероружие может вывести из строя электрическую сеть страны, но его также можно использовать для уничтожения секретного исследовательского центра, глушения вражеского датчика, раздувания политического скандала, манипулирования выборами или взлома одного смартфона. И все это они могут сделать незаметно. Они не объявляют о своем присутствии грибовидным облаком и шквалом огня, не оставляют видимого следа от пусковой площадки до цели. Поэтому порой трудно понять, была ли вообще атака или кто ее осуществил. Если взломана база данных или уничтожено чувствительное оборудование, трудно определить, кого винить. Поэтому велик соблазн начать ограниченную кибервойну, равно как и соблазн ее эскалации. Соперничающие страны, такие как Израиль и Иран или США и Россия, уже много лет обмениваются киберударами в необъявленной, но эскалационной войне. Это становится новой глобальной нормой, усиливая международную напряженность и заставляя страны переходить одну красную черту за другой.
Второе принципиальное отличие касается предсказуемости. Холодная война была похожа на гиперрациональную шахматную партию, и уверенность в уничтожении в случае ядерного конфликта была настолько велика, что желание начинать войну было соответственно невелико. В кибервойне такой уверенности нет. Никто не знает наверняка, где каждая из сторон заложила свои логические бомбы, троянские кони и вредоносные программы. Никто не может быть уверен в том, что его собственное оружие сработает, когда к нему обратятся. Запустят ли китайские ракеты, когда будет отдан приказ, или, возможно, американцы взломали их или цепочку управления? Будут ли американские авианосцы работать так, как ожидалось, или, возможно, они будут таинственно отключаться или плавать по кругу.
Такая неопределенность подрывает доктрину взаимного гарантированного уничтожения. Одна из сторон может убедить себя - справедливо или нет - в том, что она может нанести успешный первый удар и избежать массированного возмездия. Хуже того, если одна из сторон решит, что у нее есть такая возможность, искушение нанести первый удар может стать непреодолимым, ведь никогда не знаешь, как долго будет оставаться открытым окно возможностей. Теория игр утверждает, что самая опасная ситуация в гонке вооружений - это когда одна из сторон чувствует, что у нее есть преимущество, но это преимущество ускользает.
Даже если человечество избежит наихудшего сценария глобальной войны, возникновение новых цифровых империй все равно может поставить под угрозу свободу и процветание миллиардов людей. Промышленные империи XIX и XX веков эксплуатировали и подавляли свои колонии, и было бы безрассудно ожидать, что новые цифровые империи будут вести себя намного лучше. Более того, как отмечалось ранее, если мир будет разделен на соперничающие империи, человечество вряд ли сможет эффективно сотрудничать в преодолении экологического кризиса или регулировании ИИ и других разрушительных технологий, таких как биоинженерия.
ГЛОБАЛЬНАЯ ОБЛИГАЦИЯ
Конечно, независимо от того, разделен ли мир между несколькими цифровыми империями, остается ли он более разнообразным сообществом двухсот национальных государств или расколот по совершенно иным и непредвиденным линиям, сотрудничество всегда остается возможным. Среди людей предпосылкой для сотрудничества является не сходство, а способность обмениваться информацией. Пока мы можем разговаривать, мы можем найти какую-то общую историю, которая сблизит нас. В конце концов, именно это сделало Homo sapiens доминирующим видом на планете.
Как разные и даже враждующие семьи могут сотрудничать в рамках племенной сети, а конкурирующие племена - в рамках национальной сети, так и враждующие нации и империи могут сотрудничать в рамках глобальной сети. Истории, которые делают такое сотрудничество возможным, не устраняют наши различия; скорее, они позволяют нам выявить общий опыт и интересы, которые предлагают общую основу для размышлений и действий.
В значительной степени глобальное сотрудничество затруднено ошибочным представлением о том, что оно требует уничтожения всех культурных, социальных и политических различий. Политики-популисты часто утверждают, что если международное сообщество согласится с общей историей и универсальными нормами и ценностями, то это уничтожит независимость и уникальные традиции их собственной нации. Эту позицию в 2015 году без обиняков озвучила Марин Ле Пен - лидер французской партии "Национальный фронт" - в своей предвыборной речи, в которой она заявила: "Мы вступили в новую двухпартийность. Двухпартийность между двумя взаимоисключающими концепциями, которые отныне будут определять нашу политическую жизнь. Раскол больше не разделяет левых и правых, а глобалистов и патриотов". В августе 2020 года президент Трамп так описал свою руководящую этику: "Мы отвергли глобализм и приняли патриотизм".