Юваль Харари – Нексус. Краткая история информационных сетей от каменного века до искусственного интеллекта (страница 91)

К счастью, эта бинарная позиция ошибочна в своем основном предположении. Глобальное сотрудничество и патриотизм не являются взаимоисключающими понятиями. Ведь патриотизм - это не ненависть к иностранцам. Он заключается в любви к соотечественникам. И есть множество ситуаций, когда для того, чтобы заботиться о соотечественниках, нам необходимо сотрудничать с иностранцами. COVID-19 дал нам один очевидный пример. Пандемии - это глобальные события, и без глобального сотрудничества их трудно сдержать, не говоря уже о предотвращении. Когда в одной стране появляется новый вирус или мутировавший патоген, это ставит под угрозу все остальные страны. И наоборот, самое большое преимущество людей перед патогенами заключается в том, что мы можем сотрудничать так, как не могут патогены. Врачи в Германии и Бразилии могут предупреждать друг друга о новых опасностях, давать друг другу дельные советы и совместно разрабатывать более эффективные методы лечения.

Если немецкие ученые изобретут вакцину против какого-то нового заболевания, как бразильцы должны отреагировать на это немецкое достижение? Один из вариантов - отвергнуть иностранную вакцину и ждать, пока бразильские ученые не разработают бразильскую вакцину. Однако это было бы не просто глупо, это было бы антипатриотично. Бразильские патриоты должны стремиться использовать любую доступную вакцину для помощи своим соотечественникам, независимо от того, где она была разработана. В этой ситуации сотрудничество с иностранцами - это патриотический поступок. Угроза потери контроля над ИИ - аналогичная ситуация, в которой патриотизм и глобальное сотрудничество должны идти рука об руку. Вышедший из-под контроля ИИ, как и вышедший из-под контроля вирус, ставит под угрозу людей в любой стране. Ни один человеческий коллектив - будь то племя, нация или весь вид - не выиграет от того, что власть перейдет от людей к алгоритмам.

Вопреки утверждениям популистов, глобализм не означает создание мировой империи, отказ от национальной лояльности или открытие границ для неограниченной иммиграции. На самом деле глобальное сотрудничество означает две гораздо более скромные вещи: во-первых, приверженность некоторым глобальным правилам. Эти правила не отрицают уникальности каждой нации и лояльности, которой люди должны быть обязаны своей стране. Они просто регулируют отношения между странами. Хорошей моделью является Кубок мира по футболу. Кубок мира - это соревнование между странами, и люди часто проявляют яростную преданность своей национальной команде. В то же время Кубок мира - это удивительное проявление глобального согласия. Бразилия не может играть в футбол с Германией, если бразильцы и немцы сначала не договорятся о единых правилах игры. Это и есть глобализм в действии.

Второй принцип глобализма заключается в том, что иногда - не всегда, но иногда - необходимо отдавать предпочтение долгосрочным интересам всех людей перед краткосрочными интересами немногих. Например, на чемпионате мира по футболу все национальные команды договариваются не использовать стимулирующие препараты, потому что все понимают, что если они пойдут по этому пути, то чемпионат мира в конце концов превратится в соревнование между биохимиками. В других областях, где технологии меняют ход событий, мы должны стремиться к балансу национальных и глобальных интересов. Очевидно, что страны будут продолжать конкурировать в разработке новых технологий, но иногда им следует договориться об ограничении разработки и внедрения опасных технологий, таких как автономное оружие и манипулятивные алгоритмы, - не из чистого альтруизма, а ради собственного самосохранения.

 

ЧЕЛОВЕЧЕСКИЙ ВЫБОР

Разработка и соблюдение международных соглашений по ИИ потребует серьезных изменений в функционировании международной системы. Если в регулировании опасных технологий, таких как ядерное и биологическое оружие, у нас есть опыт, то регулирование ИИ потребует беспрецедентного уровня доверия и самодисциплины по двум причинам. Во-первых, скрыть нелегальную лабораторию ИИ легче, чем нелегальный ядерный реактор. Во-вторых, у ИИ гораздо больше двойного военно-гражданского применения, чем у ядерных бомб. Следовательно, несмотря на подписание соглашения, запрещающего автономные системы вооружений, страна может создавать такое оружие тайно или маскировать его под гражданскую продукцию. Например, она может разработать полностью автономные беспилотники для доставки почты и опрыскивания полей пестицидами, которые при незначительных модификациях смогут также доставлять бомбы и опрыскивать людей ядом. Следовательно, правительствам и корпорациям будет сложнее поверить в то, что их конкуренты действительно соблюдают согласованные правила, и не поддаться искушению самим отступить от них. Смогут ли люди выработать необходимый уровень доверия и самодисциплины? Есть ли в истории прецеденты подобных изменений?

Многие люди скептически относятся к способности человека меняться, и в частности к его способности отказаться от насилия и создать более прочные глобальные связи. Например, такие мыслители-"реалисты", как Ганс Моргентау и Джон Миршаймер, утверждают, что тотальная борьба за власть - неизбежное условие международной системы. Миршаймер объясняет, что "согласно моей теории, великие державы озабочены главным образом тем, как выжить в мире, где нет органа, который бы защитил их друг от друга", и что "они быстро осознают, что сила - это ключ к их выживанию". Затем Миршаймер задается вопросом, "какой власти хотят государства", и отвечает, что все государства хотят получить как можно больше власти, "потому что международная система создает мощные стимулы для государств искать возможности получить власть за счет соперников". Он заключает: "Конечная цель государства - быть гегемоном в системе".

Этот мрачный взгляд на международные отношения сродни популистским и марксистским взглядам на человеческие отношения, поскольку все они считают, что люди заинтересованы только во власти. И все они основаны на более глубокой философской теории человеческой природы, которую приматолог Франс де Ваал назвал "теорией шпона". Она утверждает, что в основе своей люди - охотники каменного века, которые не могут не воспринимать мир как джунгли, где сильные охотятся на слабых и где сила делает право. На протяжении тысячелетий люди пытались замаскировать эту неизменную реальность под тонкой и изменчивой оболочкой мифов и ритуалов, но так и не смогли освободиться от закона джунглей. На самом деле наши мифы и ритуалы сами по себе являются оружием, используемым верховными псами джунглей для обмана и заманивания в ловушку низших. Те, кто не осознает этого, опасно наивны и могут стать жертвой какого-нибудь безжалостного хищника.

Однако есть основания полагать, что "реалисты" вроде Миршаймера избирательно относятся к исторической реальности и что закон джунглей сам по себе является мифом. Как показал де Ваал и многие другие биологи в своих многочисленных исследованиях, реальные джунгли - в отличие от тех, что мы себе представляем, - полны сотрудничества, симбиоза и альтруизма, которые демонстрируют бесчисленные животные, растения, грибы и даже бактерии. Восемьдесят процентов всех наземных растений, например, находятся в симбиотических отношениях с грибами, а почти 90 процентов семейств сосудистых растений поддерживают симбиотические отношения с микроорганизмами. Если бы организмы в тропических лесах Амазонии, Африки или Индии отказались от сотрудничества в пользу тотальной конкуренции за гегемонию, тропические леса и все их обитатели быстро бы погибли. Таков закон джунглей.

Что касается людей каменного века, то они были не только охотниками, но и собирателями, и нет никаких веских доказательств того, что они обладали неудержимыми воинственными наклонностями. Хотя существует множество предположений, первое однозначное свидетельство организованных военных действий появилось в археологической летописи лишь около тринадцати тысяч лет назад, на месте Джебель-Сахаба в долине Нила. Даже после этой даты данные о войнах скорее изменчивы, чем постоянны. Некоторые периоды были исключительно жестокими, в то время как другие были относительно мирными. Самая четкая закономерность, которую мы наблюдаем в долгосрочной истории человечества, - это не постоянство конфликтов, а скорее растущие масштабы сотрудничества. Сто тысяч лет назад сапиенсы могли сотрудничать только на уровне групп. За тысячелетия мы нашли способы создавать сообщества незнакомых людей, сначала на уровне племен, а затем на уровне религий, торговых сетей и государств. Реалисты должны отметить, что государства - это не фундаментальные частицы человеческой реальности, а скорее продукт трудных процессов построения доверия и сотрудничества. Если бы людей интересовала только власть, они никогда бы не создали государства. Конечно, конфликты всегда оставались возможными - как между государствами, так и внутри них, - но они никогда не были неизбежной судьбой.

Интенсивность войны зависит не от неизменной человеческой природы, а от меняющихся технологических, экономических и культурных факторов. С изменением этих факторов меняется и война, что было наглядно продемонстрировано в эпоху после 1945 года. В тот период развитие ядерных технологий значительно увеличило потенциальную цену войны. Начиная с 1950-х годов сверхдержавам стало ясно, что даже если они каким-то образом смогут выиграть тотальный ядерный обмен, их победа, скорее всего, будет самоубийственной и повлечет за собой гибель большей части населения.