Гаспар Кёниг – Конец индивидуума. Путешествие философа в страну искусственного интеллекта (страница 41)
Но давайте вернемся к нашему секулярному миру, в котором Бог если и не исчез, то по крайней мере перестал быть повседневным собеседником. К страху конечности всего добавляется страх небытия. Мы уходим, и ничего не остается. Нет никакой копии или памяти. Время навсегда уничтожает то, чем мы были. Это сознание собственной тщетности способно открыть путь для аутентичного понимания существования и наслаждения им. Так Сартр, любитель онтологии и зимних видов спорта, интерпретирует лыжи в последней главе «Бытия и ничто»: мы скользим, а снег прикрывает наши следы, словно бы ничего не произошло. «Скольжение, – объясняет Сартр, – противоположно укоренению». Корень, прекрасно описанный Сартром в «Тошноте», должен пробиваться сквозь почву, разрывать ее, чтобы навеки в ней закрепиться, тогда как скольжение оставляет мир нетронутым. Это мечта человека без Бога: завоевать материю, не навязывая себя ей; обладать, но не ранить. «Когда, – делает вывод Сартр, – впрочем, мы скатываемся со склона, у нас возникает иллюзия, что мы не оставляем следа; мы требуем от снега поведения как от воды, которой он тайно является»[145]. Жить и исчезать, жить исчезая, как простое сознание, наложенное на мир. Первый страх, вызванный рассеянием, может превратиться в чистую радость исчезновения. Если, оборачиваясь, мы не можем разглядеть собственных следов, дело именно в том, что можно идти куда заблагорассудится. Наше сознание, углубляясь в ничто, которым мы являемся и которым в каждый момент становимся заново, сталкивает нас с нашей ответственностью. Можно выбрать самообман – корень. А можно принять свободу, то есть скольжение.
Посетители музея Ван Гога выбрали корень. Производить данные, как можно больше данных, – значит пытаться оставить след, отказываясь от абсурда существования, предоставленного самому себе. Поскольку Бог больше не смотрит на меня, я заменю его самим собой, создавая виртуальную копию собственной жизни, загружая ее в облако и распространяя по социальным сетям. Я больше никогда не взгляну на фотографию «Автопортрета художника», но тот факт, что я видел эту картину, останется навсегда (или по крайней мере пока хватит энергии для поддержания работы серверов). Машина воспроизводит божественное всезнание. Эта безумная попытка отрицать нашу мимолетность может приобрести болезненный оттенок. Так, движение
Мы перестали хранить свои секреты не от хорошей жизни. Стремление к прозрачности – это решение, выбираемое за неимением лучшего, когда мы отказались от надежды на трансцендентное и в то же время не можем согласиться с тем, что уходим из этого мира, не оставив никакого следа. Бог умер, да здравствует ИИ?
5
Геополитика ИИ
Каждая страна и культура подходит к ИИ на свой манер, в соответствии c тем, как она понимает индивида и общество. Китай подхватил ИИ с особым энтузиазмом и теперь на базе этой технологии строит альтернативу западной модели развития. Размах китайского проекта стал мне ясен, когда солнечным днем я сидел в кафе на Юнион-сквер посреди типичного для Сан-Франциско коловращения бездомных, туристов и стартаперов. Я разговаривал по телефону с Мартином Чорземпой, который написал для исследовательского института Петерсона подробный доклад о «социальном кредите». Эта система персонального рейтинга, введенная китайскими властями, в западной прессе описывается в категориях мрачных фантазий Оруэлла. Что это такое – простой инструмент, облегчающий доступ к банковскому кредиту, как он первоначально и был задуман, или же каталог всего населения страны, в котором алгоритмы приписывают каждому гражданину определенный рейтинг в зависимости от его социального поведения и назначают соответствующее вознаграждение? Научная статья, одним из соавторов которой выступил Мартин Чорземпа, отличилась взвешенным и точным анализом[147]. Прежде чем отправиться в Китай, я хотел разобраться в этой ситуации.
По словам Мартина и его соавторов, цель этого кредита, появившегося в 2014 году, первоначально состояла в усовершенствовании социально-экономического развития за счет оценки доверия граждан друг к другу. Банковский кредит – не более чем один из аспектов системы, призванной также предупреждать уклонение от налогов и повышать прозрачность управления. Задача была в том, чтобы разработать высокотехнологичную систему управления, в которой каждый получал бы признание по его истинной ценности. Мартин допускал, что эти первоначальные благие намерения действительно могли привести к улучшению роста и даже социальной включенности. Однако социальный кредит превратился в беспрецедентный инструмент надзора, так что миллионам китайских граждан теперь запрещено летать на самолете, поскольку они слушали слишком громкую музыку, прогуливали собаку без поводка или же публиковали неприемлемые сообщения в социальных сетях. Развитие этой системы, которая пока находится на стадии тестирования, представляется неизбежным. При этом социальный кредит окутан тайной: позднее в Пекине один журналист из
Отсюда вопрос, поставленный Мартином во введении к статье: что такое социальный кредит – признак прогресса или угроза частной жизни? Ответ оказался несколько более двусмысленным, чем можно было ожидать. Все еще можно надеяться на то, что кредит вернется к своему первоначальному призванию. Однако сама логика ИИ требует непрерывно расширять область доступных данных. С точки зрения алгоритмов, чтобы точно оценить платежеспособность заемщика, вполне логично учитывать его школьные отметки, семейные отношения и даже политические взгляды. Разве не справедливо, что хороший гражданин, серьезность и надежность которого может быть подтверждена всеми окружающими, с бо́льшей легкостью получит заем, чем мошенник и манипулятор? Если есть средства предсказать поведение помимо простой кредитной истории, почему бы не воспользоваться ими? Не собирается ли Facebook пойти тем же путем, введя свою валюту «Либра»? Надзор в таком случае представляется не столько политическим отклонением, сколько технологическим требованием. Социальный кредит – это одновременно экономический прогресс, средство обеспечения социальной справедливости и угроза частной жизни, и их невозможно отделить друг от друга.
Повесив трубку, я остался в глубочайших сомнениях. В словах Мартина я почувствовал некоторое смущение. Как не усомниться в социальной философии, на которой зиждется социальный кредит? Я сам рос под тенью учения Фукуямы, связывающего экономическое процветание с индивидуальной свободой. Мне всегда говорили, что одно невозможно без другого, и именно по этой причине список либеральных демократий в целом совпадает со списком развитых стран. Интеллектуальная собственность, свобода слова и правовое государство – вот что поощряет инновации и инвестиции, и тогда экономическое развитие порождает средний класс, озабоченный своими правами. Даже сегодня историк Нил Фергюсон связывает успех Запада с такими свободами, как право собственности и принцип конкурентности[148]. Однако социальный кредит доказывает, похоже, прямо противоположное: только подчиняя всех граждан едва ли не тотальному режиму прозрачности и подвергая их постоянному социальному давлению, можно максимизировать результаты, на которые способны алгоритмы. Общее благо имеет свою цену.
ИИ в том виде, в каком его спешат развивать в Китае, разъединяет два члена уравнения, которое я считал вечным: процветание и свободу, экономический рост и права человека. Передо мной, нависая над хаосом Юнион-сквер, стояла двадцатипятиметровая статуя Ники, богини победы. Но, может быть, вскоре она перейдет в другой лагерь? Не соответствует ли триумф США, одержанный в XX веке, той технологической парадигме, которая сегодня устарела? В мире, где прогресс зависит от накопления данных, преимущество, возможно, окажется на стороне авторитарных государств. А раз так, не становится ли частная жизнь, некогда выступавшая залогом креативности, препятствием для оптимизации?
Сталкиваясь с этими ключевыми для будущего нашей цивилизации вопросами, общества и организации, с которыми я познакомился, дают разные ответы, основанные на их собственных ценностях. Для простоты я буду различать конфуцианский Китай, стоическую Европу и протестантскую Америку.
Китай, или Триумф Конфуция
В своих странствиях я потратил на США в три раза больше времени, чем на Китай. Слишком поздно я понял, что надо было сделать наоборот… Хотя центр мировых инноваций по-прежнему находится в Калифорнии, новые китайские гиганты бросают вызов компаниям GAFA и их сателлитам[149]. Например, Didi в одном только Китае ежедневно выполняет больше рейсов, чем Uber во всем мире. Главное же, независимо от споров о реальности сокращения отставания Китая[150], что ИИ в в этой стране стал проектом всего общества в целом, определенным в качестве такового национальной стратегией развития, обнародованной правительством в июле 2017 года.