Гаспар Кёниг – Конец индивидуума. Путешествие философа в страну искусственного интеллекта (страница 46)

«Нас ждет будущее, о котором говорил Азимов. Небольшой процент людей будет контролировать всех остальных».

«В будущем можно будет узнавать о малейшем движении каждого гражданина».

«Чем больше правительство оцифровывает вашу жизнь, тем больше оно ее контролирует».

И, наконец, мой любимый: «ИИ помогает Коммунистической партии увеличивать количество времени, которое люди проводят, тупя за телефоном».

Как это часто бывает в Китае, мои возражения благожелательно выслушивались, но решительно отвергались. Зачем гарантировать свободы, если они ведут к хаосу и несчастьям? Не учит ли нас история тому, что толпе нужен вождь? Если этот вождь прячется в вашем телефоне, если он удовлетворяет все ваши потребности, так что вы даже не успеваете формулировать свои запросы, – это и есть прогресс! Даже один затесавшийся в нашу компанию гуманист, защищавший «ренессансное образование», не видел никаких проблем в том, чтобы использовать камеры распознавания лиц для определения эмоций ребенка.

Какой контраст с калифорнийскими гиками, воспевающими «инновации-которые-меняют-мир»! Однако это могут быть точно такие же предприниматели, обучавшиеся тем же технологиям, работающие с теми же рисками и с такими же продуктами. Но если американский стартапер, занимающийся «геймингом», попытается убедить вас, что видеоигры развивают когнитивные способности, укрепляют социальные связи пользователя и помогают ему обрести уверенность в себе, то его китайский коллега прямо объяснит вам: цифровая аддикция позволяет одновременно создать как зависимость от платформы, так и безусловное подчинение действующей власти – два в одном! Однако такая откровенность не кажется мне ни полезной, ни ободряющей: КККК слишком хорошо позволяет представить предельные политические следствия неограниченного применения ИИ.

Когда китайцы все же признают определенные опасности, создаваемые ИИ (например, связанные с ростом неравенства), их ответ формулируется в рамках того же холистического подхода. Так, Кай-Фу Ли, в частных разговорах о достоинствах ИИ высказывающийся гораздо умереннее, чем на сцене TED Talk, предлагает компенсировать автоматизацию рабочих мест определенной формой универсального дохода, который, однако, привязывается к услугам, оказанным обществу в целом. Этой «социальной зарплатой» следует вознаграждать людей за творческую деятельность, имеющую коллективную ценность… что противоположно «индивидуалистическому» взгляду на универсальный доход, как он понимается в Кремниевой долине. Напомню, вопрос «конца труда» представляется мне переоцененным. Кроме того, китайское решение опирается на интерес группы, которой нужно будет отдавать не только свои данные, но также свое время и свою жизнь. Чтобы компенсировать недостатки КККК, понадобится еще больше КККК!

Если бы я хотел подытожить одной фразой состояние умов, ныне царящее в Китае, то процитировал бы экономиста Чжу Мина, бывшего заместителя директора Международного валютного фонда, который как-то пригласил меня на обед в элитный ресторан рядом с Запретным городом: «Чего нам будет недоставать из эпохи до ИИ? Ничего».

Европа, или Самоубийство по заветам стоиков

В Древней Греции один родосский военачальник попал в плен. Его бросили в яму и кидали туда пищу, как дикому зверю. Проходящий мимо человек посоветовал ему отказаться от еды и умереть от голода. Но военачальник ответил: «Пока человек жив, он может надеяться». В одном из своих писем Луцилию Сенека красноречиво осудил эту позицию, назвав ее «женской слабостью». Нет, жизнь нельзя покупать любой ценой. Нужно быть готовым умереть, но не отказываться от своего достоинства. Самоубийство составляет часть инструментария стоика; это последнее средство самоконтроля, применяемое, когда внешние обстоятельства становятся непреодолимыми. Ведь «судьба не может сделать ничего тому, кто знает, как умереть».

Это, собственно, и есть резюме европейской позиции по вопросу ИИ. Мы решительно отказываемся отрекаться от наших индивидуальных прав, представляющих собой плоды тысячелетней истории. Мы готовы пожертвовать благосостоянием, лишь бы не оказаться в яме, в которой свои данные надо показывать всем и каждому, а пищу получать от ИИ. Берлинские хакеры, с которыми я встречался, когда делал очередной репортаж[156], тратят все силы на борьбу с сетевой слежкой и на распространение средств защиты, таких как зашифрованные мессенджеры и анонимная навигация при помощи системы Tor. Европейские власти сделали удивительные шаги в том же направлении, приняв RGPD, правовой регламент, который призван охранять персональные данные граждан. Логика в том, чтобы включить контроль над данными в фундаментальные права человека, каковы бы ни были индустриальные последствия. Больше прав – меньше ИИ: уравнение совершенно ясно. Открытым остается вопрос о том, можно ли в этих условиях остаться в конкурентной игре мировой экономики. Не придется ли нам смириться с тем, что в ближайшем или далеком будущем мы станем цифровой колонией? Но даже если через несколько десятилетий нам предстоит погибнуть, если Европа станет всего лишь простой остановкой на маршруте нового Шелкового пути, это не важно: по крайней мере, мы будем знать, что жили достойно.

Отказ от прозрачности отвечает глубинным культурным требованиям. В работе «Цивилизация нравов» немецкий социолог Норберт Элиас показал, как в Европе постепенно создавалась частная сфера – от появления вилки и до власти над желаниями. Нам нужно было подавить в самих себе зов племени и животные влечения. Нагота, сексуальные отношения, сон, даже смерть – все они постепенно были «приватизированы», спрятаны от посторонних глаз. Мы перестали есть руками, отказались от насилия как средства урегулирования конфликтов.

Вся суть цивилизованности, основанной на самоограничении и уважении другого, держится на умении физически и эмоционально дистанцироваться от собратьев. Только определенная форма приватности позволяет нам выработать собственную личность. Мы научились не обнаруживать свои настоящие мысли и чувства, когда находимся в обществе, словно для цивилизованности требуется своего рода лицемерие. Так «между индивидами, их телами постепенно воздвигается стена, состоящая из боязливого стыда и эмоционального отторжения». Будет ли она теперь внезапно сломана, чтобы дать ход неограниченному обороту данных самого личного свойства?

Норберт Элиас отмечал, что при королевских дворах плевали на пол, но нравы развивались, и со временем эта практика исчезла. В Китае я видел, как водитель такси опустил окно, чтобы плюнуть на улицу. Хотя это и сомнительное сравнение, но оно вполне отражает радикальный контраст между европейской цивилизацией, гордящейся своим индивидуализмом, и китайской культурой, которая меньше озабочена стыдливой скромностью. Мы не готовы пожертвовать нашими ценностями, завоеванными с таким трудом. Лучше умереть, чем плевать на пол.

Самоубийство – вполне респектабельный выбор как для отдельных людей, так и для цивилизаций. Но вот отказ замечать наш технологический упадок внушает мне опасения. В Сан-Франциско я встретил соотечественников, которые объясняли мне, что у Франции были все козыри, чтобы добиться успешной реализации ИИ: разве не французским был первый микрокомпьютер? Разве не мог Minitel стать тем, чем теперь является интернет? Разве США не завидуют втайне нашей цифровой этике? Разве президент Республики не объявил, что Франция должна стать «мировым лидером» в области ИИ, хотя и выделил на это суммы, которые кажутся смешными в сравнении с инвестициями GAFA, в том числе в фундаментальных исследованиях? Разве президент Иль-де-Франс не решила сделать из своего региона «европейскую Кремниевую долину», под которую выделили целый миллион евро, что, однако, составляет среднюю годовую зарплату хорошего программиста в самой Долине? Сколько бы громких деклараций об ИИ ни делалось, они не имеют значения, если мы не выделяем под них достаточно средств и отказываемся (пусть и не без оснований) принять их культурные последствия.

Встреча с Кристианом Игелем, директором Центра ИИ и профессором Университета Копенгагена, оставила у меня такое же горькое послевкусие. Хотя его факультет и входит в тридцатку лучших в мире по компьютерным наукам, он испытывает огромное давление со стороны американских конкурентов. Лучшие ученые уходят в исследовательские подразделения Google или Facebook, где зарабатывают гораздо больше, пользуются теми же академическими свободами, но не подчиняются университетской бюрократии. Пока борьба остается неравной, сложно нанять даже научного сотрудника, причем еще десять лет назад ситуация была совершенно иной. Конечно, можно пожертвовать зарплатой ради общего блага или качества жизни. Однако средства, которыми могут распоряжаться исследователи в частном секторе, убеждают в итоге даже самых бескорыстных. Профессор Игель недавно писал статью с одним из своих диссертантов, теперь работающим в Microsoft, и вот уже его бывший студент дал ему доступ к базе данных, которую университет никогда не смог бы составить. Точно так же его факультет проиграл конкурс в области компьютерной сегментации изображений мозга, поскольку частные конкуренты имели доступ к большим вычислительным мощностям. Как надеется сам Кристиан Игель, возможно, правительства начнут инвестировать в фундаментальные исследования больше, так что европейская модель ИИ в конечном счете сможет добиться заслуженного уважения. Но сегодня тенденция совсем иная…