Гаспар Кёниг – Конец индивидуума. Путешествие философа в страну искусственного интеллекта (страница 44)

Западное понятие «надзор» не вполне подходит для описания этой полной прозрачности. Оно основано на интенциональности, полицейском государстве или капиталистических хищниках, стремящихся манипулировать индивидами. Здесь же каждый наблюдает за собой, успокаивая себя тем, что в его распоряжении имеется няня. В то же время границы между частной торговлей и государственными услугами стираются. Значение имеет только максимальная агрегация данных. Какая разница, кто будет оценивать мою рыночную платежеспособность – компания Alibaba или правительство, которое присваивает мне определенный рейтинг «социального кредита»? Самым полезным окажется для меня тот, кто будет располагать наибольшим количеством данных. Отсюда эта неизбежная тенденция к централизации. Чжингли Ченг, основатель инвестиционного фонда, специализирующегося на ИИ, использовал выражение, которое меня зацепило: «озеро данных». Это место, к которому стекаются реки из бесконечного числа источников в промышленности, правительстве или на платформах (другая собеседница сказала мне: «Данные – это как текущая вода»). «Озеро данных» – основной естественный ресурс, который обеспечивает питание алгоритмов, благосостояние граждан и коммуникацию разных секторов общества. И это «озеро» – единственное. Однажды оно будет поставлять ИИ всему Китаю. Из него смогут черпать ресурсы любые предприятия – при условии, что они будут отдавать в него собственные данные. Да и разве не логично, что эти предприятия постепенно сгруппируются, образовав одно-единственное предприятие, Левиафана данных, способного управлять нашими покупками и находить решение для любовных проблем? По крайней мере, ему не будет мешать никакое право на конкуренцию. В Европе, признаёт Чжингли Ченг, это было бы неприемлемо. Вот в этом и состоит решающее преимущество Китая.

Итак, сотрудничество правительства и платформ воспринимается не как предательство, а наоборот, как скоординированные поиски общего блага. Как мне с некоторыми эвфемизмами объясняет Сиян Гу, глава пиар-отдела китайского подразделения Microsoft, «китайский регулятор весьма открыт в вопросах доступа к данным». В то же время платформы готовы служить государству. Я удивился, узнав в разговоре с послом одной европейской страны, что Джек Ма предложил его премьер-министру доверить компании Alibaba выдачу виз! Кажется, нет такой области суверенитета, которая не была бы открыта гигантам китайского интернета, являющимся одновременно и коммерческими платформами, и правительственными агентами.

Чтобы лучше понять это переплетение публичного и частного, я решил посетить City Brain, созданный компанией Alibaba в Ханчжоу, скромном городке на шесть миллионов человек, расположенном к юго-востоку от Шанхая. Этот «мозг города» представляет собой ИИ, призванный оптимизировать городское управление. Каждая из крупных китайских платформ, согласовав свою роль с правительством, вносит вклад в достижение общего блага, используя для этого свои технологические компетенции. В этом негласном дележе цифрового мира Baidu получила беспилотные автомобили, Tencent – электронную медицину, iFlytek – распознавание голоса, а Alibaba – автономный город… Похоже на то, как если бы американское правительство доверило управление системой медицинского страхования Google, а реорганизацию дорожного транспорта – Amazon. В данном случае City Brain обкатывался в городе, где вырос сам Джек Ма и где по-прежнему располагается штаб-квартира компании Alibaba.

Несколько месяцев я самыми разными способами пытался добиться в Ханчжоу встречи с экспертами Alibaba, способными показать мне, как именно работает City Brain. За несколько дней до моего отъезда из Китая, после бесконечных телефонных переговоров, я уже думал, что близок к цели. Мне сказали, что в Китае обо всем договариваются в последний момент. Потом внезапно все отменили; в качестве компенсации мне предложили невнятное приглашение на какую-то ежегодную конференцию. City Brain мог так и остаться мифической аллегорией, довольно туманно описанной в нескольких статьях на английском языке, которые я разыскал, не сумев проверить их источники. Но благодаря одному личному знакомству мне все-таки удалось связаться с молодым сотрудником Alibaba, который по счастливому совпадению работал в команде Alicloud, занимающейся проектом City Brain. Он пригласил меня в офис Alibaba в Пекине и за час без лишней помпы все мне объяснил. Я слушал его, пытаясь не упустить ни слова.

Главная задача алгоритмов, разрабатываемых в City Brain, – повысить мобильность трафика. Данные о нем поступают из разных источников: геолокализации автомобилей, сенсоров на дорогах, камер видеонаблюдения, изображений, передаваемых компании Alibaba властями. City Brain может также формулировать автоматические рекомендации, которые тут же применяются на местах: так происходит перенастройка светофоров в реальном времени, закрываются или открываются в случае нужды те или иные трассы, направляются постовые, распространяются сообщения о дорожном движении, особенно уведомления, посылаемые прямо водителям через основные навигационные приложения. То есть это система, в которой ради достижения оптимальной эффективности объединены частные и публичные инструменты. После ее внедрения пробки в городе сократились на 11 %. Та же логика используется для уборки улиц, распределения парковочных мест и контроля качества воздуха. City Brain использует данные государственных властей, а сам, получив их, изобретает услуги для потребителей: это полюбовная сделка, которой довольны обе стороны.

Однако другие, менее известные услуги Alibaba вызывают больше опасений. Например, City Brain помогал полиции с интеграцией и модернизацией ее баз данных. Благодаря специальным камерам, установленным по всему Ханчжоу, инженеры Alibaba внедрили систему распознавания лиц, способную учитывать информацию из социальных сетей и интернета в целом. Цель в том, чтобы получить возможность идентифицировать каждого гражданина Ханчжоу, отслеживая в одном стандартном формате его передвижение, поведение, а также социальные связи. За несколько секунд можно узнать, кто вы такой, где находитесь, что делаете и с кем недавно встречались. City Brain позволяет найти в городе машину по ее номеру или преступника по обычному фото. Для предупреждения преступлений полиция может также опираться на предсказательный анализ City Brain. Мой собеседник с гордостью разъяснил мне все эти технические достижения, в которых, с его точки зрения, нет ничего сомнительного. На мои скромные возражения он ответил доводами здравого смысла: разве мы не хотим жить в безопасности? Сегодня муниципальные власти вполне удовлетворены результатами, а гражданин даже не подозревает, что за ним ведется наблюдение. Окрыленная этим успехом, Alibaba готовится внедрить систему City Brain в пятнадцати других городах, в том числе и в соседних странах, например в Малайзии. И ведь это только первые шаги городской оптимизации… В будущем технология City Brain сможет применяться для городского планирования, управления водоснабжением и электрическими сетями: «У граждан не будет другого варианта, кроме как сохранять постоянное подключение к сети». City Brain сможет еще ближе узнать их и еще больше улучшить наши условия жизни, строго присматривая при этом за теми, кто хотя бы на дюйм отклонился от истинного пути.

Мой молодой собеседник говорил с таким воодушевлением и уверенностью, что мне просто не хватило смелости показать ему свое возмущение. Наши точки зрения, вероятно, попросту непримиримы. То, что для него является постепенно создаваемой утопией, мне кажется антиутопией, ставшей реальностью. «Китай – это как пирамида, управляемая сверху», – сказал он в самом начале разговора. Нужно понимать, что центральная власть или силы правопорядка не вызывают у китайцев инстинктивного отторжения. Чтобы убедиться в этом, достаточно провести один час в Музее полиции в Пекине. Кажется, что ты в «перевернутом» берлинском музее «КПП Чарли» – здесь все наоборот: диссиденты представлены не героями, а предателями, репрессии считаются не отвратительными, а вполне законными. Так, арест заговорщиков Гоминьдана стал поводом для чествования, а памятные мероприятия на площади Тяньаньмэнь известны превосходным обеспечением безопасности… Висящая там табличка, во избежание недоразумений, объясняет, как «полиция под руководством Коммунистической партии Китая постепенно завоевала доверие и поддержку Партии и Народа». В стране, где история средств надзора восходит к 221 году до н. э., к императору Цинь Шихуану, критика установленного порядка не приветствуется.

Китайская парадигма проясняется: «озеро данных», питаемое самыми разными источниками, используется гигантами ИИ с благословения правительства и под пристальным контролем полиции. Гражданин, круглые сутки подключенный к сети, выигрывает в благополучии и безопасности. Какой же безумец станет на это жаловаться – в стране, где еще жива память о гражданской войне и голоде?

В качестве объяснения этого тревожного равнодушия к свободам порой можно прочитать, что китайское общество вступило в индивидуалистическую, консьюмеристскую, аморальную эпоху[155]. С моей точки зрения, это слишком поспешная оценка, в которой западная схема интерпретации проецируется на сложное общество. Китай не готов бежать за прогрессом, отказавшись от всякой этики. Наоборот: он поднимает ИИ на щит именно потому, что эта технология соответствует его глубинным ценностям.