Гаспар Кёниг – Конец индивидуума. Путешествие философа в страну искусственного интеллекта (страница 47)

Некоторые пытаются осуществить опасный синтез защиты прав и технологического развития. Такой была задача двухсотстраничного доклада Седрика Виллани, который сегодня составляет официальную доктрину французского правительства в области ИИ. Его автор принимает меня на улице Университета, в берлоге с тусклым освещением, представляющей собой нечто среднее между лабораторией Пастера и лавкой антиквара. Булавка в виде синего паука, которую он носит, кажется сбежавшей из обширного бестиария, разместившегося на стенах и полках его кабинета. Я вижу огромного золоченого скорпиона, скульптуры слонов, статуэтку Вишну и другие фигурки животных, которых сложно опознать. Они соседствуют с кепкой с логотипом Ariane 5, научными медалями, миниатюрным барабаном, фотографией Марка Цукерберга, а также стопками книг на французском и английском языках. Седрик Виллани поднимается, проходит широким шагом через комнату, поправляет бант на шее и поднимает палец: сейчас из его уст выйдет истина. Но нет! Телефон вибрирует, он усаживается и начинает разговор о своей следующей книге. Когда спустя десять минут Седрик замечает, что я все еще здесь, с ручкой в руке и несколько вымученной улыбкой, он переносит встречу и отправляет меня восвояси. «Пока, Грегуар!» – с радостью бросает он, выпроваживая меня к лифту.

Сначала я думал о суровой мести с применением ядовитых пауков. Но в итоге смирился с судьбой и вернулся к нему, отбросив самолюбие. На этот раз мы все-таки смогли немного побеседовать.

Седрик Виллани, математик с мировым именем, недавно избранный депутатом Национального собрания Франции, представляется идеальной фигурой для разработки государственной политики в сфере ИИ. Он вполне осознаёт, что музыку сегодня заказывают Китай и США, что Европе не удалось создать никакого крупного предприятия в этой сфере и что наше будущее может от нас ускользнуть. То есть задача в том, чтобы «не оказаться посреди двух огней», при этом времени на сокращение отставания остается все меньше и меньше. В реализме Виллани, далеком от заклинаний его новых коллег по политике, заметна строгая научная методология. Некоторая экстравагантность в одежде и риторике этого денди, который словно бы попал к нам в своем костюме-тройке с карманными часами прямо из XIX века, скрывает за собой холодную и спокойную рациональность. Но, к сожалению, ответ Виллани на нашу технологическую слабость апеллирует, что вполне традиционно, все к тому же государству. В его докладе предлагается создать множество комитетов и ведомств, которые должны добиться успеха там, где частная инициатива потерпела неудачу. Среди предложений я обнаружил там пост межминистерского координатора по трансформации государства, «публичную лабораторию» по трансформации труда, комитет публичных экспертов, призванных заняться «аудитом» алгоритмов, консультативный комитет по этике ИИ, форум данных, единое информационное окно по ИИ, отметку об ИИ, которой должны маркироваться французские технологические компании, агентство прорывных инноваций, сеть междисциплинарных институтов ИИ… В числе задач государственной власти оказывается даже «поддержка встреч между предприятиями, обладающими данными, и стартапами»: очевидно, они не могут говорить друг с другом без посредничества бюрократа, который будет держать свечку.

– А вам не кажется, что это какой-то дирижизм? – спрашиваю я его, перечитывая список.

– Это правильный вопрос, – неожиданно отвечает он.

Он напоминает мне о хорошо известной роли, которую DARPA, американское оборонное агентство, сыграло в финансировании Кремниевой долины. Но в то же время он признаёт неудачи европейских программ создания суверенного облака и поисковой машины, которые остались чисто политическими проектами, не подкрепленными никакой промышленной или экономической реальностью. «Нужно способствовать появлению инновационных предприятий, но не баловать их», – заключает он, склоняясь к аристотелевской идее добродетельной середины.

Но эта надежда на дирижизм 2.0 покажется тщетной, если учесть неспособность европейских демократий организовываться на стратегическом уровне. Я не уверен в том, что Виллани сам верит в свои планы. Если стартаперам нужно предоставить «единое информационное окно по ИИ», разве мы не отказываемся тем самым от шумпетерианского определения предпринимателя как беспокойного и сверхактивного человека, жадного до власти и независимости, стремящегося основать свое собственное маленькое королевство?[157] Еще более важно то, что обращение к государству выдает структурную слабость Европы в области сбора данных – ключевого компонента развития ИИ. Виллани признаёт это, жалуясь, в частности, на страх правительства использовать медицинские данные. Франция – страна централизованная, и в ней создали одну из наиболее полных баз медицинских данных (это знаменитая SNIIRAM, которая управляется системой медицинского страхования). Однако использовать ее позволяется лишь в крайне ограниченном объеме, что обосновывается очевидными резонами конфиденциальности. То есть министерство здравоохранения сознательно тормозит прогресс медицинских исследований, чтобы избежать любого распространения конфиденциальной информации о пациентах. Это и есть пример стоического самоубийства. Мы буквально предпочитаем умереть из-за отсутствия лекарства, но не нанести урон нашей частной жизни.

Виллани хорошо понимает это противоречие. Он хотел бы устранить его магической формулой «Нужно защищать данные и заниматься инновациями в одно и то же время». В одно и то же время – известный лозунг доктрины Макрона. В области доступа к данным нужно гарантировать контроль над личными данными и в то же время побуждать граждан предоставлять их ради совершенствования систем ИИ. Поэтому в докладе Виллани делается акцент на возникновении «общин данных», которые поощряют их добровольное предоставление. Виллани говорит о «доверии» между гражданином и ИИ, особенно в вопросе государственных услуг. Если предположить, что мы можем контролировать наши данные благодаря RGPD и другим нормам, почему бы не использовать их в интересах коллективного блага? Одна фраза из доклада Виллани служит яркой иллюстрацией этого устремления: «Новое право индивидов на управление своими личными данными могло бы быть включено, таким образом, в гражданскую логику, позволяя государствам и территориальным административным единицам получать эти данные для развития приложений ИИ ради достижения целей публичной политики». Особое государственное агентство, chief data officer, как его называет Виллани, должно в таком случае стать посредником, которому гражданин мог бы совершенно спокойно «переуступить» данные. Например, мы могли бы делиться своими геоданными с публичным приложением для улучшения трафика. Так между гражданином, предоставляющим данные, и государственным централизующим ведомством возникла бы «связь авторизации».

«Теперь, когда мы дали вам права, – говорит, по сути, доклад Виллани, – доверьтесь нам и откажитесь от них!» Но разве можно отклонить это предложение, не превратившись во фрирайдера, который пользуется плодами оптимизации, но не вносит в них никакого вклада? На мой взгляд, эта логика предполагает необоснованное доверие государственной власти, словно бы правительства всегда должны оставаться мудрыми и умеренными. Кроме того, не совсем понятно, какие данные можно было исключить из этого императива общей пользы. Мои медицинские данные позволяют развивать науку. Мои данные по потреблению электричества, уже собираемые умными счетчиками, позволяют оптимизировать управление электросетью, а потому сократить производство энергии и спасти планету. Мои данные по поиску в интернете позволяют понимать, как возникают ложные слухи, и предупреждать их распространение. Мои данные, связанные с сексуальным поведением, помогают сдерживать вспышки некоторых заболеваний и лучше выявлять дискриминацию. Наконец, разве мои генетические данные не позволят лучше контролировать развитие популяции в целом? Каково различие между моделью «В одно и то же время» и китайским «Общим благом», если не считать того, что в первом случае рабство становится добровольным?

Попытка Седрика Виллани выработать альтернативу европейскому самоубийству заслуживает всяческих похвал. Однако формула «В одно и то же время», замаскированная успокоительными фразами об обобществлении данных и гражданском долге, остается позицией слишком умозрительной. Либо в конечном счете данные будут собираться авторитарно, в коллективных интересах, либо нужно предположить, что права индивида на его данные создают «неоптимальную» ситуацию, которая тормозит развитие цифровой индустрии, способной составить конкуренцию США и Китаю. Так должна ли Европа, если хочет сохранить верность своим ценностям, обречь себя на исчезновение?

Впрочем, одной стране из европейского семейства (или, лучше сказать, «кузине» европейских стран) удалось соблюсти собственные интересы и в то же время стать мировым центром ИИ: речь идет об Израиле, откуда вышли основатели стартапов, завоевавших всю планету, – Waze, Gett и Moovit. ИИ стал главной технологической отраслью страны-стартапа (start-up nation)[158], на чью долю приходится примерно 800 миллионов долларов ежегодных инвестиций. Университет «Технион», созданный в Хайфе, на севере страны, по компьютерным наукам входит в десятку лучших мировых вузов[159], а недавно совместно с компанией Intel там был открыт Центр искусственного интеллекта. В интервью, которые я проводил, мне постоянно говорили о многочисленных компаниях, чьи разработки в сфере ИИ базировались в Тель-Авиве (начиная со стартапа ZipRecruiter). Однако внутренний израильский рынок невелик, а принятая в стране политика уважения к частной жизни, гарантируемая правительством, похоже, соответствует европейским стандартам: Евросоюз признал Израиль в качестве одной из десятка стран, отвечающих требованиям защиты данных.