Гаспар Кёниг – Конец индивидуума. Путешествие философа в страну искусственного интеллекта (страница 40)
Итак, мы видим, как может родиться определенная форма правления на базе полезности, диффузно обеспечиваемой сетевым ИИ. Платформы подсчитывали бы показатели удовольствия и страдания граждан точнее правительств. Удивительно, что Амира, такая принципиальная индивидуалистка, проповедует сильное чувство сообщества, в данном случае – предпринимателей Кремниевой долины, в котором она, похоже, по-настоящему расцвела. Не образует ли этот мнимый парадокс самого сердца утилитаризма? Максимальное счастье – но для максимального числа людей.
Философия без субъекта
Читатель, возможно, помнит о Евгении, основательнице стартапа Replica, которая в первой главе этой книги носилась на скейтборде. Быть может, причина была в ее русских корнях или в природе ее продукта – странного виртуального компаньона, который способен создавать любовные отношения и воскрешать мертвых, – но так или иначе Евгения не скупилась на метафизические рассуждения. Посреди разговора она вдруг объявила, что первое название ее компании, созданной в 2013 году, – «Тысяча плато».
Приехав изучать ИИ в Сан-Франциско, я совершенно не ожидал, что встречу там Жиля Делёза, лучшего из постмодернистов, кумира моих студенческих лет[140]. Внезапно сомкнулись два универсума: предпринимателей в футболках и философов в шляпах. Не существует ли секретного прохода между Кремниевой долиной и Венсеном, между нейросетями и
Делёз убедил Евгению в том, что индивида не существует. Во введении к «Тысяче плато» Делёз и его соавтор Феликс Гваттари вводят понятие «ризома». В отличие от деревьев, корни которых уходят в землю, чтобы найти в ней питание, ризома – это стебель, растущий под землей, по своей собственной логике, произвольно проявляясь в виде крапивы или тростника. Иначе говоря, теперь уже не индивид подключается к сети, а сеть сама порождает иллюзию индивида. Случайно ли, что Делёз описывает развитие ризомы в качестве «машинного» феномена?[141] В тот день, когда Replica сможет угадывать наши сокровенные мысли и направлять их, ИИ докажет, что самая точная персонализация сопровождается безвозвратной дезиндивидуализацией: если мои эмоциональные процессы становятся простыми переменными, агрегированными с миллионами других данных и обрабатываемыми анонимными алгоритмами, что, собственно, останется от «меня самого»? Субъект, уже не составляющий никакой автономной единицы, способной на суждение и решение, становится попросту временной эманацией потоков, которые значительно больше его самого. Мысль о множественности заменяет собой онтологию древообразования.
Таким образом, «Тысяча плато» приписывает положительную ценность смерти человека, которая была объявлена Фуко и инсценирована на Burning Man. Мы наконец сможем отказаться от своего панциря сознательной субъективности, чтобы увлечься революционным, миноритарным, желающим становления, если говорить на языке Делёза. Подчиняя наше тело и дух все новым и новым условиям, позволяя ризоме и ее неожиданным бифуркациям увлекать себя, мы приблизимся к потокам, составляющим единство мира, тот «план имманентности», который Делёз искал во всех своих книгах. В смыкании с беспорядком, хаосом, в который мы погружены, обнаруживается определенная форма аутентичности. Значение имеет уже не субъект, который получает опыт, и не объект как предмет этого опыта, а сам опыт, выходящий за мои пределы, «мир безличных и доиндивидуальных сингулярностей… дионисийская смыслопорождающая машина»[142]. Там, где субъект требовал устойчивых и определимых значений и понятий, ризома выделяет некий «смысл», который не является объяснимым или воспроизводимым, представляясь чем-то вроде «черного ящика» нейросетей. Что касается свободы воли, она отменяется ради в высшей степени случайных желаний, плодов машинной связи точек ризомы. Корни обретают независимость от деревьев.
Этот отказ от субъекта, характерный для постмодернистской мысли, стал предметом обширных комментариев и критики[143]. Однако он обрел силу в качестве естественной параллели к цифровым сетям и в еще бо́льшей степени к ИИ. Конечно, не все в Кремниевой долине читали Делёза. Однако мода на буддизм – это, возможно, более простой в интеллектуальном смысле и более эффективный на практике способ покончить с индивидом, который растворяется в великом целом. В штаб-квартире Google полно залов для медитации, и среди людей, проинтервьюированных мной, многие отмечали, что их привлекают более или менее секулярные формы буддизма (например, Адриен Трей и Амира Яхьяуи). К этому поиску небытия, или скорее универсальной формы существования, освобожденной от оков индивидуальности, нужно относиться крайне серьезно.
Хотя Делёз воспевал сингулярности, он с опаской относился к тому, что прогресс цифровых технологий способен преобразовать субъектов права в «дивидов», сведенных к абстрактным цифрам. С начала 1990‐х годов он пытался выявить в только-только формирующемся языке данных переход от дисциплинарного общества к обществу контроля, которое должно действовать не столько за счет подавления, сколько за счет извращенной системы стимулов[144]. «Мы стоим на пороге чего-то нового», – предупреждал он. В то время как дисциплина оставалась для индивида внешней, контроль проникает в его повседневное поведение. «Человек же общества контроля скорее похож на волну, он словно выведен на орбиту и постоянно находится на связи». Гражданин, став «дивидом», разложенным на столько цифровых координат, сколько существует заинтересованных в нем систем, вопреки своей воле оказывается под колпаком генерализованного наблюдения и логики
Я упрекаю Делёза в том, что он не установил связь между «ризомой», представляющей собой сплетение событий, исполненных философского веселья, и «дивидом» – зловещей капиталистической поделкой. Мне представляется, что второе понятие является точным политическим отображением первого. Разве не равноценен план имманентности контролю сети? Если мы устранили человека в качестве оселка мысли, не стоит удивляться тому, что в итоге он оказался в руках ИИ. Философия без субъекта ведет к обществу без свободы.
Теология без Бога
Посетив Рене Декарта в Амстердаме, я провел некоторое время в музее Ван Гога. Толпа была такой плотной, что пришлось поработать локтями, чтобы пробиться к картинам. Но не успевал я бросить взгляд на какой-нибудь автопортрет, как человеческая волна уносила меня к следующему. Я всегда был убежден в том, что музеи должны быть организованы в виде отдельных ячеек: надо резервировать слот для того или иного полотна, перед которым можно провести полчаса, развалившись на диване, с бокалом в руке, как в английских театрах. А вот когда ты подумал, помечтал, поплакал или поулыбался перед двумя, максимум тремя картинами, можно из музея уйти. Пусть тебя лучше унесут волны одного-единственного поля пшеницы, чем ты будешь бегать между пятнадцатью автопортретами. Кстати, ИИ мог бы легко распределять слоты в соответствии с предпочтениями каждого посетителя.
Во время визита больше всего меня поразило то, что все или почти все посетители делали фотографии. Не селфи, которые бы еще могли объясняться человеческим тщеславием, а просто фотографии. Посетители практически не смотрели на полотна – просто подходили, держа перед собой камеру с экраном, стараясь сделать как можно больше снимков. Понять это было трудно… В интернете можно найти десятки изображений «Автопортрета художника» в высоком разрешении, идеально освещенных и хорошо оформленных. Какой смысл заполнять свой семейный альбом автопортретами Ван Гога, которые будут размытыми, перекошенными, заслоненными руками других посетителей, их рюкзаками и шевелюрами? Кто вообще будет смотреть эти фото? Но главное здесь – это накапливать, архивировать. Оставить след. Я увидел эту картину, и эта истина должна быть зафиксирована в вечности облака.
Чтобы объяснить столь странное поведение, мне придется сделать экскурс в науку экстраординарного, а именно в теологию. Не был ли изобретен всеведущий Бог для того, чтобы служить свидетелем наших действий, зрителем наших скромных судеб? Конечно, Он нас судит. Но самое главное, Он нас видит. А потому наша жизнь не бессмысленна, ведь малейшее из наших прегрешений, каким бы легкомысленным оно ни было, записано в Книге мира. Где-то на Небе есть совершенная копия нашей жизни, хранимая как драгоценность в ожидании Страшного суда. Библия повторяет одно и то же на разные лады: «И нет твари, сокровенной от Него, но все обнажено и открыто перед очами Его: Ему дадим отчет» (Послание к Евреям 4:13); «Ибо пред очами Господа пути человека, и Он измеряет все стези его» (Притчи 5: 21); «Может ли человек скрыться в тайное место, где Я не видел бы его? – говорит Господь. Не наполняю ли Я небо и землю? – говорит Господь» (Иеремия 23:24) и т. д. Святой Августин хорошо понимал: ему нужно найти Бога в себе, Бога, который наблюдает не только за его действиями, но и за его чувствами, за самыми сокровенными помыслами. Не этим ли объясняется, почему религия так хорошо успокаивает нас? Не столько вечностью души, сколько записью самого нашего существования…