Гаспар Кёниг – Конец индивидуума. Путешествие философа в страну искусственного интеллекта (страница 51)

Вот так Китай и завоевал Берту – без единого выстрела.

6

Первая директива

А теперь возвращаемся в исходную точку. Свое путешествие я закончил визитом к тому, кто меня на него сподвиг: Ювалю Ною Харари, всемирно известному историку и мыслителю, чья книга «Homo deus» завершается финальным поражением сознательного и автономного индивида. Здание, в котором он устроил свою тель-авивскую штаб-квартиру, очень похоже на него самого: внешне скромное, внутри бурлящее энергией. В квартире на последнем этаже с десяток молодых людей занимаются графиком, выступлениями и исследованиями для этой звезды поневоле. Я разделяю с ними веганский обед, радушный, но скудный. После недель, проведенных в поисках Homo deus, я снова возвращаюсь в приятное общество Homo sapiens.

Сотни интервью и прочитанных статей только подтвердили первоначальную идею Харари. Словно капитан, доставивший государю пряности Нового Света, я рассказываю ему свои истории о nudge. Расписываю, как китайцы воодушевились моделью общества, построенного на ИИ. Юваль качает головой, ему интересно, но он не удивлен. Да, наука оспаривает свободу воли, а технология отказывается от нее за ненадобностью. Нет, этот новый мир не будет либеральным, крайняя степень персонализации продуктов будет в нем сочетаться с коллективизацией процессов принятия решений. Да, изменится все: от судебной системы, которой придется отказаться от идеи вины, до демократии, которая больше не сможет опираться на выбор большинства. Нет, мы больше не сможем доверяться нашим первобытным инстинктам, поспешным суждениям, бессознательным желаниям. Но так ли это в конечном итоге плохо? Сводя меня к чисто биологическому субъекту, ИИ дает мне возможность осознать мое истинное бытие, в котором есть своя доля отрицания и зависимости. Юваль говорит, что, следуя за движениями его зрачков при взгляде на рекламу, ИИ мог бы открыть ему его гомосексуальность задолго до того, как он сам для себя ее четко сформулировал, и тем самым избавил бы его от мучений в подростковом возрасте. Ему можно было бы возразить, что эти годы мучений и сомнений как раз и позволяют сформировать и обогатить индивидуальность. Но если, как Юваль, мы прежде всего хотим избавить от страданий себя самих и других людей, и не только людей, но и всех живых существ, это слишком высокая цена. Можно обойтись и без самопознания. Почему бы не автоматизировать интроспекцию?

В этом смысле ИИ открывает путь к своеобразному индивидуальному освобождению. Понимая пружины, заставляющие нас думать и действовать, можно освободиться от самих себя. Осознание детерминизма, который нами управляет, позволяет нам установить разумную дистанцию по отношению к нашим желаниям. Их всегда можно будет удовлетворить, но не понадобится делать из них эпицентр наших действий и мыслей. Так, сексуальность из одержимости превратится в простое удовольствие, которым мы будем, не скупясь, баловать нашу столь легковерную плоть. И твиттер уже не будет нас так раздражать, когда мы сможем предугадывать собственные реакции, которые алгоритмы социальной сети предсказывают с такой устрашающей точностью. Мы станем сами для себя чем-то вроде старого товарища, с которым общаются, не питая особых иллюзий на его счет. Это изменит философию либерализма в целом: речь идет уже не о том, чтобы удовлетворить необузданные желания потребителя, а о том, чтобы помочь ему от них дистанцироваться. Я понимаю, что, несмотря на все свои призывы к критическому анализу датаизма, Юваль не собирается возвращаться к индивиду, виновному в стольких грехах как перед себе подобными, так и перед окружающей средой. «Лучший либерализм, – повторяет он свою мысль после моих наскоков, – тот, что избавляет нас от безрассудных желаний».

После этого интервью мне вспоминается Спиноза. Разве не обещал он нам в последней книге «Этики» освобождение через осознание причин и природы наших аффектов? «Нельзя придумать против аффектов никакого другого средства, которое бы находилось в нашей власти, лучше того, которое состоит в истинном познании их»[169], – для Спинозы это третья и последняя стадия познания. Но, чтобы контролировать наши влечения и эмоции, нужно установить их истинность, понять ту крупицу вечности, которая в них заложена, а не пытаться их подавлять. Спиноза не скрывает, что это сложная задача, однако, как он пишет в конце «Этики»: «Но все прекрасное так же трудно, как и редко». Представив нам по требованию подробный отчет о нас самих, со всеми доказательствами, не облегчит ли нам ИИ это познание?

Мне хочется вернуться и продолжать задавать Ювалю вопросы, но я боюсь ему надоесть – представьте, что к вам в дверь звонят и спрашивают: «А как же Спиноза?» Я неуверенно окидываю взглядом последний этаж здания и замечаю радужный флаг, вывешенный на балконе. Этот символ мира и разнообразия, позднее ставший символом ЛГБТ-сообщества, не оставляет у меня никаких сомнений по поводу конечных целей проекта Юваля Харари, которые, судя по успеху его книг, разделяет значительная часть наших современников. Избавленное от самых неудобных желаний, новое человечество будет состоять из пацифистов, экологов и коммунитаристов. В этом конечный смысл Homo deus: не приобретение автономии, а личный путь к «блаженству», как сказал бы Спиноза. Сама способность ИИ нами манипулировать извращенным образом служит нашему освобождению.

На самом деле Юваль Харари отсылает не столько к Спинозе, сколько к буддистской практике, в частности медитации випассана: он практикует ее в ретритах, где проводит по несколько месяцев в году. У каждого свой метод, главное – избавиться от давления аффектов и страстей. Но, приобретая самообладание, мы теряем потребность в своем «Я». Мы расстаемся с неугомонным и взбалмошным индивидом, который в нас сидит. Впрочем, стоит ли сожалеть о постоянной фрустрации, которую приносят наши эгоистические влечения? Если бы человечество походило на команду Юваля, не стали бы мы все более счастливыми, «блаженными»? Хотя конец индивида и создает на некоторое время политические проблемы, но зато предлагает Homo sapiens сильное метафизическое решение, обещая ему помочь преодолеть оставшееся в нем животное начало.

Сражение за индивида

В Ювале Харари воплотился дух нашего времени. Он предлагает ясную и законченную мыслительную схему, не особенно заботясь о рекомендациях для публичной политики. С этой точки зрения книга «21 урок для XXI века», в которой он затрагивает вопросы многостороннего управления, универсального дохода или образования, застряла на полпути: она слишком конкретная и в то же время слишком абстрактная. Но другие ученые и интеллектуалы, сознательно или бессознательно, отвергают эту постиндивидуалистскую повестку в своих областях. Я понял это во время долгой дискуссии в Нью-Йорке с Гленом Вайлом, моим ровесником, блестящим экономистом, получившим международную известность после публикации в соавторстве с Эриком Познером книги «Радикальные рынки». Мне кажется, что его тезисы, которые на первый взгляд могут показаться очень далекими от «Homo deus», отражают ту же самую концепцию нового человечества, порывающую с просвещением и его идеалом автономии.

Коротко говоря, Глен Вайл предлагает отменить частную собственность – последнее воплощение пресловутых монополий – и заменить ее системой постоянных аукционов: каждый бы стихийно устанавливал цену на все свое имущество, обязавшись отдать его первому заявившему о себе покупателю. Кроме того, каждый собственник ежегодно выплачивал бы налог на капитал. Таким образом, чем выше цена, запрошенная за то или иное имущество, тем больше у собственника шансов его сохранить, но тем больший налог ему придется платить. Принцип в том, чтобы выплатить коллективу компенсацию за стабильность, которую хочется сохранить для себя и для своего имущества. Разумеется, опись имущества должна быть публичной и ее следует постоянно корректировать. Таким образом, ничто не сможет уклониться от рынка как синонима эффективности и справедливости, который постоянно будет ставить под вопрос статус-кво. Опираясь на свое понимание Адама Смита и Генри Джорджа, а также на последние публикации по экономике, Глен Вайл пытается обновить либерализм, избавившись от имущественной ренты. Ну, что тут скажешь… Аплодирую его смелости, но решительно не разделяю его выводов.

Глен пригласил меня представить результаты моих исследований в Microsoft, где изложение прудоновских теорий встретило прохладный прием. После этого он потащил меня на прогулку по Уильямсбургу. Этот бруклинский квартал постоянно благоустраивают, но он все еще сохраняет свою историю, где друг на друга наслаиваются разные волны эмиграции, а также очарование некоторой заброшенности. Здесь-то мне и представился случай разобраться в глубинной мотивации Глена, выходящей за рамки его работ по экономике. Воспроизвожу этот разговор по памяти – к моим воспоминаниям примешиваются образы покосившихся домов, слишком широких крытых переходов, железных пожарных лестниц, которые, подобно паутине, оплетают фасады.

– Если применить твои идеи на практике, у меня не будет ничего своего? Мне придется все время работать, чтобы получить привилегию сохранять собственный дом, машину, компьютер? И при этом знать, что какой-нибудь миллионер в любую минуту может все у меня отобрать?