Гаспар Кёниг – Конец индивидуума. Путешествие философа в страну искусственного интеллекта (страница 22)

Какое у всего этого отношение к технологии? У всех прочих произведений на выставке было совершенно ясное послание, в то время как турникеты оставались немыми. На них не было объяснительной таблички или слогана в виде граффити. Не придав им особого значения, я развлекался в весьма популярной Rain Room.

Шли дни, и я погрузился в реальность социального контроля по-китайски, в котором массовое применение ИИ должно позволить управлять поведением граждан практически во всех сферах жизни, начиная с образования и заканчивая любовью. Рекомендательные системы, основанные на максимизации индивидуальных предпочтений, нацелены на то, чтобы передать право выбора машине. Вот тогда-то я и осознал в полной мере, что означают эти турникеты. ИИ, как и они, ничего не навязывает. Он предлагает, направляет, успокаивает. Достаточно представить, что каждый турникет, точно регулируемый в соответствии с нашими личными качествами, будет незаметно менять траекторию движения каждого человека в зависимости как от его собственных интересов, так и от интересов группы. В таком случае у нас все еще будет ощущение, что мы сами выбираем цель и просто свободно используем доступную технологию. Мы можем успокаивать себя, воображая, что еще можем отказаться, что достаточно просто не кликать. Но в то же время, переходя от одного турникета к другому, привыкая к комфорту и эффективности, мы отказываемся от самого отказа. Если вначале попытаться пойти наперекор системе, недостаточность нашего суждения вскоре заставит нас отказаться от борьбы с компьютерной оптимизацией. А потому мы просто позволим вести нас за ручку… Кто, в конце концов, продолжает сегодня пользоваться картами и компасами, а не Google Maps?

Боюсь, что мы вступаем в общество турникетов. В силу биологических соображений, представленных в предыдущей главе, я не вижу в ИИ метафизической угрозы будущему Homo sapiens. Споры о сверхинтеллекте скрывают от нас реальную социальную проблему, связанную с этой технологией[75], а именно вопрос свободы воли. Дело в том, что стремительно развивающиеся сегодня промышленные приложения ИИ стремятся исключить из нашей жизни индивидуальный выбор. Чтобы лучше служить нам, они освобождают нас от необходимости принимать самостоятельные решения, которые никогда не бывают идеальными из-за нашей предвзятости и недостатка информации. Принося нам все больше и больше благ, они ежедневно доказывают свою полезность и свое превосходство. ИИ знает наши глубинные вкусы лучше нашего поверхностного сознания – почему бы тогда не предоставить ему управление нашим счастьем? И если Токвиль в эпоху только-только появившихся демократий обнаружил, что их главный фактор – «свобода», я закончил свое долгое путешествие с убеждением, что главное качество эры ИИ – «конец свободы воли». Собственно, возможно, это и есть решение, избавляющее человечество от всех его бед. Быть может, свобода воли – просто схоластическая сказка, иллюзия, отказом от которой мы могли бы гордиться. Но все-таки нужно ясно понимать, что именно мы готовимся потерять.

Наука против свободы воли

Канеман, Канеман, Канеман… Этот призрак преследовал меня на протяжении всего моего путешествия. Ян Лекун обедал с ним накануне в Нью-Йорке. Джарон Ланье, историческая фигура в калифорнийской технологической среде, посматривал на него во время нашего обеда в Saul’s, типичном американском дайнере в центре Беркли, с черно-белой плиткой и мягкими банкетками. Уже в первый же день в Бостоне Джим Гласс из MIT сослался на опыты Канемана, чтобы убедить меня (не без труда) в том, что люди не настолько рациональны, как думают сами. В Пекине Эрик Чанг, директор по стратегиям в Microsoft, приводил мне цитаты из его трудов, чтобы я не придавал слишком большого значения свободе воли. Нассим Талеб, обычно не слишком жалующий современников, делает исключение для Канемана, на которого иногда ссылается, причем с воодушевлением[76]. Даже Гарри Каспаров, анализируя взаимодополняемость человека и машины[77], посвящает несколько страниц «замечательным работам» Канемана. Мне рассказывали о Канемане так часто, что в итоге у меня возникло чувство, будто я знал его всегда. Мне казалось, что этот обходительный академик с пушком редких седых волос появлялся на каждой из моих встреч. Если и есть сегодня властелин идей на сцене ИИ, им может быть, как я выяснил эмпирически, подсчитав число цитат в своих записках, только Канеман.

Однако Дэниел Канеман – кто угодно, но только не мыслитель технологии. Этот ученый-психолог посвятил свою карьеру экспериментальному доказательству того, что человеческие решения подвержены многочисленным предубеждениям и «когнитивным иллюзиям». Наши повседневные суждения могут быть какими угодно, но только не рациональными. Эффект гало, эвристика аффекта, впечатления причинности, предубеждение подтверждения, иллюзия обоснованности, ассоциативное мышление, софизм планирования, неприятие потери, регрессия к среднему, эффект заякоривания – все это рефлексы, вписанные в наши нейронные контуры, ментальные оптические иллюзии, которые приводят нас к ложным заключениям. Вот почему мы чувствительны к таким ценам, как «99,99 евро», и не любим отказываться от уже начатых проектов. Наша «система 1», как ее холодно называет Канеман, то есть система быстрого мышления, постоянно порождает ложные вероятности и обрывочные умозаключения, пытаясь свести окружающий нас мир к внешне логичной схеме. Чтобы исправить ее, «системе 2», которая должна применять нашу рациональность и критическое чувство в более спокойном режиме, как правило, просто не хватает времени: она может сосредоточиться лишь на небольшом числе решений и чаще всего лениво соглашается с предложениями «системы 1». Таким образом, наши явные предпочтения оказываются не чем иным, как «безнадежным миражом».

Я приведу лишь один пример из сотен, чтобы дать общее представление о Канемане[78]. Это история Линды, которую я позволю себе адаптировать к реалиям современной Франции. Линда – студентка социологического факультета, активистка, которая борется с несправедливостью и ущемлением прав других видов. Она участвовала в оккупации кампуса Жюсье во время забастовок весны 2018 года. Кем она с бо́льшей вероятностью станет спустя десять лет:

1. воспитательницей в детском саду;

2. преподавателем йоги;

3. банковским работником;

4. социальным работником;

5. банковским работником, борющимся за права животных?

Большинство опрошенных учитывают предположительные личные качества Линды и полагают, что она, скорее всего, станет «банковским работником, борющимся за права животных». Но, если задуматься и провести очень простое логическое рассуждение, становится ясно, что это не так, поскольку вариант 5 является лишь подчиненной категорией варианта 3: вероятность того, что Линда станет «банковским работником, борющимся за права животных», не может быть больше вероятности того, что она станет просто банковским работником. Эта распространенная ошибка иллюстрирует предубеждение «репрезентативности», в силу которого вкус к стереотипу берет верх над элементарным статистическим рассуждением.

Эти психологические открытия, которые кажутся довольно тривиальными читателю, хорошо знакомому с максимами классических моралистов, оказали огромное влияние на экономическую науку, которая до 1970‐х годов опиралась на постулат рационального индивида, то есть Homo economicus, способного оптимизировать собственную полезность. Работы Канемана тесно связаны с возникновением поведенческой экономики, которая рассматривает человека вместе со всеми его изъянами. Так, Ричард Талер, соратник Канемана и ведущая фигура поведенческой экономики, проводит в нашем поведении различие между тем, что относится к «экону» (равноценному «системе 2»), и тем, что относится к «человеку» («система 1»). Эти исследования здравого смысла изменят весь подход к рынку, который отныне должен будет учитывать менее обдуманные решения. Задача не в том, чтобы сделать человека совершенно рациональным (что, к счастью, невозможно), а в том, чтобы минимизировать негативные экстерналии, вызванные предвзятыми решениями. Сегодня эти тезисы в академическом мире считаются вполне подтвержденными: в 2002 году Канеман получил Нобелевскую премию по экономике, а в 2017 году ее вручили и Талеру.

Это привело к перевороту в публичной политике. С точки зрения гипотезы рационального агента, которую можно назвать фридмановской, считалось недопустимым защищать индивида от него самого, поскольку каждый принимает результаты собственного выбора, сделанного с полным знанием дела. И наоборот, человека, склонного к иллюзиям и поспешным суждениям, можно и должно подталкивать к решениям, которые внешний наблюдатель, в данном случае регулятор, сочтет лучшими. Именно это Тайлер и назвал «либертарианским патернализмом»: индивиду надо предоставить весь набор возможных вариантов, но «подталкивая его локтем» (по-английски nudge[79]) к тому варианту, который представляется наиболее желательным. Например, если мы замечаем, что студенты в столовой обычно берут первое блюдо, которое стоит на раздаче прямо перед ними, можно устроить так, чтобы это был салат, а не гамбургер, но не запрещать им целенаправленно выбирать менее здоровую еду. Таким образом, можно использовать те самые механизмы, которые ведут к ошибке, чтобы защититься от наших негативных инстинктов. Эта политика подталкивания стала чрезвычайно популярной среди политиков в начале 2010‐х годов: британский премьер-министр создал в своем правительстве специальный Nudge Policy Unit. Даже Google использует внутри компании такие «подталкивания», чтобы снизить потребление мяса среди сотрудников или повысить производительность за счет системы персональных извещений. В Кремниевой долине даже стали нанимать «специалистов по подталкиванию», nudge scientists…