Гаспар Кёниг – Конец индивидуума. Путешествие философа в страну искусственного интеллекта (страница 24)

Эта глубинная функция ИИ предстала передо мной на закате, на террасе в Венис-Бич, где я пил пиво с Рамсеем Брауном, основателем стартапа Boundless AI и одним из самых колоритных людей, с какими мне довелось встретиться. Рамсей со своей ухоженной бородой, расстегнутой до пупка гавайской рубашкой и бритым по бокам черепом представляет собой удивительную смесь православного священника, Бернара-Анри Леви и Джастина Бибера. Он радостно затащил меня на пляж на западе Лос-Анджелеса, в квартал, где тусуются молодые технари, которых из Кремниевой долины прогнали высокие цены на недвижимость. В итоге мы оказались в его скромном бунгало, где пили торфяной виски, курили турецкие сигареты с гвоздикой и проговорили несколько часов. Рамсей поведал мне о своих сомнениях с поистине редкой откровенностью – откровенностью честного человека, погруженного в самую инвазивную технику, которую только знало человечество.

Официально миссия Boundless AI – это «соединение нейронаук и ИИ для простых личных поведенческих решений». То есть речь о такой манипуляции Homo connecticus, которая позволит контролировать его реакции и направлять его выбор. Говоря конкретно, Boundless AI предоставляет приложениям проверенные нейронауками техники, помогающие выработать у пользователей пристрастие к таким приложениям. Иными словами, компания продает зависимость. Рамсей понял это, когда попытался выполнить свое совершенно правильное решение заниматься спортом, принятое им в начале года: почему его приложение для бега не может мотивировать его более проактивно? Boundless AI предлагает довольно простые стимулы, такие как заработанные баллы или поздравления. Рамсей говорит, что четкое сообщение для мозга – как игровой автомат для казино: это самый примитивный, но в то же время самый эффективный инструмент. Тем более что знание схем вознаграждения мозга позволяет проводить весьма тонкую настройку, которая соответствует вкусам и чувствительности каждого. Самое страшное, что это работает: благодаря напоминаниям, настроенным на точно выбранный момент, приправленным правильной дозой подбадривания и укоров, Boundless AI позволила финансовому сектору увеличить прогнозируемый коэффициент погашения кредитов на 14 %, платформе электронной торговли – нарастить средний размер виртуальной корзины клиента на 30 %, а видеоигре – увеличить на 11 % число ежемесячных сессий. Причем этот успех повторяется в любой стране мира, от Калифорнии до Кении, где вела дела компания Boundless AI: мозг, по словам Рамсея, у всех работает одинаково, только форма вознаграждения может меняться в зависимости от культуры. «Но есть же, наверное, – возразил я, – мятежники, оригиналы, которые считают такие сообщения идиотскими и патерналистскими?» «Мы ничего такого не заметили», – говорит Рамсей, теребя бороду, явно гордясь своей компанией, но в то же время стыдясь за человечество. Предлагаю вам самостоятельно поразмышлять о лозунге Boundless AI: «Ваш мозг можно запрограммировать. Вам просто нужен код».

Рамсей, по образованию специалист по нейронаукам, не имеет никаких иллюзий насчет свободы воли. Он цитирует разных авторов – изобретателя кибернетики Норберта Винера и психолога Б. Ф. Скиннера, придумавшего «радикальный бихевиоризм», – чтобы убедить меня в том, что человеческое поведение – это продукт среды, которая является частью постоянно работающей петли действия и реакции. Наука вероятности превращает нас в тех, кого можно предсказать статистически. Технологии ИИ пользуются этим знанием, чтобы, по примечательному академическому выражению Рамсея, «изменить будущее распределение поведения». Почему бы не помочь людям, чтобы они, к примеру, вовремя принимали лекарства? Если мы уже детерминированы, не лучше ли передать себя в руки Boundless AI, которая, естественно, хвастается тем, что выбирает лишь «этичных» клиентов?

Однако в словах Рамсея заметен и определенный гуманизм, противоречащий его собственным научным принципам. Благодаря этой шизофренической двойственности он и кажется таким необычным и привлекательным человеком. «Действительно ли мы этого хотим?» – спрашивает себя Рамсей за третьим пивом. На этот раз он ссылается на Жака Эллюля, французского философа техники, чтобы оправдать некий «технологический фатализм»[86]. Невозможно сопротивляться технологии. В крайнем случае можно попытаться обернуть ее против нее самой. Так нечистая совесть Рамсея довела его до того, что он создал антидот от собственных продуктов – специальное приложение Space, которое можно использовать бесплатно. Space позволяет «передохнуть», установив паузу перед тем, как на смартфоне можно будет открыть новое приложение. Space выдает сообщения, которые должны вернуть пользователю власть над собственными желаниями: «Не наша вина, если мы пристрастились к приложениям, ведь они сделаны именно для этого». А уж это Рамсей знает лучше любого другого… Напоминая нам о том, насколько мы подвержены манипуляции и насколько нами действительно манипулируют, Space пытается организовать сопротивление компании Boundless AI и им подобным. Неудивительно, что приложение было запрещено в App Store компанией Apple, и Рамсею пришлось долго бороться в медиа, чтобы его туда вернули. Но этот провал определялся самой концепцией приложения, поскольку Space призван бороться с рефлексами, крепко укорененными в нашей биологической конституции. На сегодняшний день только 10 тысяч Homo connecticus ежедневно включают Space, тогда как число пользователей услуг Boundless AI в двадцать раз больше. Пристыженный Рамсей признаёт, что его пользователи добровольно предпочитают рабство. Бедный доктор Джекил, разгромленный мистером Хайдом!

Когда глубокой ночью мы наконец расстались, Рамсей подарил мне на прощание DVD-диск с «THX 1138», первым фильмом Джорджа Лукаса. Это антиутопия в стиле Хаксли, в которой изображены люди, живущие под постоянным контролем в странном подземном универсуме, снятом в тысяче оттенков белого. Каждый трудится над коллективным счастьем, высшей целью этого зомбированного общества. Чтобы контролировать и подавлять эмоции граждан, правительство выдает им наркотики в виде маленьких белых и красных таблеток. История начинается с того, что два соседа – LUH и THX – перестают принимать эти лекарства, и между ними возникает любовь, которая преследуется властями. За этим следуют то ли фантастические, то ли сновидческие приключения, предвосхищающие более зрелый стиль Лукаса как режиссера. Мысль Рамсея вполне понятна: предлагая нам счастье и накачивая нас постоянными «подталкиваниями», как наркотиками, ИИ способен создать такую форму массового контроля, которая окажется еще более неумолимой именно потому, что будет приватизирована. В ней не будет даже «центра управления», чтобы можно было с ним бороться, как делает THX 1138. Мы попадемся в сети, которые сами же и соткали, создавая одно приложение за другим.

Мы всегда считаем, что люди с зависимостью – это другие. Возвращаясь в гостиницу, я говорил себе: все это не про меня… Уж я-то, с моей волей к жизни, не проглочу эту таблетку. Я, со своим желанием противоречить, не буду подчиняться сладкоречивым сообщениям, придуманным Boundless AI. Я, со своим критическим духом, не поведусь на грубые эмотиконы. Я автономен.

Но потом у меня тоже случилось откровение. Все началось с чтения последней книги Джарона Ланье, купленной по случаю в одном книжном магазине Сан-Франциско[87]. Ланье, гик-либертарианец с легендарными дредами, – мой ориентир по любым вопросам, связанным с технологией. Настоящая икона контркультуры и в то же время исследователь в Microsoft, он имеет все основания изнутри критиковать развитие цифрового мира, в создании которого сам участвовал. В своей предыдущей работе он уже убедил меня в том, что вознаграждение, получаемое за предоставление личных данных, – моральная и экономическая необходимость, без которой нельзя избежать господства больших платформ[88]. Его краткий и сильный памфлет «Десять аргументов за то, чтобы немедленно выйти из социальных сетей» стал похожим откровением[89]. Ланье разоблачает логику «ангажирования», вписанную в алгоритмы социальных сетей. Их бизнес-модель опирается на накопление данных. Чтобы извлекать данные, надо порождать деятельность. Для этого требуется создавать зависимость. А для создания зависимости необходимо играть на наших основных инстинктах: вознаграждение (лайки), конфликт (война твитов), конкуренция (число фолловеров). Оглупление публичных дискуссий, партийная истерика, диктатура эмоций, возвращение практик публичного порицания и массовая дезинформация – все это прямые следствия того постоянного щекотания наших нейронных цепей, которое выполняют социальные сети[90]. Трамп – это не президент, строчащий твиты, а твит, который был избран президентом самой логикой ретвита. Самые изощренные умы бьются над тем, чтобы выразить окончательные суждения, уместив их в 280 знаков. Палитра человеческих чувств сводится к двум реакциям: «нравится» – «не нравится», двум сторонам одной и той же инфантильной регрессии. Социальные сети, как они понимаются сегодня, подрывают наши демократии. Как говорит Ланье, мы все становимся зомби. Решение простое: отключиться.