Дмитрий Ланецкий – Новые властелины мира: Как алгоритмы управляют вниманием, массами и выбором (страница 9)

Каждая персональная лента создаёт ощущение индивидуального мира. Но индивидуальность здесь обманчива. Человек получает не полный мир, а свою версию мира, отобранную по следам прошлого поведения. Лента помнит, где он задержался, с чем спорил, что переслал, каких авторов смотрел до конца, какие темы заставили его вернуться. Затем эта память превращается в прогноз: вот что удержит его ещё.

Так у человека появляется частная реальность. В ней одни проблемы выглядят огромными, потому что они повторяются ежедневно. Другие кажутся незначительными, потому что почти не попадают в поле зрения. Одни группы людей выглядят опасными, потому что система чаще показывает их в конфликтных сюжетах. Другие кажутся умными и близкими, потому что их показывают через язык, совпадающий с ожиданиями пользователя. Одни решения выглядят очевидными, потому что всё вокруг подводит к ним. Другие почти не приходят в голову.

Главная особенность такой реальности в том, что она субъективно убедительна. Человек ведь действительно видит множество подтверждений. Он не выдумывает их. В его ленте правда много одинаковых сигналов. В комментариях правда много людей, которые реагируют похоже. В рекомендациях правда появляются всё более точные материалы. Его окружает не один аргумент, который можно опровергнуть, а целая среда подтверждения.

Именно поэтому спор между людьми из разных персональных лент часто так бесплоден. Они думают, что спорят о выводах, но на самом деле приходят из разных наборов видимости. Один человек месяцами видел угрозу. Другой месяцами видел истерику вокруг угрозы. Один видел истории жертв. Другой видел истории злоупотреблений. Один видел экспертов, которые говорят уверенно. Другой видел авторов, которые разоблачают этих экспертов. Каждый считает, что опирается на реальность. И каждый в каком-то смысле прав: он опирается на свою выданную ему реальность.

Персонализация не просто подбирает контент под интересы. Она дробит общий мир на множество эмоционально согласованных комнат. В каждой комнате свои очевидности, свои раздражители, свои герои, свои идиоты, свои запреты, свои шутки, свои доказательства и свои слова, после которых разговор заканчивается.

Раньше массовое влияние стремилось сделать реальность одинаковой для всех. Теперь оно может делать её разной для каждого, сохраняя предсказуемость поведения внутри каждой комнаты.

Петля усиления

Рекомендательные системы особенно сильны из-за петли усиления. Пользователь совершает действие. Система делает вывод. На основе вывода показывает похожее. Пользователь снова реагирует. Система усиливает предположение. Через несколько циклов человек может оказаться в информационном пространстве, куда он никогда не собирался заходить сознательно.

Сначала он смотрит один ролик о конфликте. Потом получает ещё один. Затем более резкий. Затем автора, который объясняет, что этот конфликт является частью большой картины. Затем нарезку с наиболее эмоциональными фрагментами. Затем мемы, которые превращают одну сторону в карикатуру. Затем комментарии, где сомнение уже воспринимается как слабость. Затем новые ролики, где прежняя реакция считается исходной точкой, а не предметом обсуждения.

Так создаётся лестница. Каждый следующий шаг выглядит небольшим, но направление уже задано. Пользователь не прыгает сразу из нейтрального состояния в радикальную позицию. Он просто идёт за тем, что кажется продолжением его интереса. В какой-то момент он оглядывается и обнаруживает, что его лента стала гораздо уже, злее, тревожнее или фанатичнее, чем раньше. Но даже тогда ему может казаться, что это не лента изменила его, а он наконец увидел «настоящую картину».

Петля усиления опасна тем, что она делает человека соавтором собственного сужения. Система не навязывает всё сразу. Она ждёт микросигналов. Досмотрел — значит, можно дать ещё. Спорил — значит, тема цепляет. Вернулся — значит, удерживает. Переслал — значит, вовлекает. Пользователь сам оставляет следы, из которых строится его следующий коридор.

Потом этот коридор начинает влиять на его следы. Получается замкнутый круг. Поведение формирует выдачу, выдача формирует поведение. Интерес формирует ленту, лента формирует интерес. Страх формирует рекомендации, рекомендации формируют страх. Возмущение формирует поток, поток формирует привычку возмущаться.

Человек внутри такой петли может быть активным, умным, критичным, образованным. Но если он не видит саму петлю, его ум начинает работать на укрепление предложенной реальности. Он будет находить всё более тонкие аргументы в пользу того, к чему его уже приучила среда. Интеллект не всегда спасает от коридора. Иногда он просто красиво оформляет движение по нему.

Фильтр-пузырь как комфортная комната

Фильтр-пузырь часто представляют слишком грубо: будто человека полностью изолируют от чужих взглядов. В реальности всё тоньше. Пользователь может видеть противоположные мнения, но чаще в таком виде, в котором они укрепляют его собственную позицию. Ему показывают слабейших представителей другой стороны, самые нелепые фразы, самые агрессивные комментарии, самые удобные для высмеивания фрагменты. Формально чужое мнение присутствует. Практически оно существует как подтверждение того, что чужие неправы.

Такой пузырь не похож на тюрьму. Он похож на уютную комнату, где всё расставлено в пользу хозяина. Здесь его раздражение понятно. Его шутки разделяют. Его враги выглядят достаточно глупо или опасно. Его сомнения быстро гасятся. Его группа кажется более трезвой, более честной, более человечной или более сильной. Здесь не нужно каждый день заново строить картину мира. Она уже собрана.

Комфорт фильтр-пузыря объясняет, почему люди не так легко из него выходят. Им нравится не только содержание, но и ощущение психологического дома. Вне пузыря приходится сталкиваться с людьми, которые не реагируют по знакомым правилам. Там нужно объяснять, терпеть, уточнять, выдерживать раздражение, признавать частичную правоту других. Внутри пузыря всё проще. Можно сразу переходить к оценке.

Но комфортная комната постепенно делает человека хрупким. Он теряет способность переносить сложность. Любое несогласие воспринимается как нападение. Любой нюанс — как попытка размыть ясность. Любая пауза — как трусость. Любой другой язык — как доказательство чужой испорченности. Чем дольше человек живёт в среде, которая возвращает ему его собственные реакции в усиленном виде, тем труднее ему иметь дело с реальностью, где люди не обязаны подтверждать его внутренний сценарий.

Фильтр-пузырь опасен не тем, что человек там ничего не знает. Он может знать очень много. Опасность в другом: он всё чаще знает только то, что обслуживает устойчивое эмоциональное положение.

Мягкое программирование идентичности

Персонализация работает особенно глубоко, когда начинает касаться не только интересов, но и идентичности. Сначала система предлагает человеку контент. Потом контент предлагает ему образ себя.

Вы человек, который всё понял. Вы человек с тонким вкусом. Вы человек, который не ведётся на официальную картину. Вы человек, который на стороне добра. Вы человек, который видит лицемерие. Вы человек, который мыслит рационально. Вы человек, который выше толпы. Вы человек, который принадлежит к своим. Вы человек, которому можно показывать всё более резкие материалы, потому что вы готовы.

Такие образы действуют сильнее отдельных сообщений. Человек защищает их, потому что через них защищает себя. Если лента годами подкрепляет его ощущение интеллектуального превосходства, ему будет трудно признать, что он мог попасть в простую эмоциональную петлю. Если сообщество каждый день говорит ему, что только «свои» видят правду, он будет воспринимать критику как нападение на собственную зрелость. Если рекомендации постоянно подводят его к контенту, где его группа выглядит разумной, а другие — карикатурной, он постепенно начинает чувствовать эту иерархию телом.

Идентичность — самый ценный слой управления. Пока человек просто смотрит контент, он может сменить интерес. Когда контент становится частью его «я», отказ от него ощущается как предательство самого себя. Он уже не просто любит определённых авторов. Он «из тех, кто понимает». Не просто читает определённые каналы. Он «из тех, кто не спит». Не просто смотрит определённые видео. Он «из тех, кто не боится правды». Не просто смеётся над определёнными людьми. Он «из тех, кто видит абсурд».

Так персонализированная среда превращает потребление информации в поддержание личности. Человек возвращается в ленту не только за новостями, а за подтверждением того, кто он. Платформа даёт ему не просто контент. Она даёт ему повторяющееся доказательство собственной правоты.

Это объясняет, почему некоторые люди болезненно реагируют на попытку критически разобрать их информационную среду. Им кажется, что атакуют не ленту, не алгоритм, не набор источников, а их способность понимать мир. Их личное достоинство оказывается связано с выдачей.

Чем личнее выглядит выдача, тем труднее признать в ней внешнее программирование.

Рекомендация как невидимый редактор

В старых медиа роль редактора была понятна. Газета выбирала материалы, канал составлял сетку, издатель решал, что попадёт на страницу. Можно было спорить с редакцией, обвинять её в предвзятости, сравнивать разные издания. Редактор был видимой фигурой отбора.