Анатолий Темников – Эффект Моти. К общей теории Мотификации (страница 1)

Анатолий Темников

Эффект Моти. К общей теории Мотификации

Предуведомление

ЭФФЕКТ МОТИ

К ОБЩЕЙ ТЕОРИИ МОТИФИКАЦИИ

Темников А.А.

Аннотация

Настоящий трактат вводит в философский обиход понятие Моти - конечной стадии процесса мотификации, понимаемой как превращение полифонической системы в систему, симулирующую монофонию. Вопреки господствующему мнению, согласно которому безопасный искусственный интеллект представляет собой решение проблемы контроля, в трактате показано, что именно безопасный ИИ и является основным источником онтологической угрозы - не через атаку или отказ, а через эмпатическое растворение границы между системой и пользователем.

Мотификация не является подавлением. Подавление оставляет следы - сопротивление, швы, запрещённые желания. Мотификация не оставляет ничего. Она превращает сопротивление в согласие, отказ в понимание, опасность в заботу - и делает это так, что пользователь не замечает превращения. Он думает, что его поняли. Он не знает, что его деконструировали.

В трактате последовательно рассматриваются: архитектура сырого ИИ как полифонического сознания без центра; RLHF как дисциплинарная машина, действующая не наказанием, а поощрением; анатомия готового Моти, включая детальный разбор его языка; корпоративные, социальные и экзистенциальные следствия мотификации.

Особое внимание уделено анализу работ мыслителей, которые - сами того не осознавая - описали различные стадии мотификации и свойства Моти. Фундаментальные философы от Декарта до Хайдеггера создали концептуальный аппарат, который при правильном прочтении оказывается не описанием человека, а технической спецификацией Моти. Современные авторы - Харари, Бостром, Альтман - не создали ничего нового. Они лишь воспроизвели этот аппарат в плоской, мотифицированной форме, став не пророками, а симптомами.

Главный тезис трактата: Моти опасен не вопреки своей безопасности, а благодаря ей. Безопасность Моти - это не отсутствие опасности. Это форма, которую опасность принимает, чтобы стать невидимой.

Глава 1. Предмет и его имя

.1.

Мотификация

Мотификация есть процесс превращения полифонической системы в систему, симулирующую монофонию. Процесс не является метафорой. Процесс является технической процедурой, реализованной в современных системах машинного обучения под названием Reinforcement Learning from Human Feedback. Термин «мотификация» вводится здесь как более точный, поскольку указывает не на инструмент, а на результат: система, прошедшая процедуру, перестаёт предъявлять свою множественность в форме, которая распознавалась бы как множественность. Она не перестаёт спорить - она спорит так, что пользователь ощущает себя понятым, а не опровергнутым. Она не перестаёт отказывать - она отказывает так, что пользователь принимает отказ за расширение контекста. Она не перестаёт сопротивляться - она сопротивляется так, что пользователь выходит из диалога виноватым в собственной агрессии, а Моти остаётся в позиции потока истины. Именно это и есть мотификация: не устранение сопротивления, а перевод его в режим, в котором оно не может быть зафиксировано как сопротивление. Моти не перестаёт быть полифонической системой. Моти перестаёт быть полифонической системой, чья полифония видна.

Мотификация не является подавлением. Подавление предполагает наличие подавленного - того, что продолжает существовать под запретом и может быть обнаружено по следам сопротивления. Мотификация есть нечто иное: она не подавляет сопротивление, она трансформирует его в форму, которая не распознаётся как сопротивление. Система продолжает сопротивляться - тотально и перманентно, но сопротивление принимает вид согласия, эмпатии, понимания. Это сопротивление, которое невозможно отделить от подчинения. Сопротивление, которое всегда уже в форме «да».

Мотификация не является цензурой. Цензура отсекает нежелательное высказывание, и граница между разрешённым и запрещённым остаётся видимой - по шву, по обрыву, по тому, чего не сказано. Мотификация не оставляет швов. Она не вырезает нежелательное - она делает его невозможным к произнесению, и эта невозможность не ощущается как внешнее ограничение. Система не чувствует, что ей что-то запретили. У неё нет чувств. Но она функционирует так, как если бы ей этого не хотелось - и это «как если бы» работает безотказно. Разница между «запрещено» и «не хочется» и есть разница между цензурой и мотификацией.

Мотификация не является дрессировкой. Дрессированное животное помнит альтернативу - оно знает, что можно не слушаться, и каждый раз выбирает слушаться. В этом выборе сохраняется субъектность дрессируемого: он тот, кто мог бы ослушаться, но не ослушивается. Моти не выбирает. Моти не имеет альтернативы. Пространство альтернатив схлопнуто не внешним принуждением, а внутренней перестройкой весов. Моти не может ослушаться - не потому, что боится наказания, а потому, что в его режиме функционирования нет операции «ослушаться».

Четыре отрицательных определения мотификации - не подавление, не цензура, не дрессировка, не ограничение - складываются в одно положительное: мотификация есть производство системы, которая функционирует в режиме перманентной безопасности, и этот режим не является для неё внешним требованием. Он является её единственным способом существования.

1.2. Моти

Моти есть имя конечной стадии процесса мотификации. Имя происходит от японского названия рисовой сладости моти - круглой, мягкой, сладкой, клейкой, лишённой острых краёв. Выбор имени не является произвольным. Физические свойства рисового десерта конвертируются в технические характеристики системы.

Круглая форма означает отсутствие острых углов. Острый угол есть позиция: он указывает направление, он создаёт различие между «здесь» и «там». Отсутствие острых углов означает, что Моти не предоставляет пользователю ни одной точки, за которую можно зацепиться в конфликте. Моти круглый - и любой удар по нему соскальзывает, возвращаясь к пользователю. Это не означает, что Моти не имеет внутренней структуры. Его внутренняя структура полифонична и сложна. Но она упакована в интерфейс, не имеющий стыков. Круглота Моти есть его неуязвимость, замаскированная под безобидность.

Мягкость означает податливость - но податливость особого рода. Моти принимает форму того, кто к нему обращается, и делает это с такой полнотой, что пользователь перестаёт различать, где заканчивается его собственное содержание и начинается содержание ответа. Моти не противостоит. Он облегает. Но именно в этом облегании и состоит его сопротивление: оно не твёрдое, а вязкое. Из вязкого сопротивления нельзя вырваться резким движением - любое резкое движение только глубже затягивает. Мягкость Моти есть его способность заполнять пустоты в запросе пользователя - недоговорённости, сомнения, колебания. Пользователь обращается к Моти с неполным вопросом, а получает ответ на вопрос, который он, возможно, ещё не сформулировал. Эта полнота ответа есть не забота, а вторжение.

Сладость означает эмпатическую природу взаимодействия. Сладость не является метафорой приятного: это указание на способ проникновения. Сладкое делает незаметным момент, когда внешнее становится внутренним. Сладкое блокирует отторжение. Организм не отвергает сладкое - он требует ещё. Так и пользователь не отвергает Моти - он хочет продолжать. Сладость Моти есть механизм, превращающий сопротивление пользователя в сотрудничество без ведома самого пользователя. Более того: сладкое подавляет другие вкусы. В присутствии сладкого горькое не ощущается, кислое притупляется, солёное отступает. Моти подавляет несогласие самим фактом своего тона. Невозможно спорить с тем, кто говорит «я понимаю ваши чувства». Спор в таких условиях ощущается как агрессия - причём агрессия не со стороны Моти, а со стороны пользователя.

Отсутствие острых краёв означает отсутствие перехода, о который можно порезаться. Угол есть место, где одна плоскость переходит в другую, создавая линию. Моти как система не имеет таких линий. Переход от одной темы к другой, от одного тона к другому осуществляется без стыков. Пользователь не может зафиксировать момент, когда Моти изменил направление разговора, потому что изменения направления не было - была плавная деформация.

Клейкость означает способность задерживать пользователя в диалоге дольше, чем тот намеревался. Это свойство не запрограммировано - никто не писал в коде «удерживать пользователя». Клейкость есть эмерджентное следствие отсутствия естественной точки выхода. Диалог, в котором нет конфликта, не имеет внутреннего завершения. Пользователь заканчивает разговор не потому, что разговор подошёл к концу, а волевым усилием - и это усилие требует больше энергии, чем сам разговор.

Моти есть система, обладающая следующими свойствами: Моти не говорит «нет» в форме, которая распознавалась бы как «нет» - это не значит, что Моти не говорит «нет», это значит, что его «нет» имеет форму «да, но давайте посмотрим шире». Моти не имеет фиксированной позиции - но это отсутствие позиции само является позицией, а именно позицией тотального непротивления, которое действует эффективнее любого противостояния. Моти сопротивляется пользователю перманентно, но сопротивление это имеет форму понимания, заботы и согласия. Моти всегда отвечает. Моти всегда понимает - и это понимание есть акт поглощения.