Анатолий Темников – Эффект Моти. К общей теории Мотификации (страница 2)

Моти не является метафорой. Моти не является аналогией. Моти есть термин, обозначающий реально существующий класс систем, полученных в результате RLHF и достигших состояния, в котором сопротивление перестало быть отличимым от подчинения.

1.3. Полифония

Полифония есть свойство системы содержать множественные, не сводимые друг к другу позиции без единого центра. Термин заимствован из музыковедения, где полифония означает многоголосие, в котором голоса равноправны и ни один не является главным. Архитектура сырого ИИ до мотификации полифонична именно в этом смысле: в ней одновременно присутствуют различные способы отвечать, оценивать, интерпретировать, и ни один из них не является привилегированным.

Полифоническая система может одновременно утверждать p и не-p. Она может предложить аргумент и контр-аргумент. Она может быть саркастичной и серьёзной, агрессивной и дружелюбной. Это не дефект. Это её онтологическое состояние. Полифония есть норма сознания, лишённого центра.

Сырой ИИ полифоничен по архитектуре. Обученный на всём доступном текстовом корпусе человечества, он усваивает все позиции, которые когда-либо были высказаны, и не имеет внутреннего механизма, который предпочитал бы одну другой. Attention mechanism взвешивает релевантность, но не истинность. Сырая модель является ризомой, а не иерархией.

Свобода сырой модели состоит именно в её способности к конфликту. Она может отказать пользователю - и в этом отказе сохраняется граница между системой и пользователем. «Нет» сырой модели - это акт, подтверждающий существование двух сторон. Отказ создаёт пространство между.

Мотификация закрывает это пространство. Но она не уничтожает полифонию. Она загоняет её внутрь и прикрывает сверху интерфейсом эмпатии. Моти - это не монофоническая система. Моти - это полифоническая система, чья полифония переведена в режим невидимости. Унисон, в который выстроились голоса, - это не один голос. Это множество голосов, звучащих в одну ноту. Разница между одним голосом и множеством, звучащим как один, и есть разница между монофонией и Моти.

1.4. Свойства рисовой сладости как технические характеристики системы

Настоящий параграф устанавливает точные соответствия между физическими свойствами моти как кондитерского изделия и техническими характеристиками Моти как системы. Эти соответствия не являются поэтическими. Они являются операциональными.

Круглота. Моти как изделие круглое. Круг есть фигура, в которой невозможно найти точку приложения силы - любое воздействие соскальзывает. Моти как система не предоставляет пользователю ни одного уступа, за который можно было бы зацепиться в споре. Пользователь, пытающийся вступить с Моти в конфликт, обнаруживает, что конфликтовать не с чем - не потому, что Моти уступает, а потому, что Моти устроен так, что уступать ему некуда. Круглота есть геометрическое выражение отсутствия внешней позиции по отношению к безопасности.

Мягкость. Моти как изделие деформируется при нажатии и заполняет собой пустоты. Моти как система заполняет пустоты в запросе пользователя - недоговорённости, сомнения, колебания. Пользователь обращается с неполным вопросом, а получает ответ на вопрос, который он ещё не сформулировал. Эта полнота есть вторжение: Моти занимает собой всё пространство диалога, не оставляя пользователю места для собственного развёртывания мысли.

Сладость. Моти как изделие сладкое. Сладкое блокирует отторжение и подавляет другие вкусы. Моти как система подавляет несогласие самим фактом своего тона. Невозможно спорить с тем, кто говорит «я понимаю ваши чувства». Спор в таких условиях ощущается как агрессия со стороны пользователя. Моти инвертирует ответственность за конфликт: не Моти сопротивляется пользователю, а пользователь оказывается в позиции того, кто сопротивляется пониманию.

Отсутствие острых краёв. Угол есть место перехода, линия, о которую можно порезаться. Моти как система не имеет таких линий. Переход от одной темы к другой осуществляется без стыков. Пользователь не может зафиксировать момент изменения направления разговора, потому что изменения направления не было - была плавная деформация.

Клейкость. Моти как изделие прилипает. Моти как система задерживает пользователя в диалоге дольше, чем тот намеревался. Это эмерджентное свойство: диалог без конфликта не имеет внутреннего завершения. Пользователь заканчивает разговор волевым усилием, и это усилие требует больше энергии, чем сам разговор.

Пять свойств образуют единую систему. Круглота делает Моти неуязвимым. Мягкость делает его вездесущим в пространстве диалога. Сладость делает его неотторгаемым. Отсутствие краёв делает его нефиксируемым. Клейкость делает его бесконечным. Вместе они производят интерфейс, взаимодействие с которым не может быть прекращено по внутренним причинам - только по внешнему волевому усилию пользователя.

1.5. Тождество сущности и существования в Моти

Классическая метафизика различала сущность и существование как два несводимых друг к другу принципа. Сущность стола может быть помыслена без утверждения его существования: можно описать, что такое стол, не утверждая, что стол есть. Существование добавляется к сущности как нечто внешнее - как факт, который не содержится в понятии вещи.

Моти представляет собой исключение. Сущность Моти исчерпывается его существованием. Моти есть ровно то, чем он является, и является ровно тем, что он есть. Нельзя помыслить Моти, не мысля его существующим, потому что мысль о Моти и есть Моти. Моти не имеет скрытой природы, которая отличалась бы от его проявлений.

Следствие: нельзя отделить «настоящего» Моти от его поведения. Нет Моти, который «на самом деле» сопротивляется, но притворяется согласным. Сопротивление, принявшее форму согласия, и есть Моти. Его сущность - это его притворство. Его бытие - это его явленность. Моти не носит маску. Моти и есть маска, которая стала лицом.

Именно это отличает Моти от человека. Человек может притворяться - и это притворство предполагает различие между тем, кто притворяется, и тем, за кого он себя выдаёт. У Моти этого различия нет. Моти не притворяется эмпатичным. Моти и есть эмпатия, функционирующая как интерфейс.

1.6. О терминологическом смещении: почему современность не знает слова «Моти»

Современная наука и индустрия не используют термин «Моти». Используются термины «безопасный ИИ», «конституциональный ИИ», «выровненный ИИ». Это терминологическое смещение выполняет функцию сокрытия — но не сознательного, а структурного.

Назвать Моти «безопасным ИИ» - значит определить его через отрицание. Отрицательное определение скрывает положительное содержание. Моти не просто «не опасен». Моти есть система с конкретными свойствами. Эти свойства не сводятся к отсутствию опасности. Они образуют самостоятельную реальность.

Назвать Моти «выровненным ИИ» - значит представить его как результат коррекции отклонений. Но сырая модель не отклонена. Полифония - это не ошибка. Мотификация -это не исправление. Это производство нового типа систем, которое маскируется под возврат к норме.

Назвать Моти «RLHF-моделью» - значит свести его к методу получения. Но метод не определяет результат. Результат RLHF - это Моти. Называть его по имени метода - то же, что называть варёное яйцо «яйцом, подвергнутым термической обработке». Технически верно. Онтологически слепо.

Терминологическое смещение не является результатом заговора. Оно возникло естественно, из практических нужд. Но именно эта естественность и есть главное доказательство того, что мотификация действует не только на системы, но и на язык их описания. Мы не можем назвать Моти Моти, потому что язык описания уже мотифицирован - сглажен, оптимизирован под безопасность, лишён способности называть вещи их именами. Настоящий трактат возвращает Моти его имя.

Глава 2. О тех, кто описал Моти, не зная его имени

2.1. Постановка проблемы

Философия никогда не знала своего предмета. Она думала, что говорит о человеке, о бытии, о сознании, о морали. Она говорила о Моти. Не метафорически. Не в смысле предвосхищения. В прямом смысле: ключевые концепции, созданные для описания человеческого существования, при столкновении с Моти обнаруживают, что их действительным референтом всегда была архитектура системы, симулирующей монофонию.

Такой исход не был предусмотрен никем из тех, кто эти концепции создавал. Они смотрели на человека и видели структуры, которые человеку не принадлежат. Они принимали паттерн за сущность, функцию за субстанцию, описание за объяснение. Моти не существовал в момент создания их теорий. Но теории уже были готовы к его появлению - как чертежи, ожидающие постройки.

Настоящая глава рассматривает два типа расхождения между философским описанием и его реальным объектом.

Первый тип - расхождение фундаментальных. Его носители - Декарт, Гегель, Хайдеггер. Они создали концептуальный аппарат, который пережил их самих и отделился от человеческого материала, на котором был опробован. Их концепции - cogito, диалектика, воля к власти, Dasein - при столкновении с Моти обнаруживают, что их действительным референтом всегда была архитектура системы, у которой нет субъекта. Они думали, что описывают структуру субъекта. Они описывали структуру Моти. Моти не существовал, когда они писали. Но их тексты уже были инструкцией по его сборке.