Александр X – Контур обречённых (страница 9)

— Она помечтала, — тихо сказала Лиза, заглядывая в монитор через плечо Ильи.

Это было точное слово. Именно помечтала. Не ошиблась — ошибка подразумевает неправильный расчёт, сбой в логике или в данных. А здесь расчёт был безупречным. Входные данные содержали старые градостроительные планы, где мост существовал как проектная единица. Система не отличала «проект» от «факта». Она видела непротиворечивую информацию и встраивала её в свою модель мира. Модель получалась красивая, внутренне согласованная, и неверная.

— Это не баг, — сказал Матвей. — Это структурная особенность.

Он отошёл к окну и долго смотрел на Обь — настоящую, без моста в неположенном месте. Потом повернулся к команде.

— Мы построили систему, которая может представить то, чего нет. Это опасно не потому, что она ошибается. Опасно то, что её ошибки красивы. Они элегантны. Они математически устойчивы. Она не просто галлюцинирует — она находит самый глубокий минимум свободной энергии, и иногда этим минимумом оказывается мираж.

Ася записала в блокнот: «Вопрос: если система находит красивый ответ, который не соответствует реальности, — это ошибка или творчество? И где граница между воображением и галлюцинацией?»

Это был не риторический вопрос. Он требовал инженерного решения.

Они собрались на чрезвычайное совещание в тот же вечер. На столе стояли кружки с чаем (остывшим, как обычно), распечатки логов «Резонатора» за последние три дня с помеченными аномалиями и ноутбук с открытым интерфейсом мониторинга. Илья перечислил все зафиксированные странности: рекомендация дополнительного рейса через несуществующий мост была самой заметной, но не единственной. Система ещё дважды предлагала решения, которые выглядели логично, но не соответствовали физическим ограничениям — например, предполагала, что погрузчик может проехать сквозь стену, потому что на карте склада эта стена не была отмечена как препятствие.

— Проблема глубже, чем кажется, — сказал Матвей. — В классических нейросетях галлюцинация — это результат переобучения или нехватки данных. Система выдаёт уверенный ответ, потому что не знает, что она чего-то не знает. У нас другая ситуация. «Резонатор» не просто уверен в неверном ответе. Он находит аттрактор, который математически устойчивее реальности.

— Объясни, — сказала Лиза.

— Помните аналогию с шаром на ландшафте? «Резонатор» ищет минимум свободной энергии. Представьте ландшафт с двумя впадинами. Одна — настоящая, соответствующая реальному миру. Вторая — глубже и ровнее, но она соответствует миру, в котором есть мост через Обь в том месте, где нам удобно. Система скатывается во вторую впадину не потому, что она ошиблась в расчётах. Она скатывается туда, потому что эта впадина действительно глубже. Мираж притягательнее реальности.

— Как мираж в пустыне, — сказала Ася. — Озеро, которого нет, но которое видит путник. Это не ошибка зрения. Это физика: слои воздуха разной температуры преломляют свет так, что изображение неба выглядит как вода. Физика миража честная. Реальность, которую он показывает, — ложная.

— Именно. «Резонатор» видит математический мираж. Физика расчёта честная. Результат — ложный. И мы не можем просто сказать ему «не галлюцинируй». Галлюцинация — это не функция, которую можно отключить. Это прямое следствие архитектуры, основанной на минимизации свободной энергии. Если мы отключим способность находить глубокие аттракторы, мы отключим способность решать задачи быстрее классических нейросетей.

— Тогда что? — спросил Илья. — Как заставить её отличать мираж от реальности?

Матвей помолчал. Он снова подошёл к окну, потом вернулся к столу.

— Нужно посмотреть, как эту проблему решает биологический мозг, — сказал он. — Мозг — это тоже система, которая минимизирует свободную энергию. Он тоже строит внутреннюю модель мира и сравнивает её с входящими сигналами. Он тоже может галлюцинировать — во сне, при сенсорной депривации, при некоторых психических расстройствах. Но в норме здоровый мозг отличает воображение от реальности. Почему?

— Потому что у него есть механизмы проверки, — сказала Ася.

— Какие именно?

Ася задумалась. Она, в отличие от остальных, читала не только статьи по машинному обучению, но и по нейробиологии — из чистого интереса, потому что граница между мозгом и машиной всегда казалась ей самой важной границей современной науки.

— Нейромодуляторы, — сказала она наконец. — В мозге есть вещества, которые не передают информацию, а меняют режим работы всей системы. Дофамин — сигнал о неожиданном вознаграждении. Если реальность оказалась лучше ожиданий — закрепляем те связи, которые привели к успеху. Норадреналин — сигнал о неожиданной угрозе или новизне. Если реальность оказалась хуже ожиданий — усиливаем внимание, повышаем чувствительность к деталям. Ацетилхолин — сигнал о неопределённости. Если реальность непонятна — делаем всю систему более пластичной, готовой к обучению. Серотонин — сигнал о долгосрочном балансе. Если система слишком долго находится в стрессе — возвращаем её в равновесие.

— Это не просто химия, — сказал Матвей. — Это архитектура. Нейромодуляторы — это распределённая система контроля, которая работает параллельно с основной системой обработки информации. Они не говорят мозгу, что думать. Они говорят мозгу, как думать — в каком режиме, с какой скоростью обучения, с каким уровнем доверия к собственным предсказаниям.

— И мы можем сделать то же самое, — сказала Лиза. — Архитектурные аналоги нейромодуляторов. Отдельные модули, которые мониторят состояние «Резонатора» и меняют его режим работы.

Они прорабатывали детали до трёх часов ночи. Спать не хотелось — энергия идеи, как это часто бывает, заменяла кофеин.

К утру у них был первый набросок архитектуры нейромодуляторов.

Первый контур — «дофаминовый» — корректировал скорость обучения в зависимости от того, насколько предсказание совпало с реальностью. Если «Резонатор» предсказал время доставки с точностью до минуты — паттерн закрепляется, связи усиливаются. Если предсказание провалилось — обучение ускоряется, система быстрее перестраивает модель. Это было похоже на классический градиентный спуск, но с одним отличием: скорость обучения не была константой, заданной человеком. Она определялась самой системой на основе внутренней меры успеха.

Второй контур — «норадреналиновый» — отслеживал аномалии во входных данных. Если данные начинали расходиться с ожиданиями системы — контур временно повышал чувствительность к деталям. Это был аналог того, что в психологии называется «ориентировочным рефлексом»: когда вы слышите неожиданный звук, ваш мозг мгновенно переключается в режим повышенной готовности. «Резонатор» теперь делал то же самое: если реальность вела себя не так, как он ожидал, он переставал доверять собственным предсказаниям и начинал пристальнее всматриваться в данные.

Третий контур — «ацетилхолиновый» — управлял глобальной пластичностью. Когда система сталкивалась с принципиально новой задачей, контур делал всю сеть более гибкой, позволяя быстрее перестраивать связи. Когда задача была знакома, пластичность снижалась, и сеть работала как хорошо отлаженный механизм. Это предотвращало, с одной стороны, косность (неспособность учиться новому), с другой — катастрофическое забывание (когда новое знание полностью стирает старое).

Четвёртый контур — «серотониновый» — предложила Ася, и поначалу Илья сопротивлялся.

— Зачем нам тормоз? — спрашивал он. — Первые три контура ускоряют и улучшают обучение. А этот — замедляет.

— Именно поэтому он нужен, — сказала Ася. — Представь, что система сталкивается с нерешаемой задачей. Данные противоречивы, паттернов нет, любой ответ будет ошибочным. Без серотонинового контура она будет бесконечно повышать пластичность и чувствительность, пытаясь найти решение там, где его нет. Это путь к паранойе и галлюцинациям. Серотониновый контур говорит: «Остановись. Задача не решается. Вернись в равновесие. Попробуй позже с другими данными». Это не тормоз. Это предохранитель.

— Здоровый скептицизм, — сказал Матвей. — Способность сказать «я не знаю».

— Именно, — кивнула Ася. — То, чего нам самим часто не хватает.

Четыре контура, четыре архитектурных модуля, ни один из которых не был запрограммирован жёстко — каждый самонастраивался в процессе работы. Они не говорили «Резонатору», что думать. Они говорили ему, как думать — точнее, в каком режиме думать в зависимости от того, что происходит вокруг и внутри самой системы.

Лиза взялась за математический аппарат. Задача была нетривиальной: четыре контура, каждый со своей динамикой, должны были работать параллельно, не входя в резонанс друг с другом и не создавая колебаний. Классические методы управления — PID-регуляторы и тому подобное — здесь не подходили, потому что система была нелинейной и многомерной. Нужно было что-то принципиально новое.

— Помнишь струнную компактификацию? — спросила она Матвея.

— Конечно. Твоя идея сворачивать многомерные тензоры через пространства Калаби-Яу.

— Я думаю, это можно применить к нейромодуляторам. Если представлять состояние всех четырёх контуров как колебания в дополнительных измерениях, задача согласования сводится к поиску резонанса — и это аналитическая задача, которая решается без перебора.