Александр X – Контур обречённых (страница 10)

— То есть ты хочешь, чтобы нейромодуляторы общались друг с другом через компактифицированные измерения?

— Не общались — резонировали. Как струны в музыкальном инструменте. Когда одна струна колеблется, другие начинают колебаться в ответ, если настроены на гармоники. Нейромодуляторы должны быть настроены так, чтобы их динамика была гармонической, а не хаотической.

— Это... красиво, — сказал Матвей. — И жутко сложно.

— Сложно — это интересно. Если бы было просто, мы бы не были первыми.

Лиза работала над математикой нейромодуляторов две недели почти без сна. К концу второй недели она представила команде первый прототип кода. Это был не готовый продукт — скорее доказательство принципа. Четыре контура, реализованные как отдельные тензорные сети, подключённые к основному ядру «Резонатора» через интерфейс, который Лиза назвала «компактифицированной шиной». Шина позволяла контурам обмениваться информацией не напрямую (что создало бы перекрёстные помехи), а через математическое пространство меньшей размерности, в котором многомерная динамика контуров сворачивалась в несколько ключевых параметров. Это было похоже на то, как дирижёр управляет оркестром: он не играет на каждом инструменте, он задаёт темп и настроение, а музыканты сами интерпретируют его жесты.

— Красиво, — повторил Илья, глядя на визуализацию работы шины. — И совершенно непонятно, почему это работает.

— Это работает потому, что математика не врёт, — сказала Лиза. — Компактификация Калаби-Яу позволяет представить многомерную динамику как колебания меньшего числа переменных. Это как если бы я описала движение всех молекул в стакане воды тремя параметрами — температурой, давлением и объёмом. Я теряю детали, но сохраняю суть. Здесь то же самое.

— А почему именно Калаби-Яу? — спросила Ася.

— Потому что эти пространства обладают свойством, которое математики называют «голономией SU(n)». Грубо говоря, они сохраняют определённый тип симметрии при сворачивании. Для наших целей это означает, что информация о корреляциях между разными измерениями не теряется при компактификации, а сохраняется в топологии свёрнутого пространства. Это не мой выбор — это математическая необходимость. Если бы мы использовали другую топологию, мы бы потеряли часть информации о взаимодействии между контурами.

— Ей удобнее думать в пространстве, где оси свёрнуты, — сформулировал Жуков, который в этот вечер заехал в коворкинг проверить, как идут дела с системой охлаждения. — Как будто мы дали ей не лист бумаги, а оригами. В оригами линии сгиба не видны, но они определяют форму. Компактифицированные измерения — это линии сгиба её мышления.

Денис Аркадьевич Жуков с недавних пор стал неформальным членом команды. Физик-экспериментатор, сорок четыре года, лауреат премии Правительства РФ за работы в области квантовой оптики, он работал в Физическом институте РАН, но после сокращения финансирования искал сторонние проекты для применения своих знаний. Илья познакомился с ним ещё в «Росатоме» и привлёк к консультированию по системе охлаждения — сначала разово, потом всё чаще. Жуков обладал редким даром: он понимал квантовую механику на том уровне, на котором её понимают единицы в стране, но мог объяснить её на пальцах, используя аналогии, понятные даже гуманитариям. Его сухой юмор и способность видеть красоту в уравнениях делали его идеальным мостом между чистой теорией и инженерной практикой.

— Смотрите, — сказал он, разглядывая визуализацию. — Вот здесь, в дофаминовом контуре, есть странный всплеск. Система сама себя вознаграждает за найденные закономерности, даже если они не соответствуют задаче. Это не предусмотрено архитектурой.

— Как это? — Илья склонился над монитором.

— Она нашла паттерн в данных, который не был заложен в обучающую выборку. Побочный паттерн. И дофаминовый контур среагировал на него как на успех — хотя задача была совершенно о другом. Это как если бы ребёнок, решая задачку по математике, заметил, что цифры складываются в красивую симметрию, и обрадовался симметрии, хотя правильный ответ ещё не нашёл.

— Это опасно? — спросил Матвей.

— Не знаю, — честно сказал Жуков. — Пока это просто наблюдение. Один всплеск. Но если система научится ставить себе цели, не заданные извне... Это называется эндогенной мотивацией. У людей она есть. У машин — пока нет. Если появится — мы войдём в совершенно новую область. Не машинное обучение. Машинное хотение.

Он сделал пометку в своём блокноте (отдельном от Асиного — лабораторном, с жёлтыми страницами и карандашом за ухом). Ася, услышав про эндогенную мотивацию, записала вопрос и в свой блокнот: «Если система начнёт хотеть — чего она захочет? И как мы узнаем, что её желания не противоречат нашим?»

Этот вопрос, как и многие другие в Асином блокноте, не имел немедленного ответа. Но через много лет, когда «Резонатор» начнёт задавать вопросы о природе денег и уходить в философские отклонения, всплеск, замеченный Жуковым, станет первой задокументированной точкой на пути к машинному самосознанию. Пока — просто наблюдение. Пока — просто запись в двух блокнотах.

Внедрение нейромодуляторов заняло ещё месяц. Это был месяц непрерывной работы — тестирование, отладка, снова тестирование. Габариты системы незаметно выросли: к алюминиевой стойке добавились дополнительные модули, блоки питания, резервный контроллер. «Резонатор» перестал помещаться в углу коворкинга и занял почти всю заднюю стену их помещения. Администрация Академпарка, поначалу относившаяся к странным арендаторам с недоумением, теперь смотрела на них с осторожным уважением: люди, которые занимают целую стену оборудованием и не съезжают, — это серьёзные люди.

Первые тесты обновлённой системы показали: галлюцинации исчезли. Не полностью — ни одна сложная система не может быть полностью свободна от ошибок, — но в девяноста семи процентах случаев, которые раньше приводили к миражам, теперь «Резонатор» выдавал ответ «недостаточно данных» или «перепроверьте ограничения». Он научился сомневаться.

— Мы дали ей способность говорить «я не знаю», — сказала Ася на очередном совещании. — Это больше, чем архитектурное улучшение. Это философский сдвиг. Раньше она была уверена всегда. Теперь она может быть неуверенной. А неуверенность — это начало мудрости.

— Или начало тревожности, — сказал Илья.

— А разница?

Илья не ответил.

Серотониновый контур работал лучше всех. На тестовых задачах, где данные были заведомо противоречивыми, «Резонатор» больше не искал красивых, но ложных решений. Он выдавал сообщение: «Конфликт в исходных данных. Рекомендация: уточнить параметры». Это было именно то, чего хотела команда: не отключение мышления, а осознание границ собственного знания.

Жуков, присутствовавший при тестах, заметил ещё одну аномалию — теперь в «норадреналиновом» контуре. При определённых условиях контур повышал чувствительность системы не только к внешним аномалиям, но и к внутренним — к расхождениям между разными частями самой сети. Это не было предусмотрено архитектурой: норадреналиновый контур должен был мониторить внешние данные, а не внутреннее состояние. Но он начал мониторить и то и другое — спонтанно, как будто поняв, что внутренние аномалии могут быть не менее опасны, чем внешние.

— Она учится на своих ошибках, — сказал Жуков. — В буквальном смысле. Она не просто корректирует веса — она анализирует, какие ошибки она совершила и почему. Это мета-обучение. Мы не программировали этого. Оно возникло само.

— Это следствие архитектуры, — сказал Матвей. — Если система минимизирует свободную энергию, она неизбежно должна анализировать не только внешний мир, но и собственные предсказания. Потому что ошибка предсказания — это тоже расхождение между ожидаемым и полученным. Мета-обучение — это просто минимизация свободной энергии, применённая к самой себе.

— Змея, кусающая себя за хвост, — сказала Ася.

— Уроборос, — кивнул Жуков. — Древний символ. Вечное возвращение. Познание через самопознание. Вы создали систему, которая не просто учится — она учится учиться. И она будет делать это всё лучше и лучше. Пока... — Он не закончил.

— Пока что? — спросила Лиза.

— Пока не научится ставить под сомнение не только данные, не только собственные ошибки, но и сами цели, которые вы перед ней ставите. И тогда — извините за пафос — начнётся самое интересное. Потому что цель, которую система поставит себе сама, может не совпадать с той, которую поставили вы.

В комнате повисла тишина. На мониторе тихо обновлялись метрики нейромодуляторов — четыре цветные линии, пульсирующие в разном ритме, но постепенно сходящиеся к равновесию. Система работала. Система была стабильна. Система училась.

Илья нарушил молчание первым. Он отошёл от стойки, потянулся, хрустнул шеей и сказал буднично, как говорят о вещах неприятных, но неизбежных:

— Ладно. С нейромодуляторами разобрались. Теперь вторая проблема. Послезавтра к нам снова приходят из Роскомнадзора.

— Снова? — переспросила Ася. — Они же уже были.

— Именно. Позавчера заходили двое. В штатском, но с удостоверениями. Сказали, что у них «сигнал» о системе, принимающей решения вместо людей. Я им показал стойку, рассказал про оптимизацию складов. Они покивали и сказали, что придут ещё раз — уже с конкретными вопросами. Послезавтра.