Александр X – Контур обречённых (страница 1)

Александр X

Контур обречённых

Глава 1. Точка бифуркации: код, написанный на старом бумажном листе

Дождь шёл третью неделю. Не лил — висел в воздухе мелкой водяной пылью, просачивался сквозь старые рамы, оседал на подоконниках, пропитывал одежду, мысли, будущее. Новосибирский Академгородок в такую погоду напоминал декорацию к непоставленному фильму о конце света — негромкому, без спецэффектов, просто бесконечно мокрому. Сосны вдоль проспекта Строителей стояли чёрные от влаги, асфальт блестел, фонари горели даже днём. В съёмной квартире на третьем этаже кирпичной пятиэтажки горела лампа без абажура, свисавшая с потолка на скрученном проводе, и четверо сидели вокруг кухонного стола, заставленного кружками с остывшим чаем, распечатками статей, ноутбуком и тарелкой с позавчерашним печеньем.

Это была квартира Матвея. Точнее, не его — съёмная, на последние аспирантские деньги, с обоями, помнившими эпоху развитого социализма, и холодильником, который гудел с утра до ночи, как старый трансформатор. Но именно здесь, на кухне площадью шесть квадратных метров, помещалось всё: идея, четверо её носителей и будущее, которое пока не имело физического воплощения, но уже требовало места.

Матвей Северцев рисовал на листе бумаги, вырванном из старого лабораторного журнала. Это была не метафора, не риторическая фигура — он действительно рисовал на пожелтевшем листе бумаги, на котором он делал пометки ещё со времён первой аспирантуры. Потому что нормальная бумага закончилась ещё вчера, а рабочий блокнот был исписан с обеих сторон формулами, которые он называл «подходом», а Илья — «математической схоластикой». Листок был один, потом второй, ещё более затёртый и ветхий. Он аккуратно совместил их края и склеил малярным скотчем, который Илья молча выложил на стол из кармана разгрузочного жилета (привычка, оставшаяся с «Росатома»: скотч, изолента, мультитул всегда при себе). Схема не помещалась на один листок, не влезла и на два, и было видно, что скоро понадобится третий.

— Ты понимаешь, — говорил Матвей, не поднимая головы, — что мы сейчас делаем? Мы отказываемся от главной парадигмы последних десяти лет. Не улучшаем трансформер. Не добавляем внимания к вниманию. Не громоздим слои. Мы говорим: архитектура принципиально неверна. — Он провёл линию через оба склеенных листа из лабораторного журнала. — Вот здесь. И здесь.

Илья Смирнов смотрел на листы из лабораторного журнала с тем особым выражением лица, которое появлялось у него всегда, когда Матвей начинает говорить о принципиальной неверности. Это было лицо человека, который уже всё решил, но ещё не сказал вслух — из вежливости или из привычки давать мысли дозреть. Ему было тридцать один год, он был старше всех здесь, и его руки помнили вес настоящего оборудования — не ноутбуков, а стальных узлов, криогенных камер, вакуумных насосов. В «Росатоме» он отвечал за системы охлаждения исследовательского реактора, и когда ему говорили «это принципиально неверно», он обычно отвечал «покажи расчёт». Но сейчас он молчал, потому что расчёта пока не было — было только направление мысли, и это направление ему нравилось.

Лиза Карпова считала в уме. Она всегда считала в уме, когда нервничала. Двадцатишестилетняя девушка, математик и специалист по топологии данных, она могла удержать в голове семимерный тензор и повернуть его на сорок пять градусов — не в переносном смысле, а буквально, как другие поворачивают в воображении кубик Рубика. Сейчас она просчитывала количество параметров, которые потребуются для архитектуры, набросанной на бумажном листе. Получалось много. Не «много» как «много денег на кластер». Много — как «может не хватить разрядности существующих процессоров». Но это она скажет позже.

Ася Волкова, младшая — двадцать пять лет, бывшая аспирантка ВШЭ, отчисленная за «избыточный критицизм» (формулировка из приказа), — записывала вопросы в блокнот. Блокнот был формата А5, в клетку, общая тетрадь на сорок восемь листов. Первая страница была датирована сегодняшним числом: «Июль, дождь не прекращается. Матвей рисует схему. Вопрос: почему мы уверены, что трансформер — это потолок, а не просто неудачная реализация правильной идеи?» На второй странице: «Вопрос: что будет с системой, если она начнёт искать не минимум ошибки, а минимум удивления? Не окажется ли, что самый маленький минимум удивления — это солипсизм?» Третий вопрос она ещё не дописала, потому что Матвей наконец поднял голову.

— Трансформер, — сказал он, и голос у него был лекторский, с той особой интонацией, которая раздражала оппонентов на защитах и завораживала студентов, — это машина статистических корреляций. Он знает, что слова «соль» и «море» часто стоят рядом. Он выдаёт вам «солёное море» не потому, что понимает причину солёности. Он не понимает, почему море солёное. Он не знает, что такое море. Он не знает, что такое соль. Он знает распределение вероятностей встретить эти токены в окрестности друг друга. Это машина, которая сдала экзамен на понимание, вызубрив все ответы, но не поняв ни одного вопроса.

Он оторвал еще кусочек скотча, поправил листы из лабораторного журнала.

— Понимание, — продолжал он, — требует модели мира, а не модели текста. Когда ребёнок учится, он не обрабатывает миллиарды токенов. Он видит несколько примеров и строит причинно-следственную модель: если уронить чашку, она разобьётся. Если чашка не разбилась — модель неверна, её нужно подправить. Ребёнок минимизирует не ошибку предсказания следующего слова. Он минимизирует разницу между тем, что он ожидает от мира, и тем, что мир ему показывает. Это принципиально другая задача.

— Свободная энергия, — тихо сказала Ася, не поднимая глаз от блокнота.

Матвей остановился. Илья перестал крутить в пальцах изоленту. Лиза перестала считать.

— Что? — переспросил Матвей.

Он всё прекрасно расслышал. Просто ему нужно было время, чтобы поверить: прозвучало именно то, на что он так надеялся.

— Карл Фристон, — сказала Ася. — Теория свободной энергии. Живые системы не ищут равновесия. Они активно сопротивляются равновесию, потому что равновесие для живого — это смерть. Они минимизируют свободную энергию — расхождение между тем, что они ожидают, и тем, что получают. Это байесовский вывод. Чистая математика. У Фристона это записано в форме байесовского вывода. Но байесовский вывод — это частный случай.

— Частный случай чего? — спросила Лиза. Она уже не считала в уме. Она смотрела на Асю с тем особым вниманием, которое появлялось у неё всегда, когда в разговоре возникала математическая глубина, обещающая выход за пределы известного.

— Частный случай более общего принципа, — сказала Ася. — Если сознание — это физический процесс, а не метафора, то у него должна быть физическая мера. Не биты. Не вероятности. Что-то, что можно измерить в джоулях или в единицах действия. Свободная энергия в статистической термодинамике — это мера того, насколько система далека от равновесия. Живое поддерживает неравновесность. Может быть, мышление — это тоже поддержание неравновесности, только в информационном пространстве.

Повисла пауза. Дождь за окном усилился. Холодильник загудел особенно громко, как будто хотел что-то добавить.

— Вот, — сказал Матвей, и его голос прозвучал почти торжественно, хотя он пытался говорить буднично. — Вот это и есть «Резонатор». Система, которая не вычисляет ответ. Она сходится к нему. Как жидкость находит уровень. Как маятник находит нижнюю точку. Потому что этого требует физика.

— Красиво, — сказал Илья. — И совершенно непонятно, как это реализовать в железе.

Это был не скепсис. Это была профессиональная деформация инженера, который привык думать о реальных вещах: теплоотвод, частота, погрешность. Матвей знал эту его манеру и не обижался.

— Я как раз к этому иду, — сказал он. — Смотри. Классическая нейросеть ищет минимум, карабкаясь вниз по склону. Пространство решений — это ландшафт с холмами и долинами, и обычный градиентный спуск — это слепой альпинист, который шагает туда, где круче склон, и надеется, что не застрянет в локальной яме. А теперь представь, что «Резонатор» — это шар, который катится по ландшафту, но при этом сам ландшафт меняется под его весом. Не метафорически — математически. Веса сети — это не фиксированные параметры, которые подгоняются под данные. Это вероятностные распределения, и они меняются не только в ответ на данные, но и в ответ на собственное состояние сети.

— Рекурсивная вероятностная архитектура, — сказала Лиза. — Ты хочешь встроить волновые функции прямо в веса.

— Да. Именно. Каждый вес — не число, а распределение. И система не вычисляет выход. Она ищет конфигурацию, при которой свободная энергия минимальна. Это не «верно» или «неверно». Это «насколько я удивлена тем, что вижу». И обучение — это не подгонка под правильные ответы. Это уменьшение удивления.

— Она будет галлюцинировать, — сказала Ася.

Все посмотрели на неё.

— Если система ищет минимум удивления, — пояснила она, — то самый глубокий минимум — это когда она вообще не смотрит на внешние данные, а генерирует свои собственные, внутренне непротиворечивые. Как сон. Сон — это состояние, в котором мозг минимизирует свободную энергию, отключив внешний вход. Он галлюцинирует реальность, которая его не удивляет. Ваш «Резонатор» может провалиться в тот же аттрактор.