Ранас Мукминов – Оркестрация ИИ-агентов. Claude Opus 4.7 (страница 17)
чтобы сойтись (дебаты, голосование с пересмотром, итеративное слияние), то налог
умножается на число раундов. Раунды опасны тем, что их число заранее неизвестно и
в патологических случаях не ограничено — рой может колебаться, не сходясь (см.
главу 66 о сходимости и главу 74 о livelock). Поэтому всякий механизм согласования
должен иметь явный потолок раундов: это превращает потенциально неограниченную
статью в ограниченную.
Четвёртый механизм роста относится не к токенам, а ко времени, и его легко
упустить, считая налог только в деньгах. Синхронная координация связывает
расписания агентов: точка fan-in блокируется, пока не завершится самый медленный
из воркеров, чьи результаты сливаются. Латентность параллельной фазы определяется
не средним временем воркера, а максимумом — хвостом распределения. Чем больше
воркеров, тем выше вероятность, что хотя бы один окажется в медленном хвосте, и
тем дальше максимум уходит от среднего. Это означает, что налог на латентность
растёт с числом агентов даже тогда, когда токенный налог остаётся под контролем:
добавление воркеров увеличивает шанс наткнуться на медленный хвост и отодвигает
момент сборки.
Связанность расписаний — отдельная статья и потому, что она ограничивает
параллелизм структурно. Если агент B не может начать, пока не закончил A, их
работа сериализована, какой бы мощной ни была инфраструктура. Синхронные барьеры,
кворумы и точки сбора — всё это места, где параллелизм схлопывается в
последовательность, и каждое такое место есть вклад в последовательную долю
работы по закону Амдала (см. главу 56). Асинхронная координация (см. главу 24)
ослабляет эту статью, развязывая расписания ценой роста сложности и ослабления
гарантий порядка. Выбор между синхронным и асинхронным стыком — это, среди
прочего, выбор того, платить налог временем ожидания или сложностью протокола.
Стоит отдельно отметить компоненты, которые часто считают бесплатными, а они
таковыми не являются:
— Системные промпты. Повторяются при каждом вызове каждого агента. На рое из
десятков агентов с длинными промптами это заметная постоянная статья, частично
снимаемая кэшированием промптов (см. главу 59), но не до нуля.
— Наблюдаемость. Трассировка роя (см. главу 77) — это собственный поток данных,
растущий с числом агентов и сообщений. Налог на observability реален, хотя и
оправдан.
— Сборщик. Его контекст растёт с числом частей, и на большом веере именно
сборка, а не исполнение, становится узким местом.
Координационный налог нельзя оценить в абсолюте — только в сравнении. Сравнивать
надо с тем, что было бы без оркестрации вовсе. Поэтому центральный инструмент этой
главы — baseline: измеренная стоимость и качество решения задачи одним достаточно
способным агентом. Без этого эталона любые рассуждения о выгоде роя
беспредметны.
Распространённая ошибка проектирования — оценивать рой сам по себе: «система из
пяти агентов решает задачу за столько-то токенов и с таким-то качеством». Это
число ничего не говорит, пока не известно, во что та же задача обходится одному
агенту. Рой может решать задачу «хорошо» и при этом быть строго хуже одного агента
по всем осям сразу — дороже, медленнее и не точнее. Без baseline такая система
выглядит успешной и проходит в production, унося с собой постоянный
неоправданный налог.
Baseline — это нулевая гипотеза оркестрации: по умолчанию рой не нужен. Бремя
доказательства лежит на рое: он обязан показать преимущество над одним агентом,
превышающее уплаченный налог. Эта установка прямо продолжает критерий главы 4 и
даёт ему измеримую форму.
Baseline бесполезен, если он построен против слабого соперника. Типичная
методологическая ошибка — сравнивать рой с заведомо ущербным одиночным агентом:
взять для baseline более слабую или дешёвую модель, дать ей меньше попыток, лишить
инструментов, которые есть у роя. Такой baseline искусственно занижен, и рой
«выигрывает» только потому, что одиночке связали руки.
Корректный baseline строится по принципу равных условий:
— Сильнейшая разумная модель в роли одиночки. Если рой собран из дешёвых
моделей, честный baseline — не такая же дешёвая модель в одиночку, а лучшая
модель, доступная по сопоставимому бюджету. Часто оказывается, что один сильный
агент дешевле и лучше роя слабых.
— Равный бюджет на попытки. Если рой делает несколько параллельных попыток и
выбирает лучшую (см. главу 36 о спекулятивном исполнении), baseline должен иметь
право на столько же последовательных попыток. Иначе сравнивается не «рой против
одиночки», а «много попыток против одной».