Ранас Мукминов – Оркестрация ИИ-агентов. Claude Opus 4.7 (страница 18)

— Равный доступ к инструментам и контексту. Одиночному агенту даётся тот же

набор инструментов и тот же объём контекста, что доступны рою суммарно, в

пределах его окна.

— Те же критерии качества. Качество результата меряется одной и той же

процедурой для роя и для одиночки, желательно слепой к тому, что именно

оценивается.

Baseline и рой сравниваются не по одной оси, а по матрице. Сведение к единому

числу преждевременно: разные задачи по-разному взвешивают оси.

Ось | Что меряем | Единица

Стоимость | Полные токены на задачу (вкл. координацию) | Токены, деньги

Латентность | Время от запроса до готового результата | Время (медиана и хвост)

Качество | Доля корректных/принятых результатов | Доля, балл по рубрике

Надёжность | Доля успешных запусков без вмешательства | Доля

Сложность | Объём кода и число точек отказа | Качественно

Рой оправдан, только если он выигрывает по той оси, ради которой его строили,

с запасом, превышающим проигрыш по остальным осям и уплаченный налог. Если рой

строили ради скорости, он обязан быть ощутимо быстрее одиночки; если выигрыш в

скорости съедается ростом стоимости и падением надёжности, оркестрация не

оправдана, как бы ни был красив рой архитектурно.

Из baseline выводится главная сводная метрика этой главы — доля координации в

полной стоимости. Определим её как отношение координационной работы к полной

работе системы. Эквивалентно: единица минус отношение полезной работы к полной.

coordination_overhead = coordination_work / total_work

= 1 − useful_work / total_work

Где useful_work оценивается через baseline: это та работа, которую на ту же

задачу потратил бы один агент. Если рой потратил вдвое больше токенов, чем

baseline, при том же результате, его coordination_overhead порядка 0,5 — половина

бюджета ушла в налог. Эта метрика не требует точного разделения каждого токена на

«полезный» и «координационный»; она требует лишь честного baseline. Она

наблюдаема в production (см. главу 79 о метриках роя) и служит первым сигналом,

что налог вышел из-под контроля.

Полезно держать в голове грубые ориентиры (иллюстративные, порядок величины).

Накладные расходы в районе десятков процентов — нормальная плата за оправданный

параллелизм. Накладные расходы, при которых на координацию уходит больше, чем на

полезную работу (overhead заметно выше половины), — сигнал, что либо задача плохо

декомпозирована, либо она вообще не требовала роя. Эти границы не абсолютны, но

смещение метрики во времени важнее её мгновенного значения: растущий overhead при

неизменной задаче означает деградацию архитектуры.

Чтобы из абстрактных статей сложить конкретную сумму, проследим, как считается

налог для одной задачи. Все числа ниже — иллюстративные, приведены как порядок

величины и служат только для демонстрации метода учёта, а не как измеренный

бенчмарк.

Пусть задача — обработать большой массив однородных элементов: например,

проанализировать набор документов и свести результаты в один отчёт. Сначала

строим baseline. Один сильный агент с достаточным окном проходит элементы

последовательно и собирает отчёт; пусть на это уходит порядка некоторого объёма

токенов B и времени T. Это и есть useful_work — работа, неотделимая от

самой задачи: документы всё равно надо прочитать, выводы всё равно надо

сформулировать.

Теперь рассмотрим веерную топологию: оркестратор делит массив между несколькими

воркерами, каждый обрабатывает свою долю, сборщик сводит. Полезная работа в

сумме по воркерам остаётся порядка B — документы те же, и читать их меньше не

стало. Поверх неё ложится налог. Декомпозиция: оркестратор тратит токены на

деление массива и постановку заданий. Handoff на вход: каждому воркеру передаётся

его доля плюс общий контекст задачи (формат отчёта, критерии). Протокол:

системный промпт воркера повторяется столько раз, сколько воркеров. Сборка:

сборщик принимает на вход результаты всех воркеров сразу и сводит их — это самый

объёмный единичный контекст во всём прогоне. Согласования в чистом веере почти

нет, потому что доли не пересекаются (share-nothing разбиение), и в этом

достоинство топологии.

Сложим. Полная стоимость роя есть полезная работа порядка B плюс сумма статей

налога. Если налог в сумме составил порядка 0,4·B, то полная стоимость порядка

1,4·B, а coordination_overhead порядка 0,4 / 1,4, то есть примерно тридцать

процентов бюджета ушло в координацию. Окупается ли это, зависит от выигрыша по

целевой оси. Если рой строили ради латентности, то выигрыш реален: пять воркеров