🎯 今日核心问题
- 多 Agent 的真实成本倍数是多少?为什么不是「几个 Agent 就是几倍」?
- 有没有一个公式,能把「值不值」算成一个数,而不是靠感觉?
- 预算有限时,该砍哪一个 Agent,怎么砍不伤质量?
📖 精读提纲
【一】成本不是线性放大,是超线性
很多人按「3 个 Agent = 3 倍」做预算,实测往往是 4-6 倍。多出来的部分来自四个地方:重复的固定开销——每个子 Agent 都要带一遍系统提示、能力卡、工具描述,这块钱按 Agent 数乘,不按任务复杂度;上下文重复传递——同一个上游结果被两个下游各读一遍;重试放大——多 Agent 系统的失败率是各节点失败率的联合,重试一次往往要整段重跑;协调开销——Supervisor 的每一轮决策、仲裁的每一次判定,都是纯管理成本,不直接产出内容。
所以做预算的正确姿势是:先按实测放大系数估,再设硬上限,而不是按 Agent 数量乘。
【二】一个能算的性价比公式
把质量折算成钱,才能和成本比。设单 Agent 的质量为 q0、每次成本为 c0,多 Agent 的质量为 q1、成本为 c1,每个质量点的业务价值为 v(可以用「错误一单的赔付额 × 避免概率」估出来)。净收益为:
Net = (q1 − q0) × v − (c1 − c0)
举例:合同审查,单 Agent 风险召回 61%,多 Agent 84%,漏掉一条重大风险的期望损失约 800 元,单次成本从 0.9 元涨到 1.4 元。则每单净收益 = 0.23 × 800 − 0.5 ≈ 183 元。这种场景怎么加 Agent 都是赚的。反过来,一份周报摘要,质量从 78 分到 82 分对业务几乎无影响,v 接近 0,那 0.5 元的增量就是纯亏。
三个判断阈值,记住就够用:质量提升 小于 5 个百分点,不值得;成本放大 超过 1.5 倍且质量提升不到 10 个百分点,不值得;人工复核成本因多 Agent 上升,直接判负——这意味着系统把工作量转移给了人,是最坏的一种「优化」。
【三】把成本压回 1.5 倍以内的五个手段
- 模型分级:Supervisor 用强模型做决策(轮数少),专家用中等模型执行(token 多)。这一项通常省 40-60%。
- 能力卡瘦身:固定开销乘以 Agent 数,是性价比最高的一刀。把系统提示从 1500 token 压到 500,3 个 Agent 一次就省 3000 token。
- 结果缓存:幂等 key 命中直接返回,重复任务(同一份合同的复审)成本趋近于零。
- 早停:置信度足够高就收工,不要「为了严谨」把所有 Agent 都跑一遍。把并行扇出改成条件扇出。
- 按需仲裁:只在 L3 才调裁判,且裁判用便宜模型 + 结构化输出,避免长篇推理。
【四】什么时候该直接判死刑
出现下面任一情况,别优化了,退回单 Agent:并行扇出超过 5 路且质量提升不足 5 个百分点;单任务平均成本超过业务单笔毛利的 1%;调优两周后放大系数仍高于 3 倍;团队里没人能解释「这个结论是哪个 Agent 给的」。最后一条最致命——无法解释的系统在线上出问题时,你连回滚都不知道回滚哪一段。
💻 代码示例
成本核算 + 预算熔断,挂在 Supervisor 外面,不侵入调度逻辑。
@Service
@RequiredArgsConstructor
@Slf4j
public class AgentCostGuard {
private final MeterRegistry meter; // Micrometer
/** 单次调用的价格表(元 / 1K token),按模型分组 */
private static final Map<String, double[]> PRICE = Map.of(
"gpt-4.1", new double[]{0.018, 0.072},
"gpt-4.1-mini", new double[]{0.003, 0.012},
"qwen-plus", new double[]{0.0008, 0.002});
public record Usage(int in, int out, String model) { }
public double cost(Usage u) {
double[] p = PRICE.getOrDefault(u.model(), new double[]{0.01, 0.03});
return u.in() / 1000.0 * p[0] + u.out() / 1000.0 * p[1];
}
/**
* @param q0 单 Agent 质量(0-1)
* @param q1 多 Agent 质量
* @param unitLoss 单次质量问题造成的期望损失(元)
* @param singleCost 单 Agent 平均成本
* @param multiCost 多 Agent 平均成本
*/
public Economics economics(double q0, double q1, double unitLoss,
double singleCost, double multiCost) {
double net = (q1 - q0) * unitLoss - (multiCost - singleCost);
double inflation = singleCost == 0 ? Double.MAX_VALUE : multiCost / singleCost;
boolean verdict = net > 0
&& (q1 - q0) >= 0.05
&& inflation <= 1.5 || (q1 - q0) >= 0.10 && inflation <= 3.0;
return new Economics(net, inflation, q1 - q0, verdict);
}
/** 预算熔断:在每次 LLM 调用前检查,超了就抛,由上层转降级 */
public void beforeCall(String taskId, double budgetYuan, AtomicReference<Double> spent,
Usage projected) {
double next = spent.get() + cost(projected);
if (next > budgetYuan) {
meter.counter("agent.budget.exceeded").increment();
throw new BudgetExceededException(taskId, spent.get(), budgetYuan);
}
spent.set(next);
}
public record Economics(double netYuan, double inflation,
double qualityGain, boolean worthIt) { }
}
/** 模型分级路由:决策用强模型,执行用便宜模型 */
@Component
public class ModelRouter {
private final Map<String, ChatModel> models;
public ChatModel forRole(AgentRole role) {
return switch (role) {
case SUPERVISOR, JUDGE -> models.get("gpt-4.1");
case SPECIALIST, SUMMARIZER -> models.get("qwen-plus");
};
}
public enum AgentRole { SUPERVISOR, JUDGE, SPECIALIST, SUMMARIZER }
}
economics 里的判定刻意分成两档:常规要求「质量提升 ≥5 个点且放大 ≤1.5 倍」,高风险场景放宽到「≥10 个点且 ≤3 倍」。两档之外一律不通过——这个函数应该被写进你的 Agent 评审模板,每次上线前填四个数。
✏️ 今日动手
用 D3 的 Supervisor 系统实测一次完整任务:① 记录每个 Agent 的输入/输出 token 与所用模型,算出总成本;② 用同一个任务跑单 Agent 版本,算出放大系数与质量差;③ 填进 economics 算出 netYuan,判断是否 worthIt;④ 然后把 ModelRouter 打开(专家换便宜模型),重跑一遍,记录成本下降了多少、质量有没有掉。这个前后对比表就是你简历上「成本优化」那一行的证据。
🔖 明日预告
明天把本周所有零件装成一台机器:Supervisor 调度、Writer 生产、Reviewer 审核、仲裁兜底、成本熔断。要交付的是一套能跑真实任务的完整三 Agent 系统,以及本周回顾表。