任务形状不对称下的Agent成本真相 Fable 5与Sonnet 5混合策略实测

在构建生产级AI Agent系统时工程师们最常遇到的痛点是长时迭代任务或大规模信息处理场景下token成本像失控的滚雪球。无论是自动化ML实验调优还是多约束条件的网页研究默认把最强模型Claude Fable 5扔到每一个token上似乎最保险却往往导致支出远超预期而性能提升却边际递减。以Parameter Golf为例。这是一个类似Karpathy autoresearch的ML工程挑战Agent必须持续编辑训练代码、启动训练、观察结果并决定下一步实验方向最终目标是在8xH100上10分钟内产出最佳的16MB模型。起初用Fable 5全程solo效果出色但成本高昂。后来尝试让Fable 5仅负责实验设计与关键节点顾问Sonnet 5承担具体实现token。结果显示混合方案保留了约90%的性能改进仅消耗约34%的token成本。起初我以为只要 upfront 让Fable 5做一次规划就够了但实验数据揭示价值主要来自分散在过程中的顾问检查点。Sonnet 5容易陷入局部 hill-climbing对边际增益过度优化却缺乏全局重排序能力。而Fable 5在固定检查点提供的steering和re-prioritization才真正把探索方向拉回更优路径。这背后其实很简单——任务的形状决定了智能需求的分布。这就像盖一栋房子。结构设计、承重计算和关键节点验收必须由资深建筑师Fable 5把关而大量的砖块砌筑、管线铺设和日常施工则完全可以交给熟练的施工队Sonnet 5。如果项目只有几间小屋频繁的图纸交接、现场协调和返工反而让总成本更高不如建筑师自己全程操刀。另一个类比是长途自驾。复杂路口、恶劣天气和决策节点需要经验丰富的司机Fable 5亲自掌控方向而漫长的平直高速路段则可以交给辅助驾驶或低成本司机Sonnet 5。切换司机的“过路费”只有在路程足够长时才能被摊薄。Parameter Golf实验为什么分散顾问检查点优于 upfront 规划在具体实现中Sonnet 5执行器被允许在初始规划阶段和后续2个检查点主动咨询Fable 5。实验结果清晰显示单纯 upfront advising的贡献有限真正拉动性能的是过程中散布的判断点。因为这类探索性任务的每一次实验结果都会重塑“接下来值得尝试什么”。判断需求是分散的而非集中在前置。这也解释了为什么单纯的“难度分类器”在回测中几乎随机——任务难度肉眼可见但“哪个模型能在这个具体任务上存活”却不可预测。因此升级路径必须是结构化的固定检查点、阶段边界、拥有完整上下文的lead路由而非让弱模型自己判断“现在该叫强模型了”。BrowseComp的规模效应协调税何时被工作量摊薄另一个典型场景是BrowseComp——一个多约束网页搜索评测。Agent需要规划、搜索、打开页面、交叉验证直到满足所有约束条件锁定唯一答案。在简单子集每个问题约0.37M token阅读量上Fable 5 solo反而比混合方案更便宜。编排带来的协调开销约60% markup完全抵消了廉价worker的节省。但在完整评测集每个问题约31M token阅读量上Fable 5作为orchestrator Sonnet 5 workers的混合方案达到了solo Fable 5 96%的分数仅消耗46%的成本。核心差异在于“工作量是否足够大能覆盖协调税”。协调税主要由两部分组成边界重复计费每一次模型间交接lead写的brief worker读brief worker写的report lead读report这些token在solo运行中根本不存在至少被计费两次。Fan-out重叠多个worker并行工作时经常出现部分研究路径重复额外消耗token。只有当移交给廉价worker的工作量足够大速率折扣才能跑赢这笔固定摩擦成本。实测显示 crossover 大约在每个问题1-4M token阅读量附近。小任务的worker往往85%时间在做“边界机械”大任务则能达到87%真实任务执行。构建有效委托的四个诊断原则基于以上实测成本敏感的Agent Harness设计可遵循以下框架判断需内化到具体任务形状先诊断任务形状判断智能需求在整个token序列中的分布是集中 upfront/结尾还是分散在过程中。判断分散的任务适合“Fable 5顾问 廉价执行器”判断集中或需要最终验证的任务适合“Fable 5编排器/验证器”。委托启发式判断与执行 inseparable 的工作让 frontier 模型 solo。验证本身也是判断grader必须用强模型。弱模型永远不该拥有“决定自己何时需要帮助”的权力。确保工作量跑赢边界税每次交接的重复计费是硬成本。审计第一轮运行后的“工作token vs 边界token”比例。如果倒挂说明任务太小任何prompt都救不回来。管道细节决定成败缓存读取仅为标价的10%左右但静默配置错误会让重读价格上涨10倍。保持lead warm、报告节奏在缓存TTL内、验证实际使用的模型版本、用tool shape而非纯文本信号角色……这些“管道”问题一旦出错会悄无声息地吞掉所有理论节省。# 简化的 Advisor 模式 Harness 核心逻辑伪代码示例defrun_iterative_task(initial_plan,strategic_checkpoints):executorSonnet5Executor()# 廉价执行器advisorFable5Advisor()# Frontier 顾问仅在需要时调用current_planinitial_plan# 初始咨询可选实验显示非主要收益来源# current_plan advisor.consult(current_plan)forphaseinrange(total_phases):resultsexecutor.execute(current_plan,phasephase)ifphaseinstrategic_checkpoints:# 关键分散判断点提供 steeringfeedbackadvisor.consult(results,current_plan)current_planfeedback.reprioritized_plan# 重排序而非局部优化执行环境Fable 5 顾问Sonnet 5 执行器执行环境Fable 5 顾问Sonnet 5 执行器alt[战略检查点]loop[实验迭代]执行当前计划返回结果与指标结果 当前计划咨询steering 建议 重排序管道实现细节如何吞掉或放大节省缓存策略、worker持久化、共享前缀的字节级一致性、served model 版本验证……这些看似琐碎的工程问题往往比prompt工程更决定最终ROI。一次静默的模型降级或缓存失效导致的重复写入就能把理论上的46%成本优势彻底抹平。在生产环境中落地混合策略前必须做的三件事是先在一个代表性任务上完整审计 token 分布与判断点分布小规模跑通混合流程并精确测量 boundary tax ratio固化结构化升级路径检查点/阶段边界而非依赖模型自评估。这些洞察源于 Anthropic 工程师 Lance Martin 基于 Fable 5 与 Sonnet 5 的真实测试数据。任务形状分析不是玄学而是可量化的工程决策框架。在多模型并存的时代真正的高手不是“谁最强就全用谁”而是能精准识别智能需求分布、把 frontier intelligence 放在最能产生杠杆的位置。你的Agent workflow里哪些部分最需要 Fable 5 级别的判断是 scattered 的探索节点还是集中的验证与规划欢迎在评论区分享你遇到的具体任务形状我们一起拆解。我是紫微AI在做一个「人格操作系统ZPF」。后面会持续分享AI Agent和系统实验。感兴趣可以关注我们下期见。