本文整理自 QCon 北京 2026《卢亿雷 - DeepResearch XOpenClaw的实践路径与Token成本控制》通过Ai好记视频转文字整理以下为精炼整理后的会议笔记内容。这位主讲人长期从事 Infra 相关工作持续关注 AI 与编程领域。本次分享系统地拆解了一个真实落地的 DeepResearch 系统与 OpenClaw / Agent 框架结合内容涵盖行业现状、系统架构、设计理念并重点探讨了 Token 成本控制。对于从事 AI 应用工程的开发者而言其中关于 Token 成本优化的分析指出有 60% 到 80% 的优化空间提供了具体的工程思路和参考数据。行业现状为什么 DeepResearch 是必然趋势三个技术阶段DeepResearch 的出现反映了搜索技术向自动化、智能化研究的演进趋势。他用三个阶段来概括传统搜索阶段靠索引技术RAG 发展阶段靠向量检索与知识增强而多轮循环研究阶段则靠自主规划与报告输出。第三阶段的核心是目标函数驱动的实现逻辑。全流程自动化与核心价值DeepResearch 的核心价值之一在于其全流程自动化能力。用户不需要手动搜索、整理、归纳系统自动完成从「提问题」到「输出报告」的完整闭环。这正是它区别于传统搜索引擎的地方。主要竞争者分析当前赛道的竞争者已经很多谷歌 Gemini、OpenAI、Perplexity、Anthropic Claude、XAI Grok 都在做。各自有侧重Gemini 因为搜索引擎出身语言理解和路径规划能力强各家产品特色不同但行业普遍面临生成时间过长的挑战。他举例说明DeepResearch 类任务通常耗时较长影响用户体验。未来趋势与企业级实现趋势是从 Chat 向 Agent 演进成本逐步降低、更加民主化同时生态竞争加剧、差异化明显。企业级要实现 DeepResearch需要可配置的研究流程、多搜索源配置、多租户隔离、双模通信保障机制。DeepResearch 的四大核心难点他把工程难点总结为四点长任务稳定性研究过程可控性多租户配置复杂度多格式输出一致性这四点也是后面架构设计的落点。OpenClaw 与「龙虾」理念1、OpenClaw 的前身溯源OpenClaw 的前身是 Manus由华人发明这也是很多人没注意到的背景。它最大的创新点是把「通信方式」做了一次革命所有消息都通过 IM即时消息通道沟通用 Channel Adapters 实现分层隔离这让架构异常灵活发展速度也快。2、LLS 理念创新OpenClaw 背后还有一个 LLS 理念强调行业理解的重要性靠知识库和数据集支撑。他也坦诚demo 环境和生产环境之间往往隔着巨大的差距。3、WorkBuddy 实现要点与难点他分享了一个叫 WorkBuddy 的实现提炼出四个要点Skill 封装、多模型路由、消息通道适配、本地数据安全。同时也有四个难点长任务与消息通道冲突、多平台渲染差异、Token 消耗巨大、并发与隔离挑战。总体思路是避免重复造轮子把 DeepResearch 引擎和 LLM 查询结合起来。系统架构设计1、分层架构详解他展示了一个真实项目的分层架构图从上到下是模型层LLM Service 与模型部署、外部搜索服务层、核心服务层需求分析、研究规划、深度研究与报告生成、API 网关与鉴权层、客户端层Web 客户端 SSE 流式模式。2、模型训练与选择模型部分他谈到微调实践FT 与 LM 结合和模型规模选择的考量。强化学习成本很高PPO 模型计算开销大他提到用 RPO 策略来优化。搜索能力融合方面把 Engine 与模型融合既能降低计算成本又能提升效果。设计理念与四大原则1、三阶段设计理念设计上分三阶段数据分析、研究规划、深度研究与报告。关键理念包括意图识别与拒答判断明确告知模型不能做的场景这是提升性能的关键策略制定搜索策略很重要循环检索与报告输出目标函数驱动他戏称这是AI 解决 NP 问题的魅力。2、四大设计原则整场的架构灵魂是这四个原则。可配置性研究流程可自由配置可观测性进度可见、中间信息可输出多租户隔离账户级数据隔离、独立鉴权 Token双模通信轮询模式和SSE 流式通信两种模式。3、通信方案选型双通道是必要的轮询模式有它的应用场景流式模式则适合实时性要求高的场景。流式模式也有一些挑战比如客户端与服务端计费口径不一致、长时任务超时设置、网络架构需要优化还有浏览器兼容性问题不同浏览器对 EventSource API 支持不一样。4、增量内容输出与断点续传长任务需要一个增量内容输出机制他用断点续传实现把大文件切片再合并通过 block_id 文件编号做管理。这也是可观测性的落地让用户能看到研究进度的可视化。5、任务控制机制任务终止和拒答机制很重要他强调「及时止损」研究过程要能按意图和路径动态调整流程要最小化避免无意义的消耗。配置体系与平台化1、分层架构与 Prompt as Code配置体系延续分层思想模型层分规划模型与研究模型集成外部搜索服务层承担意图识别、需求澄清与研究规划客户端层则处理端到端交互时序。这里提出了一个很有价值的理念Prompt as Code。他用 CRM 系统举例通过自然语言生成应用JSON 信息交付规划确认后执行。2、搜索高可靠性的三层配置搜索可靠性是最关键的他用三层配置体系来实现默认配置、静态配置、参数调节配置让研究流程可定制。3、报告生成与 Token 管理报告输出后Token 管理与数据隔离也是重点每个租户有独立的鉴权 Token配合服务监控与配置保证平台化下的安全与稳定。Token 优化策略把成本当作核心工程问题1、Token 的价值认知他把 Token 的价值做了三重拆解数据价值、算力价值、算法价值并断言这是「兵家必争之地」类比电力和流量。成本构成分析则更复杂包括 Input 与 Output 成本、Embedding 与检索成本、Cache 机制还要对比不同模型的价格比如 Claude 模型的价格差异。2、成本优化的必要性为什么要重点管 Token因为 DeepResearch 的 Token 成本能占到总成本的 75%优化空间巨大。他举了一个 Agent 框架的例子月消耗 8000 到 10000 美元对比人力成本就会发现不优化不行。尤其要注意的是 Output 成本通常比 Input 更高所以控制 Output 是关键。3、六大优化方向他把优化策略归纳为六个方向。请求前优化包括语义缓存和 Prompt Cache在请求发出前就复用已有结果。模型路由让任务匹配适合的模型用小模型分流简单任务避免一上来就上昂贵的大模型。压缩与裁剪这个技术难度较高参考 Claude 压缩策略的变化配合 Memory 机制优化控制上下文体积。Output 精确控制优先采用短输出结构从源头减少输出 Token。研究轮次收敛用及时止损机制和信息增益阈值让研究在信息收益不再增加时主动停止避免无意义的重复检索。最后是对整体优化思路的总结请求前处理、模型性能提升、输出结果控制三管齐下。4、优化效果数据非常硬核他用真实数据证明了这套优化的有效性。模型路由上O3-mini 能降低 10 倍成本语义缓存用 Redis/LangCache 能降低 73%Prompt Cache 对重复前缀能降低 90%上下文压缩能降低 80% 成本综合起来这套方案整体有 60% 到 80% 的成本降低空间。这个数字本身就是这套工程方法论最好的说明。5、前沿技术介绍他还介绍了几个前沿方向。提示词压缩能带来 2 到 5 倍提升且无损质量GPT-4 解码器与小模型结合PT 策略模型混合策略能有 98% 的提升效果推测解码Draft Model 与 Target Model 结合的收益尤其突出通图量提升 100 到 110 倍、延迟降低 60%或通图量提升 300%、延迟降低 80%取决于配置。总结与展望他最后总结了几个关键要点双模通信保障机制轮询 SSE 流式结合三层配置灵活性默认、静态、参数配置开源框架集成OpenClaw 与 Agent框架Token 成本降低空间预期能到 100 倍他举例 Mooncake开源架构硬件软件架构都还有优化空间平台化多租户租户隔离与监控未来方向他看好多 Agent 协作超越 SaaS 的协作能力、Agent 通讯能力提升、LLMs 调度能力、AI 能力整合。整场分享的核心观点是在 AI 应用工程中Token 成本控制应作为架构设计阶段的重要考量因素。常见问题FAQQDeepResearch 和传统搜索、RAG 的区别是什么传统搜索靠索引RAG 加向量检索与知识增强DeepResearch 则是多轮循环研究能自主规划、目标函数驱动、直接输出报告实现「问题到报告」的全流程自动化。QOpenClaw 的核心创新点在哪通信方式的革命所有消息通过 IM 通道沟通用 Channel Adapters 实现分层隔离架构灵活、迭代快前身是华人发明的 Minus。Q系统架构怎么分层模型层、外部搜索服务层、核心服务层需求分析、研究规划、深度研究、API 网关鉴权层、客户端层Web SSE 流式层次清晰。Q四大设计原则是什么可配置性、可观测性、多租户隔离、双模通信轮询 SSE 流式这是 DeepResearch 稳定可靠的基础。QToken 优化能省多少钱真实数据是模型路由降 10 倍、语义缓存降 73%、Prompt Cache 降 90%、上下文压缩降 80%整体有 60% 到 80% 的成本降低空间。Q为什么输出 Token 更值得控制因为 Output 成本通常比 Input 更高控制 Output短输出结构、轮次收敛、及时止损是成本优化的关键杠杆。以上内容由 Ai好记 转录整理。Ai好记 是一款支持音视频转图文笔记的AI知识库工具支持解析B站、小红书、抖音、小宇宙等平台链接及本地音视频文件视频转文字后自动生成精华速览、思维导图和结构化图文笔记帮助你把几小时的视频内容变成可搜索、可复习的图文笔记。 DeepResearch落地实战：如何砍掉80%Token成本
本文整理自 QCon 北京 2026《卢亿雷 - DeepResearch XOpenClaw的实践路径与Token成本控制》通过Ai好记视频转文字整理以下为精炼整理后的会议笔记内容。这位主讲人长期从事 Infra 相关工作持续关注 AI 与编程领域。本次分享系统地拆解了一个真实落地的 DeepResearch 系统与 OpenClaw / Agent 框架结合内容涵盖行业现状、系统架构、设计理念并重点探讨了 Token 成本控制。对于从事 AI 应用工程的开发者而言其中关于 Token 成本优化的分析指出有 60% 到 80% 的优化空间提供了具体的工程思路和参考数据。行业现状为什么 DeepResearch 是必然趋势三个技术阶段DeepResearch 的出现反映了搜索技术向自动化、智能化研究的演进趋势。他用三个阶段来概括传统搜索阶段靠索引技术RAG 发展阶段靠向量检索与知识增强而多轮循环研究阶段则靠自主规划与报告输出。第三阶段的核心是目标函数驱动的实现逻辑。全流程自动化与核心价值DeepResearch 的核心价值之一在于其全流程自动化能力。用户不需要手动搜索、整理、归纳系统自动完成从「提问题」到「输出报告」的完整闭环。这正是它区别于传统搜索引擎的地方。主要竞争者分析当前赛道的竞争者已经很多谷歌 Gemini、OpenAI、Perplexity、Anthropic Claude、XAI Grok 都在做。各自有侧重Gemini 因为搜索引擎出身语言理解和路径规划能力强各家产品特色不同但行业普遍面临生成时间过长的挑战。他举例说明DeepResearch 类任务通常耗时较长影响用户体验。未来趋势与企业级实现趋势是从 Chat 向 Agent 演进成本逐步降低、更加民主化同时生态竞争加剧、差异化明显。企业级要实现 DeepResearch需要可配置的研究流程、多搜索源配置、多租户隔离、双模通信保障机制。DeepResearch 的四大核心难点他把工程难点总结为四点长任务稳定性研究过程可控性多租户配置复杂度多格式输出一致性这四点也是后面架构设计的落点。OpenClaw 与「龙虾」理念1、OpenClaw 的前身溯源OpenClaw 的前身是 Manus由华人发明这也是很多人没注意到的背景。它最大的创新点是把「通信方式」做了一次革命所有消息都通过 IM即时消息通道沟通用 Channel Adapters 实现分层隔离这让架构异常灵活发展速度也快。2、LLS 理念创新OpenClaw 背后还有一个 LLS 理念强调行业理解的重要性靠知识库和数据集支撑。他也坦诚demo 环境和生产环境之间往往隔着巨大的差距。3、WorkBuddy 实现要点与难点他分享了一个叫 WorkBuddy 的实现提炼出四个要点Skill 封装、多模型路由、消息通道适配、本地数据安全。同时也有四个难点长任务与消息通道冲突、多平台渲染差异、Token 消耗巨大、并发与隔离挑战。总体思路是避免重复造轮子把 DeepResearch 引擎和 LLM 查询结合起来。系统架构设计1、分层架构详解他展示了一个真实项目的分层架构图从上到下是模型层LLM Service 与模型部署、外部搜索服务层、核心服务层需求分析、研究规划、深度研究与报告生成、API 网关与鉴权层、客户端层Web 客户端 SSE 流式模式。2、模型训练与选择模型部分他谈到微调实践FT 与 LM 结合和模型规模选择的考量。强化学习成本很高PPO 模型计算开销大他提到用 RPO 策略来优化。搜索能力融合方面把 Engine 与模型融合既能降低计算成本又能提升效果。设计理念与四大原则1、三阶段设计理念设计上分三阶段数据分析、研究规划、深度研究与报告。关键理念包括意图识别与拒答判断明确告知模型不能做的场景这是提升性能的关键策略制定搜索策略很重要循环检索与报告输出目标函数驱动他戏称这是AI 解决 NP 问题的魅力。2、四大设计原则整场的架构灵魂是这四个原则。可配置性研究流程可自由配置可观测性进度可见、中间信息可输出多租户隔离账户级数据隔离、独立鉴权 Token双模通信轮询模式和SSE 流式通信两种模式。3、通信方案选型双通道是必要的轮询模式有它的应用场景流式模式则适合实时性要求高的场景。流式模式也有一些挑战比如客户端与服务端计费口径不一致、长时任务超时设置、网络架构需要优化还有浏览器兼容性问题不同浏览器对 EventSource API 支持不一样。4、增量内容输出与断点续传长任务需要一个增量内容输出机制他用断点续传实现把大文件切片再合并通过 block_id 文件编号做管理。这也是可观测性的落地让用户能看到研究进度的可视化。5、任务控制机制任务终止和拒答机制很重要他强调「及时止损」研究过程要能按意图和路径动态调整流程要最小化避免无意义的消耗。配置体系与平台化1、分层架构与 Prompt as Code配置体系延续分层思想模型层分规划模型与研究模型集成外部搜索服务层承担意图识别、需求澄清与研究规划客户端层则处理端到端交互时序。这里提出了一个很有价值的理念Prompt as Code。他用 CRM 系统举例通过自然语言生成应用JSON 信息交付规划确认后执行。2、搜索高可靠性的三层配置搜索可靠性是最关键的他用三层配置体系来实现默认配置、静态配置、参数调节配置让研究流程可定制。3、报告生成与 Token 管理报告输出后Token 管理与数据隔离也是重点每个租户有独立的鉴权 Token配合服务监控与配置保证平台化下的安全与稳定。Token 优化策略把成本当作核心工程问题1、Token 的价值认知他把 Token 的价值做了三重拆解数据价值、算力价值、算法价值并断言这是「兵家必争之地」类比电力和流量。成本构成分析则更复杂包括 Input 与 Output 成本、Embedding 与检索成本、Cache 机制还要对比不同模型的价格比如 Claude 模型的价格差异。2、成本优化的必要性为什么要重点管 Token因为 DeepResearch 的 Token 成本能占到总成本的 75%优化空间巨大。他举了一个 Agent 框架的例子月消耗 8000 到 10000 美元对比人力成本就会发现不优化不行。尤其要注意的是 Output 成本通常比 Input 更高所以控制 Output 是关键。3、六大优化方向他把优化策略归纳为六个方向。请求前优化包括语义缓存和 Prompt Cache在请求发出前就复用已有结果。模型路由让任务匹配适合的模型用小模型分流简单任务避免一上来就上昂贵的大模型。压缩与裁剪这个技术难度较高参考 Claude 压缩策略的变化配合 Memory 机制优化控制上下文体积。Output 精确控制优先采用短输出结构从源头减少输出 Token。研究轮次收敛用及时止损机制和信息增益阈值让研究在信息收益不再增加时主动停止避免无意义的重复检索。最后是对整体优化思路的总结请求前处理、模型性能提升、输出结果控制三管齐下。4、优化效果数据非常硬核他用真实数据证明了这套优化的有效性。模型路由上O3-mini 能降低 10 倍成本语义缓存用 Redis/LangCache 能降低 73%Prompt Cache 对重复前缀能降低 90%上下文压缩能降低 80% 成本综合起来这套方案整体有 60% 到 80% 的成本降低空间。这个数字本身就是这套工程方法论最好的说明。5、前沿技术介绍他还介绍了几个前沿方向。提示词压缩能带来 2 到 5 倍提升且无损质量GPT-4 解码器与小模型结合PT 策略模型混合策略能有 98% 的提升效果推测解码Draft Model 与 Target Model 结合的收益尤其突出通图量提升 100 到 110 倍、延迟降低 60%或通图量提升 300%、延迟降低 80%取决于配置。总结与展望他最后总结了几个关键要点双模通信保障机制轮询 SSE 流式结合三层配置灵活性默认、静态、参数配置开源框架集成OpenClaw 与 Agent框架Token 成本降低空间预期能到 100 倍他举例 Mooncake开源架构硬件软件架构都还有优化空间平台化多租户租户隔离与监控未来方向他看好多 Agent 协作超越 SaaS 的协作能力、Agent 通讯能力提升、LLMs 调度能力、AI 能力整合。整场分享的核心观点是在 AI 应用工程中Token 成本控制应作为架构设计阶段的重要考量因素。常见问题FAQQDeepResearch 和传统搜索、RAG 的区别是什么传统搜索靠索引RAG 加向量检索与知识增强DeepResearch 则是多轮循环研究能自主规划、目标函数驱动、直接输出报告实现「问题到报告」的全流程自动化。QOpenClaw 的核心创新点在哪通信方式的革命所有消息通过 IM 通道沟通用 Channel Adapters 实现分层隔离架构灵活、迭代快前身是华人发明的 Minus。Q系统架构怎么分层模型层、外部搜索服务层、核心服务层需求分析、研究规划、深度研究、API 网关鉴权层、客户端层Web SSE 流式层次清晰。Q四大设计原则是什么可配置性、可观测性、多租户隔离、双模通信轮询 SSE 流式这是 DeepResearch 稳定可靠的基础。QToken 优化能省多少钱真实数据是模型路由降 10 倍、语义缓存降 73%、Prompt Cache 降 90%、上下文压缩降 80%整体有 60% 到 80% 的成本降低空间。Q为什么输出 Token 更值得控制因为 Output 成本通常比 Input 更高控制 Output短输出结构、轮次收敛、及时止损是成本优化的关键杠杆。以上内容由 Ai好记 转录整理。Ai好记 是一款支持音视频转图文笔记的AI知识库工具支持解析B站、小红书、抖音、小宇宙等平台链接及本地音视频文件视频转文字后自动生成精华速览、思维导图和结构化图文笔记帮助你把几小时的视频内容变成可搜索、可复习的图文笔记。