ARTICLE DETAIL

资讯详情

深耕网站视觉设计与运营推广的一线实战洞察。

面试官:几百轮旧对话,Agent 怎么在几秒内接上?

面试官:几百轮旧对话,Agent 怎么在几秒内接上? 用户重新打开三天前的话题只说了一句“按上次定的方案继续。”聊天记录明明都在Agent 却反问“你指的是哪个方案”面试官追问“这个话题已经聊了几百轮。你准备把历史消息全部塞给模型”真正需要恢复的是目标、决定和待办还要记清哪些动作已经执行过。否则 Agent 可能不只接不上话还会把已经发过的邮件、退过的款再做一遍。一、先留一张能接班的交接单如果用户打开旧话题后系统才读取几百轮消息再调用模型临时总结历史越长恢复越慢。摘要一旦失败整个话题还接不上。更稳的做法是在对话进行过程中维护一张结构化“恢复交接单”json{goal:完成产品发布方案,decisions:[采用 B 方案,预算不超过 5 万元],pending:[补充风险清单],artifacts:[release-plan-v3.docx],actions:[发布邮件已发送],last_event_id:126,version:7}交接单在关键决定确认、工具执行完成或消息达到阈值后更新也可以放到后台整理。用户重新打开时系统直接读取现成状态不必临时跑一遍长文本总结。它会明确告诉 Agent目标是完成发布方案B 方案已经确定风险清单还没补发布邮件已经发出。比一句“之前讨论过发布方案”更能指导下一步。二、打开旧话题先找对它用户点开哪个话题系统就应通过稳定的话题编号找到哪个话题工程里通常叫thread_id或conversation_id。入口还要校验当前用户是否有访问权限以及读到的是不是最新版本。不能靠向量搜索猜。语义相似只说明两段内容“看起来像”无法证明它们属于同一个话题。两个项目都在讨论发布方案一旦选错轻则答非所问重则把其他用户或项目的信息带进来。长期记忆可以补充用户偏好但不能代替明确的话题定位。三、恢复包里放什么找到正确话题后首次请求只组装几类高信号信息。当前有效的系统规则、权限和工具定义放在前面。规则可能已经更新不能照搬三天前的旧配置。接着放恢复交接单让模型迅速知道目标、决定、进度和待办再保留最近几轮原始消息接住“上次那个”“按刚才说的”等指代。保留多少不必写死轮数可以按任务和 token 预算控制。完整聊天、文件和工具结果继续保留在底层。用户追问“为什么选 B”“预算原话是多少”时再按需回查证据。这样既没有丢掉历史也不用每次把整本聊天记录搬回模型。四、交接单后面的变化要补回来交接单可能更新到第 126 条消息但用户退出前又产生了第 127 到 130 条。恢复时如果只读交接单最后几轮仍会丢失。所以交接单要记录“我整理到了第几条”这就是事件游标。系统读取交接单后再把游标之后的少量新消息补进来就能得到当前状态。如果用户编辑或删除了关键消息旧交接单也要失效并重新整理。金额、承诺和工具结果仍以原始记录为准避免摘要把“建议采用”写成“已经决定”。五、最怕接上了却把动作再做一次假设发布邮件已经发送成功旧交接单却还写着“待发送”。Agent 恢复后再发一遍比忘记 B 方案严重得多。因此工具动作要区分待执行、执行中、已成功、已失败和状态不明。已经成功的邮件、退款、删除操作只读取结果状态不明时先去外部系统查询再决定是否重试。写操作最好再带一个唯一业务编号也就是幂等键。即使恢复流程触发两次外部系统也能认出这是同一次请求。测试时要故意覆盖交接单刚更新、落后几条消息、工具执行中断和关键消息被编辑等情况。既看恢复速度和首次请求 token 数也检查目标、决定和待办是否正确有没有串话题、重复发信或重复退款。面试官追问30 秒怎么答用户打开旧话题时我会先用稳定的话题 ID 定位并校验权限。对话过程中持续维护结构化交接单记录目标、决定、待办、产物、执行状态和整理到哪条消息。恢复时加载当前规则、交接单和最近几轮消息再补上交接单之后的增量完整聊天和工具结果只在核对细节时检索。已成功的动作不重放状态不明的先查询并用幂等键防止重复执行。真正的快不是打开时少读几条而是退出前已经为下一次接班准备好了。学AI大模型的正确顺序千万不要搞错了2026年AI风口已来各行各业的AI渗透肉眼可见超多公司要么转型做AI相关产品要么高薪挖AI技术人才机遇直接摆在眼前有往AI方向发展或者本身有后端编程基础的朋友直接冲AI大模型应用开发转岗超合适就算暂时不打算转岗了解大模型、RAG、Prompt、Agent这些热门概念能上手做简单项目也绝对是求职加分王给大家整理了超全最新的AI大模型应用开发学习清单和资料手把手帮你快速入门学习路线:✅大模型基础认知—大模型核心原理、发展历程、主流模型GPT、文心一言等特点解析✅核心技术模块—RAG检索增强生成、Prompt工程实战、Agent智能体开发逻辑✅开发基础能力—Python进阶、API接口调用、大模型开发框架LangChain等实操✅应用场景开发—智能问答系统、企业知识库、AIGC内容生成工具、行业定制化大模型应用✅项目落地流程—需求拆解、技术选型、模型调优、测试上线、运维迭代✅面试求职冲刺—岗位JD解析、简历AI项目包装、高频面试题汇总、模拟面经以上6大模块看似清晰好上手实则每个部分都有扎实的核心内容需要吃透我把大模型的学习全流程已经整理好了抓住AI时代风口轻松解锁职业新可能希望大家都能把握机遇实现薪资/职业跃迁这份完整版的大模型 AI 学习资料已经上传CSDN朋友们如果需要可以微信扫描下方CSDN官方认证二维码免费领取【保证100%免费】
返回列表