AI大厂面试200问-第三章

三、记忆系统（Q16–Q21）Q16：Agent 记忆系统的分层架构如何设计？面试官：「Agent 的记忆系统是面试必考题。你怎么设计一个生产级的 Agent 记忆架构？」高分回答：「记忆系统我按四层设计——比常见的三层多了一层『认知记忆』。」Layer 0 — 工作记忆（Working Memory）。就是当前上下文窗口里的一切——System Prompt、历史消息、工具返回结果。存储介质是 LLM 的注意力机制本身，生命周期是单次推理。管理的核心问题是窗口装不下——我们用了『滑动窗口 + 渐进摘要』策略：最近 8 轮保留完整消息，更早的用一个小模型压缩成 200 字摘要。这里有个坑——摘要会丢失细节，所以涉及关键决策步骤的消息要标记为『不可压缩』，强制保留原文。Layer 1 — 短期记忆（Short-Term Memory）。会话级别的状态存储，跨多轮对话但不超过一个会话。用 Redis 存，TTL 通常 24 小时。存什么？用户在这段对话中的偏好、临时上下文（比如『我在看 2024 年 11 月的数据』）、中间计算结果。读写延迟要求 5ms，因为每次 LLM 调用前都可能要检索。Layer 2 — 长期记忆（Long-Term Memory）。跨会话持久化的知识。分两个子层——语义记忆（向量数据库，存用户偏好、知识片段、事实信息）和情节记忆（P