Agent Memory 到底是什么？为什么长期记忆正在成为 AI 的第二大脑

网罗开发小红书、快手、视频号同名大家好我是展菲目前在上市企业从事人工智能项目研发管理工作平时热衷于分享各种编程领域的软硬技能知识以及前沿技术包括iOS、前端、Harmony OS、Java、Python等方向。在移动端开发、鸿蒙开发、物联网、嵌入式、云原生、开源等领域有深厚造诣。图书作者《ESP32-C3 物联网工程开发实战》图书作者《SwiftUI 入门进阶与实战》超级个体COC上海社区主理人特约讲师大学讲师谷歌亚马逊分享嘉宾科技博主华为HDE/HDG我的博客内容涵盖广泛主要分享技术教程、Bug解决方案、开发工具使用、前沿科技资讯、产品评测与使用体验。我特别关注云服务产品评测、AI 产品对比、开发板性能测试以及技术报告同时也会提供产品优缺点分析、横向对比并分享技术沙龙与行业大会的参会体验。我的目标是为读者提供有深度、有实用价值的技术洞察与分析。展菲您的前沿技术领航员 大家好我是展菲 全网搜索“展菲”即可纵览我在各大平台的知识足迹。每周定时推送干货满满的技术长文从新兴框架的剖析到运维实战的复盘助您技术进阶之路畅通无阻。文章目录引言一、Memory 不等于 Context二、人类记忆如何启发 Agent Memory三、长期记忆到底存什么用户画像项目知识行为经验四、Memory 为什么不能全部放进 Prompt五、Memory 不只是数据库更像知识网络六、Memory 正在成为 Agent 的第二大脑七、未来 Agent 拼的不只是模型而是 Memory System总结引言过去几年大模型最大的特点就是会思考但不会记忆。每次打开一个新的聊天窗口AI 都需要重新认识你。例如今天 帮我制定一个减肥计划。第二天昨天我们聊到哪里了很多模型已经不知道了。即使在同一个对话中当上下文越来越长早期的信息也可能因为 Context Window 的限制而被丢弃。因此大模型一直存在一个天然缺陷能推理能生成能规划但是不能像人一样长期积累经验。然而当 AI 从 ChatBot 演进到 Agent 后这个问题变得越来越严重。因为 Agent 执行的已经不再是几分钟内完成的聊天而是持续几小时的数据分析持续几天的软件开发持续几个月的项目协作持续几年的个人助手服务。没有长期记忆这些任务几乎无法完成。于是Agent Memory 开始成为 AI Infra 中最重要的组成部分之一。一、Memory 不等于 Context很多开发者第一次接触 Agent 时都会认为Prompt 足够长不就等于有记忆了吗事实上这是两个完全不同的概念。Context 是模型当前能够看到的信息。例如用户问题 历史聊天 工具返回结果这些内容都会随着 Prompt 一起送入模型。而 Memory 则不同它更像一个独立存在的数据系统。例如用户偏好 项目资料 历史任务 知识库 长期经验这些数据并不会一直放进 Prompt。只有真正需要的时候Runtime 才会主动检索并加入当前上下文。因此Context 是短期工作区而 Memory 是长期知识库。这也是为什么越来越多 Agent 框架都会把 Context Engine 和 Memory Engine 分开设计。二、人类记忆如何启发 Agent Memory如果观察人类的大脑会发现记忆并不是一个统一的系统。例如短时间内记住一个电话号码和十年前学会骑自行车其实使用的是不同的记忆机制Agent Memory 也越来越采用类似设计。通常可以分为三个层次Working Memory工作记忆 ↓ Short-Term Memory短期记忆 ↓ Long-Term Memory长期记忆其中Working Memory保存当前任务需要的信息例如当前 Prompt、Tool 返回结果和中间推理过程。Short-Term Memory保存当前会话中的历史内容支持连续对话和多轮推理。Long-Term Memory则负责长期保存用户偏好、历史经验、项目知识等内容。这种分层设计可以在降低 Token 消耗的同时提高记忆利用率。三、长期记忆到底存什么很多人认为长期记忆就是聊天记录实际上远远不止。一个成熟的 Agent Memory 通常会保存用户画像例如常用语言工作岗位写作风格常用工具偏好的输出格式。这些信息可以帮助 Agent 持续提供更加符合用户习惯的结果。项目知识例如项目名称 技术栈 接口文档 数据库结构 历史会议记录当用户再次进入项目时Agent 不需要重新学习。行为经验例如用户经常修改 PPT 字体 ↓ 以后默认使用相同模板或者用户写 Java ↓ 优先推荐 Maven 而不是 Gradle这种经验并不是用户主动输入而是在长期协作中逐渐形成。因此真正优秀的 Agent不只是回答问题而是在不断学习用户。四、Memory 为什么不能全部放进 Prompt很多人会想到既然 Memory 很重要为什么不全部放进 Prompt答案很简单成本太高。假设用户已经使用 Agent 半年。聊天记录达到300 万 Token如果每次推理都重新发送这些内容不仅成本极高推理速度也会大幅下降。因此目前主流方案都是Memory ↓ Retriever ↓ Top K ↓ Prompt也就是说Runtime 会先根据当前任务检索最相关的 Memory。然后只把最有价值的信息放入 Prompt。这种模式就是今天 RAGRetrieval-Augmented Generation的核心思想。五、Memory 不只是数据库更像知识网络过去很多 Agent Memory 都采用Key ↓ Value或者Vector Database随着 Agent 越来越复杂这种方式开始暴露问题。例如用户继续昨天的项目。昨天到底指哪个项目如果没有关系信息。仅靠向量相似度很难准确判断。因此越来越多团队开始研究Memory Graph。例如用户 ↓ 项目A ↓ 数据库设计 ↓ 订单模块 ↓ 支付接口不同知识之间建立关联Agent 可以沿着关系不断检索。相比传统向量搜索这种方式更加符合人类的联想记忆。因此未来 Agent Memory 将从知识存储演变为知识网络。六、Memory 正在成为 Agent 的第二大脑过去大模型主要依赖参数学习。模型训练完成后知识基本固定。如果增加新的知识通常需要微调再训练更新模型。成本极高而 Memory 完全不同今天新增的数据明天就可以被 Agent 使用。因此模型负责推理Memory 负责成长两者共同组成完整的智能系统。如果把 AI 比作人类LLM 是大脑Tool 是双手Runtime 是神经系统Memory 就是长期记忆。没有 MemoryAgent 永远停留在第一次见面有了 Memory。Agent 才真正开始拥有持续成长的能力。七、未来 Agent 拼的不只是模型而是 Memory System未来几年Memory 很可能成为 AI Infra 中增长最快的方向之一。因为随着 Agent 数量增加系统需要管理的不再只是模型。还有用户长期偏好企业知识库多 Agent 共享记忆项目历史状态工作流上下文多模态内容。因此一个完整的 Agent Memory System往往包括Memory Store ↓ Retriever ↓ Embedding ↓ Vector Database ↓ Knowledge Graph ↓ Context EngineMemory 不再只是一个数据库而是连接模型、知识和用户的重要桥梁。未来优秀的 Agent很可能不是拥有最大的模型而是拥有最完善的 Memory System。总结过去大模型最大的限制之一就是不会记忆。每一次对话都像重新开始每一次任务都需要重新理解背景。而 Agent 的出现让 Memory 从一个可选能力变成了基础能力。Context 负责当前任务Memory 负责长期成长Runtime 负责统一调度LLM 负责推理决策。四者共同组成现代 Agent 的核心架构。未来 AI 的竞争将不仅是模型参数的竞争更是 Memory System 的竞争。谁能让 AI 更好地积累知识、理解用户、复用经验谁就能构建真正长期可持续的智能体。