AI 最核心的 15 个概念

文章目录总体理解一、模型基础1. LLM大语言模型2. Token模型处理文字的基本单位3. Embedding把语义变成数字二、输入与上下文4. Prompt告诉模型要做什么5. Context模型当前能看到的信息6. Context Window上下文容量限制7. Memory可被之后取回的信息三、知识增强8. RAG先查资料再回答四、执行能力9. Tool让 AI 能做真实操作10. Function Calling模型调用工具的格式11. MCP统一连接外部系统12. Skill完成某类任务的方法包13. Workflow预先设计好的流程五、系统与安全14. Agent会持续完成任务的 AI 系统15. Guardrail安全护栏15 个概念一句话速记表最终串联图记忆口诀最简单的层级关系读完后应该形成的理解总体理解AI 系统不是只有一个“大模型”。一个真正能完成任务的 AI 系统通常由下面几类东西组成模型负责理解、推理和生成。上下文告诉模型当前能看到什么信息。知识增强让模型可以查外部资料。工具能力让模型可以执行真实操作。任务系统让模型围绕目标持续推进。安全边界限制危险输入、输出和操作。整体链路可以简单理解为用户目标 ↓ Prompt告诉 AI 要做什么 ↓ LLM理解、推理、生成 ↓ Context / Memory / RAG提供当前信息、记忆和外部资料 ↓ Tool / Function Calling / MCP连接和调用外部能力 ↓ Skill / Workflow提供方法和流程 ↓ Agent持续判断、调用工具并完成任务 ↓ Guardrail控制安全边界一、模型基础概念通俗理解主要作用LLM大语言模型AI 的核心“大脑”负责理解输入、推理判断、生成文字或下一步动作Token词元AI 阅读文字时使用的“小单位”模型不是直接按汉字或单词理解而是把内容拆成 Token 处理Embedding向量表示把文字的含义转换成数字坐标让 AI 能比较两段内容在语义上是否接近1. LLM大语言模型LLM是整个大模型应用的核心。它主要负责理解用户输入根据上下文进行判断生成回答决定是否需要调用工具在 Agent 系统中决定下一步怎么做。但 LLM 本身并不是万能的。它本质上是根据输入内容和已有模式生成最合适的后续内容。可以记成LLM 负责“想”和“说”但不一定能亲自“做”。如果需要查天气、读文件、访问网页、调用数据库就需要配合Tool。2. Token模型处理文字的基本单位人看到的是汉字、单词、句子。但模型看到的不是这些而是被拆分后的Token。例如一句话今天北京天气怎么样模型可能会把它拆成若干个 Token再转换成数字进行计算。Token 会影响输入长度输出长度上下文容量API 成本模型处理速度。可以记成Token 是 AI 阅读和生成内容的基本计量单位。3. Embedding把语义变成数字Embedding 可以把文字、句子、文档甚至图片转换成一组数字。这些数字不是随便的数字而是表示“语义位置”。例如“怎么重置密码” “忘记密码怎么办”这两句话字面不一样但意思接近。Embedding 后它们在向量空间里的距离也会比较近。Embedding 常用于语义搜索知识库检索推荐系统文档相似度匹配RAG。可以记成Embedding 让 AI 能判断“意思像不像”。二、输入与上下文概念通俗理解主要作用Prompt提示词交给 AI 的任务说明告诉 AI 要做什么、怎么做、按什么格式输出Context上下文AI 当前能看到的全部信息包括历史对话、文件内容、工具结果、系统规则等Context Window上下文窗口AI 一次最多能装多少信息决定模型单次推理能处理多长内容Memory记忆被保存并可之后再次取回的信息用于保存用户偏好、长期信息、历史经验4. Prompt告诉模型要做什么Prompt 就是你给模型的任务说明。它可以很简单帮我总结这篇文章。也可以更具体请用三段话总结这篇文章 重点提取作者观点、核心论据和结论 语言要通俗不要超过 500 字。一个好的 Prompt 往往包括任务目标背景信息限制条件输出格式角色要求示例。可以记成Prompt 是你给 AI 下达的任务单。5. Context模型当前能看到的信息Context 是模型本次回答时能看到的全部信息。它可能包括系统提示词用户当前问题历史聊天记录上传文件内容RAG 检索到的资料可用工具说明工具返回结果临时任务状态。需要注意模型并不是天然记住所有聊天。很多时候是应用程序把历史信息重新放进 Context模型才看得到。可以记成Context 是 AI 当前的工作现场。6. Context Window上下文容量限制Context Window 指模型一次最多能处理多少 Token。例如有的模型支持几千 Token几万 Token十几万 Token更大的上下文窗口。但窗口大不代表一定效果更好。因为塞入太多无关内容反而可能干扰模型判断。Context Window 会限制一次能放多少历史对话一次能读多长文档一次能容纳多少工具结果Agent 长任务能保持多少状态。可以记成Context Window 是 AI 当前工作台的大小。7. Memory可被之后取回的信息Memory 和 Context 不完全一样。Context更像当前这一次模型能看到的信息。Memory更像被系统保存下来以后需要时再取回的信息。Memory 可以保存用户偏好长期项目背景常用工作方式历史任务结果个人化设置。例如用户以后希望回答尽量用中文。 用户正在学习 Spring Cloud。 用户喜欢通俗图解式说明。这些信息如果被保存成 Memory以后模型可以在合适的时候重新使用。可以记成Memory 是 AI 的长期笔记。三、知识增强概念通俗理解主要作用RAG检索增强生成先查资料再让 AI 回答给模型补充外部知识减少胡编提高可追溯性8. RAG先查资料再回答RAG 的全称是 Retrieval-Augmented Generation意思是“检索增强生成”。普通大模型回答问题主要依赖训练时学到的知识。但这些知识可能不够新不够准确不包含企业内部资料不知道你的私有文档。RAG 的思路是用户提问 ↓ 系统先去知识库或文档里搜索相关资料 ↓ 把相关片段放进 Context ↓ LLM 根据这些资料生成回答RAG 常用于企业知识库问答PDF 文档问答客服系统法律、财务、医疗等专业资料查询内部规章制度查询。可以记成RAG 是给 AI 配一个资料检索员先找依据再回答。四、执行能力概念通俗理解主要作用Tool工具AI 可以调用的外部能力让 AI 能搜索、读文件、查天气、运行代码、访问系统Function Calling函数调用AI 请求调用工具的方式让模型用结构化格式告诉系统“我要调用哪个工具、传什么参数”MCP模型上下文协议AI 连接外部系统的统一协议让不同工具以统一方式接入 AI 应用Skill技能可复用的任务说明、流程和资源包告诉 Agent 某类任务应该怎么做Workflow工作流预先设计好的执行流程让任务按固定步骤稳定运行9. Tool让 AI 能做真实操作LLM 自己不能真正打开网页、读取本地文件、查天气或发邮件。它需要通过外部工具来完成这些操作。Tool 可以是搜索工具文件读取工具代码执行工具天气查询工具数据库查询工具邮件工具日历工具第三方 API。过程通常是LLM 判断我需要查天气 ↓ 请求调用天气工具 ↓ 工具真正执行查询 ↓ 结果返回给 LLM ↓ LLM 根据结果回答用户可以记成Tool 是 AI 的手脚。10. Function Calling模型调用工具的格式Function Calling 是让模型用结构化方式请求调用工具。比如模型不是随口说我想查北京天气。而是输出类似{tool:get_weather,arguments:{city:北京}}然后外部程序看到这个结构化请求真正去调用对应工具。Function Calling 的价值是让工具调用更稳定让参数更清楚让程序更容易解析让 AI 从“聊天”变成“可执行系统”。可以记成Function Calling 是 AI 调用工具时说的标准格式。11. MCP统一连接外部系统MCP 是 Model Context Protocol模型上下文协议。它的作用是让 AI 应用和外部工具之间有一种统一连接方式。没有统一协议时可能会出现每个 AI 应用都要单独适配每个工具 每个工具都要为不同平台写不同接口 接入成本高维护复杂。MCP 想解决的是AI 应用 ↓ 统一协议 MCP ↓ 文件系统、数据库、代码仓库、设计工具、企业系统MCP 可以暴露Tools可执行工具Resources可读取资源Prompts可复用提示模板。可以记成MCP 是 AI 连接外部世界的标准插口。12. Skill完成某类任务的方法包Skill 不是单个工具也不是单纯代码。它更像是写给 Agent 的“任务说明书”或“工作手册”。一个 Skill 里可能包含这个技能适合什么任务执行步骤判断规则输出格式示例模板可调用脚本或资源。例如一个“写报告 Skill”可能规定1. 先确认报告主题 2. 再收集资料 3. 按背景、数据、分析、结论组织内容 4. 最后输出 Markdown 格式Skill 的作用是让 Agent 做同类任务时更稳定、更可复用。可以记成Skill 是教 Agent 怎么做事的说明书。13. Workflow预先设计好的流程Workflow 是提前定义好的执行步骤。例如一个固定流程收到用户问题 ↓ 判断问题类型 ↓ 检索知识库 ↓ 调用模型总结 ↓ 检查答案格式 ↓ 返回用户Workflow 和 Agent 有区别Workflow 更固定Agent 更灵活Workflow 稳定性更好Agent 适合开放性任务。实际系统中经常两者结合关键流程用 Workflow 固定住 复杂判断交给 Agent 动态处理。可以记成Workflow 是提前铺好的任务路线。五、系统与安全概念通俗理解主要作用Agent智能体能围绕目标持续判断和行动的 AI 系统自动规划步骤、调用工具、观察结果、继续推进任务Guardrail安全护栏AI 系统的安全边界限制危险输入、危险输出和高风险操作14. Agent会持续完成任务的 AI 系统Agent 不只是回答一句话。它会围绕一个目标持续推进任务。普通聊天用户问一句 AI 答一句Agent用户给目标 ↓ AI 分析目标 ↓ 制定步骤 ↓ 调用工具 ↓ 观察结果 ↓ 判断下一步 ↓ 继续执行 ↓ 直到完成任务Agent 通常由这些部分组成LLMContext 管理Tool 调用MemorySkillWorkflowGuardrail任务状态管理。可以记成Agent 是把 LLM、工具、知识和流程串起来的执行系统。15. Guardrail安全护栏Guardrail 是 AI 系统的安全约束。它可以限制不该回答的内容不安全的操作隐私泄露错误工具调用删除、发送、付款等高风险动作被恶意 Prompt 诱导的行为。例如用户要求 AI 删除全部文件 ↓ Guardrail 要求先确认或者直接禁止Guardrail 可以出现在输入前模型生成时输出前工具调用前工具调用后人工确认环节。可以记成Guardrail 是 AI 系统的刹车和边界线。15 个概念一句话速记表序号概念一句话速记1LLMAI 的核心模型负责理解、推理和生成2TokenAI 阅读和生成内容的基本单位3Embedding把语义变成数字用来比较意思是否接近4Prompt给 AI 的任务说明5ContextAI 当前能看到的全部信息6Context WindowAI 一次最多能装下多少信息7Memory被保存并可之后再次取回的信息8RAG先查外部资料再让 AI 回答9ToolAI 可以调用的外部能力10Function CallingAI 请求调用工具的结构化方式11MCPAI 连接外部系统的统一协议12Skill教 Agent 怎么完成某类任务的说明书13Workflow预先设计好的执行流程14Agent围绕目标持续判断、调用工具并完成任务的系统15Guardrail控制 AI 安全边界的规则最终串联图用户目标 │ ▼ Prompt 告诉 AI 要做什么 │ ▼ ┌────────────────────────┐ │ LLM │ │ 理解、推理、生成、判断 │ └────────────────────────┘ ▲ ▲ ▲ │ │ │ Context Memory RAG 当前信息 长期记忆 外部资料 │ │ │ └──────────┴──────────┘ │ ▼ Function Calling 用结构化格式请求调用工具 │ ▼ Tool 执行搜索、读文件、查数据 │ ▼ MCP 统一连接外部系统和资源 │ ▼ Skill / Workflow 提供方法、规则和流程 │ ▼ Agent 持续判断、行动、观察直到完成目标 │ ▼ Guardrail 控制安全边界和高风险操作记忆口诀模型看上下文按 Prompt 理解任务需要知识用 RAG需要动作用 ToolMCP 负责连接Skill 和 Workflow 负责方法Agent 负责整体执行Guardrail 负责安全边界。最简单的层级关系基础能力 LLM Token Embedding 输入信息 Prompt Context Context Window Memory 知识补充 RAG 执行外部动作 Tool Function Calling MCP 任务方法 Skill Workflow 完整系统 Agent 安全控制 Guardrail读完后应该形成的理解如果只记一句话LLM 是核心模型Prompt 给任务Context 给信息RAG 给资料Tool 给行动MCP 负责连接Skill 和 Workflow 给方法Agent 负责执行Guardrail 负责安全。这就是当前大模型应用和 Agent 系统的基本骨架。