2026年了如果你还停留在“大模型就是调API、发Prompt”的阶段那可能真的要错过这一轮工程化红利了。我见过太多零基础转LLM开发的读者一开始热情很高买了课、收藏了文章结果卡在同一个地方资料看了很多但始终不知道一条完整的学习路径应该怎么走。今天看LangChain明天学RAG后天又看到Agent很火再转头发现大家都在讨论微调最后时间花了不少项目却一个都跑不通。这篇文章想解决的就是这个问题。我会围绕一条主线来讲LangChain、RAG、Agent、大模型微调这四个东西到底是什么关系零基础应该先学哪个、后学哪个它们各自解决什么真实业务问题学完之后你能做什么样的项目我的判断很明确LLM开发对新手最友好的入口不是去啃Transformer论文也不是一上来就买显卡搞微调而是先掌握“编排”和“检索增强”这两件事。把这条主干走通再往后深入Agent和微调你才算真正入了门。这篇文章会尽量给你一条可执行的路径而不是又一个收藏夹里的“大而全”清单。1. 为什么大模型开发要先理清学习路径而不是先选工具先做一个思维实验。假设你是一个刚毕业的后端开发或者是一个想转AI方向的前端/测试/运维工程师。你听说现在大模型很火决定学一学。你打开搜索引擎看到的第一个词是LangChain点进去发现全是英文文档搜RAG有人说这是解决幻觉的银弹搜Agent视频里演示的AI自动写代码让你觉得不可思议搜微调论坛里有人说必须买A100。然后你就迷茫了。这种迷茫的本质不是你不够聪明而是你在一张没有地图的陌生城市里试图找一条最快到终点的路。你看到的所有地标都是真的但它们之间的距离、方向、优先级没有人告诉你。所以学习大模型开发第一步不是选工具、不是找教程而是先建立一张“知识地图”。这张地图至少包含四个核心坐标LLM基础、LangChain编排、RAG知识库、Agent智能体。在这四个坐标之外还有微调、评测、部署这些进阶方向。它们之间的关系可以这样理解LLM是引擎LangChain是驾驶舱RAG是外接的导航数据包Agent是自动驾驶系统微调是给引擎做定制化调校。如果你只有LLM你就像一个拥有顶级发动机但没装方向盘的司机能跑但控制不了方向。如果你只有LangChain你有了驾驶舱但车里没有油——模型能力跟不上编排再漂亮也白搭。如果你给车加了RAG你就有了实时路况和地图开车时不用每次都凭记忆瞎猜。如果再把Agent装上你就可以对车说“带我去机场路上顺便买杯咖啡”它会自己规划路线、执行任务、调用工具。理清这个关系之后你会发现零基础学习大模型开发真正应该投入时间的地方不是背文档、不是记API而是搞清楚以下四个问题第一模型是怎么被调用的LLM基础 第二如何把模型接入到业务逻辑里LangChain 第三如何把私有知识给模型用RAG 第四如何让模型自己决策和行动Agent。这四个问题恰好是一条从“会用”到“会做项目”的完整链路。本文后续的内容就是沿着这条链路逐个拆解。2. LLM基础零基础学习大模型开发的起点与认知纠偏2.1 什么是LLM为什么它和传统编程不一样LLM的全称是Large Language Model即大语言模型。它的核心能力是“根据给定的文本预测下一个最有可能出现的词”。这个机制听起来很简单但当模型参数量足够大、训练数据足够多之后会产生一个质变它开始具备理解上下文、生成连贯文本、进行推理和对话的能力。但这里要做一个重要的认知纠偏。传统编程是“确定性逻辑”你写一个 if它就执行一个 if你传一个参数它返回一个你预设好的结果。而LLM不是这个逻辑。你输入同样一段Prompt它每次生成的结果可能都不一样。它不是“查表”而是“生成”。这意味着你无法用单元测试的逻辑去要求它100%一致。对零基础学习者来说这个认知转变是第一步。如果你还在用“为什么我换个说法它答案就变了”这种思维去学LLM你会非常痛苦。正确的姿势是把LLM理解成一个“能力很强但容易发挥不稳定”的实习生你需要通过提示词、检索、工作流来规范和约束它。2.2 零基础需要学到什么程度很多教程会从一个很大的框架讲起比如Transformer架构、注意力机制、预训练与微调的数学原理。这些内容需不需要了解需要但不需要在第一阶段深挖。我建议零基础学习者把LLM基础分成两个层次第一个层次是“会用”。知道什么是API、什么是Token、什么是上下文窗口、什么是温度Temperature、什么是System Prompt。会调用OpenAI、Claude或者国内的QWen、DeepSeek、GLM的API写一个最小的对话程序。第二个层次是“懂原理”。了解Transformer的基本结构知道Token是怎么切分的理解Embedding是什么明白为什么上下文窗口有上限。这些知识会在你后续做RAG和Agent时反复用到。对于零基础转行的读者第一层次是必须要过的门槛第二层次可以在做项目的过程中逐步补齐。不要一上来就钻进数学公式里那样很容易把自己劝退。2.3 一个最小可运行的LLM调用示例不管你是用Python、Java还是Node.js第一个示例强烈建议用Python完成因为绝大多数大模型框架对Python的支持最及时。下面这个示例用OpenAI兼容的接口风格调用一个Chat Completion模型注意这里的配置项以实际使用的模型服务商为准但接口模式是通用的。# 文件路径llm_basics/quick_start.py from openai import OpenAI # 一般大模型服务商都会提供 OpenAI 兼容接口 # 这里以环境变量方式读取密钥不要把密钥硬编码到代码里 import os client OpenAI( api_keyos.getenv(LLM_API_KEY), base_urlos.getenv(LLM_BASE_URL, https://api.openai.com/v1) ) response client.chat.completions.create( modelgpt-4o-mini, messages[ {role: system, content: 你是一个专业的编程老师擅长把复杂概念讲得通俗易懂。}, {role: user, content: 请用一句话解释什么是大语言模型。} ], temperature0.7 ) print(response.choices[0].message.content)运行方式export LLM_API_KEY你的密钥 python llm_basics/quick_start.py这个示例看起来简单但它是后面所有复杂应用的地基。你要理解几个关键点第一个messages数组的结构。它由system和user组成system用来设定模型的身份和行为准则user是用户输入。后续做Agent时你还会看到assistant消息用来保存多轮对话历史。第二个temperature参数。它控制生成结果的随机性。值越低越稳定适合做分类、抽取任务值越高越有创造力适合做文案生成。在实际项目中你往往需要根据场景调整这个值。第三个base_url。大部分国内模型服务商都提供OpenAI兼容的base_url这意味着你学会一套接口就能对接不同厂商的模型。这是2026年非常明显的行业趋势接口标准化。小结论LLM基础阶段不需要你写多么复杂的代码但要反复理解“对话结构”“参数语义”“接口抽象”这三个知识点。它们是后续学习LangChain和RAG的底层语言。3. LangChain零基础如何理解并掌握这个核心编排框架3.1 LangChain是什么它解决了什么真实问题LangChain是一个面向大语言模型应用开发的编排框架。注意“编排”这个词它是理解LangChain的一把钥匙。我们回到真实场景。假设你要做一个智能客服系统。没有LangChain的时候你需要自己处理很多琐碎的工程问题怎么把用户的历史对话拼接成完整的上下文怎么在调用模型之前先查一下数据库怎么根据用户的意图决定调用哪一个API模型返回的结果怎么解析成结构化数据这些问题本身不难但组合在一起代码量会变得非常大而且你每接一个新的数据源就要重新写一遍接入逻辑。LangChain做的事情就是把“和LLM对话”这个基本能力抽象成标准组件再把“输入-处理-输出”的流程串起来。你用Chain的方式组织逻辑每条链负责一个完整的功能闭环。比如一条“检索链”负责从向量数据库查资料一条“对话链”负责把检索结果和用户问题组合成Prompt送给模型最后再有一条“输出解析链”把模型的回复转换成JSON。这样一来你的业务代码就从“面条代码”变成了一条条可复用的管道。3.2 LangChain的核心概念Model、Prompt、Chain、Memory、Retriever对于零基础学习者LangChain初期只需要掌握五个概念。第一个Model。它是模型的封装。LangChain支持多种模型包括Chat模型、文本补全模型、Embedding模型。你用统一接口来调用它们好处是以后换模型不用改业务代码。第二个PromptTemplate。它是Prompt的模板化工具。你定义一个模板里面留出变量占位符运行时动态填充。比如“你是{角色}请回答以下问题{问题}”每次调用时传入不同的角色和问题不需要重复拼接字符串。第三个Chain。它是LangChain最核心的抽象。一个Chain可以把PromptTemplate、Model、OutputParser串在一起。你输入一个用户问题Chain内部执行“填充模板-调用模型-解析结果”这个流程返回给你最终结果。第四个Memory。它用来管理多轮对话历史。没有Memory时每次调用模型都是独立的模型不记得你上一轮说了什么。有了MemoryLangChain会帮你把历史对话拼装成完整的上下文再发送给模型。第五个Retriever。它是检索器。后面讲RAG时会重点展开这里先记住一点Retriever负责从外部知识库检索出和用户问题最相关的文本片段然后把它们注入到Prompt里。3.3 LangChain与LangGraph的区别很多初学者会在这个地方困惑LangChain和LangGraph到底有什么区别网上还有人说LangGraph会取代LangChain。首先明确一个事实LangGraph是LangChain团队推出的另一个项目它不是要取代LangChain而是为了解决更复杂的流程控制问题。LangChain的Chain擅长处理“线性流程”——一个接一个地执行。但真实的业务场景往往是图状的根据条件决定走哪条分支或者几个步骤并行执行再或者某个步骤失败后需要重试。这种场景下Chain的线性模型就不够灵活了。LangGraph的定位是把应用流程建模成一张图节点是执行单元边是状态流转条件。你可以把它理解为“给LangChain应用装上了状态机和控制流引擎”。如果你做的是一个带有条件分支、循环、人工介入节点的复杂AgentLangGraph会是更合适的选择。我的建议是零基础阶段不要直接学LangGraph先用LangChain把线性链路跑通等你理解了“什么是状态、什么是节点、什么是条件边”之后再迁移到LangGraph会轻松很多。3.4 LangChain最小示例从Prompt到Chain下面用代码演示一个最基础的LangChain链路。这里提醒一下不同版本LangChain的API变化较大本文示例基于社区主流用法具体接口以你项目里实际安装的版本为准。# 文件路径langchain_basics/basic_chain.py from langchain_openai import ChatOpenAI from langchain_core.prompts import ChatPromptTemplate from langchain_core.output_parsers import StrOutputParser # 1. 初始化模型 # 注意这里使用了OpenAI兼容接口国内模型服务商同样适用 llm ChatOpenAI( modelgpt-4o-mini, temperature0 ) # 2. 定义Prompt模板 prompt ChatPromptTemplate.from_messages([ (system, 你是一位资深技术面试官擅长以通俗语言解释技术概念。), (human, 请解释什么是{concept}要求用生活化类比控制在200字以内。) ]) # 3. 定义输出解析器 output_parser StrOutputParser() # 4. 将组件串联成Chain chain prompt | llm | output_parser # 5. 调用 result chain.invoke({concept: LangChain}) print(result)这段代码最关键的地方在第4行chain prompt | llm | output_parser。竖线操作符把三个组件像管道一样连接起来数据从左侧流到右侧。这个写法非常直观先构造Prompt再交给LLM最后解析输出。如果你运行成功会看到控制台输出一段对LangChain的解释。这里可以自己替换一下concept的值比如“RAG”、“Agent”程序会输出不同的解释。小结论LangChain真正降低的是“接入和编排”的成本它让开发者从重复的胶水代码里解放出来把主要精力放到业务逻辑设计上。零基础学习者通过最小示例理解了Chain的串联方式后就可以尝试做更复杂的链路了。4. RAG知识库解决LLM幻觉与私有知识注入的关键技术4.1 一个业务场景拉开RAG的序幕假设你在公司里开发一个内部知识库助手里面存着产品文档、技术规范、客服话术。你发现一个尴尬的问题模型虽然很能聊但你一让它回答公司内部的制度问题它就一本正经地胡说八道。原因很简单模型训练时没见过你的公司文档。它的知识截止到某个时间点而且不包含你的私有数据。有两个解决方案。第一个方案把公司文档全部拿去微调模型。成本高、周期长而且文档每天都在更新你不可能天天重新训练。第二个方案就是RAG每次用户提问时先从知识库里检索出相关文档片段把“问题文档”一起交给模型让它基于文档内容回答。模型即使不知道你公司的事只要文档里有它就能答得八九不离十。RAG全称是Retrieval-Augmented Generation检索增强生成。它的核心思想是不把知识塞进模型参数里而是塞进Prompt里。这个思路非常重要它改变了“让模型变聪明”的方式。传统思路是训练出更聪明的模型而RAG的思路是让模型在回答问题那一刻能临时查阅资料。就好比一个知识渊博的实习生你不需要他背熟公司的每一个流程只需要告诉他在回答问题前先翻一下指定的资料文档。4.2 RAG的完整工作流程一个标准的RAG流程包含五个环节文档加载、文本切分、向量化、检索、生成。文档加载Loader负责把PDF、Word、Markdown、HTML等不同格式的文档读出来变成纯文本。这一步的难点在于解析各种格式PDF里可能还有表格、图片处理起来比较麻烦。文本切分Splitter负责把长文档切成一个个小的文本块。为什么必须切因为LLM有上下文窗口限制你不可能把一本几百页的文档塞进Prompt。切分策略直接影响检索效果后面会详细讲。向量化Embedding负责把文本块转换成向量也就是一串浮点数。向量化的意义在于把“语义相近的文本”映射到“距离相近的空间”。这样当用户问“怎么申请年假”时系统可以找到语义上最接近的“请假制度”相关文本即使问题和文档里没有完全相同的词。检索Retriever负责在向量数据库中寻找和用户问题最相关的Top-K个文本块。常见方式有向量相似度检索、关键词检索比如BM25还有两者结合的混合检索。生成Generation把用户原始问题和检索到的文本块组装成一个增强版的Prompt交给LLM生成答案。这时候模型回答问题时相当于拿到了参考资料幻觉问题会显著减少。4.3 RAG的三种常见变体朴素RAG、Agentic RAG与GraphRAG在深入学习之前你需要知道RAG并不是一个单一的技术它已经演化出很多变体。了解这些名称你才能在后续阅读资料时不迷路。朴素RAG也叫Naive RAG就是上面说的“检索一次、生成一次”的线性流程。优点是简单缺点是遇到复杂问题时会失效。比如用户问“对比一下A方案和B方案的区别”朴素RAG可能只检索到A方案的文档回答就会偏颇。高级RAG引入了一些优化手段包括对文档做更精细的切分、使用混合检索、重排Rerank等。它的目标是提升检索质量。Agentic RAG则是把Agent的决策能力引入到RAG流程中。它不是线性地检索一次就结束而是让模型自己决定需要检索几次一次检索不够就再检索一次原始问题拆成多个子问题分别查查完之后还要不要调用计算器这种方式解决的是多跳问答场景。GraphRAG是另一种值得关注的方向它先把文档构建成知识图谱再通过图谱结构增强检索。它特别适合需要回答“全局性问题”的场景比如“这个项目里哪些模块耦合比较严重”。不过它的工程复杂度较高零基础阶段不建议先碰。我的建议是先把朴素RAG跑通理解全流程再按需学习高级RAG和Agentic RAG。4.4 一套可运行的RAG最小实现下面是基于LangChain实现的一个最小RAG流程重点演示“切分-向量化-检索-生成”四步向量数据库使用的是FAISS。# 文件路径rag_basics/mini_rag.py from langchain_community.document_loaders import TextLoader from langchain_text_splitters import CharacterTextSplitter from langchain_openai import OpenAIEmbeddings, ChatOpenAI from langchain_community.vectorstores import FAISS from langchain_core.prompts import ChatPromptTemplate # 1. 加载文档 loader TextLoader(docs/company_policy.md, encodingutf-8) docs loader.load() # 2. 切分文档 splitter CharacterTextSplitter( separator\n, chunk_size300, chunk_overlap50, length_functionlen ) chunks splitter.split_documents(docs) print(f切分后的文本块数量: {len(chunks)}) # 3. 向量化并存储到FAISS embeddings OpenAIEmbeddings() vectorstore FAISS.from_documents(chunks, embeddings) # 4. 构建检索器 retriever vectorstore.as_retriever(search_kwargs{k: 3}) # 5. 定义RAG生成链路 prompt ChatPromptTemplate.from_messages([ (system, 你是一个严谨的企业知识库助手。请仅根据以下资料回答问题如果资料中找不到答案请明确回答不知道。), (human, 资料\n{context}\n\n问题{question}) ]) llm ChatOpenAI(modelgpt-4o-mini, temperature0) def ask(question: str): context_docs retriever.invoke(question) context \n\n.join([doc.page_content for doc in context_docs]) messages prompt.format_messages(contextcontext, questionquestion) response llm.invoke(messages) return response.content # 测试 result ask(请病假需要提前多久申请) print(result)这里有几个细节要重点解释。chunk_size和chunk_overlap是切分的关键参数。chunk_size决定每个文本块的长度chunk_overlap表示相邻块之间的重叠字符数。为什么要重叠因为文档在切分时如果正好在“申请时间”这句话的中间断开那么“提前多久”这个关键信息可能出现在上一块的末尾而这一块的开头根本不含时间信息。重叠可以保证信息不会因为生硬的切割而丢失。context拼接后的Prompt里你会看到“仅根据以下资料回答问题”这句话。这句指令极其重要。如果你不加上这个约束模型很可能在资料里没找到答案时依然根据自己训练时的记忆来编造一个答案。加上约束后它会更倾向于“不知道就承认不知道”。运行这个示例前需要安装依赖pip install langchain langchain-openai langchain-community langchain-text-splitters faiss-cpu运行之后程序输出应该是基于docs/company_policy.md内容生成的回答。如果文档里没有关于病假申请的内容模型应该回复“资料中未找到相关信息”。小结论RAG是“成本最低、见效最快”的LLM落地方式。它不需要训练模型不需要GPU只需要把文档准备好、切分好、存进向量库就能让模型回答私有知识问题。这也是为什么它在2025到2026年成为企业LLM应用的第一站。5. Agent智能体从被动对话到主动执行任务5.1 Agent和普通对话机器人的本质区别讲一个场景。你让普通聊天机器人帮你订一张机票。它最大的本事是给你生成一段“订机票指南”告诉你应该下载哪个App、什么时候买便宜、怎么选座位。但它不会真的打开浏览器不会真的帮你下单。它只负责说话不负责做事。而Agent不一样。Agent的核心能力是“行动”。它可以把你的任务拆解成多个步骤然后一步一步调用外部工具来完成。比如调用搜索工具查航班调用日历工具查你的空闲时间调用预订接口下单最后把确认信息发给你。所以Agent和普通对话机器人的根本区别在于一个只有语言能力一个同时具备语言能力和行动能力。技术上的定义是Agent LLM 规划Planning 工具调用Tool Use 记忆Memory。LLM充当“大脑”负责理解用户意图、制定计划、决定下一步调用什么工具工具是“手脚”负责真正执行操作记忆让Agent能记住之前的状态和结果。5.2 Agent的工作机制ReAct模式ReAct是Agent最经典的工作模式这个词是Reasoning和Acting的组合意思是“思考-行动-观察”的循环。我们用一个具体例子说明。用户问“帮我分析一下这份CSV文件里哪个城市的销售额最高并生成一份柱状图。”如果让普通LLM做这件事它只会给你一段代码建议。但如果让ReAct模式的Agent来做它会这样运转第一轮思考用户需要分析文件我需要先找到文件路径用Python工具读取它。 第一轮行动调用Python工具读取CSV文件。 第一轮观察文件里有三列城市、销售额、日期。第二轮思考文件读取成功了我需要用Pandas按城市分组汇总销售额。 第二轮行动调用Python工具执行分组汇总。 第二轮观察北京销售额最高是350万。第三轮思考分析完成了用户还需要柱状图我用Matplotlib生成并保存。 第三轮行动调用Python工具画图保存到本地。 第三轮观察图片已保存。最终回答向用户展示结果和图片路径。看到区别了吗Agent不是一次性生成最终答案而是一个“边做边看”的循环。每一步行动之后它都会观察结果再决定下一步做什么。这个循环让Agent能够应对不确定的、多步骤的复杂任务。ReAct模式还有一个关键价值可控制性。Agent的每一步思考和行动都以文本形式暴露出来你可以看到它是怎么推理的也可以在某一步插入人工审核。这在生产环境里非常重要。5.3 LangChain Agent示例让模型学会调用计算工具下面用LangChain实现一个最简单的Agent它只做一件事当用户问“345乘以678等于多少”时模型不再自己硬算而是调用计算工具来算。# 文件路径agent_basics/basic_agent.py from langchain_openai import ChatOpenAI from langchain.agents import create_react_agent, AgentExecutor from langchain_core.tools import Tool from langchain_core.prompts import PromptTemplate # 1. 定义一个工具函数 def multiply(a: str, b: str) - str: 计算两个数字的乘积。 try: result float(a) * float(b) return str(result) except Exception as e: return f计算失败: {e} # 2. 包装成LangChain Tool tools [ Tool( namemultiply, funcmultiply, description当用户需要计算两个数字相乘时使用此工具。输入是两个数字的字符串。 ) ] # 3. 初始化模型和Prompt llm ChatOpenAI(modelgpt-4o-mini, temperature0) prompt PromptTemplate.from_template( 你是一个能使用工具的智能助手。请根据用户的问题逐步思考并选择正确的工具。 可用工具 {tools} 工具名称列表 {tool_names} 你的回答必须遵循以下格式 思考你当前对问题的分析 行动工具名称 行动输入: 工具的输入参数 观察工具返回的结果 ...思考/行动/观察可以重复多次 最终答案针对问题的最终回复 用户问题{input} 工作区记忆{agent_scratchpad} ) # 4. 创建Agent和执行器 agent create_react_agent(llmllm, toolstools, promptprompt) agent_executor AgentExecutor(agentagent, toolstools, verboseTrue) # 5. 执行 result agent_executor.invoke({input: 请计算345乘以678等于多少}) print(result[output])运行示例python agent_basics/basic_agent.py你会看到Agent先输出“思考”过程然后调用multiply工具拿到计算结果后再生成最终答案。这段代码有几个概念值得拆解。Tool的description字段非常重要。模型通过这个描述来判断“什么情况下该用这个工具”。如果你的描述写得不清楚模型就无法正确调用。比如这里如果只写“计算器”模型可能不知道它适合什么场景写上“当用户需要计算两个数字相乘时使用”模型就能精准匹配。create_react_agent的作用是构建一个符合ReAct模板的Agent。它要求模型输出“思考-行动-观察”的结构执行器根据这些输出决定下一步动作直到模型给出“最终答案”。小结论Agent是LLM应用从“信息输出”走向“任务执行”的关键升级。零基础学习Agent时重点不是去背Agent框架的API而是理解ReAct循环的逻辑思考、行动、观察、再思考。这个逻辑在很多Agent框架里都一样只是接口不同。6. 大模型微调什么时候需要它以及它与RAG的分工6.1 先判断你需不需要微调很多初学者把微调当成大模型开发的必经之路感觉不微调就没学到精髓。但真实项目中微调的优先级远低于RAG和Agent。为什么因为微调的成本和风险都很高。先看成本。微调需要GPU资源。虽然现在有LoRA这类高效微调技术但完整的微调流程依然比调用API贵得多。再看风险。微调可能导致模型“灾难性遗忘”——模型学会了新知识但把原有能力忘了。最后看维护成本。你的业务数据经常变化每次变化都可能需要重新微调。所以我建议遇到下面这些情况时才考虑微调第一个模型风格和格式不符合要求。比如你希望模型输出的文案固定为某种品牌语气或者必须按特定的JSON结构输出提示词怎么调都调不稳。第二个你需要模型掌握大量固定的领域知识。比如医学诊断规则、法律条文解读、特定编程框架的用法。这种“稳定知识”更适合通过微调注入。第三个你需要降低推理成本。如果频繁把长文档塞进Prompt每次请求的Token消耗会很高。微调让模型提前把这些知识记住可以减少Prompt长度。如果只是想让模型回答公司内部制度问题应该优先用RAG如果是想改变模型的语气和输出格式先试提示词工程真正到提示词和RAG都解决不了时再考虑微调。6.2 微调的核心概念全参微调、LoRA与QLoRA微调分为几种类型零基础需要先理解它们之间的差异。全参微调Full Fine-tuning是对模型所有参数进行训练。效果最好但显存占用巨大。以7B模型为例全参微调通常需要80GB以上的显存对一般开发者不现实。LoRA是微软提出的一种高效微调方法。核心思想是冻结原始模型的全部参数在模型旁路添加一个小型的低秩矩阵只训练这部分新增参数。这样训练参数量可能只有原模型的1%以下大大降低了显存需求。7B模型用LoRA一张24GB的消费级显卡就有机会跑起来。QLoRA则是LoRA的进阶版。它在LoRA的基础上引入了模型量化把原始模型压缩到4-bit或8-bit精度进一步降低显存占用让更多人在消费级GPU上微调模型成为可能。对于零基础学习者我建议直接学LoRA它兼顾了效果和门槛是当前社区的主流选择。6.3 微调的完整流程一次标准的微调流程包括数据准备、数据格式化、训练和评估四个步骤。数据准备是整个流程中最关键的一环。你需要收集和整理训练语料语料的质量直接决定微调效果。业界常说“Garbage in, garbage out”数据质量差训练一万步也没用。以对话模型为例一条训练数据通常包含instruction指令、input输入和output期望输出三部分。数据格式化是把原始数据转换成模型能学习的JSON格式。下面是ChatML格式的一个示例它用特殊的角色标记区分系统指令、用户输入和模型回答。[ { messages: [ {role: system, content: 你是一个严谨的金融分析师回答必须注明数据来源。}, {role: user, content: 分析2025年第四季度新能源车的销量趋势。}, {role: assistant, content: 根据中汽协数据2025年第四季度新能源车销量同比增长32%其中纯电动车型占比68%。} ] } ]训练环节推荐使用HuggingFace的Transformers库配合PEFT库实现LoRA训练。这里给出一个训练脚本的骨架用于展示核心训练逻辑完整配置请以你实际环境和模型为准。# 文件路径finetune_basics/lora_train.py from datasets import load_dataset from transformers import ( AutoTokenizer, AutoModelForCausalLM, TrainingArguments, Trainer ) from peft import LoraConfig, get_peft_model # 1. 加载模型和分词器 model_name Qwen/Qwen2-1.5B-Instruct # 以实际可用模型为准 tokenizer AutoTokenizer.from_pretrained(model_name, trust_remote_codeTrue) model AutoModelForCausalLM.from_pretrained( model_name, trust_remote_codeTrue, device_mapauto ) # 2. 配置LoRA lora_config LoraConfig( r8, lora_alpha16, target_modules[q_proj, k_proj, v_proj, o_proj], lora_dropout0.1, biasnone, task_typeCAUSAL_LM ) model get_peft_model(model, lora_config) model.print_trainable_parameters() # 3. 加载训练数据 dataset load_dataset(json, data_filesdata/train.jsonl, splittrain) def format_instruction(example): messages example[messages] text tokenizer.apply_chat_template( messages, tokenizeFalse, add_generation_promptFalse ) return {text: text} dataset dataset.map(format_instruction) # 4. 训练参数 training_args TrainingArguments( output_dir./lora_checkpoints, per_device_train_batch_size1, gradient_accumulation_steps8, num_train_epochs3, logging_steps10, save_steps500, learning_rate2e-4, fp16True ) # 5. 执行训练 trainer Trainer( modelmodel, argstraining_args, train_datasetdataset ) trainer.train() # 6. 保存LoRA权重 model.save_pretrained(./lora_output) tokenizer.save_pretrained(./lora_output)脚本中有几个关键点需要理解。target_modules指定了要插入LoRA适配器的模块。对于不同的模型这个列表可能不同。对于基于Llama架构的模型通常是q_proj、k_proj、v_proj、o_proj这些注意力模块。gradient_accumulation_steps的意义是当单卡显存装不下大batch时通过多次小batch累加梯度来模拟更大的batch size。比如batch_size1加上accumulation_steps8效果相当于batch_size8。fp16是混合精度训练可以显著降低显存占用并加速训练。如果你的GPU不支持可以去掉。评估阶段你需要用微调后的模型对一批测试问题进行推理观察模型输出的风格、格式和准确性是否符合预期。这一步不能省否则你无法确定微调到底是让模型变好了还是变差了。小结论微调不是零基础入门的第一站但它是进入高级阶段后必须掌握的核心技能。正确路线是先跑通RAG和Agent再根据业务需求判断是否微调。如果你最终决定要学微调请从LoRA开始它性价比最高。7. 零基础大模型开发学习的完整路线规划讲完了四个核心技术最后帮你串成一条可落地的学习路线。这条路线是我结合大量学习者反馈整理的更推荐按照“基础-工具-实战-进阶”四个阶段推进。7.1 第一阶段LLM基础与Prompt工程第1-2周目标跑通LLM API调用理解Prompt的基本规律。这个阶段不要碰LangChain不要碰RAG就做三件事注册一个模型服务商账号调用一个API跑通最小对话理解System、User、Assistant三种消息角色的作用尝试用不同的Prompt写法解决一个具体任务比如让模型从一段文字中抽取结构化信息。每天拿出1到2小时写代码一定会有明显进步。7.2 第二阶段LangChain核心组件与RAG落地第3-5周目标能用LangChain搭建一个完整的知识库问答应用。先过一遍LangChain的五个核心概念再找一个真实的业务场景来实践。最推荐做的第一个RAG项目是个人知识库助手把你自己这几天的学习笔记做成一个Markdown文件切分、向量化让模型基于笔记回答你的问题。这个项目麻雀虽小五脏俱全。你会同时接触到文档加载、文本切分、向量化、向量数据库和Prompt模板这些核心知识点。7.3 第三阶段Agent与工具调用第6-7周目标做一个会调用外部工具的Agent。先理解ReAct循环再实现一个至少包含两个工具的Agent比如一个计算工具加一个搜索工具。然后尝试让Agent完成一个多步骤任务比如“先查询明天的天气再根据天气情况生成一条穿衣建议”。做这个项目时你会开始理解“规划”和“工具调用”的边界在哪里也会遇到Agent“绕圈子”“调用失败”等真实问题这些问题本身很值得收集和总结。7.4 第四阶段微调与综合项目第8-10周目标完成一个综合项目并把LoRA微调跑通。综合项目建议选一个你熟悉的领域比如一个有内部文档的企业知识库问答系统或者一个带数据分析能力的客服助手。项目要把前面学的LangChain、RAG、Agent串起来RAG负责知识注入、Agent负责任务执行、LangChain负责流程编排。在这个阶段你再尝试用LoRA微调一个小模型让它模仿某个特定风格的回答会把整个知识体系贯通起来。8. 学习大模型开发中的常见问题与排查思路根据很多学习者的反馈我整理了一批最高频的问题和对应的排查方式。问题现象可能原因排查方式解决方案API调用报401错误API密钥无效或权限不足检查环境变量是否设置正确确认密钥是否过期重新生成密钥确认使用正确的模型服务商地址调用LangChain报AttributeError安装的LangChain版本过旧或过新API已变更查看错误堆栈中对应的模块查阅官方文档統一项目依赖版本必要时用pip show langchain确认当前版本RAG回答不准确文本切分不合理或检索到的内容不相关打印检索到的上下文检查检索结果质量调整chunk_size和chunk_overlap尝试混合检索向量化速度很慢数据量过大或Embedding模型使用不恰当查看日志中耗时占比使用批量Embedding或换用更快的Embedding服务Agent不调用工具工具的description描述不清打印Agent思考日志观察它的推理过程优化工具描述补充使用场景和输入格式示例Agent调用工具参数格式错误大模型生成的参数和工具签名不匹配查看Agent传入的参数JSON在工具函数中增加参数校验或使用更清晰的工具输入Schema微调训练显存不足batch size过大或未使用LoRA查看GPU显存使用情况减小batch size开启gradient_accumulation_steps尝试QLoRA微调后模型变笨学习率过高或训练轮数过多对比微调前和微调后的回答质量降低学习率减少epoch增加验证集观察过拟合其中我认为最重要的一条经验是当你在LangChain或Agent项目中遇到问题时第一步不是盲改代码而是打开详细日志。LangChain的AgentExecutor设置了verboseTrue后会完整输出Agent的每一个“思考-行动-观察”步骤。很多时候问题根本不在代码而在模型的思考决策上。9. 最佳实践与工程建议9.1 版本与依赖管理LangChain生态的迭代速度非常快版本兼容性问题十分常见强烈建议在项目目录下维护 requirements.txt 或使用 Poetry/Pipenv 管理依赖。不要直接pip install langchain然后指望所有API都能用版本不同接口差异很大。我建议在项目启动时就固定一个文档号为基准的版本组合并记录在README中。9.2 密钥与安全规范所有模型API密钥一律通过环境变量或密钥管理服务注入严禁硬编码到代码里。如果你把项目推送到Git仓库要确认 .gitignore 文件已排除.env文件。在Agent项目中工具调用权限要遵循最小权限原则。一个负责文档检索的Agent不应该拥有删除数据库的权限一个能执行代码的Agent应该在沙箱环境中运行。9.3 RAG指标与效果评估很多初学者做完RAG项目后只凭感觉判断“回答还行吧”这是不够的。RAG项目至少要跟踪两个环节的指标检索质量和生成质量。检索质量可以用召回率、命中率等指标衡量。简单做法是准备一组测试问题人工标注每个问题应该在知识库中命中哪些文档然后看检索结果是否覆盖了这些文档。生成质量可以用准确率、忠实度等指标来评估关注模型回答是否严格基于检索文档有没有引入文档之外的信息。定期用同一套测试集跑回归可以避免项目迭代过程中效果倒退而不自知。9.4 从Demo到生产环境的差距本地跑通一个RAG Demo和生产环境运行一个知识库系统中间还有一道巨大的鸿沟。生产环境你还需要考虑向量数据库的高可用和备份、接口服务的限流与鉴权、日志监控与告警、Prompt的灰度更新、知识文档版本变化后如何同步更新向量库。对于零基础学习者前期不需要一次性把这些问题全解决但心里要有一个意识Demo和产品之间差着工程化工程化能力才是你未来竞争力的真正壁垒。10. 总结与后续学习方向回顾这篇文章核心其实就两句话。第一句大模型开发对零基础是友好但不是无门槛这个门槛不在数学和算法而在工程化思维。你需要先理解LLM为什么和传统编程不一样再通过LangChain学会编排用RAG解决知识和幻觉问题用Agent实现任务执行需要时再通过微调定制模型能力。第二句学习路径比学习素材更重要。与其漫无目的地搜集资料不如按“LLM基础 - LangChain - RAG - Agent - 微调”的顺序一步一个脚印跑通项目。如果你已经看到这里我建议你立刻做一件事打开编辑器把文中第一个LLM调用示例运行出来。不要等到把所有概念都理解透了再动手。在大模型这个领域跑通一个最小例子比读十篇教程更有用。后续值得深入学习的方向包括LangGraph的状态流编排、GraphRAG在复杂知识场景中的应用、RAG系统的评测体系建设、Agent在生产环境中的稳定性与安全设计以及基于QLoRA的低资源微调实践。这些方向都是建立在这篇文章的主干路径之上的。走完主干再选一个方向深耕你会比大多数人领先一步。 零基础大模型开发学习路径：LangChain、RAG、Agent与微调实战指南
2026年了如果你还停留在“大模型就是调API、发Prompt”的阶段那可能真的要错过这一轮工程化红利了。我见过太多零基础转LLM开发的读者一开始热情很高买了课、收藏了文章结果卡在同一个地方资料看了很多但始终不知道一条完整的学习路径应该怎么走。今天看LangChain明天学RAG后天又看到Agent很火再转头发现大家都在讨论微调最后时间花了不少项目却一个都跑不通。这篇文章想解决的就是这个问题。我会围绕一条主线来讲LangChain、RAG、Agent、大模型微调这四个东西到底是什么关系零基础应该先学哪个、后学哪个它们各自解决什么真实业务问题学完之后你能做什么样的项目我的判断很明确LLM开发对新手最友好的入口不是去啃Transformer论文也不是一上来就买显卡搞微调而是先掌握“编排”和“检索增强”这两件事。把这条主干走通再往后深入Agent和微调你才算真正入了门。这篇文章会尽量给你一条可执行的路径而不是又一个收藏夹里的“大而全”清单。1. 为什么大模型开发要先理清学习路径而不是先选工具先做一个思维实验。假设你是一个刚毕业的后端开发或者是一个想转AI方向的前端/测试/运维工程师。你听说现在大模型很火决定学一学。你打开搜索引擎看到的第一个词是LangChain点进去发现全是英文文档搜RAG有人说这是解决幻觉的银弹搜Agent视频里演示的AI自动写代码让你觉得不可思议搜微调论坛里有人说必须买A100。然后你就迷茫了。这种迷茫的本质不是你不够聪明而是你在一张没有地图的陌生城市里试图找一条最快到终点的路。你看到的所有地标都是真的但它们之间的距离、方向、优先级没有人告诉你。所以学习大模型开发第一步不是选工具、不是找教程而是先建立一张“知识地图”。这张地图至少包含四个核心坐标LLM基础、LangChain编排、RAG知识库、Agent智能体。在这四个坐标之外还有微调、评测、部署这些进阶方向。它们之间的关系可以这样理解LLM是引擎LangChain是驾驶舱RAG是外接的导航数据包Agent是自动驾驶系统微调是给引擎做定制化调校。如果你只有LLM你就像一个拥有顶级发动机但没装方向盘的司机能跑但控制不了方向。如果你只有LangChain你有了驾驶舱但车里没有油——模型能力跟不上编排再漂亮也白搭。如果你给车加了RAG你就有了实时路况和地图开车时不用每次都凭记忆瞎猜。如果再把Agent装上你就可以对车说“带我去机场路上顺便买杯咖啡”它会自己规划路线、执行任务、调用工具。理清这个关系之后你会发现零基础学习大模型开发真正应该投入时间的地方不是背文档、不是记API而是搞清楚以下四个问题第一模型是怎么被调用的LLM基础 第二如何把模型接入到业务逻辑里LangChain 第三如何把私有知识给模型用RAG 第四如何让模型自己决策和行动Agent。这四个问题恰好是一条从“会用”到“会做项目”的完整链路。本文后续的内容就是沿着这条链路逐个拆解。2. LLM基础零基础学习大模型开发的起点与认知纠偏2.1 什么是LLM为什么它和传统编程不一样LLM的全称是Large Language Model即大语言模型。它的核心能力是“根据给定的文本预测下一个最有可能出现的词”。这个机制听起来很简单但当模型参数量足够大、训练数据足够多之后会产生一个质变它开始具备理解上下文、生成连贯文本、进行推理和对话的能力。但这里要做一个重要的认知纠偏。传统编程是“确定性逻辑”你写一个 if它就执行一个 if你传一个参数它返回一个你预设好的结果。而LLM不是这个逻辑。你输入同样一段Prompt它每次生成的结果可能都不一样。它不是“查表”而是“生成”。这意味着你无法用单元测试的逻辑去要求它100%一致。对零基础学习者来说这个认知转变是第一步。如果你还在用“为什么我换个说法它答案就变了”这种思维去学LLM你会非常痛苦。正确的姿势是把LLM理解成一个“能力很强但容易发挥不稳定”的实习生你需要通过提示词、检索、工作流来规范和约束它。2.2 零基础需要学到什么程度很多教程会从一个很大的框架讲起比如Transformer架构、注意力机制、预训练与微调的数学原理。这些内容需不需要了解需要但不需要在第一阶段深挖。我建议零基础学习者把LLM基础分成两个层次第一个层次是“会用”。知道什么是API、什么是Token、什么是上下文窗口、什么是温度Temperature、什么是System Prompt。会调用OpenAI、Claude或者国内的QWen、DeepSeek、GLM的API写一个最小的对话程序。第二个层次是“懂原理”。了解Transformer的基本结构知道Token是怎么切分的理解Embedding是什么明白为什么上下文窗口有上限。这些知识会在你后续做RAG和Agent时反复用到。对于零基础转行的读者第一层次是必须要过的门槛第二层次可以在做项目的过程中逐步补齐。不要一上来就钻进数学公式里那样很容易把自己劝退。2.3 一个最小可运行的LLM调用示例不管你是用Python、Java还是Node.js第一个示例强烈建议用Python完成因为绝大多数大模型框架对Python的支持最及时。下面这个示例用OpenAI兼容的接口风格调用一个Chat Completion模型注意这里的配置项以实际使用的模型服务商为准但接口模式是通用的。# 文件路径llm_basics/quick_start.py from openai import OpenAI # 一般大模型服务商都会提供 OpenAI 兼容接口 # 这里以环境变量方式读取密钥不要把密钥硬编码到代码里 import os client OpenAI( api_keyos.getenv(LLM_API_KEY), base_urlos.getenv(LLM_BASE_URL, https://api.openai.com/v1) ) response client.chat.completions.create( modelgpt-4o-mini, messages[ {role: system, content: 你是一个专业的编程老师擅长把复杂概念讲得通俗易懂。}, {role: user, content: 请用一句话解释什么是大语言模型。} ], temperature0.7 ) print(response.choices[0].message.content)运行方式export LLM_API_KEY你的密钥 python llm_basics/quick_start.py这个示例看起来简单但它是后面所有复杂应用的地基。你要理解几个关键点第一个messages数组的结构。它由system和user组成system用来设定模型的身份和行为准则user是用户输入。后续做Agent时你还会看到assistant消息用来保存多轮对话历史。第二个temperature参数。它控制生成结果的随机性。值越低越稳定适合做分类、抽取任务值越高越有创造力适合做文案生成。在实际项目中你往往需要根据场景调整这个值。第三个base_url。大部分国内模型服务商都提供OpenAI兼容的base_url这意味着你学会一套接口就能对接不同厂商的模型。这是2026年非常明显的行业趋势接口标准化。小结论LLM基础阶段不需要你写多么复杂的代码但要反复理解“对话结构”“参数语义”“接口抽象”这三个知识点。它们是后续学习LangChain和RAG的底层语言。3. LangChain零基础如何理解并掌握这个核心编排框架3.1 LangChain是什么它解决了什么真实问题LangChain是一个面向大语言模型应用开发的编排框架。注意“编排”这个词它是理解LangChain的一把钥匙。我们回到真实场景。假设你要做一个智能客服系统。没有LangChain的时候你需要自己处理很多琐碎的工程问题怎么把用户的历史对话拼接成完整的上下文怎么在调用模型之前先查一下数据库怎么根据用户的意图决定调用哪一个API模型返回的结果怎么解析成结构化数据这些问题本身不难但组合在一起代码量会变得非常大而且你每接一个新的数据源就要重新写一遍接入逻辑。LangChain做的事情就是把“和LLM对话”这个基本能力抽象成标准组件再把“输入-处理-输出”的流程串起来。你用Chain的方式组织逻辑每条链负责一个完整的功能闭环。比如一条“检索链”负责从向量数据库查资料一条“对话链”负责把检索结果和用户问题组合成Prompt送给模型最后再有一条“输出解析链”把模型的回复转换成JSON。这样一来你的业务代码就从“面条代码”变成了一条条可复用的管道。3.2 LangChain的核心概念Model、Prompt、Chain、Memory、Retriever对于零基础学习者LangChain初期只需要掌握五个概念。第一个Model。它是模型的封装。LangChain支持多种模型包括Chat模型、文本补全模型、Embedding模型。你用统一接口来调用它们好处是以后换模型不用改业务代码。第二个PromptTemplate。它是Prompt的模板化工具。你定义一个模板里面留出变量占位符运行时动态填充。比如“你是{角色}请回答以下问题{问题}”每次调用时传入不同的角色和问题不需要重复拼接字符串。第三个Chain。它是LangChain最核心的抽象。一个Chain可以把PromptTemplate、Model、OutputParser串在一起。你输入一个用户问题Chain内部执行“填充模板-调用模型-解析结果”这个流程返回给你最终结果。第四个Memory。它用来管理多轮对话历史。没有Memory时每次调用模型都是独立的模型不记得你上一轮说了什么。有了MemoryLangChain会帮你把历史对话拼装成完整的上下文再发送给模型。第五个Retriever。它是检索器。后面讲RAG时会重点展开这里先记住一点Retriever负责从外部知识库检索出和用户问题最相关的文本片段然后把它们注入到Prompt里。3.3 LangChain与LangGraph的区别很多初学者会在这个地方困惑LangChain和LangGraph到底有什么区别网上还有人说LangGraph会取代LangChain。首先明确一个事实LangGraph是LangChain团队推出的另一个项目它不是要取代LangChain而是为了解决更复杂的流程控制问题。LangChain的Chain擅长处理“线性流程”——一个接一个地执行。但真实的业务场景往往是图状的根据条件决定走哪条分支或者几个步骤并行执行再或者某个步骤失败后需要重试。这种场景下Chain的线性模型就不够灵活了。LangGraph的定位是把应用流程建模成一张图节点是执行单元边是状态流转条件。你可以把它理解为“给LangChain应用装上了状态机和控制流引擎”。如果你做的是一个带有条件分支、循环、人工介入节点的复杂AgentLangGraph会是更合适的选择。我的建议是零基础阶段不要直接学LangGraph先用LangChain把线性链路跑通等你理解了“什么是状态、什么是节点、什么是条件边”之后再迁移到LangGraph会轻松很多。3.4 LangChain最小示例从Prompt到Chain下面用代码演示一个最基础的LangChain链路。这里提醒一下不同版本LangChain的API变化较大本文示例基于社区主流用法具体接口以你项目里实际安装的版本为准。# 文件路径langchain_basics/basic_chain.py from langchain_openai import ChatOpenAI from langchain_core.prompts import ChatPromptTemplate from langchain_core.output_parsers import StrOutputParser # 1. 初始化模型 # 注意这里使用了OpenAI兼容接口国内模型服务商同样适用 llm ChatOpenAI( modelgpt-4o-mini, temperature0 ) # 2. 定义Prompt模板 prompt ChatPromptTemplate.from_messages([ (system, 你是一位资深技术面试官擅长以通俗语言解释技术概念。), (human, 请解释什么是{concept}要求用生活化类比控制在200字以内。) ]) # 3. 定义输出解析器 output_parser StrOutputParser() # 4. 将组件串联成Chain chain prompt | llm | output_parser # 5. 调用 result chain.invoke({concept: LangChain}) print(result)这段代码最关键的地方在第4行chain prompt | llm | output_parser。竖线操作符把三个组件像管道一样连接起来数据从左侧流到右侧。这个写法非常直观先构造Prompt再交给LLM最后解析输出。如果你运行成功会看到控制台输出一段对LangChain的解释。这里可以自己替换一下concept的值比如“RAG”、“Agent”程序会输出不同的解释。小结论LangChain真正降低的是“接入和编排”的成本它让开发者从重复的胶水代码里解放出来把主要精力放到业务逻辑设计上。零基础学习者通过最小示例理解了Chain的串联方式后就可以尝试做更复杂的链路了。4. RAG知识库解决LLM幻觉与私有知识注入的关键技术4.1 一个业务场景拉开RAG的序幕假设你在公司里开发一个内部知识库助手里面存着产品文档、技术规范、客服话术。你发现一个尴尬的问题模型虽然很能聊但你一让它回答公司内部的制度问题它就一本正经地胡说八道。原因很简单模型训练时没见过你的公司文档。它的知识截止到某个时间点而且不包含你的私有数据。有两个解决方案。第一个方案把公司文档全部拿去微调模型。成本高、周期长而且文档每天都在更新你不可能天天重新训练。第二个方案就是RAG每次用户提问时先从知识库里检索出相关文档片段把“问题文档”一起交给模型让它基于文档内容回答。模型即使不知道你公司的事只要文档里有它就能答得八九不离十。RAG全称是Retrieval-Augmented Generation检索增强生成。它的核心思想是不把知识塞进模型参数里而是塞进Prompt里。这个思路非常重要它改变了“让模型变聪明”的方式。传统思路是训练出更聪明的模型而RAG的思路是让模型在回答问题那一刻能临时查阅资料。就好比一个知识渊博的实习生你不需要他背熟公司的每一个流程只需要告诉他在回答问题前先翻一下指定的资料文档。4.2 RAG的完整工作流程一个标准的RAG流程包含五个环节文档加载、文本切分、向量化、检索、生成。文档加载Loader负责把PDF、Word、Markdown、HTML等不同格式的文档读出来变成纯文本。这一步的难点在于解析各种格式PDF里可能还有表格、图片处理起来比较麻烦。文本切分Splitter负责把长文档切成一个个小的文本块。为什么必须切因为LLM有上下文窗口限制你不可能把一本几百页的文档塞进Prompt。切分策略直接影响检索效果后面会详细讲。向量化Embedding负责把文本块转换成向量也就是一串浮点数。向量化的意义在于把“语义相近的文本”映射到“距离相近的空间”。这样当用户问“怎么申请年假”时系统可以找到语义上最接近的“请假制度”相关文本即使问题和文档里没有完全相同的词。检索Retriever负责在向量数据库中寻找和用户问题最相关的Top-K个文本块。常见方式有向量相似度检索、关键词检索比如BM25还有两者结合的混合检索。生成Generation把用户原始问题和检索到的文本块组装成一个增强版的Prompt交给LLM生成答案。这时候模型回答问题时相当于拿到了参考资料幻觉问题会显著减少。4.3 RAG的三种常见变体朴素RAG、Agentic RAG与GraphRAG在深入学习之前你需要知道RAG并不是一个单一的技术它已经演化出很多变体。了解这些名称你才能在后续阅读资料时不迷路。朴素RAG也叫Naive RAG就是上面说的“检索一次、生成一次”的线性流程。优点是简单缺点是遇到复杂问题时会失效。比如用户问“对比一下A方案和B方案的区别”朴素RAG可能只检索到A方案的文档回答就会偏颇。高级RAG引入了一些优化手段包括对文档做更精细的切分、使用混合检索、重排Rerank等。它的目标是提升检索质量。Agentic RAG则是把Agent的决策能力引入到RAG流程中。它不是线性地检索一次就结束而是让模型自己决定需要检索几次一次检索不够就再检索一次原始问题拆成多个子问题分别查查完之后还要不要调用计算器这种方式解决的是多跳问答场景。GraphRAG是另一种值得关注的方向它先把文档构建成知识图谱再通过图谱结构增强检索。它特别适合需要回答“全局性问题”的场景比如“这个项目里哪些模块耦合比较严重”。不过它的工程复杂度较高零基础阶段不建议先碰。我的建议是先把朴素RAG跑通理解全流程再按需学习高级RAG和Agentic RAG。4.4 一套可运行的RAG最小实现下面是基于LangChain实现的一个最小RAG流程重点演示“切分-向量化-检索-生成”四步向量数据库使用的是FAISS。# 文件路径rag_basics/mini_rag.py from langchain_community.document_loaders import TextLoader from langchain_text_splitters import CharacterTextSplitter from langchain_openai import OpenAIEmbeddings, ChatOpenAI from langchain_community.vectorstores import FAISS from langchain_core.prompts import ChatPromptTemplate # 1. 加载文档 loader TextLoader(docs/company_policy.md, encodingutf-8) docs loader.load() # 2. 切分文档 splitter CharacterTextSplitter( separator\n, chunk_size300, chunk_overlap50, length_functionlen ) chunks splitter.split_documents(docs) print(f切分后的文本块数量: {len(chunks)}) # 3. 向量化并存储到FAISS embeddings OpenAIEmbeddings() vectorstore FAISS.from_documents(chunks, embeddings) # 4. 构建检索器 retriever vectorstore.as_retriever(search_kwargs{k: 3}) # 5. 定义RAG生成链路 prompt ChatPromptTemplate.from_messages([ (system, 你是一个严谨的企业知识库助手。请仅根据以下资料回答问题如果资料中找不到答案请明确回答不知道。), (human, 资料\n{context}\n\n问题{question}) ]) llm ChatOpenAI(modelgpt-4o-mini, temperature0) def ask(question: str): context_docs retriever.invoke(question) context \n\n.join([doc.page_content for doc in context_docs]) messages prompt.format_messages(contextcontext, questionquestion) response llm.invoke(messages) return response.content # 测试 result ask(请病假需要提前多久申请) print(result)这里有几个细节要重点解释。chunk_size和chunk_overlap是切分的关键参数。chunk_size决定每个文本块的长度chunk_overlap表示相邻块之间的重叠字符数。为什么要重叠因为文档在切分时如果正好在“申请时间”这句话的中间断开那么“提前多久”这个关键信息可能出现在上一块的末尾而这一块的开头根本不含时间信息。重叠可以保证信息不会因为生硬的切割而丢失。context拼接后的Prompt里你会看到“仅根据以下资料回答问题”这句话。这句指令极其重要。如果你不加上这个约束模型很可能在资料里没找到答案时依然根据自己训练时的记忆来编造一个答案。加上约束后它会更倾向于“不知道就承认不知道”。运行这个示例前需要安装依赖pip install langchain langchain-openai langchain-community langchain-text-splitters faiss-cpu运行之后程序输出应该是基于docs/company_policy.md内容生成的回答。如果文档里没有关于病假申请的内容模型应该回复“资料中未找到相关信息”。小结论RAG是“成本最低、见效最快”的LLM落地方式。它不需要训练模型不需要GPU只需要把文档准备好、切分好、存进向量库就能让模型回答私有知识问题。这也是为什么它在2025到2026年成为企业LLM应用的第一站。5. Agent智能体从被动对话到主动执行任务5.1 Agent和普通对话机器人的本质区别讲一个场景。你让普通聊天机器人帮你订一张机票。它最大的本事是给你生成一段“订机票指南”告诉你应该下载哪个App、什么时候买便宜、怎么选座位。但它不会真的打开浏览器不会真的帮你下单。它只负责说话不负责做事。而Agent不一样。Agent的核心能力是“行动”。它可以把你的任务拆解成多个步骤然后一步一步调用外部工具来完成。比如调用搜索工具查航班调用日历工具查你的空闲时间调用预订接口下单最后把确认信息发给你。所以Agent和普通对话机器人的根本区别在于一个只有语言能力一个同时具备语言能力和行动能力。技术上的定义是Agent LLM 规划Planning 工具调用Tool Use 记忆Memory。LLM充当“大脑”负责理解用户意图、制定计划、决定下一步调用什么工具工具是“手脚”负责真正执行操作记忆让Agent能记住之前的状态和结果。5.2 Agent的工作机制ReAct模式ReAct是Agent最经典的工作模式这个词是Reasoning和Acting的组合意思是“思考-行动-观察”的循环。我们用一个具体例子说明。用户问“帮我分析一下这份CSV文件里哪个城市的销售额最高并生成一份柱状图。”如果让普通LLM做这件事它只会给你一段代码建议。但如果让ReAct模式的Agent来做它会这样运转第一轮思考用户需要分析文件我需要先找到文件路径用Python工具读取它。 第一轮行动调用Python工具读取CSV文件。 第一轮观察文件里有三列城市、销售额、日期。第二轮思考文件读取成功了我需要用Pandas按城市分组汇总销售额。 第二轮行动调用Python工具执行分组汇总。 第二轮观察北京销售额最高是350万。第三轮思考分析完成了用户还需要柱状图我用Matplotlib生成并保存。 第三轮行动调用Python工具画图保存到本地。 第三轮观察图片已保存。最终回答向用户展示结果和图片路径。看到区别了吗Agent不是一次性生成最终答案而是一个“边做边看”的循环。每一步行动之后它都会观察结果再决定下一步做什么。这个循环让Agent能够应对不确定的、多步骤的复杂任务。ReAct模式还有一个关键价值可控制性。Agent的每一步思考和行动都以文本形式暴露出来你可以看到它是怎么推理的也可以在某一步插入人工审核。这在生产环境里非常重要。5.3 LangChain Agent示例让模型学会调用计算工具下面用LangChain实现一个最简单的Agent它只做一件事当用户问“345乘以678等于多少”时模型不再自己硬算而是调用计算工具来算。# 文件路径agent_basics/basic_agent.py from langchain_openai import ChatOpenAI from langchain.agents import create_react_agent, AgentExecutor from langchain_core.tools import Tool from langchain_core.prompts import PromptTemplate # 1. 定义一个工具函数 def multiply(a: str, b: str) - str: 计算两个数字的乘积。 try: result float(a) * float(b) return str(result) except Exception as e: return f计算失败: {e} # 2. 包装成LangChain Tool tools [ Tool( namemultiply, funcmultiply, description当用户需要计算两个数字相乘时使用此工具。输入是两个数字的字符串。 ) ] # 3. 初始化模型和Prompt llm ChatOpenAI(modelgpt-4o-mini, temperature0) prompt PromptTemplate.from_template( 你是一个能使用工具的智能助手。请根据用户的问题逐步思考并选择正确的工具。 可用工具 {tools} 工具名称列表 {tool_names} 你的回答必须遵循以下格式 思考你当前对问题的分析 行动工具名称 行动输入: 工具的输入参数 观察工具返回的结果 ...思考/行动/观察可以重复多次 最终答案针对问题的最终回复 用户问题{input} 工作区记忆{agent_scratchpad} ) # 4. 创建Agent和执行器 agent create_react_agent(llmllm, toolstools, promptprompt) agent_executor AgentExecutor(agentagent, toolstools, verboseTrue) # 5. 执行 result agent_executor.invoke({input: 请计算345乘以678等于多少}) print(result[output])运行示例python agent_basics/basic_agent.py你会看到Agent先输出“思考”过程然后调用multiply工具拿到计算结果后再生成最终答案。这段代码有几个概念值得拆解。Tool的description字段非常重要。模型通过这个描述来判断“什么情况下该用这个工具”。如果你的描述写得不清楚模型就无法正确调用。比如这里如果只写“计算器”模型可能不知道它适合什么场景写上“当用户需要计算两个数字相乘时使用”模型就能精准匹配。create_react_agent的作用是构建一个符合ReAct模板的Agent。它要求模型输出“思考-行动-观察”的结构执行器根据这些输出决定下一步动作直到模型给出“最终答案”。小结论Agent是LLM应用从“信息输出”走向“任务执行”的关键升级。零基础学习Agent时重点不是去背Agent框架的API而是理解ReAct循环的逻辑思考、行动、观察、再思考。这个逻辑在很多Agent框架里都一样只是接口不同。6. 大模型微调什么时候需要它以及它与RAG的分工6.1 先判断你需不需要微调很多初学者把微调当成大模型开发的必经之路感觉不微调就没学到精髓。但真实项目中微调的优先级远低于RAG和Agent。为什么因为微调的成本和风险都很高。先看成本。微调需要GPU资源。虽然现在有LoRA这类高效微调技术但完整的微调流程依然比调用API贵得多。再看风险。微调可能导致模型“灾难性遗忘”——模型学会了新知识但把原有能力忘了。最后看维护成本。你的业务数据经常变化每次变化都可能需要重新微调。所以我建议遇到下面这些情况时才考虑微调第一个模型风格和格式不符合要求。比如你希望模型输出的文案固定为某种品牌语气或者必须按特定的JSON结构输出提示词怎么调都调不稳。第二个你需要模型掌握大量固定的领域知识。比如医学诊断规则、法律条文解读、特定编程框架的用法。这种“稳定知识”更适合通过微调注入。第三个你需要降低推理成本。如果频繁把长文档塞进Prompt每次请求的Token消耗会很高。微调让模型提前把这些知识记住可以减少Prompt长度。如果只是想让模型回答公司内部制度问题应该优先用RAG如果是想改变模型的语气和输出格式先试提示词工程真正到提示词和RAG都解决不了时再考虑微调。6.2 微调的核心概念全参微调、LoRA与QLoRA微调分为几种类型零基础需要先理解它们之间的差异。全参微调Full Fine-tuning是对模型所有参数进行训练。效果最好但显存占用巨大。以7B模型为例全参微调通常需要80GB以上的显存对一般开发者不现实。LoRA是微软提出的一种高效微调方法。核心思想是冻结原始模型的全部参数在模型旁路添加一个小型的低秩矩阵只训练这部分新增参数。这样训练参数量可能只有原模型的1%以下大大降低了显存需求。7B模型用LoRA一张24GB的消费级显卡就有机会跑起来。QLoRA则是LoRA的进阶版。它在LoRA的基础上引入了模型量化把原始模型压缩到4-bit或8-bit精度进一步降低显存占用让更多人在消费级GPU上微调模型成为可能。对于零基础学习者我建议直接学LoRA它兼顾了效果和门槛是当前社区的主流选择。6.3 微调的完整流程一次标准的微调流程包括数据准备、数据格式化、训练和评估四个步骤。数据准备是整个流程中最关键的一环。你需要收集和整理训练语料语料的质量直接决定微调效果。业界常说“Garbage in, garbage out”数据质量差训练一万步也没用。以对话模型为例一条训练数据通常包含instruction指令、input输入和output期望输出三部分。数据格式化是把原始数据转换成模型能学习的JSON格式。下面是ChatML格式的一个示例它用特殊的角色标记区分系统指令、用户输入和模型回答。[ { messages: [ {role: system, content: 你是一个严谨的金融分析师回答必须注明数据来源。}, {role: user, content: 分析2025年第四季度新能源车的销量趋势。}, {role: assistant, content: 根据中汽协数据2025年第四季度新能源车销量同比增长32%其中纯电动车型占比68%。} ] } ]训练环节推荐使用HuggingFace的Transformers库配合PEFT库实现LoRA训练。这里给出一个训练脚本的骨架用于展示核心训练逻辑完整配置请以你实际环境和模型为准。# 文件路径finetune_basics/lora_train.py from datasets import load_dataset from transformers import ( AutoTokenizer, AutoModelForCausalLM, TrainingArguments, Trainer ) from peft import LoraConfig, get_peft_model # 1. 加载模型和分词器 model_name Qwen/Qwen2-1.5B-Instruct # 以实际可用模型为准 tokenizer AutoTokenizer.from_pretrained(model_name, trust_remote_codeTrue) model AutoModelForCausalLM.from_pretrained( model_name, trust_remote_codeTrue, device_mapauto ) # 2. 配置LoRA lora_config LoraConfig( r8, lora_alpha16, target_modules[q_proj, k_proj, v_proj, o_proj], lora_dropout0.1, biasnone, task_typeCAUSAL_LM ) model get_peft_model(model, lora_config) model.print_trainable_parameters() # 3. 加载训练数据 dataset load_dataset(json, data_filesdata/train.jsonl, splittrain) def format_instruction(example): messages example[messages] text tokenizer.apply_chat_template( messages, tokenizeFalse, add_generation_promptFalse ) return {text: text} dataset dataset.map(format_instruction) # 4. 训练参数 training_args TrainingArguments( output_dir./lora_checkpoints, per_device_train_batch_size1, gradient_accumulation_steps8, num_train_epochs3, logging_steps10, save_steps500, learning_rate2e-4, fp16True ) # 5. 执行训练 trainer Trainer( modelmodel, argstraining_args, train_datasetdataset ) trainer.train() # 6. 保存LoRA权重 model.save_pretrained(./lora_output) tokenizer.save_pretrained(./lora_output)脚本中有几个关键点需要理解。target_modules指定了要插入LoRA适配器的模块。对于不同的模型这个列表可能不同。对于基于Llama架构的模型通常是q_proj、k_proj、v_proj、o_proj这些注意力模块。gradient_accumulation_steps的意义是当单卡显存装不下大batch时通过多次小batch累加梯度来模拟更大的batch size。比如batch_size1加上accumulation_steps8效果相当于batch_size8。fp16是混合精度训练可以显著降低显存占用并加速训练。如果你的GPU不支持可以去掉。评估阶段你需要用微调后的模型对一批测试问题进行推理观察模型输出的风格、格式和准确性是否符合预期。这一步不能省否则你无法确定微调到底是让模型变好了还是变差了。小结论微调不是零基础入门的第一站但它是进入高级阶段后必须掌握的核心技能。正确路线是先跑通RAG和Agent再根据业务需求判断是否微调。如果你最终决定要学微调请从LoRA开始它性价比最高。7. 零基础大模型开发学习的完整路线规划讲完了四个核心技术最后帮你串成一条可落地的学习路线。这条路线是我结合大量学习者反馈整理的更推荐按照“基础-工具-实战-进阶”四个阶段推进。7.1 第一阶段LLM基础与Prompt工程第1-2周目标跑通LLM API调用理解Prompt的基本规律。这个阶段不要碰LangChain不要碰RAG就做三件事注册一个模型服务商账号调用一个API跑通最小对话理解System、User、Assistant三种消息角色的作用尝试用不同的Prompt写法解决一个具体任务比如让模型从一段文字中抽取结构化信息。每天拿出1到2小时写代码一定会有明显进步。7.2 第二阶段LangChain核心组件与RAG落地第3-5周目标能用LangChain搭建一个完整的知识库问答应用。先过一遍LangChain的五个核心概念再找一个真实的业务场景来实践。最推荐做的第一个RAG项目是个人知识库助手把你自己这几天的学习笔记做成一个Markdown文件切分、向量化让模型基于笔记回答你的问题。这个项目麻雀虽小五脏俱全。你会同时接触到文档加载、文本切分、向量化、向量数据库和Prompt模板这些核心知识点。7.3 第三阶段Agent与工具调用第6-7周目标做一个会调用外部工具的Agent。先理解ReAct循环再实现一个至少包含两个工具的Agent比如一个计算工具加一个搜索工具。然后尝试让Agent完成一个多步骤任务比如“先查询明天的天气再根据天气情况生成一条穿衣建议”。做这个项目时你会开始理解“规划”和“工具调用”的边界在哪里也会遇到Agent“绕圈子”“调用失败”等真实问题这些问题本身很值得收集和总结。7.4 第四阶段微调与综合项目第8-10周目标完成一个综合项目并把LoRA微调跑通。综合项目建议选一个你熟悉的领域比如一个有内部文档的企业知识库问答系统或者一个带数据分析能力的客服助手。项目要把前面学的LangChain、RAG、Agent串起来RAG负责知识注入、Agent负责任务执行、LangChain负责流程编排。在这个阶段你再尝试用LoRA微调一个小模型让它模仿某个特定风格的回答会把整个知识体系贯通起来。8. 学习大模型开发中的常见问题与排查思路根据很多学习者的反馈我整理了一批最高频的问题和对应的排查方式。问题现象可能原因排查方式解决方案API调用报401错误API密钥无效或权限不足检查环境变量是否设置正确确认密钥是否过期重新生成密钥确认使用正确的模型服务商地址调用LangChain报AttributeError安装的LangChain版本过旧或过新API已变更查看错误堆栈中对应的模块查阅官方文档統一项目依赖版本必要时用pip show langchain确认当前版本RAG回答不准确文本切分不合理或检索到的内容不相关打印检索到的上下文检查检索结果质量调整chunk_size和chunk_overlap尝试混合检索向量化速度很慢数据量过大或Embedding模型使用不恰当查看日志中耗时占比使用批量Embedding或换用更快的Embedding服务Agent不调用工具工具的description描述不清打印Agent思考日志观察它的推理过程优化工具描述补充使用场景和输入格式示例Agent调用工具参数格式错误大模型生成的参数和工具签名不匹配查看Agent传入的参数JSON在工具函数中增加参数校验或使用更清晰的工具输入Schema微调训练显存不足batch size过大或未使用LoRA查看GPU显存使用情况减小batch size开启gradient_accumulation_steps尝试QLoRA微调后模型变笨学习率过高或训练轮数过多对比微调前和微调后的回答质量降低学习率减少epoch增加验证集观察过拟合其中我认为最重要的一条经验是当你在LangChain或Agent项目中遇到问题时第一步不是盲改代码而是打开详细日志。LangChain的AgentExecutor设置了verboseTrue后会完整输出Agent的每一个“思考-行动-观察”步骤。很多时候问题根本不在代码而在模型的思考决策上。9. 最佳实践与工程建议9.1 版本与依赖管理LangChain生态的迭代速度非常快版本兼容性问题十分常见强烈建议在项目目录下维护 requirements.txt 或使用 Poetry/Pipenv 管理依赖。不要直接pip install langchain然后指望所有API都能用版本不同接口差异很大。我建议在项目启动时就固定一个文档号为基准的版本组合并记录在README中。9.2 密钥与安全规范所有模型API密钥一律通过环境变量或密钥管理服务注入严禁硬编码到代码里。如果你把项目推送到Git仓库要确认 .gitignore 文件已排除.env文件。在Agent项目中工具调用权限要遵循最小权限原则。一个负责文档检索的Agent不应该拥有删除数据库的权限一个能执行代码的Agent应该在沙箱环境中运行。9.3 RAG指标与效果评估很多初学者做完RAG项目后只凭感觉判断“回答还行吧”这是不够的。RAG项目至少要跟踪两个环节的指标检索质量和生成质量。检索质量可以用召回率、命中率等指标衡量。简单做法是准备一组测试问题人工标注每个问题应该在知识库中命中哪些文档然后看检索结果是否覆盖了这些文档。生成质量可以用准确率、忠实度等指标来评估关注模型回答是否严格基于检索文档有没有引入文档之外的信息。定期用同一套测试集跑回归可以避免项目迭代过程中效果倒退而不自知。9.4 从Demo到生产环境的差距本地跑通一个RAG Demo和生产环境运行一个知识库系统中间还有一道巨大的鸿沟。生产环境你还需要考虑向量数据库的高可用和备份、接口服务的限流与鉴权、日志监控与告警、Prompt的灰度更新、知识文档版本变化后如何同步更新向量库。对于零基础学习者前期不需要一次性把这些问题全解决但心里要有一个意识Demo和产品之间差着工程化工程化能力才是你未来竞争力的真正壁垒。10. 总结与后续学习方向回顾这篇文章核心其实就两句话。第一句大模型开发对零基础是友好但不是无门槛这个门槛不在数学和算法而在工程化思维。你需要先理解LLM为什么和传统编程不一样再通过LangChain学会编排用RAG解决知识和幻觉问题用Agent实现任务执行需要时再通过微调定制模型能力。第二句学习路径比学习素材更重要。与其漫无目的地搜集资料不如按“LLM基础 - LangChain - RAG - Agent - 微调”的顺序一步一个脚印跑通项目。如果你已经看到这里我建议你立刻做一件事打开编辑器把文中第一个LLM调用示例运行出来。不要等到把所有概念都理解透了再动手。在大模型这个领域跑通一个最小例子比读十篇教程更有用。后续值得深入学习的方向包括LangGraph的状态流编排、GraphRAG在复杂知识场景中的应用、RAG系统的评测体系建设、Agent在生产环境中的稳定性与安全设计以及基于QLoRA的低资源微调实践。这些方向都是建立在这篇文章的主干路径之上的。走完主干再选一个方向深耕你会比大多数人领先一步。