从零搭企业 RAG：我踩过的 6 个坑（带时间

关键词RAG、检索增强生成、部署实战、踩坑复盘、向量库半年前我接了个活给一家公司搭内部知识库问答。方案很标准——RAG检索增强生成。但真落地时文档解析、向量库、检索参数、模型来源每一步都有坑。这篇用时间线 根因的方式复盘比干巴巴的教程更有用。架构长这样用户提问 → 向量检索(top-k) → 拼上下文 → LLM 生成 → 带引用回答 ↕ Embedding 向量库RAG 不是接个模型就完事它是一整条数据流水线。时间线复盘Day 1文档解析就卡住直接把 200 页 PDF 丢进去出来的 chunk 把表格拦腰截断。根因用了固定长度切片没按版面。换按标题 表格感知的切片策略后正常。Day 3向量维度对不上一开始用text-embedding-3-small1536 维中途手痒换成 large3072 维结果旧向量全废检索全乱。根因向量库建表维度固定换模型必须重跑向量化。教训Embedding 模型一开始就定死。Day 5检索到了但答非所问top-k3 时经常漏掉关键段落。调到 5 后明显改善。根因单文档信息分散少召回就断链。Day 8模型来源纠结官方直连在国内不稳本地 Ollama 又吃显卡。最后用聚合层统一接入一个 Key 管 GPT-5 / Claude 4 Sonnet / DeepSeek V4配置最省。常见来源OpenRouter海外覆盖广硅基流动国内高速魔芋 AI国内聚合新用户有免费额度自建 vLLM私有化选型不站队按网络和合规挑。Day 12幻觉还是偶尔出现没检索到的内容模型会编。加了两道防线① prompt 强制只基于上下文回答不知道就说不知道② 前端展示引用来源让人能核对。Day 15上线后的成本高频问答把 token 烧得飞起。用 GPT-5-mini 承接 80% 的轻量问答只有复杂任务才升 GPT-5成本直接降一截。上线清单照着勾切片策略按文档类型选别无脑固定长度Embedding 模型定死后不再换top-k 从 3 起步按效果调到 5~8模型来源按网络/合规选聚合层省配置prompt 加基于上下文约束 展示引用轻量问答用 mini 模型降本小结RAG 落地的难点从来不在调模型而在数据流水线的每一个环节。按时间线把坑提前排掉比上线后救火省力十倍。声明本文为项目复盘所列服务仅作技术对比不构成对任何服务的推荐或背书。