什么时候选 RAG什么时候选微调RAG1.知识经常变动文档、业务数据会更新不想每次重新训练模型2.需要溯源要求回答能给出文档参考来源 方便排查对错3.没有大量高质量训练数据集4.不想耗费大力算力做训练微调1.需要改变模型输出风格格式语气固定输出JSON、特定话术2.知识相对固定很少改动3.手里有大量高质量标注数据集4.追求更低推理延迟缺点改知识就要重新微调 成本高属于黑河不好溯源工程最佳实践很多项目不是二选一RAG微调组合使用RAG负责提供实时业务知识库。微调负责调教模型输出格式 、语气让模型更好使用检索出来的上下文。可能的面试提问1.RAG能完全消除幻觉吗答不能。RAG只是降低幻觉如果检索到错误片段Chunk切分问题prompt约束弱大模型依旧会编造内容。2.有业务文档我直接微调行不行答不推荐业务文档经常更新微调一次成本很高文档一变就需要重新训练模型优先RAG