一、入门调优措施1、RAG检索、增强、生成解决幻觉问题、实时性、权威知识库2、Prompt:提示工程设定风格、上下文关联3、Fine-tuning 微调特定领域知识的理解和输出4、LORA: 少量新增参数降低算力参数高效微调5、RLHF:人类反馈的强化学习6、MOE:混合专家模型专家子模型算力不足7、Agent (智能体)分解复杂任务执行多步骤流程LangChainAutogpt8、准确性提升RAG 私有知识库提示工程思维链引导COTRLHF人类强化学习二、相关技术1、embedding简介Embedding 就是把文字、图片这种人类能看懂的内容转换成一串固定长度的数字数组向量让大模型能够计算「两段文字语义像不像」。以饭团 AI 营养师 RAG举例核心就靠它做语义相似度匹配。CREATE TABLE nutrition_knowledge ( id BIGINT AUTO_INCREMENT PRIMARY KEY, doc_type TINYINT COMMENT 1食材营养 2减脂指南 3食谱模板 4人群膳食标准, title VARCHAR(255) COMMENT 知识标题, content TEXT COMMENT 完整知识库文本膳食指南/食材参数/饮食方案, vec BLOB COMMENT 向量embedding二进制第三方接口返回数组转二进制存储, create_time DATETIME DEFAULT NOW(), KEY idx_type (doc_type) );举个生活化例子文字 A大基数减脂怎么安排一日三餐 B体重比较大想要减重求三餐食谱 C推荐高血压适合吃什么菜人一眼能看出A 和 B 意思接近A 和 C 完全无关。计算机不能直接读懂文字它只能运算数字。 调用 Embedding 接口后A →[0.12,0.35,-0.21,……]768 维数字数组B →[0.11,0.33,-0.19,……]C →[0.72,-0.13,0.05,……]然后通过公式计算余弦相似度 A 与 B 相似度很高A 与 C 相似度很低。这就是 RAG 能够实现「按意思搜索不是只匹配关键词」的底层原理。关键概念拆解向量Vector一串浮点数列表常见维度768、1024 维。维度越高语义表达越精细计算开销更大。Embedding 模型专门负责转换文本的小模型千帆 Embedding、通义 Embedding、text-embedding 等注意不是聊天大模型是专门做编码的模型。余弦相似度衡量两个向量有多接近数值越靠近 1 → 语义越相似靠近 0 → 几乎无关负数 → 含义相反结合「饭团 AI 营养师」RAG 场景串联完整流程用户提问大基数减脂适合点哪些外卖调用 Embedding 接口把这句话转为向量 Query_VecMySQL 里预先存好了所有营养知识库文本对应的向量 Doc_Vec程序循环计算 Query_Vec 和每一条 Doc_Vec 的余弦相似度选出相似度最高 Top3 的膳食指南、外卖减脂资料把检索出来的权威资料拼进 Prompt一起丢给 LLMLLM 依据权威资料回答减少编造热量、错误建议缓解幻觉区分两个容易混淆的东西LLM对话大模型负责聊天、生成答案饭团营养师对话主体Embedding 模型负责文字转数字做语义检索RAG 专用工具不产生对话方案重要的实操要点全程必须使用同一个 Embedding 模型不能一部分向量用千帆、一部分用 OpenAI维度、分布不一样相似度计算完全失效。文本要合理分块 《中国居民膳食指南》不要整一篇丢进去切成 300800 字小段检索精度更高。向量存储形式 向量数组可以序列化为 JSON / 二进制 BLOB 存入 MySQL就是你前面方案里用到的方式。极简总结Embedding 文字 → 数字向量的翻译器有了它你的知识库才能实现用户问同义不同字的问题依然能搜到对应的营养知识。 没有 Embedding只能靠 MySQL 关键词检索换一种说法就匹配不到内容。