文章主要内容总结本文聚焦于从大型语言模型（LLMs）向小型语言模型（SLMs）蒸馏共情能力的问题，旨在确保SLMs在保持高效性的同时，保留LLMs已具备的共情能力（这对人机交互频繁的资源受限场景至关重要）。研究核心包括三部分：两步微调流程：先通过有监督微调（SFT）让SLMs学习高共情响应，再通过基于直接偏好优化（DPO）的强化学习（RLHF），利用（低共情、高共情）响应对进一步优化，提升模型对共情细微差别的把握。三种共情蒸馏方法：直接蒸馏：直接让LLMs生成共情响应作为训练数据；针对人类响应的定向共情改进：以人类响应为基础，通过提示词让LLMs优化其共情能力；针对LLM初始响应的定向共情改进：以LLMs生成的初始响应为基础，通过提示词进一步优化，摆脱对人类数据的依赖。四种提示策略：基于共情的三个维度（认知、情感、同情）设计，包括单独优化某一维度、同时优化三个维度、按顺序优化三个维度、先识别缺失维度再优化，以增强蒸馏效果。评估显示，经两步微调且结合定向共情改进提示的SLMs，生成共情响应的胜率超过90%，显著优于基础SLMs；定向提示策略比直接提示的胜率提升10%以上，部分微调后的SLMs甚至在共情能力上超过了GPT-4o。创新点提出了系统的共情蒸馏框架，将两步微调（SFT+RLHF DPO）与定向