用于电信客户支持的 SLM 的 PEFT：LoRA 配置与能耗分析的比较研究

虽然 大语言模型 (LLM) 在自然语言理解和生成方面表现出强大的性能，但它们对电信客户支持中特定领域约束的评估和适应仍然有限。此外，数据主权、监管限制以及敏感客户和网络信息的处理使该领域外部托管基础模型的使用变得复杂。我们提出了对参数高效 微调 (PEFT) 的系统研究，使用应用于 Qwen2.5-3B 的低秩适应 (LoRA) 来构建特定领域的会话助手。我们引入了一种基于 52 个行业特定术语的术语表的组合合成数据生成方法，通过由 Gemini 2.0 Flash 提供支持的生成管道，在 1,560 个不同的问题场景中生成大约 30,000 个训练示例。我们通过不同的超参数和目标模块评估 16 个 LoRA 配置。我们的评估超越了标准指标，使用 LLM 法官框架与 GPT-5.2 和 Claude 4.5 Sonnet 结合能耗分析和定性评估。结果显示定量和定性性能之间存在明显差异：实现最低验证损失的模型不一定获得最佳的人类对齐排名。根据两位评委的评价，最佳验证损失（0.5024）在定性评估中仅排名第 6-7 位，而最差损失（0.6807）排名第一。这项工作贡献了（1）用于合成数据集构建的组合方法，（2）深入了解 LoRA 注入的目标模块选择的影响，（3）证明仅验证损失不足以在对话式 AI 中选择 微调 配置，以及（4）可持续 LLM 部署的能源性能权衡分析。