论文
基于检索和微调的 LLM 工业资产健康监测和决策支持方法
Retrieval-based and Fine-tuned LLM Approaches for Industrial Asset Health Monitoring and Decision Support
摘要
工业工厂运行着许多重要的机器,例如泵、涡轮机和压缩机。尽管工程师可以利用他们的经验来识别和诊断机器问题,但将这种推理能力转移到计算机系统仍然很困难。这项工作研究了仅检索方法和开源 大语言模型 (LLM) 使用 FailureSensorIQ 基准(IBM Research 推出的一项多项选择问答任务)执行故障传感器诊断推理的效果。在仅检索方法中,每个答案选项都被转换为选项级查询,并使用训练数据中类似的正确和错误记录进行评分。对TF-IDF、BM25、语义搜索、混合搜索进行了测试和比较。在基于 LLM 的方法中,使用零样本提示、少样本提示和 QLoRA 微调 来评估 Qwen2.5-7B-Instruct 模型。结果表明,语义搜索和混合搜索比纯关键字匹配技术表现更好,这表明基于含义的相似性对于工业故障传感器推理更为重要。在基于 LLM 的方法中,微调模型实现了最佳性能,并且比零样本和少样本提示有了显着改进。错误分析表明,随着答案选项数量的增加,性能会下降。稳健性分析还表明,所有方法都对选项改组、标签更改、释义和其他干扰因素敏感。