利用大语言模型与知识图谱提升制造业中机器学习模型的可解释性

以透明且对用户友好的方式解释机器学习（ML）结果，仍是可解释人工智能（XAI）的一项具有挑战性的任务。本文提出一种借助知识图谱（KG）提升ML模型可解释性的方法。我们将领域特定数据与ML结果及其对应解释一同存储，在领域知识与ML洞察之间建立结构化连接。为让用户能够获取这些洞察，我们设计了一种选择性检索方法：从KG中抽取相关三元组，再由大语言模型（LLM）处理，生成对用户友好的ML结果解释。我们在制造环境中使用XAI Question Bank（XAI问题库）对方法进行了评估。除标准问题外，我们还引入更复杂、定制化的问题，以凸显该方法的优势。我们评估了33个问题，用准确率、一致性等定量指标以及清晰度、实用性等定性指标分析回答。我们的贡献兼具理论与实践：在理论上，我们提出一种新方法，使LLM能够有效、动态地访问KG，从而提升ML结果的可解释性。在实践上，我们提供了经验证据，表明此类解释可以成功应用于真实制造环境，支持制造过程中更好的决策。