使用知识图进行自适应科学解释的代理角色

人工智能解释方法通常假设静态用户模型，无论专家目标、推理策略或决策背景如何，都会产生非自适应解释。基于知识图的解释尽管能够进行基于路径的推理，但仍然继承了这一限制。在科学发现等复杂领域，这种假设无法捕捉专家之间认知策略和认知立场的多样性，从而阻碍了促进更深入理解和明智决策的解释。然而，人类专家的稀缺限制了使用直接的人类反馈来产生适应性解释。我们提出了一种用于科学解释生成的强化学习方法，该方法结合了代理角色、专家推理策略的结构化表示，引导解释代理走向特定的认知偏好。在对基于知识图谱的药物发现解释的评估中，我们测试了两个角色，它们捕捉了来自专家反馈的不同认知立场。结果表明，角色驱动的解释与最先进的预测性能相匹配，而角色偏好与相应专家的偏好密切相关。适应性解释始终优于非适应性基线 (n = 22)，并且基于角色的培训将反馈要求减少了两个数量级。这些发现证明了代理角色如何在复杂和高风险的领域中为人工智能系统提供可扩展的自适应可解释性。