论文
GFGE:通过解释框架统一可解释的人工智能方法
GFGE: Unifying Explainable AI Methods through an Interpretation Framework
摘要
可解释的人工智能(XAI)包含利用不同信息源并满足不同解释需求的方法。需要一个通用框架来描述这些信息如何成为证据并作为对特定接收者的解释进行传达。我们提出了生成解释的通用框架(GFGE),该框架基于解释框架以及 sense-reading 和 sense-giving 的补充活动。其概念基础是解释/解释模式(IES),它将分析师对系统证据的解释、选定帐户的通信以及接收者对该帐户的解释联系起来。 GFGE 通过五个角色来操作此模式:数据解释、模型解释、输出解释、可选的事后分析和聚合。角色类型的操作图记录了方法特定的依赖关系,而证据记录保留了解释性声明的来源、假设和限制。解释性问题、受众和背景指导整个过程。我们实例化 GFGE 用于归因、代理模型、反事实、概念和原型、内在规则、论证和语言模型方法。这些实例展示了如何通过相同的角色来表示内在的、事后的和混合的工作流程,同时保留其独特的证据要求。 GFGE 为分析解释工作流程、跟踪所传达的主张及其证据以及识别未解决的解释依赖关系提供了通用基础。