论文

向谁解释:为不同受众生成XAI说明的多智能体系统

Who Are You Explaining To? A Multi-Agent System for Audience-Aware XAI Narratives

智能体系统Agent 协作

摘要

SHAP 等特征归因方法提供了有关单个模型预测的有用证据,但其数值输出对于具有不同专业知识、目标和误解风险的受众来说很少足够。在医疗人工智能中,相同的本地解释必须通过明显不同的沟通形式到达患者、临床医生和数据科学家,而通过 大语言模型 (LLM) 的天真的语言很容易出现基础薄弱、将归因与因果语言混为一谈,以及输出有说服力但不忠实于底层模型证据。我们引入了 XstrAI,这是一个受众感知的多代理框架,它将本地解释视为固定证据,并构建如何将其传达给每个目标读者。每个预测案例都被编码为不可变的结构化表示,在受众之间相同地共享,因此底层证据保持固定。生成被分解为三个专门的 LLM 代理,负责受众感知规划、语言实现以及基础、归因一致性、沟通风险和受众适当性的验证,并在检测到不一致时触发有界修订循环。我们根据 11 条基线评估 XstrAI 在糖尿病和中风风险预测方面的表现,从直接语言表达到重新实现最先进的叙述者。该评估将衡量 SHAP 证据保真度的叙事内机制与通过参考语料库、多家庭 LLM 评委和目标读者调查评估受众适当性的叙事外机制结合起来。在这两项评估中,XstrAI 的叙述始终由独立评委分配给目标受众,并且优于临床医生和患者受众的所有基线,在数据科学家上具有竞争性的表现,其中受众条件单一提示基线领先。