论文
SimXAI以工具调用LLM替代解释系统的分立对话模块
SimXAI: A Simple Drop-in Layer Increases Interaction Quality and Understanding in Conversational XAI
摘要
会话式可解释人工智能 (ConvXAI) 代理通常使用 GUS 风格的架构，其中包含用于意图识别、对话管理和基于模板的响应生成的单独模块。虽然忠实于底层的 XAI 方法，但这些管道很难适应，并且常常难以应对与上下文相关的后续问题。我们推出了 SimXAI，这是一个以 LLM 为中心的轻量级对话层，它用单个可调用工具的 LLM 取代这些模块，由它统一接入已有 XAI 资源。 SimXAI 不是一个独立的代理，而是作为一个模块化接口，支持对外部 XAI 资源的会话访问。我们进一步引入了用于单轮和多轮解析、忠实度和上下文化的评估套件。在现有和新的数据集中，SimXAI 实现了强大的函数选择准确率和高忠实度，同时更好地处理上下文相关的请求。在一项仅替换 TalkToModel（基于 GUS 的代表性代理）的对话层的用户研究中，用户更准确地完成任务，并且轮次更少。总体而言，SimXAI 改进了基于 GUS 的设计，同时保持了忠实性并提高了对话质量。
