开源项目

Debug-XAI:Transformer归因调试工具

microsoft/Debug-XAI

模型评测模型行为与机制分析

概述

Debug-XAI是微软发布的面向Transformer调试的可解释AI工具,提供对比归因分析实现,帮助研究者在模型行为异常时定位相关原因,README配套Colab演示与论文链接。项目2月11日创建,采用MIT许可,提供安装步骤与分析服务启动命令。做模型调试、归因分析与可靠性研究的团队,可按其说明在本地部署分析服务,对自有模型的异常输出做归因定位,并将结论用于改进训练数据或结构。