论文
选项卡形状
TabSHAP
摘要
针对序列化表格数据进行微调的 大语言模型 (LLM) 正在成为传统基于树的模型的强大替代品,特别是对于异构或上下文丰富的数据集。然而,它们在高风险领域的部署因缺乏忠实的可解释性而受到阻碍;现有方法通常依赖于全局线性代理或标量概率偏移,而无法捕获模型的全部概率不确定性。在这项工作中,我们引入了 TabSHAP,这是一个与模型无关的可解释性框架,旨在直接归因于基于 LLM 的表格分类器中的本地查询决策逻辑。通过采用具有全输入和屏蔽输入类分布之间的 Jensen-Shannon 散度的 Shapley 式采样联盟估计器,TabSHAP 可以量化每个特征的分布影响,而不是简单的预测翻转。为了与表格语义保持一致,我们在序列化键:值字段(提示字符串中的原子)级别进行屏蔽,而不是单个子词标记。对成人收入和心脏病基准的实验验证表明,TabSHAP 隔离了关键的诊断特征,实现了比随机基线和 XGBoost 代理更高的 忠实性。我们进一步在相同的测试实例和 TabSHAP 设置上运行距离度量消融:在相似性步骤中用 KL 或 L1 替换 JSD 重新计算归因(每个度量缓存的结果),并且我们比较所有三个中的删除 忠实性。