CHOQOLATE：用 Choquet 积分组织概念瓶颈潜在空间

基于 CLIP 等视觉语言模型构建的概念瓶颈模型 (CBM) 将潜在空间表示为人类可理解的概念。这些表示是不忠实的：相关概念相互纠缠，因此各个分数没有反映其预期含义。我们提出了 CHOQOLATE，一个基于 2-可加 Choquet 积分的可解释设计层，它将相关概念合并到紧凑节点中。在四个数据集上，CHOQOLATE 通过权重稀疏和语义一致的节点实现了良好的准确性和可解释性权衡。由实验支持的封闭式梯度推导解释了为什么 Choquet 层在没有明确监督的情况下驱动这个组织。 Choquet 权重还直接映射到 Shapley 值，从而可以进行测试时干预。在标准偏差缓解基准上，训练后抑制虚假概念的效果与需要组注释或重新训练的方法相当，但两者都不需要。