论文
情节:通过神经因果抽象中的最佳传输进行渐进定位
PLOT: Progressive Localization via Optimal Transport in Neural Causal Abstraction
摘要
因果抽象为机械可解释性提供了原则框架,将高级因果模型与神经网络通过反事实干预分析实现的低级计算相结合。分布式对齐搜索(DAS)等现有方法学习表达子空间干预,但相关神经位点是先验未知的,因此找到句柄需要对候选位点进行计算繁重的搜索。我们引入了 PLOT(通过最佳传输进行渐进定位),这是一种基于传输的框架,可从抽象和神经干预的输出效应几何中定位因果变量。 PLOT 适合抽象变量和候选神经位点之间的最佳传输耦合,产生可以校准为干预句柄的全局软对应关系。在简单的设置中,单个神经元的单个耦合就足够了。在较大的模型中,PLOT 被逐步应用,从粗略的位置(例如词元、时间步长或层)转向更精细的支持(例如坐标组或 PCA 跨度),并可选择基于局部信号引导 DAS。在复杂性不断增加的实验中,仅传输 PLOT 处理速度非常快,并且在准确性方面具有竞争力,而 PLOT 引导的 DAS 只需完整 DAS 运行时间的一小部分即可达到 DAS 级别的准确性,为大规模因果抽象研究提供了高效的定位引擎。