结合异构注意力结构的 Transformer 模型的通用解释方法

Transformer极大地推动了人工智能的发展，当然也推动了智能体的发展。我们根据输入信息的来源将 Transformer 的注意力结构分为两种类型：同质注意力结构和异质注意力结构。异质注意力结构（以共同注意力为典型例子）处理来自不同来源的信息。异构注意力结构是Transformer模型实现更复杂功能、集成更多模态信息的基础。无论是出于研究目的还是政策需求，解释具有异构注意力结构的 Transformer 模型都是一项重要任务。不同来源的信息融合带来了新的挑战。我们的工作主要包括两部分：方法和实验。在方法方面，我们提出了一种具有异构注意力结构的 Transformer 模型的解释方法。实验方面，基于我们的实验分析范式，解读代表性模型的运行机制，进行语义解释和逻辑解释。