结构清晰：注意力和端到端 Transformer

一篇配套论文表明，Transformer 的前馈层可以从显式模糊集操作（交集、集差和自忘序列量词）重建，因此其隐藏单元可以读取为命名逻辑运算符，而不会影响语言模型质量。这使得 Transformer 的另一半变得不透明。在这里，我们将相同的思路扩展到注意力机制，并将两者合并为一个模型。该机制很简单：head 的值通过 sigmoid 传递，因此每个值通道都成为一个可读的检测器，用于检测某个特征是否包含在词元上。这不会添加任何参数，并且标准头不会受到任何影响。布尔变体更进一步，将值重组为显式的词元内交集和可否定的集合差异。在这两种设计中，输出投影都是自由的，不与词汇绑定，这是承载决策：限制头部检测的内容，同时使其写入的内容不受约束，从而产生选择性检测器，而限制写入则不会。有界值通过两种选择性压力形成可读探测器——一种用于稀疏发射，一种用于在轨道上进行决定性发射——而设计想要的并不通用。在 125M 个参数的五种专门注意设计中，44% 到 62% 的值通道变成了清晰的、上下文选择性的检测器，并且它们的易读性随着深度的增加而提高，而不是仅在标点符号上具体化。语言模型质量与传统基线相当。最后，我们将布尔注意力与清晰的前馈层结合起来，并在基准奇偶性上训练一个端到端的清晰构造语言模型：它的前馈单元自始至终都是命名集和量词操作，我们可以获取它生成的词元并读取组成它的命名单元。