旋转注意力中的阶段结构：语义连续性和执行边界治理的谱框架

Transformer 语言模型通常通过向量几何进行分析，但有序上下文和旋转位置编码将显式阶段结构引入查询键交互中。本文开发了一个有界谱框架，用于检查旋转相位对齐、隐藏状态连续性和语义漂移，而不将语言模型视为字面物理波系统。它首先将有序隐藏状态序列（而不是词汇索引）识别为谱分解的有效域。然后，它将旋转位置嵌入 (RoPE) 注意力分数导出为幅度加权余弦项的总和，并证明局部稳定性引理：均匀有界相移限制相应的 pre-softmax 分数的退化。为了将相位分析扩展到原始 RoPE 坐标之外，本文定义了固定正交方向对上的复模态坐标，并引入了隐藏状态轨迹的加权相干函数。这些结构支持表征连续性和执行边界可接受性之间的严格区别。内部一致性可以描述任务相关关系的保留，但它不能授权相应的转变。该框架针对现有的几何、谱、相位调制、表示分析和机械可解释性解释，提供了一个理论和方法论程序，用于确定何时谱结构解释连续性以及何时治理必须仍然是执行的外部谓词。