论文
语言完整性和统计水印:意义保留变换的内在几何
Linguistic Holonomy and Statistical Watermarks: Inner Geometry of Meaning-Preserving Transformations
摘要
语言模型的统计水印存在于能指的自由中:它们在含义几乎相同的标记中进行选择,因此它们会被那些移动文本形式而保留其内容的转换所侵蚀。文献通过原始文本和重写文本之间的语义相似性来衡量此类转换的终点。我们证明终点是错误的统计数据。采用语言循环的形式主义,我们证明了意义保留变换链的不变量可以规范地分解为端点部分和初始状态稳定器中的完整性,其中第二个语义缺陷无法看到;循环旋转是嵌入空间单位球面上的平行传输,因此与威尔逊循环的类比成为定理而不是修辞手法。在检测器方面,我们证明了一个精确的恒等式:残差统计量与种子窗口完好无损的位置数量成正比,由此得出衰减定律 $ρ^{h+1}$ 作为独立编辑的推论。这种身份有一个令人不安的后果,我们确认了三位小数:在相同的保留率下,幸存的信号可能是原始信号的一半,四分之一,或者完全没有,这仅取决于编辑所在的位置。