QuantileMark：LLM 的消息对称多位水印

随着 大语言模型 成为内容生成的标准后端，实际来源越来越需要多位水印。在提供商内部部署中，一个关键要求是消息对称性：消息本身不应系统地影响文本质量或验证结果。词汇分区水印可以打破低熵解码中的消息对称性：一些消息被分配大部分概率质量，而另一些则被迫使用尾部词元。这使得嵌入质量和消息解码精度依赖于消息。我们提出了 QuantileMark，一种白盒多位水印，它将消息嵌入连续累积概率区间 $[0, 1)$ 内。在每一步中，QuantileMark 都会将此间隔划分为 $M$ 等质量箱，并严格从分配给目标符号的箱中进行采样，从而确保固定的 $1/M$ 概率预算，而不管上下文熵如何。为了进行检测，验证者在教师强制下重建相同的分区，计算潜在箱的后验，并聚合证据以进行验证。我们证明了消息无偏性，该属性确保在对消息进行平均时恢复基本分布。这为生成侧对称性提供了理论基础，而等质量设计还促进了检测侧消息之间证据强度的统一。 C4 延续和 LFQA 的经验结果表明，与强基线相比，多位恢复和检测鲁棒性有所提高，对生成质量的影响可以忽略不计。我们的代码可在 GitHub (https://github.com/zzzjunlin/QuantileMark) 上获取。