论文

通过 Rao-Blackwellized 电子流程进行高效在线 LLM 水印检测

Efficient Online LLM Watermark Detection via Rao-Blackwellized E-Processes

AI 基础设施AI安全与内容治理基础设施

摘要

随着 大语言模型 (LLM) 的部署越来越多,区分人工智能生成的文本和人类编写的内容的可靠且高效的机制变得至关重要。统计水印已成为一种有前途的解决方案,但大多数现有方法通常是固定范围程序,妨碍了流生成中的有效提前停止。在本文中,我们开发了一种高效的在线水印检测框架,具有基于 Rao-Blackwellized 电子流程的随时有效的推理,无需存储完整历史记录即可实现递归 词元级 证据更新。特别是,我们实例化了 Gumbel-max 水印的框架,并将原始的 词元级 依赖性测试问题简化为具有显式零分布的枢轴引发的顺序测试问题。理论上,我们证明了任意可选停止下的任何时间有效的 I 类错误控制,并在水印下建立了正渐近对数增长,这意味着所提出的停止规则的一致性。对 LLM 生成的真实文本进行的模拟和实验证明了高效的在线检测以及严格的随时有效的保证。