论文
通过双语义嵌入为 大语言模型 提供强大的文本水印
Robust Text Watermarking for Large Language Models via Dual Semantic Embeddings
摘要
这项工作提出了双重嵌入水印 (DEW),这是一种 大语言模型 (LLM) 的语义水印方案,它利用上下文和 词元级 嵌入来增强针对释义和翻译的鲁棒性。 DEW 利用信号处理方法,将代数向量空间运算应用于词元和上下文嵌入,以导出在语义转换下优雅降级的水印信号。该方法通过用密钥播种的伪随机矩阵投影嵌入向量来混淆水印。实验结果表明,双嵌入水印可以提供最先进的鲁棒性,特别是针对翻译,同时与其他语义方案相比,计算开销相对较低。在较低的水印强度下,DEW 还可以保持有竞争力的文本质量,这表明双嵌入信号为稳健的语义水印提供了有前途的基础。