锚定滑动窗口：走向稳健且难以察觉的语言隐写术

基于语言模型的语言隐写术通常假设隐写文本在不经更改的情况下进行传输，这使得它们即使进行微小的修改也很脆弱。虽然以前的工作通过限制上下文窗口来减轻这种脆弱性，但它显着损害了文本质量。在本文中，我们提出了锚定滑动窗口（ASW）框架来提高不可感知性和鲁棒性。除了最新的标记之外，提示和桥接上下文也锚定在上下文窗口中，从而鼓励模型补偿排除的标记。我们将桥上下文的优化制定为提示 蒸馏 的变体，并使用自我 蒸馏 策略进一步扩展。实验表明，我们的 ASW 在不同设置下的文本质量、不易察觉性和鲁棒性方面始终显着优于基线方法。该代码可在 github.com/ryehr/ASW_steganography 获取。