论文

Telegraph English:通过结构化符号重写进行语义提示压缩

Telegraph English: Semantic Prompt Compression via Structured Symbolic Rewriting

上下文与知识上下文工程

摘要

我们引入了 Telegraph English (TE),这是一种即时压缩协议,可将自然语言重写为符号丰富、结构正式的方言。诸如 LLMLingua-2 之类的标记删除方法训练分类器以固定比率删除低重要性标记,而 TE 执行完整的语义重写:它将输入分解为原子事实行,用 $\sim$40 逻辑和关系符号替换冗长的短语,并使压缩率适应每个文档的信息密度。行结构规则的结果是压缩和语义分块成为相同的操作——每个输出行都是一个独立可寻址的事实,因此压缩表示同时是一个语义索引。我们在 LongBench-v2 的 4{,}081 个问答对上评估 TE,涉及五个 OpenAI 模型和两个难度级别。在大约 50% 的词元减少的情况下,TE 通过 GPT-4.1 在关键事实上保持了 99.1% 的准确性,并且在每个测试的模型和任务上以匹配的压缩率优于 LLMLingua-2。在较小的模型上,差距会扩大——在细节任务上高达 11 个百分点——这表明显式的关系结构可以弥补有限的模型容量。我们发布了语法规范、压缩提示、基准数据和参考实现。