Seq2Seq2Seq：经由离散潜在transformer与强化学习的无损数据压缩

高效的无损压缩对于在保持数据完整性的同时最小化存储成本和传输开销至关重要。传统压缩技术，如基于字典的方法和统计方法，往往难以最优地利用复杂数据格式中的结构和冗余。深度学习的最新进展为压缩开辟了新途径；然而，许多现有方法依赖稠密向量表示，掩盖了底层的token结构。为解决这些局限，我们提出一种新的无损压缩方法，将强化学习应用于T5语言模型架构。该方法使数据能够被压缩为token序列而非传统向量表示。与通常将信息编码进连续潜在空间的自编码器不同，我们的方法保留基于token的结构，更贴近原始数据格式。这种保留使得在维持语义完整性的同时实现更高压缩比成为可能。通过使用离策略强化学习算法训练模型，我们优化序列长度以最小化冗余并提升压缩效率。我们的方法引入了一个建立在先进强化学习技术之上、独立于外部语法或世界知识运行的高效自适应数据压缩系统。与传统方法相比，该方法在压缩比上显示出显著改进。通过利用语言模型内部的潜在信息，我们的系统能够在无需显式内容理解的情况下有效压缩数据，为跨各类应用的更稳健、更实用的压缩方案铺平道路。