论文

弹性时间:神经音频编码的动态帧率瓶颈

Elastic Time: Dynamic Frame Rate Bottlenecks for Neural Audio Coding

模型优化稀疏化

摘要

神经音频自动编码器已成为压缩、特征提取和生成的核心组件。然而,虽然现有系统支持可变比特率,但绝大多数模型仍然以固定的潜在帧速率运行,为信息密度差异很大的区域分配相同的时间预算,这可能会导致不必要的长序列。我们引入了弹性时间,这是一种动态帧率瓶颈,可将固定帧率自动编码器转换为动态帧率自动编码器。我们的方法学习一个轻量级潜在预测器,用于决定哪些帧可以跳过并稍后重建,从而在推理时实现高效的贪婪边界选择。实验表明,我们的方法可以实现部署时间速率控制,同时相对于基线提高效率与质量的权衡。总的来说,我们提供了一种灵活的机制来调整音频自动编码器中的时间分辨率,有可能促进更有效的生成和长上下文任务的下游建模。