ApexQuant：无数据弹性量化的残差再各向同性化

我们引入了 ApexQuant，这是一种免校准量化方法，可递归地重新量化残余误差，充当现有量化器之上的细化层。我们确定新的随机旋转将每个残差返回到超球面上的均匀分布，这表征了连续传递中的渐进误差衰减率。这个结果让我们可以确定，在读取任何权重之前，一个层需要多少遍才能达到目标权重空间误差。每个前缀本身就是一个有效的较低速率模型，因此一个工件可以提供多种精度。我们用三个可互换的阶段（标量、$E_8$ 和trellis（格架））实例化 ApexQuant，并在四个 开放权重LLM 以及地球观测和医疗领域对其进行验证，在这些领域中，由于图像在限制性许可下到达或由于患者材料受到隐私限制，因此分布内数据通常无法获得。渐进式重新各向同性在四位时与全精度 相差几个百分点，并在完全无数据的设置中提供了我们测量的最佳2位量化方案。