LLM 量化的转换：伟大的反转和格式协同设计

最具竞争力的 4 位 LLM 研究流程现在以相同的方式开放：应用线性、功能保留变换（旋转、缩放、排列、非正交仿射），以便异常值质量更适合群体尺度，然后才进行舍入。然而，我们知道没有专门针对这一转变阶段的调查，其文献正在悄悄地重新推导旧的理论。我们确定并形式化了组织它的原则，即大反转：分配灵活的编码奖励能量集中，而部署的矩阵指令的分组共享尺度量化则执行组内扁平化的奖励。经典变换编码（1963：去相关、分配比特、量化）以固定的总速率在每个坐标上花费不同的比特；对于高斯源，Karhunen-Loeve 变换的集中度可最大限度地减少失真。相反，部署的操作数块每组携带一个绝对最大比例，并且各处都具有相同的位，无需分配；在一个统一的网格上，客观奖励扁平化，接近哈达玛不连贯性。我们证明了群体内多数化下的对立：处方指向相反的方向，每个方向都有反对其自身目标的证据支持，并且对于通用频谱，没有最优性保证转移。第二个轴是数字格式：不均匀的 FP4 网格使得扁平化购买更少，MXFP4 的二次幂块规模仍然奖励仅限于该块的旋转，而 NVFP4 的尾数携带规模很大程度上消除了这种拉力，因此目标极点共同取决于分配制度和格式。我们调查了 200 件作品，截止日期为 2026 年 6 月；按结构、数据感知、搜索与构造和运行时成本对 43 种转换方法进行分类；记录（在报告的地方）它们如何与 GPTQ 舍入组合；按部署制度提炼出首选指南；并以它所暴露的开放性问题作为结束语。