IMC-CLINIC：面向模拟存内计算裁剪的损失感知耦合牛顿迭代

模拟内存计算 (IMC) 通过直接在模拟域的内存阵列内执行矩阵乘法 (MatMul)，为实现节能大语言模型 (LLM) 推理提供了一条有希望的途径。然而，其效率伴随着额外的误差源：有限精度模数转换器 (ADC) 量化累积的模拟部分和，从而引入与 MatMul 输入处的传统激活和权重量化不同的输出侧误差。限幅可以减轻操作数和 ADC 量化误差，但最佳限幅因子必须共同平衡激活舍入和限幅、权重舍入和限幅以及 ADC 量化。现有的专为数字量化而设计的限幅方法没有明确优化这些 IMC 误差的耦合源，并且通常依赖于昂贵的基于搜索的校准。我们介绍 IMC-CLINIC（Coupled Loss-Informed Newton Iterations for Clipping），这是一个基于 IMC MatMul 输出误差分析替代的裁剪校准框架。代理对操作数量化、累积削波引起的偏差和 ADC 量化进行联合建模，从而能够从小型校准集有效评估其梯度和近似曲率。 IMC-CLINIC 使用受保护的牛顿型方法联合优化激活和权重剪切因子。在多个模型和数据集中，它比网格搜索基线提高了平均零样本精度 6.5-11.5 个百分点，同时将校准速度提高10.0至12.1倍。其分析代理密切跟踪经验 IMC 输出误差，并且其优化器在两个代表性模型的所有投影的损失目标下经过认证，误差在全局最优值的 1% 以内。