模拟硬件上稳健的参数-高效LLM适配

记忆内模拟计算是大语言模型设备上执行的一个很有前景的平台，因为它可以在记忆中并行执行矩阵向量乘法 (MVM)，从而减少数据移动。然而，有限的数模转换器精度、输入噪声和有限的电导状态可能会降低模型精度，而为解决这些影响而进行的全模型再训练可能成本高昂。我们基于低秩 Adaptation (LoRA) 开发了一种与优化器无关、参数高效的自适应方法，保持模拟数组上存储的预训练权重固定，同时训练 LoRA 权重适应下游任务和硬件非理想情况。可靠的适应需要处理前向和后向 MVM 以及物理权重更新中的错误。我们使用输入重塑来减少输入引起的 MVM 错误，并使用更新累积来保留小的更新，然后再将其编程到有限状态模拟器件。在具有 Muon 和 AdamW 的 Llama-3.2-1B-Instruct 和 Llama-3-8B 中，输入整形改进了噪声 MVM 计算下的模拟 LoRA 微调。更新累积单独保留亚阈值更新并显着改善有限分辨率编程下的适应性，包括具有少至 20 个电导状态的配置。其他实验表明，在嘈杂的模拟设置中，留出负对数似然得到了一致的改进。