论文
LLM-引导神经架构搜索物理神经网络的鲁棒协同设计
LLM-Guided Neural Architecture Search for Robust Co-Design of Physical Neural Networks
摘要
在非常规硬件上部署神经网络需要能够共同优化任务准确性和特定于平台的约束（例如能源成本、物理非理想性和数值精度）的架构。现有的神经架构搜索（NAS）方法通常是针对单个硬件系列定制的，限制了跨平台比较和泛化。我们引入了非常规硬件神经架构搜索 (UH-NAS)，这是一种与硬件无关、LLM 引导的 NAS 框架，它将语言模型集成为进化算子，以共同优化准确性和推理能量。通过将硬件公开为具有每个平台能量模型、物理约束和非理想模拟器的可交换后端，UH-NAS 可以在不修改搜索算法的情况下跨各种后端进行公平的系统级比较。 UH-NAS 在光学 MZI 硬件上进行测试，发现比传统基准更多样化、更稳健的架构，同时优于现有的 LLM 到 NAS 方法。非理想情况下架构鲁棒性的额外消融以及系统提示的作用凸显了架构-硬件协同设计对于新兴计算平台的重要性。