论文

AutoMCU:通过基于 LLM 的多代理系统进行可行性优先的 MCU 神经网络定制

AutoMCU: Feasibility-First MCU Neural Network Customization via LLM-based Multi-Agent Systems

智能体系统Agent 协作

摘要

在微控制器单元 (MCU) 上部署神经网络对于边缘智能至关重要,但由于内存、存储和计算限制紧张,仍然具有挑战性。现有的方法,例如模型压缩和硬件感知神经架构搜索(HW-NAS),通常依赖于代理指标,会产生高昂的搜索成本,并且不能完全弥合架构设计和验证部署之间的差距。本文提出了 AutoMCU,一种基于可行性优先的 大语言模型 (LLM) 多智能体系统,用于在 MCU 约束下进行自动神经网络定制。给定自然语言任务要求和硬件规格,AutoMCU 迭代生成结构化架构候选方案,在训练前通过供应商工具链反馈过滤不可行的设计,在受控协议下评估可行模型,并通过基于后端的部署分析验证可部署性。 AutoMCU 包括两个关键机制:1)硬件在环架构生成,用于在 RAM 和闪存限制下及早消除不可部署的候选者;2)状态隔离的多智能体调度,用于稳定协调提案、训练、评估和部署阶段。在严格的 MCU 约束下对 CIFAR-10 和 CIFAR-100 进行的实验表明,AutoMCU 实现了具有竞争力的精度,同时将定制时间减少到约 1--2 小时,而面向代表性 MCU 的 HW-NAS 基准则需要数百小时的 GPU 小时。在NAS-Bench-201上与ColabNAS和基于LLM的NAS方法GENIUS进行比较,进一步证明了AutoMCU的有效性和稳定性。在多个 STM32 微控制器上的实际设备部署验证了其对 MCU 规模边缘智能的实际适用性。