论文

RAOA:交替算子递推与预训练语言模型适配

RAOA: Alternating-Operator Neural Computation with Programmable Radio Propagation

模型训练参数高效训练

摘要

可编程无线传播能否成为计算深度,而不只是通信通道或一次模拟变换?我们提出Radio Alternating Operator Ansatz(RAOA),在持续潜状态上交替执行能量导出的问题更新与混合更新。每次混合后重新计算问题场,使重复过程即使共享已学习控制也能形成复合计算。我们通过精确离散优化、受约束可编程传播仿真和预训练模型适应评估。在离散目标上,重复执行可在不增加控制数的情况下改善解质量,并直接处理高阶交互。被动纯相位自由空间模型显示,所需算子可由可编程传播近似,虽有实现误差仍保留有用下游行为。作为零初始化残差适配器,RAOA在三个预训练语言模型家族上的WikiText表现接近匹配的浅层MLP,而推理任务迁移依模型而变。结果将交替算子计算、可编程无线传播与神经适应连接到一个循环框架。射频实现证据是仿真,而非硬件演示。