论文

从优化到生成式 AI:机器学习中的概率算法

Probabilistic Algorithms for Ising Machines from Optimization to Generative AI

摘要

伊辛机已成为解决棘手优化和采样问题的有前途的硬件加速器,但其实际影响越来越取决于算法和硬件的协同设计,其中算法需求塑造新的架构,新的硬件功能激发全新的算法。在这篇综述中,我们调查了为跨不同 Ising 平台可移植性而设计的概率算法,提倡自上而下的视角,优先考虑具有可证明保证的原则性方法。我们涵盖了模拟 退火 和并行回火等基础方法,包括本地编码硬约束的二维扩展,并研究了将可解决问题的规模从集群平均场方法扩展到变分采样器的方法。我们重点介绍概率近似优化算法 (PAOA),这是直接从概率硬件开发中出现的 QAOA 的经典模拟,并探讨生成式 AI 和 Ising 机器如何相互加强:学习模型提出加速优化的全局动作,而概率技术则改进 大语言模型 中的推理。就像量子计算看到算法与硬件共同进化一样,概率计算和伊辛计算也处于类似的拐点。我们概述了一个协同设计框架,用于加速下一代伊辛机器的功能和采用。

从优化到生成式 AI:机器学习中的概率算法的原论文方法或结果图
图 1:Ising 机器工作流程和概率算法-硬件协同设计。 (a) 顶部:优化或采样任务被编码为伊辛问题,能量为 $E$,玻尔兹曼分布为 $S\sim\exp(-E/T)$,$T$ 为温度参数。中:算法和伊辛机协同设计循环,其中算法需求设置硬件参数和硬件约束形成算法选择。底部:Ising 机器随着时间的推移探索能源景观并返回样本 $S$。 (b) 本次审查中调查的三个概率算法系列及其硬件要求。模拟的 退火 需要通过调度程序对温度进行时间调制。并行回火修复了空间中副本之间的不同温度,并且需要能量计算和副本同步以进行状态交换。变分方法将 Ising 机与经典优化器结合起来,该优化器根据采样状态迭代更新参数。概率近似优化算法 (PAOA) 通过学习跨层温度来展示这一点。