论文
从优化到生成式 AI:机器学习中的概率算法
Probabilistic Algorithms for Ising Machines from Optimization to Generative AI
摘要
伊辛机已成为解决棘手优化和采样问题的有前途的硬件加速器,但其实际影响越来越取决于算法和硬件的协同设计,其中算法需求塑造新的架构,新的硬件功能激发全新的算法。在这篇综述中,我们调查了为跨不同 Ising 平台可移植性而设计的概率算法,提倡自上而下的视角,优先考虑具有可证明保证的原则性方法。我们涵盖了模拟 退火 和并行回火等基础方法,包括本地编码硬约束的二维扩展,并研究了将可解决问题的规模从集群平均场方法扩展到变分采样器的方法。我们重点介绍概率近似优化算法 (PAOA),这是直接从概率硬件开发中出现的 QAOA 的经典模拟,并探讨生成式 AI 和 Ising 机器如何相互加强:学习模型提出加速优化的全局动作,而概率技术则改进 大语言模型 中的推理。就像量子计算看到算法与硬件共同进化一样,概率计算和伊辛计算也处于类似的拐点。我们概述了一个协同设计框架,用于加速下一代伊辛机器的功能和采用。
