自适应实用程序驱动的弹性 AI 资源编排 (AURORA-AI)

现代人工智能系统越来越多地部署在非平稳计算、人口统计和操作条件下，其中静态资源分配策略会降低预测性能和以人为中心的属性，例如公平性和可解释性。本文介绍了 AURORA-AI，一种用于弹性 AI 的自适应实用程序驱动的资源编排框架，它将 Hamilton-Jacobi-Bellman 反馈控制、基于 Lyapunov 的稳定性监控和公平感知复合实用程序统一到单个闭环策略中。该框架不断地在异构 AI 模型群体中重新分配计算预算，以便在预测性能、人口统计平等、成本、延迟、鲁棒性和可解释性方面共同定义的全局效用在中断时保持最大化。该框架在压力丰富的离散时间模拟中进行评估，同时注入人口统计偏差冲击、渐进概念漂移和突然的黑天鹅中断，并与五种现有控制器（包括静态、循环、贪婪、LinUCB）和基于近端策略优化的深度强化学习代理进行比较。与静态基线的 88 个时间步长和近端策略优化的 22 个时间步长相比，AURORA-AI 实现了从黑天鹅事件中立即恢复，将 alpha 分位数和超分位数分别提升了 29% 和 25%，同时减少了平均和最大人口奇偶差距，并增加了李雅普诺夫稳定操作步骤的比例。这些结果表明，基于稳定性理论的公平感知自适应编排是实现以人为中心的弹性人工智能部署的实用和理论驱动的路径。