论文
面向自主云 MLOps 的正向部署全栈工程
Forward-Deployed Full-Stack Engineering for Autonomous Cloud MLOps
摘要
在各个行业中,机器学习系统支持从预测和异常检测到预测、优化和调度的应用程序,但运行这些系统需要协调应用程序开发、模型管道、云基础设施、安全、部署、监控、再培训、恢复和回滚。我们提出了一个证据门控的多代理框架,用于将自然语言 MLOps 云工程任务转换为经过验证的存储库和可操作的云部署。该框架结合了图工程、循环工程和代理利用工程。有状态的图形编排器协调专门的代理来进行存储库生成、审查、执行、验证、发布和监控,同时管理工作流依赖性、证据门、重试边界、恢复路径和终止。仅当其所需的谓词得到可验证的执行或运行时证据的支持时,相应的生命周期转换才会继续。验证失败会激活有界反射、修复和重新验证,而运行时故障、漂移、降级或违反策略的证据可能会触发有界适应、恢复或回滚。代理利用工程通过受控功能和隔离执行环境来限制存储库生成、审查和修复、工件执行和云操作。我们在 Google Cloud Platform 上实现了该框架,并评估了存储库完整性、受控执行、证据门控转换、云推广和有限恢复。我们的实验结果表明,该框架可以防止不受支持的生命周期转换,并推动每次运行走向经过验证的操作部署或可审核的终端故障。