论文

SAGAI-MID:用于动态运行时互操作性的生成式人工智能驱动中间件

SAGAI-MID: A Generative AI-Driven Middleware for Dynamic Runtime Interoperability

摘要

现代分布式系统集成了异构服务、具有不同架构版本的 REST API、GraphQL 端点以及具有专有负载的 IoT 设备,这些负载会遭受持久架构不匹配的影响。传统的静态适配器需要对每个模式对进行手动编码,并且无法在运行时处理新颖的组合。我们推出了 SAGAI-MID,这是一种基于 FastAPI 的中间件,它使用 大语言模型 (LLM) 在运行时动态检测和解决模式不匹配问题。该系统采用五层管道:混合检测(结构差异加 LLM 语义分析)、双重解析策略(每个请求 LLM 转换和 LLM 生成的可重用适配器代码)以及三层保护堆栈(验证、集成投票、基于规则的回退)。我们通过 Bass 等人的互操作性策略构建架构,将它们从设计时工件转换为运行时功能。我们在来自两个提供商的六个 LLM 的 10 个互操作性场景(涵盖 REST 版本迁移、物联网到分析桥接和 GraphQL 协议转换)上评估 SAGAI-MID。性能最佳的配置可达到 0.90 pass@1 精度。 CODEGEN 策略始终优于 DIRECT(平均 pass@1 为 0.83 比 0.77),而模型之间的成本变化超过 30 倍,且没有成比例的精度增益;最准确的模型也是最便宜的。我们讨论了采用 LLM 作为运行时架构组件对软件架构师的影响。