论文

本地检索增强生成系统的人工智能工程蓝图

AI Engineering Blueprint for On-Premises Retrieval-Augmented Generation Systems

AI 基础设施模型部署

摘要

检索增强生成 (RAG) 系统在企业环境中越来越受欢迎,但严格的数据保护法规阻止许多组织使用基于云的服务,从而需要进行本地部署。虽然现有的蓝图和参考架构侧重于云部署并且缺乏企业级组件,但全面的本地实施框架仍然稀缺。本文旨在通过提出可扩展的本地企业 RAG 解决方案的全面 AI 工程蓝图来弥补这一差距。它旨在解决常见挑战并简化 RAG 与现有企业基础设施的集成。该蓝图提供:(1) 使用 4+1 视图模型描述的端到端参考架构,(2) 用于本地部署的参考应用程序,以及 (3) 工具、开发和 CI/CD 管道的最佳实践,所有这些都在 GitHub 上公开提供。正在进行的案例研究和与行业合作伙伴的专家访谈将评估其实际效益。