论文
检索增强 大语言模型 作为监管知识管理认知计算架构的组件
Retrieval-Augmented Large Language Models as Components of Cognitive Computing architecture for Regulatory Knowledge Management
摘要
本文的目的是验证将 大语言模型 (LLM) 与检索增强生成 (RAG) 架构集成是否能够使它们从独立的生成模型转变为具有增强认知可靠性的认知计算基础设施组件。该研究提出了一种基于本地部署的 LLM 的架构方法,该方法在没有高端 GPU 加速器的本地环境中运行,并检验了其在支持需要对法律行为进行持续分析和解释的监管管理流程方面的适用性。所提出的解决方案将本地 LLM 与外部知识存储库相结合,创建一个混合认知架构,其中语言模型执行语义解释,而 RAG 层提供受控知识检索、上下文化和信息源的可追溯性。使用 Ollama 和 LM Studio 执行环境以及在消费级硬件上运行的波兰语模型 Bielik 和 PLLuM 对该实施进行了验证。结果表明,使用 RAG 增强 LLM 显着提高了生成文本的事实一致性、领域特异性和规范精度,同时降低了不支持的内容生成的风险。此外,研究表明,集成 RAG 引入了可审计性、受控知识管理和监管信息的动态更新,而无需重新训练语言模型。研究结果表明,通过 RAG 增强的本地部署的 LLM 不应仅仅被视为文本生成工具,而应被视为认知计算基础设施内的语义处理模块,支持在法律和信息波动性较高的环境中遵守法规和组织决策。