基于 LLM 的可靠自主代理的自我修复框架

基于 大语言模型 (LLM) 的自主代理越来越多地应用于复杂的软件系统中。然而，由于幻觉、执行错误和不一致的推理等不可预测的故障，可靠性仍然是一个重大挑战。本文提出了一种基于 LLM 的软件代理的可靠性感知自我修复框架。该框架集成了故障检测、可靠性评估和自动恢复机制。首先，我们定义了故障类型的分类并引入了定量的可靠性评估模型。接下来，我们提出了一种基于执行模式和输出一致性来识别异常代理行为的故障检测方法。最后，我们设计了一种自我修复机制，通过自适应重新规划和纠正提示策略从故障中动态恢复。所提出的框架在多代理工作流环境中实现，并使用真实任务场景进行评估。实验结果表明，与现有方法相比，我们的方法显着提高了任务成功率，减少了故障传播，并增强了整体系统的稳健性。特别是，本研究的独特之处在于建立了一个集成的监控系统，将智能体的内部推理过程与外部执行结果相结合。这些发现预计将有助于确保先进自主系统的稳定性并降低在生产环境中采用 LLM 的障碍。