面向LLM系统的决策中心设计

LLM系统除生成输出外还必须做出控制决策：是回答、澄清、检索、调用工具、修复还是升级上报。在许多现有架构中，这些决策仍隐含在生成过程之中，评估与行动纠缠于单次模型调用，使失败难以检查、约束或修复。我们提出一个决策中心框架，将决策相关信号与把它们映射为动作的策略分离开来，使控制成为系统中显式且可检查的一层。这种分离支持将失败归因于信号估计、决策策略或执行，并使各组件能够模块化改进。它统一了路由与自适应推理等熟悉的单步场景，并能自然扩展到动作会改变行动前可用信息的序列场景。在三项受控实验中，该框架减少了无效动作、提高了任务成功率，并揭示出可解释的失败模式。更广泛地说，它为构建更可靠、更可控、更易诊断的LLM系统提供了一条通用架构原则。