论文
Arbor:关键对话流程可靠导航的框架
Arbor: A Framework for Reliable Navigation of Critical Conversation Flows
摘要
大语言模型难以在医疗分诊等高风险领域严格遵循结构化工作流。在单个提示词中编码完整决策结构的单体方法,随提示变长易出现指令遵循退化,包括 lost-in-the-middle 效应和上下文窗口溢出。为此,我们提出 Arbor,一个将决策树导航分解为专门节点级任务的框架。决策树被标准化为边列表表示并存储以供动态检索。运行时,基于有向无环图(DAG)的编排机制迭代地只检索当前节点的出边,通过专门的 LLM 调用评估有效转移,并将回复生成委托给独立的推理步骤。该框架对底层决策逻辑和模型提供商均无依赖。在来自真实临床分诊对话的标注轮次上,跨 10 个基础模型与单提示基线进行评估,Arbor 将平均轮次准确率提高 29.4 个百分点,每轮延迟降低 57.1%,每轮成本平均缩减 13.8 倍。这些结果表明,架构分解降低了对模型内在能力的依赖,使小模型在单提示基线下能追平或超过大模型。
