论文
BatchDAG:LLM规划执行图支撑企业数据的规模化即席分析
BatchDAG: LLM-Planned Execution Graphs for Scalable Ad-Hoc Analysis Over Enterprise Data
摘要
大语言模型(LLM)擅长分析单个文档,但在企业规模数据集上穷尽式、跨实体的分析问题上失灵:上下文溢出、逐实体归因丢失与顺序工具调用的线性延迟。我们提出BatchDAG:LLM生成一个类型化的操作有向无环图(DAG)——SQL查询、语义搜索、内存变换、并行扇出与单发分析——由确定性引擎以拓扑波并行与结构化JSON数据流求值。关键优化是实体感知批处理:扇出前按逻辑实体分组行,把LLM调用最多减少47倍。BatchDAG主要不是对手工优化管线的准确率改进,而是一个通用编排层:用单一系统取代多条手工工程工作流,从自然语言生成适当的执行策略。在12个重转写查询的受控实验中,BatchDAG(3.74/5)质量与专家设计管线(3.25/5)相当,显著超过ReAct智能体(3.09/5,p<0.01),溯源更优(77%转写证据率对比基线46–60%)。受控消融显示结构化JSON中间表示相对散文摘要减少27%幻觉(配对t检验,p=0.107,n=12)。规划器在300次规划调用中取得98.8%的有效DAG率。在生产环境的Brevian.ai,BatchDAG在60秒内处理5万+会议的查询,实测每查询成本0.02–0.24美元(按公布的GPT-5.1定价)。
