因果世界模型何时帮助模块化 LLM Agent

LLM Agent越来越多地通过模块化系统（例如订单、付款、库存和运输服务）进行操作，其中一个模块中的操作会改变另一个模块中有效的转换。标准世界模型通常适合观察轨迹，但这不是干预时间计划所需的数量：轨迹可能显示付款在发货之前，但无法确定付款是否授权发货、库存是否调节效果，或者隐藏的触发器解释两者。我们通过 FedCausalCompose 研究这一差距，FedCausalCompose 是模块化 LLM Agent的因果世界模型框架，其中局部操作为跨模块接口提供干预响应证据。我们首先表明，观察世界模型在畅通的后门路径下会产生不可减少的干预错误，界面恢复随着干预响应覆盖率的提高而提高，并且当覆盖率和局部机制错误受到控制时，预言机因果组合可以击败非因果下限。然后，我们在诊断Agent设置中测试生成的预测。因果接口在结构化工具环境中帮助最大，其中 API 签名公开先决条件和下游影响。相反，对话和叙事环境通常会忽略原始边缘列表，除非短暂的注意力锚使因果信息与决策相关。这些结果确定了 LLM Agent中因果世界模型的具体条件：当跨模块接口既可以统计上可识别，又以Agent可以在操作时使用的形式呈现时，因果结构会有所帮助。