论文

因果推理的可分离通路:架构脚手架如何使LLM智能体实现假设空间重构

Separable Pathways for Causal Reasoning: How Architectural Scaffolding Enables Hypothesis-Space Restructuring in LLM Agents

智能体系统Agent 架构与控制循环Agent Harness

摘要

通过实验和干预进行因果发现是稳健问题求解的基础。它要求的不仅是在固定框架内更新信念,还包括对假设空间本身的修正——当证据要求智能体构建此前未曾构建过的表示时,当前的AI智能体缺乏这种能力。我们将发展科学中的blicket检测器范式扩展到AI智能体,以测试配备了针对假设空间重构的架构脚手架的智能体的这一能力。我们的组合架构包含两个离散组件:上下文图(context graphs),将探索结构化为带类型的状态机;以及动态行为(dynamic behaviors),监测当前假设空间不充分的证据并在运行时扩展它。在1,085次实验中,这些组件做出了正交的贡献:上下文图驱动切换后假设空间内的推理质量,占准确率提升的94%;而动态行为通过检测状态变化和防止过早固守过时假设来决定推理的资格。

因果推理的可分离通路:架构脚手架如何使LLM智能体实现假设空间重构:论文配图
图1:上下文图架构:左为基础4状态图,右为动态行为DB4触发后的扩展图。