论文

面向工具增强空间推理的自进化神经符号技能

Self-Evolving Neuro-Symbolic Skills for Tool-Augmented Spatial Reasoning

智能体系统Agent 工具调用Agent Skills

摘要

大型视觉语言模型在多模态推理中取得了强劲表现,但在精细空间任务上仍不可靠,这类任务同时要求精确的空间感知与超越端到端生成的精细几何计算。工具增强提供了自然的解决途径,而现有方法要么在没有显式依赖约束的情况下从零规划工具调用,要么依赖冗余且跨空间任务泛化差的固定流水线。有效的空间推理智能体应当转而积累可复用经验,并针对新问题自适应地组合它们。为此,我们提出NeSy-Spatial,一个面向自进化空间技能的神经符号框架。NeSy-Spatial将工具交互与几何运算抽象为带类型的可执行原子指令,并将它们组合为两类互补技能:组织工具执行的Tool-Use Skills与结构化几何推理的Geometry Skills。推理时,NeSy-Spatial在闭环过程中检索并执行相关技能;进化时,它分析缓存的成功与失败轨迹,以精化技能结构并剪除不可靠或失活的条目。在三个空间推理基准上的实验表明,NeSy-Spatial凭借更精确的工具利用持续提升推理准确率。

面向工具增强空间推理的自进化神经符号技能:论文配图
图1:工具增强空间推理智能体的局限性:动态规划可能违反工具依赖关系,而固定流水线可能冗余且泛化能力差。