论文

AgentGL:通过强化学习使用 LLM 实现代理图学习

AgentGL: Towards Agentic Graph Learning with LLMs via Reinforcement Learning

智能体系统模型训练强化学习Agent 工具调用Agentic RL

摘要

大语言模型 (LLM) 越来越依赖代理能力——迭代检索、工具使用和决策——来克服静态、参数化知识的限制。然而,现有的代理框架将外部信息视为非结构化文本,并且无法利用现实世界数据固有的拓扑依赖性。为了弥补这一差距,我们引入了代理图学习(AGL),这是一种将图学习重新构建为拓扑感知导航和基于 LLM 的推理的交错过程的范例。具体来说,我们提出了 AgentGL,这是第一个强化学习 (RL) 驱动的 AGL 框架。 AgentGL 为 LLM 代理配备了用于多尺度探索的图本机工具,通过搜索约束思维调节工具使用以平衡准确性和效率,并采用图条件课程 RL 策略来稳定长期政策学习,而无需逐步监督。在不同的文本属性图 (TAG) 基准和多个 LLM 主干中,AgentGL 的性能明显优于强大的 GraphLLM 和 GraphRAG 基准,在节点分类方面实现了高达 17.5% 的绝对改进,在链接预测方面实现了 28.4% 的绝对改进。这些结果表明,AGL 是一个很有前途的前沿领域,可以使 LLM 在复杂的关系环境中自主导航和推理。该代码可在 https://github.com/sunyuanfu/AgentGL 上公开获取。