论文
自主调用邻居:通过目标条件化同策略自蒸馏实现图游走
Call Neighbours Yourself: Graph Walks with Destination-Conditioned On-Policy Self-Distillation
摘要
基于文本属性图 (TAG) 的推理需要大语言模型 (LLM) 将节点的文本与分布在其邻域的证据结合起来。现有方法在生成之前修复可访问邻居的集合,强制推理在静态上下文上运行,并防止模型在推理过程中获取丢失的证据。我们认为邻居选择本身应该是推理过程的一部分。为此,我们提出了 Call Neighbors Yourself (CNY) 框架,该框架使LLM能够通过拓扑约束的图行走动作主动探索图邻域。 CNY 不是对预先选择的邻居集进行推理,而是公开轻量级邻居预览并学习何时扩展候选邻居以获得更多证据。为了解决邻居探索的延迟信用挑战,我们引入了目的地条件的策略自蒸馏,它在其内容被揭示后回顾性地评估选定的邻居,并将由此产生的动作偏好变化转换为动作级别的训练信号。在统一的原始文本设置下对标准 TAG 推理基准进行的实验表明,CNY 始终优于固定上下文的训练后基准。此外,学习到的探索策略会转移到未见过的图以及训练期间未遇到的图级任务。代码可在 https://github.com/superallen13/CNY 获取。
