论文

EDGE:通过图结构DSL配置的对话模拟实现确定性图评估的引擎

EDGE: Engine for Deterministic Graph Evaluation through Conversation Simulation from Graph Structured DSL Configuration

智能体系统Agent任务评测

摘要

随着代理系统演变成复杂的多代理编排工作流程,对衡量代理行为一致性和确定性的系统框架的需求日益增长。在本文中,我们介绍了一种基于 AgentGraph 的正式评估方法,AgentGraph 是一种由领域特定语言提供支持的规划器,通过动态可调整的有向图表示代理推理。我们利用这种结构形式主义并利用图遍历算法来详尽地枚举对话路径,形成一个全面的评估集来捕获代理的完整行为空间。然后,我们系统地重放这些可重现的轨迹,以将观察到的输出和状态转换与预期的 DSL 规范进行比较。为了量化可靠性,我们定义了新的指标来衡量精确重播及其语言变体的响应和轨迹确定性、结构依从性和语义一致性。我们系统的结果表明,使用具有显式结构化节点转换的 AgentGraph 和 LangGraph 等框架配置的代理,比未配置受控转换的代理显示出更优越的确定性。

EDGE:通过图结构DSL配置的对话模拟实现确定性图评估的引擎:论文配图
图1:EDGE智能体框架