论文

ReCoQA:房地产问答中工具增强和多步推理的基准

ReCoQA: A Benchmark for Tool-Augmented and Multi-Step Reasoning in Real Estate Question and Answering

模型评测基准与评测资源

摘要

开发能够浏览分散的多源信息的代理仍然具有挑战性,这主要是由于缺乏反映将数据库查询与外部 API 相结合的混合工作流程的基准。为了弥补这一差距,我们引入了 ReCoQA,这是一个包含 29,270 个房地产实例的大规模基准测试,具有对中间步骤进行机器可验证的监督,包括结构化意图标签、SQL 查询和 API 调用。作为补充,我们提出了 HIRE-Agent,这是一个分层框架,将理解-计划-执行架构实例化为强大的基线。通过协调前端解析器、规划主管和执行专家,HIRE-Agent 有效地集成了异构证据。大量实验表明,HIRE-Agent 构成了强大的基线,并证实了复杂的现实世界推理任务分层协作的必要性。