论文

STQA:针对历史和预测数据的以股票为中心的表格问答的基准

STQA: A Benchmark for Stock-Focused Tabular Question Answering over Historical and Forecasted Data

模型评测基准与评测资源

摘要

股市分析本质上需要对历史记录和未来预测进行综合推理,但现有基准仍然分散在各个孤立的任务中。我们引入 STQA(以股票为中心的表格问答),这是一种端到端基准测试,旨在系统地评估历史数据、数值预测和基于预测的推理的自然语言问答。 STQA 以大规模金融数据集为基础,涵盖 4,417 只股票,包含 31,400 个源自专家制作模板的问答对,并附有细粒度的意图和槽位注释。为了实施这一基准,我们提出了 SQFRS(股票查询预测推理系统),这是一个基于代理的统一框架,可协调 SQL 检索和时间序列预测工具。实验表明,虽然当前的 大语言模型 在历史查询上表现良好,但基于预测的推理提出了巨大的挑战,揭示了不确定性下工具协调和推理的关键瓶颈。数据集和代码可在 https://github.com/xuxubaobaoan/STQA_Project 获取。因此,STQA 可以作为未来研究值得信赖、工具增强的金融代理的严格测试平台。