论文
RusFinChain:俄罗斯金融领域可验证的思想链推理与模糊对齐评估的基准
RusFinChain: A Russian Benchmark for Verifiable Chain-of-Thought Reasoning in Finance with Fuzzy-Aligned Evaluation
摘要
多步骤符号推理对于稳健的财务分析至关重要,但大多数基准测试都忽略了中间推理步骤。 FinChain 引入了可验证的思想链(CoT)评估,但仅限于英语。 FINESSE-Bench 包括一个俄罗斯块,但依赖于多项选择题,没有步骤级别的监督。我们推出了 RusFinChain,这是第一个用于金融领域可验证 CoT 推理的俄语符号基准。它跨越 17 个领域、172 个主题,包含来自可执行 Python 模板的 5,280 个参数化示例,确保无污染评估。每个示例都包含一个黄金标准推理链,其中包含用于自动验证的中间数值。我们还引入了增强的指标:模糊数字对齐和软注意力对齐。我们在分层样本上评估 8 个开放权重 LLM,生成 8,100 个响应。结果揭示了巨大的推理差距:模型在步骤对齐方面实现了约 0.65 的 Hard F1,但最终答案中只有约 29% 是正确的。与原始 ChainEval(rho 约 0.38-0.46)相比,我们的模糊和软指标与最终答案正确性(Spearman rho 约 0.48)显示出更强的相关性,展示了卓越的诊断能力。我们发布数据集、代码和评估框架,为俄语社区培育可验证的金融人工智能。