论文

FinBalance:多文档会计对账基准

FinBalance: A Multi-Document Accounting Reconciliation Benchmark

模型评测基准与评测资源

摘要

现有的金融 NLP 基准主要评估准备好的工件,例如文件、表格或提取的值。真正的会计开始得更早:源文件必须与引用的日记账分录进行核对,汇总到资产负债表中,并检查是否存在矛盾。我们推出了 FinBalance,这是一种多文档会计调节基准,由跨八个行业、三种期间类型和五个难度级别的源文档包构建。人工编写的业务场景、会计政策、税收/外汇处理、文档模式、干扰因素和不一致模板由确定性生成器组成,其分类帐生成日记帐分录、资产负债表和 23 个不一致代码标签。在 710 条记录的评估中,六个当代 LLM 的最终资产负债表精确度最多达到 46%。四个模型显示 BS_exact(模型报告的资产负债表)和 BS_recon(通过我们的分类账重播其条目获得的资产负债表)之间存在 26-41 pp 的差距。模型通常会恢复数字上合理的条目,但无法将它们绑定到支持文档并一致地聚合它们。引文压力提示几乎不会改变文档链接错误,而账本反馈消融则大大改善了报告的资产负债表并暴露了不一致检测的权衡。专家财务审核员验证基准设计和标签。