论文
SAHM:阿拉伯金融和伊斯兰教法合规推理的基准
SAHM: A Benchmark for Arabic Financial and Shari'ah-Compliant Reasoning
摘要
英语金融 NLP 通过针对收益分析、市场情绪、表格推理和金融问题解答的基准迅速发展,但阿拉伯语金融 NLP 仍然几乎不存在,尽管有 4.22 亿使用者、海湾主权财富 4.9 万亿美元,以及 4-5 万亿美元的伊斯兰金融业需要在伊斯兰债券、穆拉巴哈和回教保险等工具上遵守专门的伊斯兰教法。我们介绍 Sahm,这是第一个涵盖七项任务的阿拉伯金融基准:AAOIFI 标准 QA、基于追杀令的 QA/MCQ、会计和商业考试、财务情绪分析、提取总结和事件原因推理,包含来自真实监管、法律和企业来源的 14,380 个经过专家验证的实例。通过评估 20 个 LLM,我们发现阿拉伯语流利程度并不意味着财务推理:在识别任务上实现 91% 的模型在生成时急剧下降,事件原因推理暴露了最大的性能差距 (1.89-9.84/10)。我们发布基准和数据集来支持值得信赖的阿拉伯财务助理。