论文

RTI-Bench:用于印度信息权决策分析的结构化数据集

RTI-Bench: A Structured Dataset for Indian Right-to-Information Decision Analysis

模型评测基准与评测资源

摘要

印度 2005 年的《信息权法》赋予每个公民向公共当局索取信息的权利,但实际上大多数人无法理解中央信息委员会 (CIC) 决策中使用的密集行政语言,更不用说预测是否值得提出上诉。本文介绍了 RTI-Bench,这是一个 CIC 决策的结构化数据集,包含结果标签、豁免引用、IRAC 式推理组件和程序时间表。据我们所知,这是第一个公开发布的印度 RTI 行政决策结构化数据集。该数据集来自两个来源:来自公开可用的指令响应语料库的 1,218 个案例(通过基于规则的提取添加了结构化字段),以及直接从委员会门户收集的 298 个 CIC 决策 PDF,涵盖 2023 年至 2026 年的五位委员和三代文档格式。指令响应语料库的标签覆盖率达到 89%。对于 239 个主要决策的 PDF 子集,第一个版本的覆盖率为 51%。人工审查了 50 个标记案例的随机样本,得出的标记精度为 95.3%。 100 个案例的零样本 Mistral 7B 基线在结果预测方面给出了 57.3% 的准确度和 37.0% 的宏观 F1,远高于 14.3% 宏观 F1 的多数类基线。 RTI-Bench 位于 https://huggingface.co/datasets/joyboseroy/rti-bench