论文

BatteryPass-12K:新型数字电池护照一致性任务的第一个数据集

BatteryPass-12K: The First Dataset for the Novel Digital Battery Passport Conformance Task

模型评测基准与评测资源

摘要

我们介绍了数字电池通行证(DBP)一致性分类的新颖任务,并介绍了该任务的第一个公共基准:BatteryPass-12K,它是根据真实试点样本综合创建的。这是因为欧盟关于 DBP 的电池法规即将生效,并且没有公开数据集。我们在零样本推理中评估了 22 个语言模型 (LM),涵盖小型 LM (SLM)、专家混合 (MoE) 和密集 LLM。我们还对少样本推理和提示注入攻击进行了分析、额外评估,发现 (1) 思维模型具有最佳性能(GPT-5.4 在验证集和测试集上的 F1 平均得分分别为 0.98 (0.03) 和 0.71 (0.22)(置信区间为 95%)),(2) 少样本示例显着提高了性能,(3) 一般有能力的前沿模型发现任务具有挑战性, (4) 仅缩放模型参数并不一定会提高性能,因为 SLM 的性能优于某些 LLM,并且 (5) 提示注入攻击会降低性能。我们注意到,BatteryPass-12K 虽然仅限于真实的试点样本,但可能对电池领域的其他已知或新兴任务有用,例如生命周期推理。我们根据许可 (CC-BY-4.0) 公开发布数据集。