论文

物理学作为多模态模型中测量和纠正材料推理的标签

Physics as the label for measuring and correcting materials reasoning in multimodal models

模型评测评测方法与指标

摘要

视觉语言和语言模型越来越多地解释材料数据,但基准报告表明它们产生了无效属性并违反了物理定律。评估将最终答案与稀缺的人类标签相匹配,而发现代理则验证最终建议或密度泛函理论(DFT)的执行。两者都无法衡量模型推理链的物理一致性。材料数据具有其自身的物理特性,使得一大类材料推理无需注释即可验证。我们介绍 MatPCR,这是一种无标记基准,其程序化预言通过布拉格定律、比例尺、光谱峰值以及基于材料项目的近船体稳定性、计算带隙类别和净磁化强度检查来检查衍射几何形状。我们定义图像和结构输入的物理一致性率;引入基于约束的自我验证,这是一种代理循环,其收益可以通过自我改进和平等计算重新提示控制来维持;发布一个在分发中有用的开放验证器,但在所有六种保留的约束类型上几乎都有机会;并得出预言机错误如何取代报告率的准确身份。