论文

从法规到落地:对工业界LLM辅助合规的批判性评估

From Regulation to Implementation: A Critical Evaluation of LLM-Assisted Regulatory Compliance in Industry

模型评测模型能力评测

摘要

欧盟(EU)已成为可持续性与隐私法规制定的领先监管机构。虽然新法规要求各异,但许多都包含用于确保合规的文档工件。值得注意的是,《生态设计可持续产品法规》(ESPR)引入数字产品护照(DPP)以实现生命周期透明,而《通用数据保护条例》(GDPR)要求数据保护影响评估(DPIA)以降低隐私风险。然而,创建这些合规工件颇具挑战。DPP需要工业数据,而这些数据通常以异构格式存在并分散在公司与供应商系统中,难以提取成合规的DPP格式。此外,DPIA文档需要跨学科专业知识且没有标准化格式,使新系统的文档编制困难。为解决这两项法规下合规工件创建的特殊复杂性,研究者已提出在生成过程中使用LLM;然而,上述问题对这些系统输出的影响基本未被研究。本工作通过探究数据提取指令和法规模糊性如何影响LLM生成的合规工件的质量与一致性来填补这一研究空白。生成的工件通过把不同模型与人工创建的基准模式(ground-truth schemas)对比来评估。结果显示,较宽松的指南(如DPIA格式)需要更强的上下文提示才能保持一致性与完整性;较严格的指南(如数字电池护照DBP的格式)则无论提示上下文如何都能产生一致结果,但可能在输出中导致更多幻觉。

从法规到落地:对工业界LLM辅助合规的批判性评估:论文配图
图1:按模型和模糊程度划分的 ESPR 工件平均法规合规性(完整性)得分。