论文
EADC:大语言模型高级与深层合规评估
EADC: Evaluation of Advanced and Deep-level Compliance in Large Language Models
摘要
大语言模型(LLM)已被应用于各行各业。然而,确保其符合复杂的法律与监管框架仍是巨大挑战。现有评测范式主要依赖静态基准,存在三大严重局限:其一,所使用的合规规则不符合人工智能(AI)法律法规的要求;其二,它们只处理表面、显性的合规风险,使隐性与隐蔽的合规风险未被察觉;其三,它们无法追踪风险沿逻辑依赖链的系统性传播,也无法在基于语境的微妙现实场景中评估合规性。为弥合这一关键缺口,我们提出EADC,一个基于AI合规知识图谱与AI合规法律专家的新型高级评测基准。通过把抽象法律规则映射为结构化的逻辑多关系图,我们的框架使自动化、持续演化的Agent能够提炼并合成高度复杂的对抗性场景。该合规基准全程由人类AI法律专家审校与修正。所得到的数据集(4,435+问答对)提供了覆盖关键监管前沿的广泛、多维分类体系,包括偏见与歧视、公平性、个人隐私保护与价值观。至关重要的是,我们的合规数据集超越了浅层字符串匹配,纳入了上下文化的长程交互与逻辑驱动的危害链,捕捉绕过传统过滤器的深层合规异常。实验评估表明,该框架暴露了最先进LLM的关键监管盲点,提供了一个与AI法律法规对齐的严格基准,以保障LLM应用中的高层与深层合规。
