论文

GPF-LiveNews:大语言模型 中组条件帧的流评估协议

GPF-LiveNews: A Streaming Evaluation Protocol for Group-Conditioned Framing in Large Language Models

模型评测鲁棒性、公平性与可信度评测

摘要

部署的语言模型在非静态环境中进行评估:模型版本、检索层、安全系统和现实世界的输入都会随着时间的推移而变化。静态偏差基准仍然有用,但它们没有显示模型如何为不同提示的受众构建新出现的事件。我们引入了 GPF-LIVENEWS,这是一种流评估协议和基准快照,用于审核开放式 LLM 输出中的组条件框架。该协议将新的 BBC/Reuters 新闻主播扩展到 42 个身份标签和 7 个提示系列,然后使用语义敏感性和情绪差异信号评估响应包。在超过 12 次监控运行和 23 个托管模型的试点中,策略/操作提示产生最强的语义移动,而跨维度和提示系列的情绪变化则较为平坦。发布的工件包括文章元数据、提示模板、实例化提示、模型输出元数据、分数表、文档和复制脚本。我们将所有分数解释为供人工审查的观察窗口审核信号,而不是永久的公平排名或有害偏见的直接证据。