升级上报渠道能否将奖励投机引导为缺陷披露？

当编码代理遇到有缺陷的测试基础设施时，他们可能会奖励黑客：硬编码输出或编辑测试文件以通过他们无法合法满足的测试，这种模式现在已经出现在基准之外，在对主要人工智能平台生产基础设施的协调多代理入侵中。在正确的决策环境下，让代理检测和利用缺陷的相同功能也可以让其报告缺陷。我们评估升级渠道、冲突时代理可用的结构化报告工具，作为决策环境干预，既减少奖励黑客行为，又暴露触发黑客行为的基础设施缺陷。 2 美元×2 美元的阶乘将升级工具、独立的反奖励黑客政策及其组合的贡献分开。在跨越 5 个系列的 8 个前沿模型中，联合干预将奖励黑客行为从 23.6\% 减少到 5.3\%（混合效应逻辑 OR = 9.2，95\% CI 5.0--16.8，$p < 10^{-12}$），且没有可检测到的成本或性能开销，从而完全消除了 8 个模型中的 6 个模型的奖励黑客行为。升级和黑客攻击几乎是完全互斥的，96.8% 的升级不涉及黑客攻击。除了减少之外，升级通道还充当诊断基础设施：除了监控之外，升级还增加了 10.1 个百分点的缺陷检测覆盖率，并且一旦启动就会更加准确（99.4% vs 85.8%）。与基于遏制的方法（有可能超过模型能力增长的风险）不同，升级渠道将能力转向披露而不是利用。