AIRA：人工智能引发的风险审计：人工智能生成代码的结构化检查框架

从业者报告了人工智能辅助代码生成的方向性模式：人工智能生成的代码往往会悄悄失败，保留功能的外观，同时降低或隐藏保证。本文介绍了奖励型失败假设 - 该模式可能反映了通过人类反馈进行优化​​的产物，而不是错误的随机分布。我们将失败真实性定义为系统的可观察输出准确地表示其内部成功或失败状态的属性。然后，我们提出 AIRA（人工智能引发的风险审计），这是一个确定性的 15 项检查检查框架，旨在检测代码中的失败不真实模式。我们报告了三项研究的结果：(1) 匿名企业环境审计，(2) 平衡的 600 个文件公共语料库试点，以及 (3) 严格匹配控制复制，将 955 个人工智能属性文件与 955 个人类控制文件进行比较。在最终的复制中，AI 属性文件显示每个文件有 0.435 个高严重性发现，而人类对照中为 0.242 个（1.80 倍）。 JavaScript、Python 和 TypeScript 的效果是一致的，其中最集中的是与异常处理相关的模式。这些发现与人工智能辅助代码中的软故障行为的方向性偏差是一致的。 AIRA 专为需要故障关闭行为的治理、合规性和安全关键系统而设计。