规范驱动的开发基准：安全知识转变

人工智能辅助软件开发正在从孤立的代码完成转向规范驱动的生成，其中业务需求、技术规范和验收标准成为基于 LLM 的开发代理的操作输入。这种转变产生了安全问题：功能行为被明确描述，而安全行为仍然是隐式的、通用的或推迟到生成后审查，导致生成的系统满足可见的功能需求，同时无法保留授权规则、所有权边界、输入验证、词元拒绝、敏感数据处理和滥用案例语义。本文提出了一种用于人工智能辅助规范驱动开发的安全知识操作化方法，结合了两个贡献：多层规范安全模型，通过系统实体、威胁、风险、需求、实施规则、控制、验证场景和证据之间的可追溯关系来表示安全知识；安全知识转换方法，将业务和技术规范转换为经过验证的安全性丰富的生成合同。我们通过两项实证研究评估该方法：一项隐藏预言机研究，评估基于 LLM 的管道是否可以从系统上下文中导出结构化安全模型；以及在三种条件下的后端生成研究：没有明确的安全要求、ASVS 条件生成和多层安全模型条件。根据隐藏的 221 项测试黑盒 API 套件进行评估，模态故障从基线的 50 例减少到 ASVS 的 42 例和多层安全模型的 36 例，在业务逻辑和管理安全等应用程序特定类别方面得到了最强劲的改进。