可靠的 AI 辅助工程：安全关键工作流的参与与保障形式框架

生成式人工智能可以生产工程制品，但仅生成并不能决定这些制品是否或如何进入安全关键的工作流程。本文开发了一个正式的框架，用于在各个工作流程单元级别分配人工智能参与和保证。每个单位都有一份参与和保证记录，涵盖其工程要求、经批准的适用的操作规范、适用的机制、适用的后备、证据义务和适用的保证，以及部署准备状态。该框架区分了确定性 验证、统计校准的准入、人工智能建议支持的授权人类判断、授权人类对人工智能生产的制品的裁决、保留的确定性工具路径和明确的不参与；这些安排提供不同种类的担保，而不是统一的担保水平。该框架还将形式化保真度与验证者健全性分开，提供分阶段分类和准备程序，并得出在经常性人口假设下将门控人工智能辅助单元与现有流程进行比较的条件。我们在执行的 17 单元翼梁结构分析工作流程中实例化并应用该框架，结合确定性门控 AI 生成的 CAD、保留的确定性计算和人工判断。 AI 生成的 CAD 程序通过了全部 23 项确定性检查，并一次就被录取。当预先声明的网格收敛证据不足时，有利的应力大小不足以通过应力标准；相反，这些标准被称为工程判断。该案例展示了单位层面的选择性人工智能参与和明确的证据处理；没有对工作流程级别的可靠性、认证、结构安全或生产力做出任何声明。