产品与服务

火山引擎发布《智能体安全能力图谱》:智能体安全建设 10 大能力维度、60 项核心技术要素

行业首发|智能体安全能力图谱发布:企业可落地的建设路径

AI 基础设施智能体系统Agent 动作执行与治理模型网关可观测性AI安全与内容治理基础设施

概述

火山引擎基于字节内部 AI 安全治理最佳实践发布《智能体安全能力图谱》,系统梳理智能体安全建设的 10 大能力维度与 60 项核心技术要素,管理范围覆盖 WorkFlow 类智能体、办公类智能体与 AI Coding 类智能体。10 个维度依次为:智能体合规准入(按岗位职责、行为权限、使用场景分类分级并形成可嵌入的安全描述文件);智能体资产与供应链安全(构建 AI-BOM 清单、细粒度盘点与供应链风险定期巡检);内容安全合规(输入输出内容安全检测、红线敏感话题深度管控、AI 生成内容深度鉴伪打标);常态化安全测评与加固(合规测评与红队测评实现安全左移);AI 安全网关(统一接入、敏感数据识别与脱敏、数据跨境管控、模型路由、资源耗尽防护与成本治理);身份与认证管理(非人类身份体系、可信身份令牌、委托链与意图声明、凭据托管);权限与访问控制(对用户→总控智能体→子智能体→知识库/插件/工具集的委托链全过程做权限控制,高风险偏离行为阻断或强制 HITL);运行时安全监控与防护(工具滥用、越权、记忆投毒、注入攻击实时检测拦截);安全可观测性与运营管理(全量动作日志、行为审计、事件分析与自动化处置,建立 UEBA/AEBA 基准);模型与推理安全(机密计算、端到端加密、远程证明与可追溯审计)。同时给出 L1 基础 AI 安全防护(覆盖维度 1-4)、L2 精细化管控(维度 5-8)、L3 安全持续运营(维度 9-10)三阶段企业建设路径。