产品与服务

火山引擎 AgentKit 模型网关:把多模型接入、密钥托管、故障兜底与用量观测收敛到一个入口

AgentKit 模型网关上手指南|告别多模型管理混乱

AI 基础设施智能体系统Agent Harness推理服务模型网关可观测性

概述

AgentKit 是面向企业的 AI Agent 基础设施平台,提供运行时、身份权限、工具、记忆、知识和观测等能力;其中模型网关把模型接入、密钥托管、故障兜底与用量观测收到一个入口,业务侧只要指向网关、换掉密钥即可接入。配置链路为:开通 AgentKit 服务并在火山方舟模型广场取得 Base URL、API Key 与模型 ID,创建私有网络(建议至少 2 个子网)与日志项目,在「网关—网关实例」创建模型网关实例并绑定私有网络/子网与日志项目,再在「网关—模型服务」创建模型服务,填写 Base URL(示例 https://ark.cn-beijing.volces.com/api/v3)、供应商 API Key,并可按模型配置每分钟 Token 上限以控成本、配置备用模型在主模型故障时自动切换以提高可用性;随后在「供应商与模型管理」获取网关地址作为业务侧 Base URL,在「Proxy API Key 管理」创建 Proxy API Key(可设置自定义范围,按模型配置速率限制及每日/每周/每月额度),使原始 API Key 不泄露。调用侧提供 AgentKit Runtime、OpenAI SDK(Python)、cURL 等示例;文中以 DeepSeek Harness(npx @deepseek-ai/dsh web,设置—模型—添加自定义提供方)填入网关地址与 Proxy API Key 完成验证,示例模型为 doubao-seed-2-1-pro-260915。运维侧可在「模型服务—日志」查看运行日志定位调用异常,在「监控」按 Provider、Proxy API Key 等维度查看 Token 消耗详情。