产品与服务

Claude Messages API增加自动缓存能力

Messages API 增加自动缓存

模型推理KV Cache

概述

Anthropic为Messages API增加自动缓存:请求中增加单个cache_control字段,平台即可自动维护缓存位置,无需手工标记各缓存断点。该能力在Claude API可用,Microsoft Foundry提供预览。交付形态为Messages API请求功能,面向多轮对话及代理应用开发者,区域覆盖海外与全球。对系统提示较长、请求结构重复稳定的应用,接入方式是升级请求结构并改用该字段,由平台自动管理缓存位置。