产品与服务

Cerebras Inference:Multi-LoRA私有预览上线

Cerebras Inference推出Multi-LoRA私有预览

AI 基础设施推理服务

概述

Cerebras Inference以私有预览形式推出Multi-LoRA能力:拥有专用端点的用户可以在一个共享基础模型上部署多组Hugging Face PEFT格式的LoRA适配器,并按请求切换适配器,从而用一套底座服务多个微调场景。该功能预览期间不额外收费,但需联系Cerebras客户代表开通。对维护多个垂直场景微调模型的团队,多适配器共享部署能明显降低资源与服务成本,目前仅限专用端点用户。