小红书大模型推理编排与Agentic RL基础设施实践

发布于 2026-11-11 · 阅读 10 分钟

下载正文PDF

摘要：小红书围绕PD分离推理服务，先以GroupSet和PodGroup实现成组管理、拓扑感知及原地发布，再探索RBG角色独立编排与策略协同。同时，Agent Infra将管理对象扩展到任务、状态和沙箱，进一步探索快照复用及面向训练、评测的Rollout托管。