产品与服务

火山引擎 RocketMQ For AI:LiteTopic 与优先级消息支撑 AI 长会话与 Multi-Agent 协作

重构大模型通信架构:火山引擎 RocketMQ For AI 解决方案

AI 基础设施智能体系统Agent 协作推理服务数据基础设施

概述

火山引擎 RocketMQ 在保留原有异步解耦、流量削峰、事件分发能力的基础上完成内核能力升级,推出以轻量化通信、智能化调度、企业级可靠性为核心的 RocketMQ For AI 解决方案,核心为两项新特性:一是 LiteTopic,允许租户创建上百万个 Topic、每个 Topic 容纳百万 Queue,底层沿用统一 CommitLog 追加写,但把每个 LiteTopic 的队列索引(LiteCQ)由 ConsumeQueue 文件改为 RocksDB 中的 Key-Value 对存储,并通过长轮询+消息集合维护兼顾海量 Queue 的读取性能与集群稳定性;LiteTopic 采用「会话即主题」模型、默认单 Queue 以严格保序,支持动态创建、生命周期短自动释放、绑定到预先创建的父主题做路由与命名空间管理,同一时间只被同一消费组下的单个消费者实例订阅。二是优先级消息,借鉴 JMS/AMQP 以 1-10 数值定义优先级,把不同优先级数值直接映射到不同的 ConsumeQueue,消费侧仅支持 Pop 模式并按优先级顺序扫描队列,只保证单 Broker 内部优先、宏观上保证高优先级消息被优先处理。场景用法上:AI 长会话可为每个会话绑定独立 LiteTopic,实现会话级隔离、上下文顺序性与可追踪性,避免长任务占住队列头部阻塞其他会话;Multi-Agent 协作中由主 Agent 拆解任务并动态为每个 Sub-Agent 创建 LiteTopic 做任务分发与结果回收,支持差异化优先级调度、阶段性片段回传(Sub-Agent 重启可按进度续接)与任务结束自动回收资源,Supervisor 再以 HTTP SSE 流式推送给用户。