技术实践
火山引擎以QUIC与MoQ统一多模态传输会话
概述
支撑豆包实时交互的底层传输架构从实时通信技术(RTC)代际跃迁为火山引擎多模态传输系统(MMT):秒接通方面,客户端底层基于 QUIC 库复用连接与多路复用,一次建联即可承载音视频、信令与模型状态多路数据,传输层基于 MoQ 协议实现统一会话控制、媒体流与控制信令在同一会话协同调度,建联耗时从秒级压缩到数百毫秒。 零丢字方面,网关层引入 MediaKit 同源处理算法,实时判断首帧是否完整、音画是否对齐、模型是否就绪,只有全部模态状态同步后才触发推理,从源头杜绝丢字与答非所问,并系统性改善延迟抖动超过 1 秒导致模型接收信息变形的问题。精准意图理解方面,通过 C/S 架构把传输从「哑管道」升级为「智能调度层」,由服务侧网关决策是否直接送模型、是否抽帧或取高清图、是否结合模型反馈改变处理策略,并在 MoQ 信令分层逻辑单元上控制各路优先级、可靠传输与低延迟取舍,在传输层完成语音、画面与时序对齐后再递送给模型。 正文称该系统经过亿级用户验证、能承载百倍复杂度。开启上述调度后每 query 的额外开销保持在传输层内部,不改变模型侧形态。