开源项目

Dynamo在转写worker失效后保持实时WebSocket会话

feat(frontend): recover realtime transcription after worker loss (#17014)

AI 基础设施推理服务

概述

Dynamo此前在实时转写worker失效时会关闭客户端WebSocket。本次将客户端连接保留在frontend,使用既有migration-limit尝试切换可用worker,并以每连接最多16 MiB或4096事件的日志保留设置与未完成轮次。重放时协调item ID、回执和已输出文本前缀,发现分歧时拒绝继续拼接。 恢复要求已确认的PCM转写、显式commit及turn_detection=null,默认migration-limit为0所以并非默认启用。重连、设置、重放及写socket有5秒期限。作者通过真实frontend/TCP与模拟ASR进程中断验证连续性,无GPU推理;Omni会话、生成音频及服务端VAD不在支持范围内。