开源项目
Dynamo加入可选的Velo TCP与UCX响应传输平面
feat(runtime): add Velo TCP and UCX response transport (#15231)
概述
Dynamo新增通过DYN_RESPONSE_PLANE=velo启用的响应平面,底层使用Velo 0.20.0和velo-ext 0.5.6。可选TCP或UCX,UCX需velo-ucx构建特性,并同时保留TCP监听。Velo负责批量、流控与流生命周期,Dynamo维持类型化响应、错误、取消及Runtime资源归属。 默认仍是原TCP响应传输。Velo批量延迟默认5毫秒,可设0;心跳默认1秒,frontend在丢失3—4次心跳后结束失联worker流。协议或传输不匹配会尽早回报,空闲frontend连接可被遗忘回收。该交付提供新的完整响应传输选择,不宣称所有部署自动得到吞吐提升。