开源项目

EMA Lightning 新仓库以共享 GPU 双队列调度提供流式语音推理

EMA Lightning — one-model Turkish speech generation runtime

AI 基础设施推理服务

概述

EMA Lightning 是用于单声线土耳其语语音生成的 Python 推理库,目标日已有实际代码、pyproject 安装配置与 Apache-2.0 许可,可通过 pip 安装。此次按北京时间10.6结束前最后固定 commit 核验,没有混入10.7—10.8的词级时间戳等新增功能。Playhead 以一个后台循环拥有 GPU,按请求到达顺序维护句子生成队列及音频窗口解码队列。stream 首个窗口为一秒,后续窗口为四秒;不同解码尺寸不混批,且保持输出顺序。请求取消会移出两个队列,阶段失败只向相应批次调用者报错,随后继续服务。代码也表明长文本会一次入队全部句子,因此后续请求可能等待,调用方需要分块或额外公平调度。维护者报告 RTX 4090 首音频约3.86毫秒及较高实时倍速,这是指定条件的项目基准,不是本次硬件实测,也不等同完整音频生成延迟。