故障感知长格式翻译：可恢复 LLM 翻译系统的设计与实现

长格式翻译请求可能在 API 层成功，但仍然会产生不可用的结果。输出可能是空的、被截断的、被过滤的、以源或提示材料为主，或者在产生值得保留的文本后被中断。本报告描述了为具有异构输入和提供者 API 的已部署翻译系统开发的恢复协议。它延迟 64 字符窗口后面的第一个可见发布，验证组装的输出，并使用类型化流事件来区分替换和继续。仅当可以从源重新派生段落或句子前缀时，才会保留中断的工作。在进入带有出处标记的后备路径之前，进一步的尝试遵循稳定的模型顺序和共享的截止日期。经过净化的配套工件实现了该协议并通过了 38 项公共测试。其固定案例重现了所有 14 个配置的完成标签，在 235 个字符中的任何一个变得可见之前包含四个早期无效的前缀，在四个中断的流中保留 31 个边界安全字符，并满足两个端到端场景中的尝试、事件和来源规则。这些结果是已发布的控制流的可执行检查。自然发生的输出的翻译质量和检测器性能需要不同的评估。