开源项目llama.cpp:批次支持嵌入与原始token混合输入b11400ggml-org·来源日期:2026.10.04AI 基础设施推理服务收藏概述llama.cpp b11400使llama批次支持同时携带嵌入向量与原始token:新增常量图拓扑与专用输入通道,并在llama-arch层加入llm_arch_supports_mixed_batch判定,不支持混合批次的架构会被拒绝。这为多模态输入(如图像嵌入与文本token同批)及检索增强场景提供原生支持。公告未附性能数据;使用者需确认目标架构支持混合批次并回归相应输入路径。