论文
DeepEdu-v1：聚类级选择注意力与可积累知识手册
DeepEdu-v1: Efficient and Scalable Agentic LLMs for Vietnamese Education
摘要
人工智能辅导可以显着提高越南等发展中地区学生的学习成果，但这两条明显的路径都存在缺陷。 ChatGPT 等云助手将敏感的学生数据路由到外国服务器，违反了越南第 53 号法令等数据主权法律，并且在以西方为中心的语料库上进行了预先训练，并非围绕国家教科书课程进行组织，因此它们对本地内容的了解不系统，而且经常产生幻觉。自托管开放模型可以将数据保留在本地，但会遇到两重障碍：训练后量化（AWQ、GPTQ）抑制了静态权重占用，但动态 KV 缓存和长辅导上下文的预填充延迟仍然会导致内存不足故障和消费者 GPU 响应缓慢，同时模型不断对特定区域的材料产生幻觉。我们推出 DeepEdu-v1，这是一种基于 SCALE（自我改进情境感知学习引擎）的越南教育人工智能辅导系统，该框架具有两项创新。首先，长上下文推理引擎将令牌选择从每个子块分摊到每个集群粒度；在长上下文检索中，它发出的检索调用比最先进的选择性注意基线少 7.7 倍，将预填充延迟 (TTFT) 减少了大约 35%，同时匹配或提高了任务准确性。其次，自我改进的 Agentic 层不断地根据过去的交互来策划经过验证的剧本，而不是进行微调，这种设计旨在随着值得信赖的本地知识的积累，逐步减少对主导语言先验的依赖。在其部署配置中，DeepEdu 实现了比标准 vLLM 服务近 2 倍的 TTFT 加速，并将复杂任务的代理准确度从 70.0% 提高到 79.5%，在金融推理和交互式代理基准测试中每轨收益最高。
