论文
CourseChat:本地多课程RAG校园助教
On-Premises Multi-Course RAG Tutoring for Business Education: Hardware-Software Trade-offs in a Campus AI Tutor
摘要
基于检索增强生成(RAG)的校园AI助教必须在指定课程材料上接地答案,同时把教材与学生对话保留在机构基础设施内。我们提出CourseChat——面向本科商科教育的本地多课程RAG助教,部署在校园Web网关后,供嵌入Moodle使用。六个以课程号(CRN)隔离的课程共享双边缘AI主机,运行FastAPI服务、本地向量库与Ollama服务的本地LLM。我们报告两轮生成模型对比、独立的固定证据源保真度比较,以及对话与测验审计。多个更大模型未通过课堂速度门槛,但12B模型与7B备选通过;一个单独的混合专家候选改善部分修正的同时引入新的事实与连续性错误,因此保留8B生产模型以待总体改进的证明,而不声称8B普遍最优。软件改进改善了追问话题解析同时保持课程范围;跨65模块的435道预置题把练习与实时生成解耦。结果支持把模型选型、证据选择、服务兼容性与产品设计视为联合工程决策;它们不确立学习增益——教师评分、峰值负载能力与完整的公共网关验收仍是独立的评估需求。