面向自主数据科学的持久基于案例的记忆:具有本地可部署小语言模型的 CBR 增强型研发代理
Towards Persistent Case-Based Memory for Autonomous Data Science: A CBR-Augmented R&D-Agent with a Locally Deployable Small Language Model
摘要
大多数表现最好的自主数据科学代理都依赖于前沿云模型,并且缺乏持久的跨会话内存。本文解决了两个空白:(1)将符号案例记录与可执行代码工件耦合起来的形式化结构化、质量控制的基于案例的推理(CBR)案例库的使用尚未得到充分探索; (2) 小语言模型 (SLM) 作为本地可部署代理骨干的未经测试的可行性。我们推出了 CBR 增强型 R&D-Agent,将持久 CBR 层集成到 Microsoft 的 R&D-Agent 框架中,并具有 Gemma 4 31B Dense 的自定义后端——这是首次发布的 Gemma 4 作为自主数据科学代理骨干的端到端评估。 CBR 层通过由单个环境变量切换的手术子类覆盖三个研发循环阶段。案例存储为结构化记录,具有可执行代码快照和质量元数据;五门质量过滤器和启发式重用检测机制通过结合嵌入相似性、代码指纹重叠和注入来源来评估知识转移。在两项 Kaggle 竞赛(NOMAD 2018、《泰坦尼克号太空船》)上进行评估,每个竞赛有四个种子,每个种子超过 8 个改进循环,CBR 比《泰坦尼克号太空船》禁用 CBR 的基线(0.8147 vs. 0.8098,d = -1.41)获得了定向更高的准确度,并且方差显着降低。 108 个检索事件的启发式重用检测显示出较高的语义相关性(平均嵌入相似度 0.882)以及可变的结构接近度(平均代码指纹相似度 0.305),这符合概念指导而不是逐字代码复制。