论文

VirtualMLE:优化顺序推荐器的虚拟机器学习工程师

VirtualMLE: A Virtual ML Engineer that Optimizes Sequential Recommenders

上下文与知识记忆Agent记忆

摘要

大语言模型 (LLM) 的最新进展展示了推理、反射和工具利用方面的卓越能力,解锁了复杂工程工作流程自动化的新范例。然而,在顺序推荐(SR)领域,在新数据集上调整模型仍然严重依赖经验丰富的机器学习工程师的手动试错。为了弥补这一差距,我们提出了 \textbf{VirtualMLE},这是一个 LLM 代理框架,它利用 LLM 的认知能力将推荐器优化组织成执行、反射和内存更新的闭环。每次试验后,智能体都会明确分析观察到的结果,并将简明的启发式反馈存储在分层记忆系统中。我们在三个 Amazon SR 基准上评估 VirtualMLE,其中包括两个代表性骨干网:SASRec 和 HSTU。 VirtualMLE 通过显着减少的试验达到有竞争力的推荐质量。此外,我们观察到从以前的数据集中提取的认知摘要可以显着加速对未见过的数据集的搜索过程,展示了转移调整启发式的潜力。总的来说,我们的结果提供了令人信服的证据,证明配备反射和内存的 LLM 代理可以作为实用的虚拟工程师,在 SR 优化中实现启发式学习的自动化和摊销。我们的代码可用。