论文
RouteRec:推荐代理选择和聚合的严格评估
RouteRec: Strict Evaluation of Recommender-Agent Selection and Aggregation
摘要
推荐系统越来越多地面临异构代理之间的选择——协作过滤器、顺序模型、基于内容的 检索器 和基于 LLM 的重新排序——但没有一个代理是一致最好的。我们使用 RouteRec 将这种选择作为成本约束下的任务感知代理排名进行研究,RouteRec 是一个框架,该框架将请求级硬选择与四个传统推荐代理和一个 LLM 重新排序代理的项目级学习聚合进行比较。在 MovieLens-1M 上,完整质量预言机具有很大的余量 (HR@10 = 0.584),确认存在有用的跨代理信号。然而,在无泄漏 5 倍折叠协议下,硬选择仍然低于 BM25(0.223 与 0.254),并且选择性 LLM 升级并不能改善它。相同的协议对于学习聚合产生不同的结果:其廉价变体在 HR 中匹配 BM25,并具有更高的 NDCG 点估计(0.123 与 0.114),而门控全代理聚合达到 HR@10 = 0.295,调用次数为 70.2\% LLM。由此产生的教训不是解决了路由问题,而是一个完整代理列表的请求级选择对于这种稀疏的固定候选设置来说太粗略了;项目级聚合是更有前途的操作空间。