论文

AutoRelAnnotator:以校准模型级联降低搜索相关性标注成本

AutoRelAnnotator: Calibrated Model Cascades for Cost-Efficient Relevance Evaluation in Sponsored Search

摘要

搜索相关性标注用于训练数据准备、NDCG评估及原因分析,但人工标注慢,通用LLM在领域任务上准确率有限。AutoRelAnnotator以经过校准的模型级联完成低成本离线标注,将查询逐步路由至更大的微调分类器。核心观察是准确率和成本可分开优化:领域微调主要提高准确率,级联主要降低成本,逐类别保序校准带来小幅稳定改善。研究分解效果,发现微调贡献20个百分点的准确率提升,级联基本保持准确率并将计算成本减半;逐类别保序校准比最强校准基线提高0.6个百分点,具有统计显著性。系统在六类生产离线用例中处理超过1.5亿条标注,用于加快实验迭代。