LinkedIn用统一小语言模型整合结构化查询理解

大规模工业搜索系统中的查询理解通常作为不同的、特定于任务的组件的级联来实现。虽然可以单独优化，但这种碎片化的架构会带来很高的维护开销，并导致行为不一致，特别是对于长尾查询。在这项工作中，我们提出并部署了一个统一的结构化查询理解系统，该系统将这些异构功能整合到一个执行模式约束生成的单个小语言模型（SLM）中。为了解决统一建模中固有的数据瓶颈，我们引入了 Query Illuminator，这是一个双重用途框架，可充当：（i）用于高质量自动注释和 蒸馏 的教师模型，以及（ii）在人类标签稀缺的情况下用于可扩展评估的辅助评判器。我们通过 LinkedIn 求职系统中广泛的离线和在线测试来验证这种方法。此外，我们通过人员搜索的跨域案例研究展示了该框架的水平可扩展性。结果表明，在满足有限 GPU 资源上严格的低延迟服务限制的同时，还提高了用户参与度并降低了运营成本。