Meta 广告团队用自适应推理弯折扩展曲线服务 LLM 规模排序模型

Meta 广告推荐系统团队（Ads RecSys）披露了服务 LLM 规模广告排序模型的推理工程实践。当广告推荐模型被扩展到 LLM 规模后，模型复杂度与算力显存消耗同低延迟、低成本的服务要求之间形成难以兼得的「推理三难」。Meta Adaptive Ranking Model 通过自适应推理改变推理资源随模型规模的增长方式，把推理扩展曲线「掰弯」，目标是在全球规模的服务中同时控制延迟与成本。Meta 官方口径显示该能力已进入生产阶段，但未披露具体量化收益。