论文
Eureka:企业AI云资源需求预测的智能特征工程
Eureka: Intelligent Feature Engineering for Enterprise AI Cloud Resource Demand Prediction
摘要
有效的特征对于预测模型的性能至关重要,但创建它们通常需要领域专业知识,从而限制了跨应用程序的可扩展性。我们将特征工程定义为代理代码生成问题:特征不是静态数据转换,而是可以生成、评估和迭代改进的可执行程序。我们提出了 Eureka,一个由 LLM 驱动的框架,分为三个阶段。 (1) 专家代理通过领域知识的 SFT 进行微调,生成 JSON 格式的结构化特征设计计划。 (2)LLM特征工厂通过链式推理将每个计划翻译成可执行的Python代码,将特征假设转化为可运行的程序。 (3)自我进化对齐引擎使用强化学习(GRPO)和双通道奖励(基于度量的效用+语义对齐)来提高代码质量。通过将特征表达为程序,学习到的生成模式可以跨域转移。根据医疗保健、金融和社会领域的 7 个公共基准进行评估,Eureka 始终优于传统的 AutoFE 和基于 LLM 的基准。我们在阿里云进一步证明了Eureka在云GPU资源需求预测方面的有效性,其中Eureka将需求满足率提高了16%,并将计算资源迁移率降低了33%。