技术实践
百度以ERNIE Evolve迭代实验优化文心推理,并以独立评测筛选改动
概述
百度文心团队将ERNIE Evolve用于研发中的ERNIE-5.5-Flash推理优化。外层Director依据经验库和知识库选择研究方向与起始版本,内层Selector、Executor在隔离环境改代码;固定Evaluator位于被优化仓库之外,对Agent不可见,结合Reviewer排除越界改动、噪声内收益和评测投机。研究过程记录版本、实验结果与失败原因。P800低时延任务限定只改硬件插件,四轮研究启用已有融合算子与多词元预测、消除同步和临时分配,并修正通信派发,最终生成速度为基线的623.6%。另一GPU任务要求输出Token和logprob逐位批次不变、与训练重算一致,约三天研究后吞吐提高33.7%;已优化单请求解码任务另获14.9%提速。数字分别来自不同基线,不能相加或外推。改动经过团队负载及正确性检查,不代表模型权重已经发布。公开仓库为优化结果,未宣称整个研究系统开源;文章将递归研发视为方向,但未证明新运行机制回到下一轮自身改进,故不据名称自动打RSI三级。