论文

经上下文学习的深度学习负载迁移智能体框架

Agentic Framework for Deep Learning workload migration via In-Context Learning

摘要

把深度学习模型从PyTorch的灵活面向对象设计翻译到JAX的函数式无状态设定通常是手工且易错的任务。自动迁移充满挑战——因为大语言模型(LLM)难做严格动态的API对齐——且在严苛算子上易出错。我们提出完全自主系统——结合上下文学习(ICL)与神谕驱动的自调试。第一——我们策展ICL上下文——作为习语JAX风格与测试用例生成的严格参照。第二——我们不依赖LLM推断数学输出——而是运行源PyTorch模块获取其真实动态张量状态——形成不可变的执行神谕。随后以自主智能体循环基于神谕数据合成测试。测试用例被反复执行——traceback回传LLM自我纠正。消融表明ICL参照加神谕锚定加自调试的组合大幅超越纯指令与基础智能体基线——且不增加过多计算开销。轻量管线在神经模块上达到91%数值等价(基线9%、指令+自调试27%)——为跨框架迁移提供高可靠、可扩展蓝图。已在SAM、T5、Code Whisper等多个SOTA模型上验证高数值等价。代码:https://github.com/AI-Hypercomputer/accelerator-agents/tree/main/MaxCode。

经上下文学习的深度学习负载迁移智能体框架:论文配图
图 1:工作流程框图,突出显示了四个阶段过程,包括设置、生成预言机、核心翻译阶段和最终的自调试阶段,以帮助代理自主进行自我纠正。