论文
通过领域专用语言改进神经偏微分方程求解器的自动设计
Improving Auto-Design of Neural PDE Solvers with a Domain-Specific Language
摘要
神经PDE求解器自动设计本质上是一个搜索空间表示问题。在不受限制的Python程序空间中,有效的求解器形成一个极其稀疏的子集:大多数候选程序都是语法错误、语义不兼容或数值不稳定。直接代码生成因此迫使LLM花费大部分搜索容量来导航实现失败而不是进行关于求解器质量的推理。ADS-LPDE(自动设计神经PDE求解器)解决了这一挑战,通过引入求解器概念与可执行代码之间的结构化搜索状态。它表示决定神经PDE求解器(架构、物理约束、目标、采样和优化)的功能决策,而抽象了低级实现细节。一个确定性编译器将每个有效的搜索状态映射到可执行的求解器。实际上,ADS-LPDE重塑了搜索空间:它移除大量无效程序,增加有意义候选者的密度,并保留了发现以前未见过的设计所需的组合自由度。因此,求解器进化可以集中在设计决策上而不是代码艺术。基于这一表示,我们的进化智能体迭代地提出、评估和优化求解器搜索状态,使用经验反馈。在多个PDE基准测试中,ADS-LPDE不仅提高了求解器的效率,还增强了优化稳定性,实现了超过52%的改进,在第一次进化迭代后的十次迭代内。这些结果表明,LLM驱动的自动设计的有效性不仅仅要求更强的推理能力,而是需要一种能够专注于有效和有意义决策的搜索表示。
