仿真、推理、决策：面向仿真驱动决策的LLM科学推理

科学模拟器越来越多地集成到大语言模型驱动的系统中，以实现高风险的模拟驱动决策。然而，现有的框架主要使用LLM来生成、校准或执行模拟器，将它们视为黑盒接口，而不是可以推理的结构化机械系统。因此，当前的方法缺乏识别、表示和推理模拟器行为背后的假设和机制的能力，从而限制了透明度、可审计性和决策合理性。我们介绍 MechSim，这是一种用于可执行科学模拟器的基于机制的神经符号推理框架。与之前主要对静态符号结构进行推理的神经符号方法不同，MechSim 使 LLM 代理能够推理科学模拟器的机制、假设和执行行为。我们的框架通过捕获假设、变量、机制依赖性和执行跟踪的共享结构化模式来表示模拟器。在此表示之上，LLM 代理作为约束推理引擎运行，生成结构化的、基于证据的解释，将模拟器结果与其底层机制联系起来。我们跨多个高风险领域评估了我们的方法，并表明它提高了机制级解释质量、模拟器分析和下游决策的可靠性。