论文

AutoStan:通过预测反馈改进自主贝叶斯模型

AutoStan: Autonomous Bayesian Model Improvement via Predictive Feedback

摘要

我们提出了 AutoStan,这是一个框架,其中命令行界面 (CLI) 编码智能体 可自主构建并迭代改进用 Stan 编写的贝叶斯模型。该代理在循环中运行,编写 Stan 模型文件,执行 MCMC 采样,然后根据两个互补的反馈信号决定是保留还是恢复每个更改:保留数据的负对数预测密度 (NLPD) 和采样器自己的诊断(分歧、R-hat、有效样本大小)。我们在具有不同建模结构的五个数据集上评估 AutoStan。在具有异常值的合成回归数据集上,智能体从朴素线性回归发展为具有 Student-t 鲁棒性、非线性异方差结构和显式污染混合的模型,匹配或优于 TabPFN(一种最先进的黑盒方法),同时保持完全可解释。在另外四个实验中,相同的机制发现了分层部分池化、具有相关随机效应的变斜率模型以及足球的泊松攻击/防御模型。不需要搜索算法、批评模块或特定领域的指令。据我们所知,这是 CLI 编码智能体 可以针对各种贝叶斯建模问题自主编写和迭代改进 Stan 代码的首次演示。