PRISM：Festina Lente主动性——面向主动Agent的风险敏感、不确定性感知的深思

摘要

主动智能体不仅要决定说什么，还必须决定是否以及何时介入。许多现有系统依赖脆弱的启发式规则或不加区分的长推理，对收益—负担权衡几乎没有控制力。我们将该问题形式化为成本敏感的选择性介入，并提出PRISM，一个将决策论门槛与双过程推理架构相耦合的新框架。在推理时，只有当经校准的用户接受概率超过一个由漏助与误报的非对称成本导出的阈值时，agent才会介入。受festina lente（拉丁语，意为“从容疾行”）的启发，我们以经接受校准、由成本导出的阈值进行门控，仅在决策边界附近才调用带有反事实检查的资源密集型Slow模式，把计算集中在模糊且高风险的案例上。训练采用与门对齐、模式锁定的蒸馏：运行完整PRISM流水线的教师在无标注交互轨迹上提供稠密、可执行的监督，而学生学习一个与介入门显式解耦的响应策略，从而实现可调、可审计的控制。在ProactiveBench上，PRISM较强基线将误报减少22.78%，F1提升20.14%。这些结果表明，有原则的决策论门控，配合选择性慢推理与对齐蒸馏，能够产生精确、计算高效且可控的主动智能体。为便于复现，我们在 https://prism-festinalente.github.io/ 发布代码、模型与资源；所有实验均使用开源的ProactiveBench基准。

PRISM：Festina Lente主动性——面向主动Agent的风险敏感、不确定性感知的深思 — 图2：PRISM 流程。模型首先从上下文 X_{t} 估计两个经校准的概率：用户需要协助的概率（p_{\mathrm{need}}）以及提议被接受的概率（p_{\mathrm{accept}}）。随后，一个代价敏感的门控仅在接受概率满足动态阈值 \tau(p_{\mathrm{need}}) 时才决定介入，该阈值考虑了误报（C_{\mathrm{FA}}）与错过机会（C_{\mathrm{FN}}）的相对代价。为平衡准确性与效率，仅当初始预测模糊并落在决策边界附近的狭窄裕度 \delta_{\mathrm{slow}} 内时，才会触发资源消耗较高的慢速推理过程。