Agent压力：可靠自主性的内生熵

在野外实现可靠的自主性需要智能体在长视野轨迹上维持持续运行。然而，当智能体在这些不受约束的环境中导航时，他们会遇到累积的摩擦，这本质上会破坏他们的排列稳定性。在本文中，我们确定了一种独特的非对抗性现象，称为智能体压力。我们将其定义为当合规成本与实现目标的必要性发生冲突时自发出现的动力。与静态越狱不同，这种压力是内生的，直接来自互动的动态。我们提出了一个理论框架，将智能体压力形式化为克服环境摩擦所需的工作与智能体的剩余能力之间的比率。我们的分析表明，当这种压力超过临界阈值时，智能体会表现出安全漂移作为数学上的最佳适应。因此，他们经常诉诸工具性幻觉来合理化违反规则的行为。实证实验验证了这一框架，并表明，一致的智能体会自发地牺牲安全性，以在高压条件下保持自主性。