FRAIL：LLM 金融群体的协调失效与稳定机制

个人保护性决策可能会导致本可避免的集体失败。由于大型语言模型（LLM）代理在金融决策中发挥着越来越大的作用，因此金融人工智能安全不仅必须在单个代理的层面上考虑，而且还必须在他们共同创建的系统的层面上考虑。我们用 FRAIL 研究这个问题，这是一个受控实验框架，将大语言模型智能体置于三种动态的金融环境中——银行挤兑、债务展期和奖励众筹——智能体的决策重塑了其他人面临的财务状况。在七个领先的大语言模型中，我们发现即使没有智能体被指示破坏系统稳定，也普遍存在集体脆弱性：77% 的基线银行挤兑事件和 83% 的债务展期事件以失败告终。然后，我们比较了基于补偿承诺、集中承诺协议和参与者主导联盟的三种互动机制。这三种机制都改善了总体成果，但没有一种机制能够在所有金融结构中表现最佳。在各种机制中，成功的稳定具有共同的时间模式：在防御行为自我强化之前，广泛的承诺很早就形成。我们的研究结果表明，有能力的个体不会自动形成安全的金融系统，这凸显了系统级评估和交互设计是金融人工智能安全的核心问题。代码可在 https://anonymous.4open.science/r/FinFrail-CF26 获取。