论文
StableEval Arena:兼顾预测质量、可靠性与成本的稳定币风险评测
StableEval Arena: A Cost-Aware Agentic Benchmark for Stablecoin Price Stability Prediction
摘要
我们推出了 StableEval Arena,这是一个成本感知基准框架,用于评估代理人工智能系统的稳定币挂钩风险预测。 StableEval Arena 使用具有交易所价格量数据和市场背景特征的防泄漏历史回放来评估 LLM 支持的代理系统,以诊断锚定压力并预测隐藏的 7 天范围内与一美元锚定的偏差。我们报告了两个互补的实验块:一个 120 例应力丰富的验证块和一个 507 例自然分布全竞技场评估块。通过六个 LLM 支持的代理配置和基线,StableEval Arena 可以衡量预测质量、校准标签行为、结构化输出可靠性、延迟、词元消耗和估计推理成本。该框架不是仅根据准确性对代理进行排名,而是将可信度视为预测质量、操作可靠性和计算成本的联合属性。结果显示了协议遵循可靠性和财务风险可靠性之间的差距:代理以适度的测量成本可靠地产生有效的结构化输出,但仍然错过了大多数罕见的严重压力和持续脱钩案例。为了支持审核和复制,我们在 Hugging Face 上发布了基准数据集,并在 GitHub 上发布了源代码。