TradingMoE：在不断发展的市场中寻找合适的专家

大语言模型 (LLM) 在财务分析和交易方面显示出强大的潜力，但直接交易仍然具有挑战性，因为所需的预测能力可能因资产、决策领域和市场条件而异。现有的基于 LLM 的交易系统要么协调人类定义的外部专家，要么采用传统的内部专家混合 (MoE) 路由器，这些路由器不直接评估单个专家如何对交易决策做出贡献。此外，这些路由器不会收到直接信号来表明随着市场条件的变化，不活跃的专家何时变得更合适。我们发现本机路由器分数不能很好地反映个别专家对交易决策的改进程度，经常会留下更好的替代方案。我们进一步揭示了特定词元的专家有用性表现出紧凑的低维结构。基于这些发现，我们提出了 TradingMoE，一种面向交易的稀疏 MoE，它用轻量级残差专家增强了冻结密集 LLM。我们引入了一个查询—键路由器，它将当前市场背景下每个词元所需的专业知识表示为低维查询，并将其与可学习的专家键相匹配。我们进一步提出了一种稀疏专家选择更新机制，在训练期间对一些不活跃的专家进行采样，并估计他们是否应该替换当前 Top-k 路线中最弱的专家。这种机制使路由器能够随着市场条件的变化而更新专家选择，同时保留稀疏计算。针对股票和加密货币市场 22 个基线的实验表明，TradingMoE 的累积回报率比表现最佳的基线分别提高了 30.89% 和 30.7%。滚动纸交易实验进一步证明其优势在仅前向部署下仍然存在。