基于Jev的REFLEX：LLM Agent的高效选择性控制

LLM Agent经常用生成模型处理有边界的决策，这引出一个问题：这些决策何时能在不降低任务成功率的情况下被更高效地处理？我们研究REFLEX，一种Agent架构，它使用Jev作为快速、类型化的决策层，并在置信度低或需要生成时调用强LLM。在一个冻结的100任务基准上，REFLEX以比纯强模型Agent少72.7%的强模型调用达到95%的成功率，且这一降低在三个回退家族中都持续存在。受控干预表明，可靠性取决于动作集大小以及授权边界附近的有效备选项。外部BFCL与τ风格评测显示，当普通路由本已高度准确时，相对廉价的生成级联优势有限。这些发现指明了基于Jev的选择性控制何时能减少计算、以及其收益在何处受限。