论文
诊断不是处方:语言协同适应解释了 LLM 管道中的修补危险
Diagnosis Is Not Prescription: Linguistic Co-Adaptation Explains Patching Hazards in LLM Pipelines
摘要
当多模块 LLM 代理发生故障时,对故障负最大责任的模块不一定是最佳干预位置。我们根据经验证明了这个诊断悖论:因果分析一致地将路由模块(选择接下来调用哪个工具)识别为三个独立代理系列的主要瓶颈。然而,向该模块注入提示级更正示例会持续降低性能,有时甚至会严重降低。相反,修补上游查询重写模块可以可靠地改善结果。该效应在两个智能体家族中具有统计显着性,而在第三个智能体家族中具有方向一致性;路由模块的替代修复策略(指令重写、模型升级)是中立的,证实了损害是修正注入补丁所特有的。我们通过语言契约假设来解释这种不对称性:每个下游模块都隐式地适应其上游的特征错误分布,因此纠正瓶颈会以上游纠正不会的方式打破这种隐式对齐。我们通过单独从诊断中得出的每个智能体的共同适应措施来实施这一点,并表明它与跨智能体家族的修补伤害始终相关:较高的共同适应与伤害同时发生,较低的共同适应与安全相关。这一趋势适用于所有三个代理家族,为单代理观察之外的假设提供了初步支持。