CRAFT:AI 原生 6G RAN 中的 微调 事前可解释性
CRAFT: Fine-Tuning Pre-hoc Explainability in AI-native 6G RAN
摘要
下一代移动网络被设想为完全 AI 原生,AI-RAN 架构嵌入小语言模型 (SLM),通过实时遥测进行推理。最先进的电信 LLM 训练范例(以针对策划指令数据的 RANSTRUCT 式监督 微调 (SFT) 为例)仅限于事后合理化。在这里,解释在产生时是在决策之后或独立于决策而生成的,使得决策过程无法审计。事前推理(在输出标签之前生成因果推理轨迹)是更可取的,并且更广泛的 LLM 推理文献已经通过 RL 方法(例如组相对策略优化 (GRPO))在这方面取得了真正的进展。在这里,我们观察到,将此方法移植到电信环境中会遇到冷启动障碍:SLM 要么学习输出所需的格式,要么学习预测标签,但很少两者兼而有之。我们发现了这一障碍并提出了 CRAFT,它代表通过 微调 的冷启动推理对齐,这是一种以数据为中心的方法,用于自动生成(输入、跟踪、标签)三元组的经过验证的数据集。 CRAFT 使用低秩自适应 (LoRA) 对这些经过验证的数据进行 SLM 微调,与基于 GRPO 的方法相比,所需的计算和挂钟时间大大减少。在 TRACTOR 和 IC xApp 电信数据集上,CRAFT 的准确率和 F1 分别高达 86.5% 和 94.6%,没有解析失败,而直接 GRPO 和 SFT+GRPO 未能超过 28% 和 53.5% F1,有多个解析失败。我们进一步表明,CRAFT 初始化的策略为后续 GRPO 微调 奠定了坚实的基础,因为在不同的奖励函数下,性能保持一致,没有解析失败。最后,我们证明 CRAFT 的能耗比基于 GRPO 的基准少 59%,使其成为在 6G RAN 中实现可部署、可审计的 AI 的可持续途径。