STaR-DRO：用于组鲁棒结构化预测的状态 Tsallis 重新加权

使用 大语言模型 进行结构化预测需要在标签不平衡和异构组难度下输出标签准确、本体约束、结构有效且基于证据的输出。我们提出了一个统一的本体约束生成框架。首先，我们介绍了一种模块化的提示工程架构，它结合了 XML 风格的结构、专家消歧规则、思想链推理、元数据感知决策逻辑、模式契约和自验证门。它针对反复出现的上下文失败，包括格式漂移、标签模糊、证据幻觉和元数据条件混乱。其次，我们提出 STaR-DRO，结合了 Tsallis 镜像上升、稀疏 entmax 式原始映射、EMA 平滑组损失跟踪、重新缩放的上升信号和有界仅限超额乘数。传统的 DRO 依赖于密集的香农熵指数梯度更新，可以引入高方差随机重新加权，将正对抗质量分配给不持续困难的组，并通过单纯形竞争产生成本，而 STaR-DRO 与此不同，STaR-DRO 仅增加持续困难组的权重，而不抑制较容易的组。我们评估了 EPPC Miner 的框架，这是一项基于临床的高风险结构化预测任务，需要分层标签预测和从患者提供者安全消息中提取证据范围。在 1B-70B Llama 模型中，即时工程改进了零样本提取，产生 +14.46 的平均标签 F1 增益和 +17.40 的跨度 F1 增益。 STaR-DRO 在有监督的 微调 的基础上进一步提高了准确性和鲁棒性，相对于 SFT 和标准 DRO，平均标签 F1 提高了 +1.08 和 +2.20，同时平均分组验证交叉熵分别降低了 21.3% 和 14.8%。这些结果推进了可靠的自动化通信挖掘，以进行以患者为中心的临床护理分析。