更人性化、更高效：将注释与量化 SLM 对齐

随着大语言模型（LLM）能力的进步，对呈指数级增长的文本语料库的高质量标注的需求已经超出了人类的能力，导致LLM在自动评估和标注中的广泛采用。然而，专有的 LLM 经常表现出与人类专家共识不同的系统偏差，缺乏可重复性，并引发数据隐私问题。我们的工作检验了在有限的人工注释数据上微调 1.7B 参数大小的量化小语言模型以充当高度对齐、确定性评估器和注释器的可行性。通过实施定制的多维标题框架以及简单的增强和正则化技术，所提出的方法比表现最好的最先进的专有 LLM 实现了更高的注释者间一致性（Krippendorff 的 $α$ 增加了 0.23 个点）。我们还证明了所提出的训练流程在单独的情感分类任务上的通用性。结果表明，特定于任务的对齐和高效的 4 位量化 微调 为使用专有模型进行评估和注释提供了卓越的开源替代方案。我们的微调方法可在 https://github.com/jylee-k/slm-judge 上公开获取。