ZeroPolar：用无标签链接极性校正LLM网页分类

摘要

数字图书馆、在线商店和大学网站等网络平台必须在给新页面贴标签之前对其进行分类。大型语言模型（LLMs）可以从文本中标记每个页面，但这些标签有噪音，并且链接只能在链接页面共享类的情况下纠正它们。现有的零样本方法会忽略链接，或者像标签传播和图神经网络（GNN）那样将页面拉向其邻居，在链接页面类别不同时反而有害。其他人通过 LLM 估计的同质性进行权重传播，这会花费额外的调用并随所用LLM而变化。我们发现链接进入预测的符号（我们称之为结构极性）无需真实标签即可推断。该统计量是在链接两端，LLM标签与文本原型预测的超额一致性。因此，我们提出了 ZeroPolar，它通过这一统计数据来控制一个有符号传播步骤。免训练 ZeroPolar 将原型分数与任意数量的 LLM 标签混合，一旦一半页面带有标签，ZeroPolar-T 就会使用文本分类器对标签进行去噪。通过每页一个 GPT-4o 标签，ZeroPolar-T 在 11个图上达到最高平均准确度 (73.99%)，比 LLM-BP 高出 6.01 个点，并且显着高于我们比较的所有 18 个基线。由于 LLM 标签仅占 5% 的页面，无需训练的 ZeroPolar 领先在这些标签上训练的 GNN 10.80 个百分点。

ZeroPolar：用无标签链接极性校正LLM网页分类：论文配图 — 图3：ZeroPolar概览。门控（b）根据（a）中的信号读取σ（第4.2节），预算决定使用ZeroPolar（c）还是ZeroPolar-T（d）。下排展示Cora与Texas上的两个实测案例。面板a展示网页图：LLM结合类别名读取各页面并标注类别，其中部分标注错误；文本编码器将嵌入与每类20个LLM标签构建的类别原型比较，得到各节点的原型预测。面板b在两个小图中画出原型预测与LLM标签，实线表示同标签边，虚线表示异标签边；分别计算超额一致性，取最大值与δ比较，从而确定符号σ：正号向邻居拉近，负号向外推离。当带有LLM标签的测试节点少于一半时，σ传至面板c的ZeroPolar，否则传至面板d的ZeroPolar-T。ZeroPolar混合softmax分数与独热LLM标签；ZeroPolar-T则在LLM标签上训练MLP。两者都应用同一个带符号步骤（公式在面板d），并预测最高分的类别。下排Cora论文原先的MLP标签“Rule Learning”在正号步骤后变为“Probabilistic Methods”，因为大多数入邻居被MLP预测为后者；Texas网页原先的MLP标签“faculty”则在负号步骤后变为“student”，远离多数入邻居的“faculty”标签。