用于开源代码审查的实时毒性过滤

开源软件开发中的有毒交互会损害社区协作。为了解决这个问题，我们提出了 ToxiShield，这是一个实时浏览器扩展，可以识别和消除有毒代码审查。该框架包括三个模块：毒性识别、合理的多类分类和代码审查解毒。我们经过微调的基于 BERT 的二元分类器在 38,761 条代码审查文本上获得了 97% 的 F1 分数。对于多类分类，采用快速工程设计的 Claude 3.5 Sonnet 在 1,200 个样本上实现了 39% MCC 和 42% F1。最终，经过微调的 Llama 3.2 解毒模型达到了 95.27% 的风格转移准确率、97.03% 的流畅度、67.07% 的内容保留率和 84% 的 J 分数。 10 位软件开发人员的验证表明 ToxiShield 有效地培育了更具包容性的开源环境。