论文

分享:社会人文人工智能用于研究和教育

SHARE: Social-Humanities AI for Research and Education

模型训练预训练

摘要

本中级技术报告介绍了 SHARE 系列基本模型和 MIRROR 用户界面。 SHARE 模型是第一个由社会科学和人文学科 (SSH) 完全预训练的因果语言模型。它们在 SSH 文本建模方面的性能接近通用模型 (Phi-4),后者使用的词元多了 100 倍,如我们的自定义 SSH Cloze 基准测试所示。 MIRROR 用户界面旨在审查来自 SSH 规则的文本输入,同时保持关键参与度。通过对不生成任何文本的生成式 AI 界面进行原型设计,我们提出了一种在不损害 SSH 原则和规范完整性的情况下利用 SHARE 模型功能的方法。