Stoicheia：用于古希腊文本恢复、解析和韵律扫描的字符级掩码扩散

我们介绍了 Stoicheia，这是一种用于古希腊语的 405M 参数字符级屏蔽扩散编码器，其输入因素为五个对齐的、独立的可屏蔽平面：字母、单词和句子边界、变音符号、大写和标点符号。因此，单个主干可以修复空白、重新分段、强调和标点无间隔文本，而无需特定于任务的重新标记化。我们在一个开放的、经过修订的 3.8 亿单词语料库上对其进行预训练，并发布 11 个检查点：10 个旋转的、净化的折叠，保证对于任何给定的文学段落，至少有一个发布的模型从未见过其文本，并且一个没有接触过文献文本。三个实验——重建受损的铭文和纸莎草纸、形态句法标记和依存解析，以及使用韵律扫描的宏化——每个实验都带有匹配的随机初始化控制，隔离字符级扩散预训练的贡献：铭文重建有 5.6 个 CER 点，解析有 12.9 个 LAS，宏化有 6.0 个平衡精度点。在 Ithaca 自己的测试中，采用相同的冷冻样本和严格的评分，Stoicheia 相对于之前最先进的系统，将字符错误从 24.6（Ithaca）和 23.5（其 2025 年 Aeneas 框架后继者）降低到 15.5，并将 top-1 准确率从 63.0 和 64.0 提高到 74.5。