ANI：用于统一数值推理中语义和算术表示的自适应数值注入

使用大语言模型 (LLM) 进行精确的数值推理对于将其适用性扩展到复杂的现实世界任务至关重要。然而，基于文本的标记化通常会使数字变得碎片化，严重阻碍了精确的算术推理。与此同时，数字嵌入尽管具有算术精度，但仍依赖于上下文无关的替换，而忽略了数字作为标识符的语义角色。为了结合互补的优势，我们提出了 ANI（自适应数值注入），这是一种混合框架，用于管理基于语义上下文的数值特征的选择性注入。通过采用上下文感知门控机制，我们有选择地将数字嵌入（特别是 FoNE）注入到潜空间中，显式保留名义标识符，同时增强定量操作数。通过对各个大语言模型的广泛评估，我们证明 ANI 使数学成绩比官方参考模型提高了 9.5 分，同时在一般语言基准上保持了稳健的表现。