论文

以语言表征塑形图式:LLM智能扩展的下一个前沿

Shaping Schema via Language Representation as the Next Frontier for LLM Intelligence Expanding

模型评测模型行为与机制分析

摘要

尽管自然语言是大语言模型(LLM)的默认媒介,但其有限的表达能力为复杂问题的解决造成了严重的瓶颈。虽然人工智能的最新进展在很大程度上依赖于扩展,但仅仅内化知识并不能保证其有效应用。本文将语言表征定义为用于映射和建模现实世界的语言和符号结构,认为通过高级语言表征塑造图式是扩展LLM智能的下一个前沿。我们假设LLM的知识激活和组织(其模式)在很大程度上取决于用于表示给定任务的语言的结构和符号复杂性。本文提供了这一主张的形式化和支持它的经验证据。通过新的形式化,我们提出了多种证据来支持我们的立场:首先,我们回顾了最近的经验实践和新兴方法,这些方法证明了通过深思熟虑的语言表示设计可以实现实质性的性能提升,即使不修改模型参数或规模。其次,我们进行的对照实验表明,LLM 的性能及其内部特征激活在同一底层任务的不同语言表示下会有所不同。总之,这些发现凸显了语言表示设计是未来研究的一个有前途的方向。

以语言表征塑形图式:LLM智能扩展的下一个前沿:论文配图
图 1:语言表示作为LLM情报的前沿。自然语言仅编码世界信息的一小部分(左)。我们沿着提高设计复杂性的轴组织表示,从自然语言基线(级别 0)到歧义消除(级别 1)和逻辑约束(级别 2),再到科学形式化和世界建模(级别 3)。每个级别都会产生逐渐丰富的内部模式,将能力前沿推向自然语言基线之外(右)。