从语言统计中学习核心概念区别的失败和成功

像“老虎有条纹”和“汽车有收音机”这样的通用陈述传达的信息通常是真实的。然而，虽然第一个陈述原则上是正确的，但第二个陈述仅在统计上是正确的。人们对这种原则性与统计性的区别非常敏感。有人认为，这种区分某些事物是因为它是类别成员而为真还是仅仅因为统计规律而为真的能力，是人们概念机器的一般属性，而且本身是无法学习的。我们研究是否可以从语言本身中学习原则属性和统计属性之间的区别。如果是这样，那就提出了语言经验可以引导核心概念区别的可能性，并且可以直接从语言学习复杂的因果模型。我们发现语言模型都对统计流行率敏感，但很难代表控制流行率的原则与统计区别。直到 GPT-4 的成功。