论文

论大语言模型在概念数据库建模中的局限

On the Limitations of Large Language Models for Conceptual Database Modeling

模型评测模型能力评测

摘要

本文分析将大语言模型(LLM)用作关系数据库概念建模辅助的情况,即从自然语言需求自动生成实体-关系(ER)图。该方法将不同的语言模型与提示工程技巧相结合,评估它们以概念一致的方式识别实体、关系和属性的能力。实验评估涉及三个LLM,每个都施加三种提示技术(Zero-Shot、Chain of Thought和Chain of Thought + Verifier),应用于复杂度渐进增加的相同需求场景。生成的图通过与环境文本需求直接对比进行定性分析,考察所建模元素在结构和语义上的贴合程度。结果表明,尽管LLM在较不复杂的场景中表现尚可,但随着需求复杂度上升,其可靠性下降,不一致、歧义以及约束表示失败随之增多。这些发现进一步证实,就当前状态而言,LLM尚不足以在复杂场景中可靠使用,且验证成本可能抵消表面的生产力收益。

论大语言模型在概念数据库建模中的局限:论文配图
图1:方法主要流程图:从输入到输出的各环节及其交互关系。