法律AI知道自己何时出错吗？学生们又知道吗？

把大语言模型（LLM）整合进印度司法系统有望促进司法可及，但也带来严重风险。我们识别出“自信惯性”——一种类似邓宁-克鲁格效应的过度自信现象：LLM以接近满分的置信度给出错误的法律判决，其背后是假设的“判例过拟合”偏差。我们社会技术审计的第一阶段在60个关于《1872年印度合同法》及向法定强制履行转变的案例组上测试了ChatGPT（GPT-5.2）、Meta AI和Perplexity AI。我们引入高置信错误率（HCER）来量化以危险的确定性（10分制中不低于9分）给出的错误判决。所有模型都难以应对法规更新。Meta AI最脆弱（HCER为31.7%），常以9.1/10的平均置信度误用修订前规则，其后是Perplexity（15.0%）和ChatGPT（6.7%）。第二阶段通过对印度法学院学生（N=380）的调查考察人类对这种过度自信的易感性。核实往往作为对机器幻觉的被动适应而起作用：遇到过捏造引注的学生报告的核实得分（4.2/5）高于没有此类经历的学生（2.8/5）。此外，81.6%的学生知道提交幻觉案例可能导致藐视法庭，而71.1%的学生未接受过AI伦理使用的正式培训。我们提议转向对抗式法律研究教学法，并实施基于来源的核验架构，以防止系统性职业过失。