图 1：本文封面，点明主题「模型幻觉：大模型为什么胡说八道」。
先说两个真实感很强的场景。你让 AI 帮忙整理某个研究方向的参考文献，它一口气列出五篇：标题、作者、期刊、年份一应俱全，你拿去检索，发现篇篇查无此文。又或者，你完全不懂编程，让 AI 帮你写一个小游戏，它给出了完整代码和自信满满的说明，你复制运行，报错满屏，改了三轮还是跑不起来。
核心结论一句话
大模型是按概率续写文本的机器，不是事实数据库。当答案需要的知识不在它的训练数据里，或者已经过时，它不会停下来承认「我不知道」，而是顺着概率最顺的方向继续编——语气越自信，越容易让人上当。这种现象叫模型幻觉，它是机制产物，只能靠工程手段缓解，无法彻底消灭。
幻觉到底是什么
学术界对幻觉有明确界定：模型生成看似流畅合理，但与事实不符、或者干脆无中生有的内容。自然语言生成领域的权威综述指出，随着生成模型越来越流畅，幻觉反而更具迷惑性，已成为摘要、对话、问答等任务的公认难题，学界围绕它的测量与缓解已经形成了大量研究。注意这个定义的要点：幻觉不是「答错」，而是「编得理直气壮」。
为什么会产生幻觉
第一，生成机制本身。模型做的是「给定上文，预测下一个最可能的词」，通顺是它的本能，正确不是。编造一个不存在的论文标题，和写出一个真实的论文标题，在概率上并没有本质区别。
第二，训练数据有缺口、有截止日期。训练语料没覆盖的领域、截止日期之后发生的事，模型一概不知，但你问它，它照样回答。
第三，模型没有「知识边界」的概念。它无法区分「我记得这个」和「我在瞎猜」，两种情况输出的自信程度几乎一样。
把三条成因串起来看，会得到一个共同的结论：幻觉不是模型的「故障」，而是这套机制的正常输出——只不过这一次，概率指向了错误的方向。所以指望幻觉随着模型升级自己消失并不现实，真正能做的是在系统层面给它装上刹车。
工程上的三招缓解
图 2：幻觉的产生链条与三种工程缓解手段的对应关系。
第一招，检索增强（RAG）：先查资料再回答。把权威文档检索出来塞进上下文，让模型「照着小抄答题」，把生成约束在可核实的材料之内。这是目前应用最广的做法。
第二招，自我反思。Reflexion 论文提出的思路是：不更新模型权重，而是让模型根据任务反馈写一段「反思笔记」存进记忆，下一轮带着教训重试。在原论文的代码生成实验中，这套方法把 HumanEval 基准的 pass@1 准确率做到了 91%，超过了当时 GPT-4 基线的 80%——靠的不是更聪明，而是「知道自己上一轮错在哪」。
第三招，工具核验。ReAct 论文让模型交替进行「推理」和「行动」：想一步，调用一次外部工具核实，再继续想。原论文在问答与事实核验任务上，通过让模型调用维基百科 API 查证，显著克服了纯思维链推理中常见的幻觉与错误传播。
普通人最该养成的一招
三招之外，还有一个谁都逃不掉的兜底环节：人工校验。AI 给的文献，逐条检索确认再引用；AI 写的代码，实际运行通过再交付；AI 给的数据，找到原始出处再采信。把 AI 当作一个能力极强但偶尔会一本正经编造的助手，你就既不会拒绝它，也不会被它带进沟里。
三个常见误区
误区一：幻觉是模型「学坏了」，换个更强的模型就没了。幻觉根植于生成机制，更强的模型只是编得更圆。
误区二：提示词里写「不许编造」就能解决。约束有用但有限，模型没有可靠的手段判断自己是否在编。
误区三：接入搜索就不会幻觉了。检索质量差、材料与问题错位时，模型照样会对着小抄编错答案，检索结果同样要审。
给你的行动建议
把使用场景分两类：创意类（起名、头脑风暴、润色）幻觉无害，放手用；事实类（文献、数据、代码、法规）必须校验，逐条核实。养成这个分类习惯，比背任何提示词模板都值钱。
你被 AI 的「一本正经胡说八道」坑得最惨的一次是什么？文献、代码还是数据？欢迎分享你的翻车经历。
参考资料
- Survey of Hallucination in Natural Language Generation（幻觉问题权威综述：幻觉的界定、测量与缓解方法） — https://arxiv.org/abs/2202.03629
- Reflexion: Language Agents with Verbal Reinforcement Learning（自我反思方法出处：文本反馈加情景记忆改进后续尝试，HumanEval pass@1 达 91%、超过 GPT-4 基线 80%） — https://arxiv.org/abs/2303.11366
- ReAct: Synergizing Reasoning and Acting in Language Models（工具核验方法出处：推理与行动交替，调用维基百科 API 克服幻觉与错误传播） — https://arxiv.org/abs/2210.03629