AI 幻觉是什么？为什么大模型会一本正经地胡说八道

你可能遇到过：问 AI 一个具体问题，它给出一个看起来非常靠谱、实则完全错误的答案，甚至编出不存在的书名、论文、链接。这种现象有个专门的名字——幻觉（Hallucination）。这篇讲清它是什么、为什么会发生、以及怎么防。

什么是 AI 幻觉

AI 幻觉，指模型生成了「听起来合理、但实际上错误或凭空捏造」的内容。

它不是「随便乱答」——恰恰相反，幻觉往往表达流畅、语气笃定，正因如此才更具迷惑性。常见的幻觉包括：

• 编造事实：说某个不存在的事件、数据、人物
• 伪造引用：给出看似真实、实则不存在的论文、书名、网址
• 张冠李戴：把 A 的成果安到 B 头上

为什么大模型会「胡说」

理解幻觉的根源，要先明白模型是怎么工作的：

大模型本质是在「预测下一个最可能的词」，它追求的是「语言上通顺、合理」，而不是「事实上正确」。它没有一个内置的「真假数据库」去核对，只是根据训练中见过的语言模式往下接。

具体诱因有几个：

1. 知识有缺口或过时：训练数据没覆盖、或已经过时的内容，它答不准又不肯说「不知道」
2. 倾向于「有求必应」：被问到时，它更倾向编一个合理答案，而不是拒答
3. 越具体越危险：精确的数字、引用、日期，最容易被「编得像模像样」
4. 上下文不足：缺少足够依据时，它只能靠「猜」来补全

一句话：它是个极会「说」的语言高手，但不是天生的「事实核查员」。

怎么减少幻觉

工程上和使用上都有办法：

• RAG（检索增强生成）：回答前先去可靠资料库检索，让它「看着资料答」，是目前最主流的方案，详见 RAG 是什么
• 联网 / 带来源：用能给出引用来源的工具（如 Perplexity），答案可核对
• 让它给出处：直接要求「附上来源/依据」，没来源的结论就多留个心眼
• 收敛随机性：把 temperature 调低，让输出更稳、更保守
• 提示词约束：明确告诉它「不确定就说不知道，不要编造」，好的提示词能显著降低幻觉
• 提供足够上下文：把相关材料喂进上下文窗口，减少它「靠猜」的空间

作为用户，你该怎么防

再强的模型也不能 100% 免疫幻觉，所以养成习惯很重要：

• 重要信息务必二次核实：尤其是数字、日期、引用、法律/医疗等高风险内容
• 警惕「过于笃定」的具体答案：越精确越要留意
• 让它给依据：能溯源的答案，可信度更高
• 交叉验证：关键结论用不同工具或搜索再确认一遍

小结

幻觉不是 AI「坏了」，而是「预测下一个词」这套机制的天然副作用——它太擅长把话说圆，却没有内建的真假判断。理解这一点，你就会明白：AI 是极好的助手，但不是权威信源。善用 RAG、来源引用和二次核实，才能既享受它的效率，又不被它「带偏」。