什么是「幻觉」
这是你必须知道的一个词。所谓"幻觉"，就是 AI 一本正经地说出看似合理、其实是编的内容。理解它，你就不会被坑。
设想一个场景：你让它推荐几本讲某话题的书，它给了书名、作者、甚至出版社，写得有模有样。你去书店一查——其中两本根本不存在。它不是恶意撒谎，它是把"看起来该有这么一本书"给你"补"出来了。这就是幻觉。
为什么会有幻觉
上一讲说过，它的本质是"预测出最像样的下一句话"。当它知道答案，预测出来的就是对的；当它不知道，它也不会停下来说"我不知道"，而是继续预测一个"读起来最顺、最像真的"答案。于是就编出了一个看似可信的假信息。
⚠ 幻觉最危险的地方
不是它会错，而是它错得很自信、很专业——条理清楚、细节丰富、语气笃定。正因为太像真的，人最容易放松警惕，直接采信。
哪些情况最容易出幻觉
- 具体的事实细节：书名、论文、法条、数据、网址、引用来源。
- 冷门或小众的问题：它"见过的相关内容少"，更倾向于编。
- 你预设了错误前提：你问"为什么 X 是对的"，它可能顺着你编理由。
- 最新发生的事：超出它知识范围，它会硬答（下一讲细说）。
怎么把幻觉降到最低
| 做法 | 为什么有用 |
|---|---|
| 把资料喂给它，让它"基于材料"答 | 有依据就不用瞎编 |
| 明确允许它说"不知道" | 给它"不编"的台阶下 |
| 让它给出处，再自己去查 | 方便你核实，假出处一查就露馅 |
| 对关键事实，换个问法再问一遍 | 编的内容前后常对不上 |
一句能减少幻觉的话
在提问后面加上："如果你不确定或不知道，请直接说"不确定"，不要编造。"这一句不能 100% 消除幻觉，但能明显降低它硬编的概率。
这一讲记住什么
- "幻觉" = AI 自信地说出看似合理、其实是编的内容。
- 根源：它不知道时会"预测一个像真的"，而非承认不知道。
- 最危险在于错得很专业，让人放松警惕。
- 降低办法：喂材料、允许它说不知道、让它给出处、自己核实。