先講結論：
- AI 幻覺（Hallucination）：AI 產生看起來合理、語氣很肯定，但其實錯誤或捏造的內容。
- 原因之一：AI 被訓練和評分的方式，猜答案通常比說「不知道」得分高，所以它傾向猜。
- 最容易出錯的是：冷門事實、數字、日期、法規條文、引用來源。這些一定要對回原始資料。
圖：AI 很有自信地說「根據《AI 大全》第 87 頁」，但一查根本沒有這本書。講得很有自信，不代表是對的。
常見的 AI 幻覺長什麼樣子？
- 引用一篇不存在的文章或編出來的網址。
- 給出精確但錯誤的數字、日期、價格。
- 把兩個相似的名詞、規定混在一起。
- 回答你的公司或產品時，用通用情況補空白，寫得像事實一樣。
為什麼會發生？
OpenAI 研究人員 2025 年 9 月發表的論文〈Why Language Models Hallucinate〉提出兩個原因：
- 冷門事實學不牢：在訓練資料裡只出現一兩次的事實（例如某個人的生日），模型很難可靠記住，問到時就容易錯。
- 評分方式鼓勵猜測：多數評測把「我不知道」當成答錯，跟亂猜一樣沒分。模型就像考試時不會也要猜的學生，學會了「猜比較划算」。
論文建議的方向，是改變評分方式，讓「有把握才答、沒把握就說不知道」得到應有的分數。
另外，AWS 在說明 RAG 時也列出：模型只知道訓練資料截止前的內容，缺資料時可能編答案、給過時的回答，或把不同情境的詞搞混。
哪些情況特別容易出現？
- 問最近才發生的事（超過模型的訓練資料時間）。
- 問很冷門、網路上資料很少的事。
- 要它給數字、日期、價格、條文、出處。
- 問你公司內部的事，而你沒有提供資料。
- 對話很長、塞了很多資料（見 Token 與 Context Window）。
怎麼降低、怎麼查證？
使用時：
- 給資料再問：把相關文件、規定貼給它，請它「只根據這些內容回答」。公司系統可以用 RAG 做到。
- 要它附出處，並點進去確認出處真的存在、真的這樣寫。
- 允許它說不知道：在問題裡寫「不確定就說不確定」。
- 數字、日期、價格、法規，一律對回官方或原始文件。
- 重要的內容，換個問法再問一次，或用另一個工具交叉比對。
我們自己的做法：
我們寫這系列文章時，每篇都另外留一份「出處對照」：每一段的說法來自哪份官方文件、我們實際做過的哪一步。查不到原始出處的句子就不寫，或明寫「依我們的經驗」。 例如「一個中文字等於幾個 Token」，網路上說法互相矛盾、找不到官方數字，我們就只寫「沒有固定比例，要用工具算」。
公司使用 AI 要注意什麼？
- 對外內容（報價、合約、公告、客服回覆）一定要有人看過再送出。
- 不要把 AI 的回答當成查證過的事實，尤其是法規、稅務、醫療、資安。
- 讓 AI 回答公司問題時，提供正確資料比換一個更強的模型更有用。
常見問題
AI 幻覺是什麼意思？
AI 幻覺（Hallucination）是指 AI 產生看起來合理、語氣肯定，但實際上錯誤或捏造的內容，例如不存在的引用來源或錯誤的數字。
AI 為什麼會產生幻覺？
OpenAI 研究人員的論文指出，冷門事實在訓練資料中出現太少而學不牢，加上多數評測把「不知道」與答錯同樣計分，讓模型傾向猜測。模型只知道訓練資料截止前的內容，也是原因之一。
怎麼判斷 AI 的回答是不是幻覺？
要它附上出處並實際點開確認；數字、日期、價格、法規條文一律對照官方或原始文件；重要內容換問法再問，或用其他工具交叉比對。
用 RAG 可以解決 AI 幻覺嗎？
可以明顯降低。RAG 讓 AI 根據你提供的資料回答並附出處；但資料本身錯誤、或檢索找錯段落時，仍可能出錯，重要內容還是要人工確認。
延伸閱讀
想導入 AI 又擔心答錯，可以參考我們的 AI 應用開發服務。
