生活分享

AI 幻覺（Hallucination）是什麼？把流暢回答拆成可查主張

AI 幻覺是模型產生看似合理、卻缺乏事實支持或違背提供資料的內容。本文用一段虛構展覽介紹，示範如何拆出可查主張、核對原始來源，區分支持、矛盾與尚未確認；也說明附上連結、再次提問或兩個模型答案相同，為何仍不足以證明正確，並整理使用引用與不確定回答時的實際界線。

更新日期: 閱讀時間約 7 分鐘

一張包含數行文字形狀的紙，被三個放大鏡分別檢視；綠色、橘色與藍色區塊代表不同核對結果。
圖片：Mokaair (© Mokaair)

你請 濃縮展覽簡介，它寫得清楚、年份完整，甚至附上書名與作者；查到原始資料後，卻發現其中一本書根本沒有出現在資料裡。這類看似合理、卻缺乏事實支持或違背所給內容的生成結果，常被稱為幻覺。名詞借用了人的經驗，但不代表模型具有感知，也不表示它知道答案是錯的而故意欺騙。

截至 2026 年 9 月，研究與產品文件對幻覺的測量範圍並不完全一致。有些檢查世界中的事實，有些檢查回答是否忠於指定文件。閱讀文章時，先問「依據什麼判錯」比只問模型有沒有幻覺更有用。以下用原創的展覽介紹情境說明：流暢度可以幫助理解，可信度則需要逐項證據，兩者不能互相代替。

先分清楚事實錯誤與來源不一致

如果參考文件寫活動在週六，摘要卻改成週日，這是與來源不一致；如果摘要忠實寫了週六，但主辦方後來改期，問題可能是文件已過時。兩種結果都可能誤導讀者，修正方法卻不同：前者要改善摘要的忠實程度，後者要換成適用日期的資料。不能把所有錯誤一律歸因為同一種模型缺陷。

幻覺也不等於所有 AI 錯誤。算式執行失敗、檔案讀取錯誤、工具回傳空值，都應保留各自的失敗原因。語言模型可以接計算工具或讀取新檔案，但接上工具之後，仍可能誤解輸出或補出沒有根據的結論。檢查單位應是最後交給讀者的主張，以及主張如何從資料與工具結果得到，而不是一句「模型只會猜下一個字」。

把一段漂亮介紹拆成四個小問題

假設編輯交給 AI 一段虛構展場資料：「海岸模型展將展示木製燈塔模型，策展人林怡安；展冊由青岸工作室製作。」模型卻整理成「林怡安在二〇二四年出版《海岸燈塔史》，由青岸出版社發行，並於本次展覽販售。」這裡的書名、出版年、出版單位與販售安排，都是原始資料沒有支持的新增主張。

第一步保留原文與回答，第二步把新增主張列成查證項目，第三步找對應的第一手依據。書名與出版年可以核對出版者書目，販售安排應看展覽主辦方公告，而不是因為某個網頁也寫了類似句子就算通過。這個示例中的名稱都是教學設定，目的在展示拆解方式，並非宣稱現實中有這些人、書籍或組織。

核對結果可以有三種：來源明確支持、來源明確矛盾，以及目前沒有足夠資料。第三種不等於已證明不存在。例如搜尋不到某本書，可能因為館藏資料未收錄，也可能是模型編造；在未確認前，適當處理是刪去無法支撐的介紹或標明待查，而不是把搜尋失敗改寫成另一個過度確定的結論。

把展覽回答中的書名、年份與販售安排分別對照原始來源，再標成支持、矛盾或待確認。
逐項核對可以保留正確內容，也能讓未確認的細節停在發布之前。 · 圖片：Mokaair (© Mokaair)

引用要能支持句子，連結存在只是起點

FActScore 研究提出把長回答拆成細小事實，再檢查可信來源是否支持。對日常工作而言，這提供一個實用方向：不要因為整段文章大部分正確，就忽略其中一個會影響行動的錯誤。活動日期、適用對象、費用條件與引用作者等資訊，各自需要證據；一個段落尾端的連結，不會自動替段落內所有句子背書。

看到引用時，先確認連結是否能開啟，再讀相關段落是否真的支持該句，以及來源日期和範圍是否適用。真實文章也可能被錯配到錯誤主張，舊公告也可能被當成現行規定。可以要求 AI 列出「主張、原文摘錄、來源位置」，讓人容易回查，但摘錄仍要與實際檔案比對，不能把模型自行產生的引文當成已完成的核對。

如果來源只有二手轉述，應繼續追查轉述指向的原始檔案；若無法取得，就把證據限制寫清楚。整理查證紀錄時，同時儲存查詢日期、來源版本與修正理由，讓下一位接手的人不必重新猜測。這也能區分模型產生錯誤與後續資料更新，避免修正時抹去重要的變更脈絡。

給資料與允許不知道，能改善哪些部分

Anthropic 的官方建議包括允許回答不知道、先找相關引文，以及限制回答依據。這些方法能減少模型為了完成句子而補細節的機會。以展覽情境為例，可以明確要求只整理提供資料，缺少的出版年份請寫「資料未提供」，並把需要外部查證的項目另外列出。這樣的輸出也更方便交給編輯處理。

但提示詞不是正確保證。提供的檔案可能互相衝突，檢索可能漏掉重要段落，模型也可能把兩個人物的資訊混在一起。資料越多，不代表核對越充分；應確認回答是否使用了與問題相關的版本，並能追溯關鍵結論。對外發布前，讓實際使用者看到不確定處，比在內部儲存一份無人閱讀的長篇推理更能改善決策。

重問一次與找第二個模型，都不是獨立證據

相同問題再次提問得到相同答案，通常只能說回答具有一致性，不能證明事實正確。不同模型也可能看過相同網頁，或使用相似的語言習慣，因此共同給出同一個錯誤。第二個模型可以幫忙找疑點、提出查詢方向或拆分主張，但真正的確認仍應回到適合該問題的原始資料、可重現計算或可靠紀錄。

實際採用多少查證工作，要看錯誤的影響。私人腦力激盪可以保留更多假設，對外公佈時間、收費或權益資訊則應核對重要細節。遇到無法確認的部分，可以縮小敘述、標示待確認，或直接省略。好的工作流程不是逼模型每題都交出肯定答案，而是讓已有依據的內容清楚可用，讓尚未確認的內容不被誤當成事實。

常見訊號與可以支持的判斷（2026 年 9 月查證）
觀察到的現象可以得到的結論仍需要做的事
模型附上來源提供了可追查線索讀取來源並比對主張
兩個模型回答相同結果一致查核獨立的原始證據
找不到相關資料目前未確認縮小敘述或保留待查
指定文件支持敘述忠於該份檔案確認檔案是否仍適用

同主題延伸閱讀

  • 生活分享

    世界模型（World Model）是什麼：讓 AI 預測「接下來會怎樣」

    世界模型指 AI 內部用來預測「這樣做之後會怎樣」的模型，但這個詞至少有三種用法：強化學習代理在想像中練習用的環境模型、LeCun 主張預測抽象表示的架構路線，以及能隨操作即時生成畫面的互動環境。內容用示例說明怎麼在想像中規劃，並列出大型語言模型有沒有世界模型的正反研究，附讀新聞時的檢查問題。

  • 生活分享

    視覺語言模型（VLM）是什麼：讓 AI 讀圖片、再用文字回答

    視覺語言模型（VLM）能同時接收圖片與文字，再用文字回答。內容拆解視覺編碼器、連接層與語言模型三段結構，說明 CLIP、Flamingo、LLaVA 三篇論文各補上哪一塊，並和多模態 AI、文字生圖分清楚；也整理它常犯的錯：數錯數量、搞混位置、說出圖裡沒有的東西，附上讀收據時逐行核對的步驟。

  • 生活分享

    溫度（Temperature）是什麼：AI 回答變化程度的取樣參數

    溫度（temperature）是文字生成時調整取樣的參數，讓模型從下一個 token 的機率分布裡抽得更集中或更分散。用假想的台南早餐示例算出低溫與高溫的差別，說明 top-p 的來源和它與 top-k 的差別，並依官方文件與論文指出：調低溫度不代表更準，設成 0 也不保證每次相同，部分模型還不開放調整。

  • 生活分享

    合成資料（Synthetic Data）是什麼：兩種用途、品質控管與模型崩潰

    合成資料是由演算法或模型產生、模仿真實資料特徵的資料，常見用途有兩種：訓練模型，以及在隱私需求下替代真資料。內容依 Self-Instruct、模型崩潰研究（替換與累積資料的差別）與 NIST、ICO 的隱私文件，說明做法、抽查流程，以及它不能保證的事。

引用本文的文章

最新旅遊情報攻略

資料來源

生活分享