生活分享

AI 幻覺(Hallucination)是什麼?把流暢回答拆成可查主張

AI 幻覺是模型產生看似合理、卻缺乏事實支持或違背提供資料的內容。本文用一段虛構展覽介紹,示範如何拆出可查主張、核對原始來源,區分支持、矛盾與尚未確認;也說明附上連結、再次提問或兩個模型答案相同,為何仍不足以證明正確,並整理使用引用與不確定回答時的實際界線。

更新日期: 閱讀時間約 7 分鐘

LINE 分享
一張包含數行文字形狀的紙,被三個放大鏡分別檢視;綠色、橘色與藍色區塊代表不同核對結果。
圖片:Mokaair (© Mokaair)
目錄
  1. 1. 先分清楚事實錯誤與來源不一致
  2. 2. 把一段漂亮介紹拆成四個小問題
  3. 3. 引用要能支持句子,連結存在只是起點
  4. 4. 給資料與允許不知道,能改善哪些部分
  5. 5. 重問一次與找第二個模型,都不是獨立證據

你請 濃縮展覽簡介,它寫得清楚、年份完整,甚至附上書名與作者;查到原始資料後,卻發現其中一本書根本沒有出現在資料裡。這類看似合理、卻缺乏事實支持或違背所給內容的生成結果,常被稱為幻覺。名詞借用了人的經驗,但不代表模型具有感知,也不表示它知道答案是錯的而故意欺騙。

截至 2026 年 9 月,研究與產品文件對幻覺的測量範圍並不完全一致。有些檢查世界中的事實,有些檢查回答是否忠於指定文件。閱讀文章時,先問「依據什麼判錯」比只問模型有沒有幻覺更有用。以下用原創的展覽介紹情境說明:流暢度可以幫助理解,可信度則需要逐項證據,兩者不能互相代替。

先分清楚事實錯誤與來源不一致

如果參考文件寫活動在週六,摘要卻改成週日,這是與來源不一致;如果摘要忠實寫了週六,但主辦方後來改期,問題可能是文件已過時。兩種結果都可能誤導讀者,修正方法卻不同:前者要改善摘要的忠實程度,後者要換成適用日期的資料。不能把所有錯誤一律歸因為同一種模型缺陷。

幻覺也不等於所有 AI 錯誤。算式執行失敗、檔案讀取錯誤、工具回傳空值,都應保留各自的失敗原因。語言模型可以接計算工具或讀取新檔案,但接上工具之後,仍可能誤解輸出或補出沒有根據的結論。檢查單位應是最後交給讀者的主張,以及主張如何從資料與工具結果得到,而不是一句「模型只會猜下一個字」。

把一段漂亮介紹拆成四個小問題

假設編輯交給 AI 一段虛構展場資料:「海岸模型展將展示木製燈塔模型,策展人林怡安;展冊由青岸工作室製作。」模型卻整理成「林怡安在二〇二四年出版《海岸燈塔史》,由青岸出版社發行,並於本次展覽販售。」這裡的書名、出版年、出版單位與販售安排,都是原始資料沒有支持的新增主張。

第一步保留原文與回答,第二步把新增主張列成查證項目,第三步找對應的第一手依據。書名與出版年可以核對出版者書目,販售安排應看展覽主辦方公告,而不是因為某個網頁也寫了類似句子就算通過。這個示例中的名稱都是教學設定,目的在展示拆解方式,並非宣稱現實中有這些人、書籍或組織。

核對結果可以有三種:來源明確支持、來源明確矛盾,以及目前沒有足夠資料。第三種不等於已證明不存在。例如搜尋不到某本書,可能因為館藏資料未收錄,也可能是模型編造;在未確認前,適當處理是刪去無法支撐的介紹或標明待查,而不是把搜尋失敗改寫成另一個過度確定的結論。

把展覽回答中的書名、年份與販售安排分別對照原始來源,再標成支持、矛盾或待確認。
逐項核對可以保留正確內容,也能讓未確認的細節停在發布之前。 · 圖片:Mokaair (© Mokaair)

引用要能支持句子,連結存在只是起點

FActScore 研究提出把長回答拆成細小事實,再檢查可信來源是否支持。對日常工作而言,這提供一個實用方向:不要因為整段文章大部分正確,就忽略其中一個會影響行動的錯誤。活動日期、適用對象、費用條件與引用作者等資訊,各自需要證據;一個段落尾端的連結,不會自動替段落內所有句子背書。

看到引用時,先確認連結是否能開啟,再讀相關段落是否真的支持該句,以及來源日期和範圍是否適用。真實文章也可能被錯配到錯誤主張,舊公告也可能被當成現行規定。可以要求 AI 列出「主張、原文摘錄、來源位置」,讓人容易回查,但摘錄仍要與實際檔案比對,不能把模型自行產生的引文當成已完成的核對。

如果來源只有二手轉述,應繼續追查轉述指向的原始檔案;若無法取得,就把證據限制寫清楚。整理查證紀錄時,同時儲存查詢日期、來源版本與修正理由,讓下一位接手的人不必重新猜測。這也能區分模型產生錯誤與後續資料更新,避免修正時抹去重要的變更脈絡。

給資料與允許不知道,能改善哪些部分

Anthropic 的官方建議包括允許回答不知道、先找相關引文,以及限制回答依據。這些方法能減少模型為了完成句子而補細節的機會。以展覽情境為例,可以明確要求只整理提供資料,缺少的出版年份請寫「資料未提供」,並把需要外部查證的項目另外列出。這樣的輸出也更方便交給編輯處理。

但提示詞不是正確保證。提供的檔案可能互相衝突,檢索可能漏掉重要段落,模型也可能把兩個人物的資訊混在一起。資料越多,不代表核對越充分;應確認回答是否使用了與問題相關的版本,並能追溯關鍵結論。對外發布前,讓實際使用者看到不確定處,比在內部儲存一份無人閱讀的長篇推理更能改善決策。

重問一次與找第二個模型,都不是獨立證據

相同問題再次提問得到相同答案,通常只能說回答具有一致性,不能證明事實正確。不同模型也可能看過相同網頁,或使用相似的語言習慣,因此共同給出同一個錯誤。第二個模型可以幫忙找疑點、提出查詢方向或拆分主張,但真正的確認仍應回到適合該問題的原始資料、可重現計算或可靠紀錄。

實際採用多少查證工作,要看錯誤的影響。私人腦力激盪可以保留更多假設,對外公佈時間、收費或權益資訊則應核對重要細節。遇到無法確認的部分,可以縮小敘述、標示待確認,或直接省略。好的工作流程不是逼模型每題都交出肯定答案,而是讓已有依據的內容清楚可用,讓尚未確認的內容不被誤當成事實。

常見訊號與可以支持的判斷(2026 年 9 月查證)
觀察到的現象可以得到的結論仍需要做的事
模型附上來源提供了可追查線索讀取來源並比對主張
兩個模型回答相同結果一致查核獨立的原始證據
找不到相關資料目前未確認縮小敘述或保留待查
指定文件支持敘述忠於該份檔案確認檔案是否仍適用

覺得這篇整理實用嗎?分享給需要的朋友

LINE 分享
  • 生活分享

    用 AI 設計問卷與整理開放題:題目偏誤、匿名與個資

    請 AI 擬問卷很快,但引導性問題、雙重問題與不對稱的量表要靠人挑出來;Google 表單的收集電子郵件與 Microsoft Forms 的記錄名稱決定填答是否記名,回覆上限也各有設定;蒐集個資原則上要依個資法第 8 條告知。開放題可交給 AI 分類,但原始回覆先去識別、只用公司核可的工具,並逐類人工抽查。

  • 生活分享

    用 AI 整理 SOP 與操作手冊:從口述到可交接的步驟

    把熟手的口述或螢幕錄影交給 AI,很快就能拆成編號步驟,但要能交接,還得補上判斷點與例外、截圖位置、負責人與版次,再請沒做過的人照著試做一次。從錄音轉逐字稿、提示詞範本、截圖遮蔽個資,到文件頭欄位與定期複審,一步步整理成新人照著就能完成的標準作業程序(SOP)。

  • 生活分享

    用 AI 寫企劃書與提案:結構、數字查核與版本管理

    企劃書可以用 AI 排大綱、扮演反方找漏洞、在定稿後壓縮執行摘要,但數字與決策要由人負責。從問題、目標、做法到預算與成效指標整理企劃書骨架與各段的 AI 分工,附三組提示詞範本,說明每個數字怎麼回到原始資料、Word 與 Google 文件的版本紀錄怎麼用,以及決策紀錄該記哪些欄位。

  • 生活分享

    用 AI 校稿:錯字、用語一致與繁簡轉換的陷阱

    AI 校稿適合抓錯別字、標點與前後不一致,卻判斷不了數字、人名與事實,也不一定分得清台灣與中國大陸用語。以教育部辭典的兩岸詞語對照為準,說明簡體轉繁體時要從多個字裡挑對的陷阱、怎麼先建術語表與風格表再交給 AI,以及最後一定要由人核對的地方。

資料來源

本文依據上方所列參考來源與標示之核對日期整理;票價、時刻、功能規格或服務條款可能變動,出發、預訂或購買前請至相關官方網站確認最新資訊。

生活分享