上下文品質衰退（Context Rot）是什麼：長文為何不一定更準

上下文品質衰退（Context Rot）是研究與工程討論中，用來描述模型處理較長上下文時，資訊使用或回答表現變得不可靠的說法。它不是模型參數因聊天太久而腐壞，也不是一個有通用數值門檻的診斷名稱。判斷時仍要看具體任務、輸入與錯誤證據。

這裡採用 Chroma 原始技術報告對長輸入表現的討論，並對照 Lost in the Middle 的資訊位置研究。你會看到為何「長資料全放進去」不保證更好，以及如何用活動備案的示意測試，分辨內容過多、資料不在場與問題本身太模糊。

長度只是因素之一，沒有固定腐化刻度

Chroma 的報告在控制任務設定下，改變輸入長度，並研究語意匹配、幹擾內容等因素。它觀察到表現可能隨長度增加而變差，而且變化並不均勻。這是特定模型、資料和測試方式下的結果，不應轉述成所有模型只要超過某個字數就會失去理解能力。

Lost in the Middle 則在多文件問答與鍵值查找任務中，研究相關資訊的位置如何影響表現。位置與長度是相鄰但不相同的因素：一份資料不變長，只調整關鍵段落位置，也可能改變結果。兩項研究共同提醒，容量規格無法單獨描述資訊使用品質。

因此別把「聊久了答錯」直接當成 context rot 的證明。使用者也可能換了問題、加入矛盾資料，或應用程式已摘要掉早期要求。需要先確認模型實際收到什麼，再判斷長上下文是否是合理原因；否則容易把不同層次的問題混成一種流行名詞。

相似卻不適用的資料，可能比雜訊更麻煩

想像你要查今年社團露營的雨天備案，文件裡同時放了去年活動、未採用草案、正式公告與閒聊。模型需要判斷哪份文件適用，以及「改到室內」究竟是提案還是已決定。資料變多時，增加的可能不是有用證據，而是需要排除的相似答案。

純粹找出原句和回答改寫問題，也可能有不同難度。「找出『雨天備案』四個字」與「下雨時我們應該去哪裡集合」不完全相同。後者需要將問題與相關描述連起來，還要辨認日期與版本。某項簡單查找測試表現良好，不能直接推論複雜實務問答也可靠。

整理資料時因此要保留標籤。明確標出今年正式公告、去年的歷史資料、未採用草案，以及各自日期，比只把所有文字合併成一大段更有幫助。這是讓輸入本身更容易判讀，不是聲稱任何排版都能消除長上下文限制。

用活動備案建立可重做的對照

以下為原創示意測試，沒有宣稱實際跑出的成績。先建立一份簡短資料，明確寫出正式備案為社區活動中心，並另列尚未採用的體育館提議。固定問題為「若活動當天下雨，正式集合地點是哪裡」，預期回答需指出活動中心與正式公告依據。

第二份保留同樣的問題與正式資料，再加入不影響答案的往年紀錄和其他活動討論。第三份則只調整正式公告的位置，保持內容不變。分開改變長度與位置，才能知道哪個條件比較可能造成差異；若每次連問題與答案一起改，就無法建立有效對照。

在每種條件下觀察答案、引用位置與是否混入草案。預期產物是錯誤紀錄，而非一張預先畫好的下降曲線。若長版本仍答對，便不能硬說有衰退；若短版也答錯，應先改善任務或資料。重複不同案例後仍出現模式，才有較充分理由調整工作流程。

排除超限與缺漏，才有意義談品質

第一個檢查是輸入有沒有真的送出。應用程式可能拒絕超長請求、截取部分內容，或改用摘要。若正式公告根本不在本輪輸入裡，模型答不出來並不令人意外；這是資訊可用性問題，不需要用品質衰退解釋。

第二個檢查是資料有沒有矛盾。如果你同時給出兩份都標為正式公告的內容，卻沒有日期或修訂關係，模型沒有充分線索決定哪份有效。此時正確行為可能是指出衝突，而非猜測其中一個。把資料整理得更清楚，是解決來源問題，不是證明模型記憶變好了。

第三個檢查是評分標準。如果只看回答是否提到活動中心，可能漏掉它同時說體育館也可以。應核對完整的決策含義與依據，尤其是取消條件、適用日期和例外。精確的檢查能避免把部分命中誤認為正確理解。

減少幹擾，仍要保存查回原文的路

可以先把本輪相關公告、問題和必要歷史放在一起，其他資料保留索引，需要時再取用。若必須處理全部文件，先分組抽取狀態，再做跨組比對，並要求保留來源位置。分組會降低單次資料負擔，但也可能漏掉跨組關係，因此最後的整合檢查不可省略。

摘要有助於縮短內容，卻可能刪掉關鍵限制。對活動備案而言，可以摘要背景討論，但正式集合地點、適用條件和公告日期宜保持清楚且可回查。不要為了讓提示更短，把判斷答案所需的線索也一起拿掉。

若舊公告與新公告都必須保留，可替它們加上版本與適用時間，要求答案說明採用哪一版。這有助於把選錯版本和找不到資訊分開檢查；即使模型最後答對，也要確認它用的是正確公告，而不是恰好猜中。

Context Rot 最有用的提醒，是停止把容量大小當成品質保證。實際工作應記錄輸入範圍、挑選相關資料、保留版本關係，再用新案例驗證結果。若整理後改善，也只代表這個流程在測試條件下更合適，不必把它包裝成已經徹底解決長文理解。

上下文視窗（Context Window）是什麼：容量與理解的差別

上下文壓縮（Context Compaction）是什麼：讓長任務接得下去

上下文工程（Context Engineering）是什麼

AI 名詞總索引：從 Loop Engineering 到生成式 AI

• AI 工具
• 教學
• AI 名詞解釋