上下文壓縮（Context Compaction）是什麼：讓長任務接得下去

上下文壓縮（Context Compaction）是把過長的對話或工作紀錄，整理成較短而足以支援後續任務的資訊。常見方式是產生交接摘要，讓下一輪使用摘要加上新訊息繼續工作。它減少需要處理的歷史內容，但沒有把模型的上下文視窗變大。

「壓縮」容易讓人聯想到檔案壓縮後可以完整還原；對話摘要通常不是這回事。它會選擇與改寫資訊，可能丟失細節。以下用搬家規劃的示意情境，說明如何保留決策與限制、確認壓縮品質，以及何時需要回查原始紀錄。

不同實作都在減少當次歷史負擔

Anthropic 的 compaction 文件描述由系統在觸發條件達成時產生摘要，再以摘要繼續對話的流程。LangChain 的中介軟體文件也提供摘要歷史訊息的實作。兩者顯示這是可由應用程式管理的上下文處理步驟，觸發方式與保留範圍則依系統而異。

更廣義的上下文管理還包括移除舊工具輸出、只保留近期訊息或將資料移到外部儲存。這些方法常搭配使用，但代價不同。刪除一段重複日誌，和把整段討論改寫成摘要，不是相同操作；前者移除內容，後者可能重新表達內容與關係。

對一般使用者而言，介面只顯示「已整理先前內容」時，不應自動假設所有細節仍可由模型取用。應確認工具是否能查回原始訊息，或自行保留關鍵文件。能否在畫面捲回歷史，和模型下一輪能否重新讀取原文，是需要分開確認的能力。

續作摘要要保留什麼，取決於下一步

搬家討論可能包含房間配置、候選日期、已聯絡廠商、取消的選項與尚未確定的預算。如果摘要只寫「使用者正規劃搬家」，雖然很短，卻無法支援下一步。好摘要應讓接手者知道哪些決定已成立、哪些仍待處理，以及不能違反哪些條件。

例如「電梯尚未預約，因此搬家日期暫定」裡，尚未與暫定都是重要資訊。壓成「已安排搬家日期」會把依賴關係改掉。還有「不搬走舊書桌」「廠商甲已排除」這些否定與撤回資訊，也應在相關工作仍持續時保留，否則模型可能重新提議被否決的方向。

摘要不必重述每段寒暄，但要保留回查線索。像廠商報價可以記錄文件名稱、有效條件與待核對欄位，而不是只寫一個數字。後續若要比較費用，就能回到原始報價確認搬運樓層、包材及額外服務，避免用失去條件的數字做錯比較。

把搬家對話轉成可核對的交接

以下是原創操作示例。先請助理整理五類資訊：任務目標、已確認決策、尚未解決問題、不得違反的限制，以及下一步所需資料。要求每項狀態依原文表述，沒有確認紀錄就標成待確認，不因為它曾提出建議便視為你已同意。

接著自行核對幾個關鍵點：搬家日期是否仍暫定、電梯是否尚未預約、舊書桌是否保留、廠商甲是否已排除。預期產物是一份可以直接交給新對話接手的工作單。這些具體檢查點比「請確認摘要完整」更有用，因為模型和使用者都知道完整代表什麼。

最後在新對話貼入交接，請它列出下一步。合理的續作應先處理電梯預約或資料缺口，不能說已完成預約，也不能重選被排除的廠商。若續作走錯方向，要分辨是摘要漏寫、寫錯，還是新一輪沒有遵守摘要；如此才能修正正確的環節。

壓縮太早、太狠或反覆改寫的代價

若一開始就把所有細節壓得很短，還沒確定哪些資訊重要，就可能丟掉後來才需要的條件。搬家報價中的樓層與停車距離，前期看似瑣碎，決定廠商時卻很重要。比較穩妥的方式是保留原始來源，摘要只負責索引與目前狀態。

反覆以摘要再產生摘要，也可能逐漸把不確定資訊寫得更肯定。第一次寫「可能需要拆裝」，第二次變成「需要拆裝」，第三次又變成「已安排拆裝」。避免這種漂移的方法，是保留重要事實的來源位置，並在重大決策前重新核對原文，而不是無限相信最新摘要。

壓縮也不是一律越短越好。應以後續任務能否正確繼續為標準，允許關鍵條件佔據必要篇幅。刪掉大量重複輸出可能很划算，刪掉一個否定詞卻可能改變整項工作。真正需要優化的是有用資訊的密度，不是單純追求最少 token。

壓縮、外部記憶與快取各自解決不同問題

外部記憶處理的是資訊如何在對話之外保存與取回；壓縮處理的是這次要攜帶多少歷史。你可以把原始報價存在外部資料夾，摘要裡只留名稱與待辦，再需要時讀取。這樣搭配能維持工作連續性，但前提是取回工具確實存在且有權限。

提示快取則通常關係到重複內容的處理或計費效率，不應被當成已刪除歷史的替代備份。快取命中與內容能否正確被摘要、能否找回原文，屬於不同問題。看到產品同時提到這些功能時，應逐一確認它們改變了哪一層行為。

對長任務最實用的習慣，是在換階段時留下狀態交接，並保存重要來源。壓縮後先要求助理重述目前限制與下一步，再讓它繼續。這項小檢查能及早發現錯誤交接，避免一份看似精簡的摘要把後續工作帶往已經取消的方向。

若系統允許自訂壓縮規則，可把常被遺漏的狀態欄位列為必留項目；但修改後仍需用新的長對話檢查，不能只看摘要字數變少便認定品質提升。

上下文視窗（Context Window）是什麼：容量與理解的差別

代理記憶（Agent Memory）是什麼：保存、取回與更新資訊

AI 名詞總索引：從 Loop Engineering 到生成式 AI

• AI 工具
• 教學
• AI 名詞解釋