人工介入（Human-in-the-loop）：讓人有資訊也有決定權

人工介入，英文 Human-in-the-loop，是把人的判斷、修正或批准安排進 AI 工作流程，使某些步驟在人參與後才繼續。它可以用於標註、訓練、內容審查或代理執行，不只是一種固定介面。在代理情境，常見做法是先提出行動與內容，暫停流程，等有權限的人審閱後再執行。

真正的人工介入需要人看得到足夠資訊，也真的有能力拒絕、修改或停止。若按鈕只寫「繼續」，卻沒顯示將改哪些資料，人很難做有效判斷。本篇以 LangGraph 的中斷與恢復機制，以及 NIST AI RMF 對人機互動的考量為依據，用虛構活動公告流程示範，不假定所有產品都已有相同的控制能力。

人在流程中的角色要先定義

人工介入可以是補充缺失資料、選擇方案、修改草稿，或批准將產生外部影響的操作。這些角色不同，需要的資訊與權限也不同。請人提供活動日期，不等於請他批准發文；請人審查語氣，也不等於他已核實所有事實。流程應明確說明這次需要人判斷哪件事，避免把一個回覆解讀成全面授權。

即時介入與事後抽查也不同。即時介入可以在行動前暫停，避免未核對內容直接出去；事後抽查則用來監控品質或改善流程，未必能阻止已發生的影響。兩者可以並用，但不能把有人偶爾檢視紀錄，宣稱成每次行動都有人工審核。用語要反映實際控制位置。

暫停與恢復需要儲存什麼

LangGraph 的 interrupt 機制示範如何暫停執行、向外提供待決資料，再以人的回覆恢復。要讓這種模式可靠，系統需要儲存狀態，知道正在審閱哪個任務與哪個版本。若同時有多份草稿，批准訊息必須能對應到正確那一份，不能只憑最近一次對話猜測。

恢復後也不能忽略環境變動。人在審閱期間，原始資料或外部狀態可能已改變，某些條件需要重新確認。程式若重新執行暫停前的步驟，也要避免重複造成副作用，這是中斷恢復設計的重要細節。人的批准是一個輸入，不是讓所有後續操作跳過版本和權限檢查的通行證。

示範：發布活動公告之前

假設代理根據活動資料產生公告草稿，準備發布到社團頁面。審閱畫面應呈現完整內容、目標頁面、預計時間與引用資料，讓使用者判斷是否正確。預期流程先完成可審查草稿，再等待明確批准；在批准前，系統可以進行不依賴批准的格式檢查，但不應把草稿已完成說成公告已發布。

若使用者修改日期，系統應更新草稿並確認會被發布的是修改後版本。若修改影響標題、內文與圖片中的日期，這些位置要一起核對，不能只改一處。這是原創教學情境，沒有實際傳送公告。它展示人工介入的價值在於對具體產物作判斷，而不是抽象地問「是否相信 AI」。

執行後仍需要回報結果，例如發布成功的識別資訊或錯誤狀態。批准不等於執行成功，工具請求送出也不等於平臺已接受。若網路中斷造成結果不確定，應查明狀態再決定是否重試，避免同一公告重複發布。這些後續處理讓人的決定連到可核對的真實結果，而非只留下聊天中的一句同意。

為什麼有按鈕仍可能沒有效果

當待審項目太多、內容太長或資訊不清楚，人容易只按確認。若系統反覆對低影響的小事要求批准，也可能耗掉注意力，讓真正重要的判斷被忽略。合理設計應把需要人的專業、價值取捨或外部授權的節點挑出來，提供必要差異與依據，而不是把全部工作都推給使用者重做一次。

人也可能受到 AI 的自信語氣影響，或以為系統已完成沒有實際做過的查證。審閱介面應區分原始來源、模型推論與未確認內容，避免用漂亮摘要掩蓋證據不足。NIST 框架提醒人機互動本身會影響風險，所以有真人參與不是零風險保證；仍要設計時間、能力與責任都可支撐的工作方式。

如何判斷介入設計是否完整

可以逐項檢查：人知道即將發生什麼嗎？看得到完整內容與相關資料嗎？有權限且有能力修改或拒絕嗎？批准是否綁定版本與目標？執行後能否確認結果？這些問題對應的是實際流程，不必一定新增很多畫面。對簡單任務，一個清楚的草稿和明確行動摘要就可能比複雜儀錶板更有效。

測試時加入拒絕、修改、逾時、重複回覆與原資料更新等情境，確認系統不會把沒有回答當成批准。若某一步只能由特定角色決定，也應驗證其他人無法代替。拒絕後可繼續進行的工作應在授權範圍內，例如重寫草稿；不能用不同工具繞過同一個被拒絕的外部行動。

人工介入與 RLHF 也要區分。前者描述人在某個流程中參與決策，後者是用人類回饋訓練模型的一類方法。這次修改公告可能只影響當次任務，不會自動變成模型永久學到的規則。如果服務會保留修正作為未來訓練資料，需要另有清楚的資料使用設計，不能從人按了修改就推定。好的介入應讓人保有實質控制，同時讓 AI 完成已授權且可驗證的準備工作。當重要決定來臨時，人看到的是具體產物、明確影響與剩餘不確定性，才有機會用判斷改善結果。這比讓使用者對看不到的過程反覆按確認，更接近人工介入原本的目的。

代理協調（Agent Orchestration）是什麼：安排分工與交付順序

人類回饋強化學習（RLHF）：把偏好變成訓練訊號

安全防護機制（Guardrails）是什麼

AI 名詞總索引：從 Loop Engineering 到生成式 AI

• AI 工具
• 教學
• AI 名詞解釋