微調（Fine-tuning）：讓既有模型更適合你的任務

微調，英文 Fine-tuning，是從已訓練的模型出發，使用較聚焦的資料繼續訓練，使它更適合某種任務或領域。它承接既有能力，而不是從隨機參數重新開始。對語言模型而言，微調可能用來改善分類、固定輸出格式或領域文書處理；具體能改善什麼，取決於訓練目標與資料，不能只憑「客製模型」的名稱推定。

微調會更新模型中某些可訓練參數，與在提示詞裡放例子不同。本篇以虛構的客服信件分類說明如何設計與驗收，並區分微調方式、訓練目標和外部檢索。Hugging Face 的實作文件與 ULMFiT 原始研究提供延續既有模型訓練的基礎；以下沒有宣稱某組設定已實測成功，也不提供通用的資料筆數保證。

先說清楚要改變什麼

假設客服需要把信件分成帳號、付款和其他類別，通用模型雖理解大意，卻常輸出一長段說明，或使用不一致的類別名稱。這時微調的目標可以是穩定完成分類與指定格式。若問題是資料庫剛更新的訂單狀態，微調就不是合適的即時更新管道，應該查詢有權限的系統，再由模型處理結果。

微調也不是只能模仿口吻。它可針對分類、序列標記、生成等任務調整，但每一種都需要對應的資料與評估。訓練資料越貼近真正使用情境，越能檢驗目標是否達成；若只收集好看、標準化的示範，模型可能在錯字、混合需求與模糊信件上表現不穩。先把成功和失敗條件寫清楚，才知道訓練是否值得做。

目標與更新方式是不同選擇

監督式微調使用輸入及期望輸出學習，偏好最佳化則可能使用同一問題下的較佳與較差回答。這是在選擇訓練訊號。完整微調更新大部分或全部模型參數，LoRA 等參數效率方法則更新較小的附加部分，這是在選擇如何調整模型。兩個維度可以組合，不能把 SFT 和 LoRA 當成彼此互斥的產品選項。

訓練仍需要處理資料格式、token 化、損失計算、學習率與評估。只更改模型名稱或把資料上傳到某個介面，不表示所有步驟已正確完成。資料截斷可能讓期望答案消失，欄位錯位可能讓模型學錯目標，重複內容則可能使某些案例被過度強化。這些問題應在正式長時間訓練前，先用少量樣本檢查。

示範：客服分類如何驗收

設計輸入「我忘記密碼，付款通知又寄到舊信箱」，不能隨意指定唯一類別，應先決定業務規則：允許多類別、優先帳號，或交人工處理。接著以一致的標準建立示範，保留一些未參與訓練的信件作測試。預期輸出應遵守規則與格式，不是只讓模型把訓練信件背得更像標準答案。

對照方案可先用原模型加清楚提示詞及少量例子，再與微調版處理同一批未見信件。記錄類別是否正確、格式是否有效、模糊題是否保留人工處理，以及各類別的錯誤分佈。如果只是格式進步但關鍵分類退步，不能只用整體平均說微調成功。這是評估設計，實際改進幅度仍需要測試。

也要保留超出範圍的信件，例如要求查詢個人訂單即時進度。分類模型可將其分配到合適管道，但不能憑訓練記憶編造訂單狀態。若模型回答越來越像客服人員，卻開始捏造處理結果，代表輸出行為超出了任務邊界，需要調整示範與驗收，而不是把流暢當作好效果。

為什麼訓練分數好看仍可能失敗

過度擬合是模型太貼近訓練資料，遇到新案例卻不穩。另一種問題是資料洩漏：同一封信的不同版本被分到訓練與測試，使成績看起來像泛化能力，實際上仍近似重複練習。可按來源、時間或相同個案分組切分，並檢查近重複內容。資料切法必須反映產品真正會遇到的新輸入。

既有能力也可能在聚焦訓練後退化，例如變得只會輸出客服類別，對原本能處理的問答更不自然。是否屬於可接受取捨，要看部署用途；專用分類器和通用助理的標準不同。不能用一組任務進步推定所有能力都進步。重要的是保留需要維持的能力測試，並記錄微調前後的差異。

從訓練完成到可用模型

訓練程式結束只表示產生一份模型狀態，接下來還需驗證載入、推論格式、延遲、部署版本與回退方式。使用附加參數時，還要確保它與指定基礎模型相容。提示詞、tokenizer 與輸出解析器也可能影響結果，因此應把整個推論組合一起記錄，而不是只儲存一個權重檔名。

開始前可以先嘗試改善提示詞、提供清楚範例及修復資料；若錯誤持續出現在可學習且穩定的行為上，再評估微調。資料常更新且需附來源的知識問答，則可先考慮 RAG。兩者能共存：微調讓模型遵守回答格式，檢索提供當下證據。選擇應以失敗原因為依據，避免為了客製化而增加不必要維護。

實際上線後要抽查新的信件類型，尤其是業務規則改變時。舊模型若仍照舊分類，問題不只是提示詞沒寫清楚，而可能是訓練目標本身已過期。保留資料與模型版本、標註規則及評估結果，才能判斷需要重新訓練、修復前處理，或只更新外部流程。示範資料中的個人資料也應先按目的整理，避免把不必要的聯絡資訊當作答案模式學進去。資料可用於訓練的條件，與它是否曾出現在客服系統中，是不同問題。

監督式微調（SFT）：用好示範教模型完成任務

低秩適應（LoRA）：少量可訓練參數如何調整模型

檢索增強生成（RAG）是什麼：讓回答附上可查的依據

AI 名詞總索引：從 Loop Engineering 到生成式 AI

• AI 工具
• 教學
• AI 名詞解釋