生活分享

Cloudflare 推出 AI Gateway Auto Router 公開測試版：自動替每個請求挑選 AI 模型

Cloudflare 於 2026 年 9 月 30 日宣布 Auto Router 公開測試版，聲稱可依任務難度自動選模型，以降低企業 AI 支出。本文整理其運作方式、Cloudflare 自家測試數據與對一般使用者的影響。

閱讀時間約 6 分鐘

Cloudflare 推出 AI Gateway Auto Router 公開測試版：自動替每個請求挑選 AI 模型
圖片：Mokaair (Original editorial artwork)

發生了什麼事

Cloudflare 於 2026 年 9 月 30 日在官方部落格宣布，透過旗下 AI Gateway 以公開測試版形式推出 Auto Router。AI Gateway 是 Cloudflare 的一項服務，組織內使用者、AI 代理程式與各種工具發出的 AI 請求都會經過它，企業可藉此設定預算、支出上限並查看使用情況。根據 Cloudflare 的說明，開發者只要將模型設定為 cloudflare/auto，Auto Router 就會把每個請求自動導向足以勝任該任務的模型，終端使用者無需自行判斷該用哪個模型。

Cloudflare 解釋推出原因：在 OpenCode、Claude Code、Codex 等許多工具中，使用者仍需手動選擇模型，結果常常用了對工作而言過於強大的模型，例如只是要摘要一封郵件，卻動用最高階的模型。Cloudflare 表示，其透過 OpenCode 在內部使用的早期結果顯示，與只使用 OpenAI Sol、Anthropic Claude Opus 等前沿模型（指各家最先進、最強大也通常最貴的模型）相比，成本最多可節省 30%。Cloudflare 也表示，Auto Router 在測試期間免費。

Cloudflare 推出 AI Gateway Auto Router 公開測試版：自動替每個請求挑選 AI 模型
Mokaair 編輯查核流程 · 圖片：Mokaair (Original editorial artwork)
閱讀完整文字說明

消息會先蒐集來源、獨立查核，再交由 Jev 判斷。

Cloudflare 公布的測試數據

Cloudflare 以其內部的通用知識工作基準測試（一套固定的標準測驗題，用來比較不同模型的表現），比較 cloudflare/auto、OpenAI GPT-6 Sol 與 Anthropic Claude Opus 5.5。根據 Cloudflare，該測試使用模擬的工作區工具，涵蓋電子郵件、行事曆、Slack、檔案、差旅與財務等日常流程，共 97 項任務，每個模型每項任務取樣三次。

資料來源：Cloudflare 官方部落格公布的內部基準測試結果，非獨立測試。
模型成功次數成功率（95% 信賴區間）總成本每次成功成本
cloudflare/auto252/29186.6%（+6.2/−6.9 個百分點）2.10 美元0.0084 美元
Anthropic Claude Opus 5.5281/29196.6%（+2.7/−3.8 個百分點）5.91 美元0.0210 美元
OpenAI GPT-6 Sol245/29184.2%（+6.5/−6.9 個百分點）2.64 美元0.0108 美元

Cloudflare 稱 Auto Router 的成本約為 Sol 的 80%、Opus 的 35%。從同一張表也可看到，Claude Opus 5.5 的成功率在三者中最高，Auto Router 的優勢主要在於成本。Cloudflare 另指出，token（AI 模型處理文字與計費的基本單位）單價較低不一定代表整體成本較低，因為看似便宜的模型可能要耗用更多 token 才能完成任務。

Auto Router 如何運作

根據 Cloudflare 的說明，流程大致分為幾步：

  1. 建立模型池：AI Gateway 排除不支援請求格式或執行模式的模型，並考量憑證、計費設定、存取控制政策與支出上限；停機期間也會排除不健康的供應商或模型。
  2. 分類請求：對話送到 Workers AI（Cloudflare 部署在其網路 GPU 上的 AI 運算服務）上運行的多頭分類模型，也就是能同時給出多組判斷的分類模型。它判斷請求屬於 14 個任務類別的機率，並以一到五分評估複雜度、模糊度、重要性及對先前脈絡的依賴。
  3. 計算效用：Cloudflare 表示路由器以「效用 = 預期品質 − 自適應成本懲罰」選擇模型；簡單請求中價格權重較高，難度提高時成本懲罰降低。
  4. 考量快取成本：快取是模型暫存已處理過的對話內容，之後讀取較便宜；換模型就得重寫整段內容。因此同一回合內傾向沿用同一模型，跨回合則套用隨脈絡 token 數增加的切換懲罰。
  5. 備援：路由器回傳排序清單，若首選模型的供應商無法服務請求，AI Gateway 可改用其他符合條件的模型。

Cloudflare 表示，新模型推出時無需重新訓練，只需把其基準測試權重加入評分矩陣。

對一般讀者與企業的實際影響

對一般上班族而言，這類工具的意義在於：未來公司內部的 AI 助理，可能不再由你自己決定用哪個模型，而是由系統依任務難度自動分配。簡單工作如摘要郵件可能交給較小的模型，複雜工作仍可使用較強的模型。對負責 AI 預算的企業來說，Cloudflare 的主張是在不限制員工使用高階模型的前提下，自動減少不必要的支出。但成效仍取決於各組織的實際工作內容，目前也僅有 Cloudflare 的自述數據。

接下來的計劃

  • 擴充 cloudflare/auto 可用的模型
  • 篩選模型時納入零資料保留要求
  • 選擇模型時考量供應商容量
  • 為每個請求選擇合適的推理層級
  • 完整支援 Responses API 與 WebSockets
  • 探索以結構化決策模型作為第一層分類器
  • 推出只追求最高預期品質、不考慮成本取捨的 cloudflare/auto-best

常見問題

Auto Router 是什麼？

根據 Cloudflare，它是 AI Gateway 的一項功能，把模型設為 cloudflare/auto 後，會自動把每個請求導向足以勝任該任務的模型。

真的能省 30% 嗎？

Cloudflare 表示，其內部早期結果顯示與只用前沿模型相比最多可節省 30%。這是廠商自述的上限數字，未經獨立驗證，實際效果因使用情境而異。

自動選模型會不會降低品質？

在 Cloudflare 公布的測試中，Auto Router 成功率為 86.6%，高於 GPT-6 Sol 的 84.2%，但低於 Claude Opus 5.5 的 96.6%。Cloudflare 也計劃推出不考慮成本、只追求最高品質的 cloudflare/auto-best。

現在要付費嗎？

Cloudflare 表示，Auto Router 在測試期間免費。測試結束後的收費方式，Cloudflare 在該文中未說明。

切換模型會不會浪費成本？

Cloudflare 表示，Auto Router 會計入快取讀寫成本：同一回合內傾向沿用同一模型，跨回合則依對話長度提高切換門檻。

查看同分類最新消息

同主題延伸閱讀

最新旅遊情報攻略

資料來源

生活分享