Gemini API 推出 Tool Retrieval 預覽版:按需載入工具結構,支援 Gemini 3.6 以上模型
Google 宣布 Gemini Interactions API 的 Tool Retrieval 進入預覽,讓代理只在需要時載入工具參數結構,以減少輸入 token 與延遲;適用 Gemini 3.6 及更新模型,無額外收費。
新聞日期: 閱讀時間約 5 分鐘
Google 於 2026 年 11 月 19 日宣布,Gemini API 的 Interactions API 推出 Tool Retrieval,目前為預覽版(preview),並非正式全面提供。這項功能針對的是「AI 代理」,也就是能自行呼叫外部功能(例如查訂單、退款)來完成任務的 AI 程式。每個可呼叫的功能都要附上一份「參數結構」(schema),說明需要哪些輸入欄位;工具一多,這些說明就會占用大量 token(模型計算文字量與計費的單位)。Google 表示,Tool Retrieval 的目的在於降低每次請求的 token 負擔與延遲,並避免工具變多後選錯工具。
Tool Retrieval 改變了什麼?
Google 指出,代理連接數十甚至數百個工具時,每次請求都送出完整參數結構,會推高輸入 token 數、增加延遲,並隨候選清單變長而降低工具選擇的準確度。Tool Retrieval 讓代理把完整工具庫「待命」,只在目前任務需要時才載入對應的參數結構。
據 Google 說明,模型仍能看到每個延後載入工具的名稱與描述,所以知道有哪些工具可用;需要時模型依名稱請求,API 載入完整結構後,模型在同一個請求內發出函式呼叫。這三個步驟都會出現在 interaction.steps,方便除錯時檢視模型考慮過哪些工具。
如何啟用,伺服器端與用戶端檢索有何不同?
Google 表示,啟用方式是在請求中加入 tool_search 工具,並在想暫緩載入的工具上設定 defer_loading: true。最常用的工具可保持預先載入,只延後長尾工具。MCP 伺服器是一種把一整組工具提供給 AI 模型使用的連接方式;若使用遠端 MCP 伺服器,在 mcp_server 工具上設定 defer_loading: true,該伺服器公開的所有工具都會按需載入,不必逐一列出。
| 面向 | 伺服器端檢索 | 用戶端檢索 |
|---|---|---|
| 設定方式 | 加入 tool_search,並在工具上設 defer_loading: true | 宣告 tool_search 並設定 "execution": "client",自行定義搜尋參數 |
| 索引 | Google 表示不需建立或代管索引,搜尋由 Gemini 在伺服器端執行 | 適合自行維護工具註冊表、嵌入索引或每位使用者權限過濾器者 |
| 額外往返 | Google 稱搜尋與函式呼叫在同一個請求內完成 | 每次搜尋多一次往返,因為由應用程式執行查詢 |
| 工具宣告 | 延後載入的工具仍需宣告(含名稱與描述) | 工具不必預先宣告,可在對話中途新增 |
支援哪些模型?費用怎麼算?
Google 表示,Tool Retrieval 在 Interactions API 中適用於 Gemini 3.6 及更新模型,包括所有 Gemini 4 模型。這項功能沒有單獨收費,輸入與輸出 token 依所呼叫模型的標準費率計費。
Google 同時說明,啟用 tool_search 會增加一小段固定的輸入 token,且模型載入的每個結構在對話剩餘部分都按輸入計費,與預先宣告的工具相同。只有未載入的結構多過已載入的結構時才會省 token,Google 建議以自己的流量實際評估。
對開發流程有什麼實際影響?
對已有大型工具庫的團隊,主要變動是請求中多一個工具與一個旗標,而非重建檢索系統。前綴快取是指重複使用提示開頭不變的部分,以節省重複處理;Google 表示,延後的結構不在提示開頭,載入的結構加在對話後段,因此與前綴快取相容,快取的前綴在各回合間保持不變。
如何開始?
- 在請求的 tools 中加入 tool_search 工具。
- 在想暫緩載入的工具上設定 defer_loading: true(遠端 MCP 伺服器則設在 mcp_server 工具上)。
- 如需自建檢索,宣告 tool_search 時設定 "execution": "client" 並定義搜尋參數。
- 參考 Google 提供的完整設定文件、模型比較,並可在 Discord 向團隊回饋。
常見問題
Tool Retrieval 目前是正式版嗎?
不是。Google 表示它在 Gemini Interactions API 中為預覽版。
要改多少程式碼?
使用伺服器端檢索時,Google 表示只需加入 tool_search 工具,並在要延後的工具上加 defer_loading 旗標,不需建立或代管索引。若想用自己的工具註冊表或權限過濾,可改用用戶端檢索,但每次搜尋會多一次往返。
啟用後一定比較省嗎?
不一定。Google 表示沒有單獨收費,但 tool_search 會增加一小段固定輸入 token,載入的結構也按輸入計費;只有未載入的結構多過已載入的結構時才會省 token。
怎麼確認模型挑了哪個工具?
Google 表示,搜尋工具、載入結構與函式呼叫這三個步驟都會出現在 interaction.steps,可用來檢查模型考慮過哪些工具,並調整工具名稱或描述。
可以搭配 MCP 伺服器嗎?
可以。Google 表示在 mcp_server 工具上設定 defer_loading: true,該伺服器的所有工具都會按需載入。
覺得這篇整理實用嗎?分享給需要的朋友
同主題延伸閱讀
Signal 在 Android 與 iOS 27 預設封鎖截圖,阻止 Siri、Gemini 等 AI 代理讀取畫面
據 The Verge 報導,Signal 在 Android 與 iOS 27 上限制截圖,以防作業系統層級的 AI 代理讀取訊息內容;使用者可在設定中恢復截圖,但 Signal 警告會削弱隱私保障。
Claude Code 2.1.329:Code Mode 可搭配遙測、/tasks 整合排程任務、macOS computer use 安全規則收緊
Kimi Code CLI v2.7.0 新增原生 Bedrock provider:改用 AWS 憑證鏈連接 Kimi K3.1 Pro Highspeed
AWS 彙整 SageMaker 推論 13 項新功能:HyperPod 託管 NVIDIA Dynamo、MIG GPU 分割、跨區路由
資料來源
本文依據上方所列參考來源與標示之核對日期整理;票價、時刻、功能規格或服務條款可能變動,出發、預訂或購買前請至相關官方網站確認最新資訊。