Gemini API 推出 Tool Retrieval 預覽版:按需載入工具結構,支援 Gemini 3.6 以上模型

Google 宣布 Gemini Interactions API 的 Tool Retrieval 進入預覽,讓代理只在需要時載入工具參數結構,以減少輸入 token 與延遲;適用 Gemini 3.6 及更新模型,無額外收費。

新聞日期: 閱讀時間約 5 分鐘

LINE 分享
目錄
  1. 1. Tool Retrieval 改變了什麼?
  2. 2. 如何啟用,伺服器端與用戶端檢索有何不同?
  3. 3. 支援哪些模型?費用怎麼算?
  4. 4. 對開發流程有什麼實際影響?
  5. 5. 如何開始?

Google 於 2026 年 11 月 19 日宣布,Gemini API 的 Interactions API 推出 Tool Retrieval,目前為預覽版(preview),並非正式全面提供。這項功能針對的是「AI 代理」,也就是能自行呼叫外部功能(例如查訂單、退款)來完成任務的 AI 程式。每個可呼叫的功能都要附上一份「參數結構」(schema),說明需要哪些輸入欄位;工具一多,這些說明就會占用大量 token(模型計算文字量與計費的單位)。Google 表示,Tool Retrieval 的目的在於降低每次請求的 token 負擔與延遲,並避免工具變多後選錯工具。

Tool Retrieval 改變了什麼?

Google 指出,代理連接數十甚至數百個工具時,每次請求都送出完整參數結構,會推高輸入 token 數、增加延遲,並隨候選清單變長而降低工具選擇的準確度。Tool Retrieval 讓代理把完整工具庫「待命」,只在目前任務需要時才載入對應的參數結構。

據 Google 說明,模型仍能看到每個延後載入工具的名稱與描述,所以知道有哪些工具可用;需要時模型依名稱請求,API 載入完整結構後,模型在同一個請求內發出函式呼叫。這三個步驟都會出現在 interaction.steps,方便除錯時檢視模型考慮過哪些工具。

如何啟用,伺服器端與用戶端檢索有何不同?

Google 表示,啟用方式是在請求中加入 tool_search 工具,並在想暫緩載入的工具上設定 defer_loading: true。最常用的工具可保持預先載入,只延後長尾工具。MCP 伺服器是一種把一整組工具提供給 AI 模型使用的連接方式;若使用遠端 MCP 伺服器,在 mcp_server 工具上設定 defer_loading: true,該伺服器公開的所有工具都會按需載入,不必逐一列出。

Google 說明的兩種檢索模式比較
面向伺服器端檢索用戶端檢索
設定方式加入 tool_search,並在工具上設 defer_loading: true宣告 tool_search 並設定 "execution": "client",自行定義搜尋參數
索引Google 表示不需建立或代管索引,搜尋由 Gemini 在伺服器端執行適合自行維護工具註冊表、嵌入索引或每位使用者權限過濾器者
額外往返Google 稱搜尋與函式呼叫在同一個請求內完成每次搜尋多一次往返,因為由應用程式執行查詢
工具宣告延後載入的工具仍需宣告(含名稱與描述)工具不必預先宣告,可在對話中途新增

支援哪些模型?費用怎麼算?

Google 表示,Tool Retrieval 在 Interactions API 中適用於 Gemini 3.6 及更新模型,包括所有 Gemini 4 模型。這項功能沒有單獨收費,輸入與輸出 token 依所呼叫模型的標準費率計費。

Google 同時說明,啟用 tool_search 會增加一小段固定的輸入 token,且模型載入的每個結構在對話剩餘部分都按輸入計費,與預先宣告的工具相同。只有未載入的結構多過已載入的結構時才會省 token,Google 建議以自己的流量實際評估。

對開發流程有什麼實際影響?

對已有大型工具庫的團隊,主要變動是請求中多一個工具與一個旗標,而非重建檢索系統。前綴快取是指重複使用提示開頭不變的部分,以節省重複處理;Google 表示,延後的結構不在提示開頭,載入的結構加在對話後段,因此與前綴快取相容,快取的前綴在各回合間保持不變。

如何開始?

  1. 在請求的 tools 中加入 tool_search 工具。
  2. 在想暫緩載入的工具上設定 defer_loading: true(遠端 MCP 伺服器則設在 mcp_server 工具上)。
  3. 如需自建檢索,宣告 tool_search 時設定 "execution": "client" 並定義搜尋參數。
  4. 參考 Google 提供的完整設定文件、模型比較,並可在 Discord 向團隊回饋。

常見問題

Tool Retrieval 目前是正式版嗎?

不是。Google 表示它在 Gemini Interactions API 中為預覽版。

要改多少程式碼?

使用伺服器端檢索時,Google 表示只需加入 tool_search 工具,並在要延後的工具上加 defer_loading 旗標,不需建立或代管索引。若想用自己的工具註冊表或權限過濾,可改用用戶端檢索,但每次搜尋會多一次往返。

啟用後一定比較省嗎?

不一定。Google 表示沒有單獨收費,但 tool_search 會增加一小段固定輸入 token,載入的結構也按輸入計費;只有未載入的結構多過已載入的結構時才會省 token。

怎麼確認模型挑了哪個工具?

Google 表示,搜尋工具、載入結構與函式呼叫這三個步驟都會出現在 interaction.steps,可用來檢查模型考慮過哪些工具,並調整工具名稱或描述。

可以搭配 MCP 伺服器嗎?

可以。Google 表示在 mcp_server 工具上設定 defer_loading: true,該伺服器的所有工具都會按需載入。

查看同分類最新消息

覺得這篇整理實用嗎?分享給需要的朋友

LINE 分享

資料來源

本文依據上方所列參考來源與標示之核對日期整理;票價、時刻、功能規格或服務條款可能變動,出發、預訂或購買前請至相關官方網站確認最新資訊。

生活分享