生活分享

Google Cloud 宣布擴充 Gemini Enterprise 合作夥伴資安代理，瞄準 AI 代理本身的風險

Google Cloud 宣布，在企業 AI 平台 Gemini Enterprise 加入約二十家資安廠商打造的 AI 代理與防護。一方面讓資安團隊用對話查漏洞、處理遭入侵帳號，一方面保護企業內的 AI 代理本身，防範提示注入與資料外洩。主要影響使用 Gemini Enterprise 的企業與員工。

閱讀時間約 6 分鐘

Google Cloud 宣布擴充 Gemini Enterprise 合作夥伴資安代理，瞄準 AI 代理本身的風險
圖片：Mokaair (Original editorial artwork)

Google Cloud 宣布了什麼

Google Cloud 在官方部落格發表文章，由資安與身分合作夥伴總監 Vineet Bhan 與資安合作夥伴工程主管 Ashish Verma 署名，宣布擴充 Gemini Enterprise 生態系中由合作夥伴打造的資安產品目錄。Gemini Enterprise 是 Google Cloud 為職場推出的 AI 平台，企業可在同一處找到並部署各種專門的 AI 代理。Google Cloud 表示，先前已在 Google Cloud Next 將合作夥伴代理帶入 Gemini Enterprise，涵蓋銷售、內容、人資與資安等功能，這次則是資安領域的擴充。

Google Cloud 的說法是：威脅行為者越來越常利用 AI 加速發展網路攻擊，而企業防禦分散在身分、網路、端點、資料、雲端與應用程式等層面，常橫跨十多種產品。該公司稱，把這些廠商的代理與整合帶進 Gemini Enterprise 後，企業可以在同一介面編排多步驟資安工作流程。

Google Cloud 宣布擴充 Gemini Enterprise 合作夥伴資安代理，瞄準 AI 代理本身的風險
Mokaair 編輯查核流程 · 圖片：Mokaair (Original editorial artwork)
閱讀完整文字說明

消息會先蒐集來源、獨立查核，再交由 Jev 判斷。

兩大類：資安代理與 AI 工作負載防護

根據 Google Cloud，這批新項目分為兩類。第一類是資安團隊在 Gemini Enterprise 中直接呼叫的合作夥伴代理，例如用自然語言查詢漏洞、圍堵遭入侵帳號。第二類是保護 AI 與代理型工作負載（指企業環境中實際運作的 AI 代理與相關程式）本身的防護，針對的風險包括提示注入、敏感資料外洩與惡意 AI 活動。提示注入是指有人在 AI 會讀取的內容裡藏入指令，企圖讓 AI 做出非預期的行為。

部分合作廠商整合比較（內容整理自 Google Cloud 部落格，非獨立測試結果）
廠商與產品類型Google Cloud 文章所述功能
Check Point AI Defense PlaneAI 工作負載防護與 Google Cloud 的 Agent Gateway 及 Agent Registry 整合，找出企業內的 AI 工作負載，並即時防範提示注入、資料外洩與失控代理行為
CrowdStrike Falcon GuardianAI 工作負載防護透過 Agent Gateway 保護代理型工作負載，對抗提示注入、敏感資料外洩與惡意 AI 活動
Cyera Agent GuardianAI 工作負載防護為在 Gemini 上執行的代理提供 DSPM（資料安全態勢管理，掌握敏感資料的分布與風險）與 DLP（資料外洩防護）
Fortinet FortiAIGateAI 工作負載防護為 Google Cloud 客戶提供 LLM（大型語言模型）執行階段防護，也就是在 AI 實際運作時進行保護
Britive Emergency Termination Agent資安代理以單一自然語言請求圍堵遭入侵身分，經人員核准後撤銷工作階段並停用身分
Qualys ROCky資安代理以對話管理與修補漏洞，依 Qualys 的 TruRisk 風險分數排序，並以使用者自身權限執行
Ping Identity PingID 自助代理資安代理員工以自然語言處理 MFA（多因素驗證）重設與裝置復原，無需開立服務台工單

文章列出的其他廠商還包括 Acalvio、Cyberhaven、Endor Labs、Exabeam、Fastly、Menlo Security、Obsidian Security、Palo Alto Networks、Splunk（Cisco 旗下）、Snyk、Thales、Transmit Security 與 Zscaler。例如 Google Cloud 描述，Snyk 會即時驗證 AI 代理產生的程式碼，Transmit Security 則協助企業分辨與其應用程式互動的代理是良性或惡意。

為什麼值得關注：AI 代理本身成了防護對象

這次公告值得留意的地方，不只是把資安工具接上 AI 助理，而是多家廠商開始把「AI 代理本身」當成需要管理的對象。根據 Google Cloud 文章，Obsidian Security 的代理可找出企業內的 AI 代理，並回答哪些代理擁有提升權限或寫入權限；Cyera 則會比對機器身分、委派權限與敏感資料分類，以確認代理行為是否經授權。

對一般上班族來說，這代表公司導入 AI 助理時，背後可能多了一層監控與限制，例如限制 AI 能讀取哪些資料、攔截可疑指令。部分功能也直接影響員工日常，例如 Google Cloud 提到的 PingID 自助代理，讓員工用自然語言處理 MFA 重設，不必等服務台處理。

一般讀者可以怎麼理解

  • 提示注入：Check Point、CrowdStrike、Menlo Security 等多家廠商都把防範這類藏在內容裡的惡意指令列為重點。
  • 非人類身分：除了員工帳號，AI 代理與系統服務也有自己的帳號與權限，Britive 等廠商強調這類身分同樣需要能被快速停用。
  • 人員核准：根據 Google Cloud 的描述，Britive 代理在撤銷工作階段前需要人員核准，顯示自動化仍保留人工把關。
  • 可用性：Google Cloud 表示這些資安代理可在 Google Cloud Marketplace 瀏覽，屬企業產品，一般個人用戶不會直接接觸。

常見問題

這次 Google Cloud 宣布了什麼？

Google Cloud 在官方部落格宣布，擴充 Gemini Enterprise 中由合作夥伴打造的資安代理與整合，文章列出約二十家資安廠商，分為可直接呼叫的資安代理，以及保護 AI 與代理型工作負載的防護兩大類。

這些功能已經獨立驗證有效嗎？

沒有。本文資訊全部來自 Google Cloud 官方部落格，屬廠商自述。文中提到的成效，例如縮短圍堵時間，均為廠商宣稱，並非獨立測試結果。

一般個人用戶會受影響嗎？

直接影響有限，因為 Gemini Enterprise 是企業產品。不過若你的公司使用它，可能會感受到公司對 AI 助理加上更多資料存取限制，或能用自然語言處理 MFA 重設等帳號問題（以 Ping Identity 的自助代理為例）。

什麼是提示注入，為什麼這麼多廠商提到它？

提示注入是指在 AI 會讀取的內容中藏入指令，試圖讓 AI 偏離原本任務。Check Point、CrowdStrike、Menlo Security 等廠商在 Google Cloud 文章中都把防範提示注入列為功能之一，顯示這是企業部署 AI 代理時被重視的風險。

企業應該馬上採用這些工具嗎？

本文不提供採購建議。企業應依自身需求與既有資安架構評估，並自行查證各廠商的實際功能與限制，而不是只依據公告內容決定。

查看同分類最新消息

同主題延伸閱讀

最新旅遊情報攻略

資料來源

生活分享