生活分享

AWS:ChatGPT 桌面應用程式可經 GovCloud 的 Amazon Bedrock 使用,鎖定高安全需求組織

AWS 在官方部落格表示,ChatGPT 桌面應用程式現可透過 AWS GovCloud (US) 的 Amazon Bedrock 使用 OpenAI 模型。這主要影響安全架構要求使用 GovCloud 的組織;AWS 也提醒,採用這套設定不代表工作負載已獲授權,組織仍須自行審查。

閱讀時間約 4 分鐘

AWS:ChatGPT 桌面應用程式可經 GovCloud 的 Amazon Bedrock 使用,鎖定高安全需求組織
圖片:Mokaair (Original editorial artwork)

發生了什麼事

AWS 在官方部落格中表示,ChatGPT 桌面應用程式現已在 AWS GovCloud (US) 的 Amazon Bedrock 上提供。Amazon Bedrock 是 AWS 上提供 AI 模型存取的服務,GovCloud (US) 則是 AWS 的一個雲端環境。使用者可透過 Work 與 Codex 兩個元件,存取 OpenAI 的前沿模型(frontier models)。

根據 AWS 的說明,Work 負責完成複雜的多步驟任務並交付可供審閱的成果,Codex 則是用於開發、測試與審查軟體的程式碼代理。AWS 也表示,使用者可透過桌面應用程式、Codex CLI(在命令列操作的版本),以及 Visual Studio Code、JetBrains 與 Xcode 等開發工具的整合功能來使用。模型推論(模型實際運算並產生回應的過程)會經由 Amazon Bedrock 上的 Responses API 傳送。

請求怎麼傳送、資料怎麼處理

AWS 表示,這份教學針對的是安全架構要求模型推論必須使用 AWS GovCloud (US) 身分、端點(服務的連線位址)與區域控制的組織。請求會透過 us-gov-west-1 區域的 Amazon Bedrock Mantle 傳送,存取權限可用 AWS IAM(身分與存取管理)及既有的 GovCloud 網路控制來管理。

AWS 指出,對有資料駐留需求(要求資料留在特定區域內處理)的客戶,處理會留在所選的 Amazon Bedrock 區域內。費用依 token(模型用量的計費單位)計算,沒有席位授權或每位開發者的承諾。此外也支援可自行設定的零資料保留(ZDR)模式,在此模式下,提示與回應不會被 AWS 寫入持久儲存,也不會與模型提供者共享。

AWS 部落格說明的重點
項目AWS 的說明
可用元件Work(複雜多步驟任務)與 Codex(程式碼代理)
推論路徑經 us-gov-west-1 的 Amazon Bedrock Mantle,使用 Responses API
存取管理AWS IAM 與既有 GovCloud 網路控制
計費依 token 計費,無席位授權或每位開發者承諾
資料保留支援零資料保留(ZDR)
登入與認證API 模式登入;支援 Bedrock API 金鑰或 AWS SDK 憑證鏈(含 SSO 單一登入)

受控部署有哪些限制

AWS 表示,所述設定採用 API 模式登入、受管理的裝置政策、具名 AWS 設定檔與網路限制,只允許連到核准的 Amazon Bedrock 端點,同時停用其他外部連線與具網路功能的能力。AWS 稱這是機關安全團隊可在核准更廣泛使用前,先行測試並記錄的部署方式。

AWS 說明,部署需要 config.toml 與 requirements.toml 兩個設定檔,且必須在應用程式啟動前就位。其中 requirements.toml 由管理員控制,設定使用者無法覆寫的安全限制。AWS 也指出,由於此設定直接使用 AWS,ChatGPT 工作區規則與使用者角色並不控制它,主要的安全控制是電腦的政策以及所用的 AWS 身分與權限。

AWS 也說明了出問題時的處理方式:若 GovCloud 端點被回報為不支援,應向 OpenAI 確認確切的桌面或 app-server 版本、端點與模型,因為僅更改網址並不能確立支援。若驗證檢查失敗,AWS 建議停止推行、讓受影響裝置回到先前核准的政策與提供者設定,並撤銷暫時性的 AWS 憑證或 API 金鑰。

常見問題

這項消息是誰說的?

內容來自 AWS 自家的機器學習部落格,本文所有說法均為 AWS 的陳述,並非獨立第三方的查證結果。

這份設定教學是寫給誰看的?

AWS 表示,對象是安全架構要求模型推論必須使用 AWS GovCloud (US) 身分、端點與區域控制的組織。

如果應用程式要求登入 OpenAI 帳號,該怎麼辦?

AWS 建議確認 requirements.toml 與 config.toml 的位置和檔名完全正確,結束所有 ChatGPT 與 Codex 程序後再重新啟動。這兩個檔案必須在應用程式啟動前就位。

查看同分類最新消息

資料來源

生活分享