Kimi Code CLI v2.7.0 新增原生 Bedrock provider:改用 AWS 憑證鏈連接 Kimi K3.1 Pro Highspeed

AWS 表示 Moonshot AI 在 Kimi Code CLI v2.7.0 加入原生 bedrock provider,可用 AWS 憑證鏈(含具名 profile 與 SSO)呼叫 Amazon Bedrock 模型,無須另管 Bedrock API 金鑰。

新聞日期: 閱讀時間約 5 分鐘

LINE 分享
目錄
  1. 1. 這次更新和以前的設定方式有什麼不同?
  2. 2. 需要哪些前置條件,怎麼開始設定?
  3. 3. 使用時有哪些限制與注意事項?
  4. 4. 常見問題

AWS 在部落格中表示,Moonshot AI 開發的開源程式碼代理 Kimi Code CLI 於 v2.7.0 新增原生 bedrock provider(provider 是 CLI 用來連接某個模型服務的連線設定)。升級到 v2.7.0 或更新版本即可使用;Amazon Bedrock 的模型推論按 token 用量計費。最大的改變是可以直接沿用 AWS 憑證鏈,也就是 AWS 工具依序尋找登入資訊的標準機制,包括具名 profile(在 AWS CLI 中預先命名的一組帳號設定)與 SSO(單一登入)。對已經在 AWS 上工作的開發者而言,這代表少管理一組獨立的 Bedrock API 金鑰,不過保護憑證與限縮權限的責任仍在使用者身上。

這次更新和以前的設定方式有什麼不同?

AWS 說明,舊版需要用 type 為 openai 或 openai_responses 的 provider,設定區域 base_url,並提供短期或長期的 Amazon Bedrock API 金鑰。新的原生 provider 則可透過標準 AWS CLI 憑證鏈解析臨時憑證,並依模型 ID 推斷 API 格式與區域端點,必要時可逐模型覆寫通訊協定。

運作上,provider 先解析 AWS 憑證,再用 @aws/bedrock-token-generator 產生短期 Bedrock API 金鑰並視需要更新,接著依 AWS_REGION 或 AWS_DEFAULT_REGION 建立 bedrock-runtime 端點,最後呼叫所選的推論 profile(決定請求送往哪個模型與路由的設定)。AWS 表示,若使用者以 api_key 或 api_key_env 明確提供金鑰,該金鑰優先。

依 AWS 部落格整理的設定方式比較
項目舊做法v2.7.0 原生 bedrock provider
provider 類型openai 或 openai_responsesbedrock
驗證方式Amazon Bedrock API 金鑰(短期或長期)標準 AWS 憑證鏈,可用具名 profile 與 SSO
端點設定需自行設定區域 base_url依 AWS_REGION 與模型 ID 推斷,可用 protocol 與 base_url 覆寫
金鑰管理需另行取得並保護自動產生短期金鑰,最長 12 小時或工作階段長度

需要哪些前置條件,怎麼開始設定?

AWS 列出的前置條件包括:有目標模型與推論 profile 存取權的 AWS 帳號、Kimi Code CLI v2.7.0 以上、AWS CLI(選用的 aws login 需 v2.32.0 以上),以及有權呼叫目標模型與推論 profile 的 IAM 身分(IAM 是 AWS 管理使用者、角色與權限的服務)。AWS 同時建議依最小權限原則授權,並考慮為 Kimi Code CLI 使用專用 IAM 角色。

依 AWS 文章,步驟為:先設定 AWS 憑證並確認身分,再編輯 ~/.kimi-code/config.toml(若設定 KIMI_CODE_HOME 則改用該目錄下的檔案)新增 provider 與模型,最後送出測試請求。以下為文章中出現的指令與設定。

AWS 文章中的驗證與測試指令 · bash
kimi --version
aws sts get-caller-identity --profile YOUR_PROFILE_NAME
kimi --model bedrock-kimi-k3-1 --prompt "Write a Python function that checks whether a string is a palindrome. Include a short usage example."
AWS 文章中的 config.toml 範例 · toml
default_model = "bedrock-kimi-k3-1"

[providers.bedrock]
type = "bedrock"

[providers.bedrock.env]
AWS_REGION = "YOUR_SOURCE_REGION"
# AWS_PROFILE = "YOUR_PROFILE_NAME"

[models.bedrock-kimi-k3-1]
provider = "bedrock"
model = "global.moonshotai.kimi-k3.1"
max_context_size = 1000000
capabilities = ["always_thinking", "thinking", "image_in", "tool_use"]

AWS 提醒,若已有設定檔應先備份並合併,而非覆寫。此外,AWS 建議在互動式工作階段中,批准代理提出的檔案修改與 shell 指令前先自行檢視。

使用時有哪些限制與注意事項?

AWS 指出,撰文時 Kimi Code 桌面與網頁版的 provider 建立介面並未提供這套憑證鏈設定所需的全部環境欄位,需直接編輯 config.toml。另外,bedrock provider 需要明確的 AWS_REGION 或 AWS_DEFAULT_REGION,無法從 ~/.aws/config 或 aws configure 推斷。

Kimi Code 也不會自動偵測 Bedrock 上多數模型的能力,須對照模型卡自行宣告。AWS 表示 Kimi K3.1 Pro Highspeed 支援 always_thinking、thinking、image_in 與 tool_use,但不支援 audio_in 與 video_in,並建議自行驗證工具與圖片流程。在費用方面,AWS 稱全域推論比地理區域 profile 便宜 10%,適合沒有資料駐留需求的工作負載;實際費率請參閱 Amazon Bedrock 定價頁。

常見問題

還需要 Amazon Bedrock API 金鑰嗎?

依 AWS 說明,不必在 config.toml 放置 AWS 存取金鑰或手動產生的 Bedrock 金鑰,provider 會自動產生短期金鑰。但若你以 api_key 或 api_key_env 明確提供金鑰,該金鑰會優先使用。

使用會產生哪些費用?

AWS 表示,Amazon Bedrock 上這些模型的推論按 token 計費,沒有需要清除的常駐雲端基礎設施。使用前建議先查看 Amazon Bedrock 定價頁了解預期費用。

可以改用其他通訊協定或 VPC 端點嗎?

AWS 表示可以。在 config.toml 把 protocol 設為 openai、openai_responses 或 anthropic,並用 base_url 指定目標 URL(須含如 /openai/v1 或 /anthropic 的路徑)。文章示範了透過 VPC 端點使用 OpenAI Responses API;各模型支援的 API 請查看模型卡。

臨時金鑰可以用多久?

AWS 表示 provider 產生的臨時 API 金鑰有效期最長 12 小時,或為 AWS 工作階段長度,以較短者為準。

文章有提到各地區的可用性或台灣支援嗎?

沒有。AWS 只說明須在支援的來源區域取得模型與推論 profile 的存取權,並請讀者查看 Kimi K3.1 Pro Highspeed 的模型卡確認目前的區域與推論 profile 支援情況。

查看同分類最新消息

覺得這篇整理實用嗎?分享給需要的朋友

LINE 分享

資料來源

本文依據上方所列參考來源與標示之核對日期整理;票價、時刻、功能規格或服務條款可能變動,出發、預訂或購買前請至相關官方網站確認最新資訊。

生活分享