生活分享

把本機模型接到編輯器:Continue、Cursor 與 Ollama

Continue 的官方文件有完整的 Ollama 設定,改一個 config.yaml 就能讓本機模型負責聊天、補全與嵌入三個角色;Cursor 的說明頁只列五家雲端金鑰、沒有自訂端點,而且自備金鑰只對聊天模型有效,Tab 補全仍走內建模型。這篇照官方文件寫設定檔、Ollama 端的 11434 埠與上下文長度、程式模型怎麼挑,以及代理模式的限制。

更新日期: 閱讀時間約 10 分鐘

插圖:一台螢幕形狀的方框,用一條線連到旁邊的晶片,晶片再分出三條線接到三顆圓,全部框在同一個虛線框裡。
圖片:Mokaair (© Mokaair)

想讓 幫你寫程式又不想把整份原始碼送上雲端,答案是把編輯器接到自己電腦上的模型;照官方文件當天的說法,Continue 的擴充有完整的 Ollama 設定,改一個 config.yaml 就能讓本機模型負責補全與聊天,而 Cursor 的說明頁只列了五家雲端供應商的金鑰、沒有任何自訂端點的寫法。

這篇會帶你做完四件事:在 VS Code 或 JetBrains 裝好 Continue、把聊天、補全、嵌入三個模型角色寫進設定檔、在 Ollama 端把連線位址與設對,最後看懂哪些編輯器的官方文件真的寫了 Ollama、以及本機模型在代理模式上被文件明白點出的限制。

補全、聊天、代理:先分清楚三種用法

Continue 官方文件把功能分成四項:代理(Agent)模式一起處理開發任務、聊天(Chat)模式問問題與解釋程式碼、編輯(Edit)模式不離開檔案就改一段程式、自動補全(Autocomplete)在你打字時給行內建議。這四項不是同一個模型都能做好,官方也沒有這樣建議。

補全用的是另一種模型。官方文件寫得很直接:補全模型是用一種叫 fill-in-the-middle(FIM)的格式訓練的,把游標前後的程式碼餵給它、要它補中間那段,因為任務很專一,所以「即使是 3B 的模型也能表現不錯」,反過來說,聊天模型雖然大,「即使下很多提示詞通常也表現不好」。同一份文件還補了一句:目前最先進的補全模型「都不超過 10b 參數,再往上加也不會明顯變好」。

代理模式的門檻則在工具呼叫。Continue 的模型推薦頁在「Local Models」那一段直接寫:這些模型只要顯示記憶體夠就能在自己的電腦上跑,但是「有限的工具呼叫與推理能力,會讓代理模式用起來很吃力」。這句話是本機方案跟雲端方案最大的落差,先記著,後面的限制那一節還會用到。

Continue:裝擴充,然後改一個設定檔

Continue 是 VS Code 與 JetBrains 的開放原始碼擴充。VS Code 這邊照官方文件是三步:在 Visual Studio Marketplace 的 Continue 頁面按 Install,會跳回 VS Code 再按一次 Install,圖示出現在左側欄之後,文件建議把它拖到右側欄比較好用。JetBrains 這邊是用 Ctrl 加 Alt 加 S 打開 Settings,進 Plugins 找到 Continue 再按 Install。介面以官網當天版本為準。

裝完之後所有設定都在一個檔案裡。官方文件寫設定檔的位置:macOS 與 Linux 在使用者家目錄的 .continue 資料夾底下的 config.yaml,Windows 在 %USERPROFILE% 底下的同一個路徑。要打開它,先用 cmd 或 ctrl 加 L(VS Code)、cmd 或 ctrl 加 J(JetBrains)叫出聊天側欄,點輸入框上方的設定選單,滑到那一組設定按齒輪。文件說存檔之後 Continue 會自動重新載入,不用重開編輯器。

~/.continue/config.yaml:一次寫好三個角色 · yaml
name: My Config
version: 0.0.1
schema: v1
models:
  - name: Qwen3 Coder 30B
    provider: ollama
    model: qwen3-coder:30b
    apiBase: http://localhost:11434
    roles:
      - chat
      - edit
  - name: Qwen2.5-Coder 1.5B
    provider: ollama
    model: qwen2.5-coder:1.5b
    roles:
      - autocomplete
  - name: Nomic Embed
    provider: ollama
    model: nomic-embed-text
    roles:
      - embed

三個欄位要對:provider 固定填 ollama,model 要跟 ollama list 印出來的名稱一字不差,apiBase 只有在 Ollama 跑在別台機器時才需要改成那台的位址。另外,Continue 舊的 config.json 格式在官方文件上已經標成 Deprecated(已淘汰),新寫的設定用 YAML 就好。

三個模型角色:chat、autocomplete、embed

Continue 的模型說明頁把角色列成六種:chat(聊天)、edit(編輯)、apply(套用)、autocomplete(自動補全)、embed(嵌入)、(重新排序),在設定檔裡就是 roles 這個欄位。對本機模型來說,真正要自己指派的是下面三個。

  • chat 與 edit:挑程式模型。Ollama 模型庫當天的程式模型頁裡,qwen3-coder 有 30b 與 480b 兩種標籤,30b 的下載大小 19GB、上下文視窗 256K,480b 則是 290GB,一般家用電腦不用考慮;撐不住 30b 的話,同一個模型庫的 qwen2.5-coder 有 14b(9.0GB)與 32b(20GB)可以退而求其次。
  • autocomplete:挑小的補全模型。Continue 的推薦表格把開放模型欄寫成 QwenCoder2.5 的 1.5B 與 7B,對應 Ollama 模型庫的 qwen2.5-coder,1.5b 下載大小 986MB、7b 是 4.7GB,上下文視窗都是 32K;嫌太大還有 0.5b(398MB)與 3b(1.9GB)。
  • embed:給程式碼庫檢索用。官方文件寫「如果想在本機產生嵌入向量,我們建議搭配 Ollama 使用 nomic-embed-text」,這個模型在模型庫上是 274MB、上下文視窗 2K。要注意文件同時寫了:VS Code 內建一個叫 transformers.js 的嵌入模型,但是 JetBrains 目前沒有內建的嵌入器。
先把三個模型拉下來 · bash
ollama pull qwen3-coder:30b
ollama pull qwen2.5-coder:1.5b
ollama pull nomic-embed-text

ollama list

文件特別提醒標籤要拉完整:直接打 ollama pull deepseek-r1 拉到的是 :latest,跟設定檔裡寫的 :32b 不是同一包,接著就會看到「404 model not found, try pulling it first」。設定檔寫什麼標籤,就拉什麼標籤。

圖解:編輯器裡的擴充把請求送到本機 Ollama 的 11434 埠,再分給聊天、補全、嵌入三個模型。
從左看到右:你在編輯器裡的動作經過擴充,變成送往本機 11434 埠的請求,再依角色交給不同的模型;整條路徑都在自己的電腦上。 · 圖片:Mokaair (© Mokaair)
閱讀完整文字說明

上排四個方框從左到右是一條資料流。一,編輯器:VS Code 或 JetBrains,你在裡面打字、選一段程式碼或問問題。二,擴充:Continue,設定檔是家目錄底下的 .continue 資料夾裡的 config.yaml,provider 欄位填 ollama,由它決定哪個角色用哪個模型。三,本機 Ollama:預設位址是 localhost 冒號 11434,官方文件建議程式工作把上下文設到至少 64000 個 token。四,模型:依 roles 欄位分派,整條路徑都在這台電腦上。第四個方框往下接到一條橫線,分出三個角色方框。左邊是 chat 與 edit,用程式模型,例如 qwen3-coder 冒號 30b,下載大小 19GB、上下文視窗 256K。中間是 autocomplete,用小的補全模型 qwen2.5-coder 冒號 1.5b,下載大小 986MB、上下文視窗 32K。右邊是 embed,用嵌入模型 nomic-embed-text,下載大小 274MB,給程式碼庫檢索用。最下面一條紅框提醒 Cursor 是例外:官方說明頁只列 OpenAI、Anthropic、Google、Azure、Bedrock 五家金鑰,沒有自訂端點;自備金鑰只對聊天模型有效,Tab 補全仍走 Cursor 內建模型,而且請求會經過 Cursor 的伺服器。

Ollama 端要開的設定

編輯器那邊設好之後,剩下的都在 Ollama。官方文件要確認的其實只有三件事。

  • 服務有在跑:Continue 的疑難排解那一節寫,先用 curl 打 localhost 的 11434 埠,回「Ollama is running」就代表通了;Ollama 官方文件裡 Zed、JetBrains、Roo Code 那幾頁要你填的 Host URL,也都是同一個位址。
  • 上下文長度要調大:官方的上下文長度說明頁寫,預設值是依顯示記憶體分級的,小於 24 GiB 給 4k、24 到 48 GiB 給 32k、48 GiB 以上給 256k;同一頁接著寫「網頁搜尋、代理、程式工具這類需要大量上下文的工作,應該設到至少 64000 個 token」。
  • 跑在別台機器才要開對外:官方常見問答寫,Ollama 預設只綁在 127.0.0.1 的 11434 埠,要讓區域網路的另一台電腦連進來,得把 OLLAMA_HOST 設成 0.0.0.0 加同一個埠,再重啟服務。
調上下文長度、開對外連線、確認有沒有跑在顯示卡上 · bash
# 方法一:啟動服務時指定
OLLAMA_CONTEXT_LENGTH=64000 ollama serve

# 方法二(macOS 以應用程式執行時):設好環境變數再重開 Ollama
launchctl setenv OLLAMA_HOST "0.0.0.0:11434"

# 看模型載在哪裡:PROCESSOR 欄要是 100% GPU
ollama ps

反過來也有調太大的問題。Continue 的 Ollama 供應商頁寫,Continue 設的預設上下文長度可能比其他 Ollama 工具高,所以同一個模型在別的地方跑得動、在編輯器裡卻跳出「Model requires more system memory」;文件給的解法是在那個模型底下加 defaultCompletionOptions 的 contextLength 把它調小,或者換小一號的模型。

Cursor 能不能接本機模型:照官方說明

很多人想把 Ollama 接到 Cursor,這裡照 cursor.com 的說明頁原文回答。那一頁叫「Bring your own API key」(自備 API 金鑰),步驟是打開 Cursor Settings 進 Models,找到供應商、貼上金鑰、按 Save。可以填的供應商頁面上列了五家:OpenAI、Anthropic、Google、Azure OpenAI、AWS Bedrock。整頁沒有自訂 base URL、OpenAI 相容端點或本機模型的任何說明,所以照當天的官方文件,接 Ollama 這件事在 Cursor 上沒有官方寫法。

就算你填的是雲端金鑰,那一頁也寫死了兩條限制。第一條是功能範圍:「Custom API keys only work with chat models. Tab completion continues using Cursor's built-in models.」翻成中文就是自備金鑰只對聊天模型有效,Tab 補全還是走 Cursor 自己的模型。第二條是資料路徑:金鑰不會存在 Cursor 的伺服器上,但是每一次請求都會帶著金鑰送到後端,因為「所有請求都會經過 Cursor 的伺服器做最後的提示詞組裝」;同一頁還寫,用自備金鑰的時候 Cursor 的 Zero Data Retention 政策不適用,資料處理改看你選的那家供應商的隱私政策。

官方文件真的寫了 Ollama 的編輯器

除了 Continue,Ollama 自己的文件也有一個整合(Integrations)區,裡面點名了幾個編輯器,每一頁都寫了設定步驟與前提。下面這張表只收官方文件寫過的,沒寫的就不列。

整理自 docs.ollama.com 的整合頁與 docs.continue.dev,2026 年 9 月查證;介面以官網當天版本為準。
編輯器官方文件怎麼接官方文件說的限制
VS Code(Ollama 官方擴充)裝 Marketplace 上的 Ollama 擴充,開 Chat 在模型選單的 Ollama 區段挑模型,預設讀 127.0.0.1 的 11434 埠需要 VS Code 1.127 或更新版本;文件建議 Ollama 0.17.6 以上;本機模型要把上下文設到至少 64k
VS Code 與 JetBrains(Continue)在 config.yaml 的 models 底下把 provider 填 ollama,再指派 chat、autocomplete、embed 角色JetBrains 沒有內建的嵌入模型;文件寫本機模型工具呼叫能力有限,代理模式會很吃力
JetBrains 內建的 AI 功能側欄聊天圖示選 Set up Local Models,在 Third Party AI Providers 選 Ollama,Host URL 填 localhost 的 11434 埠文件寫要有 JetBrains AI 訂閱才能用
Zed右下角星號圖示按 Configure,在 LLM Providers 選 Ollama,確認 Host URL 是 localhost 的 11434 埠再按 Connect文件只寫到連線與選模型,沒有列補全或代理的額外條件
XcodeSettings 裡選 Locally Hosted,輸入埠 11434 按 Add,再從左上角星號圖示的選單挑模型文件寫要先設定好 Apple Intelligence,Xcode 版本要 v26.0
Roo Code(VS Code 擴充)在 Provider Settings 把 API Provider 設成 Ollama,填 Model ID,遠端才改 Base URL文件寫程式工作要把 Context Window 設到至少 32K token

會踩到的限制與常見問題

本機方案最誠實的講法是:補全與聊天這兩件事很堪用,代理那一段官方文件自己就先打了預防針。下面幾條都寫在文件上。

  • 代理模式跑不動:Continue 的模型頁寫本機模型的工具呼叫與推理能力有限,代理模式會很吃力。Ollama 指南那頁給的補救是在模型底下加 capabilities 的 tool_use,但同一頁也寫了「已知問題」:有些模型即使設了、宣稱支援,實際的工具支援還是跟標示的不一樣。
  • 別拿旗艦模型做補全:官方的補全常見問答直接說,最好的商用模型沒有用 FIM 格式訓練,補全反而不好用;另外會思考的推理模型也不建議,因為產出比較慢、不適合需要速度的場景。
  • Cursor 的 Tab 換不掉:照官方說明,自備金鑰只對聊天模型有效,Tab 補全一定走 Cursor 內建的模型。
  • 上下文比雲端短:Ollama 的預設值依顯示記憶體從 4k 起跳,程式工作官方建議至少 64000 個 token,Roo Code 的整合頁則寫至少 32K;調大很吃記憶體,文件也提醒要先確認顯示記憶體夠。
  • 補全沒反應:官方的排查順序是先確認「Enable Tab Autocomplete」有勾(JetBrains 在 Settings 的 Tools 底下找 Continue),再確認模型真的拉下來了,然後把其他補全來源關掉避免互相干擾。

還有一件跟錢有關的事值得順帶一提:本機模型不按 token 計費,電腦跑起來就沒有帳單,但這個好處要拿品質和速度去換。真的要比,先把雲端那邊的計費方式看懂再決定哪些工作留在本機。

  • 生活分享

    Claude Code、Codex 搭本機模型:兩種接法怎麼選

    Claude Code 與 Codex 搭配本機模型有兩種接法:代理照常連雲端、把大量雜務交給腳本或 MCP 工具去問本機模型,或是把代理的模型整個換成本機模型。這篇用資料能不能出門、上下文開得夠不夠長、工作的類型三個問題幫你選,並對照 Ollama、LM Studio、Anthropic 與 OpenAI 的官方文件,分清楚本機權重、Ollama 的 cloud 標籤與供應商端點是三種不同的東西。

  • 生活分享

    把本機模型包成 MCP 工具,Claude Code 與 Codex 共用一支伺服器

    用官方 Python SDK 寫一支 stdio 的 MCP 伺服器,把本機的 Ollama 模型包成工具,Claude Code 與 Codex 就能共用:工具只收 inbox 底下的路徑,只回分類結果與結果檔路徑,不回信件原文。文中列出兩邊的登記指令、逾時與輸出上限的官方預設值,以及換成別家本機模型只改環境變數 LOCAL_MODEL 的做法,步驟都來自官方文件。

  • 生活分享

    把 Claude Code、Codex 整個換成本機模型:Ollama 與 LM Studio 設定與還原

    Ollama、LM Studio 與 Codex 的文件寫了把 Claude Code、Codex 整個換成本機模型的接法:Ollama 用 ollama launch 一行指令或手動設定,LM Studio 先開本機伺服器再設環境變數或加 --oss。這篇把四種組合的指令、兩家文件建議的上下文長度、Claude Code 用 /status 確認連到誰的方法,以及用完怎麼還原整理在一起;需要先裝好 Ollama 或 LM Studio,並且已有 Claude Code 或 Codex。

  • 生活分享

    Claude Code、Codex 搭本機模型的注意事項:開工前的檢查清單

    Claude Code 或 Codex 搭本機模型之前,先照一張表逐項核對:代理讀不讀得到原始檔、現在連的是誰、標籤是不是 :cloud、上下文實際開多長、逾時與輸出量、怎麼驗收。每一項寫怎麼檢查,並指出詳見同組哪一篇,另外收進供應商端點、條款與授權、繁體中文用字檢查;檢查方法取自 Anthropic、OpenAI、Ollama 與 DeepSeek 的官方文件。

最新旅遊情報攻略

資料來源

生活分享