AI 寫程式與本機模型
用 AI 寫程式的工具與工作流,以及在自己電腦上跑模型的做法。
系列與教學中心
照順序讀的系列,各有自己的目錄與學習路線。
多模型 AI 工作流教學:從拆任務到串接不同模型
這個系列教的是怎麼把一件工作拆開、交給合適的模型,再把結果接回同一條流程:判斷該不該拆、拆給誰,換供應商不改程式,設計便宜先試的路由與級聯,讓模型之間用結構化輸出交接資料,再到代理式工具怎麼分工、同一套工具怎麼給多個客戶端共用、Claude Code 與 Codex 怎麼搭本機模型,以及上線後怎麼追蹤與防護。一般使用者可以從判斷該不該拆的觀念讀起,已經會寫 Python 的人能直接進到換供應商、寫路由與交接資料的幾篇。

生活分享
多模型互審:LLM 當評審、投票與集成怎麼做
多模型互審是讓一個獨立的模型依照寫死的評分準則,對其他模型的答案逐條打分,再用投票或集成整理出判斷。本文示範兩個模型各答一次、第三個模型依準則評分並輸出 JSON 的流程,說明評分準則怎麼寫、OpenAI 文件記錄的位置偏誤與冗長偏誤怎麼緩解,以及呼叫次數怎麼隨評審數量倍增。讀完能用 Python 串接 OpenAI、Anthropic、Google 三家 SDK 兜出一輪互審,再用純 Python 的多數決函式整合評審的結論。
- AI 工具
- 教學
- AI 寫程式與本機模型

生活分享
成本、品質、延遲:多模型流程怎麼取捨
多模型流程的成本、品質與延遲要分開量:成本是官方每百萬 token 單價乘上呼叫次數與 token 數,品質要靠自己建的評測集分數而不是各家公布的跑分,延遲要看 p50 與 p95 兩個百分位數而不是平均值。這篇說明串行與並行架構怎麼影響這三個量,快取與批次該放進流程的哪一步,並用 2026 年 9 月當日的官方定價,換算單一旗艦、級聯與並行互審三種流程處理同一個假設請求的估算成本,附上每一步的假設,方便換成自己的用量重算。
- AI 工具
- 教學
- AI 寫程式與本機模型

生活分享
Claude Code、Codex、Gemini CLI 分工:規劃、執行、審查
把 Claude Code、Codex 與 Gemini CLI 接成規劃、執行、審查的一條管線,靠的是三支命令列各自的非互動旗標,本文查證的文件沒有跨工具的整合功能。這篇會列出 claude -p、codex exec 與 gemini -p 在腳本裡實際會用到的輸出格式旗標,並示範用 plan.md、patch 與 review.json 三個檔案讓三支工具接力完成同一件事;讀者需要能在終端機執行這三支 CLI 並各自登入,腳本只用 bash 與 Python 內建的 json 模組。
- AI 工具
- 教學
- AI 寫程式與本機模型

生活分享
AI 工作流是什麼:從一次對話到可重跑的流程
AI 工作流是把原本擠在一次對話裡臨場決定的每一步,拆成可以個別檢查、重新執行、彼此交接的固定步驟,讓同一件事下次不必重新臨場發揮。本文用對話、流程、代理三個層次,說明步驟、狀態、重試與輸入輸出契約這幾個詞在講什麼,並用「整理會議紀錄、列待辦、寄摘要」的例子把三層的差異走一遍。讀完你會判斷一件工作什麼時候一次對話就夠、什麼時候該寫成流程、又是什麼情況才值得讓模型自己決定下一步,不需要先會寫程式。
- AI 工具
- 教學
- AI 寫程式與本機模型

生活分享
用 Whisper 指令列在本機轉逐字稿:pip、ffmpeg 安裝與 SRT 字幕輸出
用指令列或 Python 在自己電腦跑 Whisper,音檔不必上傳:OpenAI 的模型權重下載後就能離線轉逐字稿。這篇照官方 README、模型卡與 LICENSE,說明六種模型大小的參數、顯示記憶體需求與相對速度,用 pip 與 ffmpeg 完成安裝,示範指令列與 Python 兩種轉錄方式、srt 與 vtt 字幕的輸出參數、中文與繁體輸出的設定,以及幻覺與重複這些官方寫明的限制。
- AI 工具
- 教學
- AI 寫程式與本機模型

生活分享
MacWhisper 與 WhisperDesktop 圖形介面逐字稿教學:不打指令的本機轉寫流程
不想打指令的話,MacWhisper 與 WhisperDesktop 這兩個圖形介面工具能在自己電腦上把錄音變成文字;變成文字後,還需要核對講者、繁體用字和時間碼。本文以原創社區口述訪談情境,介紹 MacWhisper 與 Const-me WhisperDesktop 的桌面轉寫流程,區分本機模型、雲端轉寫與 AI 摘要的資料流。附工具比較表、操作步驟及自繪圖解,協助你保留原始錄音、整理可追溯逐字稿,再輸出適合閱讀或影片使用的字幕檔。
- 教學
- 軟體與 App
- AI 寫程式與本機模型

生活分享
在 VPS 上自架 AI 服務:Ollama+Open WebUI
自架 AI 只要一台 Linux VPS:把 Ollama 與 Open WebUI 架成自己或小團隊專用的服務,Ollama 用官方腳本裝成服務,Open WebUI 用 Docker 跑起來只綁 127.0.0.1,前面用 Caddy 或 Nginx 開 HTTPS。這篇照官方文件寫指令、環境變數、反向代理、關閉註冊與防火牆,說明為什麼 11434 埠不能對外,並交代備份、更新與費用。
- 教學
- 軟體與 App
- AI 寫程式與本機模型

生活分享
本機跑 Qwen:中文表現與設定
Qwen 開放權重版本可以用 Ollama 或 LM Studio 下載到自己的電腦跑。這篇用 2026 年 9 月 14 日查證的 Ollama 模型庫、Hugging Face 模型卡與官方文件(Ollama 標籤頁的檔案大小 10 月 5 日重新查證),說清楚當代有哪些標籤與檔案大小、拉取與執行的指令、thinking 模式怎麼開關、繁體中文要怎麼用系統提示詞固定下來、上下文視窗預設多少要調,以及哪些版本是 Apache 2.0、哪一個用自訂授權。
- AI 工具
- 教學
- AI 寫程式與本機模型

生活分享
Open WebUI:給本機模型一個像 ChatGPT 的介面
Ollama 裝好之後,對話只留在終端機裡。Open WebUI 官方文件給一行 Docker 指令,把介面開在埠 3000:聊天記錄、多模型並排、上傳文件做 RAG、多人帳號都在裡面。這篇照官方文件走完 Docker 與 pip 兩種安裝、用 OLLAMA_BASE_URL 接上 11434 埠、建立第一個管理員帳號、做知識庫與提示詞範本、備份 volume,最後把 LICENSE 裡那條不能拿掉 Open WebUI 標示的條款照原文說清楚。
- AI 工具
- 教學
- AI 寫程式與本機模型

生活分享
把本機模型接到編輯器:Continue、Cursor 與 Ollama
Continue 的官方文件有完整的 Ollama 設定,改一個 config.yaml 就能讓本機模型負責聊天、補全與嵌入三個角色;Cursor 的說明頁只列五家雲端金鑰、沒有自訂端點,而且自備金鑰只對聊天模型有效,Tab 補全仍走內建模型。這篇照官方文件寫設定檔、Ollama 端的 11434 埠與上下文長度、程式模型怎麼挑,以及代理模式的限制。
- AI 工具
- 教學
- AI 寫程式與本機模型

生活分享
Ollama 入門:Windows、Mac 安裝與第一個模型
Ollama 是在自己電腦跑本機 AI 的入門工具,官網下載頁寫 macOS 要 14 Sonoma 或更新版本、Windows 要 10 或更新版本。這篇照官方文件走完安裝、第一次對話、看懂模型庫的標籤與大小、用 ollama ps 確認模型跑在顯示卡還是 CPU,再從 curl 與 Python 呼叫本機 11434 埠的 API,最後說清楚結尾帶 cloud 的標籤是雲端模型、怎麼關掉。
- AI 工具
- 教學
- AI 寫程式與本機模型

生活分享
Lovable 製作網站:需求、資料連線與交付驗收
Lovable 是一個能從需求產生網站與後端功能的架站 AI,但能顯示畫面不等於已完成可用產品。本文以原創共享工具借用網站為例,整理需求拆分、Cloud 資料連線、使用者權限、目前 credits 計費與發布流程,並說明 GitHub 程式碼同步和資料搬遷的差別。附操作步驟、驗收比較表與自繪圖解,協助逐項確認功能與交付範圍,不把 AI 的完成回覆當成實際測試證據。
- 教學
- 軟體與 App
- AI 寫程式與本機模型

生活分享
本機 RAG:跟自己的文件聊天
把 PDF、Word 與純文字交給本機模型,靠檢索找出相關片段再回答,檔案不用上傳到雲端。這篇照官方文件走三條路:Open WebUI 的知識庫、LM Studio 直接把檔案拖進對話,以及用 Ollama 的嵌入 API 寫一支最小的 RAG 腳本;分段大小、重疊與取幾段只抄官方文件列出的數字,最後說清楚表格、掃描版 PDF 與上下文視窗這三個限制。
- AI 工具
- 教學
- AI 寫程式與本機模型

生活分享
為什麼要在自己電腦跑 AI:隱私、離線與成本
本機 AI 換到三件事:資料不出電腦、模型下載後可離線使用、沒有月費;代價是硬體、速度與品質落差,還要自己維護。這篇整理 Ollama、LM Studio、Open WebUI 官方文件對「資料不會離開你的電腦」與離線條件的原文,用官方模型卡的評測數字說明小模型與旗艦的差距,並列出敏感文件摘要、離線翻譯、程式補全、批量處理適合本機,以及哪三種情況該留在雲端。
- AI 工具
- 軟體與 App
- AI 寫程式與本機模型

生活分享
跑本機模型要什麼電腦:記憶體、顯示記憶體與 Apple Silicon
官方文件沒有「幾 B 的模型要幾 GB 記憶體」的對照表,所以這篇只給算法:用 Ollama、llama.cpp、LM Studio 的官方需求,加上模型庫當天的檔案大小與 Apple、NVIDIA 規格頁的數字,算出模型權重與上下文視窗各佔多少記憶體,再對照一般筆電、獨立顯示卡桌機、Apple Silicon Mac 三種配置各能跑到哪一級。
- AI 工具
- 3C 裝置
- AI 寫程式與本機模型

生活分享
Mac mini 當家用 AI 伺服器:統一記憶體、售價與區網設定
把 Mac mini 放在家裡當常開的 AI 伺服器,手機和筆電連區網就能用本機模型。本文整理 2026 年 9 月 14 日 apple.com/tw 上 Mac mini 的晶片、統一記憶體選項與新台幣售價,說明統一記憶體為什麼適合跑本機模型,並照 Ollama 與 Open WebUI 官方文件寫出 macOS 安裝、常駐與開放到區網的做法與風險,以及 Apple 官網有的耗電數字。
- AI 工具
- 3C 裝置
- AI 寫程式與本機模型

生活分享
為 AI 選顯示卡:顯示記憶體優先與預算配置
為 AI 選顯卡(顯卡 AI 怎麼挑)的判斷順序:顯示記憶體容量第一、再看官方支援清單、最後才是頻寬與世代。用 Ollama 硬體支援頁與上下文分級、llama.cpp 的後端清單,加上 NVIDIA、AMD 與 Apple 官方規格頁的容量與頻寬,說明桌機、筆電與 Apple Silicon 的取捨,以及電源、機殼與二手卡要先確認什麼。不寫通路價格。
- AI 工具
- 3C 裝置
- AI 寫程式與本機模型

生活分享
LM Studio 入門:圖形介面跑本機模型
LM Studio 是一套桌面軟體,不用打指令就能在自己的電腦下載並執行開放權重模型。本文照官方文件整理系統需求、在 Discover 分頁搜尋與下載 GGUF 或 MLX 模型、對話時的上下文視窗與 GPU offload 設定、把本機伺服器開在埠 1234 的 OpenAI 相容端點,以及使用條款對個人與內部商業用途的說法。
- AI 工具
- 教學
- AI 寫程式與本機模型

生活分享
Llama 模型家族:授權與版本
Meta 的 Llama 是可以下載權重、在自己電腦上執行的模型家族,授權卻不是 OSI 認可的開源。這篇照 2026 年 9 月 14 日的官方頁面整理:官網現在列出的版本與日期、各版本的參數與上下文視窗、Llama 4 社群授權的逐條要點(700 million 月活躍使用者門檻、Built with Llama 標示、命名規定與使用政策),從官網申請、Hugging Face 受管制倉庫到 Ollama 三條下載路線,以及 Llama 和 Meta 目前主力的 Muse 系列是什麼關係。
- AI 工具
- AI 寫程式與本機模型

生活分享
Hugging Face 入門:找模型、看授權、下載
Hugging Face 是開放模型最集中的地方。這篇從註冊與建立存取權杖開始,帶你讀懂模型頁的模型卡、Files and versions 與授權標籤,用篩選欄找到 GGUF 或特定授權的檔案,處理需要先同意條款的 gated 模型,再用 hf 指令與三行 Python 把權重下載到自己的電腦,並說明快取位置、Spaces 與官網當天的方案月費。
- AI 工具
- 教學
- AI 寫程式與本機模型

生活分享
OpenAI 的開放權重模型 gpt-oss:怎麼跑、和 ChatGPT 差在哪
gpt-oss 有 120b 與 20b 兩個版本,授權 Apache 2.0,官方寫 120b 要單張 80GB GPU、20b 要 16GB 記憶體,上下文視窗 128k。這篇照 OpenAI 公告、Hugging Face 模型卡與 Ollama 文件,整理版本與規格、能在哪些軟體跑、推理力道與 harmony 怎麼設定,以及和 ChatGPT 的差別與授權允許的事。
- AI 工具
- AI 寫程式與本機模型

生活分享
GGUF 量化怎麼選:Q4_K_M、Q8_0、F16 的檔名、檔案大小與記憶體
GGUF 檔名裡的 Q4_K_M、Q8_0、F16 是量化類型,決定檔案多大、要多少記憶體。這篇照 llama.cpp 與 ggml 官方文件講 GGUF 格式與命名規則、各類型的每權重位元數,用官方對照表(Llama 3.1 8B 從 14.96 GiB 到 4.58 GiB)與 Ollama、Hugging Face 上同一個模型的不同量化大小說明怎麼選,並附官方的轉檔與量化指令。
- AI 工具
- 教學
- AI 寫程式與本機模型

生活分享
Gemma:Google 的開源模型怎麼用
Gemma 是 Google DeepMind 釋出、權重可以下載回自己電腦跑的模型家族。這篇照 2026 年 9 月 14 日的官方頁面整理 Gemma 4 的五種尺寸與 128K/256K 上下文視窗、Gemma 3 與 3n 的規模,並說明授權為什麼要分版本看:Gemma 4 是 OSI 核可的 Apache 2.0,Gemma 3/3n 仍是 Gemma Terms of Use 加禁止用途政策,並附 Ollama 的拉取指令。
- AI 工具
- AI 寫程式與本機模型

生活分享
在自己電腦跑 DeepSeek:Ollama 蒸餾版教學
Ollama 官網目前列出 deepseek-r1 的 1.5b、7b、8b、14b、32b、70b 與 671b 七個標籤,下載大小從 1.1GB 到 404GB。這篇用官方文件帶你在 Windows 或 Mac 裝好 Ollama、拉一個蒸餾版開始對話,再接一次本機 11434 埠的 API 呼叫,並說清楚蒸餾與量化是什麼、蒸餾版和網頁版完整模型差在哪、MIT 授權實際允許什麼。
- AI 工具
- 教學
- AI 寫程式與本機模型