適用情境

想完全離線跑、或不想讓程式碼離開本機。ThinkRail 支援任何 OpenAI-compatible 伺服器：官方列舉 LiteLLM, sglang, vLLM, Ollama, LM Studio, llama.cpp。以 Ollama 為例。

步驟

1. 起伺服器——本機跑：

   ollama serve                      # 常駐；多數安裝預設已啟
   ollama pull qwen3-coder:30b       # 換成你要跑的模型

2. 加 Custom server——ThinkRail：Settings → Providers → Custom servers → 填 base URL（Ollama 預設 http://localhost:11434）。

3. Find models——點 Find models，掃出伺服器供給的模型，附 context 長度與能力。挑一個啟用。

4. 確認落地位置——選用的模型存進 pi 的 models.json（不是 ThinkRail 私有格式）。之後：

   • chat 的 model picker 出現它（每個 session 可自選——重活給它、雜事給雲端小模型，對話課）
   • 終端機 pi CLI 也看得到同一個模型——兩邊共用 ~/.pi

5. 成本歸零驗證——開個新 chat 選這個模型跑一輪，token 讀數照跳、成本不動（本地推理不過 ThinkRail 的帳——它本來也沒有帳）。

學到什麼

• ThinkRail keeps no accounts of its own 不只是隱私口號：模型層完全委託 pi 的 provider 設定，替換/擴充不留私貨
• models.json 是 pi 生態的單一事實來源—— ThinkRail、pi CLI、其他宿主全部對齊