# Ollama 與離線寫作

連接本機模型，並準備一套不需要網路連線也能使用的寫作工作流程。

Ollama 會在你的電腦上執行已下載的模型。把它連接到 Oleafly，就能在稿件旁邊使用本機 AI。請趁有網路連線時準備好模型和文件的相依項目，然後測試你打算離線使用的工作流程。

## 安裝並啟動 Ollama

從 [官方下載頁面](https://ollama.com/download) 安裝 Ollama。開啟 Ollama，或從終端機啟動它的本機伺服器：

```sh
ollama serve
```

如果 Ollama 已經在執行，就使用現有的那個伺服器。下載一個適合你電腦的模型。例如：

```sh
ollama pull qwen3:8b
ollama list
```

第一個指令會下載模型；第二個會列出本機的模型。模型大小、可用記憶體和上下文長度會影響速度。Ollama 的 [文件](https://docs.ollama.com/) 說明了支援的模型和系統設定。

## 偵測 Ollama

![設定 → AI 助理 → 供應商與金鑰。展開供應商清單底部的 Ollama（本機），檢查伺服器並選擇模型。](https://cdn.oleafly.com/images/screenshots/desktop/docs/settings-providers-dark-window-v2.png#view=519,89,883,902)

1. 開啟 **設定 → AI 助理 → 供應商與金鑰**。
2. 展開 **Ollama**。
3. 選擇 **偵測 Ollama**。
4. 檢視狀態和已安裝模型的清單。

如果應用程式發現 Ollama 已安裝但已停止，**啟動 Ollama** 會啟動它。伺服器啟動後，或下載了另一個模型之後，請選擇 **重新偵測**。

## 選擇本機模型

從偵測到的清單中選一個模型，並用卡片上的動作套用它。開啟助理，並在傳送訊息之前，確認已選取本機模型。

用一份練習文件試試這個：

> 說明這份文件的結構。列出它的章節，但不要更動任何檔案。

如果要編輯或編譯，請使用支援 Oleafly 所需工具行為的模型。檢查模型的能力結果；能聊天的模型，並不一定能執行可靠的工具工作流程。

## 變更主機

選擇 **變更主機（進階）** 來編輯 Ollama 伺服器的位址。一般的本機主機是 `http://127.0.0.1:11434`。內建的 Ollama 卡片請搭配伺服器主機使用；`/v1` 後綴屬於 OpenAI 相容端點的設定。

在另一台電腦上執行的伺服器屬於網路連線。如果你希望處理留在這台電腦上，請使用本機的 loopback 位址。

## 改用相容的供應商

若要自訂 OpenAI 相容連線，請使用 Ollama 的端點 `http://localhost:11434/v1/`。Ollama 接受相容用戶端所需的 API 金鑰欄位，但不會把它當成雲端憑證。請參閱 [Ollama 的相容性指南](https://docs.ollama.com/api/openai-compatibility) 和 [自訂供應商](/docs/ai-setup/#add-a-custom-endpoint)。

## 準備離線編譯

開啟文件，並在連線時成功編譯它。Tectonic 會視需要下載缺少的 TeX 套件並快取起來，Typst 對來自 Typst Universe 的套件也是如此。接著啟用 **設定 → 一般 → 離線模式** 並再編譯一次，以確認快取足夠。離線模式涵蓋 LaTeX 和 Typst。

Typst 專案也可以保存自己的套件。從 Typst 工具列開啟 **Typst 套件**，並選擇 **將套件複製到專案**。Oleafly 會把專案匯入的套件複製到 `typst-packages` 資料夾，這樣專案就能離線編譯，也能在其他電腦上編譯。

若使用系統 TeX 引擎，請在中斷連線之前安裝所需的發行版和套件。讓圖片、參考文獻檔案、引入的章節和需要的字型都在本機可用。

## 在沒有網路連線的情況下測試

1. 開啟你要使用的專案。
2. 確認 Ollama 正在執行，且已選取下載的模型。
3. 中斷網路連線。
4. 編譯文件。
5. 請本機模型說明一個段落。
6. 試試你需要的特定編輯或工具工作流程，並檢視結果。

寫作、本機檔案、快取的編譯和本機模型的請求都可以繼續。線上的來源探索、GitHub 同步、雲端模型和網路 MCP 服務則需要各自的連線。Oleafly 的離線模式控制的是快取的編譯和引用查詢；它不是整個系統的網路防火牆。

## 中斷 Ollama 的連線

使用供應商卡片上的 **中斷連線**，移除 Oleafly 已儲存的連線。這不會刪除 Ollama 中安裝的模型。

## 疑難排解

### 沒有執行

啟動 Ollama、確認主機和連接埠，然後重新偵測。如果伺服器回報它的連接埠已被使用，請在啟動另一個之前，先檢查現有的執行個體。

### 沒有已安裝的模型

執行 `ollama list`。下載一個模型，等下載完成，然後在 Oleafly 中重新偵測。

### 模型有回答，但沒有使用工具

檢查它的能力狀態，並試試支援工具的模型。先從讀取專案的小請求開始，再要求冗長的編輯與編譯序列。

### 回覆和問題毫無關係

可能是模型的上下文太小。Oleafly 的專案指示和工具會先佔去空間，才輪到你的訊息，而 4,096 個 token 的上下文，連簡短的請求都可能被截斷。請用至少 16,384 個 token 的上下文啟動 Ollama 伺服器，例如：

```sh
OLLAMA_CONTEXT_LENGTH=16384 ollama serve
```

在 Windows PowerShell 中，請執行 `$env:OLLAMA_CONTEXT_LENGTH = "16384"`，然後執行 `ollama serve`。請先結束任何正在執行的 Ollama。這項設定屬於 Ollama 伺服器，而不是 Oleafly。較長的對話和較大的專案需要更多上下文，而更多上下文會使用更多記憶體。詳情請見 Ollama 的 [上下文長度指南](https://docs.ollama.com/context-length)。

### 本機的回應很慢

試試較小的模型，或較短、較集中的請求。請附上相關的檔案或章節，而不是一次要求審閱整份學位論文。