跳到內容
Oleaflyv0.4.8

連接本機模型,並準備一套不需要網路連線也能使用的寫作工作流程。

Ollama 會在你的電腦上執行已下載的模型。把它連接到 Oleafly,就能在稿件旁邊使用本機 AI。請趁有網路連線時準備好模型和文件的相依項目,然後測試你打算離線使用的工作流程。

從 官方下載頁面 (在新分頁開啟) 安裝 Ollama。開啟 Ollama,或從終端機啟動它的本機伺服器:

終端機視窗
ollama serve

如果 Ollama 已經在執行,就使用現有的那個伺服器。下載一個適合你電腦的模型。例如:

終端機視窗
ollama pull qwen3:8b
ollama list

第一個指令會下載模型;第二個會列出本機的模型。模型大小、可用記憶體和上下文長度會影響速度。Ollama 的 文件 (在新分頁開啟) 說明了支援的模型和系統設定。

設定 → AI 助理 → 供應商與金鑰。展開供應商清單底部的 Ollama(本機),檢查伺服器並選擇模型。
設定 → AI 助理 → 供應商與金鑰。展開供應商清單底部的 Ollama(本機),檢查伺服器並選擇模型。 開啟完整螢幕截圖
  1. 開啟 設定 → AI 助理 → 供應商與金鑰。
  2. 展開 Ollama。
  3. 選擇 偵測 Ollama。
  4. 檢視狀態和已安裝模型的清單。

如果應用程式發現 Ollama 已安裝但已停止,啟動 Ollama 會啟動它。伺服器啟動後,或下載了另一個模型之後,請選擇 重新偵測。

從偵測到的清單中選一個模型,並用卡片上的動作套用它。開啟助理,並在傳送訊息之前,確認已選取本機模型。

用一份練習文件試試這個:

說明這份文件的結構。列出它的章節,但不要更動任何檔案。

如果要編輯或編譯,請使用支援 Oleafly 所需工具行為的模型。檢查模型的能力結果;能聊天的模型,並不一定能執行可靠的工具工作流程。

選擇 變更主機(進階) 來編輯 Ollama 伺服器的位址。一般的本機主機是 http://127.0.0.1:11434。內建的 Ollama 卡片請搭配伺服器主機使用;/v1 後綴屬於 OpenAI 相容端點的設定。

在另一台電腦上執行的伺服器屬於網路連線。如果你希望處理留在這台電腦上,請使用本機的 loopback 位址。

若要自訂 OpenAI 相容連線,請使用 Ollama 的端點 http://localhost:11434/v1/。Ollama 接受相容用戶端所需的 API 金鑰欄位,但不會把它當成雲端憑證。請參閱 Ollama 的相容性指南 (在新分頁開啟) 和 自訂供應商。

開啟文件,並在連線時成功編譯它。Tectonic 會視需要下載缺少的 TeX 套件並快取起來,Typst 對來自 Typst Universe 的套件也是如此。接著啟用 設定 → 一般 → 離線模式 並再編譯一次,以確認快取足夠。離線模式涵蓋 LaTeX 和 Typst。

Typst 專案也可以保存自己的套件。從 Typst 工具列開啟 Typst 套件,並選擇 將套件複製到專案。Oleafly 會把專案匯入的套件複製到 typst-packages 資料夾,這樣專案就能離線編譯,也能在其他電腦上編譯。

若使用系統 TeX 引擎,請在中斷連線之前安裝所需的發行版和套件。讓圖片、參考文獻檔案、引入的章節和需要的字型都在本機可用。

  1. 開啟你要使用的專案。
  2. 確認 Ollama 正在執行,且已選取下載的模型。
  3. 中斷網路連線。
  4. 編譯文件。
  5. 請本機模型說明一個段落。
  6. 試試你需要的特定編輯或工具工作流程,並檢視結果。

寫作、本機檔案、快取的編譯和本機模型的請求都可以繼續。線上的來源探索、GitHub 同步、雲端模型和網路 MCP 服務則需要各自的連線。Oleafly 的離線模式控制的是快取的編譯和引用查詢;它不是整個系統的網路防火牆。

使用供應商卡片上的 中斷連線,移除 Oleafly 已儲存的連線。這不會刪除 Ollama 中安裝的模型。

啟動 Ollama、確認主機和連接埠,然後重新偵測。如果伺服器回報它的連接埠已被使用,請在啟動另一個之前,先檢查現有的執行個體。

執行 ollama list。下載一個模型,等下載完成,然後在 Oleafly 中重新偵測。

檢查它的能力狀態,並試試支援工具的模型。先從讀取專案的小請求開始,再要求冗長的編輯與編譯序列。

可能是模型的上下文太小。Oleafly 的專案指示和工具會先佔去空間,才輪到你的訊息,而 4,096 個 token 的上下文,連簡短的請求都可能被截斷。請用至少 16,384 個 token 的上下文啟動 Ollama 伺服器,例如:

終端機視窗
OLLAMA_CONTEXT_LENGTH=16384 ollama serve

在 Windows PowerShell 中,請執行 $env:OLLAMA_CONTEXT_LENGTH = "16384",然後執行 ollama serve。請先結束任何正在執行的 Ollama。這項設定屬於 Ollama 伺服器,而不是 Oleafly。較長的對話和較大的專案需要更多上下文,而更多上下文會使用更多記憶體。詳情請見 Ollama 的 上下文長度指南 (在新分頁開啟)。

試試較小的模型,或較短、較集中的請求。請附上相關的檔案或章節,而不是一次要求審閱整份學位論文。

圖片預覽

無法載入 AI 回答

請再試一次,或搜尋文件。