# Ollama і письмо офлайн

Підключіть локальну модель і підготуйте робочий процес письма, яким можна користуватися без з'єднання з мережею.

Ollama запускає завантажені моделі на вашому комп'ютері. Підключіть його до Oleafly, щоб користуватися локальним ШІ поруч із вашим рукописом. Підготуйте модель і залежності документа, поки є з'єднання, а потім перевірте робочий процес, який плануєте використовувати офлайн.

## Встановлення і запуск Ollama

Встановіть Ollama з [офіційної сторінки завантаження](https://ollama.com/download). Відкрийте Ollama або запустіть його локальний сервер із термінала:

```sh
ollama serve
```

Якщо Ollama уже працює, скористайтеся наявним сервером. Завантажте модель, яка підходить вашому комп'ютеру. Наприклад:

```sh
ollama pull qwen3:8b
ollama list
```

Перша команда завантажує модель; друга показує список локальних моделей. На швидкість впливають розмір моделі, доступна пам'ять і довжина контексту. [Документація](https://docs.ollama.com/) Ollama описує підтримувані моделі та налаштування системи.

## Перевірте Ollama

![Налаштування → Асистент ШІ → Постачальники і ключі. Розгорніть Ollama (локальний) унизу списку постачальників, щоб перевірити сервер і вибрати модель.](https://cdn.oleafly.com/images/screenshots/desktop/docs/settings-providers-dark-window-v2.png#view=519,89,883,902)

1. Відкрийте **Налаштування → Асистент ШІ → Постачальники і ключі**.
2. Розгорніть **Ollama**.
3. Виберіть **Перевірити Ollama**.
4. Ознайомтеся зі статусом і списком установлених моделей.

Якщо застосунок знайде встановлений, але зупинений Ollama, **Запустити Ollama** запускає його. Виберіть **Перевірити ще раз** після старту сервера або після завантаження ще однієї моделі.

## Виберіть локальну модель

Виберіть модель зі виявленого списку і застосуйте її дією на картці. Відкрийте асистента та переконайтеся, що вибрано локальну модель, перш ніж надіслати повідомлення.

Спробуйте це з практичним документом:

> Поясни структуру цього документа. Перелічи його розділи, не змінюючи жодних файлів.

Для редагування чи компіляції використовуйте модель, яка підтримує роботу з інструментами, потрібну Oleafly. Перевірте результат визначення можливостей моделі: модель, яка вміє спілкуватися, не обов'язково здатна виконати надійний робочий процес з інструментами.

## Зміна хоста

Виберіть **Змінити хост (додатково)**, щоб змінити адресу сервера Ollama. Звичайний локальний хост — `http://127.0.0.1:11434`. Використовуйте вбудовану картку Ollama з хостом сервера; суфікс `/v1` стосується конфігурації кінцевої точки, сумісної з OpenAI.

Сервер, що працює на іншому комп'ютері, — це мережеве з'єднання. Використовуйте локальну петльову адресу, коли хочете, щоб обробка залишалася на цьому комп'ютері.

## Скористайтеся натомість сумісним постачальником

Для власного з'єднання, сумісного з OpenAI, використовуйте кінцеву точку Ollama `http://localhost:11434/v1/`. Ollama приймає обов'язкове поле ключа API клієнта сумісності, не вважаючи його хмарними обліковими даними. Див. [підручник із сумісності Ollama](https://docs.ollama.com/api/openai-compatibility) і [власні постачальники](/docs/ai-setup/#add-a-custom-endpoint).

## Підготуйте компіляцію до офлайн-роботи

Відкрийте документ і успішно скомпілюйте його, поки є з'єднання. Tectonic за потреби завантажує відсутні пакунки TeX і кешує їх, а Typst робить те саме для пакетів з Typst Universe. Потім увімкніть **Налаштування → Загальні → Режим офлайн** і скомпілюйте ще раз, щоб переконатися, що кешу достатньо. Режим офлайн охоплює LaTeX і Typst.

Проєкт Typst також може зберігати власні пакети. Відкрийте **Пакети Typst** з панелі інструментів Typst і виберіть **Скопіювати пакети в проєкт**. Oleafly копіює пакети, які імпортує проєкт, у папку `typst-packages`, тож проєкт компілюється офлайн і на інших комп'ютерах.

Для системного рушія TeX встановіть потрібний дистрибутив і пакети перед відключенням. Тримайте зображення, файли бібліографії, включені розділи та потрібні шрифти доступними локально.

## Перевірка без мережевого з'єднання

1. Відкрийте проєкт, яким користуватиметеся.
2. Переконайтеся, що Ollama працює і вибрано завантажену модель.
3. Відключіться від мережі.
4. Скомпілюйте документ.
5. Попросіть локальну модель пояснити абзац.
6. Виконайте конкретне редагування чи робочий процес з інструментами, який вам потрібен, і перевірте результат.

Письмо, локальні файли, кешована компіляція та запити до локальної моделі працюють і далі. Онлайн-пошук джерел, синхронізація GitHub, хмарні моделі й мережеві служби MCP потребують власних з'єднань. Режим офлайн в Oleafly керує кешованою компіляцією і пошуком цитат; він не є мережевим фаєрволом для всієї системи.

## Відключення Ollama

Скористайтеся **Відключити** на картці постачальника, щоб вилучити збережене в Oleafly з'єднання. Це не видаляє моделі, установлені в Ollama.

## Усунення несправностей

### Не запущено

Запустіть Ollama, перевірте хост і порт, потім натисніть «Перевірити ще раз». Якщо сервер повідомляє, що його порт уже зайнятий, огляньте наявний екземпляр, перш ніж запускати інший.

### Немає установлених моделей

Виконайте `ollama list`. Завантажте модель, дочекайтеся завершення завантаження і натисніть «Перевірити ще раз» в Oleafly.

### Модель відповідає, але не використовує інструменти

Перевірте її стан можливостей і спробуйте модель із підтримкою інструментів. Почніть з невеликого запиту, який читає проєкт, перш ніж просити довгу послідовність редагування та компіляції.

### Відповідь не стосується питання

Ймовірно, контекст моделі замалий. Інструкції проєкту та інструменти Oleafly займають місце перед вашим повідомленням, і контексту на 4,096 токенів може не вистачити навіть для короткого запиту. Запустіть сервер Ollama щонайменше з 16,384 токенів контексту, наприклад:

```sh
OLLAMA_CONTEXT_LENGTH=16384 ollama serve
```

У Windows PowerShell виконайте `$env:OLLAMA_CONTEXT_LENGTH = "16384"`, а потім `ollama serve`. Спершу закрийте будь-який запущений Ollama. Цей параметр належить серверу Ollama, а не Oleafly. Довші розмови та більші проєкти потребують більшого контексту, а більший контекст використовує більше пам'яті. Подробиці — в [підручнику про довжину контексту Ollama](https://docs.ollama.com/context-length).

### Локальна відповідь повільна

Спробуйте меншу модель або коротший, конкретніший запит. Долучіть відповідний файл чи розділ, а не просіть одразу рецензувати всю дисертацію.
