Ollama і письмо офлайн

Ollama запускає завантажені моделі на вашому комп’ютері. Підключіть його до Oleafly, щоб користуватися локальним ШІ поруч із вашим рукописом. Підготуйте модель і залежності документа, поки є з’єднання, а потім перевірте робочий процес, який плануєте використовувати офлайн.

Встановлення і запуск Ollama

Встановіть Ollama з офіційної сторінки завантаження (відкривається в новій вкладці). Відкрийте Ollama або запустіть його локальний сервер із термінала:

ollama serve

Якщо Ollama уже працює, скористайтеся наявним сервером. Завантажте модель, яка підходить вашому комп’ютеру. Наприклад:

ollama pull qwen3:8b
ollama list

Перша команда завантажує модель; друга показує список локальних моделей. На швидкість впливають розмір моделі, доступна пам’ять і довжина контексту. Документація (відкривається в новій вкладці) Ollama описує підтримувані моделі та налаштування системи.

Перевірте Ollama

Налаштування → Асистент ШІ → Постачальники і ключі. Розгорніть Ollama (локальний) унизу списку постачальників, щоб перевірити сервер і вибрати модель. Відкрити повний знімок екрана

1. Відкрийте Налаштування → Асистент ШІ → Постачальники і ключі.
2. Розгорніть Ollama.
3. Виберіть Перевірити Ollama.
4. Ознайомтеся зі статусом і списком установлених моделей.

Якщо застосунок знайде встановлений, але зупинений Ollama, Запустити Ollama запускає його. Виберіть Перевірити ще раз після старту сервера або після завантаження ще однієї моделі.

Виберіть локальну модель

Виберіть модель зі виявленого списку і застосуйте її дією на картці. Відкрийте асистента та переконайтеся, що вибрано локальну модель, перш ніж надіслати повідомлення.

Спробуйте це з практичним документом:

Поясни структуру цього документа. Перелічи його розділи, не змінюючи жодних файлів.

Для редагування чи компіляції використовуйте модель, яка підтримує роботу з інструментами, потрібну Oleafly. Перевірте результат визначення можливостей моделі: модель, яка вміє спілкуватися, не обов’язково здатна виконати надійний робочий процес з інструментами.

Зміна хоста

Виберіть Змінити хост (додатково), щоб змінити адресу сервера Ollama. Звичайний локальний хост — http://127.0.0.1:11434. Використовуйте вбудовану картку Ollama з хостом сервера; суфікс /v1 стосується конфігурації кінцевої точки, сумісної з OpenAI.

Сервер, що працює на іншому комп’ютері, — це мережеве з’єднання. Використовуйте локальну петльову адресу, коли хочете, щоб обробка залишалася на цьому комп’ютері.

Скористайтеся натомість сумісним постачальником

Для власного з’єднання, сумісного з OpenAI, використовуйте кінцеву точку Ollama http://localhost:11434/v1/. Ollama приймає обов’язкове поле ключа API клієнта сумісності, не вважаючи його хмарними обліковими даними. Див. підручник із сумісності Ollama (відкривається в новій вкладці) і власні постачальники.

Підготуйте компіляцію до офлайн-роботи

Відкрийте документ і успішно скомпілюйте його, поки є з’єднання. Tectonic за потреби завантажує відсутні пакунки TeX і кешує їх, а Typst робить те саме для пакетів з Typst Universe. Потім увімкніть Налаштування → Загальні → Режим офлайн і скомпілюйте ще раз, щоб переконатися, що кешу достатньо. Режим офлайн охоплює LaTeX і Typst.

Проєкт Typst також може зберігати власні пакети. Відкрийте Пакети Typst з панелі інструментів Typst і виберіть Скопіювати пакети в проєкт. Oleafly копіює пакети, які імпортує проєкт, у папку typst-packages, тож проєкт компілюється офлайн і на інших комп’ютерах.

Для системного рушія TeX встановіть потрібний дистрибутив і пакети перед відключенням. Тримайте зображення, файли бібліографії, включені розділи та потрібні шрифти доступними локально.

Перевірка без мережевого з’єднання

1. Відкрийте проєкт, яким користуватиметеся.
2. Переконайтеся, що Ollama працює і вибрано завантажену модель.
3. Відключіться від мережі.
4. Скомпілюйте документ.
5. Попросіть локальну модель пояснити абзац.
6. Виконайте конкретне редагування чи робочий процес з інструментами, який вам потрібен, і перевірте результат.

Письмо, локальні файли, кешована компіляція та запити до локальної моделі працюють і далі. Онлайн-пошук джерел, синхронізація GitHub, хмарні моделі й мережеві служби MCP потребують власних з’єднань. Режим офлайн в Oleafly керує кешованою компіляцією і пошуком цитат; він не є мережевим фаєрволом для всієї системи.

Відключення Ollama

Скористайтеся Відключити на картці постачальника, щоб вилучити збережене в Oleafly з’єднання. Це не видаляє моделі, установлені в Ollama.

Усунення несправностей

Не запущено

Запустіть Ollama, перевірте хост і порт, потім натисніть «Перевірити ще раз». Якщо сервер повідомляє, що його порт уже зайнятий, огляньте наявний екземпляр, перш ніж запускати інший.

Немає установлених моделей

Виконайте ollama list. Завантажте модель, дочекайтеся завершення завантаження і натисніть «Перевірити ще раз» в Oleafly.

Модель відповідає, але не використовує інструменти

Перевірте її стан можливостей і спробуйте модель із підтримкою інструментів. Почніть з невеликого запиту, який читає проєкт, перш ніж просити довгу послідовність редагування та компіляції.

Відповідь не стосується питання

Ймовірно, контекст моделі замалий. Інструкції проєкту та інструменти Oleafly займають місце перед вашим повідомленням, і контексту на 4,096 токенів може не вистачити навіть для короткого запиту. Запустіть сервер Ollama щонайменше з 16,384 токенів контексту, наприклад:

OLLAMA_CONTEXT_LENGTH=16384 ollama serve

У Windows PowerShell виконайте $env:OLLAMA_CONTEXT_LENGTH = "16384", а потім ollama serve. Спершу закрийте будь-який запущений Ollama. Цей параметр належить серверу Ollama, а не Oleafly. Довші розмови та більші проєкти потребують більшого контексту, а більший контекст використовує більше пам’яті. Подробиці — в підручнику про довжину контексту Ollama (відкривається в новій вкладці).

Локальна відповідь повільна

Спробуйте меншу модель або коротший, конкретніший запит. Долучіть відповідний файл чи розділ, а не просіть одразу рецензувати всю дисертацію.