Ollama 0.30.0

Ollama — це десктопна програма для запуску великих мовних моделей ШІ без інтернету та зовнішніх серверів. Замість хмарної обробки всі дані залишаються на вашому комп’ютері, що забезпечує максимальну конфіденційність. Інтерфейс нагадує звичний чат — з можливістю вибору моделі зі списку, автоматичним її завантаженням та збереженням, а також історією запитів.

Програма підтримує базові налаштування: локацію збереження моделей, довжину контексту, інтеграцію з акаунтом Ollama та дозвіл на підключення інших застосунків. Для досвідчених користувачів доступна робота через командний рядок, що дає змогу завантажувати додаткові моделі. Ollama — зручне рішення для тих, хто хоче працювати з ШІ швидко, автономно і без зайвих ризиків для приватності.

Переваги Ollama

Повна автономність і конфіденційність
Простий та інтуїтивний інтерфейс
Автоматичне завантаження моделей
Підтримка як GUI, так і CLI
Безкоштовне використання

Встановлення програми

Щоб встановити Ollama, завантажте файл інсталятора завантажте інсталяційний файл. Після встановлення відкрийте додаток, авторизуйтесь у своєму обліковому записі (за потреби), оберіть модель зі списку, дочекайтеся її завантаження й починайте роботу.

Зміни в останній версії

Покращена сумісність та продуктивність за допомогою llama.cpp.
Покращено двигун MLX на Apple Silicon.
Підтримка більшого діапазону моделей, включаючи моделі на основі GGUF від Hugging Face.
Підтримка донавчених моделей.
Швидша продуктивність на обладнанні NVIDIA.
Виправлені помилки.