LM Studio для Windows — це інструмент для запуску локальних великих мовних моделей (LLM) без необхідності підключення до інтернету. Додаток дозволяє завантажувати, налаштовувати та використовувати популярні моделі ШІ, як-от Gemma, Qwen, DeepSeek, у знайомому чат-інтерфейсі. Він підтримує роботу як локальний сервер із сумісністю OpenAI API, що дозволяє легко інтегрувати його в різні робочі процеси. Програма підходить як для ентузіастів, так і для розробників, які хочуть експериментувати з ШІ локально, без залежності від хмари.
Інтерфейс LM Studio простий у використанні, із вкладками для пошуку моделей, керування завантаженнями та перегляду продуктивності в режимі реального часу. На Windows додаток працює стабільно, підтримує GPU-інференцію, показує технічні метрики після кожної відповіді моделі, а також дозволяє гнучко керувати налаштуваннями для досягнення максимальної ефективності.
Основні особливості та переваги
Запуск LLM офлайн на ПК
Інтеграція з Hugging Face для завантаження моделей
Візуальний чат-інтерфейс із підтримкою кількох моделей
Локальний API-сервер, сумісний з OpenAI
Інструменти керування конфігураціями моделей
Показник продуктивності (швидкість, токени, затримка)
Підтримка CUDA для прискорення на GPU
Зручна організація завантажень і моделей
Недоліки
Високе споживання ресурсів (CPU/GPU)
Необхідні базові технічні знання для використання
Завантаження великих моделей займає час та місце
Обмежена інтеграція з онлайн-сервісами
Зміни в останній версії
Покращено надійність виклику інструментів у чаті для openai/gpt-oss шляхом стандартизації назв інструментів у форматі snake_case
Контент із міркуваннями тепер перенесено з message.content до choices.message.reasoning (непотоковий режим) та choices.delta.reasoning (потоковий), як у o3-mini
Додано розширене налаштування для примусового розміщення ваг MoE на CPU для пристроїв з малою VRAM
Назви інструментів тепер нормалізуються для обробки пробілів і спеціальних символів
Покращено продуктивність на малопотужних пристроях
Додано можливість збереження індивідуальних налаштувань для кожної моделі
Виправлено помилку, через яку кнопка "Complete Download" не працювала при завантаженні рекомендованих моделей
Виправлено кнопку "Fix" для пакунків розширень
Виправлено помилку "Cannot read properties of undefined" при запитах до /v1/chat/completions з інструментами
Виправлено помилку EPERM при автооновленні Harmony
Виправлено помилку завантаження старих розмов
Виправлено збої виклику інструментів через API OpenAI у непотоковому режимі
Виправлено відсутність тегів у відповідях моделей
Виправлено "TypeError: Invalid Version" на пристроях з GPU AMD+NVIDIA
Виправлено помилки з відображенням імені чипа плагіна MCP і оновленням результатів пошуку при натисканні
Бажаєте поділитися враженнями або поставити запитання?
Розпочніть обговорення, залишивши коментар зі своїми думками про LM Studio!