LM Studio

LM Studio 0.3.23

LM Studio

LM Studio для Windows — це інструмент для запуску локальних великих мовних моделей (LLM) без необхідності підключення до інтернету. Додаток дозволяє завантажувати, налаштовувати та використовувати популярні моделі ШІ, як-от Gemma, Qwen, DeepSeek, у знайомому чат-інтерфейсі. Він підтримує роботу як локальний сервер із сумісністю OpenAI API, що дозволяє легко інтегрувати його в різні робочі процеси. Програма підходить як для ентузіастів, так і для розробників, які хочуть експериментувати з ШІ локально, без залежності від хмари.

Інтерфейс LM Studio простий у використанні, із вкладками для пошуку моделей, керування завантаженнями та перегляду продуктивності в режимі реального часу. На Windows додаток працює стабільно, підтримує GPU-інференцію, показує технічні метрики після кожної відповіді моделі, а також дозволяє гнучко керувати налаштуваннями для досягнення максимальної ефективності.

Основні особливості та переваги

  • Запуск LLM офлайн на ПК
  • Інтеграція з Hugging Face для завантаження моделей
  • Візуальний чат-інтерфейс із підтримкою кількох моделей
  • Локальний API-сервер, сумісний з OpenAI
  • Інструменти керування конфігураціями моделей
  • Показник продуктивності (швидкість, токени, затримка)
  • Підтримка CUDA для прискорення на GPU
  • Зручна організація завантажень і моделей

Недоліки

  • Високе споживання ресурсів (CPU/GPU)
  • Необхідні базові технічні знання для використання
  • Завантаження великих моделей займає час та місце
  • Обмежена інтеграція з онлайн-сервісами

Зміни в останній версії

  • Покращено надійність виклику інструментів у чаті для openai/gpt-oss шляхом стандартизації назв інструментів у форматі snake_case
  • Контент із міркуваннями тепер перенесено з message.content до choices.message.reasoning (непотоковий режим) та choices.delta.reasoning (потоковий), як у o3-mini
  • Додано розширене налаштування для примусового розміщення ваг MoE на CPU для пристроїв з малою VRAM
  • Назви інструментів тепер нормалізуються для обробки пробілів і спеціальних символів
  • Покращено продуктивність на малопотужних пристроях
  • Додано можливість збереження індивідуальних налаштувань для кожної моделі
  • Виправлено помилку, через яку кнопка "Complete Download" не працювала при завантаженні рекомендованих моделей
  • Виправлено кнопку "Fix" для пакунків розширень
  • Виправлено помилку "Cannot read properties of undefined" при запитах до /v1/chat/completions з інструментами
  • Виправлено помилку EPERM при автооновленні Harmony
  • Виправлено помилку завантаження старих розмов
  • Виправлено збої виклику інструментів через API OpenAI у непотоковому режимі
  • Виправлено відсутність тегів у відповідях моделей
  • Виправлено "TypeError: Invalid Version" на пристроях з GPU AMD+NVIDIA
  • Виправлено помилки з відображенням імені чипа плагіна MCP і оновленням результатів пошуку при натисканні
Автор:
Офіційний сайт: lmstudio.ai
Оновлено:
Версія Windows: 7, 8, 10, 11
Мова інтерфейсу: English, Українська, Русский
Завантажити LM Studio для Windows

Коментарі

Бажаєте поділитися враженнями або поставити запитання?

Розпочніть обговорення, залишивши коментар зі своїми думками про LM Studio!

Схожі програми