llama-server

CLI-инструмент для запуска LLM от команды llama.cpp.

Обновление включает поддержку модели Qwen2.5-27B-Instruct в формате GGUF. Позволяет развертывать высокопроизсительные модели через удобный интерфейс командной строки.

Источник: @ggerganov, 23-04-2026