smolvm

smolvm — легковесная виртуальная машина от Hugging Face для запуска LLM.

Обновление добавило ускорение GPU через Vulkan, позволяя запускать llama.cpp с эффективностью до 90% от нативной производительности хоста. Инструмент оптимизирован для локального инференса моделей с минимальными накладными расходами.

Источник: @huggingface, 12-05-2026