← назад

llama-swap

llama-swap

CLI-инструмент для локального запуска экспериментов с AI в связке с llama.cpp.

Позволяет быстро переключать модели и параметры инференса без перезапуска сервера. Удобно для разработчиков, тестирующих различные конфигурации LLM на локальном железе.

Источник: @roundtablespace, 18-05-2026