Qwen2.5-Coder-7B-Instruct-AWQ-INT4

model: Оптимизированная 4-битная версия модели Qwen2.5-Coder от Alibaba для локального запуска.

Модель весит около 4 ГБ, что позволяет ей работать на потребительских видеокартах с небольшим объемом памяти. Она сохраняет высокую эффективность в задачах генерации и отладки кода благодаря квантованию AWQ.

Источник: @HuggingModels, 07-05-2026