← назад

mtp-drafter

MTP drafter

Инструмент от Google для ускорения работы с открытой моделью Gemma 4. Использует технику推测解码 (speculative decoding) для повышения производительности.

Позволяет увеличить скорость генерации текста до 3 раз по сравнению со стандартным режимом. Подходит для разработчиков, оптимизирующих инференс легковесных LLM.

Источник: @dotey, 06-05-2026