@atomic_chat_hq

Выпуск

2 твитов

Аккаунт рассказал о производительности открытого движка DeepInfer для запуска DeepSeek V4.1 Flash: 325 токенов/с для одного чата и около 1,7 млн токенов/с на 64 GPU Nvidia Blackwell. Также представлена локальная uncensored-версия модели в формате GGUF, у которой доля отказов снизилась с 91,4% до 0%, а результат MMLU составил 86,6%.

Темы: DeepSeek V4.1 · DeepInfer · Локальный запуск · GGUF · Производительность · Uncensored-модели

Ключевые твиты