@stalkermustang

Выпуск

2 твитов

Автор критикует бенчмарки производительности за отсутствие сравнений в наиболее практичной зоне ниже 50 TPS, характерной для основных нагрузок. Показатели на уровне 200–300 TPS и заявление NVIDIA о «крупнейшем скачке» он считает менее полезными для сообщества. Для Kimi ситуация выглядит приемлемее: крайние левые точки всех линий начинаются как минимум с 40 TPS.

Темы: LLM-бенчмарки · Производительность TPS · Практические нагрузки · NVIDIA · Kimi

Ключевые твиты