@atomic_chat_hq

Выпуск

3 твитов

Аккаунт продвигал локальный запуск decision-моделей, сравнивая их скорость с OpenAI Decision API. Laya на M5 Max обрабатывала ссылки за 34 мс, а Liquid d1-3B на RTX 3090 принимала решения за 8 мс и заметно опередила облачный API в игре Snake. Также опубликованы GGUF-квантизации d1-3B и d1-omni-600M размером от 256 МБ до 5,4 ГБ.

Темы: Локальные модели · Decision-модели · Liquid d1 · GGUF-квантизация · Сравнение с OpenAI

Ключевые твиты