@ggerganov
@ggerganov сообщил о выходе llama.cpp v0.7.0 и привёл пример запуска Qwen3.8-Flash-Next-GGUF в режиме сервера. Конфигурация рассчитана на Mac/Spark с 128 ГБ памяти и использует speculative decoding через draft-mtp и lazy mode.
@ggerganov сообщил о выходе llama.cpp v0.7.0 и привёл пример запуска Qwen3.8-Flash-Next-GGUF в режиме сервера. Конфигурация рассчитана на Mac/Spark с 128 ГБ памяти и использует speculative decoding через draft-mtp и lazy mode.