MLX

Библиотека от Apple для эффективного запуска LLM на устройствах Apple Silicon.

Позволяет выполнять инференс больших языковых моделей прямо на Mac, iPhone и iPad с использованием Metal. Оптимизирована для работы с памятью и обеспечивает высокую скорость вычислений без необходимости в облачных серверах.

Источник: @swyx, 12-05-2026