
Decoupled DiLoCo
Библиотека от Google DeepMind для устойчивого обучения моделей в распределенных центрах данных.
Метод обеспечивает гибкость и стабильность при работе с разрозненными вычислительными ресурсами. Позволяет эффективно масштабировать процессы обучения без потери качества сходимости.
Источник: @GoogleDeepMind, 24-04-2026