← назад

GoogleDeepMind — 24-04-2026

3 твитов за сутки. Google DeepMind представили Decoupled DiLoCo — новую архитектуру для обучения моделей на распределённых вычислениях, демонстрирующую устойчивость к низким скоростям сети и возможность смешивания разных поколений чипов.

Decoupled DiLoCo — это новый метод обучения, обеспечивающий устойчивость и гибкость при тренировке продвинутых ИИ-моделей в нескольких дата-центрах tweet.

Глобальные вычисления — исследователи успешно обучили модель 12B @GoogleGemma в четырёх регионах США через сети с низкой пропускной способностью, а также доказали, что смешивание аппаратных поколений TPU6e и TPUv5p не замедляет процесс обучения tweet.

Будущее инфраструктуры — исследования направлены на создание среды, где обучение не ограничивается географией, ёмкостью или типом чипов, с подробными техническими деталями в статье tweet.

Источники

decoupled-diloco