Decoupled DiLoCo
AssessKỹ thuật
Kiến trúc huấn luyện phân tán ít giao tiếp, tách các cụm tính toán và truyền dữ liệu không đồng bộ.
Vì sao ở đây
Xếp vào Assess: 1 bài bằng chứng từ 1 nguồn, chủ yếu là tin nghiên cứu, 0 bài trong 30 ngày qua. Độ tin cậy 24%. Bằng chứng còn ít nên xếp thận trọng, chờ thêm tín hiệu.
Bằng chứng (1)
- 8Google DeepMind·22/4/2026researchGoogle DeepMind giới thiệu Decoupled DiLoCo cho huấn luyện AI phân tán bền bỉ
Google DeepMind công bố Decoupled DiLoCo, một kiến trúc huấn luyện phân tán tách các cụm tính toán thành nhiều “đảo” độc lập, hoạt động không đồng bộ và cần băng thông thấp hơn. Cách tiếp cận này nhằm duy trì quá trình huấn luyện khi xảy ra lỗi phần cứng hoặc gián đoạn trung tâm dữ liệu, đồng thời đạt hiệu năng tương đương phương pháp truyền thống trong các thử nghiệm với Gemma 4.