NCCL M2N Reshard giúp tăng tốc làm mới trọng số từ 2,7 đến 5,7 lần trong thử nghiệm NeMo RL của NVIDIA

Các tác giả trên blog kỹ thuật NVIDIA phát hành mã nguồn mở NCCL M2N Reshard để tăng tốc refit (làm mới trọng số giữa GPU huấn luyện và suy luận). Bản triển khai này chỉ truyền lượng dữ liệu tối thiểu theo lý thuyết thay vì dùng phương pháp thu thập và phát quảng bá.
Theo nhóm tác giả, phương pháp truyền thống gây truyền thừa dữ liệu do GPU suy luận phải nhận toàn bộ tham số dù chỉ cần một phân mảnh. Khối lượng truyền thông này ước tính đạt khoảng 10 TB mỗi bước refit đối với các mô hình mở lớn nhất hiện nay.
Kỹ thuật Reshard đạt mức tăng tốc độ trễ refit (thời gian làm mới trọng số) từ 2,7 đến 5,7 lần so với phương pháp thông thường trong thử nghiệm chuẩn NeMo RL trên hệ thống NVIDIA DGX H100 và DGX GB200 cho các mô hình gồm Qwen 3 235B và DeepSeek v3 671B.
Nhóm tác giả cho biết sự đa dạng của các cấu hình phân tán trong thực tế khiến Reshard khó xử lý mọi trường hợp biên.