Thành phố Cuồng loạn

Trong quá trình phát triển các dự án học sâu, một tình huống phổ biến là bạn khởi chạy một tác vụ huấn luyện, kỳ vọng mô hình sẽ hội tụ nhanh chóng, nhưng lại phát hiện tốc độ huấn luyện cực kỳ chậm. Khi kiểm tra bằng lệnh nvidia-smi trong terminal, bạn thấy tỷ lệ sử dụng GPU chỉ đạt 5%, bộ nhớ GPU còn trống nhiều, trong khi CPU lại hoạt động h ...