Tính song song chịu lỗi (theo kiểu SWARM/Petals) với nén, được mở rộng cho một phiên huấn luyện trước mở! Về mặt cá nhân, tôi thực sự vui mừng vì Hivemind hỗ trợ một vài phần của dự án này — cả cho các pipeline và cho tính song song dữ liệu mạnh mẽ.