Nếu bạn đang ở ICML và quan tâm đến suy luận có thể kiểm chứng, hãy nhớ ghé qua áp phích của chúng tôi! Chúng tôi sẽ giới thiệu TOPLOC, một phương pháp băm kích hoạt hiệu quả hoạt động trên nhiều cài đặt khác nhau, ví dụ: chuyển đổi thiết lập suy luận hoặc thậm chí là mô hình. Ngày 16 tháng Bảy, 4:30 chiều, E-1106
Đây là chủ đề gốc về TOPLOC giải thích những ý tưởng đằng sau nó:
Prime Intellect
Prime Intellect29 thg 1, 2025
Today, we release TOPLOC: A Locality Sensitive Hashing Scheme for Verifiable Inference - Detects modifications to models, prompts, or precision - Robust across GPU types, tensor parallel configurations and attention kernels - Up to 100× faster validation than generation - Reduces memory overhead of proofs by 1000× Building the foundation for decentralized, verifiable compute protocols.
513