Wenn Sie bei ICML sind und an überprüfbaren Schlussfolgerungen interessiert sind, sollten Sie unbedingt bei unserem Poster vorbeischauen! Wir stellen TOPLOC vor, eine effiziente Aktivierungs-Hashing-Methode, die in einer Vielzahl von Einstellungen funktioniert, z. B. beim Wechseln von Inferenz-Setups oder sogar Modellen. 16. Juli, 16:30 Uhr, E-1106
Hier ist der ursprüngliche Thread über TOPLOC, der die Ideen dahinter erklärt:
Prime Intellect
Prime Intellect29. Jan. 2025
Today, we release TOPLOC: A Locality Sensitive Hashing Scheme for Verifiable Inference - Detects modifications to models, prompts, or precision - Robust across GPU types, tensor parallel configurations and attention kernels - Up to 100× faster validation than generation - Reduces memory overhead of proofs by 1000× Building the foundation for decentralized, verifiable compute protocols.
527