Wenn Sie bei ICML sind und an überprüfbaren Schlussfolgerungen interessiert sind, sollten Sie unbedingt bei unserem Poster vorbeischauen! Wir stellen TOPLOC vor, eine effiziente Aktivierungs-Hashing-Methode, die in einer Vielzahl von Einstellungen funktioniert, z. B. beim Wechseln von Inferenz-Setups oder sogar Modellen. 16. Juli, 16:30 Uhr, E-1106
Hier ist der ursprüngliche Thread über TOPLOC, der die Ideen dahinter erklärt:
Prime Intellect
Prime Intellect29. Jan. 2025
Heute veröffentlichen wir TOPLOC: A Locality Sensitive Hashing Scheme for Verifiable Inference - Erkennt Änderungen an Modellen, Eingabeaufforderungen oder Genauigkeit - Robust über GPU-Typen, Tensor-Parallelkonfigurationen und Attention-Kernel hinweg - Bis zu 100× schnellere Validierung als Generierung - Reduziert den Speicheraufwand für Proofs um 1000 × Aufbau der Grundlage für dezentrale, überprüfbare Computing-Protokolle.
535