Si vous êtes à l’ICML et que vous vous intéressez à l’inférence vérifiable, assurez-vous de vous arrêter à notre affiche ! Nous présenterons TOPLOC, une méthode de hachage d’activation efficace qui fonctionne sur une variété de paramètres, par exemple en changeant de configuration d’inférence ou même de modèle. 16 juillet, 16 h 30, E-1106
Voici le fil original sur TOPLOC qui explique les idées derrière cela :
Prime Intellect
Prime Intellect29 janv. 2025
Today, we release TOPLOC: A Locality Sensitive Hashing Scheme for Verifiable Inference - Detects modifications to models, prompts, or precision - Robust across GPU types, tensor parallel configurations and attention kernels - Up to 100× faster validation than generation - Reduces memory overhead of proofs by 1000× Building the foundation for decentralized, verifiable compute protocols.
530