Se sei all'ICML e sei interessato a inferenze verificabili, assicurati di fermarti al nostro poster! Presenteremo TOPLOC, un efficiente metodo di hashing di attivazione che funziona in una varietà di impostazioni, ad esempio cambiando le impostazioni di inferenza o persino i modelli. 16 luglio, 16:30, E-1106
Ecco il thread originale su TOPLOC che spiega le idee dietro di esso:
Prime Intellect
Prime Intellect29 gen 2025
Today, we release TOPLOC: A Locality Sensitive Hashing Scheme for Verifiable Inference - Detects modifications to models, prompts, or precision - Robust across GPU types, tensor parallel configurations and attention kernels - Up to 100× faster validation than generation - Reduces memory overhead of proofs by 1000× Building the foundation for decentralized, verifiable compute protocols.
518