Si estás en ICML y estás interesado en la inferencia verificable, ¡asegúrate de pasar por nuestro póster! Presentaremos TOPLOC, un método de hash de activación eficiente que funciona en una variedad de configuraciones, por ejemplo, cambiar configuraciones de inferencia o incluso modelos. 16 de julio, 4:30pm, E-1106
Aquí está el hilo original sobre TOPLOC que explica las ideas detrás de él:
Prime Intellect
Prime Intellect29 ene 2025
Today, we release TOPLOC: A Locality Sensitive Hashing Scheme for Verifiable Inference - Detects modifications to models, prompts, or precision - Robust across GPU types, tensor parallel configurations and attention kernels - Up to 100× faster validation than generation - Reduces memory overhead of proofs by 1000× Building the foundation for decentralized, verifiable compute protocols.
515