Hvis du er på ICML og interessert i verifiserbar slutning, sørg for å stikke innom plakaten vår! Vi vil presentere TOPLOC, en effektiv aktiveringshashing-metode som fungerer på tvers av en rekke innstillinger, for eksempel å bytte inferensoppsett eller til og med modeller. 16. juli, 16:30, E-1106
Her er den originale tråden om TOPLOC som forklarer ideene bak den:
Prime Intellect
Prime Intellect29. jan. 2025
Today, we release TOPLOC: A Locality Sensitive Hashing Scheme for Verifiable Inference - Detects modifications to models, prompts, or precision - Robust across GPU types, tensor parallel configurations and attention kernels - Up to 100× faster validation than generation - Reduces memory overhead of proofs by 1000× Building the foundation for decentralized, verifiable compute protocols.
539