Pokud jste v ICML a máte zájem o ověřitelné dedukce, určitě se zastavte na našem plakátu! Představíme si TOPLOC, efektivní aktivační hashovací metodu, která funguje napříč různými nastaveními, např. přepínáním inferenčních nastavení nebo dokonce modelů. 16. července, 16:30, E-1106
Zde je původní vlákno o TOPLOC, které vysvětluje myšlenky, které za ním stojí:
Prime Intellect
Prime Intellect29. 1. 2025
Today, we release TOPLOC: A Locality Sensitive Hashing Scheme for Verifiable Inference - Detects modifications to models, prompts, or precision - Robust across GPU types, tensor parallel configurations and attention kernels - Up to 100× faster validation than generation - Reduces memory overhead of proofs by 1000× Building the foundation for decentralized, verifiable compute protocols.
1,76K