Если вы работаете в ICML и заинтересованы в проверяемом выводе, обязательно загляните на наш плакат! Мы представим TOPLOC, эффективный метод хеширования активации, который работает в различных настройках, например, при переключении установок вывода или даже моделей. 16 июля, 16:30, E-1106
Вот оригинальная тема о TOPLOC, которая объясняет идеи, стоящие за ним:
Prime Intellect
Prime Intellect29 янв. 2025 г.
Today, we release TOPLOC: A Locality Sensitive Hashing Scheme for Verifiable Inference - Detects modifications to models, prompts, or precision - Robust across GPU types, tensor parallel configurations and attention kernels - Up to 100× faster validation than generation - Reduces memory overhead of proofs by 1000× Building the foundation for decentralized, verifiable compute protocols.
533