Якщо ви працюєте в ICML і зацікавлені в перевірених висновках, обов'язково завітайте до нашого плаката! Ми представимо TOPLOC, ефективний метод хешування активації, який працює в різних налаштуваннях, наприклад, при перемиканні налаштувань висновків або навіть моделях. 16 липня, 16:30, E-1106
Ось оригінальна тема про TOPLOC, яка пояснює ідеї, що стоять за ним:
Prime Intellect
Prime Intellect29 січ. 2025 р.
Today, we release TOPLOC: A Locality Sensitive Hashing Scheme for Verifiable Inference - Detects modifications to models, prompts, or precision - Robust across GPU types, tensor parallel configurations and attention kernels - Up to 100× faster validation than generation - Reduces memory overhead of proofs by 1000× Building the foundation for decentralized, verifiable compute protocols.
1,76K