如果您在 ICML 並且對可驗證的推理感興趣,請務必查看我們的海報! 我們將介紹 TOPLOC,這是一種高效的激活哈希方法,適用於各種設置,例如切換推理設置甚至模型。 7 月 16 日下午 4:30,E-1106
這是關於TOPLOC的原始討論串,解釋了其背後的理念:
Prime Intellect
Prime Intellect2025年1月29日
Today, we release TOPLOC: A Locality Sensitive Hashing Scheme for Verifiable Inference - Detects modifications to models, prompts, or precision - Robust across GPU types, tensor parallel configurations and attention kernels - Up to 100× faster validation than generation - Reduces memory overhead of proofs by 1000× Building the foundation for decentralized, verifiable compute protocols.
522