如果您在 ICML 并且对可验证的推理感兴趣,请务必查看我们的海报! 我们将介绍 TOPLOC,这是一种高效的激活哈希方法,适用于各种设置,例如切换推理设置甚至模型。 7 月 16 日下午 4:30,E-1106
这是关于TOPLOC的原始讨论线程,解释了其背后的理念:
Prime Intellect
Prime Intellect2025年1月29日
Today, we release TOPLOC: A Locality Sensitive Hashing Scheme for Verifiable Inference - Detects modifications to models, prompts, or precision - Robust across GPU types, tensor parallel configurations and attention kernels - Up to 100× faster validation than generation - Reduces memory overhead of proofs by 1000× Building the foundation for decentralized, verifiable compute protocols.
514