Jeśli jesteś na ICML i jesteś zainteresowany weryfikowalnym wnioskowaniem, koniecznie zajrzyj do naszego plakatu! Przedstawimy TOPLOC, wydajną metodę haszowania aktywacji, która działa w różnych ustawieniach, np. podczas przełączania konfiguracji wnioskowania, a nawet modeli. 16 lipca, godz. 16:30, E-1106
Oto oryginalny wątek o TOPLOC, który wyjaśnia pomysły stojące za tym projektem:
Prime Intellect
Prime Intellect29 sty 2025
Dzisiaj publikujemy TOPLOC: A Locality Sensitive Hashing Scheme for Verifiable Inference - Wykrywa modyfikacje modeli, podpowiedzi lub precyzję - Niezawodność w różnych typach procesorów graficznych, konfiguracjach równoległych tensorów i jądrach uwagi - Do 100× szybsza walidacja niż w przypadku generacji - Zmniejsza obciążenie pamięci wydruków próbnych o 1000× Tworzenie podstaw dla zdecentralizowanych, weryfikowalnych protokołów obliczeniowych.
1,78K