ICML にいて、検証可能な推論に興味がある場合は、ぜひポスターをご覧ください。 推論設定やモデルの切り替えなど、さまざまな設定で機能する効率的なアクティベーションハッシュ手法であるTOPLOCを紹介します。 7月16日、午後4時30分、E-1106
以下は、TOPLOCに関する元のスレッドで、その背後にある考え方を説明しています。
Prime Intellect
Prime Intellect2025年1月29日
本日、TOPLOC: A Locality Sensitive Hashing Scheme for Verifiable Inference をリリースします - モデル、プロンプト、または精度に対する変更を検出します - GPUタイプ、テンソル並列構成、アテンションカーネル全体で堅牢 - 生成よりも最大100×速い検証 - 証明のメモリオーバーヘッドを1000削減します× 分散型で検証可能なコンピューティングプロトコルの基盤を構築します。
1.76K