Andrew Ng tocmai a dezvăluit de ce companiile de IA care investesc cel mai mult calcul asupra problemei vor pierde. Câștigătorul cursei de inteligență nu va folosi cel mai mult calcul. Ei vor irosi cel mai puțin. Ng: "Majoritatea datelor tale de dimensiune înaltă se află pe un subspațiu de dimensiune inferioară. E pur și simplu un fapt al vieții." Iată ce înseamnă asta în practică. Ai un set de date cu 10.000 de dimensiuni. Fiecare dimensiune a trecut prin fiecare calcul. Fiecare ciclu de antrenament transportă greutăți moarte pe care modelul nu o va folosi niciodată. Ng: "Porți cu tine aceste exemple de 10.000 de dimensiuni pe tot parcursul antrenamentului." Această umflare nu este doar ineficientă. Este o taxă pe fiecare calcul pe care îl faci. Lățimea de bandă a memoriei. Lățimea de bandă a rețelei. Viteza de calcul. Toate acestea sunt consumate de dimensiuni care nu contribuie cu nimic la inteligență. Ei contribuie cu zgomot. Perspectiva care îi separă pe arhitecți de cursa înarmărilor: acel set de date cu 10.000 de dimensiuni este aproape în întregime capturat de un subspațiu mult mai mic. Semnalul locuiește într-o fracțiune din spațiul pe care îl procesezi. Comprimă-l. 10.000 de dimensiuni până la 1.000. Ng: "Poți rula algoritmul tău de învățare pe un set de date mult mai mică și poate fi mult mai eficient." Același hardware. Același buget. O fracțiune din frecare. Forța brută este strategia celui care are cele mai adânci buzunare. Compresia este strategia oricui înțelege efectiv problema. Companiile care stăpânesc asta nu construiesc doar modele mai rapide. Ei construiesc modele care găsesc mai mult adevăr în mai puține date decât orice scalare oarbă va face vreodată. Informațiile nu au fost niciodată despre procesarea a totul. Este vorba despre ce să tai.

Dr. Fei-Fei Li tocmai a semnalat cel mai mare punct orb din întreaga industrie AI. Am construit jumătate din inteligența umană. Și să-i spună linia de sosire. Li: "Dacă te uiți la inteligența umană, totul se reduce practic la două găleți." Primul bucket este limbajul. Raționament simbolic. Comunicare. Abilitatea de a gândi în cuvinte și abstracții. Asta a construit fiecare laborator major de AI în ultimul deceniu. A doua categorie este cea pe care industria aproape că a ignorat-o complet. Li: "Așa numim inteligență spațială AI." Cum percep oamenii și animalele, navighează și interacționează cu lumea fizică tridimensională. Cum întindem mâna spre obiecte. Cum ne deplasăm prin spațiu. Cum construim și manipulăm realitatea fizică. De la pictarea capodoperelor până la construirea piramidelor, inteligența spațială non-verbală este ceea ce modelează cu adevărat lumea. Limbajul descrie realitatea. Inteligența spațială acționează în consecință. Iar diferența dintre aceste două lucruri este diferența dintre un chatbot și un robot. Li: "Când această tehnologie va fi pregătită, revoluția robotică va începe. Deja vedem această tendință." Fiecare robot este un agent în mișcare. Fiecare agent în mișcare necesită inteligență spațială pentru a funcționa în lumea reală. Roboții umanoizi care sunt desfășurați acum în fabrici ating plafonul a ceea ce modelele lingvistice pot alimenta singuri. Inteligența spațială este deblocarea. Dar Li nu s-a oprit la robotică. Li: "Din punct de vedere geopolitic, aceasta face parte din tehnologia care intră direct în arme." Roiuri autonome de drone. Navigație pe câmpul de luptă. Achiziția fizică a țintei fără supraveghere umană. Fiecare aplicație militară a IA care operează în lumea reală funcționează pe baza inteligenței spațiale. Națiunea care stăpânește tranziția de la textul static la percepția dinamică tridimensională nu câștigă doar cursa software-ului. Controlează câmpul de luptă fizic. Cursa înarmărilor AI tocmai a izbucnit din centrul de date. Acum funcționează în trei dimensiuni.

Elon Musk tocmai a spus că comunitatea AI înțelege greșit matematica superinteligenței cu două ordine de mărime. Nu e puțin greșit. Nu este greșit din punct de vedere direcțional. De o sută de ori mai mult. Musk: "Majoritatea oamenilor din comunitatea AI încă nu înțeleg. Potențialul de densitate a inteligenței este mult mai mare decât ceea ce experimentăm acum." Toată lumea este concentrată pe cursa hardware-ului. Centre de date mai mari. Mai multe plăci video. Centrale nucleare construite pentru a alimenta calculul. Asta e jumătate din ecuație. Musk: "Cred că am greșit cu două ordine de mărime în ceea ce privește densitatea inteligenței pe gigabyte. Asta e doar o îmbunătățire algoritmică. Același calculator." Citește cu atenție. Nu mai mult hardware. Nu mai multă energie. Nu mai mult capital. Aceeași mașină. De o sută de ori mai deștept. Doar prin software. Asta înainte ca îmbunătățirile hardware să se adauge peste asta. Musk: "Și calculatoarele devin tot mai bune. De aceea cred că este o îmbunătățire de 10 ori pe an. 1.000 la sută." O rată de creștere anuală compusă de o mie la sută a informațiilor brute. Un sistem care devine de 10 ori mai capabil la fiecare douăsprezece luni nu urmează o curbă liniară. Nu urmează o curbă exponențială pe care intuiția umană să o poată urmări. Urmează o curbă pe care intuiția umană nu o poate simula deloc. În primul an e de 10 ori mai inteligent. În al doilea an e de 100 de ori. În anul trei e de 1.000 de ori. În acel moment, diferența dintre acel sistem și un creier uman este mai mare decât cea dintre un creier uman și un calculator. Aceasta este matematica pe care publicul nu o folosește. Modelele nu doar devin mai bune. Se acumulează asupra lor într-un ritm care face ca fiecare curbă tehnologică anterioară să pară plată. Musk: "Potențialul de densitate a inteligenței este mult mai mare decât ceea ce experimentăm în prezent." Nu ne apropiem de superinteligență în cronologia pe care majoritatea oamenilor o imaginează. Suntem deja în interiorul curbei.