Andrew Ng heeft net onthuld waarom de AI-bedrijven die de meeste rekenkracht aan het probleem besteden, zullen verliezen. De winnaar van de intelligentierace zal niet de meeste rekenkracht gebruiken. Ze zullen de minste verspillen. Ng: “Het merendeel van je hoog-dimensionale data ligt op een lager-dimensionale subruimte. Het is gewoon een feit van het leven.” Hier is wat dat in de praktijk betekent. Je hebt een dataset van 10.000 dimensies. Elke dimensie wordt door elke berekening gesleept. Elke trainingscyclus sleept dode last mee die het model nooit zal gebruiken. Ng: “Je draagt deze 10.000-dimensionale voorbeelden de hele trainingsperiode met je mee.” Die bloat is niet alleen inefficiënt. Het is een belasting voor elke berekening die je uitvoert. Geheugenbandbreedte. Netwerkbandbreedte. Rekensnelheid. Al deze worden opgegeten door dimensies die niets bijdragen aan intelligentie. Ze dragen bij aan ruis. De inzicht dat de architecten scheidt van de wapenwedloop: die 10.000-dimensionale dataset wordt bijna volledig vastgelegd door een veel kleinere subruimte. Het signaal bevindt zich in een fractie van de ruimte waarvoor je betaalt om te verwerken. Comprimeer het. 10.000 dimensies terug naar 1.000. Ng: “Je kunt je leeralgoritme uitvoeren op een veel lager-dimensionale set data en het kan veel efficiënter zijn.” Zelfde hardware. Zelfde budget. Een fractie van de wrijving. Brute kracht is de strategie van degene met de diepste zakken. Compressie is de strategie van degene die het probleem daadwerkelijk begrijpt. De bedrijven die dit beheersen, bouwen niet alleen snellere modellen. Ze bouwen modellen die meer waarheid vinden in minder data dan wat dan ook dat blind opschaalt ooit zal doen. Intelligentie ging nooit om het verwerken van alles. Het gaat erom te weten wat je moet wegsnijden.

Dr. Fei-Fei Li heeft zojuist het grootste blinde vlek in de hele AI-industrie aangekaart. We hebben de helft van de menselijke intelligentie opgebouwd. En dat de finishlijn genoemd. Li: “Als je naar menselijke intelligentie kijkt, komt het eigenlijk neer op twee categorieën.” De eerste categorie is taal. Symbolisch redeneren. Communicatie. Het vermogen om in woorden en abstracties te denken. Dat is waar elk groot AI-laboratorium het afgelopen decennium aan heeft gewerkt. De tweede categorie is degene die de industrie bijna volledig heeft genegeerd. Li: “We noemen dat in AI ruimtelijke intelligentie.” Hoe mensen en dieren de driedimensionale fysieke wereld waarnemen, navigeren en ermee omgaan. Hoe we naar objecten reiken. Hoe we door de ruimte bewegen. Hoe we de fysieke realiteit bouwen en manipuleren. Van het schilderen van meesterwerken tot het bouwen van de piramides, non-verbale ruimtelijke intelligentie is wat de wereld daadwerkelijk vormt. Taal beschrijft de realiteit. Ruimtelijke intelligentie handelt erop. En de kloof tussen die twee dingen is de kloof tussen een chatbot en een robot. Li: “Wanneer deze technologie klaar is, zal de robotrevolutie beginnen. We zien die trend al.” Elke robot is een bewegende agent. Elke bewegende agent heeft ruimtelijke intelligentie nodig om in de echte wereld te functioneren. De humanoïde robots die momenteel in fabrieken worden ingezet, bereiken de grenzen van wat taalmodellen alleen kunnen aandrijven. Ruimtelijke intelligentie is de sleutel. Maar Li stopte niet bij robotica. Li: “Vanuit geopolitiek oogpunt is dit een deel van de technologie die rechtstreeks in wapens gaat.” Autonome dronezwermen. Navigatie op het slagveld. Fysieke doelwitten verwerven zonder menselijke supervisie. Elke militaire toepassing van AI die in de echte wereld opereert, draait op ruimtelijke intelligentie. De natie die de overgang van statische tekst naar dynamische driedimensionale waarneming beheerst, wint niet alleen de softwarewedstrijd. Het beheerst het fysieke slagveld. De AI-wapenwedloop is net uit het datacenter gebroken. Het opereert nu in drie dimensies.

Elon Musk heeft net gezegd dat de AI-gemeenschap de wiskunde van superintelligentie met twee ordes van grootte verkeerd begrijpt. Niet een beetje fout. Niet directioneel verkeerd. Honderd keer fout. Musk: “De meeste mensen in de AI-gemeenschap begrijpen het nog niet. Het potentieel voor intelligentiedichtheid is veel groter dan wat we momenteel ervaren.” Iedereen is gefocust op de hardware-race. Grotere datacenters. Meer GPU's. Kerncentrales gebouwd om de rekencapaciteit te voeden. Dat is de helft van de vergelijking. Musk: “Ik denk dat we er met twee ordes van grootte naast zitten als het gaat om intelligentiedichtheid per gigabyte. Dat is gewoon algoritmische verbetering. Dezelfde computer.” Lees dat zorgvuldig. Niet meer hardware. Niet meer energie. Niet meer kapitaal. Dezelfde machine. Honderd keer slimmer. Alleen door software. Dat is voordat de hardwareverbeteringen daarbovenop komen. Musk: “En de computers worden beter. Daarom denk ik dat het een verbetering van 10x per jaar is. 1.000 procent.” Een duizend procent samengestelde jaarlijkse groeivoet in ruwe intelligentie. Een systeem dat elke twaalf maanden 10x capabeler wordt, volgt geen lineaire curve. Het volgt geen exponentiële curve die menselijke intuïtie kan volgen. Het volgt een curve die menselijke intuïtie helemaal niet kan simuleren. In het eerste jaar is het 10x slimmer. In het tweede jaar is het 100x. In het derde jaar is het 1.000x. Op dat punt is de kloof tussen dat systeem en een menselijke hersenen breder dan de kloof tussen een menselijke hersenen en een rekenmachine. Dit is de wiskunde die het publiek niet doorrekent. De modellen worden niet alleen beter. Ze compounding op zichzelf met een snelheid die elke eerdere technologiecurve vlak doet lijken. Musk: “Het potentieel voor intelligentiedichtheid is veel groter dan wat we momenteel ervaren.” We naderen de superintelligentie niet op de tijdlijn die de meeste mensen zich voorstellen. We zijn al binnen de curve.