Gjør deg klar for @robertskmiles...

Hvordan var idiokrati så nøyaktig

Det er en morsom ting der økonomiutdanning paradoksalt nok gjør folk dummere til å tenke på fremtidig AI. Econ-lærebøker lærer konsepter og rammer som er gode for det meste, men kontraproduktive for å tenke på AGI. Her er 4 eksempler. Langpost: DEN FØRSTE delen av Econs anti-pedagogikk gjemmer seg i ordene «arbeid» og «kapital». Disse ordene blander sammen en overfladisk forskjell (menneske av kjøtt og blod vs ikke) med en bunt uuttalte antagelser og intuisjoner, som alle vil bli ødelagt av kunstig generell intelligens (AGI). Med "AGI" mener jeg her "en bunt med brikker, algoritmer, elektrisitet og/eller fjernstyrte roboter som autonomt kan gjøre den typen ting som ambisiøse menneskelige voksne kan gjøre – grunnlegge og drive nye selskaper, FoU, lære nye ferdigheter, bruke vilkårlige fjernstyrte roboter etter svært lite øvelse, etc." Ja jeg vet, dette eksisterer ikke ennå! (Til tross for hype om det motsatte.) Prøv å be en LLM om å autonomt skrive en forretningsplan, grunnlegge et selskap, og deretter drive og utvide det i årevis som administrerende direktør. Lol! Det vil krasje og brenne! Men det er en begrensning for dagens LLM-er, ikke for "all AI for alltid". AI som kan klare den oppgaven, og mye mer utover, er åpenbart mulig – menneskelige hjerner og kropper og samfunn er ikke drevet av magisk trolldom for alltid utenfor vitenskapens rekkevidde. Jeg for min del forventer slik AI i min levetid, på godt og vondt. (Sannsynligvis "verre", se nedenfor.) Nå, er denne typen AGI «arbeid» eller «kapital»? Vel, det er ikke et menneske av kjøtt og blod. Men det er mer som «arbeid» enn «kapital» på mange andre måter: • Kapitalen kan ikke bare reise seg og gjøre ting av seg selv? AGI kan. • Nye teknologier tar lang tid å integrere seg i økonomien? Spør deg selv: hvordan klarer høyt kvalifiserte, erfarne og gründeraktige innvandrere å integrere seg i økonomien umiddelbart? Når du har svart på det spørsmålet, vær oppmerksom på at AGI også vil kunne gjøre disse tingene. • Kapitalen ligger uvirksom hvis det ikke er noen mennesker som er villige og i stand til å bruke den? Vel, disse innvandrermenneskene sitter ikke uvirksomme. Og det vil ikke AGI heller. • Kapitalen kan ikke gå inn for politiske rettigheter, eller starte kupp? Brønn... Uansett, folk ser sci-fi-robotfilmer, og de skjønner dette! Så tar de økonomikurs, og det gjør dem dummere. (Ja jeg vet, #NotAllEconomists osv.) DEN ANDRE delen av Econs antipedagogikk er å innpode en standardantagelse om at det er mulig for et marked å komme i likevekt. Men markedet for AGI kan ikke: AGI kombinerer en egenskap ved arbeidsmarkeder med en egenskap ved produktmarkeder, der disse egenskapene er gjensidig utelukkende. Disse egenskapene er: • (A) «INGEN KLUMP MED ARBEIDSKRAFT»: Hvis den menneskelige befolkningen går opp, faller lønningene på veldig kort sikt, fordi etterspørselskurven for arbeidskraft skråner nedover. Men på lengre sikt finner folk nye produktive ting å gjøre – etterspørselskurven beveger seg riktig. Om noe, går verdien av arbeid oppover, ikke ned, med befolkningen! F.eks. er tette byer vekstmotorer! • (B) «ERFARINGSKURVER»: Hvis etterspørselen etter et produkt øker, er det prisøkning på veldig kort sikt, fordi tilbudskurven skråner oppover. Men på lengre sikt øker folk produksjonen – tilbudskurven beveger seg riktig. Om noe, går prisen NED, ikke opp, med etterspørselen, takket være stordriftsfordeler og FoU. QUIZ: Med tanke på (A) og (B), hva er likevektsprisen på denne AGI-pakken (brikker, algoritmer, elektrisitet, fjernstyrte roboter, etc.)? … Triks spørsmål! Det er ingen likevekt. Våre to prinsipper, (A) «ingen klump arbeid» og (B) «erfaringskurver», gjør likevekt umulig: • Hvis prisen er lav, sier (A) at etterspørselskurven raser mot høyre – det er ingen klump arbeidskraft, derfor er det massiv fortjeneste å tjene på dyktige gründer-AGI-er som finner nye produktive ting å gjøre. • Hvis prisen er høy, sier (B) at tilbudskurven raser mot høyre – det er massiv fortjeneste å hente ved å øke produksjonen av AGI. • Hvis prisen er i mellom, så raser etterspørselskurven og tilbudskurven BEGGE til høyre! Dette er verken kapital eller arbeid slik vi kjenner det. I stedet for at markedet for AGI kommer i likevekt, danner det en positiv tilbakemeldingssløyfe / evighetsmaskin som eksploderer eksponentielt. Høres det absurd ut? Det er en presedens: mennesker! Menneskeverdenen, som helhet, er allerede en positiv tilbakemeldingssløyfe / evighetsmaskin av denne typen! Mennesker startet seg opp fra noen få tusen homininer til 8 milliarder mennesker som drev en økonomi på 80 milliarder dollar. Hvordan? Det er ikke bokstavelig talt en evighetsmaskin. Snarere er det en motor som trekker fra brønnen av "ennå ikke utnyttede økonomiske muligheter". Men husk «No Lump of Labor»: brønnen av ennå ikke utnyttede økonomiske muligheter er ~uendelig dyp. Vi har ikke gått tom for mulige selskaper å grunnlegge. Ingen har laget en Dyson-sverm ennå. Det er bare så mange mennesker som kan grunnlegge selskaper og utnytte nye muligheter. Men den positive tilbakemeldingssløyfen til AGI har ingen slik grense. Doblingstiden kan være kort: Se for deg en autonom fabrikk som kan bygge en identisk autonom fabrikk, som deretter bygger to til osv., ved å bruke bare allment tilgjengelige innsatsmaterialer og sollys. Lærebøker i økonomi snakker ikke om det. Men lærebøker i biologi gjør det! En cyanobakterie er en slik fabrikk, og kan doble seg på en dag (≈ googol prosent årlig vekstrate 😛 ). Uansett, vi vet ikke hvor eksplosiv den positive tilbakemeldingssløyfen til AGI som bygger AGI vil være, men jeg forventer at den vil være lysår utover noe i økonomisk historie. DEN TREDJE DELEN av Econs antipedagogikk er dens promotering av BNP-vekst som en proxy for fremgang og endring. Tvert imot er det mulig for verden å forvandle seg til et vilt sci-fi-land hinsides all anerkjennelse eller forståelse hver måned, måned etter måned, uten at «BNP-veksten» faktisk er så høy. BNP er en morsom beregning, og spesielt dårlig til å beskrive virkningen av transformative teknologiske revolusjoner. (For eksempel, hvis noe ny teknologi er billig, og i mellomtiden andre sektorer av økonomien forblir dyre på grunn av regulatoriske restriksjoner, kan det hende at den nye teknologien ikke påvirker BNP mye, uansett hvor mye den snur opp ned på verden.) Jeg mener, klart vi kan krangle om BNP, men vi bør ikke behandle det som en proxy-kamp om hvorvidt AGI vil være en stor sak eller ikke. Sist og viktigst, DEN FJERDE DELEN AV ECON-antipedagogikken er fokuset på «gjensidig fordelaktige handler» fremfor å «drepe folk og ta tingene deres». Econ 101 beviser at handel er egoistisk bedre enn isolasjon. Men noen ganger er det å «drepe folk og ta tingene deres» egoistisk best av alt. Når vi snakker om AGI, snakker vi om å skape en ny intelligent art på jorden, en som til slutt vil være raskere, smartere, bedre koordinert og mer tallrik enn mennesker. Normale mennesker, folk som har sett sci-fi-filmer om roboter og romvesener, folk som har lært historien om kolonialisme og slaveri, vil umiddelbart stille mange fornuftige spørsmål her. «Hva vil deres motiver være?» «Hvem vil ha den harde makten?» «Hvis de virker vennlige og samarbeidsvillige tidlig, kan de stikke oss i ryggen når de blir kraftigere?» Dette er utmerkede spørsmål! Vi bør definitivt stille disse spørsmålene! (FWIW, dette er mitt ekspertiseområde, og jeg er veldig pessimistisk.) … Og så tar de normale menneskene økonomitimer, og ender opp dummere. De slutter å stille disse spørsmålene. I stedet "lærer" de at AGI er "kapital", litt som en sprøytestøpemaskin. Sprøytestøpemaskiner ville ikke utslette mennesker og styre verden alene. Så vi har det bra. Lol.

.@paulg må være en fan av Ms. Rachel. De bruker begge det samme unnvikende trikset: å behandle de to nodene (israelsk handling)→(sivile tap) som hele årsakssammenhengen å uttale seg om. Spørsmål: Bør menneskelige skjold få lov til å fungere? Svar: Enhver ikke-stridendes liv er verdt det samme 🧘

AI-grunnmodellindustrien som passerer 25 milliarder dollar/år i inntekter innebærer at verdiskapingen fra sektoren har passert ~250 milliarder dollar/år

Hvorfor @VitalikButerin har en 12 % P(Doom)...

Du kan gi noen fra 2000 nakkesleng ved å vise dem den globale produksjonssuksesshistorien som er en moderne Target-vogn, og deretter forklare at vi nå forventes å bære alt det i poser laget av PAPIR

Hvis du respekterer @VitalikButerin og Vitalik respekterer @ESYudkowsky deretter av den transitive egenskapen ...

Vitaliks uke ✅ Gå på undergangsdebatter ✅ Bli med i tres kommaklubb

Doom-debatt med @VitalikButerin har falt: Vil "d/acc" beskytte menneskeheten mot superintelligent AI? Vitalik er både en hardcore teknooptimist og bygger, og en som er villig til å seriøst vurdere AI-regulering og koordineringsmekanismer. Han skapte begrepet "d/acc'" – defensiv, desentralisert akselerasjon – som en middelvei mellom ukritisk AI-akselerasjon og totale pausescenarier. Vi diskuterer smidigheten til AI-justering, om tilnærminger som d/acc faktisk vil fungere når superintelligens kommer, og hvorfor han tror en pluralistisk verden av konkurrerende AI-er kan være tryggere enn en enkelt justert superintelligens. Kjernen i vår uenighet er at jeg tror vi er på vei mot et «planter mot dyr»-scenario der AI ganske enkelt vil operere på tidsskalaer vi ikke kan matche, mens Vitalik mener vi kan opprettholde handlefrihet gjennom den rette kombinasjonen av defensive teknologier og institusjonell design. Til slutt tar vi for oss selve diskursen – jeg ber Vitalik om å avkrefte de vanlige ad hominem-angrepene mot AI-dommedagsprofeter, fra «det er bare en utkantposisjon» til «ingen virkelige byggherrer tror på undergang». Svarene hans veier tungt gitt hans troverdighet som både en vellykket gründer og en som har opprettholdt intellektuell ærlighet gjennom hele karrieren. Stor takk til Vitalik for en debatt i god tro!