📢 EKSKLUSIVT NYE DOOM-DEBATTER: Et intervju med Rob Miles (@robertskmiles), den mest populære AI-sikkerhetspedagogen på YouTube! Utrolig nok fikk Rob sin start i 2011, lenge før ChatGPT brakte mainstream oppmerksomhet til feltet. Vi snakker om: 👉 Hvorfor hans P(Doom) ligger mellom 10-90 %, avhengig av hvordan menneskeheten reagerer på utfordringen 👉 Hvorfor selv perfekt justerte AI-systemer kanskje ikke overfører verdiene sine til etterfølgende systemer - en massiv blindsone i dagens sikkerhetsarbeid 👉 «Manglende humør»-problemet: hvorfor folk diskuterer potensiell menneskelig utryddelse med den emosjonelle presserende nødvendigheten av en akademisk konferanse i stedet for å behandle den som den nødsituasjonen den er 👉 Hans viktigste undergangsscenario gjennom rekursiv selvforbedring, og hvorfor det er enorm takhøyde over menneskelig intelligens 👉 Om mennesker er den "minst intelligente arten som er i stand til teknologisk sivilisasjon" - og hva det betyr for hva smartere systemer kan oppnå 👉 Vår viktigste uenighet: Rob mener sikkerhetsfolk bør jobbe i AI-selskaper for skadereduksjon, mens jeg hevder at dette muliggjør «traktabilitetsvasking» som legitimerer fundamentalt hensynsløse bedrifter 👉 Kommunikasjonsstrategi - Rob lurer på om hans avmålte britiske tilnærming mangler noe avgjørende, og kanskje noen må "løpe rundt og skrike" for å formidle passende hastverk Rob har brukt over et tiår på å prøve å vekke folk til menneskehetens viktigste utfordring. Samtalen vår avslører spenningen mellom begrunnet analyse og eksistensiell nødsituasjon. Sterkt anbefalt!