📢 EXCLUSIVA DE NEW DOOM DEBATES: ¡Una entrevista con Rob Miles (@robertskmiles), el educador de seguridad de IA más popular en YouTube! Sorprendentemente, Rob comenzó en 2011, mucho antes de que ChatGPT atrajera la atención general al campo. Hablamos de: 👉 Por qué su P(Doom) se encuentra entre el 10 y el 90%, dependiendo de cómo responda la humanidad al desafío 👉 Por qué incluso los sistemas de IA perfectamente alineados podrían no transmitir sus valores a los sistemas sucesores: un punto ciego masivo en el trabajo de seguridad actual 👉 El problema del "estado de ánimo perdido": por qué la gente discute la posible extinción humana con la urgencia emocional de una conferencia académica en lugar de tratarla como la emergencia que es 👉 Su escenario principal de fatalidad a través de la superación personal recursiva, y por qué hay un enorme margen por encima de la inteligencia humana 👉 Si los humanos son la "especie menos inteligente capaz de civilización tecnológica", y qué significa eso para lo que podrían lograr los sistemas más inteligentes 👉 Nuestro desacuerdo clave: Rob cree que las personas de seguridad deberían trabajar dentro de las empresas de IA para la reducción de daños, mientras que yo sostengo que esto permite el "lavado de manejabilidad" que legitima a las empresas fundamentalmente imprudentes 👉 Estrategia de comunicación: Rob se pregunta si a su enfoque británico mesurado le falta algo crucial, y tal vez alguien necesita estar "corriendo gritando" para transmitir la urgencia adecuada. Rob ha pasado más de una década tratando de despertar a la gente al desafío más importante de la humanidad. Nuestra conversación revela la tensión entre el análisis razonado y la emergencia existencial. ¡Muy recomendable!