Muchas cosas distintas se desarrollaron con el tiempo, hasta que los algoritmos se inclinaron hacia la causa en lugar de las consecuencias Los humanos ahora optimizan para el algoritmo, que a su vez genera un bucle de retroalimentación sobre lo que se le entra, lo que se ha acumulado irremediablemente en un bucle de retroalimentación negativa

Las cosas que sustentaban [la razón por la que los algoritmos tenían] valor en sus inferencias han disminuido por completo Un ejemplo microcosmos (no abarca): solías seguir a 100 personas que realmente conoces. Todos siguieron a las 100 personas que realmente conocían. La mutualidad en segundo grado era necesariamente relevante para ti. Lo que significaba que quién seguir algoritmos recursaba en entradas de alto valor de inferencia para un ciclo virtuoso de su grafo resultante Esto ya no es cierto para ningún devengo, o cuando lo es, en pequeños detalles, también disminuye irreversiblemente (y ya está más allá del punto de inflexión de una mala ponderación) Lo cual es más o menos similar a la conversación de Jeff Bezos sobre la optimización de métricas (originalmente hay una *razón*, un conjunto de principios fundamentales para el que realmente estás optimizando, y las métricas son un proxy de eso. Al final, las métricas se desconectan, pero siguen optimizadas para)

Los algos, por un momento muy breve, fueron bucles de retroalimentación en entradas de alto valor de inferencia (que ahora parecen accidentales) que causaban un ciclo virtuoso de sus propios resultados de acción (y su índice en ellos, que a su vez es un bucle de retroalimentación entrelazado) Los datos solo son tan buenos como lo que realmente se puede inferir, y el sobremodelado y sobreindexación en atención en lugar de en vectores de conexión los ha reducido a ciclos viciosos alejándolos de su propio valor de entrada

Esto (ya ha empezado) a ocurrir en la IA, que también es solo un bucle de retroalimentación sobre las entradas. Pero esto ocurrirá mucho más rápido