Många separata saker spelades ut över tid så att algoritmer tippade över till att bli kausala snarare än konsekvensrika Människor optimerar nu för algoritmen, vilket i sin tur slingrar på vad som matas in, vilket har vuxit till en negativ återkopplingsslinga bortom all räddning

De saker som låg till grund för [anledningen till att algoritmer hade] värde i sina slutsatser har helt minskat Ett mikrokosmos (inte-omfattande) exempel: Du brukade följa 100 personer du faktiskt känner. De följde alla de 100 personer de faktiskt känner. Ömsesidighet på andra graden var nödvändigtvis relevant för dig. vilket innebar att de som skulle följa algoritmer rekurserades på hög-inferensvärde för en dygdig cykel av deras efterföljande graf Detta gäller inte längre för någon ackumulering, eller där den i små avdrag också minskar oåterkalleligt (och redan förbi tipppunkten för dålig viktning) Vilket är ungefär likt Jeff Bezos-konversationen om metrikoptimering (ursprungligen finns det en *anledning*, en första principuppsättning, som du faktiskt optimerar för, och mätvärdena är en proxy för det. I slutändan blir mätvärdena osammanhängande, men är ändå optimerade för)

Algos var under ett mycket kort ögonblick återkopplingsslingor på (vad som nu verkar vara oavsiktliga) hög-inferensvärdesindata som orsakade en positiv cykel av deras egna handlingsutfall (och index däri, som sedan är en sammanvävd återkopplingsslinga) Data är bara så bra som vad som faktiskt kan härledas, och övermodellering och överindexering av uppmärksamhet snarare än kopplingsvektorer har förvandlat dem till onda cyklar bort från deras eget indatavärde

Detta kommer (har redan börjat hända) för AI, som också bara är en återkopplingsslinga på inmatningar. Men detta kommer att gå mycket snabbare