Portanto, sobre os limites da IA para o progresso autônomo Para contextualizar: alguns dias atrás, escrevi um prompt para um "NanoHVM" – uma versão brinquedo do meu runtime, com termos de 16 bits – e pedi para as IAs escreverem um avaliador. após alguns ciclos de colaboração entre humanos e IA, consegui uma implementação surpreendentemente rápida Infelizmente, o arquivo estava ficando muito grande e feio, então quis deixá-lo menor. Marquei uma sessão de codex/claude/gemini e pedi para eles "deixarem mais curto". O primeiro prompt funcionou, então continuei repetindo o mesmo pedido, várias vezes, por várias horas. eventualmente, a IA bateu em um muro. por mais que eu insistisse, eles não conseguiam encurtar além de certo limite. Quis entender o motivo, então li o arquivo. Para minha surpresa, claramente não era o ideal – muitas redundâncias e abstracções ruins – mas quase não mudava mais. Commit após commit, ainda incluía as mesmas técnicas, a mesma abordagem e as mesmas redundâncias. Houve apenas pequenos ajustes, mas nenhuma grande reescrita estava acontecendo, e isso era necessário para ganhos adicionais. então, pedi exatamente isso para a IA. "Faça uma reescrita completa desta vez" "Raciocinar sobre isso fundamentalmente" "Você é livre para mudar qualquer coisa" "Pare de fazer mudanças incrementais" "substituir X por uma abordagem totalmente nova" Ainda assim, isso era inútil. Esses pedidos genéricos não tiveram efeito algum. Horas depois, o arquivo ainda implementava a mesma abordagem. a IA ficou presa em um mínimo local e não conseguiu sair dele. então, desisti e decidi entrar. Tirei alguns minutos para pensar e escrevi um prompt curto - com cerca de 500 tokens - com instruções específicas. "substituir X por Y, fazer Z dessa forma". De alguma forma, esses ~3 parágrafos fizeram algo encaixar, eles se destravaram imediatamente, funcionaram por ~1h30m seguidos e voltaram com um arquivo quase duas vezes menor *e* 10% mais rápido. E era um arquivo realmente bonito e de alta qualidade então, acho que a lição é: IAs modernas não conseguem progredir de forma autônoma. Se você deixá-los trabalhando sem supervisão, eles vão ficar presos. Essa é uma limitação fundamental de como essas coisas funcionam, pelo menos por enquanto. Ainda assim, se, a cada poucas horas, você dedicar de 5 a 10 minutos para revisitá-los, entender onde estão e injetar um pouco de conhecimento humano – então eles vão continuar, fazendo uma quantidade enorme de trabalho e obtendo resultados incríveis, enquanto você passa o fim de semana jogando alguns jogos Fico me perguntando o que falta para que eles consigam sair do bloqueio sem minha intervenção. Parece que meu prompt não tinha nada de especial. todas as ideias sobre isso são conceitos que essas IAs conhecem, e parece que elas poderiam ter criado essas ideias sozinhas. Ainda assim, eles simplesmente não... Por quê? Enfim, pretendo abrir o código dessa coisa fofa ainda na próxima semana. Não é exatamente útil para a maioria de vocês, mas se por acaso vocês estavam procurando o motor de correspondência de padrões de 16 bits mais rápido do mundo, este arquivo pode ser exatamente o que vocês estavam procurando!

"Cuidado, essa é sua última edição" Sem problemas, tenho certeza que esse foi o último erro de digitação

Ah, merda