deci despre limitele AI pentru progresul autonom Pentru context: acum câteva zile, am scris un prompt pentru un "NanoHVM" – o versiune de jucărie a runtime-ului meu, cu termeni pe 16 biți – și le-am cerut AI-urilor să scrie un evaluator. după câteva cicluri de colaborare om-AI, am obținut o implementare surprinzător de rapidă Din păcate, dosarul devenea foarte mare și urât, așa că am vrut să-l fac mai mic. Am organizat o sesiune codex/claude/gemini și le-am cerut să "o facă mai scurtă". Primul prompt a funcționat, așa că am repetat aceeași cerere, iar și iar, timp de câteva ore. în cele din urmă, AI-ul s-a lovit de un zid. oricât de mult aș fi întrebat, nu au putut să o scurteze peste un anumit prag. Am vrut să înțeleg de ce, așa că am citit dosarul. Spre surprinderea mea, era clar că nu era optim – o mulțime de redundanțe și abstracții proaste – totuși, abia dacă se mai schimba. Commit după commit, includea aceleași tehnici, aceeași abordare și aceleași redundanțe. Au existat doar mici ajustări, dar nu a avut loc nicio rescriere majoră, iar acest lucru era necesar pentru câștiguri suplimentare. așa că i-am cerut AI-ului să facă exact asta. "Fă o rescriere completă de data asta" "raționează fundamental despre asta" "Ești liber să schimbi orice" "Nu mai face schimbări incrementale" "înlocuiește X cu o abordare complet nouă" Totuși, asta era inutil. aceste cereri generice nu aveau niciun efect. Câteva ore mai târziu, fișierul încă implementa aceeași abordare. AI-ul era blocat într-un minim local și nu putea ieși din el. așa că am renunțat și am decis să mă alătur. Mi-am luat câteva minute să mă gândesc și am scris un prompt scurt - de aproximativ 500 de jetoane - cu instrucțiuni specifice. "înlocuiește X cu Y, fă Z în acest mod". Cumva, aceste ~3 paragrafe au făcut ca ceva să se lege, s-au deblocat imediat, au funcționat ~1h30m continuu și au revenit cu un fișier de aproape 2 ori mai mic *și* cu 10% mai rapid. Și era un fișier cu adevărat frumos, de înaltă calitate deci, cred că lecția este: AI-urile moderne nu pot face progrese autonome. Dacă îi lași să lucreze nesupravegheați, vor rămâne blocați. Aceasta este o limitare fundamentală a modului în care funcționează aceste lucruri, cel puțin pentru moment. Totuși, dacă, la fiecare câteva ore, îți iei 5-10 minute să le revizitezi, să înțelegi unde sunt și să le injectezi cunoștințe umane – atunci ele vor continua, făcând o muncă uriașă și obținând rezultate incredibile, în timp ce tu îți petreci weekendul jucând niște jocuri Mă întreb ce lipsește pentru ca ei să poată fi deblocați fără intervenția mea. Simt că promptul meu nu avea nimic special. toate ideile sunt concepte pe care aceste AI-uri le cunosc și pare că ar fi putut cu siguranță să vină cu aceste idei singure. Totuși, pur și simplu nu... De ce? Oricum, plănuiesc să open source acest lucru drăguț mai târziu săptămâna viitoare. Nu este tocmai util pentru majoritatea dintre voi, dar dacă, întâmplător, ați căutat cel mai rapid motor de potrivire a modelelor pe 16 biți din lume, acest fișier ar putea fi exact ceea ce căutați!

"Atenție, aceasta este ultima ta editare" Nicio problemă, sunt sigur că asta a fost ultima greșeală de tastare.

Oh, la naiba