Отже, про межі ШІ для автономного прогресу для контексту: кілька днів тому я написав запит для «NanoHVM» — іграшкової версії мого робочого середовища з 16-бітними термінами — і попросив ШІ написати оцінювач. після кількох циклів співпраці людини та ШІ я отримав дивовижно швидку реалізацію на жаль, файл ставав дуже великим і некрасивим, тому я хотів зробити його меншим. Я організував сесію кодексу/клода/близнюків і попросив їх «зробити її коротшою». Перший запит спрацював, тож я повторював одне й те саме прохання знову і знову кілька годин. зрештою, ШІ стикається зі стіною. скільки б я не просив, вони не могли скоротити це за певний поріг. Я хотів зрозуміти чому, тому прочитав файл. На моє здивування, це явно не було оптимально — купа дублювання і поганих абстракцій — але тепер майже не змінюється. Коміт за комітом, він все ще включав ті самі техніки, той самий підхід і ті ж дублювання. Були лише незначні коригування, але суттєвих переписів не відбувалося, і це було необхідно для подальшого прогресу. тому я попросив ШІ зробити саме це. "Цього разу зроби повне переписування" «Фундаментально обміркувати це» "Ти вільний змінювати що завгодно" "Припини робити поступові зміни" "замінити X на зовсім новий підхід" Проте це було марно. Ці загальні запити не мали жодного ефекту. Через кілька годин файл все ще застосовував той самий підхід. ШІ застряг у локальному мінімумі і не міг з нього вибратися. тож я здався і вирішив приєднатися. Я витратив кілька хвилин, щоб подумати, і написав короткий запит — близько 500 жетонів — з конкретними вказівками. "замінити X на Y, зробити Z таким чином". Якимось чином ці ~3 абзаци змусили щось клацнути, вони одразу розстряпалися, працювали ~1 год 30 хвилин поспіль і поверталися з файлом, який став майже вдвічі меншим *і* на 10% швидшим. І це був справді красивий, якісний файл Отже, висновок такий: сучасний ШІ не може досягати автономного прогресу. Якщо залишити їх без нагляду, вони застрягають у пастці. Це фундаментальне обмеження того, як ці речі працюють, принаймні наразі. Але якщо кожні кілька годин ви витратите 5-10 хвилин, щоб повернутися до них, зрозуміти, де вони знаходяться, і додати трохи людських знань — тоді вони просто продовжуть, виконуючи величезну роботу і отримуючи неймовірні результати, поки ви проводите вихідні, граючи в ігри Цікаво, чого їм бракує, щоб вони могли вибратися без мого втручання. Здається, що в моєму запиті нічого особливого немає. усі ідеї — це концепції, які ці ШІ знають, і здається, що вони цілком могли придумати ці ідеї самостійно. Але вони просто не... Чому? В будь-якому разі, я планую відкрити цей милий контент пізніше наступного тижня. Він не дуже корисний для більшості з вас, але якщо ви випадково шукали найшвидший 16-бітний рушій для підбору патернів у світі, цей файл може бути саме тим, що ви шукали!

"Увага, це твоя остання редагування" Не хвилюйся, я впевнений, що це була остання помилка

О, чорт