Elon Musk baru saja mengatakan komunitas AI salah memahami matematika superintelligence dengan dua urutan besarnya. Tidak sedikit off. Tidak salah secara arah. Seratus kali lipat. Musk: "Kebanyakan orang di komunitas AI belum mengerti. Potensi kepadatan intelijen jauh lebih besar daripada apa yang kita alami saat ini." Semua orang fokus pada perlombaan perangkat keras. Pusat data yang lebih besar. Lebih banyak GPU. Pembangkit listrik tenaga nuklir dibangun untuk memberi makan komputasi. Itu setengah dari persamaan. Musk: "Saya pikir kita turun dengan dua urutan besarnya dalam hal kepadatan intelijen per gigabyte. Itu hanya peningkatan algoritmik. Komputer yang sama." Baca itu dengan seksama. Tidak lebih banyak perangkat keras. Tidak lebih banyak energi. Tidak lebih banyak modal. Mesin yang sama. Seratus kali lebih pintar. Melalui perangkat lunak saja. Itu sebelum peningkatan perangkat keras bertambah di atasnya. Musk: "Dan komputer menjadi lebih baik. Itu sebabnya saya pikir ini adalah peningkatan 10x per tahun jenis hal. 1.000 persen." Seribu persen tingkat pertumbuhan tahunan dalam kecerdasan mentah. Sistem yang menjadi 10x lebih mampu setiap dua belas bulan tidak mengikuti kurva linier. Itu tidak mengikuti kurva eksponensial yang dapat dilacak oleh intuisi manusia. Ini mengikuti kurva yang tidak dapat disimulasikan oleh intuisi manusia sama sekali. Di tahun pertama itu 10x lebih pintar. Di tahun kedua 100x. Di tahun ketiga itu 1.000x. ...