Elon Musk baru saja mengatakan komunitas AI salah memahami matematika superintelligence dengan dua urutan besarnya. Tidak sedikit off. Tidak salah secara arah. Seratus kali lipat. Musk: "Kebanyakan orang di komunitas AI belum mengerti. Potensi kepadatan intelijen jauh lebih besar daripada apa yang kita alami saat ini." Semua orang fokus pada perlombaan perangkat keras. Pusat data yang lebih besar. Lebih banyak GPU. Pembangkit listrik tenaga nuklir dibangun untuk memberi makan komputasi. Itu setengah dari persamaan. Musk: "Saya pikir kita turun dengan dua urutan besarnya dalam hal kepadatan intelijen per gigabyte. Itu hanya peningkatan algoritmik. Komputer yang sama." Baca itu dengan seksama. Tidak lebih banyak perangkat keras. Tidak lebih banyak energi. Tidak lebih banyak modal. Mesin yang sama. Seratus kali lebih pintar. Melalui perangkat lunak saja. Itu sebelum peningkatan perangkat keras bertambah di atasnya. Musk: "Dan komputer menjadi lebih baik. Itu sebabnya saya pikir ini adalah peningkatan 10x per tahun jenis hal. 1.000 persen." Seribu persen tingkat pertumbuhan tahunan dalam kecerdasan mentah. Sistem yang menjadi 10x lebih mampu setiap dua belas bulan tidak mengikuti kurva linier. Itu tidak mengikuti kurva eksponensial yang dapat dilacak oleh intuisi manusia. Ini mengikuti kurva yang tidak dapat disimulasikan oleh intuisi manusia sama sekali. Di tahun pertama itu 10x lebih pintar. Di tahun kedua 100x. Di tahun ketiga itu 1.000x. Pada saat itu, kesenjangan antara sistem itu dan otak manusia lebih lebar daripada kesenjangan antara otak manusia dan kalkulator. Ini adalah matematika yang tidak dijalankan publik. Modelnya tidak hanya menjadi lebih baik. Mereka bertambah pada diri mereka sendiri pada tingkat yang membuat setiap kurva teknologi sebelumnya terlihat datar. Musk: "Potensi kepadatan intelijen jauh lebih besar daripada yang kita alami saat ini." Kami tidak mendekati kecerdasan super pada garis waktu yang dibayangkan kebanyakan orang. Kita sudah berada di dalam kurva.

Dario Amodei baru saja memperingatkan tentang krisis ekonomi berikutnya di televisi langsung. Garis waktunya adalah 1 hingga 5 tahun. Amodei: "Kita mungkin memang memiliki krisis ketenagakerjaan yang serius di tangan kita karena pipa untuk pekerjaan kerah putih tahap awal ini mulai berkontraksi dan mengering." Bukan pekerja pabrik. Bukan pengemudi truk. Pengacara. Konsultan. Profesional keuangan. Pekerjaan entry-level yang telah digunakan jutaan lulusan perguruan tinggi sebagai anak tangga pertama kelas menengah selama beberapa dekade. Amodei: "AI berada di level mahasiswa yang cerdas dan menjangkau lebih dari itu." Keterampilan yang dibutuhkan pekerjaan tingkat pemula itulah yang terbaik dilakukan AI. Meringkas dokumen. Membangun model keuangan. Menyusun laporan. Mensintesis penelitian. Pipa tidak hanya menyusut. Itu mengering. Dan jika pipeline entry-level menghilang, tidak ada jalan menuju kepemimpinan senior untuk generasi berikutnya. Tangga tidak semakin sulit untuk dinaiki. Itu dihapus. Tapi inilah yang membuat ini berbeda dari setiap peringatan otomatisasi lainnya. Amodei: "Kita tidak bisa menghentikan bus AI. Bahkan jika keenam perusahaan berhenti, maka China akan mengalahkan kita. Saya pikir itu ancaman besar dan penting." Ini bukan pilihan antara gangguan dan stabilitas. Ini adalah pilihan antara mengganggu ekonomi sendiri atau menyerahkan gangguan itu kepada musuh geopolitik yang akan melakukannya tanpa pengamanan apa pun. Tidak ada tombol jeda. Tidak ada penolakan yang bertanggung jawab. Jadi Amodei mengatakan sesuatu yang belum pernah dikatakan CEO teknologi di depan umum sebelumnya. Amodei: "Kita mungkin ingin pemerintah menemukan cara untuk menyamakan kedudukan ekonomi. Memajaki perusahaan AI seperti kami." Orang yang membangun teknologi yang akan menghilangkan jutaan pekerjaan meminta pemerintah untuk mengenakan pajak kepadanya karena melakukannya. Itu bukan disonansi kognitif. Itu adalah sinyal paling jelas bahwa orang-orang yang membangunnya memahami apa yang sebenarnya akan datang. Kelimpahan akan datang. Gangguan datang lebih dulu. Dan arsitek gangguan itu sudah bertanya siapa yang membayar reruntuhan.

Anthropic hanya mengatakan tidak kepada Pentagon. Kemudian saingan terbesar mereka mendukung mereka. Departemen Perang memberi Anthropic batas waktu Jumat pukul 17:01. Hentikan pengamanan terhadap pengawasan massal dan senjata otonom penuh. Atau kehilangan kontrak $200 juta dan diberi label risiko rantai pasokan. Amodei: "Ancaman ini tidak mengubah posisi kami. Kami tidak dapat dengan hati nurani yang baik menyetujui permintaan mereka." "Risiko rantai pasokan" adalah sebutan yang biasanya dicap pada musuh asing. Itu akan menggagalkan setiap kemitraan penting yang dimiliki Anthropic. Dia tetap memegang garis. Kemudian Sam Altman pergi ke CNBC. Altman: "Saya pribadi tidak berpikir Pentagon harus mengancam DPA terhadap perusahaan-perusahaan ini." Dua saingan tersengit di AI baru saja menarik garis merah yang sama di depan umum. Bersamaan. Tidak ada koordinasi. Tidak ada pernyataan bersama. Hanya dua pesaing yang secara independen menyimpulkan bahwa beberapa garis tidak dapat dilewati. Altman: "Untuk semua perbedaan yang saya miliki dengan Anthropic, saya sebagian besar mempercayai mereka sebagai sebuah perusahaan, dan saya pikir mereka benar-benar peduli dengan keselamatan." Altman dan Amodei menolak untuk berpegangan tangan dalam foto bersama di KTT AI India pekan lalu. Hari ini Altman membelanya di televisi langsung. 70 karyawan OpenAI menandatangani surat terbuka berjudul "Kami Tidak Akan Terbagi." Teknisi Google menyuarakan dukungan. Industri bersatu dalam hitungan jam. Trump menanggapi Truth Social dengan penghapusan produk Anthropic selama enam bulan. Inilah momen ini sebenarnya. Kedua perusahaan yang membangun teknologi paling kuat dalam sejarah manusia baru saja mengatakan kepada pemerintah bahwa ada penggunaan teknologi itu yang tidak akan mereka izinkan. Bukan untuk $200 juta. Tidak di bawah ancaman Undang-Undang Produksi Pertahanan. Tidak di bawah tekanan apa pun yang dapat diterapkan oleh pemerintah. Pengawasan massal terhadap orang Amerika. Senjata otonom penuh beroperasi tanpa pengawasan manusia. Ini adalah garis-garisnya. Para arsitek superintelligence baru saja menyatakan bahwa mereka bertanggung jawab atas sesuatu di luar kontrak. Itu belum pernah terjadi sebelumnya.