Andrew Ng baru saja mengungkapkan mengapa perusahaan AI yang melemparkan komputasi paling banyak pada masalah ini akan kalah. Pemenang perlombaan intelijen tidak akan menggunakan komputasi paling banyak. Mereka akan menyia-nyiakan yang paling sedikit. Ng: "Sebagian besar data dimensi tinggi Anda terletak di subruang dimensi yang lebih rendah. Itu hanya fakta kehidupan." Inilah artinya dalam praktiknya. Anda memiliki himpunan data 10.000 dimensi. Setiap dimensi terseret melalui setiap perhitungan. Setiap siklus pelatihan mengangkut bobot mati yang tidak akan pernah digunakan model. Ng: "Anda membawa contoh 10.000 dimensi ini di seluruh proses pelatihan Anda." Kembung itu tidak hanya tidak efisien. Ini adalah pajak atas setiap perhitungan yang Anda jalankan. Bandwidth memori. Bandwidth jaringan. Kecepatan komputasi. Semua itu dimakan oleh dimensi yang tidak berkontribusi pada kecerdasan. Mereka menyumbangkan kebisingan. Wawasan yang memisahkan arsitek dari perlombaan senjata: kumpulan data 10.000 dimensi itu hampir seluruhnya ditangkap oleh subruang yang jauh lebih kecil. ...