Interpretabilitas model bukanlah pertanyaan tentang metode ML mana yang Anda gunakan (substrat model mana, misalnya NN vs model grafis vs kode simbolik). Substrat apa pun dapat ditafsirkan ketika modelnya cukup kecil. Ini murni masalah ukuran/kompleksitas model. Perilaku basis kode yang kompleks atau model grafis yang kompleks tidak dapat ditafsirkan meskipun Anda dapat membaca secara lokal apa pun dari apa yang dilakukannya. Ini mungkin *dapat di-debug* dalam kasus-kasus tertentu dengan usaha besar -- tetapi hal yang sama juga berlaku untuk NN. IMO pernyataan "kita harus menggunakan metode yang dapat diinterpretasikan" adalah nonstarter, itu berarti Anda ingin membatasi diri Anda pada model mainan.