Die Interpretierbarkeit von Modellen ist keine Frage der verwendeten ML-Methode (welches Modellsubstrat, z.B. NNs vs. grafische Modelle vs. symbolischer Code). Jedes Substrat kann interpretierbar sein, wenn das Modell klein genug ist. Es ist rein eine Frage der Modellgröße/-komplexität. Das Verhalten eines komplexen Codes oder eines komplexen grafischen Modells ist nicht interpretierbar, obwohl man lokal jeden Teil dessen, was es tut, lesen kann. Es ist vielleicht *debuggbar* in bestimmten Fällen mit großem Aufwand – aber das gleiche würde auch für NNs gelten. Meiner Meinung nach ist die Aussage "wir müssen interpretierbare Methoden verwenden" ein Nonstarter, das bedeutet, dass man sich auf Spielzeugmodelle beschränken möchte.

Zu sagen, dass Deep Learning "nur eine Menge Matrixmultiplikationen" ist, ist so informativ, wie zu sagen, dass Computer "nur eine Menge Transistoren" sind oder dass eine Bibliothek "nur viel Papier und Tinte" ist. Es ist wahr, aber das kodierende Substrat ist hier der am wenigsten wichtige Teil. Es sind die Programme, die kodiert werden, die interessant und nützlich sind: was sie tun können, was sie nicht tun können, wie gut sie verallgemeinern, wie effizient sie gelernt werden können usw.

Ich bin mir nicht sicher, ob die USD-Inflation in meinem Leben jemals wieder unter 2 % liegen wird.