Anda menghubungi maskapai penerbangan untuk mengubah penerbangan yang tertunda. Agen itu mengatakan dia tidak bisa membantu—komputer tidak mengizinkannya. Anda meminta untuk berbicara dengan manajernya. Dia mengatakan hal yang sama. Anda meningkat ke manajernya. Tanggapan yang sama. Semua orang ingin membantu Anda. Tidak ada yang bisa. Sistem telah memutuskan, dan sistem tidak menjelaskan dirinya sendiri. Inilah yang disebut Dan Davies sebagai penyerap akuntabilitas di The Unaccountability Machine. Penyerap akuntabilitas adalah sistem yang dirancang sedemikian rupa sehingga ketika terjadi kesalahan, tidak ada manusia yang dapat dimintai pertanggungjawaban untuk memperbaikinya. Dia berpendapat bahwa "keputusan didelegasikan ke buku aturan yang kompleks atau seperangkat prosedur standar, sehingga tidak mungkin untuk mengidentifikasi sumber kesalahan ketika itu terjadi." Ini sering terjadi semakin besar organisasi. Ini adalah taktik untuk menyebarkan risiko. Dengan AI, dinamika ini kemungkinan akan memburuk. Mengutip dari buku itu, "Di masa depan, 'Saya menyalahkan sistem' adalah sesuatu yang harus kita biasakan untuk mengatakannya, dan bermaknanya secara harfiah." Saya menyalahkan AI. Saat diucapkan, kata-kata itu membuat dunia terhenti seperti Waymo yang berhenti di tengah persimpangan yang sibuk. Apa langkah selanjutnya? Maka secara kebetulan etos Mode Pendiri muncul pada saat yang sama menyalahkan sistem AI. Esensi dari mode pendiri adalah kebalikan dari akuntabilitas tenggelam. Semua tanggung jawab jatuh pada satu orang. "Sejauh mana Anda dapat mengubah keputusan adalah sejauh mana Anda dapat bertanggung jawab untuk itu." Jadi merancang organisasi yang bertanggung jawab berarti mendefinisikan peran & sistem untuk orang-orang di mana mereka bertanggung jawab & dapat mengesampingkan output sistem. Selain itu, Davies berpendapat untuk loop umpan balik dari bawah ke atas. Rapat tingkat lewati di mana manajer manajer bertemu dengan anggota tim adalah salah satu contohnya. Tapi di era AI, itu tidak cukup. Rim digital informasi yang berpacu melalui organisasi mungkin terlalu banyak untuk diikuti. Jika akuntabilitas tenggelam adalah masalah sebelum banjir ini, bayangkan dampaknya setelahnya. Mendesain ulang peran dan sistem AI dengan penggantian manusia akan sangat penting untuk memastikan akuntabilitas. Setidaknya untuk saat ini, setiap keputusan penting masih membutuhkan seseorang di belakangnya & mungkin itu cukup untuk memesan ulang cukup cepat untuk pulang untuk makan malam.