Zavoláte letecké společnosti, aby změnila váš zpožděný let. Agent říká, že mu nemůže pomoci – počítač mu to nedovolí. Požádáte o rozhovor s jeho manažerem. Ona říká totéž. Eskalujete k jejímu manažerovi. Stejná odpověď. Každý vám chce pomoci. Nikdo to nedokáže. Systém se rozhodl a systém se sám nevysvětluje. To je to, co Dan Davies nazývá propadem odpovědnosti v The Unaccountability Machine (Stroj na nezodpovědnost). Propady odpovědnosti jsou systémy navržené tak, že když se něco pokazí, žádný jednotlivý člověk nemůže být zodpovědný za jejich nápravu. Tvrdí, že "rozhodnutí jsou delegována na složitý soubor pravidel nebo soubor standardních postupů, což znemožňuje identifikovat zdroj chyb, když k nim dojde". To se často stává tím větší, čím větší se organizace stává. Je to taktika, jak rozptýlit riziko. S umělou inteligencí se tato dynamika pravděpodobně zhorší. Cituji z knihy: "V budoucnu si budeme muset zvyknout říkat 'obviňuji systém' a myslet to doslova." Dávám to za vinu umělé inteligenci. Když jsou tato slova vyslovena, zastaví svět jako Waymo zastavené uprostřed rušné křižovatky. Jaký je další krok? Je tedy štěstí, že étos režimu zakladatele vznikl ve stejné době, kdy se obviňoval systém umělé inteligence. Podstata režimu zakladatele je opakem propadů odpovědnosti. Veškerá odpovědnost padá na jednu osobu. "Rozsah, v jakém jste schopen změnit rozhodnutí, je přesně rozsah, v jakém za něj můžete být odpovědný." Navrhování odpovědných organizací tedy znamená definování rolí a systémů pro lidi, kteří jsou zodpovědní a mohou potlačit výstupy systému. Kromě toho Davies argumentuje pro smyčky zpětné vazby zdola nahoru. Jedním z příkladů jsou schůzky na přeskočené úrovni, kde se manažer manažera setkává se členem týmu. V době umělé inteligence to však nestačí. Digitální stohy informací, které se prohánějí organizací, mohou být příliš velké na to, abychom s nimi udrželi krok. Pokud byly propady zodpovědnosti problémem před touto potopou, představte si dopad po ní. Přepracování rolí a systémů umělé inteligence s lidským přepsáním bude zásadní pro zajištění odpovědnosti. Alespoň prozatím, každé klíčové rozhodnutí stále potřebuje osobu, která za ním stojí a možná to stačí k tomu, abyste se rychle přerezervovali a dostali se domů na večeři.