Je belt de luchtvaartmaatschappij om je vertraagde vlucht te wijzigen. De agent zegt dat hij niet kan helpen - de computer laat het niet toe. Je vraagt om met zijn manager te spreken. Zij zegt hetzelfde. Je escaleert naar haar manager. Zelfde reactie. Iedereen wil je helpen. Niemand kan. Het systeem heeft besloten, en het systeem legt zichzelf niet uit. Dit is wat Dan Davies een accountability sink noemt in The Unaccountability Machine. Accountability sinks zijn systemen die zo zijn ontworpen dat wanneer er iets misgaat, geen enkele individuele persoon verantwoordelijk kan worden gehouden voor het oplossen ervan. Hij stelt dat "beslissingen zijn gedelegeerd aan een complex regelboek of een set standaardprocedures, waardoor het onmogelijk is om de bron van fouten te identificeren wanneer ze zich voordoen." Dit gebeurt vaak naarmate de organisatie groter wordt. Het is een tactiek om risico's te verspreiden. Met AI is het waarschijnlijk dat deze dynamiek verergert. Citerend uit het boek: "In de toekomst is 'ik geef de schuld aan het systeem' iets waar we aan moeten wennen om te zeggen, en het letterlijk te bedoelen." Ik geef de AI de schuld. Wanneer die woorden worden uitgesproken, brengt het de wereld tot stilstand als een Waymo die midden op een druk kruispunt stopt. Wat is de volgende stap? Het is dan toevallig dat de Founder Mode-ethos is ontstaan op hetzelfde moment als het de schuld geven aan het AI-systeem. De essentie van de founder mode is het tegenovergestelde van accountability sinks. Alle verantwoordelijkheid valt op één persoon. "De mate waarin je in staat bent om een beslissing te veranderen, is precies de mate waarin je verantwoordelijk kunt worden gehouden voor die beslissing." Dus het ontwerpen van verantwoordelijke organisaties betekent het definiëren van rollen en systemen voor mensen waar zij verantwoordelijk zijn en het systeemoutput kunnen overrulen. Daarnaast pleit Davies voor feedbackloops van onder naar boven. Skip-level vergaderingen waarbij de manager van een manager met een teamlid spreekt, is een voorbeeld. Maar in het tijdperk van AI is dat niet genoeg. De digitale stromen van informatie die door een organisatie razen, kunnen te veel zijn om bij te houden. Als accountability sinks een probleem waren vóór deze stortvloed, stel je dan de impact erna voor. Het herontwerpen van rollen en AI-systemen met menselijke overrides zal essentieel zijn om verantwoordelijkheid te waarborgen. Tenminste voor nu, elke belangrijke beslissing heeft nog steeds een persoon achter zich nodig, en misschien is dat genoeg om snel genoeg opnieuw te boeken om thuis te komen voor het diner.