Du ringer flygbolaget för att ändra ditt försenade flyg. Agenten säger att han inte kan hjälpa till – datorn låter honom inte göra det. Du ber att få tala med hans chef. Hon säger samma sak. Du eskalerar till hennes chef. Samma svar. Alla vill hjälpa dig. Det kan ingen. Systemet har bestämt, och systemet förklarar inte sig självt. Detta är vad Dan Davies kallar en ansvarsutkrävande i The Unaccountability Machine. Diskbänkar för ansvarsskyldighet är system som är utformade så att när saker går fel kan ingen enskild människa hållas ansvarig för att åtgärda dem. Han hävdar att "beslut delegeras till en komplex regelbok eller en uppsättning standardprocedurer, vilket gör det omöjligt att identifiera källan till misstag när de inträffar". Detta sker ofta ju större organisationen blir. Det är en taktik för att sprida risken. Med AI kommer denna dynamik sannolikt att förvärras. Jag citerar från boken: "I framtiden är 'Jag skyller på systemet' något vi måste vänja oss vid att säga, och vi menar det bokstavligt." Jag skyller på AI:n. När de orden yttras får de världen att stanna upp som en Waymo som stannar mitt i en trafikerad korsning. Vad är nästa steg? Det är därför en slump att Founder Mode-etos har uppstått samtidigt som man skyller på AI-systemet. Kärnan i grundarläge är motsatsen till ansvarsskyldighet. Allt ansvar faller på en person. "I vilken utsträckning du kan ändra ett beslut är exakt i vilken utsträckning du kan stå till svars för det." Att utforma ansvarstagande organisationer innebär alltså att definiera roller och system för personer där de är ansvariga och kan åsidosätta systemets resultat. Dessutom argumenterar Davies för återkopplingsslingor från botten till toppen. Möten på överhoppningsnivå där en chefs chef träffar en teammedlem är ett exempel. Men i AI:s tidevarv räcker det inte. De digitala mängder av information som rusar genom en organisation kan vara för mycket för att hänga med. Om ansvarsutkrävandet var ett problem före den här översvämningen, föreställ dig effekten efteråt. Att omforma roller och AI-system med mänskliga åsidosättningar kommer att vara avgörande för att säkerställa ansvarsskyldighet. Åtminstone för tillfället behöver varje viktigt beslut fortfarande en person bakom det och kanske räcker det för att boka om tillräckligt snabbt för att hinna hem till middagen.