Sunați la compania aeriană pentru a vă schimba zborul întârziat. Agentul spune că nu poate ajuta – computerul nu-l lasă. Ceri să vorbești cu managerul său. Ea spune același lucru. Escaladezi la managerul ei. Același răspuns. Toată lumea vrea să te ajute. Nimeni nu poate. Sistemul a decis și sistemul nu se explică singur. Aceasta este ceea ce Dan Davies numește o chiuvetă de responsabilitate în The Unaccountability Machine. Chiuvetele de responsabilitate sunt sisteme concepute astfel încât, atunci când lucrurile merg prost, niciun om nu poate fi tras la răspundere pentru repararea lor. El susține că "deciziile sunt delegate unui manual complex de reguli sau unui set de proceduri standard, ceea ce face imposibilă identificarea sursei greșelilor atunci când se întâmplă". Acest lucru se întâmplă adesea cu cât organizația devine mai mare. Este o tactică pentru a atenua riscul. Cu AI, această dinamică este probabil să se înrăutățească. Citând din carte, "În viitor, "Dau vina pe sistem" este ceva ce va trebui să ne obișnuim să spunem și să o înțelegem literalmente". Dau vina pe AI. Când sunt rostite, aceste cuvinte opresc lumea ca un Waymo oprit în mijlocul unei intersecții aglomerate. Care este următorul pas? Este întâmplător că etosul Mod Fondator a apărut în același timp cu învinuirea sistemului AI. Esența modului fondator este opusul chiuvetelor de responsabilitate. Toată responsabilitatea revine unei singure persoane. "Măsura în care ești capabil să schimbi o decizie este exact măsura în care poți fi responsabil pentru ea." Deci, proiectarea organizațiilor responsabile înseamnă definirea rolurilor și sistemelor pentru oameni în care aceștia sunt responsabili și pot suprascrie rezultatele sistemului. În plus, Davies pledează pentru bucle de feedback de jos în sus. Întâlnirile la nivel de sărire în care managerul unui manager se întâlnește cu un membru al echipei sunt un exemplu. Dar în era AI, asta nu este suficient. Mulțimea digitală de informații care trece printr-o organizație poate fi prea mult pentru a ține pasul. Dacă chiuvetele de responsabilitate au fost o problemă înainte de acest potop, imaginați-vă impactul de după aceea. Reproiectarea rolurilor și a sistemelor de inteligență artificială cu înlocuiri umane va fi esențială pentru a asigura responsabilitatea. Cel puțin deocamdată, fiecare decizie cheie are nevoie de o persoană în spate și poate că asta este suficient pentru a reface rezervarea suficient de repede pentru a ajunge acasă la cină.