Soitat lentoyhtiölle muuttaaksesi viivästynyttä lentoasi. Agentti sanoo, ettei voi auttaa – tietokone ei anna hänen auttaa. Pyydät saada puhua hänen managerilleen. Hän sanoo saman asian. Eskaloidut hänen esimiehelleen. Sama vastaus. Kaikki haluavat auttaa sinua. Kukaan ei voi. Järjestelmä on päättänyt, eikä järjestelmä selitä itseään. Tätä Dan Davies kutsuu vastuullisuuden nieluksi kirjassaan The Unaccountability Machine. Vastuullisuusnielut ovat järjestelmiä, jotka on suunniteltu niin, että kun asiat menevät pieleen, ketään yksittäistä ihmistä ei voida pitää vastuussa niiden korjaamisesta. Hän väittää, että "päätökset delegoidaan monimutkaiseen sääntökirjaan tai standardimenettelyihin, mikä tekee mahdottomaksi tunnistaa virheiden lähteen niiden tapahtuessa". Näin tapahtuu usein, mitä suuremmaksi organisaatio kasvaa. Se on taktiikka riskien hajauttamiseksi. Tekoälyn myötä tämä dynamiikka todennäköisesti pahenee. Kirjaa lainaten: "Tulevaisuudessa 'syytän järjestelmää' on jotain, mitä meidän on totuttava sanomaan ja tarkoitettava se kirjaimellisesti." Syytän tekoälyä. Kun nämä sanat lausutaan, ne pysäyttävät maailman kuin Waymo, joka pysähtyy keskelle vilkasta risteystä. Mikä on seuraava askel? On siis onnekasta, että perustajamoodin eetos on syntynyt samaan aikaan tekoälyjärjestelmän syyttämisen kanssa. Perustajamoodin ydin on vastuullisuusnielujen vastakohta. Kaikki vastuu lankeaa yhdelle henkilölle. "Se, missä määrin pystyt muuttamaan päätöstä, on juuri siinä määrin kuin voit olla vastuussa siitä." Vastuullisten organisaatioiden suunnittelu tarkoittaa siis roolien ja järjestelmien määrittelyä ihmisille, joissa he ovat vastuussa ja voivat ohittaa järjestelmän tuotoksen. Lisäksi Davies argumentoi takaisinkytkentäsilmukoiden puolesta alhaalta ylöspäin. Ohitustason kokoukset, joissa esimiehen esimies tapaa tiimin jäsenen, ovat yksi esimerkki. Mutta tekoälyn aikakaudella se ei riitä. Organisaation läpi kiitävät digitaaliset tietomäärät voivat olla liikaa pysyäkseen perässä. Jos vastuullisuuden nielut olivat ongelma ennen tätä vedenpaisumusta, kuvittele vaikutus sen jälkeen. Roolien ja tekoälyjärjestelmien uudelleensuunnittelu ihmisen ohituksilla on välttämätöntä vastuullisuuden varmistamiseksi. Ainakin toistaiseksi jokainen tärkeä päätös vaatii vielä henkilön takanaan, ja ehkä se riittää varaamaan uudelleen tarpeeksi nopeasti, jotta pääset kotiin illalliselle.