Ви телефонуєте в авіакомпанію, щоб змінити затриманий рейс. Агент каже, що не може допомогти — комп'ютер йому не дозволить. Ви просите поговорити з його керівником. Те ж саме вона говорить. Ви переходите на її керівника. Та сама відповідь. Всі хочуть вам допомогти. Ніхто не може. Система вирішила, а система не пояснює себе. Це те, що Ден Девіс називає поглиначем підзвітності в «Машині непідзвітності». Поглиначі підзвітності – це системи, розроблені таким чином, що коли щось піде не так, жодна окрема людина не може бути притягнута до відповідальності за їх усунення. Він стверджує, що «рішення делегуються складному зводу правил або набору стандартних процедур, що унеможливлює виявлення джерела помилок, коли вони трапляються». Це часто відбувається тим більше, чим більшою стає організація. Це тактика для розсіювання ризику. З ШІ ця динаміка, ймовірно, погіршиться. Цитата з книги: «У майбутньому «я звинувачую систему» — це те, що нам доведеться звикнути говорити, і розуміти це буквально». Я звинувачую ШІ. Коли ці слова вимовляються, вони зупиняють світ, як Waymo, що зупинився посеред жвавого перехрестя. Який наступний крок? Тож цілком випадково, що етос Founder Mode виник одночасно зі звинуваченнями системи штучного інтелекту. Суть режиму засновника протилежна мийкам підзвітності. Вся відповідальність лягає на одну людину. «Ступінь, до якої ви здатні змінити рішення, саме та ступінь, до якої ви можете нести за нього відповідальність». Таким чином, проектування підзвітних організацій означає визначення ролей і систем для людей, де вони підзвітні і можуть перевизначати результати системи. Крім того, Девіс наводить аргументи на користь циклів зворотного зв'язку знизу вгору. Одним із прикладів є наради на рівні пропусків, коли керівник менеджера зустрічається з членом команди. Але в епоху штучного інтелекту цього недостатньо. Цифрові потоки інформації, що мчать через організацію, можуть бути занадто великими, щоб встигати за ними. Якщо потопи відповідальності були проблемою до цього потопу, уявіть наслідки після. Перепроектування ролей і систем штучного інтелекту з урахуванням людського контролю матиме важливе значення для забезпечення підзвітності. Принаймні на даний момент, кожне ключове рішення все ще потребує людини, яка за ним стоїть, і, можливо, цього достатньо, щоб перебронювати досить швидко, щоб дістатися додому на вечерю.