Você liga para a companhia aérea para alterar seu voo atrasado. O agente diz que não pode ajudar - o computador não o deixa. Você pede para falar com o gerente dele. Ela diz a mesma coisa. Você escala para o gerente dela. Mesma resposta. Todo mundo quer ajudá-lo. Ninguém pode. O sistema decidiu, e o sistema não se explica. Isso é o que Dan Davies chama de sumidouro de responsabilidade em A máquina de irresponsabilidade. Os sumidouros de responsabilidade são sistemas projetados para que, quando as coisas derem errado, nenhum ser humano individual possa ser responsabilizado por consertá-las. Ele argumenta que "as decisões são delegadas a um livro de regras complexo ou a um conjunto de procedimentos padrão, tornando impossível identificar a origem dos erros quando eles acontecem". Isso geralmente acontece quanto maior a organização se torna. É uma tática para difundir o risco. Com a IA, é provável que essa dinâmica piore. Citando o livro, "No futuro, 'eu culpo o sistema' é algo que teremos que nos acostumar a dizer e dizer literalmente". Eu culpo a IA. Quando proferidas, essas palavras paralisam o mundo como um Waymo parado no meio de um cruzamento movimentado. Qual é o próximo passo? É fortuito, então, que o ethos do Modo Fundador tenha surgido ao mesmo tempo em que culpa o sistema de IA. A essência do modo fundador é o oposto dos sumidouros de responsabilidade. Toda a responsabilidade recai sobre uma pessoa. "Até que ponto você é capaz de mudar uma decisão é precisamente a medida em que você pode ser responsabilizado por ela." Portanto, projetar organizações responsáveis significa definir papéis e sistemas para as pessoas onde elas são responsáveis e podem substituir a saída do sistema. Além disso, Davies defende ciclos de feedback de baixo para cima. Reuniões de nível de salto em que o gerente de um gerente se reúne com um membro da equipe é um exemplo. Mas na era da IA, isso não é suficiente. As resmas digitais de informações que correm por uma organização podem ser demais para acompanhar. Se os sumidouros de responsabilidade eram um problema antes desse dilúvio, imagine o impacto depois. Redesenhar funções e sistemas de IA com substituições humanas será essencial para garantir a responsabilidade. Pelo menos por enquanto, toda decisão importante ainda precisa de uma pessoa por trás dela e talvez isso seja suficiente para remarcar rápido o suficiente para chegar em casa para o jantar.