Llamas a la aerolínea para cambiar tu vuelo retrasado. El agente dice que no puede ayudar; la computadora no se lo permite. Pides hablar con su gerente. Ella dice lo mismo. Escalas a su gerente. La misma respuesta. Todos quieren ayudarte. Nadie puede. El sistema ha decidido, y el sistema no se explica a sí mismo. Esto es lo que Dan Davies llama un sumidero de responsabilidad en The Unaccountability Machine. Los sumideros de responsabilidad son sistemas diseñados de tal manera que, cuando las cosas salen mal, ningún ser humano individual puede ser considerado responsable de solucionarlas. Él argumenta que "las decisiones se delegan a un complejo libro de reglas o conjunto de procedimientos estándar, lo que hace imposible identificar la fuente de los errores cuando ocurren." Esto suele suceder cuanto más grande se vuelve la organización. Es una táctica para difundir el riesgo. Con la IA, esta dinámica probablemente empeorará. Citando del libro, "En el futuro, 'yo culpo al sistema' es algo a lo que tendremos que acostumbrarnos a decir, y significarlo literalmente." Yo culpo a la IA. Cuando se pronuncian esas palabras, el mundo se detiene como un Waymo parado en medio de una intersección concurrida. ¿Cuál es el siguiente paso? Es fortuito entonces que la ética del Modo Fundador haya surgido al mismo tiempo que culpar al sistema de IA. La esencia del modo fundador es lo opuesto a los sumideros de responsabilidad. Toda la responsabilidad recae en una persona. "La medida en que puedes cambiar una decisión es precisamente la medida en que puedes ser responsable de ella." Así que diseñar organizaciones responsables significa definir roles y sistemas para las personas donde sean responsables y puedan anular la salida del sistema. Además, Davies aboga por bucles de retroalimentación de abajo hacia arriba. Las reuniones de nivel superior donde el gerente de un gerente se reúne con un miembro del equipo son un ejemplo. Pero en la era de la IA, eso no es suficiente. Los enormes volúmenes de información que recorren una organización pueden ser demasiado para seguirles el ritmo. Si los sumideros de responsabilidad eran un problema antes de este diluvio, imagina el impacto después. Rediseñar roles y sistemas de IA con anulación humana será esencial para garantizar la responsabilidad. Al menos por ahora, cada decisión clave aún necesita una persona detrás de ella y tal vez eso sea suficiente para volver a reservar lo suficientemente rápido para llegar a casa a cenar.