Вы звоните в авиакомпанию, чтобы изменить свой задержанный рейс. Агент говорит, что не может помочь — компьютер не позволяет ему. Вы просите поговорить с его менеджером. Она говорит то же самое. Вы обращаетесь к ее менеджеру. Тот же ответ. Все хотят вам помочь. Никто не может. Система решила, и система не объясняет себя. Это то, что Дэн Дэвис называет «поглотителем ответственности» в книге «Машина безответственности». Поглотители ответственности — это системы, разработанные так, что когда что-то идет не так, ни один человек не может быть привлечен к ответственности за их исправление. Он утверждает, что «решения делегируются сложной книге правил или набору стандартных процедур, что делает невозможным определить источник ошибок, когда они происходят». Это часто происходит, чем больше становится организация. Это тактика для распределения рисков. С появлением ИИ эта динамика, вероятно, ухудшится. Цитируя из книги: «В будущем „Я виню систему“ — это то, к чему нам придется привыкнуть, и понимать это буквально». Я виню ИИ. Когда эти слова произносятся, мир замирает, как Waymo, остановившийся посреди оживленного перекрестка. Каков следующий шаг? Тогда удачно, что философия Режима Основателя возникла одновременно с обвинением в системе ИИ. Суть режима основателя противоположна поглотителям ответственности. Вся ответственность ложится на одного человека. «Степень, в которой вы можете изменить решение, точно соответствует степени, в которой вы можете быть ответственным за него». Таким образом, проектирование ответственных организаций означает определение ролей и систем для людей, где они несут ответственность и могут переопределить выводы системы. Кроме того, Дэвис выступает за обратные связи снизу вверх. Примеры — встречи с пропуском уровня, когда менеджер менеджера встречается с членом команды. Но в эпоху ИИ этого недостаточно. Цифровые потоки информации, мчащиеся через организацию, могут быть слишком большими, чтобы за ними успевать. Если поглотители ответственности были проблемой до этого потока, представьте себе последствия после. Переработка ролей и систем ИИ с человеческими переопределениями будет необходима для обеспечения ответственности. По крайней мере, на данный момент каждое ключевое решение все еще требует человека за ним, и, возможно, этого достаточно, чтобы быстро забронировать билет и успеть домой на ужин.