Bạn gọi cho hãng hàng không để thay đổi chuyến bay bị trì hoãn của mình. Nhân viên nói rằng anh ta không thể giúp - máy tính không cho phép anh ta. Bạn yêu cầu nói chuyện với quản lý của anh ta. Cô ấy nói điều tương tự. Bạn tiếp tục lên quản lý của cô ấy. Cùng một phản hồi. Mọi người đều muốn giúp bạn. Không ai có thể. Hệ thống đã quyết định, và hệ thống không giải thích cho chính nó. Đây là điều mà Dan Davies gọi là một "hố trách nhiệm" trong cuốn sách The Unaccountability Machine. Hố trách nhiệm là những hệ thống được thiết kế sao cho khi mọi thứ sai, không cá nhân nào có thể bị chịu trách nhiệm để sửa chữa chúng. Ông lập luận rằng "các quyết định được ủy quyền cho một bộ quy tắc phức tạp hoặc một tập hợp các quy trình tiêu chuẩn, khiến cho việc xác định nguồn gốc của những sai lầm khi chúng xảy ra trở nên không thể." Điều này thường xảy ra khi tổ chức trở nên lớn hơn. Đó là một chiến thuật để phân tán rủi ro. Với AI, động lực này có khả năng trở nên tồi tệ hơn. Trích dẫn từ cuốn sách, "Trong tương lai, 'Tôi đổ lỗi cho hệ thống' là điều mà chúng ta sẽ phải quen với việc nói, và có nghĩa là nó theo nghĩa đen." Tôi đổ lỗi cho AI. Khi được nói ra, những từ đó khiến thế giới dừng lại như một chiếc Waymo dừng lại giữa một giao lộ đông đúc. Bước tiếp theo là gì? Thật may mắn khi tinh thần Founder Mode đã xuất hiện cùng lúc với việc đổ lỗi cho hệ thống AI. Bản chất của chế độ người sáng lập là trái ngược với hố trách nhiệm. Tất cả trách nhiệm rơi vào một người. "Mức độ mà bạn có thể thay đổi một quyết định chính xác là mức độ mà bạn có thể chịu trách nhiệm về nó." Vì vậy, thiết kế các tổ chức có trách nhiệm có nghĩa là xác định vai trò và hệ thống cho mọi người nơi họ có trách nhiệm và có thể vượt qua đầu ra của hệ thống. Ngoài ra, Davies lập luận cho các vòng phản hồi từ dưới lên trên. Các cuộc họp cấp bỏ qua, nơi quản lý của một quản lý gặp gỡ một thành viên trong nhóm là một ví dụ. Nhưng trong thời đại AI, điều đó là không đủ. Những luồng thông tin kỹ thuật số chạy qua một tổ chức có thể quá nhiều để theo kịp. Nếu hố trách nhiệm là một vấn đề trước cơn lũ này, hãy tưởng tượng tác động sau đó. Thiết kế lại vai trò và hệ thống AI với các quyền hạn của con người sẽ là điều cần thiết để đảm bảo trách nhiệm. Ít nhất là bây giờ, mỗi quyết định quan trọng vẫn cần một người đứng sau nó và có thể đó là đủ để đặt lại chỗ nhanh chóng để về nhà ăn tối.