يمكنك الاتصال بشركة الطيران لتغيير رحلتك المتأخرة. يقول الوكيل إنه لا يستطيع المساعدة - لن يسمح له الكمبيوتر. تطلب التحدث إلى مديره. تقول نفس الشيء. تصعد إلى مديرها. نفس الاستجابة. الجميع يريد مساعدتك. لا أحد يستطيع. لقد قرر النظام ، والنظام لا يفسر نفسه. هذا ما يسميه دان ديفيز بالوعة المساءلة في آلة عدم المساءلة. أحواض المساءلة هي أنظمة مصممة بحيث لا يمكن تحميل أي إنسان مسؤولية إصلاحها عندما تسوء الأمور. يجادل بأن "القرارات تفوض إلى كتاب قواعد معقد أو مجموعة من الإجراءات القياسية ، مما يجعل من المستحيل تحديد مصدر الأخطاء عند حدوثها". يحدث هذا غالبا كلما أصبحت المنظمة أكبر. إنه تكتيك لنزع فتيل المخاطر. مع الذكاء الاصطناعي ، من المرجح أن تزداد هذه الديناميكية سوءا. نقلا عن الكتاب ، "في المستقبل ،" ألوم النظام "هو شيء سيتعين علينا أن نعتاد على قوله ، ومعناه حرفيا". أنا ألوم الذكاء الاصطناعي. عند نطق هذه الكلمات ، تتوقف العالم مثل توقف Waymo في وسط تقاطع مزدحم. ما هي الخطوة التالية؟ من قبيل الصدفة إذن أن نشأت روح وضع المؤسس في نفس الوقت الذي ألقى فيه اللوم على نظام الذكاء الاصطناعي. جوهر وضع المؤسس هو عكس أحواض المساءلة. كل المسؤولية تقع على عاتق شخص واحد. "إلى أي مدى يمكنك تغيير القرار هو بالضبط إلى أي مدى يمكنك أن تكون مسؤولا عنه." لذا فإن تصميم المنظمات الخاضعة للمساءلة يعني تحديد الأدوار والأنظمة للأشخاص حيث يخضعون للمساءلة ويمكنهم تجاوز مخرجات النظام. بالإضافة إلى ذلك ، يجادل ديفيز من أجل حلقات التغذية الراجعة من الأسفل إلى الأعلى. ومن الأمثلة على ذلك الاجتماعات على مستوى التخطي حيث يلتقي مدير المدير بأحد أعضاء الفريق. لكن في عصر الذكاء الاصطناعي ، هذا لا يكفي. قد تكون الرزم الرقمية للمعلومات التي تتسابق عبر منظمة ما أكثر من اللازم لمواكبة ذلك. إذا كانت أحواض المساءلة مشكلة قبل هذا الطوفان، فتخيل التأثير بعد ذلك. ستكون إعادة تصميم الأدوار وأنظمة الذكاء الاصطناعي مع التجاوزات البشرية ضرورية لضمان المساءلة. على الأقل في الوقت الحالي ، لا يزال كل قرار رئيسي يحتاج إلى شخص يقف وراءه وربما يكون ذلك كافيا لإعادة الحجز بسرعة كافية للعودة إلى المنزل لتناول العشاء.