الإخلاص بدون مراسي: ورقة موقف حول عدم التوافق الهيكلي لمقاييس الإخلاص في الذكاء الاصطناعي القابل للتفسير لأهمية الميزات

غالبًا ما يتم الترويج لأدوات الذكاء الاصطناعي القابل للتفسير (XAI) كحلول لتعزيز الثقة في نماذج التعلم الآلي من خلال جعل خوارزمياتها أكثر قابلية للفهم للبشر. ومع ذلك، تشير الأدلة التي تم جمعها على مدى العقد الماضي إلى فشل عام في تحقيق هذا الهدف، مما يؤدي إلى الإفراط في الاعتماد على التنبؤات غير الدقيقة، وبالتالي النفور من الخوارزميات. بدلاً من ذلك، يبدو أن XAI يخدم بشكل أساسي كأداة لتصحيح الأخطاء، مما يوفر رؤى قصصية حول الميزات التي تعلمها النموذج. من القضايا الهامة التي تساهم في هذا القيد أن أساليب XAI غالبًا ما تبسط بشكل مفرط آلية عمل النموذج الداخلية، مما يؤدي إلى عدم توافق بين التفسير والنموذج نفسه، وهي ظاهرة تُعرف بعدم الإخلاص أو الخيانة. يمكن تعريف الإخلاص على أنه درجة التقريب بين التفسير والنموذج. إن الحساب الصارم للإخلاص سيمكن من قياس أحد جوانب موثوقية التفسير. ومع ذلك، تُظهر المقاييس الحالية قيودًا كبيرة، مما يجعل هذا القياس إما غير عملي أو مكلف حسابيًا. تحدد ورقة الموقف هذه خمسة أوجه قصور رئيسية في مقاييس الإخلاص الحالية وتقترح أربعة اتجاهات بحثية محتملة لتعزيز موثوقيتها.

المصدر: arxiv.org