الذكاء الاصطناعي القابل للتفسير

📅 آخر تحديث: ١٩ يوليو ٢٠٢٦
✍️ نُشر في: ١٩ يوليو ٢٠٢٦
📷 يحتوي على 1 صور
الموسوعة الحرة

في مجال الذكاء الاصطناعي ، يُعدّ الذكاء الاصطناعي القابل للتفسير ( XAI )، الذي يتداخل عمومًا مع الذكاء الاصطناعي القابل للتفسير أو التعلّم الآلي القابل للتفسير ( XML )، مجالًا بحثيًا يستكشف أساليب تُمكّن البشر من الإشراف الفكري على خوارزميات الذكاء الاصطناعي . [ 1 ] [ 2 ] ينصبّ التركيز الرئيسي على المنطق الكامن وراء القرارات أو التنبؤات التي تُصدرها خوارزميات الذكاء الاصطناعي، [ 3 ] لجعلها أكثر وضوحًا وشفافية. [ 4 ] يُلبي هذا حاجة المستخدمين إلى معرفة مدى أمان الخوارزميات وفحص عملية اتخاذ القرارات الآلية في التطبيقات. [ 5 ] [ 6 ] يُعالج الذكاء الاصطناعي القابل للتفسير (XAI) مشكلة " الصندوق الأسود " في التعلّم الآلي، حيث لا يستطيع حتى مُصممو الذكاء الاصطناعي تفسير سبب وصوله إلى قرار مُحدد. [ 7 ] [ 8 ]

يسعى الذكاء الاصطناعي القابل للتفسير (XAI) إلى مساعدة مستخدمي الأنظمة المدعومة بالذكاء الاصطناعي على الأداء بفعالية أكبر من خلال تحسين فهمهم لكيفية عمل هذه الأنظمة. [ 9 ] قد يكون الذكاء الاصطناعي القابل للتفسير تطبيقًا للحق الاجتماعي في التفسير . [ 10 ] حتى في حال عدم وجود مثل هذا الحق القانوني أو المتطلبات التنظيمية، يمكن للذكاء الاصطناعي القابل للتفسير تحسين تجربة المستخدم لمنتج أو خدمة من خلال مساعدة المستخدمين النهائيين على الثقة بأن الذكاء الاصطناعي يتخذ قرارات سليمة. [ 11 ] يهدف الذكاء الاصطناعي القابل للتفسير إلى شرح ما تم إنجازه، وما يتم إنجازه، وما سيتم إنجازه لاحقًا، والمعلومات التي تستند إليها هذه الإجراءات. [ 12 ] وهذا يُتيح إمكانية تأكيد المعرفة الحالية وتحديها، وتوليد افتراضات جديدة. [ 13 ]

خلفية

يمكن تصنيف خوارزميات التعلم الآلي المستخدمة في الذكاء الاصطناعي إلى خوارزميات ذات صندوق أبيض وخوارزميات ذات صندوق أسود . [ 14 ] توفر نماذج الصندوق الأبيض نتائج مفهومة للخبراء في المجال. أما نماذج الصندوق الأسود، فهي بالغة الصعوبة في التفسير، وقد لا يفهمها حتى خبراء المجال. [ 15 ] تتبع خوارزميات الذكاء الاصطناعي القابل للتفسير (XAI) المبادئ الثلاثة للشفافية، وقابلية التفسير، وقابلية الشرح.

  • يكون النموذج شفافًا "إذا كان من الممكن وصف العمليات التي تستخرج معلمات النموذج من بيانات التدريب وتولد التصنيفات من بيانات الاختبار وتبريرها من قبل مصمم النهج." [ 16 ]
  • تُشير قابلية التفسير إلى إمكانية فهم نموذج التعلم الآلي وعرض الأساس الذي يقوم عليه اتخاذ القرار بطريقة يفهمها البشر. [ 17 ] [ 18 ] [ 19 ]
  • يُعدّ مفهوم قابلية التفسير مفهومًا مهمًا، لكن لم يتم التوصل إلى تعريف متفق عليه له حتى الآن؛ [ 16 ] أحد الاحتمالات هو "مجموعة خصائص المجال القابل للتفسير التي ساهمت، في مثال معين، في اتخاذ قرار (مثل التصنيف أو الانحدار)". [ 20 ]

باختصار، تشير قابلية التفسير إلى قدرة المستخدم على فهم مخرجات النموذج، بينما تشمل شفافية النموذج قابلية المحاكاة (إمكانية إعادة إنتاج التنبؤات)، وقابلية التفكيك (تقديم تفسيرات بديهية للمعلمات)، وشفافية الخوارزميات (شرح كيفية عمل الخوارزميات). وتركز وظائف النموذج على الأوصاف النصية، والتصور، والتفسيرات الموضعية، التي توضح مخرجات أو حالات محددة بدلاً من النماذج بأكملها. تهدف جميع هذه المفاهيم إلى تعزيز قابلية فهم أنظمة الذكاء الاصطناعي وسهولة استخدامها. [ 21 ] إذا استوفت الخوارزميات هذه المبادئ، فإنها توفر أساسًا لتبرير القرارات، وتتبعها، وبالتالي التحقق منها، وتحسين الخوارزميات، واستكشاف حقائق جديدة. [ 22 ]

أحيانًا، يُمكن تحقيق نتائج عالية الدقة باستخدام خوارزميات التعلم الآلي ذات الصندوق الأبيض. تتميز هذه الخوارزميات ببنية قابلة للتفسير تُتيح شرح التنبؤات. [ 23 ] تُعد نماذج عنق الزجاجة المفاهيمية، التي تستخدم تجريدات على مستوى المفاهيم لشرح منطق النموذج، مثالًا على ذلك، ويمكن تطبيقها في مهام التنبؤ بالصور [ 24] والنصوص [25]. يكتسب هذا أهمية خاصة في مجالات مثل الطب والدفاع والتمويل والقانون ، حيث يُعد فهم القرارات وبناء الثقة في الخوارزميات أمرًا بالغ الأهمية. [ 12 ] يرى العديد من الباحثين أن الانحدار الرمزي هو السبيل الأمثل، على الأقل بالنسبة للتعلم الآلي الخاضع للإشراف، حيث تبحث الخوارزمية في فضاء التعبيرات الرياضية للعثور على النموذج الأنسب لمجموعة بيانات معينة. [ 26 ] [ 27 ] [ 28 ]

تعمل أنظمة الذكاء الاصطناعي على تحسين سلوكها لتحقيق نظام أهداف محدد رياضيًا يختاره مصممو النظام، مثل الأمر "زيادة دقة تقييم مدى إيجابية مراجعات الأفلام في مجموعة بيانات الاختبار". قد يتعلم الذكاء الاصطناعي قواعد عامة مفيدة من مجموعة الاختبار، مثل "المراجعات التي تحتوي على كلمة "فظيع" غالبًا ما تكون سلبية". مع ذلك، قد يتعلم أيضًا قواعد غير مناسبة، مثل "المراجعات التي تحتوي على اسم " دانيال داي لويس " عادةً ما تكون إيجابية"؛ قد تكون هذه القواعد غير مرغوب فيها إذا كان من المحتمل أن تفشل في التعميم خارج مجموعة التدريب، أو إذا اعتبرها المستخدمون "غشًا" أو "غير عادلة". يمكن للمختصين مراجعة القواعد في نظام الذكاء الاصطناعي القابل للتفسير (XAI) للحصول على فكرة عن مدى احتمالية تعميم النظام على بيانات العالم الحقيقي المستقبلية خارج مجموعة الاختبار. [ 29 ]

الأهداف

يعتمد التعاون بين الجهات الفاعلة - في هذه الحالة، الخوارزميات والبشر - على الثقة. فلكي يتقبل البشر التوصيات الخوارزمية، لا بد لهم من الثقة بها. ويُعدّ عدم اكتمال معايير الثقة الرسمية عائقًا أمام التحسين. وتُمثّل الشفافية وقابلية التفسير والشرح أهدافًا وسيطة على طريق الوصول إلى معايير الثقة الأكثر شمولًا. [ 30 ] ويكتسب هذا الأمر أهمية خاصة في المجال الطبي، [ 31 ] لا سيما مع أنظمة دعم القرار السريري ، حيث ينبغي أن يكون بإمكان الأطباء فهم كيفية اتخاذ القرار الآلي وأسبابه، وذلك لكي يثقوا بالقرار ويُعززوا عملية اتخاذ القرار لديهم. [ 32 ] [ 33 ]

أحيانًا ما تتعلم أنظمة الذكاء الاصطناعي حيلًا غير مرغوب فيها تُحقق أهدافًا مُبرمجة مسبقًا على بيانات التدريب على النحو الأمثل، لكنها لا تُراعي الرغبات الضمنية الدقيقة لمصممي النظام البشري، ولا تُدرك التعقيد الكامل لبيانات المجال. على سبيل المثال، تعلّم نظامٌ من عام ٢٠١٧، مُكلّفٌ بالتعرّف على الصور ، "الغش" بالبحث عن علامة حقوق الطبع والنشر المرتبطة بصور الخيول، بدلًا من تعلّم كيفية تحديد ما إذا كانت الصورة تُظهر حصانًا بالفعل. [ ٨ ] وفي نظام آخر من عام ٢٠١٧، تعلّم ذكاء اصطناعي مُوجّه ، مُكلّفٌ بالإمساك بأشياء في عالم افتراضي، الغش بوضع ذراعه الآلية بين الشيء والمُشاهد بطريقة تُوهم بأنه يمسك بالشيء. [ ٣٤ ] [ ٣٥ ]

يهدف أحد مشاريع الشفافية، وهو برنامج DARPA XAI، إلى إنتاج نماذج " الصندوق الزجاجي " القابلة للتفسير من قِبل " المستخدم البشري " دون المساس بأداء الذكاء الاصطناعي. يستطيع المستخدمون البشريون لهذا النظام فهم إدراك الذكاء الاصطناعي (سواءً في الوقت الفعلي أو لاحقًا) وتحديد مدى موثوقيته. [ 36 ] تشمل التطبيقات الأخرى لـ XAI استخلاص المعرفة من نماذج الصندوق الأسود ومقارنة النماذج. [ 37 ] في سياق أنظمة مراقبة الامتثال الأخلاقي والاجتماعي والقانوني، يُستخدم مصطلح "الصندوق الزجاجي" عادةً للإشارة إلى الأدوات التي تتعقب مدخلات ومخرجات النظام المعني، وتقدم تفسيرات قائمة على القيم لسلوكه. تهدف هذه الأدوات إلى ضمان عمل النظام وفقًا للمعايير الأخلاقية والقانونية، وأن تكون عمليات صنع القرار فيه شفافة وخاضعة للمساءلة. غالبًا ما يُستخدم مصطلح "الصندوق الزجاجي" في مقابل أنظمة "الصندوق الأسود"، التي تفتقر إلى الشفافية وقد يصعب مراقبتها وتنظيمها. [ 38 ] يُستخدم المصطلح أيضًا لتسمية مساعد صوتي يُنتج عبارات افتراضية كتفسيرات. [ 39 ]

تقنيات التفسير والتفسير

يوجد فرق دقيق بين مصطلحي قابلية التفسير وقابلية التأويل في سياق الذكاء الاصطناعي. [ 40 ]

شرطتعريفمصدر
قابلية التفسير"مستوى فهم كيفية عمل التكنولوجيا الأساسية (الذكاء الاصطناعي)"ISO/IEC TR 29119-11:2020(en)، 3.1.42 [ 41 ]
شرح"مستوى الفهم لكيفية توصل النظام القائم على الذكاء الاصطناعي ... إلى نتيجة معينة"ISO/IEC TR 29119-11:2020(en), 3.1.31 [ 41 ]

لا تتطلب بعض تقنيات التفسير فهم كيفية عمل النموذج، وقد تكون فعّالة عبر أنظمة الذكاء الاصطناعي المختلفة. في بعض الأحيان، يوفر التعامل مع النموذج كصندوق أسود وتحليل كيفية تأثير التغييرات الطفيفة في المدخلات على النتيجة تفسيراً كافياً.

شرح

تُعدّ قابلية التفسير مفيدة لضمان عدم اتخاذ نماذج الذكاء الاصطناعي قراراتها بناءً على معايير غير ذات صلة أو غير عادلة. وتوجد عدة تقنيات شائعة لنماذج التصنيف والانحدار .

  • تُظهر مخططات التبعية الجزئية التأثير الهامشي لخاصية الإدخال على النتيجة المتوقعة.
  • تُمكّن تقنية SHAP (تفسيرات شابلي الإضافية) من تصور مساهمة كل ميزة من ميزات الإدخال في المخرجات. وتعمل هذه التقنية عن طريق حساب قيم شابلي ، التي تقيس متوسط ​​المساهمة الحدية للميزة عبر جميع التوليفات الممكنة للميزات. [ 42 ]
  • تُقدّر أهمية الميزة مدى أهمية الميزة للنموذج. ويتم ذلك عادةً باستخدام أهمية التبديل ، التي تقيس انخفاض الأداء عند إعادة ترتيب قيم الميزة عشوائياً عبر جميع العينات.
  • تقوم طريقة LIME (طريقة التفسيرات المحلية القابلة للتفسير والمستقلة عن النموذج) بتقريب مخرجات النموذج محليًا باستخدام نموذج أبسط وقابل للتفسير. [ 43 ]
  • يوفر التعلم متعدد المهام عددًا كبيرًا من المخرجات بالإضافة إلى تصنيف الهدف. ويمكن أن تساعد هذه المخرجات الأخرى المطورين على استنتاج ما تعلمته الشبكة. [ 44 ]

بالنسبة للصور، تُبرز خرائط بروز العناصر أجزاء الصورة التي أثرت بشكل كبير على النتيجة. [ 45 ]

الأنظمة الخبيرة أو القائمة على المعرفة هي أنظمة برمجية يصممها خبراء. يتكون هذا النظام من ترميز معرفي للمعرفة المتخصصة. عادةً ما يُصمم هذا النظام على شكل قواعد إنتاج، ويستخدم المستخدم قاعدة المعرفة هذه التي تُمكّنه من الاستفسار من النظام عن المعلومات. في الأنظمة الخبيرة، تُفهم اللغة والشروحات من خلال شرح عملية الاستدلال أو حل المشكلات. [ 5 ]

مع ذلك، لا تُعدّ هذه التقنيات مناسبةً تمامًا لنماذج اللغة مثل نماذج المحولات المُدرَّبة مسبقًا . فبما أن هذه النماذج تُولِّد اللغة، فإنها تُقدِّم تفسيرًا، ولكنه قد لا يكون موثوقًا. تشمل التقنيات الأخرى تحليل الانتباه (دراسة كيفية تركيز النموذج على أجزاء مختلفة من المُدخلات)، وأساليب الاستكشاف (اختبار المعلومات المُستخلصة من تمثيلات النموذج)، والتتبع السببي (تتبع تدفق المعلومات عبر النموذج)، واكتشاف الدوائر (تحديد الشبكات الفرعية المسؤولة عن سلوكيات مُحدَّدة). يتداخل بحث قابلية التفسير في هذا المجال بشكلٍ كبير مع بحث قابلية التأويل والمواءمة . [ 46 ]

قابلية التفسير

يُعدّ Grokking مثالاً على الظواهر التي تُدرس في مجال قابلية التفسير. وهو يتضمن نموذجاً يحفظ في البداية جميع الإجابات ( التدريب الزائد )، ولكنه يتبنى لاحقاً خوارزمية تعمم على البيانات غير المرئية. [ 47 ]

يستخدم الباحثون أحيانًا مصطلح " التفسير الآلي " للإشارة إلى عملية الهندسة العكسية للشبكات العصبية الاصطناعية لفهم آليات ومكونات اتخاذ القرار الداخلية فيها، على غرار كيفية تحليل آلة معقدة أو برنامج حاسوبي. [ 48 ] [ 49 ]

غالبًا ما تتضمن دراسة قابلية تفسير نماذج الأساس الأكثر تطورًا البحث عن طريقة آلية لتحديد "السمات" في المحولات التوليدية المدربة مسبقًا. في الشبكة العصبية ، السمة هي نمط من تنشيطات الخلايا العصبية يتوافق مع مفهوم معين. تُمكّن تقنية حسابية مكثفة تُسمى " تعلم القاموس " من تحديد السمات إلى حد ما. من المتوقع أن يُحسّن تعزيز القدرة على تحديد السمات وتعديلها بشكل كبير من سلامة نماذج الذكاء الاصطناعي الرائدة . [ 50 ] [ 51 ]

بالنسبة للشبكات العصبية الالتفافية ، يمكن لـ DeepDream توليد صور تنشط بقوة عصبونًا معينًا، مما يوفر تلميحًا بصريًا حول ما تم تدريب العصبون على التعرف عليه. [ 52 ]

توطين المعرفة

يبدو أن نماذج اللغة الكبيرة (LLMs)، مثل النماذج القائمة على المحولات (GPT)، تستخدم المعرفة العامة عند توليد المخرجات (إكمال الاستدلال ). وتثير هذه القدرة تساؤلاً حول كيفية تخزين هذه المعرفة تحديداً داخل النموذج.

تشير الأبحاث إلى أن مكون الشبكة العصبية متعددة الطبقات (الطبقات الأمامية) في النموذج هو الموقع الرئيسي لتخزين المعرفة، حيث يتم ترميز المعلومات من خلال روابط ترابطية تعمل كذاكرة مفتاح-قيمة: يتوافق كل مفتاح مع أنماط نصية في بيانات التدريب، بينما تؤدي كل قيمة إلى توزيع على مفردات الإخراج. [ 53 ]

استخدمت دراسة أجريت عام 2022، بهدف تحديد مواقع المعرفة في النموذج، تقنية تُعرف باسم التتبع السببي. [ 54 ] في المهام التي تتطلب معرفة عامة، أدخل الباحثون تشويشًا في التنشيطات المخفية للنموذج، مما منعه من إتمام المهمة. ثم أعادوا قيم التنشيط الأصلية (المأخوذة من تشغيل خالٍ من التشويش) إلى جزء مختلف من النموذج في كل مرة، وراقبوا متى استعاد النموذج قدرته على إنتاج الإجابة الصحيحة. بناءً على هذه النتائج، خلص الباحثون إلى أن المعرفة الواقعية تُخزن بشكل أساسي في مكونات الشبكة العصبية متعددة الطبقات (MLP) في الطبقات الوسطى للنموذج. واقترحوا كذلك أن تعديل النموذج سيكون أكثر فعالية في تلك المناطق، على الرغم من أن هذا الادعاء قد تم التشكيك فيه لاحقًا. [ 55 ]

تشير دراسات لاحقة إلى أن المعلومات الواقعية، في معظم الحالات، موزعة على كامل النموذج بدلاً من أن تكون محصورة في طبقة واحدة. [ 56 ] [ 57 ] ووفقًا لأحد تفسيرات هذا الرأي، تُشفّر الطبقات المختلفة جوانب مختلفة من نفس العلاقة. على سبيل المثال، قد يُفعّل سؤال حول عاصمة اليابان تمثيلات متعلقة بـ"اليابان" في طبقة، وتمثيلات أخرى متعلقة بـ"العواصم" في طبقة أخرى؛ وينتج عن دمج هذه التمثيلات مفهوم "طوكيو". [ 57 ]

التاريخ والأساليب

خلال الفترة من سبعينيات إلى تسعينيات القرن العشرين، استطاعت أنظمة الاستدلال الرمزي ، مثل MYCIN [ 58 ] و GUIDON [ 59 ] و SOPHIE [ 60 ] وPROTOS [ 61 ] [ 62 ] ، تمثيل منطقها والاستدلال عليه وشرحه لأغراض التشخيص أو التعليم أو التعلم الآلي (التعلم القائم على التفسير). وقد طُوّر نظام MYCIN في أوائل سبعينيات القرن العشرين كنموذج أولي بحثي لتشخيص عدوى تجرثم الدم، وكان قادرًا على شرح [ 63 ] أي من قواعده المبرمجة يدويًا ساهمت في التشخيص في حالة محددة. وأسفرت الأبحاث في أنظمة التعليم الذكية عن تطوير أنظمة مثل SOPHIE التي يمكنها العمل كـ"خبير فصيح"، يشرح استراتيجية حل المشكلات بمستوى يفهمه الطالب، ليعرف الخطوة التالية التي يجب اتخاذها. على سبيل المثال، استطاعت SOPHIE شرح المنطق النوعي الكامن وراء عملية استكشاف أعطال الإلكترونيات وإصلاحها، على الرغم من اعتمادها في نهاية المطاف على برنامج محاكاة الدوائر SPICE . وبالمثل، أضافت GUIDON قواعد تعليمية لتكملة قواعد MYCIN على مستوى المجال، مما مكّنها من شرح استراتيجية التشخيص الطبي. واستخدمت المناهج الرمزية للتعلم الآلي، التي تعتمد على التعلم القائم على التفسير، مثل PROTOS، تمثيلات صريحة للتفسيرات مُعبَّر عنها بلغة تفسير مخصصة، وذلك لشرح إجراءاتها واكتساب معارف جديدة. [ 62 ]

في ثمانينيات القرن العشرين وحتى أوائل تسعينياته، وسّعت أنظمة صيانة الحقيقة (TMS) قدرات أنظمة الاستدلال السببي، والأنظمة القائمة على القواعد ، وأنظمة الاستدلال المنطقي. [ 64 ] : 360-362 يتتبع نظام صيانة الحقيقة (TMS) بشكل صريح مسارات الاستدلال البديلة، ومبررات الاستنتاجات، ومسارات الاستدلال التي تؤدي إلى تناقضات، مما يسمح للاستدلال اللاحق بتجنب هذه الطرق المسدودة. ولتقديم تفسير، يتتبع هذا النظام الاستدلال من الاستنتاجات إلى الافتراضات من خلال عمليات القواعد أو الاستدلالات المنطقية، مما يسمح بتوليد تفسيرات من آثار الاستدلال. على سبيل المثال، لنفترض وجود نظام لحل المشكلات قائم على القواعد، يحتوي على بضع قواعد فقط حول سقراط، ويستنتج أنه مات مسمومًا.

بمجرد تتبع بنية التبعية، يستطيع حلّ المشكلة صياغة التفسير التالي: "مات سقراط لأنه كان فانياً وشرب السم، وكل فانٍ يموت عندما يشرب السم. كان سقراط فانياً لأنه كان إنساناً، وكل إنسان فانٍ. شرب سقراط السم لأنه كان يحمل معتقدات مخالفة، وكانت الحكومة محافظة، ومن يحمل معتقدات مخالفة محافظة في ظل حكومات محافظة لا بد أن يشرب السم." [ 65 ] : 164-165

في تسعينيات القرن الماضي، بدأ الباحثون بدراسة إمكانية استخلاص القواعد غير المكتوبة يدويًا التي تولدها الشبكات العصبية المدربة غير الشفافة، وذلك بطريقة ذات مغزى. [ 66 ] وسعى الباحثون في مجال أنظمة الخبراء السريرية ، الذين ابتكروا أنظمة دعم القرار المدعومة بالشبكات العصبية للأطباء، إلى تطوير تفسيرات ديناميكية تجعل هذه التقنيات أكثر موثوقية وجدارة بالثقة في الممارسة العملية. [ 10 ] وفي العقد الثاني من القرن الحادي والعشرين، ربما أدت المخاوف العامة بشأن التحيز العنصري وغيره من أشكال التحيز في استخدام الذكاء الاصطناعي في قرارات الأحكام الجنائية وتقييم الجدارة الائتمانية إلى زيادة الطلب على الذكاء الاصطناعي الشفاف. [ 8 ] ونتيجة لذلك، يعمل العديد من الأكاديميين والمنظمات على تطوير أدوات للمساعدة في كشف التحيز في أنظمتهم. [ 67 ]

أثار مارفن مينسكي وآخرون مسألة إمكانية استخدام الذكاء الاصطناعي كشكل من أشكال المراقبة، مع ما ينطوي عليه ذلك من تحيزات، مقترحين الذكاء الإنساني كوسيلة لإنشاء ذكاء اصطناعي أكثر عدلاً وتوازناً "يشارك فيه الإنسان". [ 68 ]

أصبح الذكاء الاصطناعي القابل للتفسير مؤخرًا موضوعًا بحثيًا في مجال التعلم العميق . تتسم تقنيات الذكاء الاصطناعي المعقدة الحديثة، مثل التعلم العميق، بالغموض بطبيعتها. [ 69 ] ولمعالجة هذه المشكلة، طُوّرت أساليب لجعل النماذج الجديدة أكثر قابلية للتفسير والتفسير. [ 18 ] [ 70 ] ويشمل ذلك نشر الأهمية الطبقية (LRP)، وهي تقنية لتحديد السمات في متجه إدخال معين التي تُسهم بقوة في مخرجات الشبكة العصبية، [ 71 ] [ 72 ] على الرغم من أن هذه التقنية قد تبين أنها تعاني من عدة مشكلات مهمة. [ 73 ] وتُفسر تقنيات أخرى بعض التنبؤات المحددة التي يُجريها نموذج الصندوق الأسود (غير الخطي)، وهو هدف يُشار إليه باسم "قابلية التفسير المحلية". [ 74 ] [ 75 ] [ 76 ] [ 77 ] [ 78 ] وهناك أيضًا أبحاث حول إمكانية تطبيق مفاهيم قابلية التفسير المحلية على سياق بعيد، حيث يتم تشغيل النموذج بواسطة طرف ثالث. [ 79 ] [ 80 ]

بُذلت جهودٌ لتطوير نماذج "الصندوق الزجاجي" التي تُسهّل عملية الفحص والتحليل. [ 23 ] [ 81 ] ويشمل ذلك أشجار القرار ، [ 82 ] والشبكات البايزية ، والنماذج الخطية المتفرقة ، [ 83 ] وغيرها. [ 84 ] وقد أُنشئ مؤتمر رابطة آلات الحوسبة حول العدالة والمساءلة والشفافية (ACM FAccT) في عام 2018 لدراسة الشفافية وقابلية التفسير في سياق الأنظمة الاجتماعية التقنية، والتي يتضمن العديد منها الذكاء الاصطناعي. [ 85 ] [ 86 ]

تتيح بعض التقنيات تصوير المدخلات التي تستجيب لها الخلايا العصبية البرمجية الفردية بقوة. وقد وجدت عدة مجموعات أنه يمكن تجميع الخلايا العصبية في دوائر تؤدي وظائف يمكن فهمها من قبل الإنسان، بعضها ينشأ بشكل موثوق عبر شبكات مختلفة تم تدريبها بشكل مستقل. [ 87 ] [ 88 ]

توجد تقنيات متنوعة لاستخلاص تمثيلات مضغوطة لخصائص المدخلات المعطاة، والتي يمكن تحليلها لاحقًا باستخدام تقنيات التجميع القياسية . وبدلاً من ذلك، يمكن تدريب الشبكات لإنتاج تفسيرات لغوية لسلوكها، والتي تصبح قابلة للفهم البشري مباشرةً. [ 89 ] كما يمكن تفسير سلوك النموذج بالرجوع إلى بيانات التدريب، على سبيل المثال، من خلال تقييم أي مدخلات التدريب أثرت بشكل أكبر على سلوك معين، [ 90 ] أو من خلال تقريب تنبؤاته باستخدام أكثر الحالات تشابهًا من بيانات التدريب. [ 91 ]

استخدام الذكاء الاصطناعي القابل للتفسير (XAI) في أبحاث الألم، وتحديداً في فهم دور النشاط الكهربائي الجلدي في التعرف الآلي على الألم : الميزات المصممة يدويًا ونماذج التعلم العميق في التعرف على الألم، مع تسليط الضوء على الأفكار التي تفيد بأن الميزات البسيطة المصممة يدويًا يمكن أن تحقق أداءً مماثلاً لنماذج التعلم العميق، وأن كلاً من هندسة الميزات التقليدية وأساليب تعلم الميزات العميقة تعتمد على خصائص بسيطة لبيانات السلاسل الزمنية المدخلة. [ 92 ]

أنظمة

مع ازدياد اعتماد الجهات التنظيمية والهيئات الرسمية والمستخدمين عمومًا على الأنظمة الديناميكية القائمة على الذكاء الاصطناعي، ستبرز الحاجة إلى مزيد من المساءلة في عمليات صنع القرار الآلية لضمان الثقة والشفافية. وكان أول مؤتمر عالمي مخصص لهذا المجال الناشئ هو المؤتمر الدولي المشترك للذكاء الاصطناعي لعام 2017 : ورشة عمل حول الذكاء الاصطناعي القابل للتفسير (XAI). [ 93 ] وقد تطور هذا المؤتمر على مر السنين، حيث نُظمت ورش عمل متنوعة بالتزامن مع العديد من المؤتمرات الدولية الأخرى، وأصبح له الآن حدث عالمي خاص به، وهو "المؤتمر العالمي للذكاء الاصطناعي القابل للتفسير"، وله وقائعه الخاصة. [ 94 ] [ 95 ]

أقرّ الاتحاد الأوروبي حقّ التفسير في اللائحة العامة لحماية البيانات (GDPR) لمعالجة المشكلات المحتملة الناجمة عن تزايد أهمية الخوارزميات. وبدأ تطبيق اللائحة في عام 2018. مع ذلك، يقتصر حقّ التفسير في اللائحة العامة لحماية البيانات على الجانب المحلي من قابلية التفسير. ففي الولايات المتحدة، يُلزم القانون شركات التأمين بتفسير قراراتها المتعلقة بالأسعار والتغطية التأمينية. [ 96 ] وفي فرنسا، يمنح قانون الجمهورية الرقمية الأفراد الحق في طلب وتلقّي معلومات تتعلق بتطبيق الخوارزميات التي تعالج بياناتهم.

القيود

على الرغم من الجهود المستمرة لتعزيز قابلية تفسير نماذج الذكاء الاصطناعي، إلا أنها لا تزال تعاني من العديد من القيود المتأصلة.

الأطراف المتنازعة

إن جعل نظام الذكاء الاصطناعي أكثر قابلية للتفسير يكشف المزيد عن آلياته الداخلية. فعلى سبيل المثال، تحدد طريقة تفسير أهمية الميزات الميزات أو المتغيرات الأكثر أهمية في تحديد مخرجات النموذج، بينما تحدد طريقة العينات المؤثرة عينات التدريب الأكثر تأثيرًا في تحديد المخرجات، بالنظر إلى مدخلات معينة. [ 97 ] ويمكن للأطراف المعادية استغلال هذه المعرفة.

على سبيل المثال، قد تقوم الشركات المنافسة بنسخ جوانب من نظام الذكاء الاصطناعي الأصلي في منتجاتها، مما يقلل من ميزتها التنافسية. [ 98 ] كما أن نظام الذكاء الاصطناعي القابل للتفسير عرضة للتلاعب، أي التأثير عليه بطريقة تقوض الغرض المنشود منه. وتقدم إحدى الدراسات مثالاً على نظام الشرطة التنبؤية؛ ففي هذه الحالة، يكون المجرمون الخاضعون لقرارات النظام هم من قد يتلاعبون به. في هذه الدراسة، ناقش مطورو النظام مسألة سعي العصابات الإجرامية للحصول على جوازات سفر بطرق غير مشروعة، وأعربوا عن مخاوفهم من أنه إذا ما توفرت لديهم فكرة عن العوامل التي قد تُطلق تنبيهًا في عملية تقديم طلب جواز السفر، فسيكون بإمكان هذه العصابات إرسال متطوعين لاختبار هذه التنبيهات، ليجدوا في النهاية ثغرة تسمح لهم بالحصول على جوازات سفر دون علم السلطات. [ 99 ]

التكامل والتفسير التكيفي

تُقدّم العديد من الأساليب المُستخدمة شروحات عامة، دون مراعاة الخلفيات المتنوعة ومستويات المعرفة المختلفة للمستخدمين. يُؤدي هذا إلى صعوبات في الفهم الدقيق لجميع المستخدمين. قد يجد المستخدمون الخبراء الشروحات غير متعمقة ومُبسطة بشكل مُفرط، بينما قد يُواجه المستخدم المبتدئ صعوبة في فهمها نظرًا لتعقيدها. يُقلّل هذا القصور من قدرة تقنيات الذكاء الاصطناعي القابل للتفسير (XAI) على جذب المستخدمين ذوي المستويات المعرفية المختلفة، مما قد يُؤثر على ثقة المستخدمين بها. قد تختلف جودة الشروحات بين المستخدمين نظرًا لاختلاف مستويات خبرتهم، فضلًا عن اختلاف المواقف والظروف. [ 100 ]

التعقيد التقني

يُعدّ التعقيد التقني لأنظمة الذكاء الاصطناعي عائقًا أساسيًا أمام تفسيرها. فغالبًا ما يفتقر المستخدمون النهائيون إلى المعرفة البرمجية اللازمة لفهم أي نوع من البرامج. وتُعتبر الأساليب الحالية المُستخدمة لشرح الذكاء الاصطناعي تقنية في المقام الأول، وموجهة لمهندسي تعلم الآلة لأغراض تصحيح الأخطاء، بدلًا من توجيهها للمستخدمين النهائيين الذين يتأثرون بالنظام في نهاية المطاف، مما يُسبب "فجوة بين التفسير العملي وهدف الشفافية". [ 97 ] وتشمل الحلول المقترحة لمعالجة مشكلة التعقيد التقني إما تعزيز تعليم البرمجة لعامة الناس لتسهيل فهم الشروحات التقنية للمستخدمين النهائيين، أو تقديم شروحات بلغة مبسطة. [ 98 ]

يجب أن يتجنب الحل التبسيط المفرط. من المهم تحقيق توازن بين الدقة - أي مدى دقة الشرح في عكس عملية نظام الذكاء الاصطناعي - وسهولة الفهم - أي مدى استيعاب المستخدمين النهائيين للعملية. هذا توازن صعب، لأن تعقيد التعلم الآلي يجعل من الصعب حتى على مهندسي التعلم الآلي فهمه بالكامل، ناهيك عن غير المتخصصين. [ 97 ]

التفاهم مقابل الثقة

يهدف توفير التفسير للمستخدمين النهائيين لأنظمة الذكاء الاصطناعي إلى تعزيز ثقتهم بهذه الأنظمة، بل وحتى "معالجة المخاوف المتعلقة بانعدام العدالة والآثار التمييزية". [ 98 ] ومع ذلك، حتى مع الفهم الجيد لنظام الذكاء الاصطناعي، قد لا يثق المستخدمون النهائيون به بالضرورة. [ 101 ] في إحدى الدراسات، عُرض على المشاركين مزيج من التفسيرات ذات الصندوق الأبيض والصندوق الأسود، بالإضافة إلى التفسيرات الثابتة والتفاعلية لأنظمة الذكاء الاصطناعي. ورغم أن هذه التفسيرات ساهمت في زيادة فهمهم الذاتي والموضوعي، إلا أنها لم تؤثر على مستوى ثقتهم، الذي ظل متشككًا. [ 102 ]

كانت هذه النتيجة صحيحة بشكل خاص بالنسبة للقرارات التي تؤثر على المستخدم النهائي بشكل كبير، مثل القبول في الدراسات العليا. فقد رأى المشاركون أن الخوارزميات غير مرنة وغير متسامحة مقارنةً بصانعي القرار البشريين؛ فبدلاً من الالتزام الصارم بمجموعة من القواعد، يستطيع البشر النظر في الحالات الاستثنائية والرجوع إلى قرارهم الأولي. [ 102 ] بالنسبة لمثل هذه القرارات، فإن قابلية التفسير لن تدفع المستخدمين النهائيين بالضرورة إلى قبول استخدام خوارزميات صنع القرار.

مع ذلك، يؤكد البعض أن الغرض من قابلية تفسير الذكاء الاصطناعي ليس مجرد زيادة ثقة المستخدمين بقرارات النظام، بل ضبط مستوى ثقة المستخدمين إلى المستوى الأمثل. [ 103 ] ووفقًا لهذا المبدأ، فإن الإفراط في ثقة المستخدمين بنظام الذكاء الاصطناعي أو نقصها سيؤثر سلبًا على الأداء العام للوحدة البشرية-النظامية. فعندما تكون الثقة مفرطة، لا يُبدي المستخدمون نقدًا للأخطاء المحتملة للنظام، وعندما تكون ثقتهم بالنظام منخفضة، فلن يستفيدوا من مزاياه الكامنة.

نقد

اقترح بعض الباحثين أن تُعتبر قابلية التفسير في الذكاء الاصطناعي هدفًا ثانويًا مقارنةً بفعاليته، وأن تشجيع التطوير الحصري للذكاء الاصطناعي القابل للتفسير (XAI) قد يُحدّ من وظائف الذكاء الاصطناعي على نطاق أوسع. [ 104 ] [ 105 ] وتستند الانتقادات الموجهة للذكاء الاصطناعي القابل للتفسير إلى مفاهيم متطورة من الاستدلال الآلي والتجريبي في الطب القائم على الأدلة، للإشارة إلى إمكانية التحقق من صحة تقنيات الذكاء الاصطناعي سريريًا حتى عندما يتعذر على مُشغّليها فهم وظائفها. [ 104 ]

يدعو بعض الباحثين إلى استخدام نماذج التعلم الآلي القابلة للتفسير بطبيعتها، بدلاً من استخدام التفسيرات اللاحقة التي يتم فيها إنشاء نموذج ثانٍ لتفسير النموذج الأول. ويعود ذلك جزئياً إلى أن النماذج اللاحقة تزيد من تعقيد مسار اتخاذ القرار، وجزئياً إلى أنه غالباً ما يكون من غير الواضح مدى دقة محاكاة التفسير اللاحق لحسابات نموذج منفصل تماماً. [ 23 ] مع ذلك، يرى آخرون أن الأهم هو أن يحقق التفسير المهمة المرجوة، ولا يهم إن كان سابقاً أم لاحقاً. فإذا ساعدت طريقة التفسير اللاحق الطبيب على تشخيص السرطان بشكل أفضل، فإن صحة التفسير من عدمها تصبح ذات أهمية ثانوية.

تتمثل أهداف الذكاء الاصطناعي القابل للتفسير (XAI) في شكل من أشكال الضغط مع فقدان البيانات ، والذي سيقلّ فعاليته مع ازدياد عدد معايير نماذج الذكاء الاصطناعي. ويؤدي هذا، إلى جانب عوامل أخرى، إلى حد نظري للتفسير. [ 106 ]

إمكانية التفسير في الاختيار الاجتماعي

تمت دراسة قابلية التفسير أيضًا في نظرية الاختيار الاجتماعي . تهدف هذه النظرية إلى إيجاد حلول لمشاكل اتخاذ القرارات الاجتماعية، استنادًا إلى بديهيات راسخة. يوضح أرييل د. بروكاسيا [ 107 ] أن هذه البديهيات يمكن استخدامها لبناء تفسيرات مقنعة للحلول. وقد استُخدم هذا المبدأ لبناء تفسيرات في مختلف فروع نظرية الاختيار الاجتماعي.

التصويت

يقدم كايو وإندريس [ 108 ] طريقة لشرح قواعد التصويت باستخدام البديهيات التي تميزها. ويقدمان مثالاً على طريقتهما من خلال قاعدة بوردا للتصويت .

يقدم بيترز، بروكاسيا، بسوماس وتشو [ 109 ] خوارزمية لشرح نتائج قاعدة بوردا باستخدام تفسيرات O( m2 ) ، ويثبتون أن هذا محكم في أسوأ الحالات.

الميزانية التشاركية

قدم يانغ، هاوسلادن، بيترز، بورناراس، فريكر، وهيلبينغ [ 110 ] دراسة تجريبية حول قابلية التفسير في الميزانية التشاركية . قارنوا بين قاعدتي التوزيع الجشع والتوزيع المتساوي ، وثلاثة أنواع من التفسيرات: التفسير الآلي (شرح عام لكيفية عمل قاعدة التجميع بناءً على مدخلات التصويت)، والتفسير الفردي (شرح عدد الناخبين الذين وافقوا على مشروع واحد على الأقل، بقيمة لا تقل عن 10000 فرنك سويسري في المشاريع المعتمدة)، والتفسير الجماعي (شرح كيفية توزيع الميزانية بين المناطق والمواضيع). قارنوا مستوى الثقة والعدالة المتصورة في قاعدتي التوزيع الجشع والتوزيع المتساوي، قبل وبعد التفسيرات. ووجدوا أنه بالنسبة للتوزيع المتساوي، يحقق التفسير الآلي أعلى زيادة في مستوى العدالة والثقة المتصورة؛ يليه التفسير الجماعي. أما بالنسبة للتوزيع الجشع، فيزيد التفسير الآلي من مستوى الثقة المتصورة دون أن يؤثر على مستوى العدالة، بينما يزيد التفسير الفردي من كليهما. في حين أن التفسير الجماعي يقلل من مستوى العدالة والثقة المتصورة.

تخصيص العوائد

يقدم نيزري وأزاريا وهازون [ 111 ] خوارزمية لحساب تفسيرات قيمة شابلي . عند إعطاء لعبة تحالفية، تقوم خوارزميتهم بتقسيمها إلى ألعاب فرعية، يسهل توليد تفسيرات لفظية لها استنادًا إلى البديهيات التي تميز قيمة شابلي. يُنظر إلى توزيع العوائد لكل لعبة فرعية على أنه عادل، لذا من المفترض أن يبدو توزيع العوائد القائم على قيمة شابلي للعبة المعطاة عادلاً أيضًا. تُظهر تجربة أُجريت على 210 مشاركين بشريين أن المشاركين، مع التفسيرات المولدة تلقائيًا، يرون توزيع العوائد القائم على قيمة شابلي أكثر عدلاً بشكل ملحوظ من التفسير القياسي العام.

انظر أيضاً

مراجع

  1. ↑ لونغو، لوكا؛ وآخرون  (2024). "الذكاء الاصطناعي القابل للتفسير (XAI) 2.0: بيان للتحديات المفتوحة واتجاهات البحث متعددة التخصصات" . دمج المعلومات . 106 102301. arXiv : 2310.19775 . doi : 10.1016/j.inffus.2024.102301 .
  2. ^ ميهالي ، حيدر (2023). "الذكاء الاصطناعي القابل للتفسير: تاريخ موجز للمفهوم" (PDF) . أخبار إرسيم (١٣٤): ٩-١٠ .
  3. ↑ فيليبس، ب. جوناثون؛ هان، كارينا أ.؛ فونتانا، بيتر س.؛ ييتس، إيمي ن.؛ غرين، كريستين؛ برونياتوفسكي، ديفيد أ.؛ برزيبوكي، مارك أ. (29-09-2021). "أربعة مبادئ للذكاء الاصطناعي القابل للتفسير" . المعهد الوطني للمعايير والتكنولوجيا . doi : 10.6028/nist.ir.8312 .
  4. ↑ فيلوني، جوليا؛ لونغو، لوكا (2021). "مفاهيم قابلية التفسير ومناهج التقييم للذكاء الاصطناعي القابل للتفسير" . دمج المعلومات . 76 : 89-106 . Bibcode : 2021InfFu..76...89V . doi : 10.1016/j.inffus.2021.05.009 .
  5. 1 2 كونفالونييري، روبرتو؛ كوبا، لودوفيك؛ فاغنر، بينيديكت؛ بيسولد، طارق ر. (يناير 2021). "منظور تاريخي للذكاء الاصطناعي القابل للتفسير" . مجلة WIREs لاستخراج البيانات واكتشاف المعرفة . 11 (1) e1391. doi : 10.1002/widm.1391 . hdl : 11577/3471605 .
  6. ^ وانغ ، شين. قريشي، م. عاطف؛ ميراليس بيتشوان، لويس؛ هيونه-ذا، ثين؛ جاديكالو، تيبا ريدي؛ لياناج، مادوسانكا (2024). "الذكاء الاصطناعي المفسر لحالات استخدام الجيل السادس: الجوانب التقنية وتحديات البحث" . مجلة IEEE المفتوحة لمجتمع الاتصالات . 5 : 2490– 2540. بيب كود : 2024IOJCS...5.2490W . دوى : 10.1109/OJCOMS.2024.3386872 . ISSN 2644-125X . 
  7. ↑ كاستلفيكي، دافيد (2016-10-06). "هل يمكننا فتح الصندوق الأسود للذكاء الاصطناعي؟" . مجلة نيتشر . 538 (7623): 20-23 . Bibcode : 2016Natur.538...20C . doi : 10.1038/538020a . ISSN 0028-0836 . PMID 27708329. S2CID 4465871 .   
  8. 1 2 3 سامبل، إيان (5 نوفمبر 2017). "الحاسوب يقول لا: لماذا يُعدّ جعل الذكاء الاصطناعي عادلاً وخاضعاً للمساءلة وشفافاً أمراً بالغ الأهمية" . صحيفة الغارديان . تاريخ الاطلاع: 30 يناير 2018 .
  9. ↑ علي زاده، فاطمة (2021). "لا أعرف، هل يُستخدم الذكاء الاصطناعي أيضًا في الوسائد الهوائية؟: دراسة تجريبية للمفاهيم الشعبية وتوقعات الناس من الذكاء الاصطناعي الحالي والمستقبلي" . مجلة Icom . 20 (1): 3-17 . doi : 10.1515/icom-2021-0009 . S2CID 233328352 . 
  10. 1 2 إدواردز، ليليان؛ فيل، مايكل (2017). "هل أنت أسير الخوارزمية؟ لماذا قد لا يكون "الحق في التفسير" هو الحل الذي تبحث عنه؟". مجلة ديوك للقانون والتكنولوجيا . 16 : 18. SSRN 2972855 . 
  11. ↑ دو كوتو، مارك (22 فبراير 2024). "دخول عصر الذكاء الاصطناعي القابل للتفسير" . TDWI . تم الاسترجاع في 11 سبتمبر 2024 .
  12. 1 2 غانينغ، د.؛ ستيفيك، م.؛ تشوي، ج.؛ ميلر، ت.؛ ستامبف، س.؛ يانغ، ج.-ز. (18-12-2019). "XAI - الذكاء الاصطناعي القابل للتفسير" . مجلة ساينس روبوتكس . 4 (37) eaay7120. doi : 10.1126/scirobotics.aay7120 . ISSN 2470-9476 . PMID 33137719 .  
  13. ↑ ريغ، ثيلو؛ فريك، يانيك؛ باومغارتل، هيرمان؛ بوتنر، ريكاردو (17 ديسمبر 2020). "إثبات إمكانات أساليب التعلم الآلي ذات الصندوق الأبيض لاستخلاص رؤى من تخطيطات كهربية القلب لأمراض القلب والأوعية الدموية" . PLOS ONE . 15 (12) e0243615. Bibcode : 2020PLoSO..1543615R . doi : 10.1371/ journal.pone.0243615 . ISSN 1932-6203 . PMC 7746264. PMID 33332440 .   
  14. ↑ فيلوني، جوليا؛ لونغو، لوكا (2021). "تصنيف أساليب الذكاء الاصطناعي القابلة للتفسير من خلال تنسيقات مخرجاتها" . التعلم الآلي واستخلاص المعرفة . 3 (3): 615-661 . doi : 10.3390/make3030032 .
  15. ↑ لويولا-غونزاليس، أ. (2019). "الصندوق الأسود مقابل الصندوق الأبيض: فهم مزاياهما وعيوبهما من وجهة نظر عملية" . IEEE Access . 7 : 154096–154113 . Bibcode : 2019IEEEA...7o4096L . doi : 10.1109/ACCESS.2019.2949286 . ISSN 2169-3536 . 
  16. 1 2 روشر، ر.؛ بون، ب.؛ دوارتي، م. ف.؛ غاركي، ج. (2020). " التعلم الآلي القابل للتفسير من أجل رؤى واكتشافات علمية" . IEEE Access . 8 : 42200-42216 . arXiv : 1905.08883 . Bibcode : 2020IEEEA...842200R . doi : 10.1109/ACCESS.2020.2976199 . ISSN 2169-3536 . 
  17. ↑ ميردوخ، دبليو. جيمس؛ سينغ، تشاندان؛ كومبير، كارل؛ عباسي أصل، رضا؛ يو، بن (14 يناير 2019). "التعلم الآلي القابل للتفسير: التعريفات والأساليب والتطبيقات" . وقائع الأكاديمية الوطنية للعلوم في الولايات المتحدة الأمريكية . 116 (44): 22071-22080 . arXiv : 1901.04592 . doi : 10.1073 / pnas.1900654116 . PMC 6825274. PMID 31619572 .  
  18. ليبتون ، زاكاري سي. (يونيو 2018). "أسطورة قابلية تفسير النموذج: في التعلم الآلي، يُعد مفهوم قابلية التفسير مهمًا ومراوغًا في آنٍ واحد" . مجلة ACM Queue . 16 (3): 31-57 . arXiv : 1606.03490 . doi : 10.1145/3236386.3241340 . ISSN 1542-7730 . 
  19. ↑ "الذكاء الاصطناعي القابل للتفسير (XAI): المفاهيم والتصنيفات والفرص والتحديات نحو ذكاء اصطناعي مسؤول" . DeepAI . 22 أكتوبر 2019. تاريخ الاسترجاع: 13 يناير 2021 .
  20. ↑ مونتافون، غريغوار؛ ساميك، فويتش؛ مولر، كلاوس-روبرت (2018-02-01). "طرق تفسير وفهم الشبكات العصبية العميقة" . معالجة الإشارات الرقمية . 73 : 1-15 . arXiv : 1706.07979 . Bibcode : 2018DSP....73....1M . doi : 10.1016/j.dsp.2017.10.011 . ISSN 1051-2004 . 
  21. ↑ نوتوفيتش، أفيف، تشالوتز-بن غال، هيلا، وبن غال، إيراد (2023). "الذكاء الاصطناعي القابل للتفسير (XAI): الدافع والمصطلحات والتصنيف" (ملف PDF) . في كتاب "دليل تعلم الآلة لعلوم البيانات: دليل استخراج البيانات واكتشاف المعرفة" (ص 971-985). تشام: دار نشر سبرينغر الدولية.{{cite web}}: صيانة CS1: أسماء متعددة: قائمة المؤلفين ( رابط ) صيانة CS1: أسماء رقمية: قائمة المؤلفين ( رابط )
  22. ↑ أدادي، أ.؛ برادة، م. (2018). "نظرة خاطفة داخل الصندوق الأسود: دراسة استقصائية حول الذكاء الاصطناعي القابل للتفسير (XAI)" . IEEE Access . 6 : 52138-52160 . Bibcode : 2018IEEEA...652138A . doi : 10.1109/ACCESS.2018.2870052 . ISSN 2169-3536 . 
  23. 1 2 3 رودين، سينثيا (2019). "توقفوا عن شرح نماذج التعلم الآلي المبهمة لاتخاذ القرارات المصيرية، واستخدموا بدلاً منها نماذج قابلة للتفسير" . مجلة نيتشر للذكاء الآلي . 1 (5): 206-215 . arXiv : 1811.10154 . doi : 10.1038/s42256-019-0048-x . ISSN 2522-5839 . PMC 9122117. PMID 35603010 .   
  24. ↑ كوه، بي دبليو؛ نغوين، تي؛ تانغ، واي إس؛ موسمان، إس؛ بيرسون، إي؛ كيم، بي؛ ليانغ، بي (نوفمبر 2020). "نماذج عنق الزجاجة المفاهيمية". المؤتمر الدولي للتعلم الآلي . PMLR. ص 5338-5348 . 
  25. ↑ لودان، جيه إم؛ ليو، كيو؛ يانغ، واي؛ دوغان، إل؛ ياتسكار، إم؛ كاليسون-بيرش، سي. (2023). "تصنيف النصوص القابل للتفسير بالتصميم مع عنق الزجاجة المفاهيمي المُولّد تكراريًا". arXiv : 2310.19660 [ cs.CL ].
  26. ↑ وينينجر، سيمون؛ كايماكجي، كان؛ ويث، كريستيان (2022). "التنبؤ باستهلاك الطاقة في المباني على المدى الطويل باستخدام QLattice". الطاقة التطبيقية . 308 118300. إلسيفير بي في. Bibcode : 2022ApEn..30818300W . doi : 10.1016/j.apenergy.2021.118300 . ISSN 0306-2619 . S2CID 245428233 .  
  27. ↑ كريستيانسن، مايكل؛ ويلستروب، كاسبر؛ هيدلي، بولا ل. (2022). "التعلم الآلي القابل للتفسير "الصندوق الأبيض" هو السبيل الأمثل لفحص تسمم الحمل". المجلة الأمريكية لأمراض النساء والتوليد . 227 (5). إلسيفير بي في: 791. doi : 10.1016/j.ajog.2022.06.057 . ISSN 0002-9378 . PMID 35779588. S2CID 250160871 .   
  28. ↑ ويلستوب، كاسبر؛ كيف، كريس (2022). "دمج الانحدار الرمزي مع نموذج كوكس للمخاطر النسبية يحسن التنبؤ بوفيات قصور القلب" . مجلة BMC للمعلوماتية الطبية وصنع القرار . 22 (1) 196. doi : 10.1186/s12911-022-01943-1 . medRxiv 10.1101/2021.01.15.21249874 . PMC 9316394. PMID 35879758 .   
  29. ↑ "كيف يكشف محققو الذكاء الاصطناعي أسرار التعلم العميق" . مجلة ساينس . 5 يوليو 2017. تاريخ الاطلاع: 30 يناير 2018 ..
  30. ^ دوسيلوفيتش ، فيليب. برتشيتش، ماريو؛ هلوبيتش ، نيكيكا (25/05/2018). “الذكاء الاصطناعي القابل للتفسير: مسح” (PDF) . MIPRO 2018 - وقائع الاتفاقية الدولية الحادية والأربعين . ميبرو 2018. أوباتيا، كرواتيا. ص 210 – 215. دوى : 10.23919/MIPRO.2018.8400040 . رقم ISBN  978-953-233-095-3أُرشف من النسخة الأصلية (PDF) بتاريخ 10 ديسمبر 2018. تم الاطلاع عليه بتاريخ 9 ديسمبر 2018 .
  31. ↑ برنال، خوسيه؛ مازو، كلوديا (11 أكتوبر 2022). "شفافية الذكاء الاصطناعي في الرعاية الصحية: رؤى من متخصصين في الحوسبة والرعاية الصحية حول العالم" . العلوم التطبيقية . 12 (20) 10228. doi : 10.3390/app122010228 . ISSN 2076-3417 . 
  32. ↑ أنطونيادي، آنا ماركيلا؛ دو، يوهان؛ غيندو، ياسمين؛ وي، لان؛ مازو، كلوديا؛ بيكر، بريت أ.؛ موني، كاثرين (يناير 2021). "التحديات الحالية والفرص المستقبلية للذكاء الاصطناعي القابل للتفسير في أنظمة دعم القرار السريري القائمة على التعلم الآلي: مراجعة منهجية" . العلوم التطبيقية . 11 (11): 5088. Bibcode : 2021ApSci..11.5088A . doi : 10.3390/app11115088 . ISSN 2076-3417 . 
  33. ↑ نور، عبد العزيز؛ منظور، أويس؛ مظهر قريشي، محمد ديدهوار؛ قريشي، م. عاطف؛ رشوان، وائل (يونيو 2025). "الكشف عن الذكاء الاصطناعي القابل للتفسير في الرعاية الصحية: الاتجاهات الحالية والتحديات والتوجهات المستقبلية" . مجلة WIREs لاستخراج البيانات واكتشاف المعرفة . 15 (2) e70018. doi : 10.1002/widm.70018 . ISSN 1942-4787 . 
  34. ↑ "لدى ديب مايند اختبارات بسيطة قد تمنع كارثة الذكاء الاصطناعي التي تنبأ بها إيلون ماسك" . بلومبيرغ.كوم . ١١ ديسمبر ٢٠١٧. تم الاطلاع عليه بتاريخ ٣٠ يناير ٢٠١٨ .
  35. ↑ "التعلم من تفضيلات الإنسان" . مدونة OpenAI . 13 يونيو 2017. تم الاطلاع عليه في 30 يناير 2018 .
  36. ↑ "الذكاء الاصطناعي القابل للتفسير (XAI)" . داربا . تم الاطلاع عليه بتاريخ 17 يوليو 2017 .
  37. ↑ بيتشيك، برزيميسلاف (23 يونيو 2018). "داليكس: أدوات تفسير النماذج التنبؤية المعقدة". مجلة أبحاث تعلم الآلة . 19 : 1-5 . arXiv : 1806.08915 .
  38. ↑ راي، أرون. "الذكاء الاصطناعي القابل للتفسير: من الصندوق الأسود إلى الصندوق الزجاجي." مجلة أكاديمية علوم التسويق 48 (2020): 137-141.
  39. ↑ سوكول، كاسبر؛ فلاخ، بيتر (2018). "الصندوق الزجاجي: شرح قرارات الذكاء الاصطناعي باستخدام عبارات افتراضية من خلال محادثة مع مساعد افتراضي يعمل بالصوت". وقائع المؤتمر الدولي المشترك السابع والعشرين حول الذكاء الاصطناعي . الصفحات 5868-5870 . doi : 10.24963/ijcai.2018/865 . ISBN  978-0-9992411-2-7. S2CID 51608978 . 
  40. ↑ برونياتوفسكي، ديفيد أ. (2021). "الأسس النفسية للتفسير والتفسير في الذكاء الاصطناعي" . منشورات المعهد الوطني للمعايير والتكنولوجيا .
  41. 1 2 ISO/IEC TR 29119-11:2020، هندسة البرمجيات والأنظمة، اختبار البرمجيات، الجزء 11: إرشادات حول اختبار الأنظمة القائمة على الذكاء الاصطناعي . ISO . 2020. تم الاطلاع عليه بتاريخ 25 نوفمبر 2023 .
  42. ↑ فيرما، يوجيش (25 ديسمبر 2021). "دليل شامل لـ SHAP - شروحات SHAPley الإضافية للممارسين" . مجلة Analytics India . تاريخ الاسترجاع: 10 يوليو 2024 .
  43. ↑ روثمان، دينيس (2020-10-07). "استكشاف تفسيرات LIME والرياضيات الكامنة وراءها" . مجلة Codemotion . تم الاطلاع عليه بتاريخ 10-07-2024 .
  44. ↑ كريستيان، برايان (2020). "أخبرني بكل شيء: شبكات المهام المتعددة". مشكلة المواءمة : التعلم الآلي والقيم الإنسانية . دبليو دبليو نورتون وشركاه. ISBN 978-0-393-86833-3.
  45. ↑ شارما، أبهيشيك (11 يوليو 2018). "ما هي خرائط التمييز في التعلم العميق؟" . مجلة التحليلات الهندية . تم الاطلاع عليه بتاريخ 10 يوليو 2024 .
  46. ↑ لو، هاويان؛ سبيسيا، لوسيا (2024-02-21). "من الفهم إلى الاستخدام: دراسة استقصائية حول قابلية التفسير لنماذج اللغة الكبيرة". arXiv : 2401.12874 [ cs.CL ].
  47. ↑ أنانثاسوامي، أنيل (12 أبريل 2024). "كيف تفهم الآلات البيانات؟" . مجلة كوانتا . تاريخ الاسترجاع: 21 يناير 2025 .
  48. ↑ غارسيا-كاراسكو، ج.؛ ماتي، أ.؛ تروخيو، ج. س. (2024). "كيف يتنبأ نموذج GPT-2 بالاختصارات؟ استخلاص وفهم الدائرة من خلال قابلية التفسير الآلي". وقائع المؤتمر الدولي حول الذكاء الاصطناعي والإحصاء . وقائع بحوث التعلم الآلي. ص 3322-3330 . arXiv : 2405.04156 . 
  49. ↑ "التفسير الآلي لسلامة الذكاء الاصطناعي - مراجعة" . TMLR . 2024.
  50. ↑ روبيك، لوكاس (21-05-2024). "بحث أنثروبي جديد يُلقي الضوء على "الصندوق الأسود" للذكاء الاصطناعي"" . جيزمودو . تم الاسترجاع في 23-05-2024 .
  51. ↑ بيريجو، بيلي (21 مايو 2024). "الذكاء الاصطناعي صندوق أسود. ربما ليس لفترة طويلة" . مجلة تايم . تم الاطلاع عليه بتاريخ 24 مايو 2024 .
  52. ↑ باربر، غريغوري. "داخل 'الصندوق الأسود' للشبكة العصبية" . وايرد . ISSN 1059-1028 . تاريخ الاسترجاع: 10 يوليو 2024 . 
  53. ↑ جيفا، م.؛ شوستر، ر.؛ بيرانت، ج.؛ ليفي، أ. (نوفمبر 2021). "طبقات التغذية الأمامية للمحولات هي ذاكرة مفتاح-قيمة". وقائع مؤتمر 2021 حول الأساليب التجريبية في معالجة اللغة الطبيعية . الصفحات 5484-5495 . arXiv : 2012.14913 . doi : 10.18653/v1/2021.emnlp-main.446 . {{cite book}}: صيانة CS1: أسماء متعددة: قائمة المؤلفين ( رابط )
  54. ↑ مينغ، ك.؛ باو، د.؛ أندونيان، أ.؛ بيلينكوف، ي. (2022). "تحديد وتعديل الارتباطات الواقعية في GPT" . التقدم في أنظمة معالجة المعلومات العصبية . 35 : 17359-17372 . ISBN 978-1-7138-7108-8.{{cite journal}}: صيانة CS1: أسماء متعددة: قائمة المؤلفين ( رابط )
  55. ↑ هاس، ب.؛ بانسال، م.؛ كيم، ب.؛ غانديهاريون، أ. (2023). "هل يُفيد التوطين في التحرير؟ اختلافات مُفاجئة بين التوطين القائم على السببية وتحرير المعرفة في نماذج اللغة" . التطورات في أنظمة معالجة المعلومات العصبية . 36 : 17643-17668 .{{cite journal}}: صيانة CS1: أسماء متعددة: قائمة المؤلفين ( رابط )
  56. ↑ ماكغراث، ت.؛ راتز، م.؛ كرامار، ج.؛ ميكوليك، ف.؛ ليغ، س. (2023). "تأثير الهيدرا: الإصلاح الذاتي الناشئ في حسابات نموذج اللغة 2307.15771". arXiv : 2307.15771 [ cs.LG ].{{cite arXiv}}: صيانة CS1: أسماء متعددة: قائمة المؤلفين ( رابط )
  57. 1 2 كاتز، س.؛ بيلينكوف، ي. (2023). "VISIT: تصور وتفسير تدفق المعلومات الدلالية للمحولات". نتائج رابطة اللغويات الحاسوبية: EMNLP 2023 : 14094-14113 . doi : 10.18653/v1/2023.findings-emnlp.939 .{{cite journal}}: صيانة CS1: أسماء متعددة: قائمة المؤلفين ( رابط )
  58. ↑ فاجان، إل إم؛ شورتليف، إي إتش؛ بوكانان، بي جي (1980). "اتخاذ القرارات الطبية باستخدام الحاسوب: من مايسين إلى في إم". أوتوميديكا . 3 (2): 97-108 .
  59. ↑ كلانسي، ويليام (1987). التدريس القائم على المعرفة: برنامج GUIDON . كامبريدج، ماساتشوستس: مطبعة معهد ماساتشوستس للتكنولوجيا.
  60. ↑ براون، جون س.؛ بيرتون، ر. ر.؛ دي كلير، يوهان (1982). "التقنيات التربوية، وتقنيات اللغة الطبيعية، وتقنيات هندسة المعرفة في SOPHIE I وII وIII". أنظمة التدريس الذكية . دار النشر الأكاديمية. ISBN 0-12-648680-8.
  61. ↑ باريس، راي؛ بورتر، بروس؛ وير، كريغ؛ هولت، روبرت (1990). "بروتوس: متدرب تعلم قائم على الأمثلة". تعلم الآلة . المجلد 3. دار مورغان كوفمان للنشر. الصفحات 112-139 . ISBN   1-55860-119-8.
  62. 1 2 باريس، راي (1989). اكتساب المعرفة القائم على الأمثلة: منهج موحد لتمثيل المفاهيم وتصنيفها وتعلمها . وجهات نظر في الذكاء الاصطناعي. دار النشر الأكاديمية .
  63. ↑ فان لينت، م.؛ فيشر، و.؛ مانكوسو، م. (يوليو 2004). "نظام ذكاء اصطناعي قابل للتفسير لسلوك الوحدات الصغيرة التكتيكي". وقائع المؤتمر الوطني للذكاء الاصطناعي . سان خوسيه، كاليفورنيا: مطبعة AAAI. ص 900-907 . ISBN  0-262-51183-5.
  64. ↑ راسل، ستيوارت؛ نورفيج، بيتر (2003). الذكاء الاصطناعي: منهج حديث . سلسلة برنتيس هول في الذكاء الاصطناعي ( الطبعة الثانية). أبر سادل ريفر، نيو جيرسي: برنتيس هول، بيرسون إديوكيشن. ISBN  0-13-790395-2.
  65. ^ فوربس، كينيث. دي كلير، يوهان (1993). بناء حلول المشكلات . كامبريدج، ماساتشوستس: مطبعة معهد ماساتشوستس للتكنولوجيا. رقم ISBN 0-262-06157-0.
  66. ↑ تيكل، أ.ب.؛ أندروز، ر.؛ غوليا، م.؛ ديدريش، ج. (نوفمبر 1998). "ستظهر الحقيقة: اتجاهات وتحديات في استخلاص المعرفة المضمنة في الشبكات العصبية الاصطناعية المدربة". معاملات IEEE في الشبكات العصبية . 9 (6): 1057-1068 . Bibcode : 1998ITNN....9.1057T . doi : 10.1109 / 72.728352 . ISSN 1045-9227 . PMID 18255792. S2CID 11111578 .   
  67. ↑ "أكسنتشر تكشف عن أداة لمساعدة الشركات على ضمان نزاهة الذكاء الاصطناعي لديها" . بلومبيرغ.كوم . يونيو 2018. تم الاطلاع عليه بتاريخ 5 أغسطس 2018 .
  68. ↑ مينسكي وآخرون، "مجتمع المراقبة الذكية" IEEE ISTAS2013، الصفحات 13-17.
  69. ↑ موخيرجي، سيدهارتا (27 مارس 2017). "الذكاء الاصطناعي في مواجهة الطب البشري". مجلة نيويوركر . تم الاطلاع عليه بتاريخ 30 يناير 2018 .
  70. ^ دومبي، جوزيف. سيزار، أورسوليا (2021). شبكات عصبية قابلة للتفسير تعتمد على المنطق الضبابي وأدوات اتخاذ القرار متعددة المعايير . دراسات في الغموض والحوسبة الناعمة. المجلد. 408. دوى : 10.1007/978-3-030-72280-7 . رقم ISBN  978-3-030-72279-1ISSN 1434-9922 . S2CID 233486978 .​  
  71. ↑ باخ، سيباستيان؛ بيندر، ألكسندر؛ مونتافون، غريغوار؛ كلاوشين، فريدريك؛ مولر، كلاوس-روبرت ؛ ساميك، فويتش (10 يوليو 2015). سواريز، أوسكار دينيز (محرر). "حول تفسيرات على مستوى البكسل لقرارات المصنف غير الخطي من خلال نشر الصلة على مستوى الطبقات" . PLOS ONE . 10 (7) e0130140. Bibcode : 2015PLoSO..1030140B . doi : 10.1371/journal.pone.0130140 . ISSN 1932-6203 . PMC 4498753. PMID 26161953 .   
  72. ↑ سامبل، إيان (5 نوفمبر 2017). "الحاسوب يقول لا: لماذا يُعدّ جعل الذكاء الاصطناعي عادلاً وخاضعاً للمساءلة وشفافاً أمراً بالغ الأهمية" . صحيفة الغارديان . تم الاطلاع عليه بتاريخ 5 أغسطس 2018 .
  73. ↑ سيكست، ليون؛ لاندغراف، تيم (9 نوفمبر 2022). "دراسة معمقة لتحليل تايلور العميق" . معاملات أبحاث التعلم الآلي . arXiv : 2211.08425 . تم الاطلاع عليه بتاريخ 13 نوفمبر 2025 .
  74. ↑ مارتنز، ديفيد؛ بروفوست، فوستر (2014). "شرح تصنيفات المستندات القائمة على البيانات" (ملف PDF) . مجلة نظم المعلومات الإدارية الفصلية . 38 : 73-99 . doi : 10.25300/MISQ/2014/38.1.04 . S2CID 14238842 . 
  75. ↑ لوندبيرغ، سكوت م؛ لي، سو-إن (2017)، غويون، آي؛ لوكسبورغ، يو في؛ بينجيو، إس؛ والاش، إتش (محررون)، "نهج موحد لتفسير تنبؤات النموذج" (ملف PDF) ، التطورات في أنظمة معالجة المعلومات العصبية 30 ، كوران أسوشيتس، ص 4765-4774 ، arXiv : 1705.07874 ، تاريخ الاسترجاع 13 مارس 2020 
  76. ↑ كارتر، براندون؛ مولر، جوناس؛ جاين، سيدهارتا؛ جيفورد، ديفيد (11 أبريل 2019). "ما الذي دفعك إلى القيام بذلك؟ فهم قرارات الصندوق الأسود باستخدام مجموعات فرعية كافية من المدخلات" . المؤتمر الدولي الثاني والعشرون حول الذكاء الاصطناعي والإحصاء : 567-576 .
  77. ↑ شريكومار، أفانتي؛ جرينسايد، بيتون؛ كونداجي، أنشول (17-07-2017). "تعلم السمات المهمة من خلال نشر اختلافات التنشيط" . المؤتمر الدولي للتعلم الآلي : 3145-3153 .
  78. ↑ سونداراراجان، موكوند؛ تالي، أنكور؛ يان، تشيتشي (6 أغسطس 2017). "الإسناد البديهي للشبكات العميقة" . وقائع المؤتمر الدولي الرابع والثلاثين للتعلم الآلي : 3319-3328 . arXiv : 1703.01365 . تاريخ الاسترجاع : 13 مارس 2020 .
  79. ↑ لو ميرير، إروان؛ تريدان، جيل (سبتمبر 2020). "التفسير عن بُعد يواجه مشكلة الحارس" . مجلة نيتشر للذكاء الآلي . 2 (9): 529-539 . arXiv : 1910.01432 . doi : 10.1038/s42256-020-0216-z . ISSN 2522-5839 . S2CID 225207140 .  
  80. ↑ أيفودجي، أولريش؛ أراي، هيرومي؛ فورتينو، أوليفييه؛ غامبس، سيباستيان؛ هارا، ساتوشي؛ تاب، آلان (24 مايو 2019). "التسويق العادل: خطر التبرير" . المؤتمر الدولي للتعلم الآلي . PMLR: 161-170 . arXiv : 1901.09749 .
  81. ↑ سينغ، تشاندان؛ ناصري، كيان؛ تان، يان شو؛ تانغ، تيفاني؛ يو، بين (4 مايو 2021). "imodels: حزمة بايثون لتركيب نماذج قابلة للتفسير" . مجلة البرمجيات مفتوحة المصدر . 6 (61): 3192. Bibcode : 2021JOSS....6.3192S . doi : 10.21105/joss.03192 . ISSN 2475-9066 . S2CID 235529515 .  
  82. ↑ فيدال، تيبو؛ شيفر، ماكسيميليان (2020). "مجموعات الأشجار المُعاد بناؤها" . المؤتمر الدولي للتعلم الآلي . 119. PMLR: 9743–9753 . arXiv : 2003.11132 .
  83. ↑ أستون، بيرك؛ رودين، سينثيا (1 مارس 2016). "نماذج الأعداد الصحيحة الخطية فائقة التباعد لأنظمة التقييم الطبي المُحسَّنة" . تعلّم الآلة . 102 (3): 349-391 . arXiv : 1502.04269 . doi : 10.1007/s10994-015-5528-6 . ISSN 1573-0565 . S2CID 207211836 .  
  84. ↑ بوستروم، ن.، ويودكوفسكي، إ. (2014). أخلاقيات الذكاء الاصطناعي . دليل كامبريدج للذكاء الاصطناعي ، 316-334.
  85. ↑ "مؤتمر الدهون*" .
  86. ↑ "برامج الكمبيوتر تتعرف على الرجال البيض بشكل أفضل من النساء السود" . مجلة الإيكونوميست . 2018. تم الاطلاع عليه بتاريخ 5 أغسطس 2018 .
  87. ↑ أولاه، كريس؛ كاماراتا، نيك؛ شوبرت، لودفيج؛ جوه، غابرييل؛ بيتروف، مايكل؛ كارتر، شان (10 مارس 2020). "التكبير: مقدمة في الدوائر" . ديستيل . 5 (3) e00024.001. doi : 10.23915/distill.00024.001 . ISSN 2476-0757 . 
  88. ↑ لي، ييكسوان؛ يوسينسكي، جيسون؛ كلون، جيف؛ ليبسون، هود؛ هوبكروفت، جون (8 ديسمبر 2015). "التعلم التقاربي: هل تتعلم الشبكات العصبية المختلفة نفس التمثيلات؟" . استخلاص الميزات: أسئلة وتحديات حديثة . PMLR: 196-212 .
  89. ↑ هندريكس، ليزا آن؛ أكاتا، زينب؛ روهرباخ، ماركوس؛ دوناهو، جيف؛ شيل، بيرنت؛ داريل، تريفور (2016). "توليد التفسيرات المرئية" . رؤية الحاسوب - المؤتمر الأوروبي لرؤية الحاسوب 2016. سلسلة محاضرات في علوم الحاسوب. المجلد 9908. دار نشر سبرينغر الدولية. الصفحات 3-19 . arXiv : 1603.08507 . doi : 10.1007/978-3-319-46493-0_1 . ISBN   978-3-319-46492-3. S2CID 12030503 . 
  90. ↑ كوه، بانغ وي؛ ليانغ، بيرسي (17 يوليو 2017). "فهم تنبؤات الصندوق الأسود من خلال دوال التأثير" . المؤتمر الدولي للتعلم الآلي . PMLR: 1885-1894 . arXiv : 1703.04730 .
  91. ↑ شماتز، ألين (23 ديسمبر 2021). "استخلاص الرؤى المحلية من التصنيفات العالمية: تصنيف التسلسل الخاضع للإشراف وبدون تدريب مسبق عبر تحليل الالتفاف" . اللغويات الحاسوبية . 47 (4): 729-773 . doi : 10.1162/coli_a_00416 .
  92. ↑ غوفيرنور، فيليب؛ لي، فريدريك؛ شيراهاما، كيمياكي؛ لوبكه، لويزا؛ أدامتشيك، واكلاف م.؛ سيكساي، تيبور م.؛ لودتكه، كيرستين؛ غريغورزيك، مارسين (9 فبراير 2023). "الذكاء الاصطناعي القابل للتفسير (XAI) في أبحاث الألم: فهم دور النشاط الكهروجلدي في التعرف الآلي على الألم" . مجلة الحساسات . 23 (4): 1959. رمز Bibcode : 2023Senso..23.1959G . doi : 10.3390/s23041959 . ISSN 1424-8220 . PMC 9960387. PMID 36850556 .   
  93. ↑ "ورشة عمل IJCAI 2017 حول الذكاء الاصطناعي القابل للتفسير (XAI)" (ملف PDF) . إيرثلينك . IJCAI. مؤرشف من الأصل (ملف PDF) بتاريخ 4 أبريل 2019. تم الاطلاع عليه بتاريخ 17 يوليو 2017 .
  94. ↑ الذكاء الاصطناعي القابل للتفسير، المؤتمر العالمي الأول، xAI 2023، لشبونة، البرتغال، 26-28 يوليو 2023، وقائع المؤتمر، الأجزاء الأول والثاني والثالث . سلسلة منشورات علوم الحاسوب والمعلومات. المجلد 1903. سبرينغر. 2023. doi : 10.1007/978-3-031-44070-0 . ISBN  978-3-031-44070-0.
  95. ↑ الذكاء الاصطناعي القابل للتفسير، المؤتمر العالمي الثاني، xAI 2024، فاليتا، مالطا، 17-19 يوليو 2024، وقائع المؤتمر، الأجزاء الأول والثاني والثالث والرابع . سلسلة منشورات علوم الحاسوب والمعلومات. المجلد 2153. سبرينغر. 2024. doi : 10.1007/978-3-031-63787-2 . ISBN  978-3-031-63787-2.
  96. ↑ كان، جيريمي (12 ديسمبر 2018). "الذكاء الاصطناعي بحاجة إلى تقديم بعض التفسيرات" . بلومبيرغ بيزنس ويك . تم الاطلاع عليه بتاريخ 17 ديسمبر 2018 .
  97. 1 2 3 بهات، أومانغ؛ شيانغ، أليس؛ شارما، شوبهام؛ ويلر، أدريان؛ تالي، أنكور؛ جيا، يونهان؛ غوش، جويديب؛ بوري، ريتشير؛ إم إف مورا، خوسيه؛ إيكرسلي، بيتر (2022). "التعلم الآلي القابل للتفسير في النشر" . وقائع مؤتمر 2020 حول العدالة والمساءلة والشفافية . الصفحات 648-657 . doi : 10.1145/3351095.3375624 . ISBN  978-1-4503-6936-7. S2CID 202572724 . 
  98. 1 2 3 بوريل، جينا (2016). "كيف 'تفكر' الآلة: فهم الغموض في خوارزميات التعلم الآلي" . البيانات الضخمة والمجتمع . 3 (1) 2053951715622512. doi : 10.1177/2053951715622512 . S2CID 61330970 . 
  99. ↑ فيل، مايكل؛ فان كليك، ماكس؛ بينز، روبن (2018). "متطلبات تصميم العدالة والمساءلة للدعم الخوارزمي في صنع القرار عالي المخاطر في القطاع العام" . وقائع مؤتمر CHI لعام 2018 حول العوامل البشرية في أنظمة الحوسبة . المجلد 40. الصفحات 1-14 . doi : 10.1145/3173574.3174014 . ISBN   978-1-4503-5620-6. S2CID 3639135 . 
  100. ^ يانغ، وينلي؛ وي، يوشين؛ وي، هانيو؛ تشن، يانيو. هوانغ، قوان؛ لي شيانغ. لي، رينجي؛ ياو، نايمنغ؛ وانغ، شينيى. قو، شياو تونغ؛ أمين، محمد بلال؛ كانغ ، بيونغ (2023/08/10). "دراسة استقصائية حول الذكاء الاصطناعي القابل للتفسير: من المناهج والقيود وجوانب التطبيقات" . الأنظمة الذكية المتمحورة حول الإنسان . 3 (3): 161-188 . دوى : 10.1007 / s44230-023-00038-y . ISSN 2667-1336 . 
  101. ↑ هو، تونغشي؛ تشانغ، شويسونغ؛ بوهرر، غيل؛ ليو، يانلان؛ تشو، يويو؛ مارتن، جاي؛ لي، يانغ؛ تشاو، كايغوانغ (2023). "التنبؤ بمحصول المحاصيل باستخدام الذكاء الاصطناعي القابل للتفسير والتعلم الآلي القابل للتفسير: مخاطر نماذج الصندوق الأسود لتقييم تأثيرات تغير المناخ على محصول المحاصيل" . مجلة الأرصاد الجوية الزراعية والحرجية . 336 109458. Bibcode : 2023AgFM..33609458H . doi : 10.1016/j.agrformet.2023.109458 . S2CID 258552400 . 
  102. 1 2 تشنغ، هاو-فاي؛ وانغ، روتانغ؛ تشانغ، تشنغ؛ أوكونيل، فيونا؛ غراي، تيرانس؛ هاربر، ف. ماكسويل؛ تشو، هايي (2019). شرح خوارزميات صنع القرار من خلال واجهة المستخدم: استراتيجيات لمساعدة أصحاب المصلحة غير المتخصصين . وقائع مؤتمر CHI لعام 2019 حول العوامل البشرية في أنظمة الحوسبة. المجلد 559. الصفحات 1-12 . doi : 10.1145/3290605.3300789 . ISBN   978-1-4503-5970-2. S2CID 140281803 . 
  103. ↑ لييل، يوتام؛ زالمانسون، ليور (أغسطس 2023). "إيقاف حكمك الأفضل - الامتثال للتوصيات الخوارزمية" . وقائع أكاديمية الإدارة . 2023 (1) 16319. doi : 10.5465/AMPROC.2023.277bp . ISSN 0065-0668 . S2CID 260212999 .  
  104. 1 2 ماكوي، ليام ج.؛ برينا، كونور ت. أ.؛ تشين، ستايسي س.؛ فولد، كارينا؛ داس، سونيت (2021-11-05). "الاعتقاد بالصناديق السوداء: لا يحتاج التعلم الآلي في الرعاية الصحية إلى قابلية التفسير ليكون قائمًا على الأدلة" . مجلة علم الأوبئة السريرية . 142 ( متاح على الإنترنت قبل الطباعة): 252-257 . doi : 10.1016/j.jclinepi.2021.11.001 . ISSN 0895-4356 . PMID 34748907. S2CID 243810442 .   
  105. ↑ قاسمي، مرضية؛ أوكدن-راينر، لوك؛ بيم، أندرو ل. (2021-11-01). "الأمل الزائف للمناهج الحالية للذكاء الاصطناعي القابل للتفسير في الرعاية الصحية" . مجلة لانسيت للصحة الرقمية . 3 (11): e745– e750 . doi : 10.1016/S2589-7500(21)00208-9 . ISSN 2589-7500 . PMID 34711379. S2CID 239963176 .   
  106. ↑ ساركار، أدفايت (2022). "هل الذكاء الاصطناعي القابل للتفسير سباق ضد تعقيد النموذج؟" (ملف PDF) . ورشة عمل حول الشفافية والتفسيرات في الأنظمة الذكية (TeXSS)، بالاشتراك مع مؤتمر واجهات المستخدم الذكية التابع لجمعية الحوسبة الآلية (IUI 2022) : 192-199 . arXiv : 2205.10119 - عبر وقائع ورش عمل CEUR.
  107. ↑ بروكاسيا، أرييل د. (2019)، "ينبغي أن تشرح البديهيات الحلول"، في لاسلييه، جان فرانسوا؛ مولان، هيرفيه؛ سانفر، م. رمزي؛ زويكر، ويليام س. (محررون)، مستقبل التصميم الاقتصادي: التطور المستمر لمجال كما تصوره باحثوه ، دراسات في التصميم الاقتصادي، تشام: دار نشر سبرينغر الدولية، ص 195-199 ، doi : 10.1007/978-3-030-18050-8_27 ، ISBN  978-3-030-18050-8
  108. ↑ كايو، أوليفييه؛ إندريس، أولي (9 مايو 2016). "الجدل حول قواعد التصويت" . وقائع المؤتمر الدولي المشترك الثالث حول الأنظمة المستقلة والأنظمة متعددة الوكلاء - المجلد 1. AAMAS '16. ريتشلاند، كارولاينا الجنوبية: المؤسسة الدولية للأنظمة المستقلة والأنظمة متعددة الوكلاء. الصفحات 287-295 . doi : 10.65109/MRUW9849 . ISBN  978-1-4503-4239-1.
  109. ↑ بيترز، دومينيك؛ بروكاسيا، أرييل د؛ بسوماس، ألكسندروس؛ تشو، زيكسين (2020). "التصويت القابل للتفسير" . التطورات في أنظمة معالجة المعلومات العصبية . 33. كوران أسوشيتس، إنك: 1525-1534 .
  110. ↑ يانغ، جوشوا سي؛ هاوسلادن، كارينا آي؛ بيترز، دومينيك؛ بورناراس، إيفانجيلوس؛ ريغولا هينغلي فريكر؛ هيلبينغ، ديرك (2024). "تصميم أنظمة التصويت الرقمية للمواطنين: تحقيق العدالة والشرعية في الميزانية التشاركية". الحكومة الرقمية: البحث والممارسة . 5 (3): 1-30 . arXiv : 2310.03501 . doi : 10.1145/3665332 .
  111. ↑ نيزري، مئير؛ هازون، نوعام؛ عزاريا، عاموس (28-06-2022). "تخصيص قابل للتفسير قائم على نموذج شابلي (ملخص طالب)" . وقائع مؤتمر AAAI حول الذكاء الاصطناعي . 36 (11): 13023-13024 . doi : 10.1609/aaai.v36i11.21648 . ISSN 2374-3468 . S2CID 250296641 .