مصفوفة الارتباك
مصفوفة الارتباك ، والمعروفة أيضًا بمصفوفة الخطأ ، [ 1 ] هي جدول مُصمم خصيصًا لعرض أداء شخص أو خوارزمية في مهمة محددة. في علم السمع، تقيس هذه المصفوفات قدرة الشخص على سماع كلمات أو أصوات معينة. [ 2 ] أما في مجال تعلم الآلة، فتُظهر هذه المصفوفات مدى نجاح نظام التعلم، سواء في التعلم الخاضع للإشراف أو التعلم غير الخاضع للإشراف ، حيث تُسمى عادةً مصفوفة المطابقة .
يمثل كل صف في المصفوفة الحالات في فئة فعلية، بينما يمثل كل عمود الحالات في فئة متوقعة، أو العكس - وكلا الحالتين موثقتان في الدراسات المنشورة. [ 3 ] وبالتالي، يمثل قطر المصفوفة جميع الحالات التي تم التنبؤ بها بشكل صحيح. [ 4 ] يُستمد الاسم من سهولة تحديد ما إذا كان النظام يخلط بين فئتين (أي، تصنيف إحدى الفئتين بشكل خاطئ). تعود أصول مصفوفة الارتباك إلى دراسات الإدراك البشري للمنبهات السمعية. وقد تم تكييفها لدراسات التعلم الآلي، واستخدمها فرانك روزنبلات، إلى جانب باحثين آخرين، لمقارنة تصنيفات الإنسان والآلة للمنبهات البصرية (ثم السمعية لاحقًا). [ 5 ]
إنه نوع خاص من جداول الطوارئ ، مع بعدين ("الفعلي" و"المتوقع")، ومجموعات متطابقة من "الفئات" في كلا البعدين (كل تركيبة من البعد والفئة هي متغير في جدول الطوارئ).
مثال
بالنظر إلى عينة مكونة من 12 فرداً، 8 منهم تم تشخيص إصابتهم بالسرطان و4 غير مصابين به، حيث ينتمي الأفراد المصابون بالسرطان إلى الفئة 1 (إيجابي) وينتمي الأفراد غير المصابين بالسرطان إلى الفئة 0 (سلبي)، يمكننا عرض تلك البيانات على النحو التالي:
| رقم فردي | 1 | 2 | 3 | 4 | 5 | 6 | 7 | 8 | 9 | 10 | 11 | 12 |
|---|---|---|---|---|---|---|---|---|---|---|---|---|
| التصنيف الفعلي | 1 | 1 | 1 | 1 | 1 | 1 | 1 | 1 | 0 | 0 | 0 | 0 |
لنفترض أن لدينا مصنفًا يميز بين الأفراد المصابين بالسرطان وغير المصابين به بطريقة ما، يمكننا أخذ 12 فردًا وتطبيق هذا المصنف عليهم. سيُصدر المصنف 9 تنبؤات صحيحة ويخطئ في 3: فردان مصابان بالسرطان تم تصنيفهما خطأً على أنهما غير مصابين (العينتان 1 و2)، وشخص واحد غير مصاب بالسرطان تم تصنيفه خطأً على أنه مصاب بالسرطان (العينة 9).
| رقم فردي | 1 | 2 | 3 | 4 | 5 | 6 | 7 | 8 | 9 | 10 | 11 | 12 |
|---|---|---|---|---|---|---|---|---|---|---|---|---|
| التصنيف الفعلي | 1 | 1 | 1 | 1 | 1 | 1 | 1 | 1 | 0 | 0 | 0 | 0 |
| التصنيف المتوقع | 0 | 0 | 1 | 1 | 1 | 1 | 1 | 1 | 1 | 0 | 0 | 0 |
لاحظ أنه إذا قارنا مجموعة التصنيف الفعلية بمجموعة التصنيف المتوقعة، فهناك 4 نتائج مختلفة يمكن أن تؤدي إلى أي عمود معين:
- التصنيف الفعلي إيجابي، والتصنيف المتوقع إيجابي أيضاً (1,1). يُطلق على هذه النتيجة اسم "النتيجة الإيجابية الحقيقية" لأن المصنف حدد العينة الإيجابية بشكل صحيح.
- التصنيف الفعلي إيجابي، بينما التصنيف المتوقع سلبي (1,0). يُطلق على هذه النتيجة اسم "نتيجة سلبية خاطئة" لأن المصنف صنّف العينة الإيجابية بشكل خاطئ على أنها سلبية.
- التصنيف الفعلي سلبي، بينما التصنيف المتوقع إيجابي (0، 1). يُطلق على هذه النتيجة اسم "النتيجة الإيجابية الخاطئة" لأن المصنف يصنف العينة السلبية بشكل خاطئ على أنها إيجابية.
- التصنيف الفعلي سلبي، والتصنيف المتوقع سلبي أيضاً (0,0). يُطلق على هذه النتيجة اسم "النتيجة السلبية الحقيقية" لأن المصنف يتعرف على العينة السلبية بشكل صحيح.
يمكننا بعد ذلك إجراء المقارنة بين التصنيفات الفعلية والمتوقعة وإضافة هذه المعلومات إلى الجدول، مما يجعل النتائج الصحيحة تظهر باللون الأخضر حتى يسهل التعرف عليها.
| رقم فردي | 1 | 2 | 3 | 4 | 5 | 6 | 7 | 8 | 9 | 10 | 11 | 12 |
|---|---|---|---|---|---|---|---|---|---|---|---|---|
| التصنيف الفعلي | 1 | 1 | 1 | 1 | 1 | 1 | 1 | 1 | 0 | 0 | 0 | 0 |
| التصنيف المتوقع | 0 | 0 | 1 | 1 | 1 | 1 | 1 | 1 | 1 | 0 | 0 | 0 |
| نتيجة | FN | FN | تي بي | تي بي | تي بي | تي بي | تي بي | تي بي | FP | تينيسي | تينيسي | تينيسي |
يستخدم نموذج أي مصفوفة ارتباك ثنائية الأنواع الأربعة للنتائج المذكورة أعلاه (الإيجابيات الحقيقية، والسلبيات الكاذبة، والإيجابيات الكاذبة، والسلبيات الحقيقية) بالإضافة إلى تصنيفات الإيجابية والسلبية. ويمكن صياغة النتائج الأربعة في مصفوفة ارتباك ثنائية الأبعاد (2×2) كما يلي:
| الحالة المتوقعة | |||
| إجمالي عدد السكان = P + N | إيجابي (PP) | سلبي (PN) | |
الحالة الفعلية | إيجابي (P) | إيجابي حقيقي (TP) | النتيجة السلبية الكاذبة (FN) |
| سلبي (ن) | إيجابي كاذب (FP) | سلبي حقيقي (TN) | |
| المصادر: [ 6 ] [ 7 ] [ 3 ] [ 8 ] [ 9 ] [ 10 ] [ 11 ] | |||
تم اختيار نظام الألوان لجداول البيانات الثلاثة أعلاه ليتناسب مع مصفوفة الارتباك هذه، وذلك لتسهيل التمييز بين البيانات.
الآن، يمكننا ببساطة جمع كل نوع من النتائج، واستبدالها في النموذج، وإنشاء مصفوفة ارتباك تلخص بإيجاز نتائج اختبار المصنف:
| الحالة المتوقعة | |||
| المجموع 8 + 4 = 12 | السرطان 7 | غير السرطان 5 | |
الحالة الفعلية | السرطان 8 | 6 | 2 |
| 4 غير سرطاني | 1 | 3 | |
في مصفوفة الارتباك هذه، من بين العينات الثماني المصابة بالسرطان، صنّف النظام عينتين على أنهما خاليتان من السرطان، ومن بين العينات الأربع غير المصابة بالسرطان، توقع أن واحدة مصابة بالسرطان. تقع جميع التوقعات الصحيحة على قطر الجدول (المُظلل باللون الأخضر)، مما يُسهّل فحص الجدول بصريًا بحثًا عن أخطاء التوقع، حيث تمثل القيم خارج القطر هذه الأخطاء. بجمع صفي مصفوفة الارتباك، يُمكن أيضًا استنتاج العدد الإجمالي للعينات الإيجابية (P) والسلبية (N) في مجموعة البيانات الأصلية، أيو.
جدول الارتباك
في التحليلات التنبؤية ، يُعرف جدول الارتباك (أو مصفوفة الارتباك ) بأنه جدول يتكون من صفين وعمودين، ويُظهر عدد النتائج الإيجابية الصحيحة ، والنتائج السلبية الخاطئة ، والنتائج الإيجابية الخاطئة ، والنتائج السلبية الصحيحة . يتيح هذا تحليلاً أكثر تفصيلاً من مجرد ملاحظة نسبة التصنيفات الصحيحة (الدقة). إذ قد تُعطي الدقة نتائج مُضللة إذا كانت مجموعة البيانات غير متوازنة؛ أي عندما يختلف عدد الملاحظات في الفئات المختلفة اختلافاً كبيراً.
على سبيل المثال، إذا احتوت البيانات على 95 عينة سرطانية و5 عينات غير سرطانية فقط، فقد يصنف مصنف معين جميع العينات على أنها سرطانية. ستكون الدقة الإجمالية 95%، ولكن بتفصيل أدق، سيتمتع المصنف بمعدل تمييز ( حساسية ) 100% للفئة السرطانية، بينما سيكون معدل تمييزه 0% للفئة غير السرطانية. يصبح مقياس F1 أقل موثوقية في مثل هذه الحالات، حيث سيبلغ معدله أكثر من 97.4%، بينما يزيل مقياس المعلوماتية هذا التحيز، ويعطي احتمالًا قدره صفر لاتخاذ قرار مستنير لأي شكل من أشكال التخمين (حيث يكون التخمين دائمًا سرطانيًا).
وفقًا لدافيد تشيكو وجوزيبي جورمان، فإن المقياس الأكثر إفادة لتقييم مصفوفة الارتباك هو معامل ارتباط ماثيوز (MCC) . [ 12 ]
يمكن تضمين مقاييس أخرى في مصفوفة الارتباك، ولكل منها أهميتها واستخدامها.
| الحالة المتوقعة | المصادر: [ 13 ] [ 14 ] [ 15 ] [ 16 ] [ 17 ] [ 18 ] [ 19 ] [ 20 ] | ||||
| إجمالي عدد السكان = P + N | نتيجة إيجابية متوقعة | النتيجة المتوقعة سلبية | مستوى المعلومات ، مستوى معلومات وكيل المراهنات (BM) = TPR + TNR − 1 | عتبة الانتشار ( PT) = √ TPR × FPR − FPR / TPR − FPR | |
الحالة الفعلية | موجب حقيقي (P) [ أ ] | إيجابي حقيقي (TP)، تم تسجيله [ ب ] | النتيجة السلبية الخاطئة ، الخطأ، التقليل من شأن المشكلة | معدل الإيجابية الحقيقية (TPR)، الاستدعاء ، الحساسية (SEN)، احتمال الكشف ، معدل الإصابة ، القدرة = TP / P = 1 − FNR | معدل النتائج السلبية الكاذبة (FNR)، معدل الخطأ من النوع الثاني [ c ] = FN / P = 1 − TPR |
| السالب الحقيقي (N) [ d ] | إيجابي كاذب ، إنذار كاذب، مبالغة في التقدير | سلبي حقيقي (TN)، رفض صحيح [ هـ ] | معدل الإنذار الكاذب (FPR)، احتمال الإنذار الكاذب ، خطأ النوع الأول الناتج [ f ] = FP / N = 1 − TNR | معدل السلبية الحقيقية (TNR)، والنوعية (SPC)، والانتقائية = TN / N = 1 − FPR | |
| الانتشار = P / P + N | القيمة التنبؤية الإيجابية (PPV)، الدقة = TP / TP + FP = 1 − FDR | معدل الإغفال الخاطئ (FOR) = FN / TN + FN = 1 − NPV | نسبة الاحتمالية الإيجابية (LR+) = TPR / FPR | نسبة الاحتمالية السلبية (LR−) = FNR / TNR | |
| الدقة (ACC) = TP + TN / P + N | معدل الاكتشاف الخاطئ (FDR) = FP / TP + FP = 1 − PPV | القيمة التنبؤية السلبية (NPV) = TN / TN + FN = 1 − FOR | التمييز (MK)، دلتا P ( Δ p) = PPV + NPV − 1 | نسبة احتمالات التشخيص ( DOR ) = LR + / LR− = TP × TN / FP × FN | |
| الدقة المتوازنة (BA) = TPR + TNR / 2 | النتيجة F1 = 2 PPV × TPR / PPV + TPR = 2 TP / 2 TP + FP + FN | مؤشر فولكس-مالوز (FM) = √ PPV × TPR | معامل ارتباط فاي أو ماثيوز (MCC) = √ معدل الإيجابية الحقيقية × معدل السلبية الحقيقية × القيمة التنبؤية الإيجابية × القيمة التنبؤية السلبية - √ معدل السلبية الكاذبة × معدل الإيجابية الكاذبة × معدل الإيجابية الكاذبة × معدل الاكتشاف الخاطئ | درجة التهديد (TS)، مؤشر النجاح الحرج (CSI)، مؤشر جاكارد = TP / TP + FN + FP | |
- ↑ عدد الحالات الإيجابية الحقيقية في البيانات
- ↑ نتيجة اختبار تشير بشكل صحيح إلى وجود حالة أو سمة معينة
- ↑ خطأ من النوع الثاني: نتيجة اختبار تشير خطأً إلى غياب شرط أو سمة معينة.
- ↑ عدد الحالات السلبية الحقيقية في البيانات
- ↑ نتيجة اختبار تشير بشكل صحيح إلى عدم وجود حالة أو سمة معينة
- ↑ خطأ من النوع الأول: نتيجة اختبار تشير بشكل خاطئ إلى وجود شرط أو سمة معينة.
جادل بعض الباحثين بأن مصفوفة الارتباك، والمقاييس المستمدة منها، لا تعكس بدقة معرفة النموذج . فعلى وجه الخصوص، لا تستطيع مصفوفة الارتباك تحديد ما إذا كانت التنبؤات الصحيحة قد تم التوصل إليها من خلال استدلال سليم أم بمحض الصدفة (وهي مشكلة تُعرف في الفلسفة بالحظ المعرفي). كما أنها لا تُغطي الحالات التي تتغير فيها الحقائق المستخدمة في التنبؤ لاحقًا أو يتبين أنها خاطئة (قابلية الإثبات). وهذا يعني أنه على الرغم من أن مصفوفة الارتباك أداة مفيدة لقياس أداء التصنيف، إلا أنها قد تُعطي صورة غير مكتملة عن الموثوقية الحقيقية للنموذج. [ 21 ]

مصفوفات الارتباك التي تحتوي على أكثر من فئتين
لا تقتصر مصفوفة الارتباك على التصنيف الثنائي، بل يمكن استخدامها في المصنفات متعددة الفئات أيضًا. تتضمن مصفوفات الارتباك المذكورة أعلاه حالتين فقط: موجبة وسالبة. على سبيل المثال، يلخص الجدول أدناه التواصل بلغة الصفير بين متحدثين، مع حذف القيم الصفرية للتوضيح. [ 22 ]
حرف العلة المدرك حرف علة مُنتَج | أنا | هـ | أ | o | u |
|---|---|---|---|---|---|
| أنا | 15 | 1 | |||
| هـ | 1 | 1 | |||
| أ | 79 | 5 | |||
| o | 4 | 15 | 3 | ||
| u | 2 | 2 |

مصفوفات الارتباك في التصنيف متعدد التصنيفات والتصنيف ذي التصنيفات المرنة
لا تقتصر مصفوفات الارتباك على التصنيف أحادي التصنيف (حيث توجد فئة واحدة فقط) أو التصنيفات الصلبة (حيث تكون الفئات إما موجودة بالكامل، 1، أو غائبة، 0). بل يمكن توسيعها لتشمل التصنيف متعدد التصنيفات (حيث يمكن التنبؤ بفئات متعددة في وقت واحد) والتصنيف متعدد التصنيفات (حيث يمكن أن تكون الفئات موجودة جزئيًا).
أحد هذه التوسعات هو مصفوفة الارتباك القائمة على النقل (TCM) [ 23 ] ، والتي تستند إلى نظرية النقل الأمثل ومبدأ أقصى إنتروبيا . تُطبَّق مصفوفة الارتباك القائمة على النقل على التصنيفات أحادية التصنيف، ومتعددة التصنيفات، والتصنيفات المرنة. وهي تحتفظ بالبنية المألوفة لمصفوفة الارتباك القياسية: مصفوفة مربعة حجمها يساوي عدد الفئات، حيث تشير عناصر القطر الرئيسي إلى التنبؤات الصحيحة، بينما تشير العناصر غير القطرية إلى الارتباك. في حالة التصنيف أحادي التصنيف، تكون مصفوفة الارتباك القائمة على النقل مطابقة لمصفوفة الارتباك القياسية.
تتبع مصفوفة الارتباك الانتقالية (TCM) نفس منطق مصفوفة الارتباك القياسية: إذا تم المبالغة في تقدير الفئة أ (قيمتها المتوقعة أكبر من قيمتها المُصنفة) وتم التقليل من تقدير الفئة ب (قيمتها المتوقعة أقل من قيمتها المُصنفة)، تُعتبر الفئة أ مُختلطة مع الفئة ب، ويتم زيادة قيمة العنصر (ب، أ). إذا تم التنبؤ بالفئة ووجودها بالفعل، يتم تحديدها بشكل صحيح، ويتم زيادة قيمة العنصر القطري (أ، أ). يتم استخدام النقل الأمثل والإنتروبيا القصوى لتحديد مدى تحديث هذه العناصر. [ 23 ]
تتيح TCM مقارنة أوضح بين التنبؤات والتصنيفات في مهام التصنيف المعقدة، مع الحفاظ على تنسيق مصفوفة متسق عبر الإعدادات. [ 23 ]
انظر أيضاً
مراجع
- ↑ ستيمان، ستيفن ف. (1997). "اختيار وتفسير مقاييس دقة التصنيف الموضوعي". الاستشعار عن بعد للبيئة . 62 (1): 77-89 . Bibcode : 1997RSEnv..62...77S . doi : 10.1016/S0034-4257(97)00083-7 .
- ↑ تشينغلين مينغ وآخرون، الرعاية الصحية السمعية الرقمية 2022
- 1 2 باورز، ديفيد إم دبليو (2011). "التقييم: من الدقة والاستدعاء ومقياس F إلى منحنى ROC والمعلوماتية والتمييز والارتباط" . مجلة تقنيات التعلم الآلي . 2 (1): 37-63 . S2CID 55767944 .
- ↑ أوبيتز، يوري (2024). "نظرة فاحصة على مقاييس تقييم التصنيف وتأمل نقدي في ممارسات التقييم الشائعة" . معاملات رابطة اللغويات الحاسوبية . 12 : 820-836 . arXiv : 2404.16958 . doi : 10.1162/tacl_a_00675 .
- ↑ دوبسون، جيمس (2024). "حول مصفوفة الارتباك" . التكوينات . 32 (4): 331-350 . doi : 10.1353/con.2024.a942087 .
- ↑ بروفوست، فوستر؛ فوسيت، توم (2013). علم البيانات للأعمال: ما تحتاج إلى معرفته حول استخراج البيانات والتفكير التحليلي للبيانات (الطبعة الأولى، الطبعة الثانية ). بكين كولونيا: أورايلي. ISBN 978-1-4493-6132-7.
- ↑ فوسيت، توم (2006). "مقدمة في تحليل منحنى ROC" (ملف PDF) . رسائل التعرف على الأنماط . 27 (8): 861-874 . Bibcode : 2006PaReL..27..861F . doi : 10.1016/j.patrec.2005.10.010 . S2CID 2027090 .
- ↑ تينغ، كاي مينغ (2011). ساموت، كلود؛ ويب، جيفري آي. (محرران). موسوعة تعلم الآلة . سبرينغر. doi : 10.1007/978-0-387-30164-8 . ISBN 978-0-387-30164-8.
- ↑ بروكس، هارولد؛ براون، بارب؛ إيبرت، بيث؛ فيرو، كريس؛ جوليف، إيان؛ كوه، تيه-يونغ؛ روبير، بول؛ ستيفنسون، ديفيد (26 يناير 2015). "الفريق العامل المشترك بين برنامج أبحاث الطقس العالمي (WWRP) وبرنامج أبحاث الأرصاد الجوية الوطنية (WGNE) المعني بأبحاث التحقق من التنبؤات" . التعاون من أجل أبحاث الطقس والمناخ الأسترالية . المنظمة العالمية للأرصاد الجوية . تاريخ الاسترجاع: 17 يوليو 2019 .
- ↑ شيكو د، جورمان ج (يناير 2020). "مزايا معامل ارتباط ماثيوز (MCC) مقارنةً بدرجة F1 ودقة تقييم التصنيف الثنائي" . بي إم سي جينوميكس . 21 (1) 6: 6-1–6-13. doi : 10.1186/s12864-019-6413-7 . PMC 6941312. PMID 31898477 .
- ↑ ثروت أ. (أغسطس 2018). "أساليب تقييم التصنيف" . الحوسبة التطبيقية والمعلوماتية . 17 : 168-192 . doi : 10.1016/j.aci.2018.08.003 .
- ↑ شيكو د، جورمان ج (يناير 2020). "مزايا معامل ارتباط ماثيوز (MCC) مقارنةً بدرجة F1 ودقة تقييم التصنيف الثنائي" . بي إم سي جينوميكس . 21 (1) 6: 6-1–6-13. doi : 10.1186/s12864-019-6413-7 . PMC 6941312. PMID 31898477 .
- ↑ فوسيت، توم (2006). "مقدمة في تحليل منحنى ROC" (ملف PDF) . رسائل التعرف على الأنماط . 27 (8): 861-874 . doi : 10.1016/j.patrec.2005.10.010 . S2CID 2027090 .
- ↑ بروفوست، فوستر؛ توم فاوست (2013-08-01). "علم البيانات للأعمال: ما تحتاج إلى معرفته حول استخراج البيانات والتفكير التحليلي للبيانات" . أورايلي ميديا، إنك .
- ↑ باورز، ديفيد إم دبليو (2011). "التقييم: من الدقة والاستدعاء ومقياس F إلى منحنى ROC والمعلوماتية والتمييز والارتباط" . مجلة تقنيات التعلم الآلي . 2 (1): 37-63 .
- ↑ تينغ، كاي مينغ (2011). ساموت، كلود؛ ويب، جيفري آي. (محرران). موسوعة تعلم الآلة . سبرينغر. doi : 10.1007/978-0-387-30164-8 . ISBN 978-0-387-30164-8.
- ↑ بروكس، هارولد؛ براون، بارب؛ إيبرت، بيث؛ فيرو، كريس؛ جوليف، إيان؛ كوه، تيه-يونغ؛ روبير، بول؛ ستيفنسون، ديفيد (26 يناير 2015). "الفريق العامل المشترك بين برنامج أبحاث الطقس العالمي (WWRP) وبرنامج أبحاث الأرصاد الجوية الوطنية (WGNE) المعني بأبحاث التحقق من التنبؤات" . التعاون من أجل أبحاث الطقس والمناخ الأسترالية . المنظمة العالمية للأرصاد الجوية . تاريخ الاسترجاع: 17 يوليو 2019 .
- ↑ شيكو د، جورمان ج (يناير 2020). "مزايا معامل ارتباط ماثيوز (MCC) مقارنةً بدرجة F1 ودقة تقييم التصنيف الثنائي" . بي إم سي جينوميكس . 21 (1): 6-1–6-13. doi : 10.1186/s12864-019-6413-7 . PMC 6941312. PMID 31898477 .
- ↑ شيكو د، تويتش ن، جورمان ج (فبراير 2021). "معامل ارتباط ماثيوز (MCC) أكثر موثوقية من دقة التوازن، ومعلومات وكيل المراهنات، والتمييز في تقييم مصفوفة الارتباك ثنائية الفئة" . BioData Mining . 14 (13): 13. doi : 10.1186/s13040-021-00244-z . PMC 7863449. PMID 33541410 .
- ↑ ثروت أ. (أغسطس 2018). "أساليب تقييم التصنيف" . الحوسبة التطبيقية والمعلوماتية . 17 : 168-192 . doi : 10.1016/j.aci.2018.08.003 .
- ↑ فان دير ليند، إيان (2025). "لماذا تفشل مصفوفة الارتباك كنموذج للمعرفة". الذكاء الاصطناعي والمجتمع . doi : 10.1007/s00146-025-02456-x .
- ↑ ريلاند، آني (أغسطس 2005). "الجوانب الصوتية والنطقية للغات الصفيرية". علم الأصوات . 22 (2): 237-271 . CiteSeerX 10.1.1.484.4384 . doi : 10.1017/S0952675705000552 . S2CID 18615779 .
- 1 2 3 إرباني، يوهان؛ بورتييه، بيير إدوارد؛ إيغيد-زيغموند، إلود؛ نورباكوفا، ديانا (2024). "مصفوفات الارتباك: نظرية موحدة" . IEEE Access . 12. IEEE: 181372–181419 . Bibcode : 2024IEEEA..12r1372E . doi : 10.1109/ACCESS.2024.3507199 . ISSN 2169-3536 .
- التعلم الآلي
- التصنيف الإحصائي
