غابة العزلة

تُعدّ غابة العزل خوارزمية تعلّم غير مُشرف عليها للكشف عن الحالات الشاذة، وتعمل على مبدأ عزل الحالات الشاذة، [ 1 ] بدلاً من التقنيات الأكثر شيوعاً لتحديد خصائص النقاط الطبيعية. [ 2 ]

حركة مرور ويب غير طبيعية
الشكل 1 - مثال على حركة مرور الويب مع نقاط شاذة محتملة

في الإحصاء ، تُعرف الشذوذات (أو القيم المتطرفة ) بأنها ملاحظات أو أحداث تنحرف بشكل كبير عن الأحداث الأخرى، مما يثير الشكوك حول كونها ناتجة عن متوسط ​​مختلف. على سبيل المثال، يُمثل الرسم البياني في الشكل 1 حركة البيانات الواردة إلى خادم ويب ، مُعبرًا عنها بعدد الطلبات على فترات زمنية مدتها 3 ساعات، وذلك على مدار شهر واحد. من الواضح بمجرد النظر إلى الرسم البياني أن بعض النقاط (المُشار إليها بدائرة حمراء) مرتفعة بشكل غير معتاد، لدرجة تُثير الشكوك حول احتمال تعرض خادم الويب لهجوم في ذلك الوقت. من ناحية أخرى، يبدو الجزء المسطح المُشار إليه بالسهم الأحمر غير معتاد أيضًا، وقد يكون دليلاً على توقف الخادم عن العمل خلال تلك الفترة.

قد تتبع الشذوذات في مجموعات البيانات الضخمة أنماطًا معقدة للغاية، يصعب اكتشافها بالعين المجردة في معظم الحالات. لهذا السبب، يُعد مجال اكتشاف الشذوذات مناسبًا تمامًا لتطبيق تقنيات التعلم الآلي .

تعتمد أكثر التقنيات شيوعًا المستخدمة في كشف الحالات الشاذة على بناء ملف تعريف لما هو "طبيعي": حيث تُعرَّف الحالات الشاذة بأنها تلك الحالات في مجموعة البيانات التي لا تتوافق مع ملف التعريف الطبيعي. [ 2 ] تستخدم خوارزمية غابة العزل نهجًا مختلفًا: فبدلًا من محاولة بناء نموذج للحالات الطبيعية، تقوم بعزل النقاط الشاذة في مجموعة البيانات بشكل صريح. وتتمثل الميزة الرئيسية لهذا النهج في إمكانية استغلال تقنيات أخذ العينات إلى حد لا تسمح به الطرق القائمة على ملف التعريف، مما يُنتج خوارزمية سريعة جدًا ذات متطلبات ذاكرة منخفضة. [ 1 ] [ 3 ] [ 4 ]

تاريخ

تم اقتراح خوارزمية غابة العزل (iForest) في البداية من قبل فاي توني ليو، وكاي مينغ تينغ، وزي هوا تشو في عام 2008. [ 1 ] استفاد المؤلفون من خاصيتين كميتين لنقاط البيانات الشاذة في العينة، وهما:

  1. إنهم أقلية تتكون من حالات أقل و
  2. لديهم قيم سمات تختلف اختلافًا كبيرًا عن قيم السمات في الحالات العادية

بما أن النقاط الشاذة عادةً ما تكون قليلة ومختلفة تمامًا عن النقاط الأخرى في العينة، فلا بد أن يكون من الأسهل "عزلها" مقارنةً بالنقاط العادية. وانطلاقًا من هذا المبدأ، تُنشئ خوارزمية "غابة العزل" مجموعة من "أشجار العزل" (iTrees) لمجموعة البيانات، وتُصنّف النقاط ذات أطوال المسارات المتوسطة القصيرة على هذه الأشجار على أنها نقاط شاذة.

في ورقة بحثية لاحقة، نُشرت عام 2012 [ 2 وصف المؤلفون أنفسهم مجموعة من التجارب لإثبات أن iForest:

  • يتميز بانخفاض تعقيد الوقت الخطي ومتطلبات الذاكرة الصغيرة
  • وهي قادرة على التعامل مع البيانات عالية الأبعاد ذات السمات غير ذات الصلة
  • يمكن تدريبها مع أو بدون وجود حالات شاذة في مجموعة التدريب
  • يمكن أن توفر نتائج الكشف بمستويات مختلفة من الدقة دون الحاجة إلى إعادة التدريب.

في عام 2013، اقترح كلٌ من تشيغو دينغ ومينروي فاي إطار عمل قائم على iForest لحل مشكلة اكتشاف الحالات الشاذة في البيانات المتدفقة. [ 5 ] وتتناول أوراق بحثية أخرى، من تأليف سوي تشوان تان وآخرون، [ 4 ] وجي إيه سوستو وآخرون، [ 6 ] ويو وينغ وآخرون، [ 7 ]، تطبيقاتٍ إضافية لـ iForest على البيانات المتدفقة.

لم تكن إحدى المشكلات الرئيسية لتطبيق iForest في كشف الشذوذ تكمن في النموذج نفسه، بل في طريقة حساب "درجة الشذوذ". وقد سلط الضوء على هذه المشكلة كلٌ من سهند حريري، وماتياس كاراسكو كيند، وروبرت ج. برونر في ورقة بحثية نُشرت عام ٢٠١٨ [ ٨ ] ، حيث اقترحوا نموذج iForest مُحسَّنًا يُسمى " غابة العزل الموسعة" (EIF). وفي الورقة نفسها، يصف المؤلفون التحسينات التي أُدخلت على النموذج الأصلي، وكيف ساهمت هذه التحسينات في تعزيز اتساق وموثوقية درجة الشذوذ المُنتجة لنقطة بيانات مُحددة.

الخوارزمية

الشكل 2 - مثال على عزل نقطة غير شاذة في توزيع غاوسي ثنائي الأبعاد

تعتمد خوارزمية غابة العزل على مبدأ أن الحالات الشاذة في مجموعة البيانات يسهل فصلها عن بقية العينة (عزلها) مقارنةً بالنقاط الطبيعية. ولعزل نقطة بيانات، تُنشئ الخوارزمية بشكل متكرر أقسامًا على العينة عن طريق اختيار سمة عشوائيًا، ثم اختيار قيمة تقسيم عشوائية لتلك السمة، بين الحد الأدنى والحد الأقصى المسموح بهما لتلك السمة.

عزل نقطة شاذة
الشكل 3 - مثال على عزل نقطة شاذة في توزيع غاوسي ثنائي الأبعاد

يُقدّم الشكل 2 مثالاً على التقسيم العشوائي في مجموعة بيانات ثنائية الأبعاد لنقاط موزعة توزيعًا طبيعيًا ، وذلك لنقطة غير شاذة، بينما يُقدّم الشكل 3 مثالاً لنقطة يُرجّح أن تكون شاذة. ويتضح من الشكلين أن النقاط الشاذة تتطلب عددًا أقل من التقسيمات العشوائية لعزلها، مقارنةً بالنقاط الطبيعية.

من وجهة نظر رياضية، يمكن تمثيل التقسيم المتكرر ببنية شجرية تُسمى شجرة العزل ، بينما يُمكن تفسير عدد التقسيمات اللازمة لعزل نقطة ما على أنه طول المسار داخل الشجرة للوصول إلى عقدة نهائية بدءًا من الجذر. على سبيل المثال، طول مسار النقطة xᵢ في الشكل 2 أكبر من طول مسار النقطة xⱼ في الشكل 3.

بصورة أكثر رسمية، لنفترض أن X = { x 1 , ..., x n } هي مجموعة من النقاط ذات البعد d، و X' ⊂ X هي مجموعة جزئية من X. تُعرَّف شجرة العزل (iTree) بأنها بنية بيانات ذات الخصائص التالية:

  1. لكل عقدة T في الشجرة، تكون T إما عقدة خارجية بدون أبناء، أو عقدة داخلية مع "اختبار" واحد وعقدتين ابنتين بالضبط (T l ، T r ).
  2. يتكون الاختبار عند العقدة T من سمة q وقيمة تقسيم p بحيث يحدد الاختبار q < p اجتياز نقطة البيانات إما إلى T l أو T r .

من أجل بناء iTree، تقوم الخوارزمية بتقسيم X' بشكل متكرر عن طريق اختيار سمة q وقيمة تقسيم p بشكل عشوائي، حتى (i) يكون للعقدة مثيل واحد فقط أو (ii) تكون جميع البيانات في العقدة لها نفس القيم.

عندما تكتمل شجرة iTree، تُعزل كل نقطة في X عند إحدى العقد الخارجية. وبشكل بديهي، فإن النقاط الشاذة هي تلك التي يسهل عزلها، وبالتالي، يكون طول مسارها في الشجرة أقصر، حيث يكون طول المسار h(xᵢ ) للنقطةxأناX{\displaystyle x_{i}\in X}يُعرَّف بأنه عدد الحواف التي يجتازها x i من العقدة الجذرية للوصول إلى عقدة خارجية.

تم تقديم تفسير احتمالي لـ iTree في الورقة البحثية الأصلية لـ iForest. [ 1 ]

خصائص غابة العزلة

  • أخذ عينات فرعية : بما أن iForest لا يحتاج إلى عزل جميع الحالات العادية، فإنه غالبًا ما يتجاهل الغالبية العظمى من عينة التدريب. ونتيجة لذلك، يعمل iForest بكفاءة عالية عندما يكون حجم العينة صغيرًا، وهي خاصية تتناقض مع غالبية الطرق الحالية، حيث يُفضل عادةً حجم عينة كبير. [ 1 ] [ 2 ]
  • ظاهرة التشبع : عندما تقترب البيانات الطبيعية من البيانات الشاذة، يزداد عدد الأقسام اللازمة لفصل البيانات الشاذة، وهي ظاهرة تُعرف بالتشبع ، مما يُصعّب على iForest التمييز بين البيانات الشاذة والبيانات الطبيعية. أحد الأسباب الرئيسية للتشبع هو وجود كمية كبيرة جدًا من البيانات لغرض الكشف عن البيانات الشاذة، مما يعني أن أحد الحلول الممكنة لهذه المشكلة هو أخذ عينات فرعية. نظرًا لأن iForest يستجيب بشكل جيد جدًا لأخذ العينات الفرعية من حيث الأداء، فإن تقليل عدد النقاط في العينة يُعد أيضًا طريقة جيدة للحد من تأثير التشبع. [ 1 ]
  • الحجب : عندما يكون عدد الحالات الشاذة مرتفعًا، فمن المحتمل أن تتجمع بعضها في عناقيد كثيفة وكبيرة، مما يُصعّب فصل الحالات الشاذة الفردية، وبالتالي، اكتشاف هذه النقاط على أنها شاذة. ومثل ظاهرة التمويه، فإن هذه الظاهرة (المعروفة باسم " الحجب ") تزداد احتمالية حدوثها عندما يكون عدد النقاط في العينة كبيرًا، ويمكن التخفيف منها من خلال أخذ عينات فرعية. [ 1 ]
  • البيانات عالية الأبعاد : من أبرز عيوب الطرق القياسية القائمة على المسافة عدم كفاءتها في التعامل مع مجموعات البيانات عالية الأبعاد. [ 9 ] والسبب الرئيسي لذلك هو أن كل نقطة في فضاء عالي الأبعاد تكون متباعدة بنفس القدر، لذا فإن استخدام مقياس المسافة للفصل غير فعال. لسوء الحظ، تؤثر البيانات عالية الأبعاد أيضًا على أداء الكشف في iForest، ولكن يمكن تحسين الأداء بشكل كبير بإضافة اختبار لاختيار الميزات مثل التفرطح لتقليل أبعاد فضاء العينة. [ 1 ] [ 3 ]
  • الحالات الطبيعية فقط : يُظهر iForest أداءً جيدًا حتى لو لم تحتوي مجموعة التدريب على أي نقاط شاذة، [ 3 ] والسبب هو أن iForest يصف توزيعات البيانات بطريقة تُشير فيها القيم العالية لطول المسار h(xᵢ ) إلى وجود نقاط بيانات. ونتيجةً لذلك، فإن وجود الشذوذات لا يُؤثر بشكل كبير على أداء iForest في الكشف.

الكشف عن الحالات الشاذة باستخدام غابة العزل

يُعد اكتشاف الشذوذ باستخدام غابة العزل عملية تتكون من مرحلتين رئيسيتين: [ 3 ]

  1. في المرحلة الأولى، يتم استخدام مجموعة بيانات التدريب لبناء iTrees كما هو موضح في الأقسام السابقة.
  2. في المرحلة الثانية، يتم تمرير كل حالة في مجموعة الاختبار عبر عملية بناء iTrees في المرحلة السابقة، ويتم تعيين "درجة شذوذ" مناسبة للحالة باستخدام الخوارزمية الموضحة أدناه.

بمجرد تعيين درجة الشذوذ لجميع الحالات في مجموعة الاختبار، يصبح من الممكن وضع علامة "شذوذ" على أي نقطة تكون درجتها أكبر من عتبة محددة مسبقًا، والتي تعتمد على المجال الذي يتم تطبيق التحليل عليه.

درجة الشذوذ

تعتمد خوارزمية حساب درجة الشذوذ لنقطة بيانات على ملاحظة أن بنية أشجار iTrees تُكافئ بنية أشجار البحث الثنائية (BST): حيث يُقابل إنهاء شجرة iTree عند عقدة خارجية فشلًا في البحث في شجرة البحث الثنائية. [ 3 ] ونتيجةً لذلك، فإن تقدير متوسط ​​h(x) لإنهاءات العقد الخارجية هو نفسه تقدير عمليات البحث غير الناجحة في شجرة البحث الثنائية، أي [ 10 ].

ج(م)={2ح(م-1)-2(م-1)نل م>21ل م=20خلاف ذلك{\displaystyle c(m)={\begin{cases}2H(m-1)-{\frac {2(m-1)}{n}}&{\text{لـ }}m>2\\1&{\text{لـ }}m=2\\0&{\text{فيما عدا ذلك}}\end{cases}}}

حيث m هو حجم بيانات الاختبار، وm هو حجم مجموعة العينات، وH هو الرقم التوافقي ، والذي يمكن تقديره بواسطةح(أنا)=لن(أنا)+γ{\displaystyle H(i)=ln(i)+\gamma }، أينγ=0.5772156649{\displaystyle \gamma =0.5772156649} هو ثابت أويلر-ماسكيروني .

تمثل قيمة c(m) أعلاه متوسط ​​h(x) بالنظر إلى m، لذلك يمكننا استخدامها لتطبيع h(x) والحصول على تقدير لدرجة الشذوذ لحالة معينة x:

s(x،م)=2-هـ(ح(x))ج(م){\displaystyle s(x,m)=2^{\frac {-E(h(x))}{c(m)}}}

حيث E(h(x)) هي القيمة المتوسطة لـ h(x) من مجموعة من أشجار iTrees. ومن المثير للاهتمام ملاحظة أنه لأي حالة معينة x :

  • إذا كانت قيمة s قريبة من 1، فمن المرجح جدًا أن تكون x حالة شاذة.
  • إذا كانت قيمة s أصغر من 0.5، فمن المرجح أن تكون قيمة x قيمة طبيعية.
  • إذا تم تخصيص درجة شذوذ تبلغ حوالي 0.5 لجميع الحالات في عينة معينة، فمن الآمن افتراض أن العينة لا تحتوي على أي شذوذ.

غابة العزلة الممتدة

كما هو موضح في الأقسام السابقة، يتميز خوارزمية غابة العزل بأداء ممتاز من حيث استهلاك الموارد الحاسوبية والذاكرة. تكمن المشكلة الرئيسية في الخوارزمية الأصلية في أن طريقة تفرع الأشجار تُدخل تحيزًا، مما قد يقلل من موثوقية درجات الشذوذ المستخدمة في ترتيب البيانات. هذا هو الدافع الرئيسي وراء تطوير خوارزمية غابة العزل الموسعة (EIF) من قِبل حريري وآخرون [ 8 ] .

البيانات الموزعة توزيعاً طبيعياً
الشكل 4 - نقاط ثنائية الأبعاد موزعة توزيعًا طبيعيًا بمتوسط ​​صفري ومصفوفة تباين موحدة

لفهم سبب معاناة نموذج غابة العزلة الأصلي من هذا التحيز، يقدم المؤلفون مثالاً عملياً قائماً على مجموعة بيانات عشوائية مأخوذة من توزيع طبيعي ثنائي الأبعاد بمتوسط ​​صفري وتغاير معطاة بمصفوفة الوحدة . يوضح الشكل 4 مثالاً على هذه المجموعة من البيانات.

يسهل فهم ذلك بالنظر إلى الصورة، حيث يُرجّح أن تكون النقاط القريبة من (0، 0) نقاطًا طبيعية، بينما يُرجّح أن تكون النقطة البعيدة عنها شاذة. ونتيجةً لذلك، من المفترض أن تزداد قيمة الشذوذ لنقطة ما بنمط دائري متناظر تقريبًا كلما ابتعدت النقطة شعاعيًا عن "مركز" التوزيع. إلا أن هذا لا يحدث عمليًا، كما يوضح الباحثون من خلال إنشاء خريطة قيم الشذوذ للتوزيع باستخدام خوارزمية غابة العزل. فعلى الرغم من أن قيم الشذوذ تزداد بشكل صحيح مع تحرك النقاط شعاعيًا للخارج، إلا أنها تُنتج أيضًا مناطق مستطيلة ذات قيم شذوذ أقل في الاتجاهين السيني والصادي، مقارنةً بالنقاط الأخرى التي تقع تقريبًا على نفس المسافة الشعاعية من المركز.

التقسيم العشوائي مع غابة العزل الموسعة
الشكل 5 - التقسيم العشوائي باستخدام EIF

من الممكن إثبات أن هذه المناطق المستطيلة غير المتوقعة في خريطة نقاط الشذوذ هي في الواقع نتيجة ثانوية أدخلتها الخوارزمية، وتعود أساسًا إلى حقيقة أن حدود القرار في غابة العزل تقتصر على أن تكون إما رأسية أو أفقية (انظر الشكل 2 والشكل 3). [ 8 ]

لهذا السبب، يقترح حريري وزملاؤه في ورقتهم البحثية تحسين خوارزمية غابة العزل الأصلية بالطريقة التالية: بدلاً من اختيار ميزة وقيمة عشوائيتين ضمن نطاق البيانات، يختارون قطعًا فرعيًا ذا "ميل" عشوائي. يوضح الشكل 5 مثالًا على التقسيم العشوائي باستخدام خوارزمية غابة العزل.

يوضح المؤلفون كيف أن النهج الجديد قادر على التغلب على حدود غابة العزل الأصلية، مما يؤدي في النهاية إلى تحسين خريطة نقاط الشذوذ.

تطبيقات مفتوحة المصدر

انظر أيضاً

مراجع

  1. 1 2 3 4 5 6 7 8 فاي، توني ليو؛ تينغ، كاي مينغ؛ تشو، تشي هوا (ديسمبر 2008). "غابة العزل". المؤتمر الدولي الثامن لجمعية مهندسي الكهرباء والإلكترونيات (IEEE) حول استخراج البيانات : 413-422 . رمز Bibcode : 2008icdm.conf...58L . doi : 10.1109/ICDM.2008.17 . ISBN 978-0-7695-3502-9.
  2. 1 2 3 4 تشاندولا، فارون؛ بانيرجي، أريندام؛ كومار، كومار (يوليو 2009). "الكشف عن الشذوذ: دراسة استقصائية" . مجلة ACM Computing Surveys . 41. doi : 10.1145/1541880.1541882 .
  3. 1 2 3 4 5 فاي، توني ليو؛ تينغ، كاي مينغ؛ تشو، تشي هوا (ديسمبر 2008). "الكشف عن الشذوذ القائم على العزل" . معاملات ACM لاكتشاف المعرفة من البيانات . 6 : 1-39 .
  4. 1 2 تشوان تان، سوي؛ مينغ تينغ، كاي؛ فاي ليو، توني (16 يوليو 2011). "الكشف السريع عن الحالات الشاذة في البيانات المتدفقة" . يوليو 2011. 2 : 1511-1516 . ISBN 978-1-57735-514-4.
  5. دينغ، تشيغو؛ فاي، مينروي (سبتمبر 2013). "نهج للكشف عن الشذوذ قائم على خوارزمية غابة العزل لبيانات البث باستخدام نافذة منزلقة" . وقائع الاتحاد الدولي للتحكم الآلي . 46 (20): 12-17 . doi : 10.3182/20130902-3-CN-3020.00044 .
  6. سوستو، جيان أنطونيو؛ بيغي، أليساندرو؛ ماكلون، شون (مايو 2017). "الكشف عن الشذوذ من خلال عزل فوري: تطبيق على الحفر بالبلازما" . المؤتمر السنوي الثامن والعشرون لتصنيع أشباه الموصلات المتقدمة (ASMC) لعام 2017 : 89-94 . Bibcode : 2017asmc.conf...23S . doi : 10.1109/ASMC.2017.7969205 . ISBN 978-1-5090-5448-0.
  7. وينغ، يو؛ ليو، لي (15 أبريل 2019). "نهج جماعي للكشف عن الشذوذ في تدفقات البيانات متعددة الأبعاد في أمن خدمات الهاتف المحمول" . IEEE Access . 7 : 49157-49168 . Bibcode : 2019IEEEA...749157W . doi : 10.1109/ACCESS.2019.2909750 .
  8. 1 2 3 حريري، سهند؛ كاراسكو كيند، ماتياس؛ برونر، روبرت ج. (2 سبتمبر 2013). "غابة العزل الموسعة". معاملات IEEE في هندسة المعرفة والبيانات . 33 (4): 1479-1489 . arXiv : 1811.02141 . doi : 10.1109/TKDE.2019.2947676 .
  9. ديليني تالاغالا، بريانغا؛ هايندمان، روب جيه؛ سميث-مايلز، كيت (12 أغسطس 2019). "الكشف عن الشذوذ في البيانات عالية الأبعاد". arXiv : 1908.04000 [ stat.ML ].{{cite arXiv}}: يحتوي Cite على مُعامل غير معروف فارغ: |volume=( مساعدة )
  10. شافر، كليفورد أ. (2011). هياكل البيانات وتحليل الخوارزميات في جافا ( الطبعة الثالثة من دوفر). مينولا، نيويورك: منشورات دوفر. ISBN  9780486485812. OCLC 721884651 .