زيادة البيانات

الموسوعة الحرة

تُعدّ تقنية زيادة البيانات أسلوبًا إحصائيًا يسمح بتقدير الاحتمالية القصوى من البيانات غير المكتملة. [ 1 ] [ 2 ] ولزيادة البيانات تطبيقات مهمة في التحليل البايزي ، [ 3 ] كما تُستخدم هذه التقنية على نطاق واسع في التعلّم الآلي للحدّ من فرط التخصيص عند تدريب نماذج التعلّم الآلي، [ 4 ] وذلك من خلال تدريب النماذج على نسخ مُعدّلة قليلاً من البيانات الموجودة.

تقنيات أخذ العينات الاصطناعية للتعلم الآلي التقليدي

تقنية إعادة أخذ العينات الاصطناعية للأقلية (SMOTE) هي طريقة تُستخدم لمعالجة مجموعات البيانات غير المتوازنة في التعلم الآلي. في مثل هذه المجموعات، يختلف عدد العينات في الفئات المختلفة اختلافًا كبيرًا، مما يؤدي إلى تحيز في أداء النموذج. على سبيل المثال، في مجموعة بيانات تشخيص طبي تحتوي على 90 عينة تمثل أفرادًا أصحاء و10 عينات فقط تمثل أفرادًا مصابين بمرض معين، قد تواجه الخوارزميات التقليدية صعوبة في تصنيف فئة الأقلية بدقة. تعمل تقنية SMOTE على إعادة توازن مجموعة البيانات من خلال توليد عينات اصطناعية لفئة الأقلية. على سبيل المثال، إذا كانت هناك 100 عينة في فئة الأغلبية و10 عينات في فئة الأقلية، يمكن لتقنية SMOTE إنشاء عينات اصطناعية عن طريق اختيار عينة من فئة الأقلية وجيرانها الأقرب عشوائيًا، ثم توليد عينات جديدة على طول القطع المستقيمة التي تربط هؤلاء الجيران. تساعد هذه العملية على زيادة تمثيل فئة الأقلية، مما يحسن أداء النموذج. [ 5 ]

زيادة البيانات لتصنيف الصور

عندما ازداد حجم الشبكات العصبية الالتفافية في منتصف التسعينيات، كان هناك نقص في البيانات المتاحة، خاصةً مع ضرورة الاحتفاظ بجزء من مجموعة البيانات الإجمالية للاختبارات اللاحقة. لذا، اقتُرح تعديل البيانات الموجودة بتحويلات خطية لإنشاء أمثلة جديدة بنفس التصنيفات، [ 6 ] والتي استُكملت بما يُسمى بالتشويهات المرنة في عام 2003، [ 7 ] وشاع استخدام هذه التقنية في العقد الثاني من الألفية الثانية. [ 8 ] ويمكن لتوسيع البيانات تحسين أداء الشبكات العصبية الالتفافية، كما يُعدّ إجراءً مضادًا لهجمات تحليل خصائصها. [ 9 ]

أصبح توسيع البيانات أساسيًا في تصنيف الصور، حيث يُثري تنوع مجموعات بيانات التدريب لتحسين قدرة النموذج على التعميم وأدائه. وقد أدى تطور هذه الممارسة إلى ظهور طيف واسع من التقنيات، بما في ذلك التحويلات الهندسية، وتعديلات فضاء الألوان، وإضافة التشويش. [ 10 ]

التحويلات الهندسية

تُغيّر التحويلات الهندسية الخصائص المكانية للصور لمحاكاة وجهات نظر واتجاهات ومقاييس مختلفة. ومن التقنيات الشائعة ما يلي:

  • التحويل الأفيني
    • التدوير : تدوير الصور بدرجة محددة لمساعدة النماذج على التعرف على الأشياء من زوايا مختلفة.
    • الانعكاس : عكس الصور أفقياً أو رأسياً لإدخال تباين في الاتجاه.
    • الترجمة : تحريك الصور في اتجاهات مختلفة لتعليم النماذج الثبات الموضعي.
    • التوسع
    • رسم خرائط القص
  • الاقتصاص : إزالة أجزاء من الصورة للتركيز على ميزات معينة أو لمحاكاة مناظر أقرب.
  • التشوه المرن [ 7 ]
  • التحويل المورفولوجي داخل نفس الفئة : توليد عينات جديدة من خلال تطبيق تقنيات التحويل المورفولوجي بين صورتين تنتميان إلى نفس الفئة، مما يزيد من التنوع داخل الفئة. [ 11 ]

تحويلات مساحة اللون

تُعدّل تحويلات فضاء اللون خصائص ألوان الصور، وتعالج الاختلافات في الإضاءة وتشبع اللون والتباين. وتشمل التقنيات ما يلي:

  • ضبط السطوع : تغيير سطوع الصورة لمحاكاة ظروف الإضاءة المختلفة.
  • تعديل التباين : تغيير التباين لمساعدة النماذج على التعرف على الأشياء في ظل مستويات وضوح مختلفة.
  • تعديل التشبع : تغيير التشبع لإعداد النماذج للصور ذات شدة الألوان المتنوعة.
  • تذبذب الألوان : تعديل عشوائي للسطوع والتباين والتشبع واللون لإدخال تباين في الألوان.

حقن الضوضاء

يُحاكي إدخال التشويش في الصور عيوب العالم الحقيقي، مما يُعلّم النماذج تجاهل الاختلافات غير ذات الصلة. وتشمل التقنيات ما يلي:

زيادة البيانات لمعالجة الإشارات

يمكن استخدام التمهيد المتبقي أو التمهيد الكتلي لزيادة السلاسل الزمنية.

الإشارات البيولوجية

يُعدّ تعزيز البيانات الاصطناعية ذا أهمية بالغة لتصنيف التعلّم الآلي، لا سيما البيانات البيولوجية التي تميل إلى أن تكون عالية الأبعاد ونادرة. ولا تزال تطبيقات التحكم الروبوتي وتعزيز البيانات لدى الأشخاص ذوي الإعاقة والأصحاء تعتمد بشكل أساسي على تحليلات خاصة بكل حالة. وتبرز ندرة البيانات في مشاكل معالجة الإشارات، مثل إشارات تخطيط كهربية العضل لمرض باركنسون ، والتي يصعب الحصول عليها. وقد أشار زانيني وآخرون إلى إمكانية استخدام شبكة توليدية تنافسية (وتحديدًا DCGAN) لنقل الأنماط بهدف توليد إشارات تخطيط كهربية عضل اصطناعية تُحاكي تلك التي يُظهرها مرضى باركنسون. [ 12 ]

تُعدّ هذه الأساليب مهمة أيضاً في تخطيط كهربية الدماغ (موجات الدماغ). وقد استكشف وانغ وزملاؤه فكرة استخدام الشبكات العصبية الالتفافية العميقة للتعرف على المشاعر باستخدام تخطيط كهربية الدماغ، وأظهرت النتائج تحسناً في التعرف على المشاعر عند استخدام تقنيات زيادة البيانات. [ 13 ]

يتمثل أحد الأساليب الشائعة في توليد إشارات اصطناعية عن طريق إعادة ترتيب مكونات البيانات الحقيقية. اقترح لوت [ 14 ] طريقة "توليد التجارب الاصطناعية القائمة على القياس" حيث يتم استخدام ثلاثة أمثلة من البياناتx1،x2،x3{\displaystyle x_{1},x_{2},x_{3}}قدّم أمثلة ونموذجًا اصطناعيًاxsyنتحهـتأناج{\displaystyle x_{synthetic}}يتم تشكيلها وهو ما يعنيx3{\displaystyle x_{3}}ماذاx2{\displaystyle x_{2}}هو أنx1{\displaystyle x_{1}}يتم تطبيق تحويل علىx1{\displaystyle x_{1}}لجعلها أكثر شبهاً بـx2{\displaystyle x_{2}}ثم يتم تطبيق نفس التحويل علىx3{\displaystyle x_{3}}والذي ينتجxsyنتحهـتأناج{\displaystyle x_{synthetic}}وقد ثبت أن هذا النهج يحسن أداء مصنف تحليل التمييز الخطي على ثلاث مجموعات بيانات مختلفة.

تُظهر الأبحاث الحالية إمكانية تحقيق تأثير كبير باستخدام تقنيات بسيطة نسبيًا. على سبيل المثال، لاحظ فرير [ 15 ] أن إضافة التشويش إلى البيانات المُجمّعة لتكوين نقاط بيانات إضافية حسّنت من قدرة التعلّم لدى العديد من النماذج التي كان أداؤها ضعيفًا نسبيًا. درس تسينغانوس وآخرون [ 16 ] أساليب تشويه السعة، وتحليل الموجات، ونماذج تخطيط كهربية العضل السطحية الاصطناعية (الأساليب التوليدية) للتعرف على إيماءات اليد، ووجدوا زيادة في أداء التصنيف تصل إلى 16% عند إضافة بيانات مُعززة أثناء التدريب. في الآونة الأخيرة، بدأت دراسات تعزيز البيانات بالتركيز على مجال التعلّم العميق، وتحديدًا على قدرة النماذج التوليدية على إنشاء بيانات اصطناعية تُستخدم لاحقًا في عملية تدريب نموذج التصنيف. في عام 2018، لاحظ لو وآخرون [ 17 ] إمكانية توليد بيانات إشارة تخطيط كهربية الدماغ المفيدة باستخدام شبكات الخصومة التوليدية الشرطية (GANs) من نوع واسرشتين، والتي أُضيفت بعد ذلك إلى مجموعة التدريب في إطار عمل التعلّم التقليدي للتدريب والاختبار. ووجد الباحثون تحسنًا في أداء التصنيف عند استخدام هذه التقنيات.

الإشارات الميكانيكية

يُسهم التنبؤ بالإشارات الميكانيكية باستخدام تقنيات تضخيم البيانات في ظهور جيل جديد من الابتكارات التكنولوجية ، مثل توزيع الطاقة المتجددة، ومجال اتصالات الجيل الخامس، وهندسة التحكم في الروبوتات. [ 18 ] في عام 2022، قام يانغ وآخرون [ 18 ] بدمج القيود والتحسين والتحكم في إطار شبكة عميقة يعتمد على تضخيم البيانات وتقليمها مع ربط البيانات المكانية والزمانية، مما حسّن من قابلية تفسير التعلم العميق وسلامته وقابليته للتحكم في المشاريع الصناعية الحقيقية من خلال معادلات البرمجة الرياضية الصريحة والحلول التحليلية.

انظر أيضاً

مراجع

  1. ↑ ديمبستر، أ.ب.؛ ليرد، ن.م.؛ روبين، د.ب. (1977). "الاحتمال الأقصى من البيانات غير المكتملة باستخدام خوارزمية EM" . مجلة الجمعية الإحصائية الملكية. السلسلة ب (المنهجية) . 39 (1): 1-22 . doi : 10.1111/j.2517-6161.1977.tb01600.x . مؤرشف من الأصل بتاريخ 10-10-2022 . تم الاطلاع عليه بتاريخ 28-08-2024 .
  2. ↑ روبين، دونالد (1987). "تعليق: حساب التوزيعات الاحتمالية اللاحقة عن طريق زيادة البيانات" . مجلة الجمعية الإحصائية الأمريكية . 82 (398). doi : 10.2307/2289460 . JSTOR 2289460. مؤرشف من الأصل في 2024-08-07 . تم الاسترجاع في 2024-08-28 . 
  3. ↑ جاكمان، سيمون (2009). التحليل البايزي للعلوم الاجتماعية . جون وايلي وأولاده. ص 236. ISBN  978-0-470-01154-6.
  4. ↑ شورتن، كونور؛ خوشجوفتار، تقي م. (2019). "دراسة استقصائية حول زيادة بيانات الصور للتعلم العميق" . الرياضيات والحاسبات في المحاكاة . 6 60. سبرينغر. doi : 10.1186/s40537-019-0197-0 .
  5. ↑ وانغ، شوجوان؛ داي، يونتاو؛ شين، جيهونغ؛ شوان، جينغشيو (15 ديسمبر 2021). "بحث حول توسيع وتصنيف البيانات غير المتوازنة باستخدام خوارزمية SMOTE" . التقارير العلمية . 11 (1): 24039. Bibcode : 2021NatSR..1124039W . doi : 10.1038/s41598-021-03430-5 . ISSN: 2045-2322 . PMC: 8674253. PMID : 34912009 .   
  6. ↑ يان ليكان وآخرون (1995). خوارزميات التعلم للتصنيف: مقارنة في التعرف على الأرقام المكتوبة بخط اليد ( ورقة بحثية مقدمة في مؤتمر) . وورلد ساينتيفيك. الصفحات 261-276 . تاريخ الاطلاع: 14 مايو 2023 .  {{cite book}}تم |website=تجاهله ( مساعدة )
  7. سيمارد ، بي واي؛ شتاينكراوس، دي؛ بلات، جيه سي (2003). " أفضل الممارسات للشبكات العصبية الالتفافية المطبقة على تحليل المستندات المرئية". المؤتمر الدولي السابع لتحليل المستندات والتعرف عليها، 2003. وقائع المؤتمر . المجلد 1. الصفحات 958-963 . doi : 10.1109/ICDAR.2003.1227801 . ISBN   0-7695-1960-1. S2CID 4659176 . 
  8. ↑ هينتون، جيفري إي.؛ سريفاستافا، نيتيش؛ كريزيفسكي، أليكس؛ سوتسكيفر، إيليا؛ سالاخوتدينوف، روسلان ر. (2012). "تحسين الشبكات العصبية عن طريق منع التكيف المشترك لكاشفات الميزات". arXiv : 1207.0580 [ cs.NE ].
  9. ↑ كالي، إليونورا؛ دوماس، سيسيل؛ بروف، إيمانويل (2017). "الشبكات العصبية الالتفافية مع زيادة البيانات لمواجهة التدابير المضادة القائمة على التذبذب: هجمات التنميط بدون معالجة مسبقة" . في: فيشر، ويلاند؛ هوما، ناوفومي (محرران). الأجهزة المشفرة والأنظمة المدمجة - CHES 2017. سلسلة محاضرات في علوم الحاسوب. المجلد 10529. تشام: دار نشر سبرينغر الدولية. الصفحات 45-68 . doi : 10.1007/978-3-319-66787-4_3 . ISBN   978-3-319-66787-4. S2CID 54088207 . 
  10. ↑ شورتن، كونور؛ خوشجوفتار، تقي م. (2019-07-06). "دراسة استقصائية حول زيادة بيانات الصور للتعلم العميق" . مجلة البيانات الضخمة . 6 (1): 60. doi : 10.1186/s40537-019-0197-0 . ISSN 2196-1115 . 
  11. ↑ غربل، إمنا؛ غربل، فوزي (2024-06-01). "توسيع البيانات بناءً على استكشاف فضاء الشكل لمجموعات البيانات صغيرة الحجم: تطبيق على تصنيف الأشكال ثنائية الأبعاد" . الحوسبة العصبية وتطبيقاتها . 36 (17): 10031-10054 . doi : 10.1007/s00521-024-09798-5 . ISSN 1433-3058 . 
  12. ↑ أنيسيت زانيني، رافائيل؛ لونا كولومبيني، إستر (2020). "تحسين بيانات تخطيط كهربية العضل لمرض باركنسون ومحاكاتها باستخدام شبكات DCGANs ونقل الأنماط" . مجلة Sensors . 20 (9): 2605. Bibcode : 2020Senso..20.2605A . doi : 10.3390/s20092605 . ISSN 1424-8220 . PMC 7248755. PMID 32375217 .   
  13. ↑ وانغ، فانغ؛ تشونغ، شنغ هوا؛ بنغ، جيان فنغ؛ جيانغ، جيان مين؛ ليو، يان (2018). "توسيع البيانات للتعرف على المشاعر باستخدام تخطيط كهربية الدماغ مع الشبكات العصبية التلافيفية العميقة". نمذجة الوسائط المتعددة . سلسلة محاضرات في علوم الحاسوب. المجلد 10705. الصفحات 82-93 . doi : 10.1007/978-3-319-73600-6_8 . ISBN   978-3-319-73599-3ISSN 0302-9743​​ 
  14. ↑ لوت، فابيان (2015). "أساليب معالجة الإشارات لتقليل أو كبح وقت المعايرة في واجهات الدماغ والحاسوب القائمة على النشاط التذبذبي" ( ملف PDF) . وقائع معهد مهندسي الكهرباء والإلكترونيات . 103 (6): 871-890 . doi : 10.1109/JPROC.2015.2404941 . ISSN 0018-9219 . S2CID 22472204. مؤرشف (ملف PDF) من الأصل بتاريخ 2023-04-03 . تم الاطلاع عليه بتاريخ 2022-11-05 .  
  15. ↑ فرير، دانيال؛ يانغ، غوانغ-تشونغ (2020). "توسيع البيانات لتصنيف التصور الحركي ذاتي الوتيرة باستخدام C-LSTM". مجلة الهندسة العصبية . 17 (1): 016041. Bibcode : 2020JNEng..17a6041F . doi : 10.1088/ 1741-2552 /ab57c0 . hdl : 10044/1/75376 . ISSN 1741-2552 . PMID 31726440. S2CID 208034533 .   
  16. ↑ تسينغانوس، بانايوتيس؛ كورنيليس، برونو؛ كورنيليس، يان؛ يانسن، بارت؛ سكودراس، أثاناسيوس (2020). "تحسين بيانات تخطيط كهربية العضل السطحي للتعرف على إيماءات اليد" . مجلة الحساسات . 20 (17): 4892. رمز Bibcode : 2020Senso..20.4892T . doi : 10.3390/s20174892 . ISSN 1424-8220 . PMC 7506981. PMID 32872508 .   
  17. ↑ لو، يون؛ لو، باو ليانغ (2018). "زيادة بيانات تخطيط كهربية الدماغ للتعرف على المشاعر باستخدام شبكة توليدية متنافسة شرطية من نوع ووترشتاين". المؤتمر الدولي السنوي الأربعون لجمعية مهندسي الكهرباء والإلكترونيات في الهندسة الطبية والبيولوجية (EMBC) . المجلد 2018. الصفحات 2535-2538 . doi : 10.1109/EMBC.2018.8512865 . ISBN   978-1-5386-3646-6PMID 30440924 . S2CID 53105445 .​  
  18. 1 2 يانغ، يانغ (2022). "التنبؤ بسرعة الرياح باستخدام تقليم وتوسيع شبكة الارتباط: طريقة تعلم عميق ثنائية المراحل". الطاقة المتجددة . 198 (1): 267-282 . arXiv : 2306.01986 . Bibcode : 2022REne..198..267Y . doi : 10.1016/j.renene.2022.07.125 . ISSN 0960-1481 . S2CID 251511199 .