نظرية التعلم الحسابي

في علوم الحاسوب ، تُعد نظرية التعلم الحسابي (أو ببساطة نظرية التعلم ) فرعاً من فروع الذكاء الاصطناعي مخصصاً لدراسة تصميم وتحليل خوارزميات التعلم الآلي . [ 1 ]

ملخص

تركز النتائج النظرية في مجال تعلم الآلة غالبًا على نوع من التعلم الاستقرائي يُعرف بالتعلم الخاضع للإشراف . في هذا النوع من التعلم، تُزوَّد الخوارزمية بعينات مُصنَّفة . على سبيل المثال، قد تكون هذه العينات عبارة عن أوصاف للفطر، مع تصنيفات تُشير إلى ما إذا كان صالحًا للأكل أم لا. تستخدم الخوارزمية هذه العينات المُصنَّفة لإنشاء مُصنِّف. يقوم هذا المُصنِّف بتصنيف العينات الجديدة، بما في ذلك تلك التي لم يسبق له التعامل معها. يهدف التعلم الخاضع للإشراف إلى تحسين مقاييس الأداء، مثل تقليل الأخطاء في العينات الجديدة.

بالإضافة إلى حدود الأداء، تدرس نظرية التعلم الحسابي التعقيد الزمني وجدوى التعلم. [ 2 ] في نظرية التعلم الحسابي، تُعتبر العملية الحسابية مجدية إذا أمكن إنجازها في وقت متعدد الحدود . [ 2 ] هناك نوعان من نتائج التعقيد الزمني:

  • النتائج الإيجابية - إظهار أن فئة معينة من الدوال قابلة للتعلم في وقت متعدد الحدود. 
  • النتائج السلبية تُظهر أن بعض الفئات لا يمكن تعلمها في وقت متعدد الحدود. [ 3 ] 

غالباً ما تعتمد النتائج السلبية على افتراضات شائعة الاعتقاد، ولكنها لم تثبت بعد، مثل:

توجد عدة مناهج مختلفة لنظرية التعلم الحسابي، تعتمد على افتراضات متباينة حول مبادئ الاستدلال المستخدمة للتعميم من بيانات محدودة. ويشمل ذلك تعريفات مختلفة للاحتمال (انظر احتمال التكرار ، الاحتمال البايزي ) وافتراضات مختلفة حول توليد العينات. ومن هذه المناهج:

على الرغم من أن هدفها الأساسي هو فهم التعلم بشكل مجرد، فقد أدت نظرية التعلم الحسابي إلى تطوير خوارزميات عملية. على سبيل المثال، ألهمت نظرية PAC تقنية التعزيز ، وأدت نظرية VC إلى آلات المتجهات الداعمة ، وأدى الاستدلال البايزي إلى شبكات الاعتقاد .

انظر أيضاً

مراجع

  1. "ACL - جمعية التعلم الحسابي" .
  2. 1 2 فاليانت، إل جي (1984). "نظرية القابل للتعلم" (ملف PDF) . اتصالات رابطة آلات الحوسبة . 27 (11): 1134-1142 .
  3. كيرنز، مايكل؛ فازيراني، أوميش (15 أغسطس 1994). مقدمة في نظرية التعلم الحسابي . مطبعة معهد ماساتشوستس للتكنولوجيا. ISBN 978-0262111935.
  4. دانا أنجلوين (1976). تطبيق نظرية التعقيد الحسابي على دراسة الاستدلال الاستقرائي (أطروحة دكتوراه). جامعة كاليفورنيا في بيركلي.
  5. د. أنجلوين (1978). "حول تعقيد الاستدلال الأدنى للمجموعات المنتظمة" . المعلومات والتحكم . 39 (3): 337-350 .
  6. فاليانت، ليزلي (1984). "نظرية ما يمكن تعلمه" (ملف PDF) . مجلة اتصالات رابطة مكائن ​​الحوسبة . 27 (11): 1134-1142 . doi : 10.1145/1968.1972 . S2CID 12837541. مؤرشف من الأصل (ملف PDF) بتاريخ 17 مايو 2019. تم الاطلاع عليه بتاريخ 24 نوفمبر 2022 . 
  7. فابنيك، ف.؛ تشيرفونينكيس، أ. (1971). "حول التقارب المنتظم للترددات النسبية للأحداث إلى احتمالاتها" (ملف PDF) . نظرية الاحتمالات وتطبيقاتها . 16 (2): 264-280 . doi : 10.1137/1116025 .
  8. سولومونوف، راي (مارس 1964). "نظرية رسمية للاستدلال الاستقرائي، الجزء الأول" . المعلومات والتحكم . 7 (1): 1-22 . doi : 10.1016/S0019-9958(64)90223-2 .
  9. سولومونوف، راي (1964). "نظرية رسمية للاستدلال الاستقرائي، الجزء الثاني". المعلومات والتحكم . 7 (2): 224-254 . doi : 10.1016/S0019-9958(64)90131-7 .
  10. غولد، إي. مارك (1967). "تحديد اللغة في الحد" (ملف PDF) . المعلومات والتحكم . 10 (5): 447-474 . doi : 10.1016/S0019-9958(67)91165-5 .

للمزيد من القراءة

يُقدَّم وصف لبعض هذه المنشورات في قسم المنشورات المهمة في مجال التعلم الآلي.

استطلاعات الرأي

  • أنجلوين، د. 1992. نظرية التعلم الحسابي: دراسة استقصائية وقائمة مختارة من المراجع. في وقائع الندوة السنوية الرابعة والعشرين لجمعية آلات الحوسبة حول نظرية الحوسبة (مايو 1992)، الصفحات  351-369. http://portal.acm.org/citation.cfm?id=129712.129746
  • د. هاوسلر. التعلم الصحيح تقريبًا. في وقائع المؤتمر الوطني الثامن للذكاء الاصطناعي AAAI-90، بوسطن، ماساتشوستس، الصفحات 1101-1108. الجمعية الأمريكية للذكاء الاصطناعي، 1990. http://citeseer.ist.psu.edu/haussler90probably.html

اختيار الميزات

تعلم الترميز الأمثل O

نتائج سلبية

  • م. كيرنز وليسل فاليانت . 1989. القيود التشفيرية على تعلم الصيغ البوليانية والآلات المحدودة. في وقائع الندوة السنوية الحادية والعشرين لجمعية آلات الحوسبة (ACM) حول نظرية الحوسبة، الصفحات 433-444، نيويورك. جمعية آلات الحوسبة (ACM). http://citeseer.ist.psu.edu/kearns89cryptographic.html

التسامح مع الأخطاء

  • مايكل كيرنز ومينغ لي. التعلّم في ظل وجود أخطاء خبيثة. مجلة SIAM للحوسبة، 22(4): 807-837، أغسطس 1993. http://citeseer.ist.psu.edu/kearns93learning.html
  • كيرنز، م. (1993). التعلم الفعال المقاوم للضوضاء من الاستعلامات الإحصائية. في وقائع الندوة السنوية الخامسة والعشرين لجمعية آلات الحوسبة حول نظرية الحوسبة، الصفحات 392-401. http://citeseer.ist.psu.edu/kearns93efficient.html

التكافؤ

  • D.Haussler, M.Kearns, N.Littlestone and M. Warmuth , تكافؤ النماذج لقابلية التعلم متعددة الحدود، وقائع ورشة عمل ACM الأولى حول نظرية التعلم الحسابي، (1988) 42-55.
  • بيت، ل.؛ وارموث، م.ك. (1990). "الاختزال الحافظ للتنبؤ" . مجلة علوم الحاسوب والنظم . 41 (3): 430-467 . doi : 10.1016/0022-0000(90)90028-J .