قاعدة التعلم
قاعدة التعلم أو عملية التعلم في الشبكة العصبية الاصطناعية هي طريقة أو منطق رياضي أو خوارزمية تُحسّن أداء الشبكة و/أو وقت تدريبها. عادةً ما تُطبّق هذه القاعدة بشكل متكرر على الشبكة، وذلك بتحديث مستويات الأوزان والانحيازات عند محاكاتها في بيئة بيانات محددة. [ 1 ] قد تقبل قاعدة التعلم الظروف الحالية (الأوزان والانحيازات) للشبكة، وتقارن النتيجة المتوقعة بالنتيجة الفعلية للشبكة لتحديد قيم جديدة ومحسّنة للأوزان والانحيازات. [ 2 ] اعتمادًا على مدى تعقيد النموذج المُحاكى، قد تكون قاعدة التعلم بسيطة كبوابة XOR أو متوسط مربع الخطأ ، أو معقدة كنتيجة نظام من المعادلات التفاضلية .
تُعدّ قاعدة التعلّم أحد العوامل التي تُحدّد سرعة ودقة تطوير الشبكة العصبية. وبناءً على عملية تطوير الشبكة، توجد ثلاثة نماذج رئيسية للتعلّم الآلي:
- التعلم الخاضع للإشراف ،
- التعلم غير الخاضع للإشراف ،
- والتعلم المعزز .
خلفية
تتشابه العديد من أساليب التعلم في مجال التعلم الآلي في طريقة عملها، وتعتمد على بعضها البعض، مما يجعل تصنيفها في فئات واضحة أمرًا صعبًا. ولكن يمكن فهمها بشكل عام ضمن 4 فئات من أساليب التعلم، على الرغم من أن هذه الفئات لا تملك حدودًا واضحة وتميل إلى الانتماء إلى فئات متعددة من أساليب التعلم [ 3 ] -
- هيبيان - نيوكوجنيترون ، حالة الدماغ في صندوق [ 4 ]
- خوارزمية التدرج الهبوطي - أدالاين ، شبكة هوبفيلد ، الشبكة العصبية المتكررة
- التنافس - تعلم كمية المتجهات ، خريطة الميزات ذاتية التنظيم ، نظرية الرنين التكيفي
- آلة ستوكاستيك بولتزمان ، آلة كوشي
على الرغم من أن قواعد التعلم هذه قد تبدو مبنية على أفكار متشابهة، إلا أنها تحتوي على اختلافات دقيقة، لأنها تعميم أو تطبيق للقاعدة السابقة، وبالتالي فمن المنطقي دراستها بشكل منفصل بناءً على أصولها ونواياها.
التعلم الهيبي
طُوِّرت هذه النظرية بواسطة دونالد هيب عام 1949 لوصف إطلاق النبضات العصبية في الخلايا العصبية البيولوجية. وفي منتصف الخمسينيات من القرن الماضي، طُبِّقت أيضًا على عمليات المحاكاة الحاسوبية للشبكات العصبية.
أينيمثل معدل التعلم،يمثل المدخلات للعصبون i، بينما يمثل y مخرجاته. وقد ثبت أن قاعدة هيب في شكلها الأساسي غير مستقرة. وتُعد قاعدة أوجا ونظرية BCM من قواعد التعلم الأخرى المبنية على قاعدة هيب أو بالتوازي معها في دراسة الخلايا العصبية البيولوجية.
قاعدة التعلم البيرسيبتروني (PLR)
تستند قاعدة تعلم البيرسيبترون إلى فرضية هيب، وقد استخدمها فرانك روزنبلات في بيرسيبترونه عام ١٩٥٨. تُمرر الشبكة إلى دالة التنشيط ( النقل )، ويُستخدم ناتج هذه الدالة لضبط الأوزان. إشارة التعلم هي الفرق بين الاستجابة المطلوبة والاستجابة الفعلية للعصبون. غالبًا ما تُستخدم دالة الخطوة كدالة تنشيط، وعادةً ما تقتصر مخرجاتها على -١ أو ٠ أو ١.
يتم تحديث الأوزان باستخدام
حيث "t" هي القيمة المستهدفة و" o" هي ناتج البيرسيبترون، ويُطلق عليه معدل التعلم.
تتقارب الخوارزمية إلى التصنيف الصحيح إذا: [ 5 ]
- بيانات التدريب قابلة للفصل الخطي *
- صغير بما فيه الكفاية (وإن كان أصغر)يعني ذلك عمومًا وقت تعلم أطول وعددًا أكبر من الدورات التدريبية)
* تجدر الإشارة أيضًا إلى أن الشبكة العصبية ذات الطبقة الواحدة مع قاعدة التعلم هذه غير قادرة على العمل على المدخلات غير القابلة للفصل خطيًا، وبالتالي لا يمكن حل مشكلة XOR باستخدام هذه القاعدة وحدها [ 6 ].
الانتشار العكسي
يُقال إن سيبو لينينما قد طوّر خوارزمية الانتشار العكسي عام 1970 [ 7 ]، لكن أصول هذه الخوارزمية تعود إلى ستينيات القرن الماضي، حيث ساهم فيها العديد من الباحثين. وهي تعميم لخوارزمية المربعات الصغرى في الشبكة العصبية الخطية وقاعدة دلتا للتعلم.
يقوم هذا النظام بتنفيذ بحث التدرج الهبوطي من خلال أوزان الشبكة الممكنة، مما يقلل الخطأ بشكل متكرر بين القيم المستهدفة ومخرجات الشبكة.
التعلم وفقًا لنموذج ويدرو-هوف (قاعدة التعلم دلتا)
يشبه هذا النموذج قاعدة تعلم البيرسيبترون، لكنه يختلف عنه في الأصل. طُوّر هذا النموذج لاستخدامه في شبكة ADALINE ، التي تختلف عن البيرسيبترون بشكل أساسي في عملية التدريب. تُعدّل الأوزان وفقًا للمجموع المرجح للمدخلات (الشبكة)، بينما في البيرسيبترون، كانت إشارة المجموع المرجح تُستخدم لتحديد المخرجات، حيث تُضبط العتبة على 0 أو -1 أو +1. هذا ما يُميّز ADALINE عن البيرسيبترون التقليدي.
قاعدة دلتا (DR) تشبه قاعدة تعلم البيرسيبترون (PLR)، مع بعض الاختلافات:
- لا يقتصر الخطأ (δ) في معدل الكشف على القيم 0 أو 1 أو -1 (كما هو الحال في معدل الكشف الاحتمالي)، بل قد يأخذ أي قيمة.
- يمكن اشتقاق DR لأي دالة إخراج/تنشيط قابلة للتفاضل f، بينما في PLR يعمل فقط مع دالة الإخراج العتبية
أحيانًا، يُشار إلى خوارزمية ويدرو-هوف باسم قاعدة دلتا عند تطبيقها على أهداف ثنائية تحديدًا، ولكن يبدو أن المصطلحين يُستخدمان غالبًا بشكل متبادل. تُعتبر قاعدة دلتا حالة خاصة من خوارزمية الانتشار العكسي .
كما أن قاعدة دلتا تشبه إلى حد كبير نموذج ريسكورلا-فاغنر الذي يحدث في ظله التكييف البافلوفي. [ 8 ]
التعلم التنافسي
يُعتبر التعلّم التنافسي أحد أشكال التعلّم الهيبي ، ولكنه يتميّز بخصوصية كافية تجعله جديراً بالدراسة بشكل منفصل. يعمل التعلّم التنافسي على زيادة تخصص كل عقدة في الشبكة، وهو مناسب تماماً لاكتشاف التجمعات داخل البيانات.
تشمل النماذج والخوارزميات القائمة على مبدأ التعلم التنافسي التكميم المتجهي والخرائط ذاتية التنظيم (خرائط كوهونين).
انظر أيضاً
مراجع
- ↑ سيمون هايكين (16 يوليو 1998). "الفصل الثاني: عمليات التعلم". الشبكات العصبية: أساس شامل ( الطبعة الثانية). برنتيس هول. الصفحات 50-104 . ISBN 978-8178083001تم الاطلاع عليه بتاريخ 2 مايو 2012 .
- ↑ إس راسل، بي نورفيج (1995). "الفصل 18: التعلم من الأمثلة". الذكاء الاصطناعي: منهج حديث ( الطبعة الثالثة). برنتيس هول. الصفحات 693-859 . ISBN 0-13-103805-2تم الاطلاع عليه بتاريخ 20 نوفمبر 2013 .
- ↑ راجاسيكاران، سوندارامورثي. (2003). الشبكات العصبية، والمنطق الضبابي، والخوارزميات الجينية : التركيب والتطبيقات . باي، جي إيه فيجايالاكشمي. ( محرر الاقتصاد الشرقي). نيودلهي: برنتيس هول الهند. ISBN 81-203-2186-3. OCLC 56960832 .
- ↑ جولدن، ريتشارد م. (1986-03-01). "النموذج العصبي "حالة الدماغ في صندوق" هو خوارزمية انحدار التدرج". مجلة علم النفس الرياضي . 30 (1): 73-80 . doi : 10.1016/0022-2496(86)90043-X . ISSN 0022-2496 .
- ↑ سيفاناندام، إس إن (2007). مبادئ الحوسبة المرنة . ديبا، إس إن ( الطبعة الأولى). نيودلهي: وايلي إنديا. ISBN 978-81-265-1075-7. OCLC 760996382 .
- ↑ مينسكي، مارفن، 1927-2016. (1969). البيرسيبترونات: مقدمة في الهندسة الحسابية . بابيرت، سيمور. كامبريدج، ماساتشوستس: مطبعة معهد ماساتشوستس للتكنولوجيا. ISBN 0-262-13043-2. OCLC 5034 .
{{cite book}}: صيانة CS1: أسماء متعددة: قائمة المؤلفين ( رابط ) صيانة CS1: أسماء رقمية: قائمة المؤلفين ( رابط ) - ↑ شميدهوبر، يورغن (يناير 2015). " التعلم العميق في الشبكات العصبية: نظرة عامة". الشبكات العصبية . 61 : 85-117 . arXiv : 1404.7828 . doi : 10.1016/j.neunet.2014.09.003 . PMID 25462637. S2CID 11715509 .
- ↑ ريسكورلا، روبرت (31 مارس 2008). "نموذج ريسكورلا-فاغنر" . موسوعة سكولاربيديا . 3 (3): 2237. رمز Bibcode : 2008SchpJ...3.2237R . doi : 10.4249/scholarpedia.2237 . ISSN 1941-6016 .
- الشبكات العصبية الاصطناعية
- تعلُّم
