نظرية الرنين التكيفي

نظرية الرنين التكيفي ( ART ) هي نظرية طورها ستيفن جروسبيرج وجيل كاربنتر حول جوانب كيفية معالجة الدماغ للمعلومات . وهي تصف عددًا من نماذج الشبكات العصبية الاصطناعية التي تستخدم أساليب التعلم الخاضع للإشراف وغير الخاضع للإشراف ، وتتناول مشاكل مثل التعرف على الأنماط والتنبؤ.

يكمن المبدأ الأساسي لنموذج ART في أن تحديد هوية الأشياء والتعرف عليها يحدثان عادةً نتيجةً لتفاعل توقعات المُلاحِظ "من أعلى إلى أسفل" مع المعلومات الحسية "من أسفل إلى أعلى" . يفترض النموذج أن التوقعات "من أعلى إلى أسفل" تتخذ شكل نموذج ذاكرة أو نموذج أولي يُقارن بعد ذلك بالخصائص الفعلية للشيء كما تُدركها الحواس. تُنتج هذه المقارنة مقياسًا لانتماء الشيء إلى فئة معينة. طالما أن هذا الفرق بين الإحساس والتوقع لا يتجاوز عتبة محددة تُسمى "معامل اليقظة"، يُعتبر الشيء المُحسوس عضوًا في الفئة المتوقعة. وبالتالي، يُقدم النظام حلاً لمشكلة "المرونة/الاستقرار"، أي مشكلة اكتساب معرفة جديدة دون التأثير على المعرفة الموجودة، والتي تُسمى أيضًا بالتعلم التراكمي .

نموذج التعلم

بنية ART الأساسية

نظام ART الأساسي هو نموذج تعلم غير خاضع للإشراف . ويتكون عادةً من حقل مقارنة وحقل تعرّف يتألف من خلايا عصبية ، ومعامل يقظة (عتبة التعرّف)، ووحدة إعادة ضبط .

  • يأخذ حقل المقارنة متجه إدخال (مصفوفة أحادية البعد من القيم) وينقله إلى أفضل تطابق له في حقل التعرف.
    • أفضل تطابق لها هو العصبون الوحيد الذي تتطابق مجموعة أوزانه (متجه الوزن) بشكل وثيق مع متجه الإدخال.
  • تقوم كل خلية عصبية في مجال التعرف بإخراج إشارة سلبية (تتناسب مع جودة مطابقة تلك الخلية العصبية لمتجه الإدخال) إلى كل خلية عصبية أخرى في مجال التعرف، وبالتالي تمنع إخراجها.
    • وبهذه الطريقة يُظهر مجال التعرف تثبيطًا جانبيًا ، مما يسمح لكل عصبون فيه بتمثيل فئة يتم تصنيف متجهات الإدخال إليها.
  • بعد تصنيف متجه الإدخال، تقوم وحدة إعادة الضبط بمقارنة قوة مطابقة التعرف بمعامل اليقظة.
    • إذا تم تجاوز معيار اليقظة (أي أن متجه الإدخال يقع ضمن النطاق الطبيعي الذي شوهد في متجهات الإدخال السابقة)، فسيبدأ التدريب:
      • يتم تعديل أوزان عصبون التعرف الفائز وفقًا لخصائص متجه الإدخال
    • وإلا، إذا كان مستوى التطابق أقل من معيار اليقظة (أي أن تطابق متجه الإدخال يقع خارج النطاق الطبيعي المتوقع لهذا العصبون) يتم تثبيط العصبون الفائز بالتعرف ويتم تنفيذ إجراء بحث.
      • في إجراء البحث هذا، يتم تعطيل الخلايا العصبية للتعرف واحدة تلو الأخرى بواسطة وظيفة إعادة الضبط حتى يتم التغلب على معلمة اليقظة من خلال مطابقة التعرف.
        • على وجه الخصوص، في كل دورة من دورات عملية البحث، يتم اختيار العصبون الأكثر نشاطًا للتعرف ثم إيقاف تشغيله، إذا كان نشاطه أقل من معيار اليقظة.
        • (لاحظ أن ذلك يحرر بالتالي الخلايا العصبية المتبقية من تثبيطها).
    • إذا لم تتجاوز مطابقة أي خلية عصبية للتعرف ملتزمة معيار اليقظة، فسيتم الالتزام بخلية عصبية غير ملتزمة وتعديل أوزانها لمطابقة متجه الإدخال.
  • تؤثر معلمة اليقظة بشكل كبير على النظام: فاليقظة العالية تنتج ذكريات مفصلة للغاية (فئات عديدة ودقيقة)، بينما تؤدي اليقظة المنخفضة إلى ذكريات أكثر عمومية (فئات أقل وأكثر عمومية).

تمرين

توجد طريقتان أساسيتان لتدريب الشبكات العصبية القائمة على تقنية التعرف التلقائي على الكلام (ART): الطريقة البطيئة والطريقة السريعة. في طريقة التعلم البطيء، تُحسب درجة تدريب أوزان عصبون التعرف على متجه الإدخال باستخدام معادلات تفاضلية ، وتعتمد بالتالي على مدة عرض متجه الإدخال. أما في طريقة التعلم السريع، فتُستخدم معادلات جبرية لحساب درجة تعديل الأوزان، وتُستخدم قيم ثنائية. ورغم أن التعلم السريع فعال وكفؤ في العديد من المهام، إلا أن طريقة التعلم البطيء أكثر توافقًا مع الطبيعة البيولوجية، ويمكن استخدامها مع الشبكات ذات الزمن المستمر (أي عندما يتغير متجه الإدخال باستمرار).

الأنواع

يُعدّ ART 1 [ 1 ] [ 2 ] أبسط أنواع شبكات ART، إذ يقبل المدخلات الثنائية فقط. أما ART 2 [ 3 ] فيُوسّع قدرات الشبكة لدعم المدخلات المستمرة. بينما يُعدّ ART 2-A [ 4 ] شكلاً مُبسّطاً من ART-2 يتميّز بسرعة تشغيل فائقة، ونادراً ما تكون نتائجه النوعية أقل جودة من تطبيق ART-2 الكامل. ويعتمد ART 3 [ 5 ] على ART-2 من خلال محاكاة تنظيم الناقلات العصبية البدائي للنشاط المشبكي ، وذلك عبر دمج تركيزات أيونات الصوديوم (Na+) والكالسيوم (Ca2+) المُحاكاة في معادلات النظام، مما يُؤدي إلى وسيلة أكثر واقعية من الناحية الفيزيولوجية لكبح الفئات التي تُحفّز إعادة ضبط عدم التطابق جزئياً.

نظرة عامة على ARTMAP

يجمع ARTMAP [ 6 ] المعروف أيضًا باسم Predictive ART ، وحدتين معدلتين قليلاً من ART-1 أو ART-2 في بنية تعلم خاضعة للإشراف حيث تأخذ الوحدة الأولى بيانات الإدخال وتأخذ الوحدة الثانية بيانات الإخراج الصحيحة، ثم تستخدم لإجراء الحد الأدنى من التعديل لمعامل اليقظة في الوحدة الأولى من أجل إجراء التصنيف الصحيح.

تُطبّق تقنية Fuzzy ART [ 7 ] المنطق الضبابي في عملية التعرف على الأنماط، مما يُحسّن من قابليتها للتعميم. ومن الميزات الاختيارية (والتي تُعدّ مفيدة للغاية) في Fuzzy ART ترميز المُكمّل، وهو وسيلة لدمج غياب السمات في تصنيفات الأنماط، مما يُسهم بشكل كبير في منع انتشار الفئات غير الفعّال وغير الضروري. وتستند مقاييس التشابه المُطبّقة إلى معيار L1 . ومن المعروف أن Fuzzy ART حساسة للغاية للتشويش.

Fuzzy ARTMAP [ 8 ] هو مجرد ARTMAP باستخدام وحدات ART الضبابية، مما يؤدي إلى زيادة مقابلة في الفعالية.

يشكل نموذج ARTMAP الضبابي المبسط (SFAM) [ 9 ] نسخة مبسطة للغاية من نموذج ARTMAP الضبابي مخصصة لمهام التصنيف .

تستخدم كل من Gaussian ART [ 10 ] و Gaussian ARTMAP [ 10 ] دوال التنشيط الغاوسية وحسابات تستند إلى نظرية الاحتمالات . ولذلك، فهي تتشابه إلى حد ما مع نماذج الخليط الغاوسي . وبالمقارنة مع Fuzzy ART و Fuzzy ARTMAP، فهي أقل حساسية للضوضاء. إلا أن استقرار التمثيلات المُستخلصة يقل، مما قد يؤدي إلى تكاثر الفئات في مهام التعلم المفتوحة.

تُوسّع شبكة Fusion ART والشبكات ذات الصلة [ 11 ] [ 12 ] [ 13 ] نطاق ART وARTMAP ليشمل قنوات أنماط متعددة. وهي تدعم العديد من نماذج التعلم، بما في ذلك التعلم غير الخاضع للإشراف، والتعلم الخاضع للإشراف، والتعلم المعزز .

يجمع TopoART [ 14 ] بين ART الضبابي وشبكات تعلم الطوبولوجيا مثل الغاز العصبي المتنامي . علاوة على ذلك، يضيف آلية لتقليل التشويش. وهناك العديد من الشبكات العصبية المشتقة التي توسع TopoART لتشمل نماذج تعلم أخرى.

تُعدّ كلٌّ من Hypersphere ART [ 15 ] و Hypersphere ARTMAP [ 15 ] وثيقتي الصلة بـ fuzzy ART وfuzzy ARTMAP على التوالي. ولكن نظرًا لاستخدامهما نوعًا مختلفًا من تمثيل الفئات (وهو الكرات الفائقة)، فإنهما لا يتطلبان تطبيع مدخلاتهما إلى الفترة [0، 1]. ويطبقان مقاييس التشابه بناءً على معيار L2 .

شبكة LAPART [ 16 ] العصبية، التي تعتمد على نظرية الرنين التكيفي المُهيأ جانبيًا (LAPART)، تربط خوارزميتين من خوارزميات الرنين التكيفي الضبابي (Fuzzy ART) لإنشاء آلية للتنبؤات بناءً على الارتباطات المُتعلمة. يتميز هذا الربط بين خوارزميتي الرنين التكيفي الضبابي باستقرار فريد يسمح للنظام بالتقارب السريع نحو حل واضح. إضافةً إلى ذلك، يمكنه إجراء الاستدلال المنطقي والتعلم الخاضع للإشراف على غرار خوارزمية ARTMAP الضبابية.

نقد

لوحظ أن نتائج شبكتي Fuzzy ART وART 1 (أي الفئات المُستخلصة) تعتمد بشكل كبير على ترتيب معالجة بيانات التدريب. يمكن تقليل هذا التأثير إلى حد ما باستخدام معدل تعلم أبطأ، ولكنه يظل قائمًا بغض النظر عن حجم مجموعة بيانات الإدخال . لذا، فإن تقديرات Fuzzy ART وART 1 لا تتمتع بخاصية الاتساق الإحصائي . [ 17 ] يمكن اعتبار هذه المشكلة أثرًا جانبيًا للآليات المستخدمة لضمان استقرار التعلم في كلتا الشبكتين.

قد تُسهم شبكات ART الأكثر تطوراً، مثل TopoART وHypersphere TopoART، التي تُلخص الفئات في مجموعات، في حل هذه المشكلة، حيث لا تعتمد أشكال المجموعات على ترتيب إنشاء الفئات المرتبطة بها. (انظر الشكل 3 (g، h) والشكل 4 من [ 18 ] )

مراجع

  1. كاربنتر، جي إيه وغروسبيرغ، إس. (2003)، نظرية الرنين التكيفي. مؤرشفة بتاريخ 19 مايو 2006 على موقع Wayback Machine ، في مايكل أ. أربيب (محرر)، دليل نظرية الدماغ والشبكات العصبية، الطبعة الثانية (ص 87-90). كامبريدج، ماساتشوستس: مطبعة معهد ماساتشوستس للتكنولوجيا
  2. غروسبيرغ، س. (1987)، التعلم التنافسي: من التنشيط التفاعلي إلى الرنين التكيفي. مؤرشف في 7 سبتمبر 2006 على موقع Wayback Machine ، العلوم المعرفية (مجلة) ، 11، 23-63
  3. كاربنتر، جي إيه وغروسبيرغ، إس. (1987)، ART 2: التنظيم الذاتي لرموز التعرف على الفئات المستقرة لأنماط الإدخال التناظرية. مؤرشف في 2006-09-04 على Wayback Machine ، البصريات التطبيقية ، 26(23)، 4919-4930
  4. كاربنتر، جي إيه، جروسبيرج، إس، وروزن، دي بي (1991أ)، ART 2-A: خوارزمية رنين تكيفية للتعلم السريع للفئات والتعرف عليها. مؤرشف في 19 مايو 2006 على موقع Wayback Machine ، الشبكات العصبية ، 4، 493-504
  5. كاربنتر، جي إيه وغروسبيرغ، إس. (1990)، ART 3: البحث الهرمي باستخدام النواقل الكيميائية في بنى التعرف على الأنماط ذاتية التنظيم. مؤرشف في 2006-09-06 على Wayback Machine ، الشبكات العصبية ، 3، 129-152
  6. كاربنتر، جي إيه، جروسبيرج، إس، ورينولدز، جيه إتش (1991)، ARTMAP: التعلم والتصنيف في الوقت الحقيقي الخاضع للإشراف للبيانات غير المستقرة بواسطة شبكة عصبية ذاتية التنظيم. مؤرشف في 19-05-2006 على Wayback Machine ، الشبكات العصبية ، 4، 565-588
  7. كاربنتر، جي إيه، جروسبيرج، إس، وروزن، دي بي (1991ب)، Fuzzy ART: التعلم السريع والمستقر وتصنيف الأنماط التناظرية بواسطة نظام رنين تكيفي. مؤرشف في 19-05-2006 على Wayback Machine ، الشبكات العصبية ، 4، 759-771
  8. كاربنتر، جي إيه، جروسبيرج، إس، ماركوزون، إن، رينولدز، جيه إتش، وروزن، دي بي (1992)، Fuzzy ARTMAP: بنية شبكة عصبية للتعلم الخاضع للإشراف التدريجي للخرائط التناظرية متعددة الأبعاد. مؤرشف في 19 مايو 2006 على موقع Wayback Machine ، معاملات IEEE في الشبكات العصبية ، 3، 698-713
  9. محمد تقي وكيل باغميشه ونيكولا بافيسيتش. (2003) شبكة ARTMAP ضبابية مبسطة وسريعة، رسائل المعالجة العصبية، 17(3):273–316
  10. 1 2 جيمس ر. ويليامسون. (1996)، Gaussian ARTMAP: شبكة عصبية للتعلم التزايدي السريع للخرائط متعددة الأبعاد المشوشة ، الشبكات العصبية، 9(5):881-897
  11. YR Asfour, GA Carpenter, S. Grossberg, and GW Lesher. (1993) Fusion ARTMAP: an adaptive fuzzy network for multichannel classification . In: Proceedings of the Third International Conference on Industrial Fuzzy Control and Intelligent Systems (IFIS).
  12. تان، أ.-هـ.؛ كاربنتر، ج.أ.؛ جروسبيرج، س. (2007). "الذكاء من خلال التفاعل: نحو نظرية موحدة للتعلم" . في: ليو، د.؛ فاي، س.؛ هو، ز.-ج.؛ تشانغ، هـ.؛ صن، س. (محررون). التطورات في الشبكات العصبية - ISNN 2007. سلسلة محاضرات في علوم الحاسوب. المجلد  4491. برلين، هايدلبرغ: سبرينغر. الصفحات 1094-1103 . doi : 10.1007/978-3-540-72383-7_128 . ISBN  978-3-540-72383-7.
  13. تان، أ.-هـ.؛ سوبادجا، ب.؛ وانغ، د.؛ مينغ، ل. (2019). "الشبكات العصبية ذاتية التنظيم للتعلم الشامل وتشفير الذاكرة متعدد الوسائط" . الشبكات العصبية . 120 : 58-73 . doi : 10.1016/j.neunet.2019.08.020 . PMID 31537437. S2CID 202703163 .  
  14. ماركو تشيريبانوف. (2010) TopoART: شبكة ART هرمية لتعلم الطوبولوجيا ، في: وقائع المؤتمر الدولي للشبكات العصبية الاصطناعية (ICANN)، الجزء الثالث، LNCS 6354، 157-167
  15. 1 2 جورجيوس سي. أناغنوستوبولوس ومايكل جورجيوبولوس. (2000)، Hypersphere ART وARTMAP للتعلم التزايدي غير الخاضع للإشراف والخاضع للإشراف ، في: وقائع المؤتمر الدولي المشترك حول الشبكات العصبية (IJCNN)، المجلد 6، 59-64
  16. مختبرات سانديا الوطنية (2017) توثيق Lapart-python
  17. سارل، وارن س. (1995)، لماذا لا ينبغي للإحصائيين استخدام طريقة FART (مؤرشف في 20 يوليو 2011، في أرشيف الإنترنت)
  18. ماركو تشيريبانوف. (2012) التجميع التدريجي عبر الإنترنت باستخدام شبكة عصبية هرمية ART لتعلم الطوبولوجيا باستخدام فئات فائقة الكروية ، في: ملصقات ومحاضر المؤتمر الصناعي حول استخراج البيانات (ICDM)، 22-34

واسرمان، فيليب د. (1989)، الحوسبة العصبية: النظرية والتطبيق، نيويورك: فان نوستراند رينهولد، ISBN 0-442-20743-3

  • موقع ستيفن غروسبيرغ الإلكتروني
  • تطبيق ART للتعلم غير الخاضع للإشراف (ART 1، ART 2A، ART 2A-C و ART distance)
  • LibTopoART — تطبيقات TopoART للتعلم الخاضع للإشراف وغير الخاضع للإشراف (TopoART، TopoART-AM، TopoART-C، TopoART-R، Episodic TopoART، Hypersphere TopoART، وHypersphere TopoART-C)