الشبكة العصبية (التعلم الآلي)

📅 آخر تحديث: ١ أغسطس ٢٠٢٦
✍️ نُشر في: ١ أغسطس ٢٠٢٦
📷 يحتوي على 30 صور
الموسوعة الحرة

الشبكة العصبية هي مجموعة مترابطة من العقد، مستوحاة من تبسيط للخلايا العصبية في الدماغ . هنا، تمثل كل عقدة دائرية زرقاء/خضراء في الطبقات المخفية وطبقات الإخراج خلية عصبية اصطناعية ، بينما تمثل كل عقدة دائرية حمراء في الطبقة اليسرى قيمة بيانات إدخال. يشير السهم إلى اتصال من مخرج خلية عصبية (أو عقدة بيانات) إلى مدخل خلية أخرى.

في مجال التعلم الآلي ، تُعدّ الشبكة العصبية ( NN ) أو الشبكة العصبية نموذجًا حسابيًا مستوحى من بنية ووظائف الشبكات العصبية البيولوجية . [ 1 ] [ 2 ]

تتكون الشبكة العصبية من وحدات أو عُقد متصلة تُسمى الخلايا العصبية الاصطناعية ، والتي تُحاكي الخلايا العصبية في الدماغ بشكلٍ تقريبي. وقد خضعت نماذج الخلايا العصبية الاصطناعية التي تُحاكي الخلايا العصبية البيولوجية بشكلٍ أدق للدراسة مؤخرًا، وأظهرت تحسنًا ملحوظًا في الأداء. وترتبط هذه الخلايا العصبية الاصطناعية بحواف تُحاكي نقاط الاشتباك العصبي في الدماغ. تستقبل كل خلية عصبية اصطناعية إشارات من الخلايا العصبية المتصلة بها، ثم تُعالجها وتُرسل إشارة إلى الخلايا العصبية المتصلة الأخرى. الإشارة عبارة عن عدد حقيقي ، ويتم حساب مُخرجات كل خلية عصبية بواسطة دالة غير خطية تعتمد على مُجمل مُدخلاتها، وتُسمى دالة التنشيط . وتُحدد قوة الإشارة عند كل اتصال بواسطة وزن ، يتم تعديله كجزء من عملية التدريب.

تُجمّع مجموعات من الخلايا العصبية في طبقات. تُجري كل طبقة تحويلاً على مدخلاتها. تنتقل الإشارات من الطبقة الأولى ( طبقة الإدخال ) إلى الطبقة الأخيرة ( طبقة الإخراج )، مروراً عادةً بعدة طبقات وسيطة ( طبقات مخفية ). تُسمى الشبكة عادةً شبكة عصبية عميقة إذا احتوت على طبقتين مخفيتين على الأقل. تتميز الشبكات العصبية العميقة بقدرتها على تعلم تمثيلات هرمية معقدة. [ 3 ]

يُعد تدريب الشبكات العصبية عملية كثيفة الحساب، يتم تسريعها باستخدام وحدات معالجة الرسومات (GPUs) ومجموعات البيانات الكبيرة.

أدت الابتكارات المعمارية، مثل الشبكات العصبية الالتفافية (CNNs)، إلى تحسين الأداء بشكل ملحوظ في مهام رؤية الحاسوب ، بينما مكّنت الشبكات العصبية المتكررة (RNNs) من نمذجة البيانات المتسلسلة مثل الكلام ومعلومات السلاسل الزمنية. وقد أدخلت بنى المحولات آليات الانتباه التي تسمح للشبكات العصبية بنمذجة التبعيات بعيدة المدى في البيانات، وشكّلت هذه البنى أساسًا لنماذج اللغة الكبيرة . [ 4 ] [ 5 ]

تُستخدم الشبكات العصبية الاصطناعية في عدد لا يحصى من المهام بما في ذلك برامج الدردشة الآلية، وإنشاء النصوص والصور والفيديوهات على نطاق واسع، والروبوتات.

مثال مبسط لتدريب شبكة عصبية في مجال اكتشاف الأجسام: يتم تدريب الشبكة باستخدام صور متعددة معروفة بتصويرها لنجم البحر وقنافذ البحر ، والتي ترتبط بـ"عُقد" تمثل السمات المرئية . يتطابق نجم البحر مع نسيج حلقي وشكل نجمي، بينما تتطابق معظم قنافذ البحر مع نسيج مخطط وشكل بيضاوي. ومع ذلك، فإن وجود قنفذ بحر ذي نسيج حلقي يُنشئ ارتباطًا ضعيفًا بينهما.
تشغيل الشبكة لاحقًا على صورة مُدخلة: [ 6 ] تكتشف الشبكة نجم البحر بشكل صحيح. مع ذلك، فإن الارتباط الضعيف بين النسيج الحلقي وقنفذ البحر يُعطي إشارة ضعيفة للأخير من إحدى العقدتين الوسيطتين. إضافةً إلى ذلك، تُعطي صدفة لم تُدرج في التدريب إشارة ضعيفة للشكل البيضاوي، مما ينتج عنه أيضًا إشارة ضعيفة لقنفذ البحر. قد تُؤدي هذه الإشارات الضعيفة إلى نتيجة إيجابية خاطئة لقنفذ البحر. في الواقع، لا تُمثل الأنسجة والخطوط الخارجية بعقدة واحدة، بل بأنماط أوزان مُرتبطة بعقد متعددة.

تاريخ

الأسس الرياضية

تعتمد الشبكات العصبية العميقة على إحصاءات طُوِّرت منذ أكثر من 200 عام. أبسط أنواع الشبكات العصبية ذات التغذية الأمامية (FNN) هي الشبكة الخطية، التي تتكون من طبقة واحدة من عقد الإخراج ذات دوال تنشيط خطية؛ حيث تُغذَّى المدخلات مباشرةً إلى المخرجات عبر الأوزان. يُحسب مجموع حاصل ضرب الأوزان في المدخلات عند كل عقدة. ويتم تقليل متوسط ​​مربعات الأخطاء بين هذه المخرجات المحسوبة والقيم المستهدفة المُعطاة عن طريق ضبط الأوزان. تُعرف هذه التقنية بطريقة المربعات الصغرى أو الانحدار الخطي . وقد استُخدمت لإيجاد مُطابقة خطية تقريبية لمجموعة من النقاط بواسطة ليجندر (1805) وجاوس (1795) للتنبؤ بحركة الكواكب. [ 7 ] [ 8 ] [ 9 ]

البيرسيبترونات

تعتمد الحواسيب على نموذج جون فون نيومان ، حيث تُنفذ قوائم محددة من التعليمات مع إمكانية الوصول إلى الذاكرة لتسجيل حالتها المتغيرة. أما الشبكات العصبية، فقد نشأت من جهود لنمذجة معالجة المعلومات في الأنظمة البيولوجية عبر نظرية الاتصالية . وعلى عكس نموذج فون نيومان، لا تفصل الحوسبة القائمة على الاتصالية بين الذاكرة والمعالجة.

درس وارن ماكولوتش ووالتر بيتس [ 10 ] (1943) نموذجًا حسابيًا غير تعليمي للشبكات العصبية. [ 11 ] مهد هذا النموذج الطريق لانقسام البحث إلى فرعين: أحدهما يركز على العمليات البيولوجية والآخر على الذكاء الاصطناعي. كما طور ماكولوتش وبيتس نماذج رياضية للخلايا العصبية الاصطناعية قادرة على تمثيل الوظائف المنطقية. [ 10 ]

في أواخر أربعينيات القرن العشرين، اقترح دي أو هيب [ 12 ] فرضية تعلم قائمة على اللدونة العصبية ، عُرفت باسم التعلم الهيبي . وقد استُخدمت هذه الفرضية في العديد من التجارب المبكرة للشبكات العصبية، مثل نموذج روزنبلات للبيرسيبترون وشبكة هوبفيلد . استخدم فارلي وكلارك [ 13 ] (1954) أجهزة حاسوبية لمحاكاة شبكة هيبية. كما ابتكر روتشستر وهولاند وهابيت ودودا (1956) أجهزة حاسوبية أخرى لمحاكاة الشبكات العصبية. [ 14 ]

في عام 1958، وصف عالم النفس فرانك روزنبلات جهاز البيرسيبترون ، وهو أحد أوائل الشبكات العصبية المُطبقة، [ 15 ] [ 16 ] [ 17 ] [ 18 ] بتمويل من مكتب البحوث البحرية الأمريكي . [ 19 ] وذكر آر دي جوزيف (1960) [ 20 ] جهازًا سابقًا شبيهًا بالبيرسيبترون من ابتكار بي جي فارلي و دبليو إيه كلارك من مختبر لينكولن التابع لمعهد ماساتشوستس للتكنولوجيا ؛ [ 8 ] إلا أنه، وفقًا لجوزيف، "توقفوا عن الخوض في هذا الموضوع". [ 20 ]

لم تكن الشبكات العصبية الأولى مزودة بوحدات مخفية قابلة للتكيف. مع ذلك، ناقش جوزيف (1960) [ 20 ] الشبكات متعددة الطبقات التي تحتوي على هذه الوحدات. وقد استشهد روزنبلات (1962) [ 21 ] في القسم 16 بهذه الأفكار واعتمدها، مع الإشارة إلى أعمال إتش دي بلوك وبي دبليو نايت. إلا أن هذه الجهود المبكرة لم تُفضِ إلى خوارزمية تعلم فعّالة للوحدات المخفية، أي التعلم العميق .

أثار جهاز البيرسيبترون حماسًا عامًا للشبكات العصبية، مما دفع الحكومة الأمريكية إلى زيادة التمويل بشكل كبير. وقد ساهم ذلك في "العصر الذهبي للذكاء الاصطناعي"، الذي غذته الادعاءات المتفائلة التي أطلقها علماء الحاسوب بشأن قدرة البيرسيبترون على محاكاة الذكاء البشري. [ 22 ]

الأسس التاريخية ومقترح دارتموث

تم تحديد الشبكات العصبية الاصطناعية كاتجاه واعد لأبحاث الذكاء الاصطناعي في مقترح مشروع دارتموث الصيفي للأبحاث حول الذكاء الاصطناعي عام 1955. [ 23 ] واجهت نماذج الشبكات العصبية في البداية قيودًا كبيرة. فقد حدّت قيود الأجهزة من حجم الشبكة وكفاءة التدريب، بينما ظل الفهم النظري لخوارزميات التعلم غير مكتمل. استخدمت العديد من النماذج وحدات الإدراك أحادية الطبقة، والتي كانت تقتصر على حل المشكلات القابلة للفصل الخطي. وقد تم تسليط الضوء على هذه القيود في كتاب "وحدات الإدراك" لمارفن مينسكي وسيمور بابيرت ، مما أدى إلى فتور الاهتمام بها خلال أواخر الستينيات والسبعينيات. [ 24 ]

الستينيات والسبعينيات

أُجريت أبحاث أساسية على الشبكات العصبية في ستينيات وسبعينيات القرن العشرين. وكانت أول خوارزمية فعّالة للتعلم العميق هي طريقة معالجة البيانات الجماعية ، وهي طريقة لتدريب الشبكات العصبية ذات العمق غير المحدود، وقد نشرها أليكسي إيفاخنينكو وفالنتين لابا في الاتحاد السوفيتي (1965). اعتبراها شكلاً من أشكال الانحدار متعدد الحدود ، [ 25 ] معممةً بذلك نموذج روزنبلات للبيرسيبترون. [ 26 ] وصفت ورقة بحثية نُشرت عام 1971 شبكة عميقة ذات ثماني طبقات تم تدريبها بهذه الطريقة، [ 27 ] حيث تم تدريب كل طبقة على حدة عبر تحليل الانحدار. وتم حذف الوحدات المخفية الزائدة باستخدام مجموعة تحقق منفصلة. وكانت دوال التنشيط للعقد عبارة عن متعددات حدود كولموغوروف-غابور، وهي أولى الشبكات العميقة ذات الوحدات الضربية أو "البوابات". [ 8 ]

نُشر أول نموذج لشبكة عصبية متعددة الطبقات (MLP) للتعلم العميق، تم تدريبه باستخدام خوارزمية التدرج العشوائي ، عام 1967 على يد شونيتشي أماري . [ 29 ] في تجارب حاسوبية أجراها طالب أماري، س. سايتو، تعلمت شبكة MLP خماسية الطبقات، ذات طبقتين قابلتين للتعديل، تمثيلات داخلية لتصنيف فئات الأنماط غير القابلة للفصل خطيًا. [ 8 ] أدت التطورات اللاحقة في الأجهزة وضبط المعلمات الفائقة إلى جعل خوارزمية التدرج العشوائي الشاملة التقنيةَ السائدة لتقليل الخسارة (الخطأ).

في عام 1969، قدم كونيهيكو فوكوشيما دالة التنشيط ReLU (وحدة التنشيط الخطية المعدلة). [ 8 ] [ 30 ] [ 31 ] وتُعد ReLU دالة التنشيط الأكثر شيوعًا. [ 32 ]

مع ذلك، شهد البحث ركودًا في الولايات المتحدة بعد دراسة مينسكي وبابرت (1969) [ 33 ] ، اللذين أكدا أن البيرسيبترونات غير قادرة على معالجة دائرة XOR . إلا أن هذه الفكرة لم تكن ذات صلة بالشبكات العميقة لإيفاخنينكو (1965) وأماري (1967).

في عام 1976، تم إدخال التعلم الانتقالي . [ 34 ]

الانتشار العكسي

تجدد الاهتمام بالشبكات العصبية خلال ثمانينيات القرن العشرين بفضل خوارزمية الانتشار العكسي المبتكرة ، التي أتاحت تدريب الشبكات العصبية متعددة الطبقات بكفاءة عالية من خلال نشر تدرجات الخطأ عكسيًا (من المخرجات إلى المدخلات) عبر طبقات الشبكة. [ 35 ] يُعد الانتشار العكسي تطبيقًا فعالًا لقاعدة السلسلة التي وضعها غوتفريد فيلهلم لايبنتز عام 1673 [ 36 ] على شبكات العقد القابلة للتفاضل . وقد صاغ روزنبلات مصطلح "نشر الأخطاء عكسيًا" عام 1962، [ 21 ] لكنه لم يصف كيفية تنفيذه. طوّر هنري ج. كيلي نموذجًا أوليًا للانتشار العكسي عام 1960 في سياق نظرية التحكم . [ 37 ] وفي عام 1970، نشر سيبو لينينما الشكل الحديث للانتشار العكسي في رسالته للماجستير (1970). [ 38 ] [ 39 ] [ 8 ] أعاد جي إم أوستروفسكي وآخرون نشرها عام 1971. [ 40 ] [ 41 ] طبق بول ويربوس خوارزمية الانتشار العكسي على الشبكات العصبية عام 1982 [ 42 ] [ 43 ] (لم تصف أطروحته للدكتوراه عام 1974، والتي أعيد طبعها في كتاب عام 1994، [ 44 ] الخوارزمية). [ 41 ] في عام 1986، قام ديفيد إي. روميلهارت وآخرون بنشر خوارزمية الانتشار العكسي، لكنهم لم يذكروا العمل الأصلي. [ 45 ]

الشبكات العصبية الالتفافية

بدأت بنى التعلم العميق للشبكات العصبية الالتفافية (CNNs) ذات الطبقات الالتفافية وطبقات تقليل حجم البيانات وتكرار الأوزان مع نموذج نيوكوجنيترون الذي قدمه كونيهيكو فوكوشيما عام 1979. [ 46 ] [ 47 ] [ 48 ] كما قدمت بنية فوكوشيما للشبكات العصبية الالتفافية تقنية التجميع الأقصى [ 49 ] ، وهي إجراء شائع لتقليل حجم البيانات في الشبكات العصبية الالتفافية. وقد أصبحت الشبكات العصبية الالتفافية أداة أساسية في مجال رؤية الحاسوب .

طُرحت الشبكة العصبية ذات التأخير الزمني ( TDNN) عام 1987 على يد أليكس ويبيل لتطبيق الشبكات العصبية الالتفافية (CNNs) في التعرف على الصوتيات. استخدمت هذه الشبكة الالتفافات، ومشاركة الأوزان، والانتشار العكسي. [ 50 ] [ 51 ] في عام 1988، طبق وي تشانغ شبكة عصبية التفافية مُدرَّبة بالانتشار العكسي للتعرف على الأحرف الفردية. [ 52 ] في عام 1989، ابتكر يان ليكان وآخرون شبكة عصبية التفافية تُسمى LeNet للتعرف على الرموز البريدية المكتوبة بخط اليد على البريد. استغرق التدريب 3 أيام. [ 53 ] في عام 1990، نفّذ وي تشانغ شبكة عصبية التفافية على أجهزة الحوسبة الضوئية . [ 54 ] في عام 1991، طُبقت شبكة عصبية التفافية على تجزئة الكائنات في الصور الطبية [ 55 ] والكشف عن سرطان الثدي في صور الماموجرام. [ 56 ] LeNet-5 (1998)، وهي شبكة عصبية التفافية ذات 7 مستويات من ابتكار يان ليكان وآخرون. تم تطبيق نظام تصنيف الأرقام المكتوبة بخط اليد من قبل البنوك للتعرف على الأرقام الموجودة على الشيكات التي تم رقمنتها في صور بحجم 32×32 بكسل. [ 57 ]

منذ عام 1988 فصاعدًا، [ 58 ] [ 59 ] أدى استخدام الشبكات العصبية إلى تغيير مجال التنبؤ ببنية البروتين ، لا سيما عندما تم تدريب الشبكات المتتالية الأولى على الملفات الشخصية (المصفوفات) الناتجة عن عمليات محاذاة التسلسل المتعددة . [ 60 ]

الشبكات العصبية المتكررة

كان أحد مصادر الشبكات العصبية المتكررة (RNN) هو الميكانيكا الإحصائية . ففي عام 1972، اقترح شونيتشي أماري تعديل أوزان نموذج إيزينغ باستخدام قاعدة التعلم الهيبية كنموذج للذاكرة الترابطية ، مضيفًا بذلك التعلم. [ 61 ] وقد شاع هذا النموذج لاحقًا باسم شبكة هوبفيلد على يد جون هوبفيلد (1982). [ 62 ] كما كان لعلم الأعصاب أصل آخر للشبكات العصبية المتكررة. تُستخدم كلمة "متكرر" لوصف البنى الشبيهة بالحلقات في علم التشريح. ففي عام 1901، لاحظ كاخال "أنصاف دوائر متكررة" في قشرة المخيخ . [ 63 ] وقدّم هيب "دائرة ارتدادية" كتفسير للذاكرة قصيرة المدى. [ 64 ] وتناولت ورقة ماكولوتش وبيتس (1943) الشبكات العصبية التي تحتوي على دورات، ولاحظت أن النشاط الحالي لهذه الشبكات يمكن أن يتأثر بنشاط حدث في الماضي البعيد إلى ما لا نهاية. [ 10 ]

في عام ١٩٨٢، تم تطوير شبكة Crossbar Adaptive Array، وهي شبكة عصبية متكررة ذات بنية مصفوفة (بدلاً من بنية البيرسيبترون متعددة الطبقات)، [ ٦٥ ] [ ٦٦ ]، حيث استخدمت وصلات متكررة مباشرة من المخرجات إلى مدخلات المشرف (التعليم). بالإضافة إلى حساب الإجراءات (القرارات)، قامت هذه الشبكة بحساب تقييمات الحالة الداخلية (المشاعر) لحالات العواقب. وبإلغاء المشرف الخارجي، أدخلت هذه الشبكة أسلوب التعلم الذاتي في الشبكات العصبية.

في علم النفس المعرفي، ناقشت مجلة "علم النفس الأمريكي" في أوائل ثمانينيات القرن الماضي العلاقة بين الإدراك والعاطفة. فقد ذكر عالم النفس الاجتماعي روبرت زايونك عام ١٩٨٠ أن العاطفة تُحسب أولًا وهي مستقلة عن الإدراك، بينما ذكر ريتشارد لازاروس عام ١٩٨٢ أن الإدراك يُحسب أولًا وهو لا ينفصل عن العاطفة. [ ٦٧ ] [ ٦٨ ] [ ٦٩ ] وكان هذا مثالًا على نقاشٍ ساهمت فيه الشبكات العصبية المتكررة في حلّ القضية، وتناولت في الوقت نفسه علم النفس المعرفي.

قامت شبكة جوردان (1986) وشبكة إلمان (1990) بتطبيق الشبكات العصبية المتكررة لدراسة علم النفس المعرفي .

في ثمانينيات القرن الماضي، لم تكن خوارزمية الانتشار العكسي فعّالة مع الشبكات العصبية المتكررة العميقة. في عام ١٩٩١، اقترح يورغن شميدهوبر "مُجزِّئ التسلسل العصبي" أو "ضاغط التاريخ العصبي" [ ٧٠ ] [ ٧١ ] ، والذي أدخل التدريب المسبق ذاتي الإشراف (الحرف "P" في ChatGPT ) وتقطير المعرفة العصبية . [ ٨ ] في عام ١٩٩٣، حلّ نظام ضاغط التاريخ العصبي مهمة "التعلم العميق جدًا" التي تطلّبت أكثر من ١٠٠٠ طبقة في شبكة عصبية متكررة مُفصَّلة زمنيًا. [ ٧٢ ]

في عام ١٩٩١، حددت أطروحة سيب هوكريتر لنيل درجة الدكتوراه مشكلة تلاشي التدرج وحللتها [ ٧٣ ] [ ٧٤ ] ، واقترح استخدام الاتصالات المتبقية المتكررة لحلها. وقدّم هو وشميدهوبر نموذج الذاكرة طويلة المدى (LSTM)، الذي حقق أرقامًا قياسية في الدقة في مجالات تطبيقية متعددة. [ ٧٥ ] [ ٧٦ ] لم تكن هذه النسخة النهائية من LSTM، التي تطلبت بوابة النسيان، والتي طُرحت في عام ١٩٩٩. [ ٧٧ ] وأصبحت الخيار الافتراضي لبنية الشبكات العصبية المتكررة (RNN).

خلال الفترة من 1985 إلى 1995، واستلهاماً من الميكانيكا الإحصائية، طُوِّرت العديد من البنى والأساليب بواسطة تيري سيجنوفسكي ، وبيتر دايان ، وجيفري هينتون ، وآخرين، بما في ذلك آلة بولتزمان ، [ 78 ] وآلة بولتزمان المقيدة ، [ 79 ] وآلة هيلمهولتز ، [ 80 ] وخوارزمية اليقظة والنوم . [ 81 ] صُمِّمت هذه من أجل التعلم غير الخاضع للإشراف للنماذج التوليدية العميقة.

التعلم العميق الحديث

بين عامي 2009 و2012، بدأت الشبكات العصبية بالفوز بجوائز في مسابقات التعرف على الصور، مقتربةً من الأداء البشري في مهام متنوعة، بدءًا من التعرف على الأنماط والتعرف على الكتابة اليدوية . [ 82 ] [ 83 ] في عام 2011، حققت شبكة DanNet، [ 84 ] [ 85 ] وهي شبكة عصبية تلافيفية (CNN) من تطوير دان سيريسان، وأولي ماير، وجوناثان ماسكي، ولوكا ماريا غامبارديلا ، وشميدهوبر، لأول مرة أداءً يفوق الأداء البشري في مسابقة للتعرف على الأنماط المرئية، متفوقةً على الطرق التقليدية بثلاثة أضعاف. [ 48 ] ثم فازت بمزيد من المسابقات. [ 86 ] [ 87 ] كما أظهروا كيف حسّن استخدام تجميع الشبكات العصبية التلافيفية القصوى على وحدة معالجة الرسومات (GPU) الأداء. [ 88 ]

في أكتوبر 2012، فاز نموذج AlexNet، الذي طوره أليكس كريزيفسكي وإيليا سوتسكيفر وهينتون [ 89 ] ، بمسابقة ImageNet واسعة النطاق بفارق كبير عن أساليب التعلم الآلي السطحية. وشملت التحسينات التدريجية اللاحقة شبكة VGG-16 التي طورتها كارين سيمونيان وأندرو زيسرمان [ 90 ] ونموذج Inceptionv3 من جوجل [ 91 ] .

في عام 2012، ابتكر نغ ودين شبكةً تعلّمت التعرّف على مفاهيم عالية المستوى، مثل القطط، من خلال التدريب على صور غير مُصنّفة فقط. [ 92 ] وقد أتاح التدريب المسبق غير المُشرف عليه وزيادة القدرة الحاسوبية بفضل وحدات معالجة الرسومات والحوسبة الموزعة استخدام شبكات أكبر، لا سيما في مشاكل التعرّف على الصور والمشاهد، وهو ما عُرف باسم "التعلم العميق". [ 93 ]

تم تقديم دوال الأساس الشعاعي وشبكات الموجات الصغيرة في عام 2013. وقد ثبت أن هذه التقنيات توفر أفضل خصائص التقريب، وقد تم تطبيقها في تطبيقات تحديد وتصنيف الأنظمة غير الخطية . [ 94 ]

أصبحت الشبكات التوليدية التنافسية (GANs) ( إيان غودفيلو وآخرون، 2014) [ 95 ] أحدث التقنيات في مجال النمذجة التوليدية خلال الفترة من 2014 إلى 2018. نُشرت GAN لأول مرة عام 1991 على يد شميدهوبر، الذي أطلق عليها اسم "الفضول الاصطناعي": تتنافس شبكتان عصبيتان في لعبة محصلتها صفر ، حيث يكون ربح إحدى الشبكتين خسارة للأخرى. [ 96 ] [ 97 ] الشبكة الأولى هي نموذج توليدي يُحاكي توزيع الاحتمالات على أنماط الإخراج. أما الشبكة الثانية فتتعلم من خلال خوارزمية التدرج الهبوطي للتنبؤ بردود فعل البيئة تجاه هذه الأنماط. وقد حققت تقنية StyleGAN من Nvidia (2018) [ 98 ] جودة صورة ممتازة ، استنادًا إلى Progressive GAN من تطوير تيرو كاراس وآخرون. [ 99 ] في هذه التقنية، يتم تطوير مولد GAN من نطاق صغير إلى نطاق كبير بشكل هرمي. لقد حقق توليد الصور بواسطة GAN نجاحًا شعبيًا، وأثار نقاشات حول التزييف العميق . [ 100 ] تفوقت نماذج الانتشار (2015) [ 101 ] على GANs في النمذجة التوليدية بعد ذلك، مع أنظمة مثل DALL·E 2 (2022) و Stable Diffusion (2022).

في عام 2014، كان أحدث ما توصلت إليه التكنولوجيا هو تدريب "شبكة عصبية عميقة جدًا" تتكون من 20 إلى 30 طبقة. [ 102 ] أدى تكديس عدد كبير جدًا من الطبقات إلى انخفاض حاد في دقة التدريب ، [ 103 ] وهو ما يُعرف بمشكلة "التدهور". [ 104 ] في عام 2015، شهد تدريب الشبكات العميقة جدًا تطورًا ملحوظًا مع ظهور شبكة الطرق السريعة (Highway Network ) التي نُشرت في مايو، [ 105 ] وشبكة ResNet العصبية المتبقية (ResNet) في ديسمبر. [ 106 ] [ 107 ] تعمل ResNet كشبكة طرق سريعة مفتوحة البوابة.

محولات

خلال العقد الثاني من الألفية، طُوّر نموذج seq2seq ، وأُضيفت إليه آليات الانتباه. أدى ذلك إلى ظهور بنية المحول الحديثة في عام 2017 في بحث " الانتباه هو كل ما تحتاجه ". [ 4 ] يتطلب هذا النموذج وقت حساب يتناسب طرديًا مع مربع حجم نافذة السياق. يتوسع مُتحكم الوزن السريع لشميدهوبر (1992) [ 108 ] خطيًا، وقد ثبت لاحقًا أنه يُكافئ المحول الخطي غير المُعَيَّر. [ 109 ] [ 110 ] [ 8 ] أصبحت المحولات بشكل متزايد النموذج المُفضَّل لمعالجة اللغة الطبيعية . [ 111 ] تستخدم العديد من نماذج اللغة الكبيرة الحديثة ، مثل GPT و Gemini و Grok و DeepSeek و Qwen، هذه البنية.

عناصر

العصبون والمحور العصبي المغلف بالميالين، مع تدفق الإشارة من المدخلات عند التغصنات إلى المخرجات عند نهايات المحور العصبي.

بدأت الشبكات العصبية كمحاولة لمحاكاة بنية الدماغ في العالم الرقمي. وسرعان ما أظهرت هذه الشبكات إمكانات واعدة في التعامل مع العلاقات غير الخطية، لكنها واجهت عقبات. وسرعان ما تحولت النماذج إلى تطبيق رؤى رياضية لتحسين النتائج التجريبية، على حساب الدقة البيولوجية.

عصبون

بنية العصبون الاصطناعي
بنية العصبون الاصطناعي

تتكون الشبكات العصبية من خلايا عصبية رقمية ، مستوحاة من الخلايا العصبية البيولوجية . لكل خلية عصبية مدخل رقمي واحد أو أكثر، وتُنتج مخرجًا رقميًا واحدًا. [ 112 ] عادةً ما يتم توزيع المدخل (مثل صورة) على مجموعة خلايا الإدخال العصبية (حيث تحصل كل خلية على جزء من الصورة). تُجمع مدخلات كل خلية عصبية، مُرجّحة بأوزان الاتصالات من كل مدخل. يُضاف حد انحياز إلى هذا المجموع. [ 113 ] ثم تُمرر النتيجة عبر دالة تنشيط غير خطية لإنتاج مخرج الخلية العصبية. قد تُصفّر المخرجات الصغيرة جدًا (تُتجاهل). [ 114 ] [ 115 ] [ 116 ]

شبكة

تربط الشبكات العصبية الخلايا العصبية ببعضها، مستخدمةً مخرجات بعض الخلايا كمدخلات لخلايا أخرى، على غرار الوصلات البيولوجية بين المحور العصبي والتشابك العصبي والتغصنات . [ 117 ] تشكل الشبكة رسمًا بيانيًا موجهًا وموزونًا . تُطبق الأوزان على كلٍ من عقد الرسم البياني وحوافه. [ 118 ]

تُرتّب العُقد في طبقات، حيث تُعالج الطبقات السفلية البيانات الأولية مباشرةً، بينما تُظهر الطبقات العلوية النتائج النهائية. وتزيد الطبقات الوسيطة تدريجيًا من مستوى التجريد، فما بدأ كبكسلات في صورة، على سبيل المثال، يتحول تدريجيًا إلى أشياء مثل حدود الكائنات، ثم إلى كائنات من العالم الحقيقي كالحروف والوجوه. [ 118 ] [ 114 ] كما تُستخدم الشبكات أحادية الطبقة وغير الطبقية.

بنية شبكة عصبية أمامية ذات أربع طبقات

استُخدمت أنماط اتصال متعددة. تقليديًا، تكون هذه الأنماط متصلة بالكامل ، حيث يتصل كل عصبون في طبقة ما بكل عصبون في الطبقة التالية. [ 119 ] مع ذلك، في الشبكات العصبية الالتفافية ، تكون بعض الطبقات التفافية، أي أن كل عصبون في طبقة ما متصل بمجموعة فرعية من العصبونات في الطبقة السابقة، مثل تلك التي تمثل جزءًا من الصورة. [ 120 ] [ 121 ]

في معظم الشبكات العصبية، ترتبط مخرجات الخلايا العصبية في طبقة ما فقط بالخلايا العصبية في الطبقة التالية مباشرة ( رسم بياني موجه غير دوري )، مما يعني أن المعلومات تتدفق للأمام فقط من طبقة إلى أخرى. تُعرف هذه الشبكات بالشبكات التغذية الأمامية . [ 122 ] في المقابل، تُعرف الشبكات التي تسمح بالاتصالات بين الخلايا العصبية في الطبقة نفسها أو الطبقات السابقة بالشبكات المتكررة . [ 123 ]

تعلُّم

تتضمن عملية التدريب/التعلم تعديل أوزان الشبكة لتحسين دقة النتائج. تتطلب الشبكات العصبية عادةً أعدادًا هائلة من المدخلات (أكثر بكثير من الدماغ البيولوجي) لتحقيق مستوى معين من الأداء. ويتم ذلك عن طريق تقليل الأخطاء الملحوظة بين عينات البيانات. يبدأ التدريب قبل نشر الشبكة، ولا يستمر بعد ذلك (على عكس الدماغ). بدلاً من ذلك، يمكن إعادة تدريب الشبكة من الصفر كلما توفرت بيانات إضافية.

تُعدّل خوارزمية تقليل المخاطر التجريبية أوزان العقد والروابط لتقليل الفرق (المخاطر التجريبية) بين المخرجات المتوقعة والقيم المعروفة في عينات التدريب. [ 124 ] تقيس دالة الخسارة المُحددة درجة الخطأ. [ 93 ] ينشر الانتشار العكسي الخطأ (يُعدّل الأوزان) من عقد الإخراج عبر الشبكة إلى عقد الإدخال. [ 124 ] والهدف من ذلك هو تمكين الشبكة من معالجة البيانات غير المُدرجة في عينات التدريب.

طالما استمرت قيمة دالة الخسارة (تكلفتها) في الانخفاض، فإن الشبكة تستمر في التحسن. تُنتج هذه الدالة عادةً إحصائية قيمتها تقريبية فقط. عندما تكون التكلفة منخفضة، يكون الفرق بين الناتج ( مثلًا، قطة على الأرجح) والإجابة الصحيحة (قطة) ضئيلًا. يمكن اعتبار معظم نماذج التعلم تطبيقًا مباشرًا لنظرية التحسين والتقدير الإحصائي . [ 118 ] [ 125 ]

ينتهي التعلم عادةً عندما لا تُسهم الملاحظات الإضافية في خفض التكلفة بشكلٍ فعّال. تقترب التكلفة عادةً من الصفر، لكنها لا تصل إليه. إذا لم تُؤدِّ كميةٌ كافيةٌ من بيانات العينة إلى تكلفةٍ منخفضة، يُعتبر التدريب فاشلاً.

دالة الخسارة

على الرغم من إمكانية تقييم دالة الخسارة بشكل مخصص ، إلا أنه يجب أن تُظهر عادةً خصائص مرغوبة مثل التحدب ، وقابلية التفاضل ، والمتانة . [ 126 ] في النموذج الاحتمالي، يمكن استخدام الاحتمال اللاحق للنموذج كتكلفة عكسية (القيم الأعلى أفضل).

الانتشار العكسي

تُعدّ عملية الانتشار العكسي طريقةً لتعديل أوزان الاتصالات لتعويض الأخطاء التي تُكتشف أثناء عملية التعلّم. ويتمّ توزيع مقدار الخطأ بين الاتصالات. من الناحية التقنية، تحسب عملية الانتشار العكسي تدرج ( مشتق) دالة الخسارة المرتبطة بحالة معينة بالنسبة للأوزان. ويمكن تحديث الأوزان باستخدام خوارزمية التدرج العشوائي أو طرق أخرى، مثل آلات التعلّم المتطرفة [ 127 ] ، وشبكات "بدون انتشار" [ 128 ] ، والتدريب بدون تراجع [ 129 ] ، وشبكات "عديمة الوزن" [ 130 ] ، والشبكات العصبية غير المتصلة .

المعلمات الفائقة

المعلمة الفائقة هي مُعامل يُحدد أي جزء قابل للتكوين في الشبكة وعملية التعلم، ويتم ضبط قيمته قبل التدريب. [ 131 ] تشمل أمثلة المعلمات الفائقة معدل التعلم ، وحجم دفعة العينات، وعدد العقد والطبقات، وما إلى ذلك. [ 132 ] يتأثر أداء الشبكة العصبية بشكل كبير باختيارات المعلمات الفائقة، وبالتالي يمكن تعديلها أثناء التدريب (عادةً بين جولات التدريب)، وهي عملية تُسمى ضبط المعلمات الفائقة أو تحسينها. [ 133 ]

معدل التعلم

يُحدد معدل التعلم حجم الخطوات التصحيحية التي يتخذها النموذج لتصحيح الأخطاء في كل ملاحظة. [ 134 ] يُقلل معدل التعلم المرتفع من وقت التدريب، ولكنه يُقلل من الدقة النهائية، بينما يستغرق معدل التعلم المنخفض وقتًا أطول، ولكنه يُتيح إمكانية تحقيق دقة أعلى. تهدف التحسينات، مثل Quickprop، بشكل أساسي إلى تسريع عملية التعلم. ولتجنب التذبذبات ، مثل أوزان الاتصال التي تتأرجح بين قيم عالية ومنخفضة، ولتحسين معدل التقارب، تستخدم التحسينات معدل تعلم تكيفي يزداد أو ينقص حسب الحاجة. [ 135 ] يسمح مفهوم الزخم بترجيح التوازن بين التدرج والتغيير السابق، بحيث يعتمد تعديل الوزن إلى حد ما على التغيير السابق. يُؤكد الزخم القريب من الصفر على التدرج، بينما تُؤكد القيمة القريبة من الواحد على التغيير الأخير.

نماذج التعلم

لقد تضمن التعلم الآلي مجموعة متنوعة من الأساليب لتدريب النماذج، بما في ذلك التعلم الخاضع للإشراف ، [ 136 ] والتعلم غير الخاضع للإشراف ، [ 137 ] والتعلم المعزز ، [ 138 ] والتعلم الذاتي الخاضع للإشراف .

التعلم الخاضع للإشراف

يربط التعلم الخاضع للإشراف المدخلات بالمخرجات المطلوبة. وتتمثل مهمة التعلم في إنتاج المخرج المطلوب لكل مدخل. في هذه الحالة، ترتبط التكلفة باستبعاد المخرجات غير الصحيحة. [ 139 ] ومن التكاليف الشائعة الاستخدام متوسط ​​مربع الخطأ ، الذي يسعى إلى تقليل متوسط ​​مربع الخطأ بين مخرجات الشبكة والمخرجات المطلوبة. تشمل المهام المناسبة للتعلم الخاضع للإشراف التعرف على الأنماط (التصنيف) والانحدار (تقريب الدوال). يُطبق التعلم الخاضع للإشراف على البيانات المتسلسلة (مثل التعرف على الكتابة اليدوية والكلام والإيماءات ). ويمكن اعتبار ذلك بمثابة تعلم مع "معلم"، في صورة دالة توفر تغذية راجعة مستمرة.

التعلم غير الخاضع للإشراف

في التعلم غير الخاضع للإشراف ، يتم تقديم بيانات الإدخال إلى جانب دالة التكلفة الخاصة بهذه البيانات.x{\displaystyle \textstyle x}والمخرجات، بدون "ورقة إجابة". تعتمد دالة التكلفة على المهمة (مجال النموذج) وتعكس افتراضات مسبقة (خصائص النموذج الضمنية، ومعاييره، والمتغيرات المرصودة). على سبيل المثال، النموذجو(x)=أ{\displaystyle \textstyle f(x)=a}يعالجأ{\displaystyle \textstyle a}هو ثابت والتكلفةج=هـ[(x-و(x))2]{\displaystyle \textstyle C=E[(xf(x))^{2}]}يؤدي تقليل هذه التكلفة إلى قيمة قدرهاأ{\displaystyle \textstyle a}وهذا يساوي متوسط ​​البيانات. قد تكون دالة التكلفة أكثر تعقيدًا. يعتمد شكلها على التطبيق: على سبيل المثال، في الضغط، يمكن ربطها بالمعلومات المتبادلة بينx{\displaystyle \textstyle x}وو(x){\displaystyle \textstyle f(x)}بينما في النمذجة الإحصائية، يمكن ربطها بالاحتمال اللاحق (في كلا المثالين، يتم تعظيم هذه الكميات). يُطبق التعلم غير الخاضع للإشراف عادةً على مشاكل التقدير ؛ وتشمل تطبيقاته التجميع ، وتقدير التوزيعات الإحصائية ، والضغط ، والترشيح .

التعلم الذاتي

التعلم الذاتي الموجه (SSL) هو نموذج في مجال تعلم الآلة، حيث يُدرَّب النموذج على مهمة معينة باستخدام البيانات نفسها لتوليد إشارات توجيهية، بدلاً من الاعتماد على تصنيفات خارجية. في سياق الشبكات العصبية، يهدف التعلم الذاتي الموجه إلى الاستفادة من البنى أو العلاقات الكامنة في بيانات الإدخال لإنشاء إشارات تدريب ذات دلالة. تُصمَّم مهام التعلم الذاتي الموجه بحيث يتطلب حلها استخلاص السمات أو العلاقات الأساسية في البيانات. عادةً ما تُحسَّن بيانات الإدخال أو تُحوَّل بطريقة تُنشئ أزواجًا من العينات المترابطة، حيث تُستخدم إحدى العينات كمدخل، والأخرى لصياغة الإشارة التوجيهية. قد يشمل هذا التحسين إدخال ضوضاء، أو قص، أو تدوير، أو تحويلات أخرى. يُحاكي التعلم الذاتي الموجه بشكل أدق الطريقة التي يتعلم بها البشر تصنيف الأشياء. [ 140 ]

خلال التعلم الذاتي الموجه (SSL)، يتعلم النموذج على مرحلتين. أولاً، تُحل المهمة بناءً على مهمة تصنيف مساعدة أو تمهيدية باستخدام تصنيفات زائفة، مما يساعد على تهيئة معلمات النموذج . [ 141 ] [ 142 ] ثانياً، تُنفذ المهمة الفعلية باستخدام التعلم الموجه أو غير الموجه . [ 143 ] [ 144 ] [ 145 ]

لقد حقق التعلم الذاتي نتائج واعدة في السنوات الأخيرة، ووجد تطبيقاً عملياً في مجالات مثل معالجة الصوت ، ويستخدمه فيسبوك وغيره للتعرف على الكلام . [ 146 ]

التعلم المعزز

في تطبيقات مثل ألعاب الفيديو، يقوم اللاعب بسلسلة من الإجراءات، ويتلقى استجابة غير متوقعة من البيئة (اللعبة) بعد كل إجراء. الهدف هو الفوز باللعبة (الحصول على أعلى نتيجة). التكلفة هي مقلوب النتيجة. في التعلم المعزز، يهدف اللاعب إلى زيادة أوزان الشبكة لرفع النتيجة. بعد كل إجراء، تُولّد اللعبة ملاحظة وتكلفة فورية ، وفقًا لقواعدها. لا يمكن إلا تقدير القواعد والتكلفة طويلة الأجل. في أي لحظة، يقرر اللاعب ما إذا كان سيستكشف إجراءات جديدة لكشف تكاليفها أو سيستغل التعلم السابق للمضي قدمًا بسرعة أكبر.

بشكل رسمي، يتم نمذجة البيئة كعملية قرار ماركوف (MDP) مع حالاتs1،...،sن∈S{\displaystyle \textstyle {s_{1},...,s_{n}}\in S}والإجراءاتأ1،...،أم∈أ{\displaystyle \textstyle {a_{1},...,a_{m}}\in A}ولأن انتقالات الحالة (السياسات) غير معروفة، يتم استخدام التوزيعات الاحتمالية بدلاً من ذلك: توزيع التكلفة اللحظيةP(جت|sت){\displaystyle \textstyle P(c_{t}|s_{t})}توزيع الملاحظاتP(xت|sت){\displaystyle \textstyle P(x_{t}|s_{t})}وتوزيع الانتقالP(sت+1|sت،أت){\displaystyle \textstyle P(s_{t+1}|s_{t},a_{t})}بينما تُعرَّف السياسة بأنها التوزيع الشرطي للإجراءات بناءً على الملاحظات. ويُشكّل هذان المفهومان معًا سلسلة ماركوف . والهدف هو اكتشاف سلسلة ماركوف الأقل تكلفة.

تُستخدم الشبكات العصبية كمكون للتعلم. [ 147 ] [ 148 ] وقد طُبقت البرمجة الديناميكية المقترنة بالشبكات العصبية (مما يُعطي البرمجة العصبية الديناميكية ) [ 149 ] على مشاكل مثل توجيه المركبات ، [ 150 ] وألعاب الفيديو، وإدارة الموارد الطبيعية [ 151 ] [ 152 ] والطب [ 153 ] نظرًا لقدرة الشبكات العصبية على تخفيف التكلفة حتى عند تقليل كثافة شبكة التجزئة لتقريب مهام التحكم عدديًا.

التعلم الذاتي

طُرح مفهوم التعلم الذاتي عام ١٩٨٢ مع شبكة عصبية تكيفية ذات مصفوفة متقاطعة (CAA) قادرة على التعلم الذاتي. [ ١٥٤ ] وهو نظام ذو مدخل واحد فقط، وهو الموقف s، ومخرج واحد فقط، وهو الفعل (أو السلوك) a. لا يتلقى هذا النظام أي مدخلات خارجية من نصائح أو تعزيزات من البيئة. تحسب شبكة CAA، بطريقة متقاطعة، كلاً من القرارات المتعلقة بالأفعال والمشاعر (الأحاسيس) تجاه المواقف التي يواجهها النظام. ويعتمد النظام على التفاعل بين الإدراك والعاطفة. [ ١٥٥ ] وبالنظر إلى مصفوفة الذاكرة W = ||w(a,s)||، فإن خوارزمية التعلم الذاتي المتقاطعة تُجري في كل تكرار الحساب التالي:

في الحالة (س)، قم بتنفيذ الإجراء (أ)؛ تلقي تبعات الموقف s'؛ احسب الشعور الناتج عن التواجد في موقف نتيجة v(s')؛ تحديث ذاكرة المصفوفة المتقاطعة w'(a,s) = w(a,s) + v(s').

القيمة المُعاد نشرها (التعزيز الثانوي) هي الشعور تجاه الموقف الناتج. يوجد الكائن الحي ذو النمط الجيني المتغير (CAA) في بيئتين: بيئته السلوكية، وبيئته الجينية، حيث يتلقى منها مشاعر أولية (مرة واحدة فقط) حول المواقف التي سيواجهها في البيئة السلوكية. بعد تلقيه المتجه الجيني (متجه النوع) من البيئة الجينية، سيتعلم الكائن الحي ذو النمط الجيني المتغير (CAA) سلوكًا ساعيًا لتحقيق هدف، في البيئة السلوكية التي تحتوي على مواقف مرغوبة وغير مرغوبة. [ 156 ]

التطور العصبي

يمكن للتطور العصبي إنشاء هياكل وأوزان الشبكات العصبية باستخدام الحوسبة التطورية . وهو منافس قوي لأساليب التدرج الهبوطي. [ 157 ] [ 158 ] وقد يكون التطور العصبي أقل عرضة للوقوع في "طرق مسدودة". [ 159 ]

الشبكة العصبية العشوائية

تُعدّ الشبكات العصبية العشوائية، المُستمدة من نماذج شيرينغتون-كيركباتريك، نوعًا من الشبكات العصبية التي تُبنى بإدخال تغيرات عشوائية فيها، إما عن طريق إعطاء الخلايا العصبية دوال نقل عشوائية ، [ 160 ] أو عن طريق إعطائها أوزانًا عشوائية. وهذا ما يجعلها أدوات مفيدة لحلّ مسائل التحسين ، إذ تُساعد التقلبات العشوائية الشبكة على تجنّب الوقوع في الحد الأدنى المحلي . [ 161 ] تُعرف الشبكات العصبية العشوائية المُدرّبة باستخدام المنهج البايزي باسم الشبكات العصبية البايزية. [ 162 ]

التعلم العميق الطوبولوجي

يدمج التعلم العميق الطوبولوجي ، الذي طُرح في عام 2017، [ 163 ] الطوبولوجيا مع الشبكات العصبية العميقة لمعالجة البيانات عالية الرتبة. وقد تطور هذا النوع من التعلم، الذي كان متجذراً في البداية في الطوبولوجيا الجبرية ، ليصبح إطار عمل متعدد الاستخدامات يضم أدوات من فروع رياضية مثل الطوبولوجيا التفاضلية والطوبولوجيا الهندسية .

آخر

في إطار بايزي ، يُختار توزيعٌ على مجموعة النماذج المسموح بها لتقليل التكلفة. ومن خوارزميات التعلم الأخرى: الأساليب التطورية [ 164 ] ، وبرمجة التعبير الجيني [ 165 ] ، والتقسية المحاكاة [ 166 ] ، وخوارزمية التوقع والتعظيم ، والأساليب غير البارامترية، وخوارزمية تحسين سرب الجسيمات [ 167 ] . يُعدّ التكرار التقاربي خوارزمية تعلم لشبكات عصبية مُتحكّمة في نموذج المخيخ (CMAC) [ 168 ] [ 169 ] .

الأوضاع

يمكن أن يكون التعلم عشوائيًا أو دفعيًا. في التعلم العشوائي، يتم تعديل الأوزان لكل عينة. أما في التعلم الدفعي، فتُعدَّل الأوزان بناءً على دفعة من المدخلات، مما يؤدي إلى تراكم الأخطاء عبر هذه الدفعة. يُدخل التعلم العشوائي "تشويشًا" إلى العملية، باستخدام التدرج المحلي المحسوب من نقطة بيانات واحدة؛ وهذا يقلل من احتمالية تعثر الشبكة في الحد الأدنى المحلي. مع ذلك، يُحقق التعلم الدفعي عادةً هبوطًا أسرع وأكثر استقرارًا نحو الحد الأدنى المحلي، نظرًا لأن كل تحديث يُجرى في اتجاه متوسط ​​خطأ الدفعة. يتمثل الحل الوسط الشائع في استخدام "دفعات صغيرة"، وهي دفعات صغيرة تُختار عينات كل دفعة منها عشوائيًا من مجموعة البيانات بأكملها.

الأنواع

تشمل أنواع الشبكات العصبية مجموعة من التقنيات. أبسطها يتكون من عناصر ثابتة، كعدد الوحدات والطبقات وأوزان الوحدات وبنية الشبكة . أما الشبكات العصبية الديناميكية فتتطور عبر التعلم. بعض الأنواع تسمح/تتطلب أن يكون التعلم "مُشرفًا" من قِبل المُشغّل، بينما يعمل البعض الآخر بشكل مستقل. بعض الأنواع تعمل كليًا على مستوى الأجهزة، بينما البعض الآخر برمجيات بحتة وتعمل على أجهزة حاسوب عامة.

الأنواع الرئيسية هي:

  • المحولات : تستخدم هذه التقنية آلية الانتباه لتحليل كل رمز في تدفق المدخلات ومقارنته بكل رمز آخر في التدفق. وقد مكّنت هذه التقنية الشبكات العصبية من الوصول إلى عامة الناس عبر برامج الدردشة الآلية، ومولدات الأكواد، والعديد من الأشكال الأخرى.
  • الشبكات العصبية الالتفافية (CNN): هي نوع من الشبكات العصبية الأمامية (FNN) تستخدم النوى والتنظيم لتجنب المشاكل التي واجهتها الأجيال السابقة من الشبكات العصبية. وتُستخدم عادةً لتحليل البيانات المرئية وغيرها من البيانات ثنائية الأبعاد. [ 170 ] [ 171 ]
  • تقوم الشبكات التوليدية التنافسية بوضع شبكات (ذات بنية مختلفة) في مواجهة بعضها البعض، حيث تحاول كل شبكة دفع الأخرى (أو الشبكات الأخرى) لإنتاج نتائج أفضل مثل الفوز في لعبة [ 172 ] أو خداع الخصم بشأن صحة المدخلات. [ 173 ]

تصميم الشبكة

يعتمد اختيار النموذج على البيانات والتطبيق. فالنماذج التي تعمل بشكل جيد مع البيانات النصية ليست عادةً الخيار الأمثل لبيانات الصور، وما إلى ذلك. ومن العناصر المهمة طريقة تدريب/تعلم النموذج. [ 174 ]

تستخدم تقنية البحث عن بنية الشبكات العصبية (NAS) التعلم الآلي لأتمتة تصميم الشبكات العصبية. وقد أسفرت هذه التقنية عن شبكات تُضاهي في أدائها الأنظمة المصممة يدويًا. وتتمثل الخوارزمية الأساسية في اقتراح نموذج مرشح، وتقييمه باستخدام مجموعة بيانات، ثم استخدام النتائج كمعلومات مرجعية لتدريب شبكة NAS. [ 175 ] وتشمل الجهود المبذولة في هذا المجال AutoML وAutoKeras. [ 176 ] كما توفر مكتبة scikit-learn وظائف تُساعد في بناء شبكة عميقة من الصفر.

المعلمات الفائقة هي خيارات تصميم (لا يتم تعلمها). [ 177 ]

الخصائص النظرية

القدرة الحاسوبية

تُعدّ الشبكة العصبية متعددة الطبقات مُقارباً شاملاً للدوال ، كما أثبتت نظرية التقريب الشامل . ومع ذلك، لا يُحدد البرهان عدد الخلايا العصبية المطلوبة، أو بنية الشبكة، أو الأوزان، أو معلمات التعلم.

تتمتع بنية الشبكة المتكررة ذات الأوزان النسبية (بدلاً من الأوزان الحقيقية ذات الدقة الكاملة) بقوة آلة تورينج شاملة ، [ 178 ] باستخدام عدد محدود من الخلايا العصبية والوصلات الخطية. علاوة على ذلك، يؤدي استخدام القيم غير النسبية للأوزان إلى آلة ذات قوة فائقة لتورينج . [ 179 ] [ 180 ]

سعة

تُعرف خاصية "سعة" النموذج بقدرته على نمذجة أي وظيفة معينة. وهي مرتبطة بكمية المعلومات التي يمكن تخزينها في الشبكة وبمفهوم التعقيد. تُعد سعة المعلومات وبُعد VC مقياسين. ويمكن اشتقاق سعة شبكة من الخلايا العصبية القياسية (غير الالتفافية) من خلال أربع قواعد [ 181 ] مستمدة من اعتبار الخلية العصبية عنصرًا كهربائيًا.

تُجسّد سعة المعلومات الوظائف التي يمكن للشبكة نمذجتها عند إدخال أي بيانات. يستخدم بُعد سعة المعلومات مبادئ نظرية القياس ، ويحدد السعة القصوى في ظل الظروف المثلى، مع الأخذ في الاعتبار بيانات الإدخال بشكل مُحدد. يُساوي بُعد سعة المعلومات للمدخلات العشوائية نصف سعة المعلومات للبيرسيبترون. ويُشار أحيانًا إلى بُعد سعة المعلومات للنقاط العشوائية باسم سعة الذاكرة. [ 182 ] [ 183 ]

التقارب

قد لا تتقارب النماذج باستمرار نحو حل واحد، لأن النظام قد يعلق في نقطة دنيا محلية. أو قد لا تضمن طريقة التحسين المستخدمة التقارب إذا بدأت بعيدًا عن أي نقطة دنيا محلية. ثالثًا، بالنسبة للبيانات أو المعلمات الكبيرة جدًا، تكون بعض الطرق بطيئة/مكلفة بشكل غير عملي. وقد يتجاوز التدريب أيضًا نقطة سرجية قد تمنع الوصول إلى الحل.

عندما يقترب عرض الشبكة من اللانهاية، يُمكن وصفها بدقة باستخدام متسلسلة تايلور من الدرجة الأولى خلال عملية التدريب، وبالتالي ترث سلوك التقارب للنماذج الخطية . [ 184 ] [ 185 ] عندما تكون أعداد المعلمات صغيرة، غالبًا ما تُطابق الشبكات العصبية الدوال المستهدفة من الترددات المنخفضة إلى العالية. يُشار إلى هذا السلوك بالانحياز الطيفي، أو مبدأ التردد. [ 186 ] [ 187 ] [ 188 ] تُعد هذه الظاهرة عكس سلوك بعض المخططات العددية التكرارية المدروسة جيدًا، مثل طريقة جاكوبي . تميل الشبكات العصبية الأعمق إلى الانحياز نحو الدوال ذات التردد المنخفض. [ 189 ]

التعميم والإحصاء

يجب على التطبيقات التي يجب أن تعمم بشكل جيد على أمثلة غير مرئية، تجنب الإفراط في التدريب . وينشأ هذا في الأنظمة المعقدة أو ذات المواصفات الزائدة عندما تكون سعة الشبكة أكبر بكثير من اللازم.

هناك منهجان لمعالجة مشكلة التدريب الزائد. يمكن استخدام التحقق المتبادل والتقنيات المشابهة للتحقق من وجود تدريب زائد واختيار المعلمات الفائقة المناسبة لتقليل خطأ التعميم. يمكن تطبيق التنظيم في إطار احتمالي (بيزي) عن طريق اختيار احتمال مسبق أكبر على نماذج أبسط؛ وكذلك في نظرية التعلم الإحصائي، حيث يتمثل الهدف في تقليل كميتين: "المخاطرة التجريبية" و"المخاطرة الهيكلية"، والتي تتوافق تقريبًا مع الخطأ في مجموعة التدريب والخطأ المتوقع في البيانات غير المرئية نتيجةً للتدريب الزائد.

تحليل الثقة للشبكة العصبية

تستطيع الشبكات العصبية الخاضعة للإشراف، والتي تستخدم دالة تكلفة متوسط ​​مربع الخطأ (MSE)، استخدام الأساليب الإحصائية الرسمية لتحديد مدى موثوقية النموذج المُدرَّب. يُمكن استخدام متوسط ​​مربع الخطأ على مجموعة التحقق كتقدير للتباين. ومن ثم، يُمكن استخدام هذه القيمة لحساب فاصل الثقة لمخرجات الشبكة، بافتراض التوزيع الطبيعي . يكون تحليل الثقة الذي يتم إجراؤه بهذه الطريقة صحيحًا إحصائيًا طالما بقي توزيع احتمالية المخرجات كما هو ولم يتم تعديل الشبكة.

باستخدام دالة التنشيط softmax ، وهي تعميم للدالة اللوجستية ، على طبقة الإخراج في الشبكة العصبية (أو مكون softmax في شبكة قائمة على المكونات) للمتغيرات المستهدفة الفئوية، يمكن تفسير المخرجات على أنها احتمالات لاحقة. وهذا مفيد في التصنيف لأنه يوفر مقياسًا لليقين.

دالة التنشيط softmax هي:

yأنا=هـxأنا∑ج=1جهـxج{\displaystyle y_{i}={\frac {e^{x_{i}}}{\sum _{j=1}^{c}e^{x_{j}}}}}

التطبيقات

تدعم الشبكات العصبية نطاقًا واسعًا من التطبيقات في معالجة الصور، والتعرف على الكلام، ومعالجة اللغة الطبيعية، والتمويل، والطب. وبفضل قدرتها على نمذجة العمليات غير الخطية وإعادة إنتاجها، وجدت الشبكات العصبية تطبيقات في العديد من المجالات، ومنها:

استُخدمت الشبكات العصبية لتشخيص السرطانات [ 208 ] [ 209 ] ولتمييز سلالات الخلايا السرطانية شديدة الغزو عن السلالات الأقل غزوًا باستخدام بيانات شكل الخلية فقط. [ 210 ] [ 211 ]

استُخدمت الشبكات العصبية لتسريع تحليل موثوقية البنى التحتية المعرضة للكوارث الطبيعية [ 212 ] [ 213 ] وللتنبؤ بهبوط أساسات المباني [ 214 ] . كما تُستخدم للحد من الفيضانات من خلال نمذجة جريان مياه الأمطار [ 215 ] . واستُخدمت الشبكات العصبية لبناء نماذج الصندوق الأسود في علوم الأرض : علم المياه [ 216 ] [ 217 ] ، ونمذجة المحيطات والهندسة الساحلية [ 218 ] [ 219 ] ، وعلم شكل الأرض [ 220 ] . ووُظِّفت الشبكات العصبية في الأمن السيبراني بهدف التمييز بين الأنشطة المشروعة والضارة. فعلى سبيل المثال، استُخدم التعلّم الآلي لتصنيف البرامج الضارة لنظام أندرويد [ 221 ] ، ولتحديد النطاقات التابعة لجهات تهديد، وللكشف عن عناوين المواقع الإلكترونية التي تُشكّل خطرًا أمنيًا. [ 222 ] يجري البحث حاليًا حول اختبار الاختراق، للكشف عن شبكات الروبوتات، [ 223 ] وعمليات الاحتيال ببطاقات الائتمان، [ 224 ] واختراقات الشبكة.

تم اقتراح الشبكات العصبية كأداة لحل المعادلات التفاضلية الجزئية في الفيزياء [ 225 ] [ 226 ] [ 227 ] ومحاكاة خصائص الأنظمة الكمومية المفتوحة متعددة الأجسام [ 228 ] [ 229 ] [ 230 ] . في أبحاث الدماغ، درست الشبكات العصبية السلوك قصير المدى للخلايا العصبية الفردية [ 231 ] ، وديناميكيات الدوائر العصبية الناشئة عن التفاعلات بين الخلايا العصبية الفردية، وكيف يمكن أن ينشأ السلوك من وحدات عصبية مجردة تمثل أنظمة فرعية كاملة. تناولت الدراسات اللدونة طويلة وقصيرة المدى للأنظمة العصبية وعلاقتها بالتعلم والذاكرة من مستوى الخلية العصبية الفردية إلى مستوى النظام.

تُظهر الشبكات العصبية إمكانات واعدة في تحديد اهتمامات المستخدم من الصور [ 232 ] واكتشاف مواد مستقرة جديدة من خلال التنبؤ بكفاءة بالطاقة الكلية للبلورات. [ 233 ]

معالجة الصور

تُستخدم الشبكات العصبية في مهام رؤية الحاسوب مثل تصنيف الصور، والتعرف على الأشياء والوجوه، وتجزئة الصور. وقد طُبقت في التصوير الطبي الآلي لأغراض التشخيص. [ 234 ]

التعرف على الكلام

تُستخدم الشبكات العصبية في تحديد هوية المتحدث، وتحويل الكلام إلى نص، وتحويل النص إلى كلام. وقد تفوقت هذه الشبكات على التقنيات التقليدية في التعرف على الكلام المتواصل ذي المفردات الكبيرة. [ 234 ] [ 235 ] وقد مكّنت هذه التطورات من تطوير أنظمة أكثر دقة وكفاءة تعمل بالصوت، مما حسّن واجهات المستخدم في المنتجات التقنية. [ 236 ] [ 237 ]

معالجة اللغة الطبيعية

في مجال معالجة اللغات الطبيعية ، تُستخدم الشبكات العصبية في مهام مثل تصنيف النصوص ، وتحليل المشاعر ، والترجمة الآلية ، والإجابة على الأسئلة المفتوحة، والعمل كبرامج دردشة آلية، وتلخيص النصوص وتحليلها. [ 234 ] [ 235 ] وهذا له آثار على خدمات العملاء الآلية، ومراقبة المحتوى، وتقنيات فهم اللغة. [ 238 ]

أنظمة التحكم

تُستخدم الشبكات العصبية لنمذجة الأنظمة الديناميكية لمهام مثل تحديد النظام، وتصميم التحكم، والمركبات ذاتية القيادة، والتحسين. [ 239 ]

تمويل

تستخدم المؤسسات المالية الكبرى الذكاء الاصطناعي لدعم ممارساتها الاستثمارية. [ 240 ] يُستخدم محرك الذكاء الاصطناعي " علاء الدين " التابع لشركة بلاك روك داخل الشركة ومن قِبل العملاء للمساعدة في اتخاذ القرارات الاستثمارية. تشمل وظائفه استخدام معالجة اللغة الطبيعية لتحليل النصوص، مثل الأخبار وتقارير الوسطاء ومنشورات وسائل التواصل الاجتماعي. ثم يقيس المحرك توجهات المستهلكين تجاه الشركات المذكورة ويُعطيها درجة. تستخدم بنوك مثل يو بي إس ودويتشه بنك نموذج SQREEM (نموذج الاختزال والاستخراج الكمي المتسلسل) لاستخراج البيانات وتطوير ملفات تعريف العملاء ومطابقتها مع منتجات إدارة الثروات . [ 241 ]

الدواء

تُحلل الشبكات العصبية مجموعات البيانات الطبية، مما يُحسّن دقة التشخيص، لا سيما من خلال تفسير الصور الطبية المعقدة للكشف المبكر عن الأمراض، والتنبؤ بنتائج المرضى لتخطيط العلاج المُخصّص. [ 235 ] في مجال اكتشاف الأدوية ، تُسرّع الشبكات العصبية عملية تحديد المرشحين المحتملين للأدوية وتتنبأ بفعاليتهم وسلامتهم، مما يُقلل بشكل كبير من وقت وتكاليف التطوير. [ 234 ] بالإضافة إلى ذلك، يُتيح تطبيقها في الطب الشخصي وتحليل بيانات الرعاية الصحية علاجات مُخصصة وإدارة فعّالة لرعاية المرضى. [ 235 ]

الأمن السيبراني

تُستخدم الشبكات العصبية على نطاق واسع في مجال الأمن السيبراني للكشف عن الحالات الشاذة، وتصنيف البرامج الضارة، والكشف عن الاختراقات. ومن خلال تعلم أنماط السلوك الطبيعي للنظام أو الشبكة، تستطيع الشبكات العصبية تحديد الانحرافات التي تشير إلى نشاط خبيث. [ 242 ]

إنشاء المحتوى

تُستخدم المحولات في إنشاء المحتوى في العديد من الصناعات. [ 243 ] فهي قادرة على تحليل العينات وإنتاج مخرجات تتناسب مع أسلوب الفنان أو الموسيقي. على سبيل المثال، تم تدريب نموذج DALL-E على 650 مليون زوج من الصور والنصوص، وهو قادر على إنشاء أعمال فنية بناءً على نصوص المستخدم. [ 244 ] وقد استخدمت شركات مثل AIVA و Jukedeck المحولات لإنشاء موسيقى أصلية. [ 245 ] كما استُخدمت الشبكات العصبية لإنشاء إعلانات مخصصة. [ 243 ] واستخدمت شركات إنتاج الأفلام الشبكات العصبية لتحليل النجاح المالي للأفلام. [ 246 ] ووجدت الشبكات العصبية استخدامات في تطوير ألعاب الفيديو. [ 247 ]

مشاكل

تمرين

تتطلب الشبكات العصبية ملايين العينات التدريبية لتصبح فعّالة. وبحلول عام 2026، كان تدريب نموذج التعلم الآلي التجاري (مثل GPT وGrok وGemini) يتطلب عادةً مئات الآلاف من أجهزة الكمبيوتر، ويكلف عشرات الملايين من الدولارات. [ 248 ] [ 168 ]

نظرية

تتمثل إحدى الادعاءات الرئيسية للشبكات العصبية في أنها تجسد مبادئ عامة جديدة وقوية لمعالجة المعلومات. ومع ذلك، فهي في جوهرها تستخدم أساليب إحصائية تم تطويرها منذ زمن طويل.

الأجهزة

تتطلب الشبكات العصبية موارد حاسوبية هائلة للتدريب. [ 249 ] بينما لا يحتاج الدماغ إلا إلى 20 واط من الطاقة، [ 250 ] فإن تدريب المحولات التجارية يتطلب (2026) مراكز بيانات بمئات الميغاواط. [ 251 ]

من عام 1991 إلى عام 2015، زادت قوة الحوسبة، وخاصة تلك التي توفرها وحدات معالجة الرسومات للأغراض العامة (على وحدات معالجة الرسومات )، بنحو مليون ضعف، مما أتاح استخدام خوارزمية الانتشار العكسي. [ 48 ]

الهندسة العصبية الشكلية أو الشبكة العصبية الفيزيائية ، وهي عبارة عن رقائق غير فون نيومان مصممة لتنفيذ الشبكات العصبية مباشرةً في الدوائر الإلكترونية. على سبيل المثال، قدمت شركة ألفابت رقائق مخصصة ( وحدة معالجة الموترات ). [ 252 ]

مفهوم الانحراف

قد تتغير الخصائص الإحصائية لبيانات الإدخال بمرور الوقت، وهي ظاهرة تُعرف باسم انحراف المفهوم أو عدم الاستقرار . يمكن أن يُقلل الانحراف من دقة التنبؤ ويؤدي إلى قرارات غير موثوقة أو متحيزة إذا لم يتم اكتشافه وتصحيحه. عمليًا، هذا يعني أن دقة النموذج عند تطبيقه قد تختلف اختلافًا كبيرًا عن المستويات التي لوحظت أثناء التدريب.

تم تطوير العديد من الاستراتيجيات لمراقبة الشبكات العصبية بحثًا عن الانحراف والتدهور:

  • المراقبة القائمة على الخطأ : مقارنة التنبؤات الحالية بالبيانات المرجعية. يقيس هذا النهج أداء التنبؤ بشكل مباشر، ولكنه قد يكون غير عملي عندما تتأخر البيانات المرجعية أو يصعب الحصول عليها.
  • مراقبة توزيع البيانات : اكتشاف التغييرات في توزيع بيانات الإدخال باستخدام الاختبارات الإحصائية أو مقاييس التباعد أو تقدير نسبة الكثافة.
  • مراقبة التمثيل : تتبع توزيع التضمينات الداخلية أو خصائص الطبقة المخفية. يمكن أن تشير التحولات في التمثيل الكامن إلى عدم الاستقرار حتى في حالة عدم توفر التصنيفات. وقد تم تكييف الأساليب الإحصائية، مثل مخططات مراقبة العمليات الإحصائية، لهذا الغرض. [ 253 ]

تحيز مجموعة البيانات

تعتمد الشبكات العصبية على جودة بيانات التدريب؛ فالبيانات منخفضة الجودة قد تؤدي إلى نتائج ضعيفة. [ 254 ] [ 255 ] وتنتج البيانات المتحيزة نتائج متحيزة، مما يتطلب من المدربين اكتشافها وتصحيحها. على سبيل المثال، قد تؤدي البيانات التي لا تمثل بعض الفئات الديموغرافية تمثيلاً كافياً إلى أخطاء، كما هو الحال في التعرف على الوجوه وإنفاذ القانون . [ 255 ] [ 256 ] في عام 2018، ألغت أمازون أداة توظيف لأن النموذج كان يفضل الرجال على النساء في وظائف هندسة البرمجيات نظرًا لكثرة عدد العاملين الذكور في هذا المجال. [ 256 ] وكان النظام يعاقب السير الذاتية التي تحتوي على كلمة "امرأة" أو اسم كلية نسائية. ومن الحلول التصحيحية إضافة بيانات اصطناعية لتعويض هذا التحيز. [ 257 ]

عدم قابلية التفسير

تُعتبر الشبكات العصبية أنظمة "صندوق أسود" يصعب فهم عمليات اتخاذ القرار فيها. كما أنها أكثر عرضة للتأثيرات السلبية ("السم") التي قد تؤدي إلى تنبؤات خاطئة.

أدت هذه المخاوف إلى زيادة الأبحاث في مجال الذكاء الاصطناعي القابل للتفسير (XAI)، والتعلم الآلي القوي، ونهج الذكاء الاصطناعي الهجينة التي تجمع بين التعلم العصبي والاستدلال الرمزي. ويقول مؤيدو النماذج الهجينة أيضًا إن هذا المزيج يمكنه أن يجسد آليات العقل البشري بشكل أفضل. [ 258 ] [ 259 ]

وقد شمل التقدم التعلم المحلي مقابل التعلم غير المحلي والبنى السطحية مقابل البنى العميقة. [ 260 ]

كما ثبت أن تحليل الفكر البشري (الشبكة العصبية البيولوجية) أمر صعب.

انظر أيضاً

ملحوظات

    مراجع

    1. ↑ هارديستي، ل. (14 أبريل 2017). "شرح: الشبكات العصبية" . مكتب أخبار معهد ماساتشوستس للتكنولوجيا. مؤرشف من الأصل في 18 مارس 2024. تم الاطلاع عليه في 2 يونيو 2022 .
    2. ↑ يانغ ز، يانغ ز (2014). الفيزياء الطبية الحيوية الشاملة . معهد كارولينسكا، ستوكهولم، السويد: إلسيفير. ص 1. ISBN  978-0-444-53633-4أُرشف من المصدر الأصلي بتاريخ 28 يوليو 2022. تم الاطلاع عليه بتاريخ 28 يوليو 2022 .
    3. ↑ بيشوب، سي إم (17 أغسطس 2006). التعرف على الأنماط والتعلم الآلي (ملف PDF) . نيويورك: سبرينغر. ISBN 978-0-387-31073-2.
    4. 1 2 فاسواني أ، شازير ن، بارمار ن (2017). "الانتباه هو كل ما تحتاجه" ( ملف PDF) . التطورات في أنظمة معالجة المعلومات العصبية . 30. arXiv : 1706.03762 .
    5. ↑ "الاهتمام هو كل ما تحتاجه" . arxiv.org . تم الاطلاع عليه بتاريخ 22 يوليو 2026 .
    6. ↑ فيري، سي.، وكايزر، إس. (2019). الشبكات العصبية للأطفال . دار سورس بوكس ​​للنشر. رقم ISBN 978-1-4926-7120-6.
    7. ↑ ستيجلر إس إم (1981). "جاوس واختراع طريقة المربعات الصغرى" . حوليات الإحصاء 9 ( 3): 465-474 . رمز Bibcode : 1981AnSta...945451S . doi : 10.1214/aos/1176345451 .
    8. 1 2 3 4 5 6 7 8 شميدهوبر ج (29 ديسمبر 2025). "تاريخ مشروح للذكاء الاصطناعي الحديث والتعلم العميق". arXiv : 2212.11279 [ cs.NE ].
    9. ↑ ستيجلر، إس. إم. (1986). تاريخ الإحصاء: قياس عدم اليقين قبل عام 1900. كامبريدج: هارفارد. ISBN 0-674-40340-1.
    10. 1 2 3 ماكولوتش، دبليو إس، وبيتس، دبليو (ديسمبر 1943). "حساب منطقي للأفكار الكامنة في النشاط العصبي" . نشرة الفيزياء الحيوية الرياضية . 5 (4): 115-133 . Bibcode : 1943BMaB....5..115M . doi : 10.1007/BF02478259 . ISSN 0007-4985 . تاريخ الاسترجاع: 7 أغسطس 2024 . {{cite journal}}: CS1 maint: deprecated archiveal service ( link )
    11. ↑ كلين، س. (1956). "تمثيل الأحداث في الشبكات العصبية والآلات المحدودة" . حوليات دراسات الرياضيات . العدد 34. مطبعة جامعة برينستون. الصفحات 3-41 . مؤرشف من الأصل في 19 مايو 2024. تم الاطلاع عليه في 17 يونيو 2017 .  
    12. ↑ هيب د (2005) [الطبعة الأولى 1949]. تنظيم السلوك . تايلور وفرانسيس. ISBN 978-1-135-63190-1.
    13. ↑ فارلي ب، دبليو إيه كلارك (1954). "محاكاة الأنظمة ذاتية التنظيم بواسطة الحاسوب الرقمي". معاملات معهد مهندسي الراديو في نظرية المعلومات . 4 (4): 76-84 . رمز Bibcode : 1954TIPIT...4...76F . doi : 10.1109/TIT.1954.1057468 .
    14. ↑ روتشستر ن، جيه إتش هولاند، إل إتش هابيت، دبليو إل دودا (1956). "اختبارات على نظرية تجميع الخلايا لعمل الدماغ، باستخدام حاسوب رقمي كبير". معاملات معهد مهندسي الراديو في نظرية المعلومات . 2 (3): 80-93 . رمز Bibcode : 1956IRTIT...2...80R . doi : 10.1109/TIT.1956.1056810 .
    15. ↑ هايكين (2008) الشبكات العصبية وآلات التعلم، الطبعة الثالثة
    16. ↑ روزنبلات، ف. (1958). "البرسبترون: نموذج احتمالي لتخزين المعلومات وتنظيمها في الدماغ" . مجلة علم النفس . 65 (6): 386-408 . CiteSeerX 10.1.1.588.3775 . doi : 10.1037/h0042519 . PMID 13602029. S2CID 12781225 .   
    17. ↑ ويربوس ب (1975). ما وراء الانحدار: أدوات جديدة للتنبؤ والتحليل في العلوم السلوكية .
    18. ↑ روزنبلات ف (1957). "البرسبترون - آلة إدراك وتمييز". التقرير 85-460-1 . مختبر كورنيل للملاحة الجوية.
    19. ↑ أولازاران م (1996). " دراسة سوسيولوجية للتاريخ الرسمي لجدل البيرسيبترون". دراسات اجتماعية في العلوم . 26 (3): 611-659 . doi : 10.1177/030631296026003005 . JSTOR 285702. S2CID 16786738 .  
    20. 1 2 3 جوزيف آر دي (1961). مساهمات في نظرية البيرسيبترون (أطروحة دكتوراه). جامعة كورنيل.
    21. 1 2 روزنبلات ف (1962). مبادئ الديناميكا العصبية: البيرسيبترونات ونظرية آليات الدماغ . كتب سبارتان.
    22. ↑ راسل س، نورفيج، بيتر (2010). الذكاء الاصطناعي: منهج حديث (ملف PDF) ( الطبعة الثالثة). الولايات المتحدة الأمريكية: بيرسون إديوكيشن. الصفحات 16-28 . ISBN   978-0-13-604259-4تم الاطلاع عليه بتاريخ 9 ديسمبر 2023 .{{cite book}}: CS1 maint: deprecated archiveal service ( link )
    23. ↑ مكارثي ج، مينسكي م، روتشستر ن، شانون س (1955). "مقترح لمشروع دارتموث الصيفي للبحوث حول الذكاء الاصطناعي" . جامعة ستانفورد . تم الاطلاع عليه بتاريخ 15 مارس 2026 .
    24. ↑ مينسكي م، بابيرت س (1969). البيرسيبترونات: مقدمة في الهندسة الحسابية . مطبعة معهد ماساتشوستس للتكنولوجيا. doi : 10.7551/mitpress/11301.001.0001 . ISBN 978-0-262-34393-0.
    25. ↑ إيفاخنينكو إيه جي، لابا في جي (1967). علم التحكم الآلي وتقنيات التنبؤ . شركة النشر الأمريكية إلسيفير. رقم ISBN 978-0-444-00020-0.
    26. ↑ إيفاخنينكو أ (مارس 1970). "التنظيم الذاتي الاستدلالي في مشاكل هندسة التحكم الآلي" . أوتوماتيكا . 6 (2): 207-219 . Bibcode : 1970Autom...6..207I . doi : 10.1016/0005-1098(70)90092-0 . مؤرشف من الأصل في 12 أغسطس 2024. تم الاسترجاع في 7 أغسطس 2024 .
    27. ↑ إيفاخنينكو أ (1971). "نظرية كثيرات الحدود للأنظمة المعقدة" (ملف PDF) . معاملات IEEE في الأنظمة والإنسان وعلم التحكم الآلي . SMC-1 (4): 364-378 . Bibcode : 1971ITSMC...1..364I . doi : 10.1109/TSMC.1971.4308320 . مؤرشف (ملف PDF) من الأصل في 29 أغسطس 2017. تم الاطلاع عليه في 5 نوفمبر 2019 .
    28. ↑ روبنز هـ ، مونرو س (1951). "طريقة تقريبية عشوائية" . حوليات الإحصاء الرياضي . 22 (3): 400. doi : 10.1214/aoms/1177729586 .
    29. ↑ أماري س (1967). "نظرية مصنفات الأنماط التكيفية" (ملف PDF) . معاملات IEEE . EC (16): 279–307 .
    30. ↑ فوكوشيما ك (1969). "استخلاص الميزات البصرية بواسطة شبكة متعددة الطبقات من عناصر العتبة التناظرية". معاملات IEEE في علوم الأنظمة وعلم التحكم الآلي . 5 (4): 322-333 . Bibcode : 1969ITSSC...5..322F . doi : 10.1109/TSSC.1969.300225 .
    31. ↑ سونودا، س.، وموراتا، ن. (2017). "الشبكة العصبية ذات دوال التنشيط غير المحدودة هي مقارب شامل". التحليل التوافقي التطبيقي والحسابي . 43 (2): 233-268 . arXiv : 1505.03654 . doi : 10.1016/j.acha.2015.12.005 . S2CID 12149203 . 
    32. ↑ راماشاندران ب، باريت ز، كوك ف ل (16 أكتوبر 2017). "البحث عن وظائف التنشيط". arXiv : 1710.05941 [ cs.NE ].
    33. ↑ مينسكي م، بابيرت س (1969). البيرسيبترونات: مقدمة في الهندسة الحسابية . مطبعة معهد ماساتشوستس للتكنولوجيا. ISBN 978-0-262-63022-1.
    34. ↑ بوزينوفسكي س (15 سبتمبر 2020). "تذكير بالورقة البحثية الأولى حول التعلم الانتقالي في الشبكات العصبية، 1976" . إنفورماتيكا . 44 (3). doi : 10.31449/inf.v44i3.2828 . ISSN 1854-3871 . 
    35. ↑ روميلهارت د، هينتون ج، ويليامز ر (1986). "تعلم التمثيلات عن طريق نشر الأخطاء عكسيًا". نيتشر . 323 (6088): 533-536 . Bibcode : 1986Natur.323..533R . doi : 10.1038/323533a0 .
    36. ↑ لايبنتز، جورج فيلهلم (1920). المخطوطات الرياضية المبكرة للايبنتز: مترجمة من النصوص اللاتينية، نشرها كارل إيمانويل جيرهاردت مع ملاحظات نقدية وتاريخية (نشر لايبنتز قاعدة السلسلة في مذكرة عام 1676) . دار نشر أوبن كورت. رقم ISBN 978-0-598-81846-1.{{cite book}}عدم توافق رقم ISBN / التاريخ ( مساعدة )
    37. ↑ كيلي إتش جيه (1960). "نظرية التدرج لمسارات الطيران المثلى" . مجلة الجمعية الملكية للأبحاث . 30 (10): 947-954 . doi : 10.2514/8.5282 .
    38. ↑ لينينما س (1970). تمثيل الخطأ التقريبي التراكمي لخوارزمية ما كتوسيع تايلور لأخطاء التقريب المحلية (رسالة ماجستير) (باللغة الفنلندية). جامعة هلسنكي. ص 6-7. 
    39. ↑ لينينما، س. (1976). "توسيع تايلور لخطأ التقريب المتراكم". الرياضيات العددية في BIT . 16 (2): 146-160 . doi : 10.1007/bf01931367 . S2CID 122357351 . 
    40. ↑ أوستروفسكي، جي إم، فولين، واي إم، وبوريس، دبليو دبليو (1971). حول حساب المشتقات. مجلة العلوم التقنية للكيمياء، 13: 382-384.
    41. 1 2 شميدهوبر، ج. (25 أكتوبر 2014). "من اخترع خوارزمية الانتشار العكسي؟" . معهد دراسات الأنظمة الذكية (IDSIA)، سويسرا. مؤرشف من الأصل في 30 يوليو 2024. تم الاطلاع عليه في 14 سبتمبر 2024 .
    42. ↑ ويربوس، بي. جيه. (1982)، "تطبيقات التطورات في تحليل الحساسية غير الخطية" (ملف PDF) ، في درينيك، آر. إف.، وكوزين، إف. (محرران)، نمذجة الأنظمة وتحسينها ، سلسلة محاضرات في علوم التحكم والمعلومات، المجلد 38، برلين/هايدلبرغ: سبرينغر-فيرلاغ، الصفحات 762-770 ، doi : 10.1007/bfb0006203 ، ISBN   978-3-540-11691-2تمت أرشفة هذا الملف من النسخة الأصلية (PDF) بتاريخ 14 أبريل 2016 ، وتم استرجاعه بتاريخ 27 مارس 2026.
    43. ↑ أندرسون، جيه. إيه.، روزنفيلد، إي. (محرران). (2000). الشبكات الناطقة: تاريخ شفوي للشبكات العصبية . مطبعة معهد ماساتشوستس للتكنولوجيا. doi : 10.7551/mitpress/6626.003.0016 . ISBN 978-0-262-26715-1تم الاطلاع عليه بتاريخ 7 أغسطس 2024 .{{cite book}}: CS1 maint: deprecated archiveal service ( link )
    44. ↑ ويربوس، بي. جيه. (1994). جذور الانتشار العكسي: من المشتقات المرتبة إلى الشبكات العصبية والتنبؤ السياسي . نيويورك: جون وايلي وأولاده. ISBN 0-471-59897-6.
    45. ↑ روميلهارت، دي إي، وهينتون، جي إي، وويليامز، آر جيه (أكتوبر 1986). "تعلم التمثيلات عن طريق نشر الأخطاء عكسيًا" . مجلة نيتشر . 323 (6088): 533-536 . رمز Bibcode : 1986Natur.323..533R . doi : 10.1038/323533a0 . ISSN 1476-4687 . مؤرشف من الأصل في 8 مارس 2021. تم الاطلاع عليه في 17 مارس 2021 . 
    46. ↑ فوكوشيما ك (1979). "نموذج شبكة عصبية لآلية التعرف على الأنماط غير المتأثرة بتغير الموضع - نيوكوجنيترون" . معاملات IECE (باللغة اليابانية) . J62-A (10): 658-665 . doi : 10.1007/ bf00344251 . PMID 7370364. S2CID 206775608 .  
    47. ↑ فوكوشيما ك (1980). "نيوكوجنيترون: نموذج شبكة عصبية ذاتية التنظيم لآلية التعرف على الأنماط غير المتأثرة بتغير الموضع" . علم التحكم الحيوي . 36 (4): 193-202 . doi : 10.1007/bf00344251 . PMID 7370364. S2CID 206775608 .  
    48. 1 2 3 شميدهوبر، ج. (2015). "التعلم العميق في الشبكات العصبية: نظرة عامة". الشبكات العصبية . 61 : 85-117 . arXiv : 1404.7828 . Bibcode : 2015NN.....61...85S . doi : 10.1016 / j.neunet.2014.09.003 . PMID 25462637. S2CID 11715509 .  
    49. ↑ فوكوشيما ك، مياكي س (1 يناير 1982). "نيوكوجنيترون: خوارزمية جديدة للتعرف على الأنماط تتحمل التشوهات والتحولات في الموضع" . التعرف على الأنماط . 15 (6): 455-469 . Bibcode : 1982PatRe..15..455F . doi : 10.1016/0031-3203(82)90024-3 . ISSN 0031-3203 . تاريخ الاسترجاع: 9 سبتمبر 2024 . {{cite journal}}: CS1 maint: deprecated archiveal service ( link )
    50. ↑ وايبيل أ (ديسمبر 1987). التعرف على الصوتيات باستخدام الشبكات العصبية ذات التأخير الزمني (ملف PDF) . اجتماع معهد مهندسي الكهرباء والمعلومات والاتصالات (IEICE). طوكيو، اليابان. مؤرشف (ملف PDF) من الأصل في 17 سبتمبر 2024. تم الاطلاع عليه في 20 سبتمبر 2024 .
    51. ↑ ألكسندر وايبيل وآخرون، التعرف على الصوتيات باستخدام الشبكات العصبية ذات التأخير الزمني، مؤرشف في 11 ديسمبر 2024 في Wayback Machine ، معاملات IEEE في الصوتيات والكلام ومعالجة الإشارات، المجلد 37، العدد 3، الصفحات 328-339، مارس 1989.
    52. ↑ تشانغ و (1988). "شبكة عصبية للتعرف على الأنماط غير المتغيرة مع الإزاحة وبنيتها البصرية" . وقائع المؤتمر السنوي للجمعية اليابانية للفيزياء التطبيقية . مؤرشف من الأصل في 23 يونيو 2020. تم الاطلاع عليه في 12 أبريل 2023 .
    53. ↑ LeCun Y, Boser B, Denker JS, Henderson D, Howard RE, Hubbard W, et al. (1989). "تطبيق خوارزمية الانتشار العكسي على التعرف على الرموز البريدية المكتوبة بخط اليد" . الحوسبة العصبية . 1 (4): 541–551 . doi : 10.1162/neco.1989.1.4.541 . S2CID 41312633 .  
    54. ↑ تشانغ و (1990). " نموذج معالجة موزعة متوازية مع وصلات محلية ثابتة مكانيًا وبنيته البصرية" . البصريات التطبيقية . 29 (32): 4790-4797 . رمز Bibcode : 1990ApOpt..29.4790Z . doi : 10.1364/AO.29.004790 . PMID 20577468. مؤرشف من الأصل في 6 فبراير 2017. تم الاسترجاع في 12 أبريل 2023 . 
    55. ↑ تشانغ و (1991). " معالجة صور بطانة القرنية البشرية باستخدام شبكة تعلم" . البصريات التطبيقية . 30 (29): 4211-4217 . رمز Bibcode : 1991ApOpt..30.4211Z . doi : 10.1364/AO.30.004211 . PMID 20706526. مؤرشف من الأصل في 19 يونيو 2024. تم الاسترجاع في 20 سبتمبر 2024 . 
    56. ↑ تشانغ و (1994). " الكشف المحوسب عن التكلسات الدقيقة المتجمعة في صور الثدي الرقمية باستخدام شبكة عصبية اصطناعية ثابتة الإزاحة" . الفيزياء الطبية . 21 (4): 517-24 . Bibcode : 1994MedPh..21..517Z . doi : 10.1118/1.597177 . PMID 8058017. مؤرشف من الأصل في 20 يونيو 2024. تم الاسترجاع في 20 سبتمبر 2024 . 
    57. ^ ليكون واي، ليون بوتو، يوشوا بينجيو، باتريك هافنر (1998). “تطبيق التعلم القائم على التدرج على التعرف على المستندات” (PDF) . وقائع IEEE . 86 (11): 2278– 2324. بيب كود : 1998IEEEP..86.2278L . سيتيسيركس 10.1.1.32.9552 . دوى : 10.1109/5.726791 . S2CID 14542261 . مؤرشفة من الأصلي (PDF) في 30 أكتوبر 2023 . تم الاسترجاع 7 أكتوبر 2016 .  
    58. ↑ تشيان، نينغ، وتيرينس ج. سيجنوفسكي. "التنبؤ بالبنية الثانوية للبروتينات الكروية باستخدام نماذج الشبكات العصبية." مجلة البيولوجيا الجزيئية 202، العدد 4 (1988): 865-884.
    59. ^ بور، هنريك، جاكوب بور، سورين بروناك، رودني إم جي كوتريل، بيني لاوتروب، ليف نورسكوف، أولي إتش أولسن، وستيفن بي بيترسن. "البنية الثانوية للبروتين والتماثل عن طريق الشبكات العصبية وحلزونات ألفا في رودوبسين." رسائل FEBS 241، (1988): 223-228
    60. ↑ روست، بوركهارد، وكريس ساندر: "التنبؤ بالبنية الثانوية للبروتين بدقة أفضل من 70%." مجلة البيولوجيا الجزيئية 232، العدد 2 (1993): 584-599.
    61. ↑ أماري، إس. آي. (نوفمبر 1972). "تعلم الأنماط وتسلسلات الأنماط بواسطة شبكات ذاتية التنظيم لعناصر العتبة" . معاملات IEEE في الحوسبة . C-21 (11): 1197-1206 . Bibcode : 1972ITCmp.100.1197A . doi : 10.1109/TC.1972.223477 . ISSN 0018-9340 . 
    62. ↑ هوبفيلد، ج. ج. (1982). "الشبكات العصبية والأنظمة الفيزيائية ذات القدرات الحسابية الجماعية الناشئة" . وقائع الأكاديمية الوطنية للعلوم . 79 (8): 2554-2558 . Bibcode : 1982PNAS...79.2554H . doi : 10.1073 / pnas.79.8.2554 . PMC 346238. PMID 6953413 .  
    63. ↑ إسبينوزا-سانشيز، جيه إم، غوميز-مارين، إيه، دي كاسترو، إف (5 يوليو 2023). "أهمية علم الأعصاب لكاخال ولورينتي دي نو في نشأة علم التحكم الآلي" . مجلة عالم الأعصاب . 31 (1): 14-30 . doi : 10.1177/10738584231179932 . hdl : 10261/348372 . ISSN 1073-8584 . PMID 37403768. تاريخ الاسترجاع: 7 أغسطس 2024 .  {{cite journal}}: CS1 maint: deprecated archiveal service ( link )
    64. ↑ "دائرة صدى" . مرجع أكسفورد . تم الاطلاع عليه بتاريخ 27 يوليو 2024 .{{cite web}}: CS1 maint: deprecated archiveal service ( link )
    65. ↑ بوزينوفسكي، س. (1982). "نظام تعلم ذاتي باستخدام التعزيز الثانوي". في ترابل، روبرت (محرر). أبحاث علم التحكم الآلي والأنظمة: وقائع الاجتماع الأوروبي السادس حول أبحاث علم التحكم الآلي والأنظمة. نورث هولاند. ص 397-402. ISBN 978-0-444-86488-8
    66. ↑ بوزينوفسكي، س. (1995) "العوامل الوراثية العصبية والنظرية البنيوية لأنظمة التعلم بالتعزيز الذاتي". التقرير الفني 95-107، مركز علوم الحوسبة الفيزيائية الحاسوبية، جامعة ماساتشوستس في أمهيرستأُرشف بتاريخ 8 أكتوبر 2024 في أرشيف الإنترنت (Wayback Machine).
    67. ↑ زايونك ر (1980). "الشعور والتفكير: لا تحتاج التفضيلات إلى استدلالات" . عالم النفس الأمريكي . 35 (2): 151-175 . doi : 10.1037/0003-066X.35.2.151 .
    68. ↑ لازاروس، ر. س. (نوفمبر 1982). "أفكار حول العلاقة بين العاطفة والإدراك" . عالم النفس الأمريكي . 37 (9): 1019-1024 . Bibcode : 1982AmPsy..37.1019L . doi : 10.1037/0003-066X.37.9.1019 . ISSN 1935-990X . 
    69. ↑ بوزينوفسكي، س. (2014). "نمذجة آليات التفاعل بين الإدراك والعاطفة في الشبكات العصبية الاصطناعية، منذ عام 1981" (ملف PDF) . وقائع علوم الحاسوب . 41 : 255-263 . doi : 10.1016/j.procs.2014.11.111 . مؤرشف من الأصل في 23 مارس 2019.
    70. ↑ شميدهوبر، ج. (أبريل 1991). "مجزئات التسلسل العصبي" (ملف PDF) . تقرير فني رقم 148، جامعة ميونخ التقنية . مؤرشف (ملف PDF) من الأصل في 14 سبتمبر 2024. تم الاطلاع عليه في 21 سبتمبر 2024 .
    71. ↑ شميدهوبر، ج. (1992). "تعلم التسلسلات المعقدة والممتدة باستخدام مبدأ ضغط التاريخ (استنادًا إلى TR FKI-148، 1991)" ( ملف PDF) . الحوسبة العصبية . 4 (2): 234-242 . doi : 10.1162/neco.1992.4.2.234 . S2CID 18271205. مؤرشف (ملف PDF) من الأصل في 14 سبتمبر 2024. تم الاسترجاع في 21 سبتمبر 2024 . 
    72. ↑ شميدهوبر، ج. (1993). أطروحة التأهيل: نمذجة النظم وتحسينها (ملف PDF) . مؤرشفة (ملف PDF) من الأصل في 7 أغسطس 2024. تم الاطلاع عليها في 21 سبتمبر 2024 .توضح الصفحة 150 وما يليها عملية تخصيص الاعتمادات عبر ما يعادل 1200 طبقة في شبكة عصبية متكررة غير مطوية.
    73. ^ S. Hochreiter.، “ Unter suchungen zu dynamischen neuronalen Netzen ”، أرشفة 6 مارس 2015 في آلة Wayback .، أطروحة الدبلوم. معهد ف. المعلوماتية، الجامعة التقنية. ميونيخ. المستشار: ج. شميدهوبر ، 1991.
    74. ↑ هوكريتر إس، وآخرون (15 يناير 2001). "تدفق التدرج في الشبكات المتكررة: صعوبة تعلم التبعيات طويلة المدى" . في: كولين جيه إف، وكريمر إس سي (محرران). دليل ميداني للشبكات المتكررة الديناميكية . جون وايلي وأولاده. ISBN  978-0-7803-5369-5أُرشف من الأصل في 19 مايو 2024. تم الاطلاع عليه في 26 يونيو 2017 .
    75. ^ سيب هوشريتر ، يورغن شميدهوبر (21 أغسطس 1995)، الذاكرة طويلة المدى ، ويكي بيانات Q98967430 
    76. ↑ هوكريتر إس ، شميدهوبر جيه (1 نوفمبر 1997). " الذاكرة طويلة المدى قصيرة المدى". الحوسبة العصبية . 9 (8): 1735-1780 . doi : 10.1162/neco.1997.9.8.1735 . PMID 9377276. S2CID 1915014 .  
    77. ↑ جيرز، ف.، شميدهوبر، ج.، كومينز، ف. (1999). "التعلم من النسيان: التنبؤ المستمر باستخدام LSTM". المؤتمر الدولي التاسع للشبكات العصبية الاصطناعية: ICANN '99 . المجلد 1999. الصفحات 850-855 . doi : 10.1049/cp:19991218 . ISBN   0-85296-721-7.
    78. ↑ أكلي، د. هـ.، هينتون، ج. إ.، سيجنوفسكي، ت. ج. (1 يناير 1985). "خوارزمية تعلم لآلات بولتزمان" . العلوم المعرفية . 9 (1): 147-169 . doi : 10.1016/S0364-0213(85)80012-4 . ISSN 0364-0213 . مؤرشف من الأصل في 17 سبتمبر 2024. تم الاطلاع عليه في 7 أغسطس 2024 . 
    79. ↑ سمولينسكي، ب. (1986). "الفصل 6: معالجة المعلومات في الأنظمة الديناميكية: أسس نظرية التناغم" (ملف PDF) . في: روميلهارت، د. إي.، وماكليلاند، ج. ل. (محرران). المعالجة الموزعة المتوازية: استكشافات في البنية الدقيقة للإدراك، المجلد 1: الأسس . مطبعة معهد ماساتشوستس للتكنولوجيا. الصفحات 194-281 . ISBN  0-262-68053-Xتمت أرشفة الملف (PDF) من النسخة الأصلية بتاريخ 14 يوليو 2023. تم الاطلاع عليه بتاريخ 7 أغسطس 2024 .
    80. ↑ بيتر د ، هينتون جي إي ، نيل آر إم ، زيميل آر إس (1995). "آلة هيلمهولتز". الحوسبة العصبية . 7 (5): 889-904 . doi : 10.1162/neco.1995.7.5.889 . hdl : 21.11116 / 0000-0002-D6D3-E . PMID 7584891. S2CID 1890561 .  رمز الوصول المغلق
    81. ↑ هينتون، جي إي ، دايان ، بي، فراي، بي جيه ، نيل، آر (26 مايو 1995). "خوارزمية اليقظة والنوم للشبكات العصبية غير الخاضعة للإشراف". مجلة ساينس . 268 (5214): 1158-1161 . رمز Bibcode : 1995Sci...268.1158H . doi : 10.1126/science.7761831 . PMID 7761831. S2CID 871473 .  
    82. ↑ شميدهوبر، ج. "كيف يستمر التعلم العميق المستوحى من علم الأحياء في الفوز بالمسابقات" « مكتبة كورزويل» . مؤرشف من الأصل في 31 أغسطس 2018. تم الاطلاع عليه في 19 مايو 2026 . 
    83. ↑ "كيف يستمر التعلم العميق المستوحى من علم الأحياء في الفوز بالمسابقات" . kurzweilai.net . مؤرشف من الأصل في 31 أغسطس 2018. تم الاطلاع عليه في 16 يونيو 2017 .
    84. ↑ سيريسان دي سي، ماير يو، غامبارديلا إل إم، شميدهوبر جيه (21 سبتمبر 2010). "شبكات عصبية عميقة وكبيرة وبسيطة للتعرف على الأرقام المكتوبة بخط اليد". الحوسبة العصبية . 22 (12): 3207-3220 . arXiv : 1003.0358 . Bibcode : 2010NeCom..22.3207C . doi : 10.1162/neco_a_00052 . ISSN 0899-7667 . PMID 20858131. S2CID 1918673 .   
    85. ↑ سيريسان دي سي، ماير يو، ماسكي جيه، غامبارديلا إل، شميدهوبر جيه (2011). "شبكات عصبية التفافية مرنة وعالية الأداء لتصنيف الصور" (ملف PDF) . المؤتمر الدولي المشترك حول الذكاء الاصطناعي . doi : 10.5591/978-1-57735-516-8/ijcai11-210 . مؤرشف (ملف PDF) من الأصل في 29 سبتمبر 2014. تم الاطلاع عليه في 13 يونيو 2017 .
    86. ↑ سيريسان د، جوستي أ، غامبارديلا ل م، شميدهوبر ج (2012). بيريرا ف، بورجيس س ج، بوتو ل، واينبرغر ك كيو (محررون). التطورات في أنظمة معالجة المعلومات العصبية 25 (ملف PDF) . كوران أسوشيتس، إنك. الصفحات 2843-2851 . مؤرشف (ملف PDF) من الأصل في 9 أغسطس 2017. تم الاسترجاع في 13 يونيو 2017 . 
    87. ↑ سيريسان د، جوستي أ، غامبارديلا ل، شميدهوبر ج (2013). "الكشف عن الانقسام الخلوي في صور الأنسجة لسرطان الثدي باستخدام الشبكات العصبية العميقة". الحوسبة الطبية للصور والتدخل بمساعدة الحاسوب - MICCAI 2013. سلسلة محاضرات في علوم الحاسوب. المجلد 7908. الصفحات 411-418 . doi : 10.1007/978-3-642-40763-5_51 . ISBN   978-3-642-38708-1PMID 24579167​​ 
    88. ↑ سيريسان د، ماير يو، شميدهوبر ج (2012). "شبكات عصبية عميقة متعددة الأعمدة لتصنيف الصور". مؤتمر IEEE لعام 2012 حول رؤية الحاسوب والتعرف على الأنماط . الصفحات 3642-3649 . arXiv : 1202.2745 . doi : 10.1109/cvpr.2012.6248110 . ISBN  978-1-4673-1228-8. S2CID 2161592 . 
    89. ↑ كريزيفسكي أ، سوتسكيفر إ، هينتون ج (2012). "تصنيف ImageNet باستخدام الشبكات العصبية التلافيفية العميقة" (ملف PDF) . مؤتمر NIPS 2012: أنظمة معالجة المعلومات العصبية، بحيرة تاهو، نيفادا . مؤرشف (ملف PDF) من الأصل في 10 يناير 2017. تم الاطلاع عليه في 24 مايو 2017 .
    90. ↑ سيمونيان ك، أندرو ز (2014). "شبكات الالتفاف العميق للغاية للتعرف على الصور واسعة النطاق". arXiv : 1409.1556 [ cs.CV ].
    91. ↑ سيجيدي (2015). "التعمق أكثر في الالتفافات" (ملف PDF) . Cvpr2015 . arXiv : 1409.4842 . مؤرشف (ملف PDF) من الأصل في 30 سبتمبر 2024. تم الاطلاع عليه في 7 أغسطس 2024 .
    92. ↑ Ng A, Dean J (2012). "بناء ميزات عالية المستوى باستخدام التعلم غير الخاضع للإشراف على نطاق واسع". arXiv : 1112.6209 [ cs.LG ].
    93. 1 2 إيان غودفيلو ويوشوا بنجيو وآرون كوفيل (2016). التعلم العميق . مطبعة معهد ماساتشوستس للتكنولوجيا. مؤرشف من الأصل في 16 أبريل 2016. تم الاسترجاع في 1 يونيو 2016 .
    94. 1 2 بيلينغز إس إيه (2013). تحديد الأنظمة غير الخطية: طرق نارماكس في مجالات الزمن والتردد والمكان والزمان . وايلي. ISBN 978-1-119-94359-4.
    95. ↑ غودفيلو، آي.، بوجيه-أباديه، ج.، ميرزا، م.، شو، ب.، وارد-فارلي، د.، أوزير، س.، وآخرون . (2014). الشبكات التوليدية التنافسية (ملف PDF) . وقائع المؤتمر الدولي لأنظمة معالجة المعلومات العصبية (NIPS 2014). الصفحات 2672-2680 . مؤرشف (ملف PDF) من الأصل في 22 نوفمبر 2019. تم الاطلاع عليه في 20 أغسطس 2019 .  
    96. ↑ شميدهوبر ج (1991). "إمكانية تطبيق الفضول والملل في وحدات التحكم العصبية لبناء النماذج". وقائع مؤتمر SAB'1991 . مطبعة معهد ماساتشوستس للتكنولوجيا/كتب برادفورد. ص 222-227 . 
    97. ↑ شميدهوبر، ج. (2020). "الشبكات التوليدية التنافسية هي حالات خاصة من الفضول الاصطناعي (1990) وترتبط ارتباطًا وثيقًا بتقليل إمكانية التنبؤ (1991)". الشبكات العصبية . 127 : 58-66 . arXiv : 1906.04493 . doi : 10.1016/j.neunet.2020.04.008 . PMID 32334341. S2CID 216056336 .  
    98. ↑ "GAN 2.0: مولد الوجوه الواقعية للغاية من NVIDIA" . SyncedReview.com . 14 ديسمبر 2018. مؤرشف من الأصل في 12 سبتمبر 2014. تم الاطلاع عليه في 3 أكتوبر 2019 .
    99. ↑ كاراس تي، آيلا تي، لاين إس، ليتينين جيه (26 فبراير 2018). "النمو التدريجي لشبكات GANs لتحسين الجودة والاستقرار والتنوع". arXiv : 1710.10196 [ cs.NE ].
    100. ↑ "استعد، لا تفزع: الوسائط الاصطناعية والتزييف العميق" . موقع witness.org. مؤرشف من الأصل بتاريخ 2 ديسمبر 2020. تم الاطلاع عليه بتاريخ 25 نوفمبر 2020 .
    101. ↑ سول-ديكستين ج، فايس إي، ماهيسواراناثان ن، جانجولي س (1 يونيو 2015). "التعلم العميق غير الخاضع للإشراف باستخدام الديناميكا الحرارية غير المتوازنة" (ملف PDF) . وقائع المؤتمر الدولي الثاني والثلاثين للتعلم الآلي . 37. PMLR: 2256–2265 . arXiv : 1503.03585 . مؤرشف (ملف PDF) من الأصل في 21 سبتمبر 2024. تم الاطلاع عليه في 7 أغسطس 2024 .
    102. ↑ سيمونيان ك، زيسرمان أ (10 أبريل 2015). "شبكات الالتفاف العميقة جدًا للتعرف على الصور واسعة النطاق". arXiv : 1409.1556 [ cs.CV ].
    103. ↑ هي ك، تشانغ إكس، رين إس، صن جيه (2016). "التعمق في المصححات: تجاوز الأداء البشري في تصنيف ImageNet". arXiv : 1502.01852 [ cs.CV ].
    104. ↑ هي ك، تشانغ إكس، رين إس، صن جيه (10 ديسمبر 2015). التعلم العميق المتبقي للتعرف على الصور . arXiv : 1512.03385 .
    105. ^ سريفاستافا آر كيه، جريف ك، شميدهوبر جي (2 مايو 2015). “شبكات الطرق السريعة”. أرخايف : 1505.00387 [ cs.LG ].
    106. ↑ هي ك، تشانغ إكس، رين إس، صن جيه (2016). "التعلم العميق المتبقي للتعرف على الصور". مؤتمر IEEE لعام 2016 حول رؤية الحاسوب والتعرف على الأنماط (CVPR) . IEEE. ص 770-778 . arXiv : 1512.03385 . doi : 10.1109/CVPR.2016.90 . ISBN  978-1-4673-8851-1.
    107. ↑ لين أ (10 ديسمبر 2015). "باحثو مايكروسوفت يفوزون بتحدي ImageNet للرؤية الحاسوبية" . مدونة الذكاء الاصطناعي . تم الاطلاع عليه بتاريخ 29 يونيو 2024 .{{cite web}}: CS1 maint: deprecated archiveal service ( link )
    108. ↑ شميدهوبر، ج. (1992). "تعلم التحكم في الذاكرة ذات الوزن السريع: بديل للشبكات المتكررة" (ملف PDF) . الحوسبة العصبية . 4 (1): 131-139 . doi : 10.1162/neco.1992.4.1.131 . S2CID 16683347 . 
    109. ↑ كاثاروبولوس أ، فياس أ، باباس ن، فلوريه ف (2020). "المحولات هي شبكات عصبية متكررة: محولات ذاتية الانحدار سريعة مع انتباه خطي" . المؤتمر الدولي للتعلم الآلي 2020. PMLR. ص 5156-5165 . مؤرشف من الأصل في 11 يوليو 2023. تم الاسترجاع في 21 سبتمبر 2024 . 
    110. ↑ شلاغ آي، إيري ك، شميدهوبر ج (2021). "المحولات الخطية هي مبرمجات أوزان سريعة بشكل سري". المؤتمر الدولي للتعلم الآلي 2021. سبرينغر. ص 9355-9366 . 
    111. ↑ وولف تي، ديبوت إل، سان في، شوموند جيه، ديلانغ سي، موي إيه، وآخرون (2020). "المُحوِّلات: أحدث ما توصلت إليه معالجة اللغة الطبيعية". وقائع مؤتمر 2020 حول الأساليب التجريبية في معالجة اللغة الطبيعية: عروض توضيحية للأنظمة . الصفحات 38-45 . doi : 10.18653/v1/2020.emnlp-demos.6 . S2CID 208117506 .   
    112. ↑ عبود، م. ف. (2007). "تطبيق الذكاء الاصطناعي في إدارة سرطان المسالك البولية". مجلة جراحة المسالك البولية . 178 (4): 1150-1156 . doi : 10.1016/j.juro.2007.05.122 . PMID 17698099 . 
    113. ↑ داوسون، سي دبليو (1998). "نهج الشبكة العصبية الاصطناعية لنمذجة جريان مياه الأمطار" . مجلة العلوم الهيدرولوجية . 43 (1): 47-66 . Bibcode : 1998HydSJ..43...47D . doi : 10.1080/02626669809492102 .
    114. 1 2 "قاموس تعلم الآلة" . cse.unsw.edu.au. مؤرشف من الأصل في 26 أغسطس 2018. تم الاطلاع عليه في 4 نوفمبر 2009 .
    115. ↑ كوفيل ج، بارجيل-لاتشيك ك، كوكوت س، كوزليك م، بارتنيكوفسكا و، يانيك م، وآخرون . (3 أغسطس 2023). "ما هو التعلّم الآلي، والشبكات العصبية الاصطناعية، والتعلّم العميق؟ - أمثلة على التطبيقات العملية في الطب" . التشخيص (بازل، سويسرا) . 13 (15): 2582. doi : 10.3390/diagnostics13152582 . ISSN 2075-4418 . PMC 10417718. PMID 37568945 .    
    116. ↑ سازلي، م. ح. (1 يناير 2006). "مراجعة موجزة للشبكات العصبية ذات التغذية الأمامية" . مجلة الاتصالات، كلية العلوم، جامعة أنقرة، سلسلة A2-A3، العلوم الفيزيائية والهندسية . 50 (1): 11-17 . Bibcode : 2006CFSAU..50...11M . doi : 10.1501/commua1-2_0000000026 . ISSN 1303-6009 . 
    117. ↑ الذكاء الاصطناعي ( الطبعة الثالثة). دار نشر أديسون-ويسلي، 1992. رقم ISBN  0-201-53377-4.
    118. 1 2 3 زيل أ (2003). "الفصل 5.2". محاكاة neuronaler Netze [ محاكاة الشبكات العصبية ] (باللغة الألمانية) ( الطبعة الأولى). أديسون ويسلي. رقم ISBN  978-3-89319-554-1. OCLC 249017987 . 
    119. ↑ إليزوندو د، فيسلر إي (أكتوبر 1997). "دراسة استقصائية للشبكات العصبية المتصلة جزئيًا" . المجلة الدولية للأنظمة العصبية . 8 (5n06): 535-558 . doi : 10.1142/S0129065797000513 . ISSN 0129-0657 . PMID 10065835 .  
    120. ↑ سيريسان د، أولي ماير، جوناثان ماسكي، لوكا م. غامبارديلا، يورغن شميدهوبر (2011). "شبكات عصبية التفافية مرنة وعالية الأداء لتصنيف الصور" (ملف PDF) . وقائع المؤتمر الدولي المشترك الثاني والعشرين حول الذكاء الاصطناعي - المجلد الثاني . 2 : 1237-1242 . مؤرشف (ملف PDF) من الأصل في 5 أبريل 2022. تم الاطلاع عليه في 7 يوليو 2022 .
    121. ↑ هيربيرج إي (18 أبريل 2023). "ملاحظات المحاضرة: بنى الشبكات العصبية". arXiv : 2304.05133 [ cs.LG ].
    122. ^ زيل أ (1994). محاكاة Neuronaler Netze [ محاكاة الشبكات العصبية ] (باللغة الألمانية) ( الطبعة الأولى). أديسون ويسلي. ص. 73 . رقم ISBN   3-89319-554-8.
    123. ↑ ميلجانوفيتش م (فبراير-مارس 2012). "تحليل مقارن للشبكات العصبية المتكررة وشبكات الاستجابة النبضية المحدودة في التنبؤ بالسلاسل الزمنية" (ملف PDF) . المجلة الهندية للحاسبات والهندسة . 3 (1). مؤرشف (ملف PDF) من الأصل في 19 مايو 2024. تم الاطلاع عليه في 21 أغسطس 2019 .
    124. 1 2 فابنيك، ف. ن. (1998). طبيعة نظرية التعلم الإحصائي (طبعة ثانية منقحة ). نيويورك - برلين - هايدلبرغ: سبرينغر. ISBN  978-0-387-94559-0.
    125. ↑ كيليهر، جيه دي، ماك نامي، بي، دارسي، إيه (2020). "7-8". أساسيات التعلم الآلي لتحليلات البيانات التنبؤية: الخوارزميات، والأمثلة التطبيقية، ودراسات الحالة ( الطبعة الثانية). كامبريدج، ماساتشوستس: مطبعة معهد ماساتشوستس للتكنولوجيا. ISBN  978-0-262-36110-1. OCLC 1162184998 . 
    126. ^ Terven J، Cordova-Esparza DM، Romero-González JA، Ramírez-Pedraza A، Chávez-Urbiola EA (11 أبريل 2025). "مسح شامل لوظائف الخسارة والمقاييس في التعلم العميق" . مراجعة الذكاء الاصطناعي . 58 (7) 195. دوى : 10.1007 / s10462-025-11198-7 . ردمك 1573-7462 . 
    127. ↑ هوانغ جي بي، تشو كيو واي، سيو سي كيه (2006). "آلة التعلم المتطرفة: النظرية والتطبيقات". الحوسبة العصبية . 70 (1): 489-501 . CiteSeerX 10.1.1.217.3692 . doi : 10.1016/j.neucom.2005.12.126 . S2CID 116858 .  
    128. ↑ ويدرو ب، وآخرون (2013). "خوارزمية no-prop: خوارزمية تعلم جديدة للشبكات العصبية متعددة الطبقات". الشبكات العصبية . 37 : 182-188 . doi : 10.1016/j.neunet.2012.09.020 . PMID 23140797 .  
    129. ↑ أوليفييه واي، شاربيات جي (2015). "تدريب الشبكات المتكررة بدون تراجع". arXiv : 1507.07680 [ cs.NE ].
    130. ↑ هينتون، جي إي (2010). "دليل عملي لتدريب آلات بولتزمان المقيدة" . تقرير فني UTML TR 2010-003 . مؤرشف من الأصل في 9 مايو 2021. تم الاطلاع عليه في 27 يونيو 2017 .
    131. ↑ "ما هو ضبط المعلمات الفائقة؟ IBM" . www.ibm.com . 23 يوليو 2024.
    132. ↑ غودفيلو، آي.، بينجيو، واي.، وكورفيل، إيه. (2016). "8". التعلم العميق . كامبريدج، ماساتشوستس: مطبعة معهد ماساتشوستس للتكنولوجيا. ص 271-274 . ISBN  978-0-262-03561-3تم الاطلاع عليه بتاريخ 26 أكتوبر 2025 .
    133. ↑ بيشل ب، بيندر م، لانغ م، بيلوك ت، ريختر ج، كورس س، وآخرون . (مارس 2023). "تحسين المعلمات الفائقة: الأسس، والخوارزميات، وأفضل الممارسات، والتحديات المفتوحة". مجلة WIREs لاستخراج البيانات واكتشاف المعرفة . 13 (2) e1484. doi : 10.1002/widm.1484 . 
    134. ↑ وي جيه (26 أبريل 2019). "انسَ معدل التعلم، وخسارة التضاؤل". arXiv : 1905.00094 [ cs.LG ].
    135. ↑ لي ي، فو ي، لي هـ، تشانغ س و (1 يونيو 2009). "خوارزمية التدريب المحسّنة للشبكة العصبية ذات الانتشار العكسي مع معدل تعلم ذاتي التكيف". المؤتمر الدولي لعام 2009 حول الذكاء الحسابي والحوسبة الطبيعية . المجلد 1. الصفحات 73-76 . doi : 10.1109/CINC.2009.111 . ISBN   978-0-7695-3645-3. S2CID 10557754 . 
    136. ↑ برنارد إي (2021). مقدمة في تعلم الآلة . شامبين: وولفرام ميديا. ص 9. ISBN  978-1-57955-048-6أُرشف من الأصل في 19 مايو 2024. تم الاطلاع عليه في 22 مارس 2023 .
    137. ↑ برنارد إي (2021). مقدمة في تعلم الآلة . شامبين: وولفرام ميديا. ص 12. ISBN  978-1-57955-048-6أُرشف من الأصل في 19 مايو 2024. تم الاطلاع عليه في 22 مارس 2023 .
    138. ↑ برنارد إي (2021). مقدمة في تعلم الآلة . وولفرام ميديا ​​إنك. ص 9. ISBN  978-1-57955-048-6أُرشف من الأصل في 19 مايو 2024. تم الاطلاع عليه في 28 يوليو 2022 .
    139. ↑ أوجها، ف.ك.، أبراهام، أ.، سناسيل، ف. (1 أبريل 2017). "التصميم الاستدلالي للشبكات العصبية التغذية الأمامية: مراجعة لعقدين من البحث". تطبيقات الهندسة للذكاء الاصطناعي . 60 : 97-116 . arXiv : 1705.05584 . Bibcode : 2017arXiv170505584O . doi : 10.1016/j.engappai.2017.01.013 . S2CID 27910748 . 
    140. ↑ بوشارد، ل. (25 نوفمبر 2020). "ما هو التعلم الذاتي؟ | هل ستتمكن الآلات يومًا ما من التعلم مثل البشر؟" . ميديوم . تم الاطلاع عليه في 9 يونيو 2021 .
    141. ↑ دورش سي، زيسرمان أ (أكتوبر 2017). "التعلم البصري متعدد المهام ذاتي الإشراف" . المؤتمر الدولي لهندسة الكهرباء والإلكترونيات (IEEE) حول رؤية الحاسوب (ICCV) لعام 2017. IEEE. الصفحات 2070-2079 . arXiv : 1708.07860 . doi : 10.1109/iccv.2017.226 . ISBN  978-1-5386-1032-9. S2CID 473729 . 
    142. ↑ باير إل، تشاي إكس، أوليفر إيه، كوليسنيكوف إيه (أكتوبر 2019). "S4L: التعلم شبه الموجه ذاتي الإشراف" . المؤتمر الدولي IEEE/CVF لرؤية الحاسوب (ICCV) لعام 2019. IEEE. الصفحات 1476-1485 . arXiv : 1905.03670 . doi : 10.1109/iccv.2019.00156 . ISBN  978-1-7281-4803-8. S2CID 167209887 . 
    143. ↑ دورش سي، غوبتا أ، إفروس أ.أ. (ديسمبر 2015). "التعلم غير الخاضع للإشراف للتمثيل المرئي من خلال التنبؤ بالسياق" . المؤتمر الدولي لهندسة الكهرباء والإلكترونيات (IEEE) حول رؤية الحاسوب (ICCV) لعام 2015. IEEE. الصفحات 1422-1430 . arXiv : 1505.05192 . doi : 10.1109/iccv.2015.167 . ISBN  978-1-4673-8391-2. S2CID 9062671 . 
    144. ↑ Zheng X, Wang Y, Wang G, Liu J (أبريل 2018). "تجزئة سريعة ودقيقة لصور خلايا الدم البيضاء باستخدام التعلم الذاتي" . Micron . 107 : 55-71 . doi : 10.1016 /j.micron.2018.01.010 . ISSN 0968-4328 . PMID 29425969. S2CID 3796689 .   
    145. ↑ جيداريس س، بورسوك أ، كوموداكيس ن، بيريز ب ب، كورد م (أكتوبر 2019). "تعزيز التعلم البصري باستخدام عدد قليل من الأمثلة من خلال الإشراف الذاتي" . المؤتمر الدولي لرؤية الحاسوب IEEE/CVF لعام 2019 (ICCV) . IEEE. الصفحات 8058-8067 . arXiv : 1906.05186 . doi : 10.1109/iccv.2019.00815 . ISBN  978-1-7281-4803-8. S2CID 186206588 . 
    146. ↑ "Wav2vec: أحدث تقنيات التعرف على الكلام من خلال الإشراف الذاتي" . ai.facebook.com . تم الاطلاع عليه بتاريخ 9 يونيو 2021 .
    147. ↑ دومينيك، س.، داس، ر.، ويتلي، د.، أندرسون، س. (يوليو 1991). "التعلم المعزز الجيني للشبكات العصبية" . المؤتمر الدولي المشترك للشبكات العصبية IJCNN-91، سياتل . سياتل، واشنطن، الولايات المتحدة الأمريكية: IEEE. الصفحات 71-76 . doi : 10.1109/IJCNN.1991.155315 . ISBN  0-7803-0164-1.
    148. ↑ هوسكينز ج، هيملبلاو، د.م. (1992). "التحكم في العمليات عبر الشبكات العصبية الاصطناعية والتعلم المعزز" . الحوسبة والهندسة الكيميائية . 16 (4): 241-251 . doi : 10.1016/0098-1354(92)80045-B .
    149. ↑ بيرتسيكاس د، تسيتسيكليس ج (1996). البرمجة العصبية الديناميكية . أثينا ساينتيفيك. ص 512. ISBN  978-1-886529-10-6أُرشف من المصدر الأصلي بتاريخ 29 يونيو 2017. تم الاطلاع عليه بتاريخ 17 يونيو 2017 .
    150. ↑ سيكوماندي ن (2000). "مقارنة خوارزميات البرمجة العصبية الديناميكية لمسألة توجيه المركبات ذات الطلبات العشوائية" . الحوسبة وبحوث العمليات . 27 ( 11-12 ): 1201-1225 . CiteSeerX 10.1.1.392.4034 . doi : 10.1016/S0305-0548(99)00146-X . 
    151. ↑ دي ريغو، د.، ريزولي، أ.إ.، سونشيني-سيسا، ر.، ويبر، إ.، زينيسي، ب. (2001). "البرمجة العصبية الديناميكية للإدارة الفعالة لشبكات الخزانات" . وقائع مؤتمر MODSIM 2001، المؤتمر الدولي للنمذجة والمحاكاة. كانبرا، أستراليا: جمعية النمذجة والمحاكاة في أستراليا ونيوزيلندا. doi : 10.5281/zenodo.7481 . ISBN 0-86740-525-2أُرشف من المصدر الأصلي بتاريخ 7 أغسطس 2013. تم الاطلاع عليه بتاريخ 29 يوليو 2013 .
    152. ↑ داماس، م.، سالمرون، م.، دياز، أ.، أورتيغا، ج.، برييتو، أ.، أوليفاريس، ج. (2000). "الخوارزميات الجينية والبرمجة العصبية الديناميكية: تطبيق على شبكات إمداد المياه". وقائع مؤتمر الحوسبة التطورية لعام 2000. المجلد 1. لا جولا، كاليفورنيا، الولايات المتحدة الأمريكية: IEEE. الصفحات 7-14 . doi : 10.1109/CEC.2000.870269 . ISBN   0-7803-6375-2.
    153. ↑ دينغ جي، فيريس إم سي (2008). "البرمجة العصبية الديناميكية لتخطيط العلاج الإشعاعي المجزأ". التحسين في الطب . سبرينغر. التحسين وتطبيقاته. المجلد 12. الصفحات 47-70 . CiteSeerX 10.1.1.137.8288 . doi : 10.1007/978-0-387-73299-2_3 . ISBN    978-0-387-73298-5.
    154. ↑ بوزينوفسكي، س. (1982). "نظام التعلم الذاتي باستخدام التعزيز الثانوي". في ر. ترابل (محرر) بحوث علم التحكم الآلي والأنظمة: وقائع الاجتماع الأوروبي السادس حول بحوث علم التحكم الآلي والأنظمة. نورث هولاند. ص 397-402. ISBN 978-0-444-86488-8.
    155. ↑ بوزينوفسكي، س. (2014) " نمذجة آليات التفاعل بين الإدراك والعاطفة في الشبكات العصبية الاصطناعية، منذ عام 1981. مؤرشف في 23 مارس 2019 في Wayback Machine ." Procedia Computer Science، ص 255-263
    156. ↑ بوزينوفسكي س، بوزينوفسكا ل (2001). "الوكلاء المتعلمون ذاتيًا: نظرية اتصالية للعاطفة قائمة على حكم القيمة المتقاطع". علم التحكم الآلي والأنظمة . 32 (6): 637-669 . doi : 10.1080/01969720118145 . S2CID 8944741 . 
    157. ↑ ساليمانس تي، هو جيه، تشين إكس، سيدور إس، سوتسكيفر آي (7 سبتمبر 2017). "استراتيجيات التطور كبديل قابل للتطوير للتعلم المعزز". arXiv : 1703.03864 [ stat.ML ].
    158. ↑ سوتش إف بي، مادهافان في، كونتي إي، ليمان جيه، ستانلي كي أو، كلون جيه (20 أبريل 2018). "التطور العصبي العميق: الخوارزميات الجينية بديل تنافسي لتدريب الشبكات العصبية العميقة للتعلم المعزز". arXiv : 1712.06567 [ cs.NE ].
    159. ↑ "يمكن للذكاء الاصطناعي أن 'يتطور' لحل المشكلات" . مجلة ساينس | الجمعية الأمريكية لتقدم العلوم . 10 يناير 2018. مؤرشف من الأصل في 9 ديسمبر 2021. تم الاطلاع عليه في 7 فبراير 2018 .
    160. ↑ أكلي دي إتش، هينتون جي إي، سيجنوفسكي تي جيه (1985). "خوارزمية تعلم لآلات بولتزمان". العلوم المعرفية . 9 (1): 147-169 . doi : 10.1207/s15516709cog0901_7 .
    161. ↑ تورتشيتي، سي (2004). النماذج العشوائية للشبكات العصبية . آفاق في الذكاء الاصطناعي وتطبيقاته: أنظمة هندسية ذكية قائمة على المعرفة. المجلد 102. دار نشر IOS. رقم ISBN  978-1-58603-388-0.
    162. ↑ جوسبين إل في، لاغا إتش، بوسعيد إف، بونتين دبليو، بنامون إم (2022). "الشبكات العصبية البايزية العملية - دليل إرشادي لمستخدمي التعلم العميق". مجلة IEEE للذكاء الحسابي . المجلد 17، العدد 2. الصفحات 29-48 . arXiv : 2007.06823 . doi : 10.1109/mci.2022.3155327 . ISSN 1556-603X . S2CID 220514248 .     
    163. ↑ كانغ ز، وي جي دبليو (27 يوليو 2017). "TopologyNet: شبكات عصبية تلافيفية عميقة ومتعددة المهام قائمة على الطوبولوجيا للتنبؤ بخصائص الجزيئات الحيوية" . PLOS Computational Biology . 13 (7) e1005690. arXiv : 1704.00063 . Bibcode : 2017PLSCB..13E5690C . doi : 10.1371/journal.pcbi.1005690 . ISSN 1553-7358 . PMC 5549771. PMID 28749969 .   
    164. ↑ دي ريغو، د.، كاستيليتي، أ.، ريزولي، أ.إ.، سونشيني-سيسا، ر.، ويبر، إ. (يناير 2005). "تقنية تحسين انتقائية لتسريع البرمجة العصبية الديناميكية في إدارة شبكات موارد المياه" . في بافيل زيتيك (محرر). وقائع المؤتمر العالمي السادس عشر للاتحاد الدولي للتحكم الآلي - أوراق الاتحاد الدولي للتحكم الآلي على الإنترنت . المؤتمر العالمي السادس عشر للاتحاد الدولي للتحكم الآلي . المجلد 16. براغ، جمهورية التشيك: الاتحاد الدولي للتحكم الآلي. الصفحات 7-12 . doi : 10.3182/20050703-6-CZ-1902.02172 . hdl : 11311/255236 . ISBN   978-3-902661-75-3أُرشف من الأصل بتاريخ 26 أبريل 2012. تم الاطلاع عليه بتاريخ 30 ديسمبر 2011 .
    165. ↑ فيريرا، سي (2006). "تصميم الشبكات العصبية باستخدام برمجة التعبير الجيني". في: أ. أبراهام، ب. دي بايتس، م. كوبن، ب. نيكولاي (محررون). تقنيات الحوسبة اللينة التطبيقية: تحدي التعقيد (ملف PDF) . سبرينغر-فيرلاغ. الصفحات 517-536 . مؤرشف (ملف PDF) من الأصل في 19 ديسمبر 2013. تم الاطلاع عليه في 8 أكتوبر 2012 . 
    166. ↑ دا، ي.، شيورون، ج. (يوليو 2005). "شبكة عصبية اصطناعية محسّنة قائمة على خوارزمية تحسين سرب الجسيمات بتقنية التلدين المحاكي" . في: ت. فيلمان (محرر). جوانب جديدة في الحوسبة العصبية: الندوة الأوروبية الحادية عشرة حول الشبكات العصبية الاصطناعية . المجلد 63. إلسيفير. الصفحات 527-533 . doi : 10.1016/j.neucom.2004.07.002 . مؤرشف من الأصل في 25 أبريل 2012. تم الاطلاع عليه في 30 ديسمبر 2011 .  
    167. ↑ وو، ج.، تشين، إ. (مايو 2009). "مجموعة انحدار غير معلمية جديدة للتنبؤ بهطول الأمطار باستخدام تقنية تحسين سرب الجسيمات المقترنة بالشبكة العصبية الاصطناعية" . في: وانغ، هـ.، شين، ي.، هوانغ، ت.، زينغ، ز. (محررون). المؤتمر الدولي السادس حول الشبكات العصبية، ISNN 2009. سلسلة محاضرات في علوم الحاسوب. المجلد 5553. سبرينغر. الصفحات 49-58 . doi : 10.1007/978-3-642-01513-7_6 . ISBN   978-3-642-01215-0أُرشف من الأصل في 31 ديسمبر 2014. تم الاطلاع عليه في 1 يناير 2012 .
    168. 1 2 تينغ تشين، زونغهاي تشين، هايتاو تشانغ، سيفو لي، وي شيانغ، مينغ لي (2004). "خوارزمية تعلم CMAC قائمة على RLS" ( ملف PDF) . رسائل المعالجة العصبية . 19 (1): 49-61 . doi : 10.1023/B:NEPL.0000016847.18175.60 . S2CID 6233899. مؤرشف (PDF) من الأصل في 14 أبريل 2021. تم الاسترجاع في 30 يناير 2019 . 
    169. ↑ تينغ تشين، هايتاو تشانغ، زونغهاي تشن، وي شيانغ (2005). " خوارزمية CMAC-QRLS المستمرة ومصفوفة الانقباض الخاصة بها" (ملف PDF) . رسائل المعالجة العصبية . 22 (1): 1-16 . doi : 10.1007/s11063-004-2694-0 . S2CID 16095286. مؤرشف (ملف PDF) من الأصل في 18 نوفمبر 2018. تم الاطلاع عليه في 30 يناير 2019 . 
    170. ↑ LeCun Y, Boser B, Denker JS, Henderson D, Howard RE, Hubbard W, et al. (1989). "تطبيق خوارزمية الانتشار العكسي على التعرف على الرموز البريدية المكتوبة بخط اليد" . الحوسبة العصبية . 1 (4): 541–551 . doi : 10.1162/neco.1989.1.4.541 . S2CID 41312633 .  
    171. ↑ يان ليكان (2016). شرائح عرض تقديمي حول التعلم العميق ، مؤرشفة على الإنترنت بتاريخ 23 أبريل 2016 في أرشيف الإنترنت (Wayback Machine).
    172. ^ فضة د ، هيوبرت تي، شريتويزر جي، أنتونوغلو الأول، لاي إم، غويز أ، وآخرون . (5 ديسمبر 2017). "إتقان الشطرنج والشوجي عن طريق اللعب الذاتي باستخدام خوارزمية التعلم المعزز العامة". أرخايف : 1712.01815 [ cs.AI ]. 
    173. ↑ غودفيلو، آي.، بوجيه-أباديه، ج.، ميرزا، م.، شو، ب.، وارد-فارلي، د.، أوزير، س.، وآخرون . (2014). الشبكات التوليدية التنافسية (ملف PDF) . وقائع المؤتمر الدولي لأنظمة معالجة المعلومات العصبية (NIPS 2014). الصفحات 2672-2680 . مؤرشف (ملف PDF) من الأصل في 22 نوفمبر 2019. تم الاطلاع عليه في 20 أغسطس 2019 .  
    174. ↑ بروبست، ب.، بولستيكس، أ. ل.، بيشل، ب. (26 فبراير 2018). "قابلية الضبط: أهمية المعلمات الفائقة لخوارزميات التعلم الآلي". مجلة أبحاث التعلم الآلي ، 20 : 53:1-53:32. S2CID 88515435 . 
    175. ↑ زوف ب، لو كيو في (4 نوفمبر 2016). "البحث عن بنية عصبية باستخدام التعلم المعزز". arXiv : 1611.01578 [ cs.LG ].
    176. ↑ هايفنغ جين، تشينغكوان سونغ، شيا هو (2019). "أوتو-كيراس: نظام بحث فعال عن بنية الشبكات العصبية" . وقائع المؤتمر الدولي الخامس والعشرين لجمعية ACM SIGKDD حول اكتشاف المعرفة واستخراج البيانات . ACM. arXiv : 1806.10282 . مؤرشف من الأصل في 21 أغسطس 2019. تم الاطلاع عليه في 21 أغسطس 2019 عبر autokeras.com.
    177. ^ كلايسن م، دي مور ب (2015). “بحث المعلمات الفائقة في التعلم الآلي”. أرخايف : 1502.02127 [ cs.LG ].Bibcode : 2015arXiv150202127C
    178. ↑ سيجلمان، هـ.، وسونتاغ، إي. (1991). "قابلية حساب تورينج باستخدام الشبكات العصبية" (ملف PDF) . رسائل الرياضيات التطبيقية ، 4 (6): 77-80 . doi : 10.1016/0893-9659(91)90080-F . مؤرشف (ملف PDF) من الأصل في 19 مايو 2024. تم الاطلاع عليه في 10 يناير 2017 .
    179. ↑ باينز، س. (3 نوفمبر 1998). "الحاسوب التناظري يتفوق على نموذج تورينج" . إي إي تايمز . مؤرشف من الأصل في 11 مايو 2023. تم الاطلاع عليه في 11 مايو 2023 .
    180. ↑ بالكازار، ج. (يوليو 1997). "القدرة الحسابية للشبكات العصبية: توصيف تعقيد كولموغوروف" . معاملات IEEE في نظرية المعلومات . 43 (4): 1175-1183 . CiteSeerX 10.1.1.411.7782 . doi : 10.1109/18.605580 . 
    181. ↑ جيرالد ف (2019). "إمكانية التكرار والتصميم التجريبي للتعلم الآلي على بيانات الصوت والوسائط المتعددة". وقائع المؤتمر الدولي السابع والعشرين لجمعية ACM حول الوسائط المتعددة . ACM . الصفحات 2709-2710 . doi : 10.1145/3343031.3350545 . ISBN  978-1-4503-6889-6. S2CID 204837170 . 
    182. ↑ «توقف عن العبث، وابدأ بالقياس! تصميم تجريبي قابل للتنبؤ لتجارب الشبكات العصبية» . مقياس Tensorflow . مؤرشف من الأصل في 18 أبريل 2022. تم الاطلاع عليه في 10 مارس 2020 .
    183. ↑ ماكاي دي جيه (2003). نظرية المعلومات، والاستدلال، وخوارزميات التعلم (ملف PDF) . مطبعة جامعة كامبريدج . رقم ISBN 978-0-521-64298-9تمت أرشفة الملف (PDF) من النسخة الأصلية بتاريخ 19 أكتوبر 2016. تم الاطلاع عليه بتاريخ 11 يونيو 2016 .
    184. ↑ لي جيه، شياو إل، شونهولز إس إس، بحري واي، نوفاك آر، سول-ديكستين جيه، وآخرون (2020). "تتطور الشبكات العصبية الواسعة ذات أي عمق كنماذج خطية تحت خوارزمية التدرج الهبوطي". مجلة الميكانيكا الإحصائية: النظرية والتجربة . 2020 (12): 124002. arXiv : 1902.06720 . Bibcode : 2020JSMTE2020l4002L . doi : 10.1088/1742-5468/abc62b . S2CID 62841516 .  
    185. ↑ آرثر جاكوت، فرانك غابرييل، كليمنت هونغلر (2018). نواة المماس العصبي: التقارب والتعميم في الشبكات العصبية (ملف PDF) . المؤتمر الثاني والثلاثون لأنظمة معالجة المعلومات العصبية (NeurIPS 2018)، مونتريال، كندا. مؤرشف (ملف PDF) من الأصل في 22 يونيو 2022. تم الاطلاع عليه في 4 يونيو 2022 .
    186. ↑ Xu ZJ, Zhang Y, Xiao Y (2019). "سلوك تدريب الشبكة العصبية العميقة في مجال التردد". في: Gedeon T, Wong K, Lee M (محررون). معالجة المعلومات العصبية . سلسلة محاضرات في علوم الحاسوب. المجلد 11953. سبرينغر، تشام. الصفحات 264-274 . arXiv : 1807.01251 . doi : 10.1007/978-3-030-36708-4_22 . ISBN   978-3-030-36707-7. S2CID 49562099 . 
    187. ↑ نسيم رحمان، أريستيد باراتين، ديفانش أربيت، فيليكس دراكسلر، مين لين، فريد هامبريشت، وآخرون (2019). "حول الانحياز الطيفي للشبكات العصبية" (ملف PDF) . وقائع المؤتمر الدولي السادس والثلاثين للتعلم الآلي . 97 : 5301-5310 . arXiv : 1806.08734 . مؤرشف (ملف PDF) من الأصل في 22 أكتوبر 2022. تم الاطلاع عليه في 4 يونيو 2022 . 
    188. ^ تاو لوه، تشنغ ما، تشين جون شو، ياويو تشانغ (2019). “نظرية مبدأ التردد للشبكات العصبية العميقة العامة”. معاملات CSIAM في الرياضيات التطبيقية . 2 (3): 484– 507. أرخايف : 1906.09235 . دوى : 10.4208/csiam-am.SO-2020-0005 .
    189. ↑ شو، زد جيه، وتشو، إتش (18 مايو 2021). "مبدأ التردد العميق لفهم سبب سرعة التعلم العميق" . وقائع مؤتمر AAAI حول الذكاء الاصطناعي . 35 (12): 10541-10550 . arXiv : 2007.14313 . doi : 10.1609/aaai.v35i12.17261 . ISSN 2374-3468 . S2CID 220831156. مؤرشف من الأصل في 5 أكتوبر 2021. تم الاسترجاع في 5 أكتوبر 2021 .  
    190. ↑ إيش، ر. (1990). "التقريب الوظيفي". دليل الرياضيات التطبيقية ( طبعة سبرينغر الأمريكية). بوسطن، ماساتشوستس: سبرينغر الأمريكية. ص 928-987 . doi : 10.1007/978-1-4684-1423-3_17 . ISBN   978-1-4684-1423-3.
    191. ↑ سارستيدت م، مو إي (2019). "تحليل الانحدار" . دليل موجز لأبحاث السوق . نصوص سبرينغر في الأعمال والاقتصاد. سبرينغر برلين هايدلبرغ. ص 209-256 . doi : 10.1007/978-3-662-56707-4_7 . ISBN  978-3-662-56706-7S2CID 240396965. مؤرشف من الأصل بتاريخ 20 مارس 2023. تم الاطلاع عليه بتاريخ 20 مارس 2023 . 
    192. ↑ تيان جيه، تان واي، صن سي، زينغ جيه، جين واي (ديسمبر 2016). "تقريب لياقة قائم على التشابه ذاتي التكيف للتحسين التطوري". سلسلة ندوات IEEE لعام 2016 حول الذكاء الحسابي (SSCI) . الصفحات 1-8 . doi : 10.1109/SSCI.2016.7850209 . ISBN  978-1-5090-4240-1. S2CID 14948018 . 
    193. ↑ علالول، و.س.، وقريشي، أ.ح. (2019). "معالجة البيانات باستخدام الشبكات العصبية الاصطناعية" . استيعاب البيانات الديناميكي - التغلب على حالات عدم اليقين . doi : 10.5772/intechopen.91935 . ISBN 978-1-83968-083-0S2CID 219735060. مؤرشف من الأصل بتاريخ 20 مارس 2023. تم الاطلاع عليه بتاريخ 20 مارس 2023 . 
    194. ↑ بال م، روي ر، باسو ج، بيباري م س (2013). "فصل المصادر العمياء: مراجعة وتحليل". المؤتمر الدولي لعام 2013 حول اللغة الشرقية COCOSDA، الذي عُقد بالاشتراك مع مؤتمر 2013 حول أبحاث وتقييم اللغات المنطوقة الآسيوية (O-COCOSDA/CASLRE) . معهد مهندسي الكهرباء والإلكترونيات. الصفحات 1-5 . doi : 10.1109/ICSDA.2013.6709849 . ISBN  978-1-4799-2378-6. S2CID 37566823 . 
    195. ↑ زيسيس د (أكتوبر 2015). "بنية سحابية قادرة على إدراك سلوك السفن المتعددة والتنبؤ به" . الحوسبة اللينة التطبيقية . 35 : 652-661 . doi : 10.1016/j.asoc.2015.07.002 . مؤرشف من الأصل في 26 يوليو 2020. تم الاطلاع عليه في 18 يوليو 2019 .
    196. ↑ سينغوبتا ن، شهيد الله، محمد، ساها، غوتام (أغسطس 2016). "تصنيف أصوات الرئة باستخدام السمات الإحصائية القائمة على السيبسترال". الحوسبة في علم الأحياء والطب . 75 (1): 118-129 . doi : 10.1016/j.compbiomed.2016.05.013 . PMID 27286184 . 
    197. ↑ تشوي سي بي، شو دي، غواك جيه، تشين كيه، سافاريز إس (2016). "3D-R2N2: نهج موحد لإعادة بناء الأجسام ثلاثية الأبعاد من منظور واحد ومتعدد". arXiv : 1604.00449 [ cs.CV ].
    198. ↑ توريك، فريد د. (مارس 2007). "مقدمة في رؤية الآلة باستخدام الشبكات العصبية" . تصميم أنظمة الرؤية . 12 (3). مؤرشف من الأصل في 16 مايو 2013. تم الاسترجاع في 5 مارس 2013 .
    199. ↑ مايترا دي إس، بهاتاشاريا يو، باروي إس كيه (أغسطس 2015). "نهج مشترك قائم على الشبكات العصبية التلافيفية للتعرف على الأحرف المكتوبة بخط اليد في نصوص متعددة". المؤتمر الدولي الثالث عشر لتحليل المستندات والتعرف عليها (ICDAR) لعام 2015. الصفحات 1021-1025 . doi : 10.1109 /ICDAR.2015.7333916 . ISBN  978-1-4799-1805-8. S2CID 25739012 . 
    200. ↑ جيسلر ج (أغسطس 2021). "مستشعر لتحليل الأغذية باستخدام مطيافية المعاوقة والشبكات العصبية الاصطناعية" . RiuNet UPV (1): 8– 12. مؤرشف من الأصل في 21 أكتوبر 2021. تم الاسترجاع في 21 أكتوبر 2021 .
    201. ↑ فرينش، ج. (2016). "نموذج تسعير الأصول الرأسمالية للمسافر عبر الزمن". مجلة محللي الاستثمار . 46 (2): 81-96 . doi : 10.1080/10293523.2016.1255469 . S2CID 157962452 . 
    202. ↑ رومان م. بالابين، إيكاترينا إ. لوماكينا (2009). "نهج الشبكة العصبية لبيانات الكيمياء الكمومية: تنبؤ دقيق بطاقات نظرية الكثافة الوظيفية". مجلة الفيزياء الكيميائية 131 (7): 074104. Bibcode : 2009JChPh.131g4104B . doi : 10.1063/1.3206326 . PMID 19708729 . 
    203. ↑ سيلفر د، وآخرون (2016). "إتقان لعبة غو باستخدام الشبكات العصبية العميقة وبحث الشجرة" (ملف PDF) . مجلة نيتشر . 529 (7587): 484-489 . Bibcode : 2016Natur.529..484S . doi : 10.1038/nature16961 . PMID : 26819042. S2CID : 515925. مؤرشف (ملف PDF) من الأصل في 23 نوفمبر 2018. تم الاطلاع عليه في 31 يناير 2019 .   
    204. ↑ باسيك أ (27 مارس 2023). "مسرد مصطلحات الذكاء الاصطناعي: شرح الشبكات العصبية ومصطلحات أخرى" . صحيفة نيويورك تايمز . الرقم الدولي الموحد للدوريات 0362-4331 . مؤرشف من الأصل في 1 سبتمبر 2023. تم الاطلاع عليه في 22 أبريل 2023 . 
    205. ↑ شيشنر، س. (15 يونيو 2017). "فيسبوك يعزز الذكاء الاصطناعي لحجب الدعاية الإرهابية" . صحيفة وول ستريت جورنال . الرقم الدولي الموحد للدوريات 0099-9660 . مؤرشف من الأصل في 19 مايو 2024. تم الاطلاع عليه في 16 يونيو 2017 . 
    206. ↑ سياراميلا أ ، سياراميلا م (2024). مقدمة في الذكاء الاصطناعي: من تحليل البيانات إلى الذكاء الاصطناعي التوليدي . إصدارات إنتليسمانتيك. ISBN 978-8-8947-8760-3.
    207. ↑ مايتي أ (مارس 2026). "CrisisSense: تحويل الإشارات الاجتماعية إلى وعي بالكوارث في الوقت الفعلي عبر الذكاء العصبي العميق". مؤتمر IEEE فرع ماديا براديش 2026 (MPCON) . الصفحات 1501-1506 . doi : 10.1109/MPCON69668.2026.11508516 . ISBN  979-8-3315-9335-3.
    208. ↑ غانيسان ن (2010). "تطبيق الشبكات العصبية في تشخيص مرض السرطان باستخدام البيانات الديموغرافية" . المجلة الدولية لتطبيقات الحاسوب . 1 (26): 81-97 . Bibcode : 2010IJCA....1z..81G . doi : 10.5120/476-783 .
    209. ↑ بوتاتشي، ل. (1997). "تطبيق الشبكات العصبية الاصطناعية على التنبؤ بمآل مرضى سرطان القولون والمستقيم في مؤسسات منفصلة" (ملف PDF) . مجلة لانسيت . 350 (9076). لانسيت: 469-472 . doi : 10.1016/S0140-6736(96)11196-X . PMID 9274582. S2CID 18182063. مؤرشف من الأصل (ملف PDF) في 23 نوفمبر 2018. تم الاطلاع عليه في 2 مايو 2012 .  
    210. ↑ علي زاده إي، ليونز إس إم، كاسل جيه إم، براساد إيه (2016). " قياس التغيرات المنهجية في شكل خلايا السرطان الغازية باستخدام عزم زيرنيك" . علم الأحياء التكاملي . 8 (11): 1183-1193 . doi : 10.1039/C6IB00100A . PMID 27735002. مؤرشف من الأصل في 19 مايو 2024. تم الاسترجاع في 28 مارس 2017 . 
    211. ↑ ليونز، س. (2016). " التغيرات في شكل الخلية مرتبطة بالقدرة على الانتشار في الفئران" . بيولوجي أوبن . 5 (3): 289-299 . doi : 10.1242/bio.013409 . PMC 4810736. PMID 26873952 .  
    212. ↑ نابيان، م. أ.، وميداني، ح. (28 أغسطس 2017). "التعلم العميق لتحليل موثوقية شبكات البنية التحتية بشكل مُسرّع". هندسة البنية التحتية المدنية بمساعدة الحاسوب . 33 (6): 443-458 . arXiv : 1708.08551 . Bibcode : 2017arXiv170808551N . doi : 10.1111/mice.12359 . S2CID 36661983 . 
    213. ↑ نابيان، م. أ.، وميداني، ح. (2018). "تسريع التقييم الاحتمالي لترابط شبكة النقل بعد الزلزال باستخدام نماذج بديلة قائمة على التعلم الآلي" . الاجتماع السنوي السابع والتسعون لمجلس أبحاث النقل . مؤرشف من الأصل في 9 مارس 2018. تم الاطلاع عليه في 14 مارس 2018 .
    214. ↑ دياز إي، بروتونز في، توماس آر (سبتمبر 2018). "استخدام الشبكات العصبية الاصطناعية للتنبؤ بالهبوط المرن ثلاثي الأبعاد للأساسات على التربة ذات الصخور الأساسية المائلة" . التربة والأساسات . 58 (6): 1414-1422 . Bibcode : 2018SoFou..58.1414D . doi : 10.1016/j.sandf.2018.08.001 . hdl : 10045/81208 . ISSN 0038-0806 . 
    215. ↑ طيبيان أ، محمد ط.أ، غزالي أ.ح، مشهور س. "الشبكة العصبية الاصطناعية لنمذجة جريان مياه الأمطار" . مجلة بيرتانيكا للعلوم والتكنولوجيا . 24 (2): 319-330 . مؤرشف من الأصل في 17 مايو 2023. تم الاسترجاع في 17 مايو 2023 .
    216. ↑ جوفينداراجو آر إس (1 أبريل 2000). "الشبكات العصبية الاصطناعية في علم المياه. الجزء الأول: المفاهيم التمهيدية" . مجلة هندسة المياه . 5 (2): 115-123 . doi : 10.1061/(ASCE)1084-0699(2000)5:2(115) .
    217. ↑ جوفينداراجو آر إس (1 أبريل 2000). "الشبكات العصبية الاصطناعية في علم المياه. الجزء الثاني: التطبيقات الهيدرولوجية" . مجلة هندسة المياه . 5 (2): 124-137 . doi : 10.1061/(ASCE)1084-0699(2000)5:2(124) .
    218. ↑ بيريز دي جيه، إيوبا سي، كافالارو إل، كانسيلييري إيه، فوتي إي (1 أكتوبر 2015). "توسيع نطاق سجلات ارتفاع الموجة الكبير باستخدام الشبكات العصبية وبيانات إعادة تحليل الرياح". نمذجة المحيطات . 94 : 128-140 . Bibcode : 2015OcMod..94..128P . doi : 10.1016/j.ocemod.2015.08.002 .
    219. ↑ دواراكيش جي إس، راكشيث إس، ناتيسان يو (2013). "مراجعة لتطبيقات الشبكات العصبية في هندسة السواحل" . أنظمة الذكاء الاصطناعي والتعلم الآلي . 5 (7): 324-331 . مؤرشف من الأصل في 15 أغسطس 2017. تم الاسترجاع في 5 يوليو 2017 .
    220. ↑ إرميني ل، كاتاني ف، كازالي ن (1 مارس 2005). "تطبيق الشبكات العصبية الاصطناعية على تقييم قابلية حدوث الانهيارات الأرضية". علم شكل الأرض . المخاطر الجيومورفولوجية والتأثير البشري في البيئات الجبلية. 66 (1): 327-343 . Bibcode : 2005Geomo..66..327E . doi : 10.1016/j.geomorph.2004.09.025 .
    221. ↑ نيكس ر، تشانغ ج (مايو 2017). "تصنيف تطبيقات أندرويد والبرامج الضارة باستخدام الشبكات العصبية العميقة". المؤتمر الدولي المشترك للشبكات العصبية 2017 (IJCNN) . الصفحات 1871-1878 . doi : 10.1109/IJCNN.2017.7966078 . ISBN  978-1-5090-6182-2. S2CID 8838479 . 
    222. ↑ "الكشف عن عناوين URL الخبيثة" . مجموعة الأنظمة والشبكات في جامعة كاليفورنيا في سان دييغو . مؤرشف من الأصل في 14 يوليو 2019. تم الاطلاع عليه في 15 فبراير 2019 .
    223. ↑ همايون س، أحمد زاده م، هاشمي س، دهقان تانها أ، خيامي ر (2018). "BoTShark: نهج التعلم العميق للكشف عن حركة مرور شبكات الروبوتات". في دهقان تانها أ، كونتي م، دارغاهي ت (محررون). استخبارات التهديدات السيبرانية . التطورات في أمن المعلومات. المجلد 70. دار نشر سبرينغر الدولية. الصفحات 137-153 . doi : 10.1007/978-3-319-73951-9_7 . ISBN   978-3-319-73951-9.
    224. ↑ غوش، رايلي (يناير 1994). "الكشف عن الاحتيال في بطاقات الائتمان باستخدام الشبكات العصبية". وقائع المؤتمر الدولي السابع والعشرين لعلوم الأنظمة في هاواي HICSS-94 . المجلد 3. الصفحات 621-630 . doi : 10.1109/HICSS.1994.323314 . ISBN   978-0-8186-5090-1. S2CID 13260377 . 
    225. ↑ أنانثاسوامي أ. (19 أبريل 2021). "أحدث الشبكات العصبية تحل أصعب المعادلات في العالم أسرع من أي وقت مضى" . مجلة كوانتا . مؤرشف من الأصل في 19 مايو 2024. تم الاطلاع عليه في 12 مايو 2021 .
    226. ↑ «الذكاء الاصطناعي يحلّ لغزًا رياضيًا أساسيًا لفهم عالمنا» . مجلة إم آي تي ​​للتكنولوجيا . مؤرشف من الأصل في 19 مايو 2024. تم الاطلاع عليه في 19 نوفمبر 2020 .
    227. ↑ ألفورد أ. "معهد كاليفورنيا للتكنولوجيا يفتح مصادر الذكاء الاصطناعي لحل المعادلات التفاضلية الجزئية" . إنفو كيو . مؤرشف من الأصل في 25 يناير 2021. تم الاطلاع عليه في 24 أغسطس 2025 .
    228. ↑ ناجي أ (28 يونيو 2019). "طريقة مونت كارلو الكمومية المتغيرة مع فرضية الشبكة العصبية للأنظمة الكمومية المفتوحة". رسائل المراجعة الفيزيائية . 122 (25) 250501. arXiv : 1902.09483 . Bibcode : 2019PhRvL.122y0501N . doi : 10.1103/PhysRevLett.122.250501 . PMID 31347886. S2CID 119074378 .  
    229. ↑ يوشيوكا ن، هامازاكي ر (28 يونيو 2019). "بناء حالات استقرار عصبية لأنظمة كمومية مفتوحة متعددة الأجسام". مجلة Physical Review B. 99 ( 21) 214306. arXiv : 1902.07006 . Bibcode : 2019PhRvB..99u4306Y . doi : 10.1103/PhysRevB.99.214306 . S2CID 119470636 . 
    230. ↑ هارتمان إم جيه، كارليو جي (28 يونيو 2019). "نهج الشبكة العصبية لديناميكيات الكم متعددة الأجسام المبددة". رسائل المراجعة الفيزيائية . 122 (25) 250502. arXiv : 1902.05131 . Bibcode : 2019PhRvL.122y0502H . doi : 10.1103/PhysRevLett.122.250502 . PMID 31347862. S2CID 119357494 .  
    231. ↑ فورست، دكتور في الطب (أبريل 2015). "محاكاة تأثير الكحول على نموذج مفصل لخلايا بوركنجي العصبية ونموذج بديل أبسط يعمل بسرعة تزيد عن 400 مرة" . مجلة بي إم سي لعلم الأعصاب . 16 (27) 27. doi : 10.1186/s12868-015-0162-6 . PMC 4417229. PMID 25928094 .  
    232. ↑ فيتشوريك، إس.، فيليباك، د.، فيليبوفسكا، أ. (2018). "التوصيف الدلالي لاهتمامات المستخدمين باستخدام الشبكات العصبية في تحليل الصور" . دراسات في الويب الدلالي . 36 (مواضيع ناشئة في التقنيات الدلالية). doi : 10.3233/978-1-61499-894-5-179 . مؤرشف من الأصل في 19 مايو 2024. تم الاطلاع عليه في 20 يناير 2024 .
    233. ↑ ميرشانت أ، باتزنر س، شونهولز س س، أيكول م، تشيون ج، كوبوك إي دي (ديسمبر 2023). "توسيع نطاق التعلم العميق لاكتشاف المواد" . نيتشر . 624 (7990): 80-85 . Bibcode : 2023Natur.624...80M . doi : 10.1038/ s41586-023-06735-9 . ISSN 1476-4687 . PMC 10700131. PMID 38030720 .   
    234. 1 2 3 4 هوانغ واي (2009). "تطورات في الشبكات العصبية الاصطناعية - التطوير المنهجي والتطبيق" . الخوارزميات . 2 (3): 973-1007 . doi : 10.3390/algor2030973 . ISSN 1999-4893 . 
    235. 1 2 3 4 كاريري إي، لؤاتي ح، لؤاتي أ، مسعودي ف (2023). "استكشاف التطورات والاتجاهات البحثية المستقبلية للشبكات العصبية الاصطناعية: منهجية استخراج النصوص" . العلوم التطبيقية . 13 (5): 3186. doi : 10.3390/app13053186 . ISSN 2076-3417 . 
    236. ↑ ناتاراجان إس، رحمن الحداد إس إيه، أحمد إف إيه، كامل آر، حسن إم كيه، عزراد إس، وآخرون . (1 يوليو 2025). "الشبكات العصبية العميقة لتحسين الكلام والتعرف عليه: مراجعة منهجية" . مجلة عين شمس الهندسية . 16 (7) 103405. doi : 10.1016/j.asej.2025.103405 . ISSN 2090-4479 .  
    237. ↑ ليف ز، بويسي ف، دونغ كيو، لوريت ج، سونغ هـ (11 نوفمبر 2022). "التعلم العميق للتفاعل الذكي بين الإنسان والحاسوب" . العلوم التطبيقية . 12 (22) 11457. doi : 10.3390/app122211457 . ISSN 2076-3417 . 
    238. ↑ فريق العمل ج (26 سبتمبر 2024). "ما هي الشبكة العصبية الاصطناعية، ولماذا هي مهمة للذكاء الاصطناعي؟" . كورسيرا . تم الاطلاع عليه في 7 سبتمبر 2025 .
    239. ^ Pilloneto G، Aravkin A، Gedon D، Ljung L، Ribeiro AH، Schön TB (1 يناير 2025). "الشبكات العميقة لتحديد النظام: مسح" . أوتوماتيكا . 171 111907. دوى : 10.1016/j.automatica.2024.111907 . ISSN 0005-1098 . 
    240. ↑ "آثار الذكاء الاصطناعي على الاستقرار المالي" (ملف PDF) . مجلس الاستقرار المالي . تم الاطلاع عليه بتاريخ 7 سبتمبر 2025 .
    241. ↑ "ما وراء المستشارين الآليين: كيف يمكن للذكاء الاصطناعي أن يعيد تشكيل إدارة الثروات" . 5 يناير 2017.
    242. ↑ بوتشاك أ، جوفين إي (2016). "دراسة استقصائية لأساليب استخراج البيانات والتعلم الآلي للكشف عن اختراقات الأمن السيبراني". مجلة IEEE للبحوث والدراسات في مجال الاتصالات . 18 (2): 1153-1176 . doi : 10.1109/COMST.2015.2494502 .
    243. 1 2 فوي-هون ناه ف، تشنغ ر، كاي ج، سياو ك، تشن ل (3 يوليو 2023). "الذكاء الاصطناعي التوليدي وChatGPT: التطبيقات والتحديات والتعاون بين الذكاء الاصطناعي والإنسان" . مجلة دراسات حالة وتطبيقات تكنولوجيا المعلومات . 25 (3): 277-304 . doi : 10.1080/15228053.2023.2233814 . ISSN 1522-8053 . 
    244. ↑ "إخفاقات دال-إي 2 هي أكثر ما يثير الاهتمام فيها - مجلة IEEE Spectrum" . IEEE . مؤرشف من الأصل في 15 يوليو 2022. تم الاطلاع عليه في 9 ديسمبر 2023 .
    245. ↑ بريوت، جيه بي (يناير 2021). "من الشبكات العصبية الاصطناعية إلى التعلم العميق لتوليد الموسيقى: التاريخ والمفاهيم والاتجاهات" . الحوسبة العصبية والتطبيقات . 33 (1): 39-65 . doi : 10.1007/s00521-020-05399-0 . ISSN 0941-0643 . 
    246. ↑ تشاو، ب. س. (6 يوليو 2020). "شبح في آلة (هوليوود): تطبيقات ناشئة للذكاء الاصطناعي في صناعة السينما". مجلة NECSUS الأوروبية لدراسات الإعلام . doi : 10.25969/MEDIAREP/14307 . ISSN 2213-0217 . 
    247. ↑ يو إكس، هي إس، غاو واي، يانغ جيه، شا إل، تشانغ واي، وآخرون (يونيو 2010). "تعديل الصعوبة الديناميكي للذكاء الاصطناعي في لعبة الفيديو Dead-End". المؤتمر الدولي الثالث لعلوم المعلومات وعلوم التفاعل . معهد مهندسي الكهرباء والإلكترونيات. الصفحات 583-587 . doi : 10.1109/icicis.2010.5534761 . ISBN   978-1-4244-7384-7. S2CID 17555595 . 
    248. ↑ باريسي جي آي، كيمكر آر، بارت جي إل، كانان سي، ويرمتر إس (1 مايو 2019). "التعلم المستمر مدى الحياة باستخدام الشبكات العصبية: مراجعة" . الشبكات العصبية . 113 : 54-71 . arXiv : 1802.07569 . doi : 10.1016/j.neunet.2019.01.012 . ISSN 0893-6080 . PMID 30780045 .  
    249. ↑ إدواردز، سي (25 يونيو 2015). "صعوبات النمو في التعلم العميق". مجلة اتصالات رابطة الحوسبة الآلية . 58 (7): 14-16 . doi : 10.1145/2771283 . S2CID 11026540 . 
    250. ↑ "قوة الدماغ البشري - كتاب حقائق الفيزياء" . hypertextbook.com . تم الاطلاع عليه بتاريخ 19 مايو 2026 .
    251. ↑ "تقرير استخدام الطاقة في مراكز البيانات بالولايات المتحدة لعام 2024 | مجال تقنيات الطاقة" . eta.lbl.gov . تم الاطلاع عليه بتاريخ 19 مايو 2026 .
    252. ↑ كيد ميتز (18 مايو 2016). "جوجل تصنع رقائقها الخاصة لتشغيل روبوتات الذكاء الاصطناعي" . مجلة وايرد . مؤرشف من الأصل في 13 يناير 2018. تم الاطلاع عليه في 5 مارس 2017 .
    253. ↑ مالينوفسكايا أ، موزاروفسكي ب، أوتو ب (يناير 2024). "الرصد الإحصائي لعمليات الشبكات العصبية الاصطناعية" . تكنومتركس . 66 (1): 104-117 . doi : 10.1080/00401706.2023.2239886 .
    254. ↑ نوروري ن، هو كيو، إيلين إف إم، فاراسي إف دي، تزوفارا أ (أكتوبر 2021). "معالجة التحيز في البيانات الضخمة والذكاء الاصطناعي في الرعاية الصحية: دعوة إلى العلم المفتوح" . أنماط . 2 ( 10) 100347. doi : 10.1016/j.patter.2021.100347 . PMC 8515002. PMID 34693373 .  
    255. 1 2 كارينا دبليو (27 أكتوبر 2022). "الفشل من النظرة الأولى: أثر تقنية التعرف على الوجوه المتحيزة على التمييز العنصري في العدالة الجنائية" . البحث العلمي والاجتماعي . 4 (10): 29-40 . doi : 10.26689/ssr.v4i10.4402 . ISSN 2661-4332 . 
    256. 1 2 تشانغ إكس (13 سبتمبر 2023). "التحيز الجنسي في التوظيف: تحليل لتأثير خوارزمية التوظيف في أمازون" . التقدم في الاقتصاد والإدارة والعلوم السياسية . 23 (1): 134-140 . doi : 10.54254/2754-1169/23/20230367 . ISSN 2754-1169 . مؤرشف من الأصل في 9 ديسمبر 2023. تم الاسترجاع في 9 ديسمبر 2023 . 
    257. ↑ كورتيلفسكي أ، إيغر ب، شنايدر أ، جيريج ت، موريل-فورستر أ، فيتر ت (يونيو 2019). "تحليل وتقليل تأثير تحيز مجموعة البيانات على التعرف على الوجوه باستخدام البيانات الاصطناعية". مؤتمر IEEE/CVF لعام 2019 حول ورش عمل رؤية الحاسوب والتعرف على الأنماط (CVPRW) (ملف PDF) . IEEE. الصفحات 2261-2268 . doi : 10.1109/cvprw.2019.00279 . ISBN  978-1-7281-2506-0S2CID 198183828. مؤرشف (PDF) من الأصل بتاريخ 19 مايو 2024. تم الاطلاع عليه بتاريخ 30 ديسمبر 2023 . 
    258. ↑ طهماسبى، هزارخاني (2012). "خوارزمية هجينة تجمع بين الشبكات العصبية والمنطق الضبابي والخوارزمية الجينية لتقدير الدرجات" . الحوسبة وعلوم الأرض . 42 : 18-27 . Bibcode : 2012CG.....42...18T . doi : 10.1016 / j.cageo.2012.02.004 . PMC 4268588. PMID 25540468 .  
    259. ↑ صن وبوكمان، 1990
    260. ↑ "توسيع نطاق خوارزميات التعلم نحو الذكاء الاصطناعي" (ملف PDF) . مؤرشف (ملف PDF) من الأصل بتاريخ 12 أغسطس 2022. تم الاطلاع عليه بتاريخ 6 يوليو 2022 .

    فهرس