الشبكة العصبية التلافيفية

تحتاج هذه المقالة إلى مصادر إضافية للتحقق . يُرجى المساعدة في تحسين هذه المقالة عن طريق إضافة مصادر موثوقة . قد يتم الطعن في المواد غير الموثقة وإزالتها. البحث عن مصادر:  "الشبكة العصبية التلافيفية" - الأخبار  · الصحف  · الكتب  · العلماء  · JSTOR ( يونيو 2019 ) ( تعرف على كيفية ومتى تزيل هذه الرسالة )

جزء من سلسلة عن
التعلم الآلي واستخراج البيانات
النماذج التعلم تحت الإشراف التعلم غير الخاضع للإشراف التعلم شبه الخاضع للإشراف التعلم الذاتي التعلم التعزيزي التعلم الفوقي التعلم عبر الإنترنت التعلم الدفعي التعلم المنهجي التعلم المبني على القواعد الذكاء الاصطناعي الرمزي العصبي الهندسة العصبية التعلم الآلي الكمومي
المشاكل تصنيف النمذجة التوليدية الانحدار التجميع تخفيض الأبعاد تقدير الكثافة كشف الشذوذ تنظيف البيانات التعلم الآلي التلقائي قواعد الجمعية التحليل الدلالي التنبؤ المنظم هندسة المميزات ميزة التعلم تعلم الترتيب الاستدلال النحوي التعلم الأنطولوجيا التعلم المتعدد الوسائط
التعلم الخاضع للإشراف ( التصنيف  • الانحدار ) التعلم عن طريق التدريب أشجار القرار الفرق الموسيقية Bagging Boosting Random forest k-NN Linear regression Naive Bayes Artificial neural networks Logistic regression Perceptron Relevance vector machine (RVM) Support vector machine (SVM)
Clustering BIRCH CURE Hierarchical k-means Fuzzy Expectation–maximization (EM) DBSCAN OPTICS Mean shift
Dimensionality reduction Factor analysis CCA ICA LDA NMF PCA PGD t-SNE SDL
Structured prediction Graphical models Bayes net Conditional random field Hidden Markov
Anomaly detection RANSAC k-NN Local outlier factor Isolation forest
Artificial neural network Autoencoder Deep learning Feedforward neural network Recurrent neural network LSTM GRU ESN reservoir computing Boltzmann machine Restricted GAN Diffusion model SOM Convolutional neural network U-Net LeNet AlexNet DeepDream Neural radiance field Transformer Vision Mamba Spiking neural network Memtransistor Electrochemical RAM (ECRAM)
Reinforcement learning Q-learning SARSA Temporal difference (TD) Multi-agent Self-play
Learning with humans Active learning Crowdsourcing Human-in-the-loop RLHF
Model diagnostics Coefficient of determination Confusion matrix Learning curve ROC curve
Mathematical foundations Kernel machines Bias–variance tradeoff Computational learning theory Empirical risk minimization Occam learning PAC learning Statistical learning VC theory
Journals and conferences ECML PKDD NeurIPS ICML ICLR IJCAI ML JMLR
Related articles Glossary of artificial intelligence List of datasets for machine-learning research List of datasets in computer vision and image processing Outline of machine learning
v t e

الشبكة العصبية التلافيفية ( CNN ) هي نوع منظم من الشبكات العصبية ذات التغذية الأمامية التي تتعلم الميزات بنفسها عبر تحسين المرشح (أو النواة). تم تطبيق هذا النوع من شبكات التعلم العميق لمعالجة والتنبؤ بالعديد من أنواع البيانات المختلفة بما في ذلك النصوص والصور والصوت. ^[1] الشبكات القائمة على الالتفاف هي المعيار الفعلي في مناهج التعلم العميق القائمة على رؤية الكمبيوتر ومعالجة الصور، وقد تم استبدالها مؤخرًا - في بعض الحالات - بهندسة تعلم عميق أحدث مثل المحول . يتم منع التدرجات المتلاشية والتدرجات المتفجرة، التي شوهدت أثناء الانتشار الخلفي في الشبكات العصبية السابقة، باستخدام أوزان منتظمة على عدد أقل من الاتصالات. ^{[2] [3]} على سبيل المثال، لكل عصبون في الطبقة المتصلة بالكامل، ستكون هناك حاجة إلى 10000 وزن لمعالجة صورة بحجم 100 × 100 بكسل. ومع ذلك، عند تطبيق نوى الالتفاف المتتالية (أو الارتباط المتبادل)، ^{[4] [5]} لن تكون هناك حاجة إلا إلى 25 خلية عصبية لمعالجة بلاطات بحجم 5 × 5. ^{[6] [7]} يتم استخراج ميزات الطبقة الأعلى من نوافذ السياق الأوسع، مقارنة بميزات الطبقة الأدنى.

تتضمن بعض تطبيقات شبكات CNN ما يلي:

• التعرف على الصور والفيديو ، ^[8]
• أنظمة التوصية ، ^[9]
• تصنيف الصور
• تقسيم الصورة
• تحليل الصور الطبية
• معالجة اللغة الطبيعية ، ^[10]
• واجهات الدماغ والحاسوب ، ^[11] و
• السلسلة الزمنية المالية . ^[12]

تُعرف شبكات CNN أيضًا باسم الشبكات العصبية الاصطناعية الثابتة للتحول أو الثابتة في الفضاء ، استنادًا إلى بنية الوزن المشترك لنوى الالتفاف أو المرشحات التي تنزلق على طول ميزات الإدخال وتوفر استجابات مكافئة للترجمة تُعرف باسم خرائط الميزات. ^{[13] [14]} وبشكل يخالف الحدس، فإن معظم الشبكات العصبية التلافيفية ليست ثابتة للترجمة ، بسبب عملية أخذ العينات المنخفضة التي تطبقها على الإدخال. ^[15]

عادةً ما تكون الشبكات العصبية ذات التغذية الأمامية عبارة عن شبكات متصلة بالكامل، أي أن كل خلية عصبية في طبقة واحدة متصلة بجميع الخلايا العصبية في الطبقة التالية . إن "الاتصال الكامل" لهذه الشبكات يجعلها عرضة للإفراط في ملاءمة البيانات. تشمل الطرق النموذجية للتنظيم، أو منع الإفراط في الملاءمة، ما يلي: معاقبة المعلمات أثناء التدريب (مثل اضمحلال الوزن) أو تقليص الاتصال (الاتصالات المتخطاة، والتسرب، وما إلى ذلك). تزيد مجموعات البيانات القوية أيضًا من احتمالية تعلم شبكات CNN للمبادئ العامة التي تميز مجموعة بيانات معينة بدلاً من تحيزات مجموعة مأهولة بشكل سيئ. ^[16]

استُلهمت الشبكات التلافيفية من العمليات البيولوجية ^{[17] [18] [19] [20]} حيث يشبه نمط الاتصال بين الخلايا العصبية تنظيم القشرة البصرية للحيوان . تستجيب الخلايا العصبية القشرية الفردية للمثيرات فقط في منطقة مقيدة من المجال البصري تُعرف باسم المجال الاستقبالي . تتداخل المجالات الاستقبالية للخلايا العصبية المختلفة جزئيًا بحيث تغطي المجال البصري بالكامل.

تستخدم شبكات CNN قدرًا ضئيلًا نسبيًا من المعالجة المسبقة مقارنة بخوارزميات تصنيف الصور الأخرى . وهذا يعني أن الشبكة تتعلم كيفية تحسين المرشحات (أو النوى) من خلال التعلم الآلي، بينما في الخوارزميات التقليدية يتم تصميم هذه المرشحات يدويًا . وهذه الاستقلالية عن المعرفة السابقة والتدخل البشري في استخراج الميزات تشكل ميزة رئيسية. ^{[ لمن؟ ]}

تتكون الشبكة العصبية التلافيفية من طبقة إدخال وطبقات مخفية وطبقة إخراج. في الشبكة العصبية التلافيفية، تتضمن الطبقات المخفية طبقة واحدة أو أكثر تؤدي عمليات الالتفاف. وعادةً ما يتضمن ذلك طبقة تؤدي حاصل ضرب نقطي لنواة الالتفاف مع مصفوفة إدخال الطبقة. وعادةً ما يكون هذا الحاصل هو حاصل ضرب فروبينيوس الداخلي ، وتكون دالة التنشيط الخاصة به عادةً ReLU . وبينما تنزلق نواة الالتفاف على طول مصفوفة الإدخال للطبقة، تولد عملية الالتفاف خريطة ميزات، والتي تساهم بدورها في إدخال الطبقة التالية. ويتبع ذلك طبقات أخرى مثل طبقات التجميع والطبقات المتصلة بالكامل وطبقات التطبيع. وهنا يجب ملاحظة مدى قرب الشبكة العصبية التلافيفية من المرشح المطابق . ^[21]

في شبكة CNN، يكون المدخل عبارة عن موتر بالشكل:

(عدد المدخلات) × (ارتفاع المدخل) × (عرض المدخل) × ( قنوات الإدخال )

بعد المرور عبر طبقة ملتوية، تصبح الصورة مجردة إلى خريطة ميزات، تسمى أيضًا بخريطة التنشيط، بالشكل:

(عدد المدخلات) × (ارتفاع خريطة المعالم) × (عرض خريطة المعالم) × ( قنوات خريطة المعالم ).

تقوم الطبقات التلافيفية بتغليف المدخلات وتمرير نتيجتها إلى الطبقة التالية. وهذا يشبه استجابة الخلية العصبية في القشرة البصرية لمحفز معين. ^[22] تعالج كل خلية عصبية تلافيفية البيانات فقط من أجل مجالها الاستقبالي .

على الرغم من أنه يمكن استخدام الشبكات العصبية الأمامية المتصلة بالكامل لتعلم الميزات وتصنيف البيانات، إلا أن هذه البنية غير عملية بشكل عام للمدخلات الأكبر (على سبيل المثال، الصور عالية الدقة)، والتي تتطلب أعدادًا هائلة من الخلايا العصبية لأن كل بكسل هو ميزة إدخال ذات صلة. تحتوي الطبقة المتصلة بالكامل لصورة بحجم 100 × 100 على 10000 وزن لكل خلية عصبية في الطبقة الثانية. يقلل الالتفاف من عدد المعلمات الحرة، مما يسمح للشبكة بأن تكون أعمق. ^[6] على سبيل المثال، يتطلب استخدام منطقة بلاط 5 × 5، كل منها بنفس الأوزان المشتركة، 25 خلية عصبية فقط. يتجنب استخدام الأوزان المنتظمة على عدد أقل من المعلمات مشاكل التدرجات المتلاشية والتدرجات المتفجرة التي شوهدت أثناء الانتشار الخلفي في الشبكات العصبية السابقة. ^{[2] [3]}

لتسريع المعالجة، يمكن استبدال طبقات الالتفاف القياسية بطبقات الالتفاف المنفصلة حسب العمق، ^[23] والتي تعتمد على الالتفاف حسب العمق متبوعًا بالالتفاف حسب النقطة. الالتفاف حسب العمق هو الالتفاف المكاني المطبق بشكل مستقل على كل قناة من موتر الإدخال، بينما الالتفاف حسب النقطة هو الالتفاف القياسي المقيد باستخدام النوى. ${\displaystyle 1\times 1}$

قد تتضمن الشبكات التلافيفية طبقات تجميع محلية و/أو عالمية إلى جانب طبقات التلافيفية التقليدية. تقلل طبقات التجميع من أبعاد البيانات من خلال الجمع بين مخرجات مجموعات الخلايا العصبية في طبقة واحدة في خلية عصبية واحدة في الطبقة التالية. يجمع التجميع المحلي بين مجموعات صغيرة، وتستخدم أحجام التبليط مثل 2 × 2 بشكل شائع. يعمل التجميع العالمي على جميع الخلايا العصبية في خريطة الميزات. ^{[24] [25]} هناك نوعان شائعان من التجميع في الاستخدام الشائع: الحد الأقصى والمتوسط. يستخدم التجميع الأقصى القيمة القصوى لكل مجموعة محلية من الخلايا العصبية في خريطة الميزات، ^{[26] [27]} بينما يأخذ التجميع المتوسط ​​القيمة المتوسطة.

تربط الطبقات المتصلة بالكامل كل خلية عصبية في طبقة واحدة بكل خلية عصبية في طبقة أخرى. وهي نفس الشبكة العصبية الحسية متعددة الطبقات التقليدية (MLP). تمر المصفوفة المسطحة عبر طبقة متصلة بالكامل لتصنيف الصور.

في الشبكات العصبية، يتلقى كل عصبون مدخلات من عدد معين من المواقع في الطبقة السابقة. في الطبقة التلافيفية، يتلقى كل عصبون مدخلات من منطقة مقيدة فقط من الطبقة السابقة تسمى المجال الاستقبالي للعصبون . عادة ما تكون المنطقة مربعة (على سبيل المثال 5 × 5 عصبونات). بينما في الطبقة المتصلة بالكامل، يكون المجال الاستقبالي هو الطبقة السابقة بالكامل . وبالتالي، في كل طبقة تلافيفية، يأخذ كل عصبون مدخلات من منطقة في المدخلات أكبر من الطبقات السابقة. ويرجع هذا إلى تطبيق الالتفاف مرارًا وتكرارًا، مما يأخذ في الاعتبار قيمة البكسل، بالإضافة إلى البكسلات المحيطة به. عند استخدام الطبقات الموسعة، يظل عدد البكسلات في المجال الاستقبالي ثابتًا، ولكن المجال يكون أقل كثافة مع نمو أبعاده عند الجمع بين تأثير عدة طبقات.

للتلاعب بحجم الحقل المستقبل بالشكل المطلوب، هناك بعض البدائل للطبقة التلافيفية القياسية. على سبيل المثال، تعمل الالتفافية الأذينية أو المتوسعة ^{[28] [29]} على توسيع حجم الحقل المستقبل دون زيادة عدد المعلمات عن طريق التداخل بين المناطق المرئية والمكفوفة. وعلاوة على ذلك، يمكن لطبقة تلافيفية متوسعة واحدة أن تتضمن مرشحات بنسب توسع متعددة، ^[30] وبالتالي يكون لها حجم حقل مستقبل متغير.

تحسب كل خلية عصبية في الشبكة العصبية قيمة الإخراج من خلال تطبيق دالة محددة على قيم الإدخال المستلمة من الحقل المستقبل في الطبقة السابقة. يتم تحديد الدالة المطبقة على قيم الإدخال من خلال متجه الأوزان والتحيز (عادةً الأرقام الحقيقية). يتكون التعلم من تعديل هذه التحيزات والأوزان بشكل متكرر.

تُسمى متجهات الأوزان والتحيزات بالمرشحات وتمثل سمات معينة للمدخلات (على سبيل المثال، شكل معين). ومن السمات المميزة لشبكات CNN أن العديد من الخلايا العصبية يمكنها مشاركة نفس المرشح. وهذا يقلل من بصمة الذاكرة لأن تحيزًا واحدًا ومتجهًا واحدًا للأوزان يُستخدمان عبر جميع الحقول الاستقبالية التي تشترك في هذا المرشح، على عكس كل حقل استقبالي له تحيزه الخاص ووزنه المتجه. ^[31]

الشبكة العصبية اللاالتلافية هي في الأساس عكس الشبكة العصبية التلافيفية. فهي تتكون من طبقات لاالتلافيف وطبقات غير مجمعة. ^[32]

الطبقة اللاالتلافية هي عملية نقل طبقة التفافية. وبشكل أكثر تحديدًا، يمكن كتابة الطبقة اللاالتلافية كعملية ضرب بمصفوفة، والطبقة اللاالتلافية هي عملية ضرب بنقل تلك المصفوفة. ^[33]

تعمل طبقة إلغاء التجميع على توسيع الطبقة. تعد طبقة إلغاء التجميع القصوى هي الأبسط، حيث تقوم ببساطة بنسخ كل إدخال عدة مرات. على سبيل المثال، تكون طبقة إلغاء التجميع القصوى 2 × 2 هي . ${\displaystyle [x]\mapsto {\begin{bmatrix}x&x\\x&x\end{bmatrix}}}$

تُستخدم طبقات الالتفاف في مولدات الصور. بشكل افتراضي، تقوم بإنشاء آثار رقعة شطرنج دورية، والتي يمكن إصلاحها عن طريق الترقية ثم الالتفاف. ^[34]

غالبًا ما تتم مقارنة CNN بالطريقة التي يحقق بها الدماغ معالجة الرؤية في الكائنات الحية . ^[35]

أظهرت أعمال هوبل وويزل في الخمسينيات والستينيات من القرن العشرين أن القشرة البصرية للقطط تحتوي على خلايا عصبية تستجيب بشكل فردي لمناطق صغيرة من المجال البصري . بشرط ألا تتحرك العيون ، فإن منطقة الفضاء البصري التي تؤثر فيها المحفزات البصرية على إطلاق خلية عصبية واحدة تُعرف باسم مجالها الاستقبالي . ^[36] تحتوي الخلايا المجاورة على مجالات استقبال متشابهة ومتداخلة. يختلف حجم وموقع المجال الاستقبالي بشكل منهجي عبر القشرة لتشكيل خريطة كاملة للمساحة البصرية. ^{[ بحاجة لمصدر ]} تمثل القشرة في كل نصف كرة المجال البصري المقابل . ^{[ بحاجة لمصدر ]}

حددت ورقتهم البحثية لعام 1968 نوعين أساسيين من الخلايا البصرية في الدماغ: ^[18]

• خلايا بسيطة ، يتم تعظيم إنتاجها من خلال حواف مستقيمة لها اتجاهات معينة داخل مجالها الاستقبالي
• الخلايا المعقدة ، التي لديها حقول استقبالية أكبر ، والتي يكون مخرجاتها غير حساسة للموضع الدقيق للحواف في المجال.

كما اقترح هوبل وويزل أيضًا نموذجًا متتاليًا لهذين النوعين من الخلايا لاستخدامهما في مهام التعرف على الأنماط. ^{[37] [36]}

مستوحى من عمل هوبل وويزيل، نشر كونيهيكو فوكوشيما في عام 1969 شبكة CNN عميقة تستخدم دالة تنشيط ReLU . ^[38] على عكس معظم الشبكات الحديثة، استخدمت هذه الشبكة أنوية مصممة يدويًا. لم يتم استخدامها في نيوكوينترون الخاص به، حيث كانت جميع الأوزان غير سلبية؛ تم استخدام التثبيط الجانبي بدلاً من ذلك. أصبح المقوم دالة التنشيط الأكثر شيوعًا لشبكات CNN والشبكات العصبية العميقة بشكل عام. ^[39]

تم تقديم " النيوكونيترون " بواسطة كونيهيكو فوكوشيما في عام 1979. ^{[40] [19] [17]} تم تدريب النوى من خلال التعلم غير الخاضع للإشراف . وقد استوحيت من العمل المذكور أعلاه لهوبل وويزل. قدم النيوكونيترون النوعين الأساسيين من الطبقات:

• "طبقة S": طبقة حقل استقبال ذات أوزان مشتركة، تُعرف لاحقًا باسم طبقة ملتوية، تحتوي على وحدات تغطي حقولها الاستقبالية رقعة من الطبقة السابقة. غالبًا ما يُطلق على مجموعة الحقل الاستقبالي ذات الأوزان المشتركة ("المستوى" في مصطلحات النيوكونيترون) اسم مرشح، وعادةً ما تحتوي الطبقة على العديد من هذه المرشحات.
• "طبقة C": طبقة تقليص العينات التي تحتوي على وحدات تغطي حقولها الاستقبالية بقعًا من طبقات التفافية سابقة. تحسب هذه الوحدة عادةً متوسطًا مرجحًا لتنشيط الوحدات في بقعتها، وتطبق التثبيط (التطبيع الانقسامي) المجمع من بقعة أكبر إلى حد ما وعبر مرشحات مختلفة في طبقة، وتطبق دالة تنشيط مشبعة. أوزان البقع غير سلبية ولا يمكن تدريبها في النيوكونيترون الأصلي. تساعد عملية تقليص العينات والتثبيط التنافسي في تصنيف الميزات والأشياء في المشاهد المرئية حتى عندما يتم تحريك الأشياء.

في أحد أشكال النيوكونيترون المسمى كريسسيبترون ، بدلاً من استخدام المتوسط ​​المكاني لفوكوشيما مع التثبيط والتشبع، قدم جيه وينج وآخرون في عام 1993 طريقة تسمى التجميع الأقصى حيث تحسب وحدة أخذ العينات الحد الأقصى لتنشيط الوحدات في رقعة خاصة بها. ^[41] غالبًا ما يتم استخدام التجميع الأقصى في شبكات CNN الحديثة. ^[42]

تم اقتراح العديد من خوارزميات التعلم الخاضعة للإشراف وغير الخاضعة للإشراف على مدار العقود لتدريب أوزان النيوكونيترون. ^[17] ومع ذلك، يتم تدريب بنية CNN اليوم عادةً من خلال الانتشار الخلفي .

ظهر مصطلح "الالتفاف" لأول مرة في الشبكات العصبية في ورقة بحثية كتبها توشيتيرو هوما وليز أطلس وروبرت ماركس الثاني في المؤتمر الأول لأنظمة معالجة المعلومات العصبية في عام 1987. استبدلت ورقتهم الضرب بالالتفاف في الوقت، مما يوفر بطبيعته ثبات التحول، بدافع من مفهوم معالجة الإشارة للمرشح والاتصال به بشكل أكثر مباشرة ، وأثبتوا ذلك في مهمة التعرف على الكلام. ^[7] وأشاروا أيضًا إلى أنه كنظام قابل لتدريب البيانات، فإن الالتفاف يعادل بشكل أساسي الارتباط لأن عكس الأوزان لا يؤثر على الوظيفة النهائية المكتسبة ("للراحة، نشير إلى * على أنه ارتباط بدلاً من الالتفاف. لاحظ أن الالتفاف a (t) مع b (t) يعادل ربط a (-t) مع b (t)."). ^[7] عادةً ما تقوم تطبيقات CNN الحديثة بالارتباط وتسميه الالتفاف، للراحة، كما فعلت هنا.

تم تقديم شبكة عصبية تأخير الوقت (TDNN) في عام 1987 بواسطة Alex Waibel وآخرون للتعرف على الصوتيات وكانت واحدة من أولى الشبكات التلافيفية، حيث حققت ثبات التحول. ^[43] TDNN هي شبكة عصبية تلافيفية أحادية البعد حيث يتم إجراء الالتفاف على طول المحور الزمني للبيانات. إنها أول شبكة عصبية تلافيفية تستخدم مشاركة الوزن مع التدريب عن طريق الانحدار التدريجي، باستخدام الانتشار الخلفي . ^[44] وبالتالي، بينما تستخدم أيضًا بنية هرمية كما هو الحال في neocognitron، فقد أجرت تحسينًا عالميًا للأوزان بدلاً من تحسين محلي. ^[43]

الشبكات العصبية التفاضلية هي شبكات ملتوية تتقاسم الأوزان على طول البعد الزمني. ^[45] وهي تسمح بمعالجة إشارات الكلام بشكل ثابت زمنيًا. في عام 1990، قدم هامبشاير ووايبل متغيرًا يؤدي التفافًا ثنائي الأبعاد. ^[46] نظرًا لأن هذه الشبكات العصبية التفاضلية تعمل على مخططات الطيف، فإن نظام التعرف على الصوتيات الناتج كان ثابتًا لكل من التحولات الزمنية والترددية، كما هو الحال مع الصور التي تتم معالجتها بواسطة نيوكوينترون.

لقد حسنت شبكات TDNN من أداء التعرف على الكلام عن بعد. ^[47]

قام دنكر وآخرون (1989) بتصميم نظام CNN ثنائي الأبعاد للتعرف على أرقام الرمز البريدي المكتوبة بخط اليد . ^[48] ومع ذلك، فإن الافتقار إلى طريقة تدريب فعّالة لتحديد معاملات النواة للالتواءات المعنية يعني أنه كان لابد من تصميم جميع المعاملات يدويًا بجهد كبير. ^[49]

بعد التقدم الذي أحرزه وايبل وآخرون (1987) في تدريب شبكات CNN أحادية الأبعاد، استخدم يان ليكون وآخرون (1989) ^[49] الانتشار الخلفي لتعلم معاملات نواة الالتفاف مباشرة من صور الأرقام المكتوبة بخط اليد. وبالتالي كان التعلم آليًا بالكامل، وأداءه أفضل من تصميم المعاملات اليدوي، وكان مناسبًا لمجموعة أوسع من مشاكل التعرف على الصور وأنواع الصور. استخدم وي تشانغ وآخرون (1988) ^{[13] [14]} الانتشار الخلفي لتدريب نوى الالتفاف لشبكة CNN للتعرف على الحروف الأبجدية. أطلق على النموذج اسم شبكة التعرف على الأنماط الثابتة للتحول قبل صياغة اسم CNN لاحقًا في أوائل التسعينيات. كما طبق وي تشانغ وآخرون نفس شبكة CNN بدون آخر طبقة متصلة بالكامل لتجزئة كائنات الصور الطبية (1991) ^[50] واكتشاف سرطان الثدي في تصوير الثدي بالأشعة السينية (1994). ^[51]

وأصبح هذا النهج أساسًا للرؤية الحاسوبية الحديثة .

في عام 1990 قدم ياماجوتشي وآخرون مفهوم التجميع الأقصى، وهي عملية تصفية ثابتة تحسب وتنشر القيمة القصوى لمنطقة معينة. وقد فعلوا ذلك من خلال الجمع بين شبكات TDNN والتجميع الأقصى لتحقيق نظام التعرف على الكلمات المعزول المستقل عن المتحدث. ^[26] في نظامهم، استخدموا عدة شبكات TDNN لكل كلمة، واحدة لكل مقطع لفظي . تم دمج نتائج كل شبكة TDNN عبر إشارة الإدخال باستخدام التجميع الأقصى وتم تمرير مخرجات طبقات التجميع بعد ذلك إلى الشبكات التي تقوم بتصنيف الكلمات الفعلي.

LeNet-5، وهي شبكة التفافية رائدة من 7 مستويات ابتكرها LeCun وآخرون في عام 1995، ^[52] تصنف الأرقام المكتوبة بخط اليد على الشيكات ( الإنجليزية البريطانية : الشيكات ) التي تم تحويلها إلى صور رقمية بحجم 32 × 32 بكسل. تتطلب القدرة على معالجة الصور ذات الدقة الأعلى طبقات أكبر وأكثر من الشبكات العصبية التلافيفية، لذا فإن هذه التقنية مقيدة بتوافر موارد الحوسبة.

كان هذا النظام متفوقًا على أنظمة قراءة المبالغ النقدية التجارية الأخرى (اعتبارًا من عام 1995). وقد تم دمج النظام في أنظمة قراءة الشيكات الخاصة بشركة NCR ، وتم استخدامه في العديد من البنوك الأمريكية منذ يونيو 1996، حيث كان يقرأ ملايين الشيكات يوميًا. ^[53]

تم اقتراح شبكة عصبية ثابتة التحول بواسطة Wei Zhang et al. للتعرف على أحرف الصورة في عام 1988. ^{[13] [14]} إنها عبارة عن نيوكوينترون معدلة من خلال الاحتفاظ فقط بالترابطات التلافيفية بين طبقات ميزات الصورة وآخر طبقة متصلة بالكامل. تم تدريب النموذج باستخدام الانتشار الخلفي. تم تحسين خوارزمية التدريب بشكل أكبر في عام 1991 ^[54] لتحسين قدرتها على التعميم. تم تعديل بنية النموذج عن طريق إزالة آخر طبقة متصلة بالكامل وتطبيقها على تجزئة الصور الطبية (1991) ^[50] والكشف التلقائي عن سرطان الثدي في تصوير الثدي بالأشعة السينية (1994) . ^[51]

تم اقتراح تصميم مختلف قائم على الالتفاف في عام 1988 ^[55] لتطبيقه على تحلل إشارات تخطيط كهربية العضلات أحادية البعد الملتفة عبر إزالة الالتفاف. تم تعديل هذا التصميم في عام 1989 إلى تصميمات أخرى قائمة على إزالة الالتفاف. ^{[56] [57]}

على الرغم من أن شبكات CNN تم اختراعها في ثمانينيات القرن العشرين، إلا أن الاختراق الذي حققته في العقد الأول من القرن الحادي والعشرين تطلب تنفيذات سريعة على وحدات معالجة الرسومات (GPUs).

في عام 2004، أظهر KS Oh وK. Jung أنه يمكن تسريع الشبكات العصبية القياسية بشكل كبير على وحدات معالجة الرسوميات. كان تنفيذها أسرع بمقدار 20 مرة من التنفيذ المكافئ على وحدة المعالجة المركزية . ^[58] في عام 2005، أكدت ورقة بحثية أخرى أيضًا على قيمة وحدة معالجة الرسوميات العامة للتعلم الآلي . ^[59]

تم وصف أول تنفيذ لشبكة CNN باستخدام وحدة معالجة الرسوميات في عام 2006 بواسطة K. Chellapilla وآخرون. كان تنفيذهم أسرع بأربع مرات من التنفيذ المكافئ على وحدة المعالجة المركزية. ^[60] في نفس الفترة، تم استخدام وحدات معالجة الرسوميات أيضًا للتدريب غير الخاضع للإشراف لشبكات المعتقدات العميقة . ^{[61] [62] [63] [64]}

في عام 2010، قام دان سيريسان وآخرون في IDSIA بتدريب شبكات التغذية الأمامية العميقة على وحدات معالجة الرسوميات. ^[65] وفي عام 2011، قاموا بتوسيع هذا إلى شبكات CNN، حيث تسارعت بمقدار 60 مقارنة بتدريب وحدة المعالجة المركزية. ^[24] في عام 2011، فازت الشبكة بمسابقة التعرف على الصور حيث حققت أداءً خارقًا لأول مرة. ^[66] ثم فازوا بمزيد من المسابقات وحققوا أحدث التقنيات في العديد من المعايير. ^{[67] [42] [27]}

لاحقًا، فازت AlexNet ، وهي شبكة CNN مماثلة تعتمد على وحدة معالجة الرسوميات بواسطة Alex Krizhevsky وآخرين، بتحدي التعرف البصري واسع النطاق ImageNet 2012. ^[68] وكان حدثًا تحفيزيًا مبكرًا لطفرة الذكاء الاصطناعي .

بالمقارنة مع تدريب شبكات CNN باستخدام وحدات معالجة الرسوميات ، لم يتم إعطاء الكثير من الاهتمام لوحدة المعالجة المركزية. (Viebke et al 2019) يقوم بموازنة شبكات CNN من خلال التوازي على مستوى الخيوط و SIMD المتوفر على Intel Xeon Phi . ^{[69] [70]}

في الماضي، كانت نماذج الإدراك الحسي متعدد الطبقات (MLP) التقليدية تُستخدم للتعرف على الصور. ^{[ مطلوب مثال ]} ومع ذلك، تسبب الاتصال الكامل بين العقد في لعنة الأبعاد ، وكان من الصعب حلها حسابيًا باستخدام صور ذات دقة أعلى. تحتوي صورة بدقة 1000 × 1000 بكسل مع قنوات ألوان RGB على 3 ملايين وزن لكل خلية عصبية متصلة بالكامل، وهو رقم مرتفع للغاية بحيث لا يمكن معالجته بكفاءة على نطاق واسع.

على سبيل المثال، في CIFAR-10 ، تكون الصور بحجم 32×32×3 فقط (32 عرضًا، و32 ارتفاعًا، و3 قنوات ألوان)، لذا فإن الخلية العصبية المتصلة بالكامل في الطبقة المخفية الأولى من الشبكة العصبية العادية سيكون لها 32*32*3 = 3072 وزنًا. ومع ذلك، فإن الصورة التي يبلغ حجمها 200×200 ستؤدي إلى خلايا عصبية لها 200*200*3 = 120000 وزن.

كما أن بنية الشبكة هذه لا تأخذ في الاعتبار البنية المكانية للبيانات، حيث تعالج وحدات البكسل المدخلة البعيدة عن بعضها البعض بنفس الطريقة التي تعالج بها وحدات البكسل المتقاربة. وهذا يتجاهل موقع المرجع في البيانات ذات الطوبولوجيا الشبكية (مثل الصور)، سواء من الناحية الحسابية أو الدلالية. وبالتالي، فإن الاتصال الكامل بين الخلايا العصبية يعد مضيعة للوقت لأغراض مثل التعرف على الصور التي تهيمن عليها أنماط الإدخال المحلية مكانيًا .

الشبكات العصبية التلافيفية هي أشكال مختلفة من المدركات متعددة الطبقات، وهي مصممة لمحاكاة سلوك القشرة البصرية . تخفف هذه النماذج من التحديات التي يفرضها هيكل MLP من خلال استغلال الارتباط المحلي المكاني القوي الموجود في الصور الطبيعية. وعلى عكس MLPs، تتمتع CNNs بالسمات المميزة التالية:

• أحجام ثلاثية الأبعاد من الخلايا العصبية. تحتوي طبقات CNN على خلايا عصبية مرتبة في 3 أبعاد : العرض والارتفاع والعمق. ^[71] حيث تكون كل خلية عصبية داخل طبقة ملتوية متصلة بمنطقة صغيرة فقط من الطبقة التي تسبقها، تسمى الحقل الاستقبالي. يتم تكديس أنواع مميزة من الطبقات، متصلة محليًا وكاملة، لتشكيل بنية CNN.
• الاتصال المحلي: باتباع مفهوم الحقول المستقبلة، تستغل شبكات CNN المحلية المكانية من خلال فرض نمط اتصال محلي بين الخلايا العصبية للطبقات المجاورة. وبالتالي تضمن البنية أن تنتج " المرشحات " المكتسبة أقوى استجابة لنمط الإدخال المحلي المكاني. يؤدي تكديس العديد من هذه الطبقات إلى مرشحات غير خطية تصبح عالمية بشكل متزايد (أي تستجيب لمنطقة أكبر من مساحة البكسل) بحيث تقوم الشبكة أولاً بإنشاء تمثيلات لأجزاء صغيرة من الإدخال، ثم تقوم من خلالها بتجميع تمثيلات لمناطق أكبر.
• الأوزان المشتركة: في شبكات CNN، يتم تكرار كل مرشح عبر المجال البصري بالكامل. تشترك هذه الوحدات المكررة في نفس المعلمة (متجه الوزن والتحيز) وتشكل خريطة ميزات. وهذا يعني أن جميع الخلايا العصبية في طبقة ملتوية معينة تستجيب لنفس الميزة داخل مجال الاستجابة المحدد الخاص بها. يسمح تكرار الوحدات بهذه الطريقة بأن تكون خريطة التنشيط الناتجة متكافئة التباين تحت تحولات مواقع ميزات الإدخال في المجال البصري، أي أنها تمنح تكافؤ التباين الترجمي - بشرط أن تكون الطبقة ذات خطوة واحدة. ^[72]
• التجميع: في طبقات التجميع في CNN ، يتم تقسيم خرائط المعالم إلى مناطق فرعية مستطيلة، ويتم تقليص المعالم في كل مستطيل بشكل مستقل إلى قيمة واحدة، عادةً عن طريق أخذ متوسطها أو قيمتها القصوى. بالإضافة إلى تقليل أحجام خرائط المعالم، تمنح عملية التجميع درجة من الثبات الترجمي المحلي للمعالم الواردة فيها، مما يسمح لشبكة CNN بأن تكون أكثر قوة في مواجهة الاختلافات في مواقعها. ^[15]

تتيح هذه الخصائص مجتمعة لشبكات CNN تحقيق تعميم أفضل لمشاكل الرؤية . يقلل تقاسم الوزن بشكل كبير من عدد المعلمات المجانية التي يتم تعلمها، وبالتالي يقلل من متطلبات الذاكرة لتشغيل الشبكة ويسمح بتدريب شبكات أكبر وأكثر قوة.

تتكون بنية CNN من مجموعة من الطبقات المميزة التي تحول حجم الإدخال إلى حجم إخراج (على سبيل المثال، الاحتفاظ بدرجات الفصل) من خلال دالة قابلة للتفاضل. تُستخدم عادةً بضعة أنواع مميزة من الطبقات. سيتم مناقشتها بمزيد من التفصيل أدناه.

الطبقة التلافيفية هي اللبنة الأساسية لشبكة CNN. تتكون معلمات الطبقة من مجموعة من المرشحات القابلة للتعلم (أو النوى )، والتي لها مجال استقبال صغير، لكنها تمتد عبر العمق الكامل لحجم الإدخال. أثناء المرور الأمامي، يتم التفاف كل مرشح عبر عرض وارتفاع حجم الإدخال، وحساب حاصل الضرب النقطي بين مدخلات المرشح والمدخل، مما ينتج خريطة تنشيط ثنائية الأبعاد لهذا المرشح. ونتيجة لذلك، تتعلم الشبكة المرشحات التي يتم تنشيطها عندما تكتشف نوعًا معينًا من الميزات في موضع مكاني ما في الإدخال. ^{[73] [nb 1]}

يشكل تكديس خرائط التنشيط لجميع المرشحات على طول بُعد العمق حجم الإخراج الكامل لطبقة الالتفاف. وبالتالي، يمكن تفسير كل إدخال في حجم الإخراج أيضًا على أنه إخراج لخلية عصبية تنظر إلى منطقة صغيرة في الإدخال. يستخدم كل إدخال في خريطة التنشيط نفس مجموعة المعلمات التي تحدد المرشح.

تم تكييف التعلم الذاتي للإشراف لاستخدامه في طبقات التفافية باستخدام بقع متفرقة ذات نسبة قناع عالية وطبقة تطبيع استجابة عالمية. ^{[ بحاجة لمصدر ]}

عند التعامل مع مدخلات عالية الأبعاد مثل الصور، من غير العملي ربط الخلايا العصبية بجميع الخلايا العصبية في الحجم السابق لأن مثل هذه البنية الشبكية لا تأخذ في الاعتبار البنية المكانية للبيانات. تستغل الشبكات التلافيفية الارتباط المحلي المكاني من خلال فرض نمط اتصال محلي متفرق بين الخلايا العصبية في الطبقات المجاورة: كل خلية عصبية متصلة بمنطقة صغيرة فقط من حجم الإدخال.

إن مدى هذا الاتصال هو عبارة عن معلمة فرعية تسمى الحقل الاستقبالي للخلية العصبية. وتكون الاتصالات محلية في الفضاء (على طول العرض والارتفاع)، ولكنها تمتد دائمًا على طول عمق حجم الإدخال بالكامل. وتضمن مثل هذه البنية أن تنتج المرشحات المكتسبة ( الإنجليزية البريطانية : learned ) أقوى استجابة لنمط الإدخال المحلي مكانيًا.

تتحكم ثلاثة معلمات فرعية في حجم حجم إخراج الطبقة التلافيفية: العمق، والخطوة ، وحجم الحشو:

• يتحكم عمق حجم الإخراج في عدد الخلايا العصبية في الطبقة التي تتصل بنفس منطقة حجم الإدخال. تتعلم هذه الخلايا العصبية التنشيط لخصائص مختلفة في الإدخال. على سبيل المثال، إذا أخذت الطبقة التلافيفية الأولى الصورة الخام كمدخل، فقد يتم تنشيط الخلايا العصبية المختلفة على طول بُعد العمق في وجود حواف موجهة مختلفة، أو بقع من اللون.
• تتحكم الخطوة في كيفية تخصيص أعمدة العمق حول العرض والارتفاع. إذا كانت الخطوة 1، فإننا نحرك المرشحات بكسلًا واحدًا في كل مرة. يؤدي هذا إلى تداخل كبير في الحقول المتلقية بين الأعمدة، وإلى أحجام إخراج كبيرة. بالنسبة لأي عدد صحيح،الخطوة S أن المرشح يتم ترجمته بمقدار S وحدات في المرة الواحدة لكل إخراج. في الممارسة العملية،نادرًا ما يحدث ذلك. تعني الخطوة الأكبر تداخلًا أصغر للحقول المتلقية وأبعادًا مكانية أصغر لحجم الإخراج. ^[74]${\textstyle S>0,}$${\textstyle S\geq 3}$
• في بعض الأحيان، يكون من المناسب حشو الإدخال بالأصفار (أو قيم أخرى، مثل متوسط ​​المنطقة) على حدود حجم الإدخال. حجم هذا الحشو هو معامل ثالث. يوفر الحشو التحكم في الحجم المكاني لحجم الإخراج. على وجه الخصوص، في بعض الأحيان يكون من المرغوب فيه الحفاظ على الحجم المكاني لحجم الإدخال بالضبط، ويشار إلى هذا عادةً باسم الحشو "المتماثل".

الحجم المكاني لحجم الإخراج هو دالة لحجم حجم الإدخال ، وحجم حقل النواة لخلايا الطبقة التلافيفية، والخطوة ، وكمية الحشو الصفري على الحدود. وبالتالي فإن عدد الخلايا العصبية التي "تلائم" حجمًا معينًا هو: ${\displaystyle W}$${\displaystyle K}$${\displaystyle S}$${\displaystyle P}$

$${\displaystyle {\frac {W-K+2P}{S}}+1.}$$

إذا لم يكن هذا الرقم عددًا صحيحًا ، فإن الخطوات غير صحيحة ولا يمكن ترتيب الخلايا العصبية لتناسب حجم الإدخال بطريقة متماثلة . بشكل عام، فإن ضبط الحشو الصفري ليكون عندما تكون الخطوة يضمن أن حجم الإدخال وحجم الإخراج سيكون لهما نفس الحجم مكانيًا. ومع ذلك، ليس من الضروري دائمًا استخدام جميع الخلايا العصبية للطبقة السابقة. على سبيل المثال، قد يقرر مصمم الشبكة العصبية استخدام جزء فقط من الحشو. ${\textstyle P=(K-1)/2}$${\displaystyle S=1}$

يتم استخدام مخطط مشاركة المعلمات في الطبقات التلافيفية للتحكم في عدد المعلمات الحرة. ويعتمد على افتراض أنه إذا كانت ميزة التصحيح مفيدة للحساب في موضع مكاني ما، فيجب أن تكون مفيدة أيضًا للحساب في مواضع أخرى. من خلال الإشارة إلى شريحة عمق ثنائية الأبعاد واحدة كشريحة عمق ، فإن الخلايا العصبية في كل شريحة عمق مقيدة باستخدام نفس الأوزان والتحيز.

نظرًا لأن جميع الخلايا العصبية في شريحة عمق واحدة تشترك في نفس المعلمات، يمكن حساب المرور الأمامي في كل شريحة عمق من الطبقة التلافيفية باعتباره التفافًا لأوزان الخلايا العصبية مع حجم الإدخال. ^{[nb 2]} لذلك، من الشائع الإشارة إلى مجموعات الأوزان كمرشح (أو نواة )، والتي يتم التفافها مع الإدخال. نتيجة هذا الالتفاف هي خريطة تنشيط ، ويتم تكديس مجموعة خرائط التنشيط لكل مرشح مختلف معًا على طول بُعد العمق لإنتاج حجم الإخراج. يساهم تقاسم المعلمات في ثبات الترجمة لهندسة CNN. ^[15]

في بعض الأحيان، قد لا يكون افتراض مشاركة المعلمات منطقيًا. وهذا هو الحال بشكل خاص عندما تحتوي الصور المدخلة إلى CNN على بنية مركزية محددة؛ حيث نتوقع أن يتم تعلم ميزات مختلفة تمامًا في مواقع مكانية مختلفة. أحد الأمثلة العملية هو عندما تكون المدخلات عبارة عن وجوه تم تركيزها في الصورة: قد نتوقع تعلم ميزات مختلفة خاصة بالعين أو الشعر في أجزاء مختلفة من الصورة. في هذه الحالة، من الشائع تخفيف مخطط مشاركة المعلمات، وبدلاً من ذلك ببساطة تسمية الطبقة "طبقة متصلة محليًا".

مفهوم مهم آخر لشبكات CNN هو التجميع، والذي يستخدم كشكل من أشكال تقليل العينة غير الخطية . يوفر التجميع تقليل العينة لأنه يقلل من الأبعاد المكانية (الارتفاع والعرض) لخرائط ميزات الإدخال مع الاحتفاظ بالمعلومات الأكثر أهمية. هناك العديد من الوظائف غير الخطية لتنفيذ التجميع، حيث يكون التجميع الأقصى والتجميع المتوسط ​​هما الأكثر شيوعًا. يجمع التجميع المعلومات من مناطق صغيرة من الإدخال مما يؤدي إلى إنشاء أقسام لخريطة ميزات الإدخال، عادةً باستخدام نافذة ذات حجم ثابت (مثل 2 × 2) وتطبيق خطوة (غالبًا 2) لتحريك النافذة عبر الإدخال. ^[75] لاحظ أنه بدون استخدام خطوة أكبر من 1، لن يؤدي التجميع إلى تقليل العينة، لأنه سيحرك ببساطة نافذة التجميع عبر الإدخال خطوة واحدة في كل مرة، دون تقليل حجم خريطة الميزات. بعبارة أخرى، الخطوة هي ما يسبب في الواقع تقليل العينة من خلال تحديد مقدار تحرك نافذة التجميع فوق الإدخال.

حدسيًا، يكون الموقع الدقيق للميزة أقل أهمية من موقعها التقريبي بالنسبة للميزات الأخرى. هذه هي الفكرة وراء استخدام التجميع في الشبكات العصبية التلافيفية. تعمل طبقة التجميع على تقليل الحجم المكاني للتمثيل تدريجيًا، لتقليل عدد المعلمات وحجم الذاكرة وكمية الحساب في الشبكة، وبالتالي التحكم أيضًا في الإفراط في التجهيز . يُعرف هذا باسم تقليل العينة. من الشائع إدراج طبقة تجميع بشكل دوري بين طبقات التلافيفية المتعاقبة (كل منها يتبعها عادةً دالة تنشيط، مثل طبقة ReLU) في بنية CNN. ^{[73] : 460-461} بينما تساهم طبقات التجميع في ثبات الترجمة المحلية، إلا أنها لا توفر ثبات الترجمة العالمي في CNN، ما لم يتم استخدام شكل من أشكال التجميع العالمي. ^{[15] [72]} تعمل طبقة التجميع بشكل مستقل عادةً على كل عمق أو شريحة من المدخلات وتغير حجمها مكانيًا. الشكل الأكثر شيوعًا لتجميع الحد الأقصى هو طبقة بها مرشحات بحجم 2×2، يتم تطبيقها بخطوة 2، والتي تقوم بأخذ عينات فرعية من كل شريحة عمق في الإدخال بمقدار 2 على طول كل من العرض والارتفاع، مع تجاهل 75% من عمليات التنشيط: في هذه الحالة، تكون كل عملية قصوى أكثر من 4 أرقام. يظل بُعد العمق دون تغيير (هذا صحيح أيضًا بالنسبة لأشكال أخرى من التجميع). $${\displaystyle f_{X,Y}(S)=\max _{a,b=0}^{1}S_{2X+a,2Y+b}.}$$

بالإضافة إلى التجميع الأقصى، يمكن لوحدات التجميع استخدام وظائف أخرى، مثل التجميع المتوسط ​​أو التجميع المعياري ℓ _2. كان التجميع المتوسط ​​يستخدم غالبًا تاريخيًا ولكنه فقد شعبيته مؤخرًا مقارنة بالتجميع الأقصى، والذي يعمل بشكل أفضل في الممارسة العملية. ^[76]

بسبب تأثيرات التخفيض المكاني السريع لحجم التمثيل، ^{[ أيهما؟ ]} هناك اتجاه حديث نحو استخدام مرشحات أصغر ^[77] أو التخلص من طبقات التجميع تمامًا. ^[78]

تُجري طبقة عملية تجميع القنوات القصوى (CMP) عملية تجميع القنوات على طول جانب القناة بين المواضع المقابلة لخرائط الميزات المتتالية لغرض إزالة المعلومات الزائدة. تجعل عملية تجميع القنوات القصوى الميزات المهمة تتجمع معًا داخل عدد أقل من القنوات، وهو أمر مهم لتصنيف الصور الدقيقة التي تحتاج إلى ميزات أكثر تمييزًا. وفي الوقت نفسه، تتمثل ميزة أخرى لعملية تجميع القنوات القصوى في جعل عدد قنوات خرائط الميزات أصغر قبل الاتصال بطبقة الاتصال الكامل الأولى (FC). وعلى غرار عملية تجميع القنوات القصوى، نشير إلى خرائط الميزات المدخلة وخرائط الميزات الناتجة لطبقة تجميع القنوات القصوى على أنها F ∈ R(C×M×N) وC ∈ R(c×M×N)، على التوالي، حيث C وc هما رقما قناة خرائط الميزات المدخلة والمخرجة، وM وN هما عرض وارتفاع خرائط الميزات على التوالي. لاحظ أن عملية تجميع القنوات القصوى لا تغير سوى رقم قناة خرائط الميزات. لا يتغير عرض وارتفاع خرائط الميزات، وهو ما يختلف عن عملية تجميع القنوات القصوى. ^[79]

راجع ^{[80] [81]} لمراجعات طرق التجميع.

ReLU هو اختصار لـ وحدة خطية مصححة . اقترحه ألستون هاوسهولدر في عام 1941، ^[82] واستخدمه كونيهيكو فوكوشيما في CNN في عام 1969. ^{[38] تطبق ReLU} دالة التنشيط غير المشبعة . ^[68] إنها تزيل القيم السلبية بشكل فعال من خريطة التنشيط عن طريق ضبطها على الصفر. ^[83] إنها تقدم اللاخطية إلى دالة القرار وفي الشبكة الإجمالية دون التأثير على الحقول المستقبلة لطبقات الالتفاف. في عام 2011، وجد زافييه جلوروت وأنطوان بورديس ويوشوا بينجيو أن ReLU تمكن من تدريب أفضل للشبكات العميقة، ^[84] مقارنة بوظائف التنشيط المستخدمة على نطاق واسع قبل عام 2011. ${\textstyle f(x)=\max(0,x)}$

يمكن أيضًا استخدام وظائف أخرى لزيادة اللاخطية، على سبيل المثال الظل الزائدي المشبع ، و، والدالة السينية . غالبًا ما يتم تفضيل ReLU على الوظائف الأخرى لأنها تدرب الشبكة العصبية عدة مرات أسرع دون عقوبة كبيرة على دقة التعميم . ^[85]${\displaystyle f(x)=\tanh(x)}$${\displaystyle f(x)=|\tanh(x)|}$ ${\textstyle \sigma (x)=(1+e^{-x})^{-1}}$

بعد عدة طبقات التفافية وطبقات تجميع قصوى، يتم التصنيف النهائي عبر طبقات متصلة بالكامل. ترتبط الخلايا العصبية في الطبقة المتصلة بالكامل بجميع عمليات التنشيط في الطبقة السابقة، كما هو الحال في الشبكات العصبية الاصطناعية العادية (غير التفافية) . وبالتالي يمكن حساب عمليات التنشيط الخاصة بها كتحويل تآلفي ، مع ضرب المصفوفة متبوعًا بإزاحة تحيز ( إضافة متجه لمصطلح تحيز مكتسب أو ثابت).

تحدد "طبقة الخسارة" أو " دالة الخسارة " كيفية معاقبة التدريب للانحراف بين الناتج المتوقع للشبكة وعلامات البيانات الحقيقية (أثناء التعلم الخاضع للإشراف). يمكن استخدام وظائف خسارة مختلفة ، اعتمادًا على المهمة المحددة.

تُستخدم دالة الخسارة Softmax للتنبؤ بفئة واحدة من K فئة متبادلة الحصر. ^{[nb 3]} تُستخدم خسارة الإنتروبيا المتقاطعة السينية للتنبؤ بقيم احتمالية مستقلة عن K في . تُستخدم خسارة الإقليدية للانحدار إلى تسميات ذات قيمة حقيقية . ${\displaystyle [0,1]}$${\displaystyle (-\infty ,\infty )}$

This section needs additional citations for verification. Please help improve this article by adding citations to reliable sources in this section. Unsourced material may be challenged and removed. (June 2017) (Learn how and when to remove this message)

المعلمات الفائقة هي إعدادات مختلفة تستخدم للتحكم في عملية التعلم. تستخدم شبكات CNN معلمات فائقة أكثر من المدرك متعدد الطبقات القياسي (MLP).

النواة هي عدد وحدات البكسل التي تتم معالجتها معًا. وعادةً ما يتم التعبير عنها بأبعاد النواة، على سبيل المثال، 2x2 أو 3x3.

الحشو هو إضافة بكسلات ذات قيمة صفرية (عادةً) على حدود الصورة. يتم ذلك حتى لا يتم التقليل من قيمة بكسلات الحدود (فقدانها) من الناتج لأنها تشارك عادةً في مثيل حقل استقبال واحد فقط. الحشو المطبق يكون عادةً أقل بمقدار واحد من بُعد النواة المقابل. على سبيل المثال، ستتلقى طبقة ملتوية تستخدم نوى 3x3 وسادة مكونة من بكسلين، أي بكسل واحد على كل جانب من جوانب الصورة. ^{[ بحاجة لمصدر ]}

الخطوة هي عدد وحدات البكسل التي تتحركها نافذة التحليل في كل تكرار. تعني الخطوة 2 أن كل نواة يتم إزاحتها بمقدار 2 وحدة بكسل عن سابقتها.

نظرًا لأن حجم خريطة المعالم يتناقص مع العمق، فإن الطبقات القريبة من طبقة الإدخال تميل إلى أن يكون بها عدد أقل من المرشحات بينما يمكن أن تحتوي الطبقات الأعلى على عدد أكبر. لمعادلة الحساب في كل طبقة، يتم الحفاظ على حاصل ضرب قيم المعالم v _a مع موضع البكسل ثابتًا تقريبًا عبر الطبقات. يتطلب الحفاظ على مزيد من المعلومات حول الإدخال الحفاظ على العدد الإجمالي للتنشيطات (عدد خرائط المعالم مضروبًا في عدد مواضع البكسل) غير متناقص من طبقة إلى أخرى.

يتحكم عدد خرائط الميزات بشكل مباشر في السعة ويعتمد على عدد الأمثلة المتاحة وتعقيد المهمة.

تختلف أحجام المرشحات الشائعة الموجودة في الأدبيات بشكل كبير، وعادةً ما يتم اختيارها بناءً على مجموعة البيانات. تتراوح أحجام المرشحات النموذجية من 1x1 إلى 7x7. وكمثالين مشهورين، استخدم AlexNet أحجام 3x3 و5x5 و11x11. واستخدم Inceptionv3 أحجام 1x1 و3x3 و5x5.

التحدي هو العثور على المستوى الصحيح من الحبيبات من أجل إنشاء تجريدات بالمقياس المناسب، مع الأخذ في الاعتبار مجموعة بيانات معينة، ودون الإفراط في التجهيز .

عادةً ما يتم استخدام التجميع الأقصى ، غالبًا بأبعاد 2x2. وهذا يعني أن الإدخال يتم تقليص حجمه بشكل كبير ، مما يقلل من تكلفة المعالجة.

يؤدي التجميع الأكبر إلى تقليل أبعاد الإشارة، وقد يؤدي إلى فقدان غير مقبول للمعلومات . غالبًا ما تعمل نوافذ التجميع غير المتداخلة بشكل أفضل. ^[76]

تتضمن عملية التوسيع تجاهل وحدات البكسل داخل النواة. وهذا يقلل من ذاكرة المعالجة بشكل محتمل دون فقد كبير للإشارة. يؤدي توسيع بمقدار 2 على نواة 3x3 إلى توسيع النواة إلى 5x5، مع الاستمرار في معالجة 9 وحدات بكسل (متباعدة بالتساوي). على وجه التحديد، وحدات البكسل المعالجة بعد التوسيع هي الخلايا (1،1)، (1،3)، (1،5)، (3،1)، (3،3)، (3،5)، (5،1)، (5،3)، (5،5)، حيث يشير (i،j) إلى خلية الصف i والعمود j في النواة الموسعة 5x5. وفقًا لذلك، يؤدي توسيع بمقدار 4 إلى توسيع النواة إلى 7x7. ^{[ بحاجة لمصدر ]}

من المفترض عمومًا أن CNNs ثابتة تجاه تحولات المدخلات. إن طبقات الالتفاف أو التجميع داخل CNN التي لا تحتوي على خطوة أكبر من واحد تكون في الواقع متكافئة لترجمات المدخلات. ^[72] ومع ذلك، فإن الطبقات ذات الخطوة الأكبر من واحد تتجاهل نظرية أخذ العينات نيستكويست-شانون وقد تؤدي إلى تعرج إشارة المدخلات ^[72] وفي حين أن CNNs قادرة من حيث المبدأ على تنفيذ مرشحات مضادة للتعرج، فقد لوحظ أن هذا لا يحدث في الممارسة العملية ^[86] وتنتج نماذج غير متكافئة للترجمات. علاوة على ذلك، إذا استخدمت CNN طبقات متصلة بالكامل، فإن تباين الترجمة لا يعني ثبات الترجمة، حيث أن الطبقات المتصلة بالكامل ليست ثابتة تجاه تحولات المدخلات. ^{[87] [15]} أحد الحلول لثبات الترجمة الكامل هو تجنب أي أخذ عينات تنازلية في جميع أنحاء الشبكة وتطبيق تجميع متوسط ​​عالمي في الطبقة الأخيرة. ^[72] بالإضافة إلى ذلك، تم اقتراح العديد من الحلول الجزئية الأخرى، مثل التنعيم قبل عمليات تقليل العينات، ^[88] وشبكات المحولات المكانية، ^[89] وزيادة البيانات ، والعينات الفرعية جنبًا إلى جنب مع التجميع، ^[15] والشبكات العصبية الكبسولية . ^[90]

تعتمد دقة النموذج النهائي على جزء فرعي من مجموعة البيانات يتم فصله في البداية، وغالبًا ما يُطلق عليه مجموعة الاختبار. وفي أوقات أخرى، يتم تطبيق طرق مثل التحقق المتبادل k -fold . وتتضمن الاستراتيجيات الأخرى استخدام التنبؤ المطابق . ^{[91] [92]}

This section needs additional citations for verification. Please help improve this article by adding citations to reliable sources in this section. Unsourced material may be challenged and removed. (June 2017) (Learn how and when to remove this message)

التنظيم هو عملية إدخال معلومات إضافية لحل مشكلة غير صحيحة أو لمنع الإفراط في التجهيز . تستخدم شبكات CNN أنواعًا مختلفة من التنظيم.

نظرًا لأن الطبقة المتصلة بالكامل تشغل معظم المعلمات، فهي عرضة للإفراط في التجهيز. إحدى الطرق لتقليل الإفراط في التجهيز هي الإسقاط ، والتي تم تقديمها في عام 2014. ^[93] في كل مرحلة تدريب، يتم "إسقاط" العقد الفردية من الشبكة (تجاهلها) باحتمالية أو الاحتفاظ بها باحتمالية ، بحيث يتم ترك شبكة مخفضة؛ كما تتم إزالة الحواف الواردة والصادرة إلى العقدة المسقطة. يتم تدريب الشبكة المخفضة فقط على البيانات في تلك المرحلة. ثم يتم إعادة إدخال العقد التي تمت إزالتها في الشبكة بأوزانها الأصلية. ${\displaystyle 1-p}$${\displaystyle p}$

في مراحل التدريب، تكون عادةً 0.5؛ أما بالنسبة لعقد الإدخال، تكون عادةً أعلى من ذلك بكثير لأن المعلومات تُفقد مباشرةً عند تجاهل عقد الإدخال. ${\displaystyle p}$

في وقت الاختبار بعد انتهاء التدريب، نود بشكل مثالي العثور على متوسط ​​عينة لجميع الشبكات المنسدلة المحتملة؛ لسوء الحظ، هذا غير ممكن للقيم الكبيرة لـ . ومع ذلك، يمكننا العثور على تقريب باستخدام الشبكة الكاملة مع ترجيح ناتج كل عقدة بعامل ، وبالتالي فإن القيمة المتوقعة لإخراج أي عقدة هي نفسها الموجودة في مراحل التدريب. هذه هي أكبر مساهمة لطريقة التسرب: على الرغم من أنها تولد شبكات عصبية بشكل فعال، وبالتالي تسمح بدمج النماذج، إلا أنه في وقت الاختبار، يلزم اختبار شبكة واحدة فقط. ${\displaystyle 2^{n}}$${\displaystyle n}$${\displaystyle p}$${\displaystyle 2^{n}}$

من خلال تجنب تدريب جميع العقد على جميع بيانات التدريب، يقلل التسرب من الإفراط في التجهيز. كما تعمل الطريقة أيضًا على تحسين سرعة التدريب بشكل كبير. وهذا يجعل تركيبة النموذج عملية، حتى بالنسبة للشبكات العصبية العميقة . يبدو أن هذه التقنية تقلل من تفاعلات العقد، مما يؤدي بها إلى تعلم ميزات أكثر قوة ^{[ بحاجة لتوضيح ]} والتي يمكن تعميمها بشكل أفضل على البيانات الجديدة.

DropConnect هو تعميم للانقطاع حيث يمكن إسقاط كل اتصال، وليس كل وحدة إخراج، باحتمالية . وبالتالي تتلقى كل وحدة إدخال من مجموعة فرعية عشوائية من الوحدات في الطبقة السابقة. ^[94]${\displaystyle 1-p}$

DropConnect يشبه Dropout لأنه يقدم ندرة ديناميكية داخل النموذج، لكنه يختلف في أن الندرة تكون على الأوزان، وليس على متجهات الإخراج لطبقة. بعبارة أخرى، تصبح الطبقة المتصلة بالكامل باستخدام DropConnect طبقة متصلة بشكل ندرة حيث يتم اختيار الاتصالات بشكل عشوائي أثناء مرحلة التدريب.

أحد العيوب الرئيسية لـ Dropout هو أنه لا يتمتع بنفس الفوائد بالنسبة للطبقات التلافيفية، حيث لا تكون الخلايا العصبية متصلة بشكل كامل.

حتى قبل Dropout، في عام 2013، تم استبدال تقنية تسمى التجميع العشوائي، ^{[95] بعمليات التجميع} الحتمية التقليدية بإجراء عشوائي، حيث يتم اختيار التنشيط داخل كل منطقة تجميع بشكل عشوائي وفقًا لتوزيع متعدد الحدود ، يتم تحديده من خلال الأنشطة داخل منطقة التجميع. هذا النهج خالٍ من المعلمات الفائقة ويمكن دمجه مع طرق التنظيم الأخرى، مثل التسرب وزيادة البيانات .

وجهة نظر بديلة للتجميع العشوائي هي أنه يعادل التجميع الأقصى القياسي ولكن مع العديد من نسخ صورة الإدخال، ولكل منها تشوهات محلية صغيرة . وهذا مشابه للتشوهات المرنة الصريحة لصور الإدخال، ^[96] مما يوفر أداءً ممتازًا على مجموعة بيانات MNIST . ^[96] يؤدي استخدام التجميع العشوائي في نموذج متعدد الطبقات إلى عدد هائل من التشوهات لأن التحديدات في الطبقات العليا مستقلة عن تلك الموجودة أدناه.

نظرًا لأن درجة الإفراط في ملاءمة النموذج يتم تحديدها من خلال قوته وكمية التدريب التي يتلقاها، فإن توفير شبكة ملتوية مع المزيد من أمثلة التدريب يمكن أن يقلل من الإفراط في الملاءمة. نظرًا لأنه غالبًا ما لا تتوفر بيانات كافية للتدريب، خاصة بالنظر إلى أنه يجب توفير جزء ما للاختبار اللاحق، فإن هناك طريقتين هما إما إنشاء بيانات جديدة من الصفر (إن أمكن) أو إزعاج البيانات الموجودة لإنشاء بيانات جديدة. يتم استخدام الأخير منذ منتصف التسعينيات. ^[52] على سبيل المثال، يمكن اقتصاص الصور المدخلة أو تدويرها أو إعادة قياسها لإنشاء أمثلة جديدة بنفس تسميات مجموعة التدريب الأصلية. ^[97]

إن إحدى أبسط الطرق لمنع الإفراط في ملاءمة الشبكة هي ببساطة إيقاف التدريب قبل أن تتاح الفرصة لحدوث الإفراط في الملاءمة. ولكن هذا يأتي مع عيب يتمثل في توقف عملية التعلم.

هناك طريقة بسيطة أخرى لمنع الإفراط في التجهيز وهي الحد من عدد المعلمات، وعادة ما يتم ذلك عن طريق الحد من عدد الوحدات المخفية في كل طبقة أو الحد من عمق الشبكة. بالنسبة للشبكات التلافيفية، يؤثر حجم المرشح أيضًا على عدد المعلمات. يؤدي الحد من عدد المعلمات إلى تقييد القدرة التنبؤية للشبكة بشكل مباشر، مما يقلل من تعقيد الوظيفة التي يمكنها القيام بها على البيانات، وبالتالي يحد من مقدار الإفراط في التجهيز. وهذا يعادل " معيار الصفر ".

الشكل البسيط للمنظم المضاف هو اضمحلال الوزن، والذي يضيف ببساطة خطأ إضافيًا، يتناسب مع مجموع الأوزان ( المعيار L1 ) أو الحجم التربيعي ( المعيار L2 ) لمتجه الوزن، إلى الخطأ عند كل عقدة. يمكن تقليل مستوى تعقيد النموذج المقبول عن طريق زيادة ثابت التناسب (المعلمة الفائقة "ألفا")، وبالتالي زيادة العقوبة لمتجهات الوزن الكبيرة.

إن التنظيم L2 هو الشكل الأكثر شيوعًا للتنظيم. ويمكن تنفيذه عن طريق معاقبة القيمة التربيعية لجميع المعلمات مباشرة في الهدف. يتمتع التنظيم L2 بالتفسير البديهي المتمثل في معاقبة متجهات الوزن المدببة بشدة وتفضيل متجهات الوزن المنتشرة. ونظرًا للتفاعلات المضاعفة بين الأوزان والمدخلات، فإن هذا يتمتع بالخاصية المفيدة المتمثلة في تشجيع الشبكة على استخدام جميع مدخلاتها قليلاً بدلاً من استخدام بعض مدخلاتها كثيرًا.

كما أن تنظيم L1 شائع أيضًا. فهو يجعل متجهات الوزن متفرقة أثناء التحسين. بعبارة أخرى، ينتهي الأمر بالخلايا العصبية التي يتم تنظيمها باستخدام L1 إلى استخدام مجموعة فرعية متفرقة فقط من أهم مدخلاتها وتصبح ثابتة تقريبًا للمدخلات الصاخبة. يمكن دمج L1 مع تنظيم L2؛ وهذا ما يسمى بتنظيم الشبكة المرنة .

شكل آخر من أشكال التنظيم هو فرض حد أعلى مطلق على حجم متجه الوزن لكل خلية عصبية واستخدام الانحدار المتدرج المتوقع لفرض القيد. في الممارسة العملية، يتوافق هذا مع إجراء تحديث المعلمة بشكل طبيعي، ثم فرض القيد عن طريق تثبيت متجه الوزن لكل خلية عصبية لتلبية . القيم النموذجية لـ هي من 3 إلى 4. تشير بعض الأوراق إلى تحسينات ^[98] عند استخدام هذا الشكل من التنظيم. ${\displaystyle {\vec {w}}}$${\displaystyle \|{\vec {w}}\|_{2}<c}$${\displaystyle c}$

إن التجميع يفقد العلاقات المكانية الدقيقة بين الأجزاء عالية المستوى (مثل الأنف والفم في صورة الوجه). وهذه العلاقات ضرورية للتعرف على الهوية. ويساعد تداخل المجمعات بحيث تظهر كل سمة في مجمعات متعددة في الاحتفاظ بالمعلومات. ولا يمكن للترجمة وحدها أن تستقرئ فهم العلاقات الهندسية إلى وجهة نظر جديدة جذريًا، مثل اتجاه أو مقياس مختلف. ومن ناحية أخرى، فإن الناس جيدون جدًا في الاستقراء؛ فبعد رؤية شكل جديد مرة واحدة يمكنهم التعرف عليه من وجهة نظر مختلفة. ^[99]

تتمثل إحدى الطرق الشائعة السابقة للتعامل مع هذه المشكلة في تدريب الشبكة على البيانات المحولة في اتجاهات ومقاييس وإضاءة مختلفة وما إلى ذلك حتى تتمكن الشبكة من التعامل مع هذه الاختلافات. وهذا يتطلب الكثير من العمليات الحسابية لمجموعات البيانات الكبيرة. والبديل هو استخدام تسلسل هرمي من إطارات الإحداثيات واستخدام مجموعة من الخلايا العصبية لتمثيل اقتران شكل السمة ووضعها بالنسبة للشبكية . الوضع بالنسبة للشبكية هو العلاقة بين إطار إحداثيات الشبكية وإطار إحداثيات السمات الجوهرية. ^[100]

وبالتالي، فإن إحدى الطرق لتمثيل شيء ما هي تضمين إطار الإحداثيات داخله. وهذا يسمح بالتعرف على الميزات الكبيرة باستخدام اتساق أوضاع أجزائها (على سبيل المثال، فإن أوضاع الأنف والفم تقدم تنبؤًا متسقًا بوضع الوجه بالكامل). يضمن هذا النهج أن الكيان الأعلى مستوى (مثل الوجه) موجود عندما يتفق الكيان الأدنى مستوى (مثل الأنف والفم) على تنبؤه بالوضع. تسمح متجهات النشاط العصبي التي تمثل الوضع ("متجهات الوضع") بالتحولات المكانية التي يتم نمذجتها كعمليات خطية تجعل من السهل على الشبكة تعلم التسلسل الهرمي للكيانات المرئية والتعميم عبر وجهات النظر. وهذا مشابه للطريقة التي يفرض بها النظام البصري البشري إطارات الإحداثيات من أجل تمثيل الأشكال. ^[101]

غالبًا ما تُستخدم CNN في أنظمة التعرف على الصور . في عام 2012، تم الإبلاغ عن معدل خطأ بنسبة 0.23% في قاعدة بيانات MNIST . ^[27] ذكرت ورقة بحثية أخرى حول استخدام CNN لتصنيف الصور أن عملية التعلم كانت "سريعة بشكل مدهش"؛ في نفس الورقة، تم تحقيق أفضل النتائج المنشورة اعتبارًا من عام 2011 في قاعدة بيانات MNIST وقاعدة بيانات NORB. ^[24] لاحقًا، فازت CNN مماثلة تسمى AlexNet ^[102] بتحدي التعرف البصري واسع النطاق ImageNet 2012.

عند تطبيقها على التعرف على الوجه ، حققت شبكات CNN انخفاضًا كبيرًا في معدل الخطأ. ^[103] ذكرت ورقة بحثية أخرى معدل التعرف بنسبة 97.6٪ على "5600 صورة ثابتة لأكثر من 10 أشخاص". ^[20] تم استخدام شبكات CNN لتقييم جودة الفيديو بطريقة موضوعية بعد التدريب اليدوي؛ كان للنظام الناتج خطأ جذر متوسط ​​مربع منخفض جدًا . ^[104]

يعد تحدي التعرف البصري واسع النطاق ImageNet معيارًا في تصنيف الكائنات واكتشافها، مع ملايين الصور ومئات فئات الكائنات. في ILSVRC 2014، ^[105] وهو تحدي التعرف البصري واسع النطاق، استخدم كل فريق عالي التصنيف تقريبًا CNN كإطار أساسي له. زاد الفائز GoogLeNet ^[106] (أساس DeepDream ) متوسط ​​الدقة المتوسطة لاكتشاف الكائنات إلى 0.439329، وخفض خطأ التصنيف إلى 0.06656، وهي أفضل نتيجة حتى الآن. طبقت شبكتها أكثر من 30 طبقة. كان أداء الشبكات العصبية التلافيفية في اختبارات ImageNet قريبًا من أداء البشر. ^[107] لا تزال أفضل الخوارزميات تكافح مع الكائنات الصغيرة أو الرفيعة، مثل نملة صغيرة على ساق زهرة أو شخص يحمل ريشة في يده. كما يواجهون مشكلة مع الصور المشوهة بالمرشحات، وهي ظاهرة شائعة بشكل متزايد مع الكاميرات الرقمية الحديثة. على النقيض من ذلك، نادرًا ما تزعج هذه الأنواع من الصور البشر. ومع ذلك، يميل البشر إلى مواجهة مشاكل أخرى. على سبيل المثال، لا يجيدون تصنيف الأشياء إلى فئات دقيقة مثل سلالة معينة من الكلاب أو أنواع الطيور، في حين تتعامل الشبكات العصبية التلافيفية مع هذا. ^{[ بحاجة لمصدر ]}

في عام 2015، أظهرت شبكة CNN متعددة الطبقات القدرة على اكتشاف الوجوه من مجموعة واسعة من الزوايا، بما في ذلك المقلوبة، حتى عندما تكون مسدودة جزئيًا، بأداء تنافسي. تم تدريب الشبكة على قاعدة بيانات تضم 200000 صورة تضمنت وجوهًا بزوايا واتجاهات مختلفة و20 مليون صورة أخرى بدون وجوه. لقد استخدموا دفعات من 128 صورة على مدى 50000 تكرار. ^[108]

بالمقارنة مع مجالات بيانات الصور، هناك القليل نسبيًا من العمل على تطبيق CNNs على تصنيف الفيديو. الفيديو أكثر تعقيدًا من الصور لأنه يحتوي على بُعد (زمني) آخر. ومع ذلك، تم استكشاف بعض امتدادات CNNs في مجال الفيديو. أحد الأساليب هو التعامل مع المكان والزمان كأبعاد متكافئة للمدخلات وإجراء التفافات في كل من الزمان والمكان. ^{[109] [110]} طريقة أخرى هي دمج ميزات شبكتين عصبيتين ملتويتين، واحدة للتيار المكاني والأخرى للتيار الزمني. ^{[111] [112] [113] عادةً ما يتم دمج وحدات} الذاكرة القصيرة المدى الطويلة (LSTM) المتكررة بعد CNN لمراعاة التبعيات بين الإطارات أو بين المقاطع. ^{[114] [115]} تم تقديم مخططات التعلم غير الخاضعة للإشراف لتدريب الميزات المكانية الزمنية، بناءً على آلات بولتزمان المقيدة ذات البوابات التلافيفية ^[116] وتحليل الفضاء الفرعي المستقل. ^[117] يمكن رؤية تطبيقه في نموذج النص إلى الفيديو . ^{[ بحاجة لمصدر ]}

تم استكشاف شبكات CNN أيضًا لمعالجة اللغة الطبيعية . نماذج CNN فعالة في العديد من مشكلات معالجة اللغة الطبيعية وحققت نتائج ممتازة في التحليل الدلالي ^[118] ، واسترجاع استعلامات البحث ^[119] ، ونمذجة الجمل ^[120] ، والتصنيف ^[121] ، والتنبؤ ^[122] ومهام معالجة اللغة الطبيعية التقليدية الأخرى. ^[123] بالمقارنة مع طرق معالجة اللغة التقليدية مثل الشبكات العصبية المتكررة ، يمكن لشبكات CNN تمثيل حقائق سياقية مختلفة للغة لا تعتمد على افتراض التسلسل المتسلسل، في حين أن شبكات RNN أكثر ملاءمة عندما تكون نمذجة السلاسل الزمنية الكلاسيكية مطلوبة. ^{[124] [125] [126] [127]}

تم استخدام CNN مع التفافات أحادية البعد على سلسلة زمنية في مجال التردد (البقايا الطيفية) بواسطة نموذج غير خاضع للإشراف للكشف عن الشذوذ في مجال الوقت. ^[128]

تم استخدام CNNs في اكتشاف الأدوية . يمكن أن يؤدي التنبؤ بالتفاعل بين الجزيئات والبروتينات البيولوجية إلى تحديد العلاجات المحتملة. في عام 2015، قدمت Atomwise AtomNet، أول شبكة عصبية للتعلم العميق لتصميم الأدوية القائمة على البنية . ^{[129] يتدرب النظام مباشرة على التمثيلات ثلاثية الأبعاد للتفاعلات الكيميائية. على غرار الطريقة التي تتعلم بها} شبكات التعرف على الصور تكوين سمات أصغر ومتقاربة مكانيًا في هياكل أكبر ومعقدة، ^[130] يكتشف AtomNet السمات الكيميائية، مثل العطرية ، وكربونات sp3 ، والرابطة الهيدروجينية . بعد ذلك، تم استخدام AtomNet للتنبؤ بجزيئات حيوية مرشحة جديدة لأهداف أمراض متعددة، وأبرزها علاجات فيروس الإيبولا ^[131] والتصلب المتعدد . ^[132]

تم استخدام شبكات CNN في لعبة الداما . من عام 1999 إلى عام 2001، نشر فوجل وتشيلابيلا أوراقًا توضح كيف يمكن للشبكة العصبية التلافيفية أن تتعلم لعب الداما باستخدام التطور المشترك. لم تستخدم عملية التعلم ألعابًا بشرية احترافية سابقة، بل ركزت بدلاً من ذلك على مجموعة ضئيلة من المعلومات الواردة في رقعة الشطرنج: موقع ونوع القطع، والفرق في عدد القطع بين الجانبين. في النهاية، تم اختبار البرنامج ( Blondie24 ) في 165 لعبة ضد لاعبين وتم تصنيفه في أعلى نسبة 0.4٪. ^{[133] [134]} كما حقق فوزًا على برنامج Chinook في مستوى "الخبير" في اللعب. ^[135]

تم استخدام CNN في لعبة جو على الكمبيوتر . في ديسمبر 2014، نشر كلارك وستوركي ورقة بحثية تُظهر أن CNN المدربة من خلال التعلم الخاضع للإشراف من قاعدة بيانات الألعاب الاحترافية البشرية يمكن أن تتفوق على GNU Go وتفوز ببعض الألعاب ضد برنامج البحث الشجري Monte Carlo Fuego 1.1 في جزء بسيط من الوقت الذي يستغرقه Fuego للعب. ^[136] في وقت لاحق، أُعلن أن شبكة عصبية ملتوية كبيرة مكونة من 12 طبقة قد تنبأت بشكل صحيح بالحركة الاحترافية في 55٪ من المواضع، وهو ما يعادل دقة لاعب بشري 6 دان . عندما تم استخدام الشبكة التلافيفية المدربة مباشرة للعب ألعاب جو، دون أي بحث، فقد تغلبت على برنامج البحث التقليدي GNU Go في 97٪ من الألعاب، وتطابق أداء برنامج البحث الشجري Monte Carlo Fuego الذي يحاكي عشرة آلاف عملية لعب (حوالي مليون موضع) لكل حركة. ^[137]

تم استخدام زوج من شبكات CNN لاختيار التحركات التي يجب تجربتها ("شبكة السياسة") وتقييم المواقف ("شبكة القيمة") التي تحرك MCTS بواسطة AlphaGo ، وهو أول من تغلب على أفضل لاعب بشري في ذلك الوقت. ^[138]

تعتبر الشبكات العصبية المتكررة بشكل عام أفضل بنيات الشبكات العصبية للتنبؤ بالسلاسل الزمنية (ونمذجة التسلسل بشكل عام)، ولكن الدراسات الحديثة تظهر أن الشبكات التلافيفية يمكن أن تعمل بشكل مماثل أو حتى أفضل. ^{[139] [12]} قد تمكن التلافيف المتوسعة ^[140] الشبكات العصبية التلافيفية أحادية البعد من تعلم تبعيات السلاسل الزمنية بشكل فعال. ^[141] يمكن تنفيذ التلافيف بكفاءة أكبر من الحلول القائمة على RNN، ولا تعاني من التدرجات المتلاشية (أو المتفجرة). ^[142] يمكن أن توفر الشبكات التلافيفية أداء تنبؤ محسنًا عندما يكون هناك سلاسل زمنية متعددة متشابهة للتعلم منها. ^[143] يمكن أيضًا تطبيق CNN على مهام أخرى في تحليل السلاسل الزمنية (على سبيل المثال، تصنيف السلاسل الزمنية ^[144] أو التنبؤ الكمي ^[145] ).

مع زيادة الحصول على الاكتشافات الأثرية مثل الألواح الطينية التي تحمل الكتابة المسمارية باستخدام ماسحات ضوئية ثلاثية الأبعاد ، أصبحت مجموعات البيانات المرجعية متاحة، بما في ذلك HeiCuBeDa ^[146] التي توفر ما يقرب من 2000 مجموعة بيانات طبيعية ثنائية الأبعاد وثلاثية الأبعاد تم إعدادها باستخدام إطار عمل برنامج GigaMesh . ^[147] لذلك تُستخدم المقاييس القائمة على الانحناء جنبًا إلى جنب مع الشبكات العصبية الهندسية (GNNs)، على سبيل المثال لتصنيف الفترة لتلك الألواح الطينية التي تعد من بين أقدم وثائق التاريخ البشري. ^{[148] [149]}

بالنسبة للعديد من التطبيقات، لا تتوفر بيانات التدريب بشكل كبير. تتطلب الشبكات العصبية التلافيفية عادةً كمية كبيرة من بيانات التدريب لتجنب الإفراط في التجهيز . تتمثل إحدى التقنيات الشائعة في تدريب الشبكة على مجموعة بيانات أكبر من مجال ذي صلة. بمجرد تقارب معلمات الشبكة، يتم تنفيذ خطوة تدريب إضافية باستخدام البيانات داخل المجال لضبط أوزان الشبكة، وهذا ما يُعرف باسم التعلم بالنقل . علاوة على ذلك، تسمح هذه التقنية بتطبيق بنيات الشبكة التلافيفية بنجاح على المشكلات ذات مجموعات التدريب الصغيرة. ^[150]

يعد التدريب الشامل والتنبؤ ممارسة شائعة في مجال الرؤية الحاسوبية . ومع ذلك، هناك حاجة إلى تفسيرات بشرية قابلة للتفسير للأنظمة الحرجة مثل السيارات ذاتية القيادة . ^[151] مع التطورات الأخيرة في بروز الرؤية ، والانتباه المكاني ، والانتباه الزمني ، يمكن تصور المناطق المكانية/اللحظات الزمنية الأكثر أهمية لتبرير تنبؤات CNN. ^{[152] [153]}

الشبكة العصبية العميقة (DQN) هي نوع من نماذج التعلم العميق التي تجمع بين الشبكة العصبية العميقة والتعلم Q ، وهو شكل من أشكال التعلم التعزيزي . على عكس وكلاء التعلم التعزيزي السابقين، يمكن للشبكات العصبية العميقة التي تستخدم CNNs التعلم مباشرة من المدخلات الحسية عالية الأبعاد عبر التعلم التعزيزي. ^[154]

تم تقديم النتائج الأولية في عام 2014، مع ورقة بحثية مصاحبة في فبراير 2015. ^[155] وصف البحث تطبيقًا لألعاب Atari 2600. سبقته نماذج أخرى للتعلم التعزيزي العميق. ^[156]

تتمتع شبكات المعتقدات العميقة التلافيفية (CDBN) ببنية مشابهة جدًا للشبكات العصبية التلافيفية ويتم تدريبها بشكل مشابه لشبكات المعتقدات العميقة. لذلك، فإنها تستغل البنية ثنائية الأبعاد للصور، مثلما تفعل شبكات CNN، وتستفيد من التدريب المسبق مثل شبكات المعتقدات العميقة . إنها توفر بنية عامة يمكن استخدامها في العديد من مهام معالجة الصور والإشارات. تم الحصول على نتائج معيارية على مجموعات بيانات الصور القياسية مثل CIFAR ^{[157] باستخدام CDBNs. [158]}

تم توسيع بنية التغذية الأمامية للشبكات العصبية التلافيفية في هرم التجريد العصبي ^[159] من خلال الاتصالات الجانبية والتغذية الراجعة. تسمح الشبكة التلافيفية المتكررة الناتجة بالتضمين المرن للمعلومات السياقية لحل الغموض المحلي بشكل متكرر. وعلى النقيض من النماذج السابقة، تم إنشاء مخرجات تشبه الصورة بأعلى دقة، على سبيل المثال، لمهام التجزئة الدلالية وإعادة بناء الصورة وتحديد موقع الكائن.

• Caffe : مكتبة للشبكات العصبية التلافيفية. أنشأها مركز بيركلي للرؤية والتعلم (BVLC). تدعم كل من وحدة المعالجة المركزية ووحدة معالجة الرسومات. تم تطويرها بلغة C++ ، وتحتوي على غلافات Python و MATLAB .
• Deeplearning4j : التعلم العميق في Java و Scala على Spark الممكّن بوحدات معالجة رسومية متعددة . مكتبة تعلم عميق عامة الغرض لمجموعة إنتاج JVM التي تعمل على محرك حوسبة علمية C++. تسمح بإنشاء طبقات مخصصة. تتكامل مع Hadoop وKafka.
• Dlib : مجموعة أدوات لإنشاء تطبيقات التعلم الآلي وتحليل البيانات في العالم الحقيقي باستخدام لغة C++.
• مجموعة أدوات Microsoft Cognitive Toolkit : مجموعة أدوات للتعلم العميق كتبتها Microsoft مع العديد من الميزات الفريدة التي تعمل على تحسين قابلية التوسع على عقد متعددة. وهي تدعم واجهات كاملة للتدريب بلغات C++ وPython مع دعم إضافي لاستنتاج النموذج بلغات C# وJava.
• TensorFlow : مكتبة شبيهة بـ Theano مرخصة من Apache 2.0 مع دعم لوحدة المعالجة المركزية ووحدة معالجة الرسومات ووحدة معالجة الموتر (TPU) المملوكة لشركة Google، ^[160] والأجهزة المحمولة.
• Theano : مكتبة التعلم العميق المرجعية للغة Python مع واجهة برمجة تطبيقات متوافقة إلى حد كبير مع مكتبة NumPy الشهيرة . تتيح للمستخدم كتابة تعبيرات رياضية رمزية، ثم توليد مشتقاتها تلقائيًا، مما يوفر على المستخدم عناء كتابة تدرجات الترميز أو الانتشار العكسي. يتم تجميع هذه التعبيرات الرمزية تلقائيًا إلى كود CUDA لتنفيذ سريع على وحدة معالجة الرسومات .
• Torch : إطار عمل حاسوبي علمي يوفر دعمًا واسعًا لخوارزميات التعلم الآلي، مكتوب بلغة C و Lua .

• الاهتمام (التعلم الآلي)
• التفاف
• التعلم العميق
• معالجة اللغة الطبيعية
• نيوكوينيترون
• تحويل الميزة الثابتة للمقياس
• شبكة عصبية للتأخير الزمني
• وحدة معالجة الرؤية

• CS231n: الشبكات العصبية التلافيفية للتعرف البصري — دورة علوم الكمبيوتر في جامعة ستانفورد التي قدمها أندريه كارباثي حول الشبكات العصبية التلافيفية في الرؤية الحاسوبية
• vdumoulin/conv_arithmetic: تقرير فني عن حسابيات الالتفاف في سياق التعلم العميق. رسوم متحركة للالتفافات.