تحليل المصفوفات غير السلبية

جزء من سلسلة عن
التعلم الآلي واستخراج البيانات
النماذج التعلم تحت الإشراف التعلم غير الخاضع للإشراف التعلم شبه الخاضع للإشراف التعلم الذاتي التعلم التعزيزي التعلم الفوقي التعلم عبر الإنترنت التعلم الدفعي التعلم المنهجي التعلم المبني على القواعد الذكاء الاصطناعي الرمزي العصبي الهندسة العصبية التعلم الآلي الكمومي
المشاكل تصنيف النمذجة التوليدية الانحدار التجميع تخفيض الأبعاد تقدير الكثافة كشف الشذوذ تنظيف البيانات التعلم الآلي التلقائي قواعد الجمعية التحليل الدلالي التنبؤ المنظم هندسة المميزات ميزة التعلم تعلم الترتيب الاستدلال النحوي التعلم الأنطولوجيا التعلم المتعدد الوسائط
التعلم الخاضع للإشراف ( التصنيف  • الانحدار ) التعلم عن طريق التدريب أشجار القرار الفرق الموسيقية التعبئة في أكياس تعزيز غابة عشوائية ك -ن ن الانحدار الخطي بايز الساذج الشبكات العصبية الاصطناعية الانحدار اللوجستي بيرسيبترون آلة متجهات الصلة (RVM) آلة الدعم المتجهي (SVM)
التجميع البتولا دواء هرمي ك- يعني غامض التوقع - التعظيم (EM) دي بي إس أي إن بصريات متوسط ​​التحول
تخفيض الأبعاد تحليل العوامل سي سي ايه ايكا لدا ن م ف تحليل البيانات الشخصية التشخيص قبل الزرع تي-SNE إس دي إل
التنبؤ المنظم النماذج الرسومية شبكة بايز حقل عشوائي مشروط Hidden Markov
Anomaly detection RANSAC k-NN Local outlier factor Isolation forest
Artificial neural network Autoencoder Deep learning Feedforward neural network Recurrent neural network LSTM GRU ESN reservoir computing Boltzmann machine Restricted GAN Diffusion model SOM Convolutional neural network U-Net LeNet AlexNet DeepDream Neural radiance field Transformer Vision Mamba Spiking neural network Memtransistor Electrochemical RAM (ECRAM)
Reinforcement learning Q-learning SARSA Temporal difference (TD) Multi-agent Self-play
Learning with humans Active learning Crowdsourcing Human-in-the-loop RLHF
Model diagnostics Coefficient of determination Confusion matrix Learning curve ROC curve
Mathematical foundations Kernel machines Bias–variance tradeoff Computational learning theory Empirical risk minimization Occam learning PAC learning Statistical learning VC theory
Journals and conferences ECML PKDD NeurIPS ICML ICLR IJCAI ML JMLR
Related articles Glossary of artificial intelligence List of datasets for machine-learning research List of datasets in computer vision and image processing Outline of machine learning
v t e

تحليل العوامل غير السلبية للمصفوفة ( NMF أو NNMF )، أو تقريب المصفوفة غير السلبية ^{[1] [2]} هي مجموعة من الخوارزميات في التحليل المتعدد المتغيرات والجبر الخطي حيث يتم تحليل المصفوفة V إلى (عادةً) مصفوفتين W و H ، مع الخاصية التي تجعل المصفوفات الثلاث خالية من العناصر السلبية. تجعل هذه السلبية المصفوفات الناتجة أسهل في الفحص. أيضًا، في التطبيقات مثل معالجة مخططات الطيف الصوتية أو النشاط العضلي، تكون السلبية متأصلة في البيانات التي يتم النظر فيها. نظرًا لأن المشكلة ليست قابلة للحل تمامًا بشكل عام، فمن الشائع تقريبها عدديًا.

تجد NMF تطبيقات في مجالات مثل علم الفلك ، ^{[3] [4]} رؤية الكمبيوتر ، وتجميع المستندات ، ^[1] احتساب البيانات المفقودة ، ^[5] القياسات الكيميائية ، ومعالجة الإشارات الصوتية ، وأنظمة التوصية ، ^{[6] [7]} وعلم المعلومات الحيوية . ^[8]

في الكيمياء القياسية، كان لتحليل المصفوفات غير السلبية تاريخ طويل تحت اسم "حل منحنى النمذجة الذاتية". ^[9] في هذا الإطار، تكون المتجهات في المصفوفة اليمنى عبارة عن منحنيات متصلة وليست متجهات منفصلة. كما تم إجراء أعمال مبكرة على تحليل المصفوفات غير السلبية بواسطة مجموعة من الباحثين الفنلنديين في التسعينيات تحت اسم تحليل المصفوفات الإيجابية . ^{[10] [11] [12]} أصبح معروفًا على نطاق واسع باسم تحليل المصفوفات غير السلبية بعد أن حقق لي وسونغ في خصائص الخوارزمية ونشروا بعض الخوارزميات البسيطة والمفيدة لنوعين من التحليلات. ^{[13] [14]}

لتكن المصفوفة V هي حاصل ضرب المصفوفتين W و H ،

${\displaystyle \mathbf {V} =\mathbf {W} \mathbf {H} \,.}$

يمكن تنفيذ عملية ضرب المصفوفات عن طريق حساب متجهات الأعمدة في V كمجموعات خطية لمتجهات الأعمدة في W باستخدام المعاملات التي توفرها أعمدة H. أي أنه يمكن حساب كل عمود في V على النحو التالي:

${\displaystyle \mathbf {v} _{i}=\mathbf {W} \mathbf {h} _{i}\,,}$

حيث v _i هو المتجه العمودي رقم i لمصفوفة الضرب V و h _i هو المتجه العمودي رقم i لمصفوفة H.

عند ضرب المصفوفات، قد تكون أبعاد مصفوفات العوامل أقل بشكل ملحوظ من أبعاد مصفوفة الضرب وهذه الخاصية هي التي تشكل أساس NMF. تولد NMF عوامل ذات أبعاد مخفضة بشكل ملحوظ مقارنة بالمصفوفة الأصلية. على سبيل المثال، إذا كانت V مصفوفة m × n ، وW مصفوفة m × p ، و H مصفوفة p × n ، فيمكن أن تكون p أقل بشكل ملحوظ من كل من m و n .

فيما يلي مثال يعتمد على تطبيق استخراج النصوص:

• لنفترض أن مصفوفة الإدخال (المصفوفة التي سيتم تحليلها) هي V مع 10000 صف و500 عمود حيث تكون الكلمات في صفوف والمستندات في أعمدة. وهذا يعني أن لدينا 500 مستند مفهرس بواسطة 10000 كلمة. ويترتب على ذلك أن متجه العمود v في V يمثل مستندًا.
• افترضنا أننا نطلب من الخوارزمية العثور على 10 ميزات من أجل إنشاء مصفوفة ميزات W تحتوي على 10000 صف و10 أعمدة ومصفوفة معاملات H تحتوي على 10 صفوف و500 عمود.
• إن حاصل ضرب W و H هو مصفوفة تحتوي على 10000 صف و 500 عمود، وهو نفس شكل مصفوفة الإدخال V ، وإذا نجح التحليل إلى عوامل، فهو تقريبًا معقولًا لمصفوفة الإدخال V.
• من معالجة ضرب المصفوفات أعلاه، يتبع أن كل عمود في مصفوفة الضرب WH هو مزيج خطي من متجهات الأعمدة العشرة في مصفوفة الميزات W مع المعاملات التي توفرها مصفوفة المعاملات H.

هذه النقطة الأخيرة هي أساس NMF لأننا نستطيع أن نعتبر كل مستند أصلي في مثالنا مبنيًا على مجموعة صغيرة من الميزات المخفية. يقوم NMF بإنشاء هذه الميزات.

من المفيد أن نفكر في كل ميزة (متجه عمود) في مصفوفة الميزات W كنموذج أولي للمستند يتألف من مجموعة من الكلمات حيث تحدد قيمة خلية كل كلمة مرتبة الكلمة في الميزة: كلما زادت قيمة خلية الكلمة، زادت مرتبة الكلمة في الميزة. يمثل العمود في مصفوفة المعاملات H مستندًا أصليًا بقيمة خلية تحدد مرتبة المستند لميزة. يمكننا الآن إعادة بناء مستند (متجه عمود) من مصفوفة الإدخال الخاصة بنا من خلال مجموعة خطية من ميزاتنا (متجهات الأعمدة في W ) حيث يتم ترجيح كل ميزة بقيمة خلية الميزة من عمود المستند في H.

تتمتع NMF بخاصية تجميع متأصلة، ^[15] أي أنها تقوم تلقائيًا بتجميع أعمدة بيانات الإدخال . ${\displaystyle \mathbf {V} =(v_{1},\dots ,v_{n})}$

على وجه التحديد، يتم تحقيق التقريب بواسطة من خلال إيجاد و الذي يقلل من دالة الخطأ (باستخدام معيار فروبينيوس ) ${\displaystyle \mathbf {V} }$${\displaystyle \mathbf {V} \simeq \mathbf {W} \mathbf {H} }$${\displaystyle W}$${\displaystyle H}$

${\displaystyle \left\|V-WH\right\|_{F},}$خاضع لـ ، ${\displaystyle W\geq 0,H\geq 0.}$

إذا فرضنا أيضًا قيدًا للتقويم العمودي على ، أي ، فإن التقليل المذكور أعلاه يعادل رياضيًا التقليل من مجموعات K-means . ^[15]${\displaystyle \mathbf {H} }$${\displaystyle \mathbf {H} \mathbf {H} ^{T}=I}$

علاوة على ذلك، يعطي الحساب عضوية المجموعة، أي إذا كان لكل i ≠ k ، فهذا يشير إلى أن بيانات الإدخال تنتمي إلى المجموعة -. يعطي الحساب مراكز ثقل المجموعة، أي أن العمود - يعطي مركز ثقل المجموعة للمجموعة -. يمكن تحسين تمثيل مركز الثقل هذا بشكل كبير من خلال NMF المحدب. ${\displaystyle H}$${\displaystyle \mathbf {H} _{kj}>\mathbf {H} _{ij}}$${\displaystyle v_{j}}$${\displaystyle k}$${\displaystyle W}$${\displaystyle k}$${\displaystyle k}$

عندما لا يتم فرض قيد التقويم العمودي صراحةً، فإن التقويم العمودي يظل ساريًا إلى حد كبير، كما تظل خاصية التجميع سارية أيضًا. ${\displaystyle \mathbf {H} \mathbf {H} ^{T}=I}$

عندما تكون دالة الخطأ التي يجب استخدامها هي تباعد كولباك-ليبلر ، فإن NMF متطابقة مع تحليل الدلالة الكامنة الاحتمالية (PLSA)، وهي طريقة شائعة لتجميع المستندات. ^[16]

عادةً ما يتم تحديد عدد أعمدة W وعدد صفوف H في NMF حتى يصبح حاصل الضرب WH تقريبًا لـ V. ثم يبلغ التحلل الكامل لـ V المصفوفتين غير السالبتين W و H بالإضافة إلى المتبقي U ، بحيث: V = WH + U. يمكن أن تكون عناصر المصفوفة المتبقية إما سالبة أو موجبة.

عندما تكون قيمتا W و H أصغر من قيمتي V، يصبح تخزينهما ومعالجتهما أسهل. وهناك سبب آخر لتحليل V إلى مصفوفات أصغر حجمًا ، W و H ، وهو أنه إذا كان هدف المرء هو تمثيل عناصر V تقريبًا باستخدام بيانات أقل بكثير، فعليه استنتاج بعض الهياكل الكامنة في البيانات.

في NMF القياسي، عامل المصفوفة W ∈ R ₊ ^{m × k} ، أي أن W يمكن أن يكون أي شيء في تلك المساحة. يقيد NMF المحدب ^[17] أعمدة W إلى مجموعات محدبة من متجهات البيانات المدخلة . هذا يحسن بشكل كبير من جودة تمثيل بيانات W. علاوة على ذلك، يصبح عامل المصفوفة الناتج H أكثر ندرة وعمودية. ${\displaystyle (v_{1},\dots ,v_{n})}$

في حالة أن الرتبة غير السلبية لـ V تساوي رتبتها الفعلية، فإن V = WH تسمى تحليل الرتبة غير السلبية (NRF). ^{[18] [19] [20]} ومن المعروف أن مشكلة إيجاد عامل الرتبة غير السلبية لـ V ، إذا كانت موجودة، صعبة NP. ^[21]

هناك أنواع مختلفة من تحليلات المصفوفات غير السلبية. تنشأ الأنواع المختلفة من استخدام وظائف تكلفة مختلفة لقياس التباعد بين V و WH وربما عن طريق تنظيم مصفوفات W و/أو H. ^[1]

هناك دالتان بسيطتان للتباعد درسهما لي وسونغ، وهما الخطأ التربيعي (أو معيار فروبينيوس ) وامتداد تباعد كولباك-ليبلر إلى مصفوفات موجبة ( يتم تعريف تباعد كولباك-ليبلر الأصلي على توزيعات الاحتمالات). يؤدي كل تباعد إلى خوارزمية NMF مختلفة، وعادة ما يتم تقليل التباعد باستخدام قواعد التحديث التكرارية.

يمكن صياغة مشكلة التحليل إلى عوامل في إصدار الخطأ التربيعي لـ NMF على النحو التالي: بالنظر إلى مصفوفة، ابحث عن المصفوفات غير السالبة W وH التي تقلل من الدالة ${\displaystyle \mathbf {V} }$

${\displaystyle F(\mathbf {W} ,\mathbf {H} )=\left\|\mathbf {V} -\mathbf {WH} \right\|_{F}^{2}}$

يعتمد نوع آخر من NMF للصور على معيار التباين الإجمالي . ^[22]

عندما تتم إضافة التنظيم L1 (المشابه لـ Lasso ) إلى NMF مع دالة تكلفة الخطأ التربيعي المتوسط، يمكن تسمية المشكلة الناتجة بالترميز المتفرق غير السلبي بسبب التشابه مع مشكلة الترميز المتفرق ، ^{[23] [24]} على الرغم من أنه لا يزال من الممكن الإشارة إليها باسم NMF. ^[25]

تقوم العديد من خوارزميات NMF القياسية بتحليل جميع البيانات معًا؛ أي أن المصفوفة بأكملها متاحة منذ البداية. قد يكون هذا غير مرضٍ في التطبيقات التي يوجد بها الكثير من البيانات بحيث لا يمكن وضعها في الذاكرة أو حيث يتم توفير البيانات بطريقة متدفقة . أحد هذه الاستخدامات هو الترشيح التعاوني في أنظمة التوصية ، حيث قد يكون هناك العديد من المستخدمين والعديد من العناصر للتوصية بها، وسيكون من غير الفعّال إعادة حساب كل شيء عند إضافة مستخدم واحد أو عنصر واحد إلى النظام. قد تكون دالة التكلفة للتحسين في هذه الحالات هي نفسها بالنسبة لـ NMF القياسية أو لا تكون كذلك، ولكن يجب أن تكون الخوارزميات مختلفة إلى حد ما. ^{[26] [27]}

إذا كانت أعمدة V تمثل بيانات تم أخذ عينات منها عبر أبعاد مكانية أو زمنية، مثل إشارات الوقت أو الصور أو الفيديو، فيمكن تعلم الميزات المتغيرة المتساوية فيما يتعلق بالتحولات على طول هذه الأبعاد بواسطة NMF التلافيفية. في هذه الحالة، تكون W متفرقة مع وجود أعمدة بها نوافذ وزن محلية غير صفرية مشتركة عبر التحولات على طول الأبعاد المكانية الزمنية لـ V ، والتي تمثل نوى الالتفاف . من خلال التجميع المكاني الزمني لـ H واستخدام التمثيل الناتج بشكل متكرر كمدخل إلى NMF التلافيفي، يمكن تعلم التسلسلات الهرمية العميقة للميزات. ^[28]

توجد عدة طرق يمكن من خلالها إيجاد قيمتي W و H : كانت قاعدة التحديث المضاعفة التي وضعها لي وسونغ ^[14] طريقة شائعة بسبب بساطة التنفيذ. هذه الخوارزمية هي:

تهيئة: W و H غير سلبيين.

ثم قم بتحديث القيم في W و H عن طريق حساب ما يلي، مع استخدام مؤشر التكرار.${\displaystyle n}$

${\displaystyle \mathbf {H} _{[i,j]}^{n+1}\leftarrow \mathbf {H} _{[i,j]}^{n}{\frac {((\mathbf {W} ^{n})^{T}\mathbf {V} )_{[i,j]}}{((\mathbf {W} ^{n})^{T}\mathbf {W} ^{n}\mathbf {H} ^{n})_{[i,j]}}}}$

و

${\displaystyle \mathbf {W} _{[i,j]}^{n+1}\leftarrow \mathbf {W} _{[i,j]}^{n}{\frac {(\mathbf {V} (\mathbf {H} ^{n+1})^{T})_{[i,j]}}{(\mathbf {W} ^{n}\mathbf {H} ^{n+1}(\mathbf {H} ^{n+1})^{T})_{[i,j]}}}}$

حتى يصبح W و H مستقرين.

لاحظ أن التحديثات تتم على أساس كل عنصر على حدة وليس على أساس ضرب المصفوفة.

نلاحظ أن عوامل الضرب لـ W و H ، أي حدود و ، هي مصفوفات من الواحدات عندما . ${\textstyle {\frac {\mathbf {W} ^{\mathsf {T}}\mathbf {V} }{\mathbf {W} ^{\mathsf {T}}\mathbf {W} \mathbf {H} }}}$${\textstyle {\textstyle {\frac {\mathbf {V} \mathbf {H} ^{\mathsf {T}}}{\mathbf {W} \mathbf {H} \mathbf {H} ^{\mathsf {T}}}}}}$${\displaystyle \mathbf {V} =\mathbf {W} \mathbf {H} }$

في الآونة الأخيرة، تم تطوير خوارزميات أخرى. تعتمد بعض الأساليب على المربعات الصغرى غير السلبية المتناوبة : في كل خطوة من هذه الخوارزمية، يتم أولاً إصلاح H وإيجاد W بواسطة مُحلل المربعات الصغرى غير السلبية، ثم يتم إصلاح W وإيجاد H بشكل مماثل. قد تكون الإجراءات المستخدمة لحل W و H هي نفسها ^[29] أو مختلفة ، حيث تعمل بعض متغيرات NMF على تنظيم أحد W و H. ^[23] تشمل الأساليب المحددة طرق الانحدار المتدرج المتوقع ، ^{[29] [30]} وطريقة المجموعة النشطة ، ^{[6] [31]} وطريقة التدرج الأمثل، ^[32] وطريقة المحور الرئيسي للكتلة ^[33] من بين العديد من الأساليب الأخرى. ^[34]

الخوارزميات الحالية ليست مثالية لأنها تضمن فقط إيجاد حد أدنى محلي، وليس حدًا أدنى عالميًا لدالة التكلفة. من غير المرجح أن يتم التوصل إلى خوارزمية مثالية يمكن إثباتها في المستقبل القريب حيث ثبت أن المشكلة تعمم مشكلة التجميع باستخدام متوسطات k والتي تُعرف بأنها كاملة NP . ^[35] ومع ذلك، كما هو الحال في العديد من تطبيقات تعدين البيانات الأخرى، قد يظل الحد الأدنى المحلي مفيدًا.

بالإضافة إلى خطوة التحسين، فإن عملية التهيئة لها تأثير كبير على NMF. قد تؤثر القيم الأولية المختارة لـ W و H ليس فقط على معدل التقارب، بل وأيضًا الخطأ الإجمالي عند التقارب. تتضمن بعض خيارات التهيئة التوزيع العشوائي الكامل، وSVD ، وتجميع k-means، واستراتيجيات أكثر تقدمًا بناءً على هذه النماذج وغيرها. ^[36]

تم استخدام البناء المتسلسل لمكونات NMF ( W و H ) أولاً لربط NMF بتحليل المكونات الأساسية (PCA) في علم الفلك. ^[37] يتم تصنيف مساهمة مكونات PCA حسب حجم القيم الذاتية المقابلة لها؛ بالنسبة لـ NMF، يمكن تصنيف مكوناتها تجريبيًا عندما يتم بناؤها واحدة تلو الأخرى (بالتسلسل)، أي معرفة المكون -th مع المكونات الأولى التي تم إنشاؤها. ${\displaystyle (n+1)}$${\displaystyle n}$

يمكن مقارنة مساهمة مكونات NMF المتسلسلة بنظرية كارهونين-لوف ، وهي تطبيق لتحليل مكونات رئيسية، باستخدام رسم القيم الذاتية. يعتمد الاختيار النموذجي لعدد المكونات باستخدام تحليل مكونات رئيسية على نقطة "الكوع"، ثم يشير وجود الهضبة المسطحة إلى أن تحليل مكونات رئيسية لا يلتقط البيانات بكفاءة، وأخيرًا يوجد انخفاض مفاجئ يعكس التقاط الضوضاء العشوائية ويقع في نظام الإفراط في التجهيز. ^{[38] [39]} بالنسبة لتحليل مكونات رئيسية متسلسلة، يتم تقريب رسم القيم الذاتية من خلال رسم منحنيات التباين المتبقي الكسري، حيث تتناقص المنحنيات باستمرار، وتتقارب إلى مستوى أعلى من تحليل مكونات رئيسية، ^[4] وهو مؤشر على الإفراط الأقل في التجهيز لتحليل مكونات رئيسية متسلسلة.

يمكن توقع حلول دقيقة لمتغيرات NMF (في زمن متعدد الحدود) عندما تكون القيود الإضافية سارية على المصفوفة V. قدم كامبل وبول في عام 1981 خوارزمية زمن متعدد الحدود لحل التحليل إلى عوامل غير سلبية إذا كانت V ^{تحتوي على مصفوفة فرعية أحادية الحد من رتبة تساوي رتبتها. [40]} حل كالوفولياس وجالوبولوس (2012) ^[41] النظير المتماثل لهذه المشكلة، حيث تكون V متماثلة وتحتوي على مصفوفة فرعية رئيسية قطرية من الرتبة r. تعمل خوارزميتهم في زمن O(rm ² ) في الحالة الكثيفة. قدم أرورا وجي وهالبيرن وميمنو ومويترا وسونتاغ ووو وزو (2013) خوارزمية زمن متعدد الحدود لـ NMF الدقيق والتي تعمل في الحالة التي يلبي فيها أحد العوامل W شرط الانفصال. ^[42]

في تعلم أجزاء الأشياء عن طريق تحليل العوامل غير السلبية للمصفوفة، اقترح لي وسونغ ^[43] استخدام NMF بشكل أساسي لتحليل الصور على أساس الأجزاء. ويقارن بين NMF وكمية المتجهات وتحليل المكونات الأساسية ، ويُظهر أنه على الرغم من أنه يمكن كتابة التقنيات الثلاث كعوامل، إلا أنها تنفذ قيودًا مختلفة وبالتالي تنتج نتائج مختلفة.

وقد تبين لاحقًا أن بعض أنواع NMF هي مثال لنموذج احتمالي أكثر عمومية يسمى "PCA متعدد الحدود". ^[44] عندما يتم الحصول على NMF عن طريق تقليل تباعد كولباك-ليبلر ، فإنه في الواقع يعادل مثالًا آخر من PCA متعدد الحدود، وهو التحليل الدلالي الكامن الاحتمالي ، ^[45] المدرب من خلال تقدير أقصى احتمال . تُستخدم هذه الطريقة عادةً لتحليل البيانات النصية وتجميعها وترتبط أيضًا بنموذج الفئة الكامنة .

إن NMF مع هدف المربعات الصغرى يعادل شكلًا مريحًا من التجميع باستخدام K-means : حيث يحتوي عامل المصفوفة W على مراكز ثقل المجموعة ويحتوي H على مؤشرات عضوية المجموعة. ^{[15] [46]} وهذا يوفر أساسًا نظريًا لاستخدام NMF لتجميع البيانات. ومع ذلك، لا يفرض k-means عدم السلبية على مراكز ثقله، لذا فإن التشابه الأقرب هو في الواقع مع "شبه NMF". ^[17]

يمكن اعتبار NMF نموذجًا رسوميًا موجهًا من طبقتين مع طبقة واحدة من المتغيرات العشوائية الملاحظة وطبقة واحدة من المتغيرات العشوائية المخفية. ^[47]

يمتد NMF إلى ما هو أبعد من المصفوفات إلى موترات من ترتيب عشوائي. ^{[48] [49] [50]} يمكن اعتبار هذا الامتداد بمثابة نظير غير سلبي لنموذج PARAFAC ، على سبيل المثال .

تتضمن التوسعات الأخرى لـ NMF التحليل المشترك لعدة مصفوفات بيانات وموترات حيث يتم مشاركة بعض العوامل. مثل هذه النماذج مفيدة لدمج المستشعرات والتعلم العلائقي. ^[51]

إن NMF هي مثال على البرمجة التربيعية غير السلبية ، تمامًا مثل آلة الدعم المتجهي (SVM). ومع ذلك، فإن SVM وNMF مرتبطان على مستوى أكثر حميمية من مستوى NQP، مما يسمح بالتطبيق المباشر لخوارزميات الحل التي تم تطويرها لأي من الطريقتين على المشكلات في كلا المجالين. ^[52]

التحليل إلى عوامل ليس فريدًا: يمكن استخدام المصفوفة وعكسها لتحويل مصفوفتي التحليل إلى عوامل، على سبيل المثال، ^[53]

${\displaystyle \mathbf {WH} =\mathbf {WBB} ^{-1}\mathbf {H} }$

إذا كانت المصفوفتان الجديدتان و غير سلبيتين، فإنهما تشكلان معلمة أخرى للتحليل إلى عوامل. ${\displaystyle \mathbf {{\tilde {W}}=WB} }$${\displaystyle \mathbf {\tilde {H}} =\mathbf {B} ^{-1}\mathbf {H} }$

تنطبق عدم السالبية لـ و على الأقل إذا كانت B مصفوفة أحادية الحد غير سالبة . في هذه الحالة البسيطة، ستتوافق فقط مع التدرج والتبديل . ${\displaystyle \mathbf {\tilde {W}} }$${\displaystyle \mathbf {\tilde {H}} }$

يتم الحصول على مزيد من التحكم في عدم تفرد NMF من خلال قيود الندرة. ^[54]

في علم الفلك، يعد NMF طريقة واعدة لتقليل الأبعاد بمعنى أن الإشارات الفيزيائية الفلكية غير سلبية. تم تطبيق NMF على الملاحظات الطيفية ^{[55] [3]} وملاحظات التصوير المباشر ^[4] كطريقة لدراسة الخصائص المشتركة للأجسام الفلكية ومعالجة الملاحظات الفلكية بعد ذلك. تأخذ التطورات في الملاحظات الطيفية التي أجراها بلانتون ورويس (2007) ^[3] في الاعتبار عدم اليقين في الملاحظات الفلكية، والتي تم تحسينها لاحقًا بواسطة Zhu (2016) ^[37] حيث تم أيضًا اعتبار البيانات المفقودة وتمكين الحوسبة المتوازية . ثم تم اعتماد طريقتهم بواسطة Ren et al. (2018) ^[4] في مجال التصوير المباشر كواحدة من طرق اكتشاف الكواكب الخارجية ، وخاصة للتصوير المباشر للأقراص المحيطة بالنجوم .

تمكن رين وآخرون (2018) ^{[4] من إثبات استقرار مكونات NMF عندما يتم إنشاؤها بشكل متسلسل (أي واحدًا تلو الآخر)، مما يتيح} خطية عملية نمذجة NMF؛ تُستخدم خاصية الخطية لفصل الضوء النجمي والضوء المتناثر من الكواكب الخارجية والأقراص المحيطة بالنجوم .

في التصوير المباشر، للكشف عن الكواكب الخارجية الخافتة والأقراص المحيطة بالنجوم من الأضواء النجمية الساطعة المحيطة، والتي لها تباين نموذجي من 10⁵ إلى 10¹⁰، تم اعتماد طرق إحصائية مختلفة، ^{[56] [57] [38]} ومع ذلك، فإن الضوء من الكواكب الخارجية أو الأقراص المحيطة بالنجوم عادة ما يكون مفرط التجهيز، حيث يجب اعتماد النمذجة الأمامية لاستعادة التدفق الحقيقي. ^{[58] [39]} يتم تحسين النمذجة الأمامية حاليًا للمصادر النقطية، ^[39] ولكن ليس للمصادر الممتدة، وخاصة للهياكل ذات الشكل غير المنتظم مثل الأقراص المحيطة بالنجوم. في هذه الحالة، كانت NMF طريقة ممتازة، كونها أقل ملاءمة بمعنى عدم السلبية وندرة معاملات نمذجة NMF، وبالتالي يمكن إجراء النمذجة الأمامية بعوامل مقياس قليلة، ^[4] بدلاً من إعادة تقليل البيانات المكثفة حسابيًا على النماذج المولدة.

لاحتساب البيانات المفقودة في الإحصاء، يمكن لـ NMF أخذ البيانات المفقودة مع تقليل دالة التكلفة الخاصة بها، بدلاً من التعامل مع هذه البيانات المفقودة كأصفار. ^[5] وهذا يجعلها طريقة مثبتة رياضيًا لاحتساب البيانات في الإحصاء. ^[5] من خلال إثبات تجاهل البيانات المفقودة أولاً في دالة التكلفة، ثم إثبات أن التأثير الناتج عن البيانات المفقودة يمكن أن يكون صغيرًا مثل تأثير من الدرجة الثانية، درس رين وآخرون (2020) ^[5] وطبقوا مثل هذا النهج في مجال علم الفلك. يركز عملهم على المصفوفات ثنائية الأبعاد، على وجه التحديد، ويشمل الاشتقاق الرياضي، واحتساب البيانات المحاكاة، والتطبيق على البيانات الموجودة في السماء.

يمكن أن تتكون عملية احتساب البيانات باستخدام NMF من خطوتين. أولاً، عندما تكون مكونات NMF معروفة، أثبت رين وآخرون (2020) أن التأثير الناتج عن البيانات المفقودة أثناء احتساب البيانات ("نمذجة الهدف" في دراستهم) هو تأثير من الدرجة الثانية. ثانيًا، عندما تكون مكونات NMF غير معروفة، أثبت المؤلفون أن التأثير الناتج عن البيانات المفقودة أثناء إنشاء المكونات هو تأثير من الدرجة الأولى إلى الثانية.

اعتمادًا على الطريقة التي يتم بها الحصول على مكونات NMF، يمكن أن تكون الخطوة السابقة أعلاه مستقلة أو تابعة للأخيرة. بالإضافة إلى ذلك، يمكن زيادة جودة الإسناد عند استخدام المزيد من مكونات NMF، انظر الشكل 4 من Ren et al. (2020) لتوضيحهم. ^[5]

يمكن استخدام NMF في تطبيقات تعدين النصوص . في هذه العملية، يتم إنشاء مصفوفة مستند-مصطلح باستخدام أوزان المصطلحات المختلفة (عادةً معلومات تردد الكلمات المرجحة) من مجموعة من المستندات. يتم تقسيم هذه المصفوفة إلى مصفوفة مصطلح-ميزة ومصفوفة ميزة-وثيقة . يتم استخلاص الميزات من محتويات المستندات، وتصف مصفوفة ميزة-وثيقة مجموعات البيانات للمستندات ذات الصلة.

استخدم تطبيق محدد NMF هرميًا على مجموعة فرعية صغيرة من الملخصات العلمية من PubMed . ^[59] قامت مجموعة بحثية أخرى بتجميع أجزاء من مجموعة بيانات البريد الإلكتروني لشركة Enron ^[60] مع 65033 رسالة و91133 مصطلحًا في 50 مجموعة. ^[61] تم تطبيق NMF أيضًا على بيانات الاستشهادات، مع وجود مثال واحد لتجميع مقالات ويكيبيديا الإنجليزية والمجلات العلمية بناءً على الاستشهادات العلمية الصادرة في ويكيبيديا الإنجليزية. ^[62]

قدم أرورا، وجي، وهالبيرن، وميمنو، ومويترا، وسونتاغ، وو، وزو (2013) خوارزميات زمنية متعددة الحدود لتعلم نماذج الموضوعات باستخدام NMF. تفترض الخوارزمية أن مصفوفة الموضوعات تلبي شرط الانفصال الذي غالبًا ما يوجد في هذه الإعدادات. ^[42]

اقترح حسني وإيرانمانش ومنصوري (2019) طريقة تجميع الميزات لمصفوفات المصطلحات والمستندات والتي تعمل باستخدام NMF. تقلل الخوارزمية مصفوفة المصطلحات والمستندات إلى مصفوفة أصغر وأكثر ملاءمة لتجميع النصوص. ^[63]

تُستخدم أيضًا تقنية NMF لتحليل البيانات الطيفية؛ ومن بين هذه الاستخدامات تصنيف الأجسام الفضائية والحطام. ^[64]

يتم تطبيق NMF في التنبؤ بمسافة الإنترنت القابلة للتطوير (وقت الذهاب والإياب). بالنسبة للشبكة التي تحتوي على مضيفين، بمساعدة NMF، يمكن التنبؤ بمسافات جميع الروابط من البداية إلى النهاية بعد إجراء القياسات فقط. تم تقديم هذا النوع من الطريقة لأول مرة في خدمة تقدير مسافة الإنترنت (IDES). ^[65] بعد ذلك، كنهج لامركزي بالكامل، تم اقتراح نظام إحداثيات شبكة Phoenix ^[66] . إنه يحقق دقة تنبؤ أفضل بشكل عام من خلال تقديم مفهوم الوزن. ${\displaystyle N}$${\displaystyle N^{2}}$${\displaystyle O(N)}$

لقد كانت إزالة الضوضاء من الكلام مشكلة طويلة الأمد في معالجة إشارات الصوت . هناك العديد من الخوارزميات لإزالة الضوضاء إذا كانت الضوضاء ثابتة. على سبيل المثال، مرشح وينر مناسب للضوضاء الغوسية المضافة . ومع ذلك، إذا كانت الضوضاء غير ثابتة، فإن خوارزميات إزالة الضوضاء الكلاسيكية عادةً ما يكون أداءها ضعيفًا لأن المعلومات الإحصائية للضوضاء غير الثابتة يصعب تقديرها. يستخدم شميدت وآخرون ^[67] NMF لإزالة الضوضاء من الكلام في ظل الضوضاء غير الثابتة، وهو ما يختلف تمامًا عن الأساليب الإحصائية الكلاسيكية. الفكرة الأساسية هي أنه يمكن تمثيل إشارة الكلام النظيفة بشكل متفرق بواسطة قاموس الكلام، ولكن الضوضاء غير الثابتة لا يمكن ذلك. وبالمثل، يمكن أيضًا تمثيل الضوضاء غير الثابتة بشكل متفرق بواسطة قاموس الضوضاء، ولكن الكلام لا يمكن ذلك.

تتم خوارزمية إزالة الضوضاء باستخدام NMF على النحو التالي. يلزم تدريب قاموسين، أحدهما للكلام والآخر للضوضاء، دون اتصال بالإنترنت. بمجرد إعطاء كلام مشوش، نحسب أولاً حجم تحويل فورييه قصير المدى. ثانيًا، نقسمه إلى جزأين عبر NMF، يمكن تمثيل أحدهما بشكل متفرق بواسطة قاموس الكلام، ويمكن تمثيل الجزء الآخر بشكل متفرق بواسطة قاموس الضوضاء. ثالثًا، سيكون الجزء الذي يمثله قاموس الكلام هو الكلام النظيف المقدر.

تُستخدم خوارزمية NMF المتفرقة في علم الوراثة السكانية لتقدير معاملات الاختلاط الفردية، أو الكشف عن مجموعات جينية من الأفراد في عينة سكانية أو تقييم الاختلاط الجيني في الجينومات المأخوذة من العينات. في التجميع الجيني البشري، توفر خوارزميات NMF تقديرات مماثلة لتلك الخاصة ببرنامج الكمبيوتر STRUCTURE، لكن الخوارزميات أكثر كفاءة من الناحية الحسابية وتسمح بتحليل مجموعات بيانات جينومية سكانية كبيرة. ^[68]

تم تطبيق NMF بنجاح في المعلوماتية الحيوية لتجميع بيانات التعبير الجيني ومثيلة الحمض النووي وإيجاد الجينات الأكثر تمثيلاً للمجموعات. ^{[24] [69] [70] [71]} في تحليل طفرات السرطان، تم استخدامه لتحديد الأنماط الشائعة للطفرات التي تحدث في العديد من أنواع السرطان والتي ربما يكون لها أسباب مميزة. ^[72] يمكن لتقنيات NMF تحديد مصادر التباين مثل أنواع الخلايا وأنواع الأمراض الفرعية وتقسيم السكان وتكوين الأنسجة واستنساخ الورم. ^[73]

تم استخدام متغير معين من NMF، ألا وهو التحليل الثلاثي للمصفوفة غير السلبية (NMTF)، ^{[74] في مهام} إعادة استخدام الأدوية من أجل التنبؤ بأهداف البروتين الجديدة والمؤشرات العلاجية للأدوية المعتمدة ^[75] واستنتاج زوج من الأدوية المضادة للسرطان التآزرية. ^[76]

تم استخدام NMF، والذي يُشار إليه أيضًا في هذا المجال باسم تحليل العوامل، منذ ثمانينيات القرن العشرين ^[77] لتحليل تسلسلات الصور في التصوير الطبي الديناميكي SPECT و PET . تمت معالجة عدم تفرد NMF باستخدام قيود الندرة. ^{[78] [79] [80]}

This section needs to be updated. Please help update this article to reflect recent events or newly available information. (February 2024)

تشمل الأبحاث الحالية (منذ عام 2010) في تحليل العوامل غير السلبية للمصفوفة، على سبيل المثال لا الحصر،

1. الخوارزمية: البحث عن الحد الأدنى العالمي للعوامل وتهيئة العوامل. ^[81]
2. قابلية التوسع: كيفية تحليل ملايين المصفوفات إلى عوامل، وهو أمر شائع في تعدين البيانات على نطاق الويب، على سبيل المثال، انظر تحليل العوامل غير السلبية الموزعة للمصفوفات (DNMF)، ^[82] تحليل العوامل غير السلبية القابلة للتوسع للمصفوفات (ScalableNMF)، ^[83] تحليل القيمة المفردة العشوائية الموزعة. ^[84]
3. عبر الإنترنت: كيفية تحديث التحليل إلى عوامل عند ورود بيانات جديدة دون إعادة الحساب من البداية، على سبيل المثال، راجع CNSC عبر الإنترنت ^[85]
4. التحليل الجماعي (المشترك): تحليل مصفوفات متعددة مترابطة إلى عوامل من أجل التعلم متعدد المنظور، على سبيل المثال التجميع متعدد المنظور، انظر CoNMF ^[86] وMultiNMF ^[87]
5. مشكلة كوهين وروثبلوم 1993: ما إذا كانت المصفوفة العقلانية تحتوي دائمًا على عامل طبيعي نسبي ذي بعد داخلي ضئيل وعوامله عقلانية أيضًا. مؤخرًا، تمت الإجابة على هذه المشكلة بشكل سلبي. ^[88]

• الجبر المتعدد الخطوط
• التعلم في الفضاء الفرعي متعدد الخطوط
• الموتر
• تحلل الموتر
• برنامج Tensor