تحليل المكونات الرئيسية

Part of a series on
Machine learning and data mining
Paradigms Supervised learning Unsupervised learning Semi-supervised learning Self-supervised learning Reinforcement learning Meta-learning Online learning Batch learning Curriculum learning Rule-based learning Neuro-symbolic AI Neuromorphic engineering Quantum machine learning
Problems Classification Generative modeling Regression Clustering Dimensionality reduction Density estimation Anomaly detection Data cleaning AutoML Association rules Semantic analysis Structured prediction Feature engineering Feature learning Learning to rank Grammar induction Ontology learning Multimodal learning
Supervised learning (classification • regression) Apprenticeship learning Decision trees Ensembles Bagging Boosting Random forest k-NN Linear regression Naive Bayes Artificial neural networks Logistic regression Perceptron Relevance vector machine (RVM) Support vector machine (SVM)
Clustering BIRCH CURE Hierarchical k-means Fuzzy Expectation–maximization (EM) DBSCAN OPTICS Mean shift
Dimensionality reduction Factor analysis CCA ICA LDA NMF PCA PGD t-SNE SDL
Structured prediction Graphical models Bayes net Conditional random field Hidden Markov
Anomaly detection RANSAC k-NN Local outlier factor Isolation forest
Artificial neural network Autoencoder Deep learning Feedforward neural network Recurrent neural network LSTM GRU ESN reservoir computing Boltzmann machine Restricted GAN Diffusion model SOM Convolutional neural network U-Net LeNet AlexNet DeepDream Neural radiance field Transformer Vision Mamba Spiking neural network Memtransistor Electrochemical RAM (ECRAM)
Reinforcement learning Q-learning SARSA Temporal difference (TD) Multi-agent Self-play
Learning with humans Active learning Crowdsourcing Human-in-the-loop RLHF
Model diagnostics Coefficient of determination Confusion matrix Learning curve ROC curve
Mathematical foundations Kernel machines Bias–variance tradeoff Computational learning theory Empirical risk minimization Occam learning PAC learning Statistical learning VC theory
Journals and conferences ECML PKDD NeurIPS ICML ICLR IJCAI ML JMLR
Related articles Glossary of artificial intelligence List of datasets for machine-learning research List of datasets in computer vision and image processing Outline of machine learning
v t e

تحليل المكونات الأساسية ( PCA ) هي تقنية تقليل الأبعاد الخطية مع تطبيقات في تحليل البيانات الاستكشافية والتصور ومعالجة البيانات المسبقة .

يتم تحويل البيانات خطيًا إلى نظام إحداثيات جديد بحيث يمكن التعرف بسهولة على الاتجاهات (المكونات الرئيسية) التي تلتقط أكبر اختلاف في البيانات.

المكونات الرئيسية لمجموعة من النقاط في فضاء إحداثي حقيقي هي سلسلة من متجهات الوحدة ، حيث يكون المتجه - هو اتجاه الخط الذي يناسب البيانات بشكل أفضل مع كونه متعامدًا مع المتجهات الأولى . هنا، يتم تعريف الخط الأكثر ملاءمة على أنه الخط الذي يقلل من متوسط ​​المسافة العمودية التربيعية من النقاط إلى الخط . تشكل هذه الاتجاهات (أي المكونات الرئيسية) أساسًا متعامدًا حيث تكون الأبعاد الفردية المختلفة للبيانات غير مرتبطة خطيًا . تستخدم العديد من الدراسات المكونين الرئيسيين الأولين من أجل رسم البيانات في بعدين وتحديد مجموعات من نقاط البيانات ذات الصلة الوثيقة بصريًا. ^[1]${\displaystyle p}$ ${\displaystyle i}$${\displaystyle i-1}$

تحليل المكونات الرئيسية له تطبيقات في العديد من المجالات مثل علم الوراثة السكانية ، ودراسات الميكروبيوم ، وعلوم الغلاف الجوي .

عند إجراء تحليل مكونات رئيسية، يكون المكون الرئيسي الأول لمجموعة من المتغيرات هو المتغير المشتق الذي تم تشكيله كتركيبة خطية للمتغيرات الأصلية التي تفسر أكبر قدر من التباين. ويفسر المكون الرئيسي الثاني أكبر قدر من التباين فيما تبقى بمجرد إزالة تأثير المكون الأول، وقد نستمر في التكرارات حتى يتم تفسير كل التباين. يُستخدم تحليل مكونات رئيسية بشكل شائع عندما تكون العديد من المتغيرات مرتبطة ارتباطًا وثيقًا ببعضها البعض ومن المرغوب فيه تقليل عددها إلى مجموعة مستقلة. يمكن تعريف المكون الرئيسي الأول على نحو مكافئ على أنه اتجاه يزيد من تباين البيانات المتوقعة. يمكن اعتبار المكون الرئيسي -th اتجاهًا متعامدًا على المكونات الرئيسية الأولى التي تزيد من تباين البيانات المتوقعة. ${\displaystyle p}$${\displaystyle p}$${\displaystyle i}$${\displaystyle i-1}$

بالنسبة لأي من الهدفين، يمكن إظهار أن المكونات الرئيسية هي متجهات ذاتية لمصفوفة تباين البيانات . وبالتالي، غالبًا ما يتم حساب المكونات الرئيسية من خلال التحليل الذاتي لمصفوفة تباين البيانات أو تحليل القيمة المفردة لمصفوفة البيانات. يعد تحليل المكونات الرئيسية أبسط تحليلات متعددة المتغيرات تعتمد على متجه ذاتي حقيقي وهو وثيق الصلة بتحليل العوامل . يتضمن تحليل العوامل عادةً افتراضات أكثر تحديدًا للمجال حول البنية الأساسية ويحل متجهات ذاتية لمصفوفة مختلفة قليلاً. يرتبط تحليل المكونات الرئيسية أيضًا بتحليل الارتباط القياسي (CCA) . يحدد تحليل الارتباط القياسي أنظمة إحداثيات تصف بشكل مثالي التباين المتبادل بين مجموعتي بيانات بينما يحدد تحليل المكونات الرئيسية نظام إحداثيات متعامد جديد يصف بشكل مثالي التباين في مجموعة بيانات واحدة. ^{[2] [3] [4] [5]} كما تم اقتراح متغيرات قوية وقائمة على معيار L1 لتحليل المكونات الرئيسية القياسي. ^{[6] [7] [8] [5]}

تم اختراع PCA في عام 1901 بواسطة كارل بيرسون ، ^[9] كنظير لنظرية المحور الرئيسي في الميكانيكا؛ تم تطويرها لاحقًا بشكل مستقل وتسميتها بواسطة هارولد هوتلينج في ثلاثينيات القرن العشرين. ^[10] اعتمادًا على مجال التطبيق، يُطلق عليه أيضًا تحويل كارهونين-لوف المنفصل (KLT) في معالجة الإشارات ، وتحويل هوتلينج في مراقبة الجودة المتعددة المتغيرات، والتحلل المتعامد المناسب (POD) في الهندسة الميكانيكية، وتحليل القيمة المفردة (SVD) لـ X (اخترع في الربع الأخير من القرن التاسع عشر ^[11] )، وتحليل القيمة الذاتية (EVD) لـ X ^T X في الجبر الخطي، وتحليل العوامل (لمناقشة الاختلافات بين تحليل المكونات الرئيسية وتحليل العوامل، انظر الفصل 7 من تحليل المكونات الرئيسية لجوليف )، ^[12] نظرية إيكارت-يونج (هارمان، 1960)، أو الدوال المتعامدة التجريبية (EOF) في علم الأرصاد الجوية (لورنز، 1956)، وتحليل الدوال الذاتية التجريبية (سيروفيتش، 1987)، والأوضاع شبه التوافقية (بروكس وآخرون، 1988)، والتحلل الطيفي في الضوضاء والاهتزاز، والتحليل النمطي التجريبي في الديناميكيات الهيكلية.

يمكن تصور التحليل الأساسي للبيانات على أنه تركيب شكل بيضاوي ذي أبعاد p للبيانات، حيث يمثل كل محور من محاور الشكل البيضاوي مكونًا رئيسيًا. إذا كان أحد محاور الشكل البيضاوي صغيرًا، فإن التباين على طول هذا المحور يكون صغيرًا أيضًا.

لإيجاد محاور القطع الناقص، يجب علينا أولاً تركيز قيم كل متغير في مجموعة البيانات على 0 عن طريق طرح متوسط ​​قيم المتغير المرصودة من كل من هذه القيم. تُستخدم هذه القيم المحولة بدلاً من القيم المرصودة الأصلية لكل متغير. بعد ذلك، نحسب مصفوفة التباين للبيانات ونحسب القيم الذاتية والمتجهات الذاتية المقابلة لمصفوفة التباين هذه. بعد ذلك، يجب علينا تطبيع كل من المتجهات الذاتية المتعامدة لتحويلها إلى متجهات وحدة. بمجرد القيام بذلك، يمكن تفسير كل من المتجهات الذاتية المتعامدة المتبادلة كمحور للقطع الناقص الملائم للبيانات. سيؤدي اختيار الأساس هذا إلى تحويل مصفوفة التباين إلى شكل قطري، حيث تمثل العناصر القطرية تباين كل محور. يمكن حساب نسبة التباين الذي يمثله كل متجه ذاتي عن طريق قسمة القيمة الذاتية المقابلة لهذا المتجه الذاتي على مجموع كل القيم الذاتية.

يتم استخدام المخططات الثنائية ومخططات التباين الموضحة (درجة التباين الموضح ) لتفسير نتائج تحليل المكونات الرئيسية.

يتم تعريف PCA على أنه تحويل خطي متعامد على مساحة حاصل ضرب داخلي حقيقية يحول البيانات إلى نظام إحداثيات جديد بحيث يصبح أعظم تباين من خلال بعض الإسقاطات القياسية للبيانات يقع على الإحداثي الأول (يسمى المكون الرئيسي الأول)، وثاني أعظم تباين على الإحداثي الثاني، وهكذا. ^[12]

خذ في الاعتبار مصفوفة بيانات ، X ، مع متوسط ​​تجريبي على مستوى العمود يساوي صفرًا (تم تحويل متوسط ​​العينة لكل عمود إلى الصفر)، حيث يمثل كل صف من الصفوف n تكرارًا مختلفًا للتجربة، ويعطي كل عمود من الأعمدة p نوعًا معينًا من الميزات (على سبيل المثال، النتائج من مستشعر معين). ${\displaystyle n\times p}$

رياضيًا، يتم تعريف التحويل من خلال مجموعة من أحجام متجهات الأبعاد p للأوزان أو المعاملات التي تربط كل متجه صف من X بمتجه جديد من درجات المكونات الأساسية ، والتي يتم إعطاؤها بواسطة ${\displaystyle l}$${\displaystyle \mathbf {w} _{(k)}=(w_{1},\dots ,w_{p})_{(k)}}$${\displaystyle \mathbf {x} _{(i)}=(x_{1},\dots ,x_{p})_{(i)}}$ ${\displaystyle \mathbf {t} _{(i)}=(t_{1},\dots ,t_{l})_{(i)}}$

${\displaystyle {t_{k}}_{(i)}=\mathbf {x} _{(i)}\cdot \mathbf {w} _{(k)}\qquad \mathrm {for} \qquad i=1,\dots ,n\qquad k=1,\dots ,l}$

بطريقة تجعل المتغيرات الفردية لـ t التي تم أخذها في الاعتبار عبر مجموعة البيانات ترث على التوالي أقصى تباين ممكن من X ، مع تقييد كل متجه معامل w ليكون متجه وحدة (حيث يتم عادةً اختياره ليكون أقل بشكل صارم من لتقليل الأبعاد). ${\displaystyle t_{1},\dots ,t_{l}}$${\displaystyle l}$${\displaystyle p}$

يمكن كتابة ما ورد أعلاه بشكل مكافئ في شكل مصفوفة على النحو التالي:

${\displaystyle \mathbf {T} =\mathbf {X} \mathbf {W} }$

أين ، ، و . ${\displaystyle {\mathbf {T} }_{ik}={t_{k}}_{(i)}}$${\displaystyle {\mathbf {X} }_{ij}={x_{j}}_{(i)}}$${\displaystyle {\mathbf {W} }_{jk}={w_{j}}_{(k)}}$

من أجل تعظيم التباين، يجب أن يلبي متجه الوزن الأول w ₍₁₎

${\displaystyle \mathbf {w} _{(1)}=\arg \max _{\Vert \mathbf {w} \Vert =1}\,\left\{\sum _{i}(t_{1})_{(i)}^{2}\right\}=\arg \max _{\Vert \mathbf {w} \Vert =1}\,\left\{\sum _{i}\left(\mathbf {x} _{(i)}\cdot \mathbf {w} \right)^{2}\right\}}$

على نحو مكافئ، كتابة هذا في شكل مصفوفة يعطي

${\displaystyle \mathbf {w} _{(1)}=\arg \max _{\left\|\mathbf {w} \right\|=1}\left\{\left\|\mathbf {Xw} \right\|^{2}\right\}=\arg \max _{\left\|\mathbf {w} \right\|=1}\left\{\mathbf {w} ^{\mathsf {T}}\mathbf {X} ^{\mathsf {T}}\mathbf {Xw} \right\}}$

نظرًا لأن w ₍₁₎ تم تعريفه على أنه متجه وحدة، فإنه يلبي أيضًا بشكل مكافئ

${\displaystyle \mathbf {w} _{(1)}=\arg \max \left\{{\frac {\mathbf {w} ^{\mathsf {T}}\mathbf {X} ^{\mathsf {T}}\mathbf {Xw} }{\mathbf {w} ^{\mathsf {T}}\mathbf {w} }}\right\}}$

يمكن التعرف على الكمية المراد تعظيمها على أنها حاصل رايلي . النتيجة القياسية لمصفوفة شبه محددة موجبة مثل X ^T X هي أن أقصى قيمة ممكنة للحاصل هي أكبر قيمة ذاتية للمصفوفة، والتي تحدث عندما يكون w هو المتجه الذاتي المقابل .

مع إيجاد w ₍₁₎ ، يمكن بعد ذلك إعطاء المكون الرئيسي الأول لمتجه البيانات x _{( i ) على هيئة درجة} t _{1( i )} = x _{( i )} ⋅ w ₍₁₎ في الإحداثيات المحولة، أو على هيئة المتجه المقابل في المتغيرات الأصلية، { x _{( i )} ⋅ w ₍₁₎ } w ₍₁₎ .

يمكن إيجاد المكون k عن طريق طرح أول مكونات رئيسية k  − 1 من X :

${\displaystyle \mathbf {\hat {X}} _{k}=\mathbf {X} -\sum _{s=1}^{k-1}\mathbf {X} \mathbf {w} _{(s)}\mathbf {w} _{(s)}^{\mathsf {T}}}$

ثم إيجاد متجه الوزن الذي يستخرج أقصى تباين من مصفوفة البيانات الجديدة هذه

${\displaystyle \mathbf {w} _{(k)}=\mathop {\operatorname {arg\,max} } _{\left\|\mathbf {w} \right\|=1}\left\{\left\|\mathbf {\hat {X}} _{k}\mathbf {w} \right\|^{2}\right\}=\arg \max \left\{{\tfrac {\mathbf {w} ^{\mathsf {T}}\mathbf {\hat {X}} _{k}^{\mathsf {T}}\mathbf {\hat {X}} _{k}\mathbf {w} }{\mathbf {w} ^{T}\mathbf {w} }}\right\}}$

يتبين أن هذا يعطي المتجهات الذاتية المتبقية لـ X ^T X ، مع القيم القصوى للكمية بين قوسين المعطاة بواسطة القيم الذاتية المقابلة لها. وبالتالي فإن متجهات الوزن هي متجهات ذاتية لـ X ^T X.

وبالتالي، يمكن إعطاء المكون الرئيسي k لمتجه البيانات x (i) على هيئة درجة t k ( i _{) = x} ( _{i ) ⋅ w} ( k _{) في الإحداثيات} المحولة ، _{أو على هيئة} المتجه المقابل في فضاء المتغيرات الأصلية، { x ( _{i ) ⋅} w ( _{k ) }} w ( _{k ) ،} حيث w _{( k )} هو المتجه الذاتي k لـ X ^T X.

وبالتالي، يمكن إعطاء التحلل الكامل للمكونات الأساسية لـ X على النحو التالي:

${\displaystyle \mathbf {T} =\mathbf {X} \mathbf {W} }$

حيث W عبارة عن مصفوفة p -by- p من الأوزان التي تكون أعمدتها عبارة عن متجهات ذاتية لـ X ^T X. يُطلق على نقل W أحيانًا اسم تحويل التبييض أو التكوير . تُسمى أعمدة W المضروبة في الجذر التربيعي للقيم الذاتية المقابلة، أي المتجهات الذاتية التي يتم تكبيرها بواسطة التباينات، أحمالًا في تحليل المكونات الرئيسية أو في تحليل العوامل.

يمكن التعرف على X ^T X نفسها على أنها متناسبة مع مصفوفة تباين العينة التجريبية لمجموعة البيانات X ^T. [ ^{12] : 30–31}

يتم إعطاء تباين العينة Q بين اثنين من المكونات الرئيسية المختلفة على مجموعة البيانات بواسطة:

${\displaystyle {\begin{aligned}Q(\mathrm {PC} _{(j)},\mathrm {PC} _{(k)})&\propto (\mathbf {X} \mathbf {w} _{(j)})^{\mathsf {T}}(\mathbf {X} \mathbf {w} _{(k)})\\&=\mathbf {w} _{(j)}^{\mathsf {T}}\mathbf {X} ^{\mathsf {T}}\mathbf {X} \mathbf {w} _{(k)}\\&=\mathbf {w} _{(j)}^{\mathsf {T}}\lambda _{(k)}\mathbf {w} _{(k)}\\&=\lambda _{(k)}\mathbf {w} _{(j)}^{\mathsf {T}}\mathbf {w} _{(k)}\end{aligned}}}$

حيث تم استخدام خاصية القيمة الذاتية لـ w _{( k )} للانتقال من الخط 2 إلى الخط 3. ومع ذلك، فإن المتجهات الذاتية w _{( j )} و w _{( k )} المقابلة للقيم الذاتية لمصفوفة متماثلة تكون متعامدة (إذا كانت القيم الذاتية مختلفة)، أو يمكن أن تكون متعامدة (إذا كانت المتجهات تشترك في قيمة متكررة متساوية). وبالتالي فإن حاصل الضرب في الخط النهائي يساوي صفرًا؛ ولا يوجد تباين في العينة بين المكونات الرئيسية المختلفة عبر مجموعة البيانات.

لذلك فإن هناك طريقة أخرى لوصف تحويل المكونات الأساسية وهي التحويل إلى إحداثيات تجعل مصفوفة تباين العينة التجريبية قطرية.

في شكل مصفوفة، يمكن كتابة مصفوفة التغاير التجريبي للمتغيرات الأصلية

${\displaystyle \mathbf {Q} \propto \mathbf {X} ^{\mathsf {T}}\mathbf {X} =\mathbf {W} \mathbf {\Lambda } \mathbf {W} ^{\mathsf {T}}}$

تصبح مصفوفة التباين التجريبية بين المكونات الرئيسية

${\displaystyle \mathbf {W} ^{\mathsf {T}}\mathbf {Q} \mathbf {W} \propto \mathbf {W} ^{\mathsf {T}}\mathbf {W} \,\mathbf {\Lambda } \,\mathbf {W} ^{\mathsf {T}}\mathbf {W} =\mathbf {\Lambda } }$

حيث Λ هي المصفوفة القطرية للقيم الذاتية λ _{( k )} لـ X ^T X. λ _{( k )} تساوي مجموع المربعات على مجموعة البيانات المرتبطة بكل مكون k ، أي λ _{( k )} = Σ i t _k ² _{( i )} = _{Σ i} ( x _{( i )} ⋅ w _{( k )} ) ² .

يقوم التحويل T = X W بتعيين متجه بيانات x _{( i )} من مساحة أصلية من متغيرات p إلى مساحة جديدة من متغيرات p غير مرتبطة عبر مجموعة البيانات. ومع ذلك، لا يلزم الاحتفاظ بجميع المكونات الرئيسية. يؤدي الاحتفاظ بالمكونات الرئيسية L الأولى فقط ، والتي تم إنتاجها باستخدام متجهات L الذاتية الأولى فقط ، إلى الحصول على التحويل المقطوع

${\displaystyle \mathbf {T} _{L}=\mathbf {X} \mathbf {W} _{L}}$

حيث تحتوي المصفوفة T _L الآن على n صفًا ولكن فقط L عمودًا. بعبارة أخرى، يتعلم تحليل المكونات الرئيسية تحويلًا خطيًا حيث تشكل أعمدة مصفوفة p × L أساسًا متعامدًا لسمات L (مكونات التمثيل t ) غير المرتبطة. ^[13] من خلال البناء، من بين جميع مصفوفات البيانات المحولة التي تحتوي على L عمود فقط، تعمل مصفوفة النتيجة هذه على تعظيم التباين في البيانات الأصلية التي تم الحفاظ عليها، مع تقليل خطأ إعادة البناء التربيعي الإجمالي أو . ${\displaystyle t=W_{L}^{\mathsf {T}}x,x\in \mathbb {R} ^{p},t\in \mathbb {R} ^{L},}$${\displaystyle W_{L}}$${\displaystyle \|\mathbf {T} \mathbf {W} ^{T}-\mathbf {T} _{L}\mathbf {W} _{L}^{T}\|_{2}^{2}}$${\displaystyle \|\mathbf {X} -\mathbf {X} _{L}\|_{2}^{2}}$

يمكن أن يكون هذا التخفيض في الأبعاد خطوة مفيدة للغاية لتصور ومعالجة مجموعات البيانات عالية الأبعاد، مع الاحتفاظ بأكبر قدر ممكن من التباين في مجموعة البيانات. على سبيل المثال، يؤدي تحديد L  = 2 والاحتفاظ فقط بالمكونين الرئيسيين الأولين إلى إيجاد المستوى ثنائي الأبعاد عبر مجموعة البيانات عالية الأبعاد حيث تكون البيانات أكثر انتشارًا، لذلك إذا كانت البيانات تحتوي على مجموعات ، فقد تكون هذه أيضًا أكثر انتشارًا، وبالتالي تكون أكثر وضوحًا ليتم رسمها في مخطط ثنائي الأبعاد؛ بينما إذا تم اختيار اتجاهين عبر البيانات (أو اثنين من المتغيرات الأصلية) بشكل عشوائي، فقد تكون المجموعات أقل انتشارًا عن بعضها البعض، وقد تكون في الواقع أكثر عرضة لتراكب بعضها البعض بشكل كبير، مما يجعلها غير قابلة للتمييز.

وبالمثل، في تحليل الانحدار ، كلما زاد عدد المتغيرات التفسيرية المسموح بها، زادت فرصة الإفراط في ملاءمة النموذج، مما ينتج عنه استنتاجات تفشل في التعميم على مجموعات البيانات الأخرى. أحد الأساليب، وخاصة عندما تكون هناك ارتباطات قوية بين المتغيرات التفسيرية المحتملة المختلفة، هو تقليصها إلى عدد قليل من المكونات الرئيسية ثم تشغيل الانحدار ضدها، وهي طريقة تسمى انحدار المكونات الرئيسية .

قد يكون تقليل الأبعاد مناسبًا أيضًا عندما تكون المتغيرات في مجموعة البيانات مشوشة. إذا كان كل عمود من مجموعة البيانات يحتوي على ضوضاء غاوسية مستقلة وموزعة بشكل متطابق، فإن أعمدة T ستحتوي أيضًا على ضوضاء غاوسية موزعة بشكل متطابق (مثل هذا التوزيع ثابت تحت تأثيرات المصفوفة W ، والتي يمكن اعتبارها دورانًا عالي الأبعاد للمحاور الإحداثية). ومع ذلك، مع تركيز المزيد من التباين الإجمالي في المكونات الرئيسية القليلة الأولى مقارنة بنفس تباين الضوضاء، يكون التأثير النسبي للضوضاء أقل - تحقق المكونات القليلة الأولى نسبة إشارة إلى ضوضاء أعلى . وبالتالي يمكن أن يكون لتحليل المكونات الرئيسية تأثير تركيز الكثير من الإشارة في المكونات الرئيسية القليلة الأولى، والتي يمكن التقاطها بشكل مفيد من خلال تقليل الأبعاد؛ بينما قد تهيمن الضوضاء على المكونات الرئيسية اللاحقة، وبالتالي يتم التخلص منها دون خسارة كبيرة. إذا لم تكن مجموعة البيانات كبيرة جدًا، فيمكن اختبار أهمية المكونات الرئيسية باستخدام إعادة التشغيل البارامترية ، كمساعدة في تحديد عدد المكونات الرئيسية التي يجب الاحتفاظ بها. ^[14]

يمكن أيضًا ربط تحويل المكونات الأساسية بعامل تحليل مصفوفة آخر، وهو تحلل القيمة المفردة (SVD) لـ X ،

${\displaystyle \mathbf {X} =\mathbf {U} \mathbf {\Sigma } \mathbf {W} ^{T}}$

هنا Σ هي مصفوفة قطرية مستطيلة ذات أبعاد n × p من الأرقام الموجبة σ _{( k )} ، تسمى القيم المفردة لـ X ؛ U هي مصفوفة ذات أبعاد n × n ، أعمدتها عبارة عن متجهات وحدة متعامدة بطول n تسمى المتجهات المفردة اليسرى لـ X ؛ و W هي مصفوفة ذات أبعاد p × p ، أعمدتها عبارة عن متجهات وحدة متعامدة بطول p تسمى المتجهات المفردة اليمنى لـ X.

من حيث هذا التحليل إلى عوامل، يمكن كتابة المصفوفة X ^T X

${\displaystyle {\begin{aligned}\mathbf {X} ^{T}\mathbf {X} &=\mathbf {W} \mathbf {\Sigma } ^{\mathsf {T}}\mathbf {U} ^{\mathsf {T}}\mathbf {U} \mathbf {\Sigma } \mathbf {W} ^{\mathsf {T}}\\&=\mathbf {W} \mathbf {\Sigma } ^{\mathsf {T}}\mathbf {\Sigma } \mathbf {W} ^{\mathsf {T}}\\&=\mathbf {W} \mathbf {\hat {\Sigma }} ^{2}\mathbf {W} ^{\mathsf {T}}\end{aligned}}}$

أين هي مصفوفة المربع القطري مع القيم المفردة لـ X والأصفار الزائدة المقطوعة التي تلبي . المقارنة مع تحليل العوامل الذاتية لـ X ^T X تثبت أن المتجهات المفردة اليمنى W لـ X تعادل المتجهات الذاتية لـ X ^T X ، بينما القيم المفردة σ _{( k )} لـ تساوي الجذر التربيعي للقيم الذاتية λ _{( k )} لـ X ^T X. ${\displaystyle \mathbf {\hat {\Sigma }} }$ ${\displaystyle \mathbf {{\hat {\Sigma }}^{2}} =\mathbf {\Sigma } ^{\mathsf {T}}\mathbf {\Sigma } }$ ${\displaystyle \mathbf {X} }$

باستخدام تحليل القيمة المفردة يمكن كتابة مصفوفة النتيجة T

${\displaystyle {\begin{aligned}\mathbf {T} &=\mathbf {X} \mathbf {W} \\&=\mathbf {U} \mathbf {\Sigma } \mathbf {W} ^{\mathsf {T}}\mathbf {W} \\&=\mathbf {U} \mathbf {\Sigma } \end{aligned}}}$

وبالتالي ، فإن كل عمود من T يُعطى بواسطة أحد المتجهات المفردة اليسرى لـ X مضروبًا في القيمة المفردة المقابلة. هذا الشكل هو أيضًا التحلل القطبي لـ T.

توجد خوارزميات فعالة لحساب SVD لـ X دون الحاجة إلى تكوين مصفوفة X ^T X ، وبالتالي فإن حساب SVD هو الآن الطريقة القياسية لحساب تحليل المكونات الأساسية من مصفوفة البيانات، ^[15] ما لم تكن هناك حاجة إلى عدد قليل من المكونات فقط.

كما هو الحال مع تحلل القيم الذاتية، يمكن الحصول على مصفوفة النتيجة المقطوعة n × L T _L من خلال النظر فقط في أول L أكبر القيم المفردة ومتجهاتها المفردة:

${\displaystyle \mathbf {T} _{L}=\mathbf {U} _{L}\mathbf {\Sigma } _{L}=\mathbf {X} \mathbf {W} _{L}}$

يؤدي قطع مصفوفة M أو T باستخدام تحلل القيمة المفردة المقطوعة بهذه الطريقة إلى إنتاج مصفوفة مقطوعة هي أقرب مصفوفة ممكنة من الرتبة L إلى المصفوفة الأصلية، بمعنى أن الفرق بين الاثنتين له أصغر معيار فروبينيوس ممكن ، وهي النتيجة المعروفة باسم نظرية إيكارت-يونج [1936].

القيم المفردة (بالوحدة Σ ) هي الجذور التربيعية للقيم الذاتية للمصفوفة X ^T X. كل قيمة ذاتية تتناسب مع جزء "التباين" (بشكل أكثر دقة مجموع المسافات التربيعية للنقاط من متوسطها متعدد الأبعاد) المرتبط بكل متجه ذاتي. مجموع كل القيم الذاتية يساوي مجموع المسافات التربيعية للنقاط من متوسطها متعدد الأبعاد. يقوم تحليل المكونات الرئيسية بشكل أساسي بتدوير مجموعة النقاط حول متوسطها من أجل المحاذاة مع المكونات الرئيسية. هذا يحرك أكبر قدر ممكن من التباين (باستخدام تحويل متعامد) إلى الأبعاد القليلة الأولى. لذلك، تميل القيم في الأبعاد المتبقية إلى أن تكون صغيرة ويمكن إسقاطها بأقل قدر من فقدان المعلومات (انظر أدناه ). غالبًا ما يستخدم تحليل المكونات الرئيسية بهذه الطريقة لتقليل الأبعاد . يتميز تحليل المكونات الرئيسية بأنه التحويل المتعامد الأمثل للاحتفاظ بالفضاء الفرعي الذي يحتوي على أكبر "تباين" (كما هو موضح أعلاه). ومع ذلك، تأتي هذه الميزة على حساب متطلبات حسابية أكبر إذا ما قورنت، على سبيل المثال، وعند الاقتضاء، بتحويل جيب التمام المنفصل ، وخاصةً بتحويل جيب التمام الثاني المعروف ببساطة باسم "تحويل جيب التمام الثاني". تميل تقنيات تقليل الأبعاد غير الخطية إلى أن تكون أكثر تطلبًا من الناحية الحسابية من تحليل المكونات الرئيسية.

إن تحليل المكونات الرئيسية حساس لمقاييس المتغيرات. فإذا كان لدينا متغيران فقط ولهما نفس تباين العينة ومترابطان بشكل كامل، فإن تحليل المكونات الرئيسية يستلزم دورانًا بمقدار 45 درجة، وستكون "الأوزان" (وهي جيب تمام الدوران) للمتغيرين بالنسبة للمكون الرئيسي متساوية. ولكن إذا ضربنا جميع قيم المتغير الأول في 100، فإن المكون الرئيسي الأول سيكون تقريبًا نفس ذلك المتغير، مع مساهمة صغيرة من المتغير الآخر، في حين أن المكون الثاني سيكون محاذيًا تقريبًا للمتغير الأصلي الثاني. وهذا يعني أنه كلما كانت المتغيرات المختلفة لها وحدات مختلفة (مثل درجة الحرارة والكتلة)، فإن تحليل المكونات الرئيسية هو طريقة تحليل تعسفية إلى حد ما. (يمكن الحصول على نتائج مختلفة إذا استخدمنا فهرنهايت بدلاً من مئوية على سبيل المثال). كان عنوان ورقة بيرسون الأصلية "حول الخطوط والمستويات الأقرب ملاءمة لأنظمة النقاط في الفضاء" - "في الفضاء" يعني الفضاء الإقليدي المادي حيث لا تنشأ مثل هذه المخاوف. تتمثل إحدى الطرق لجعل تحليل المكونات الرئيسية أقل تعسفًا في استخدام متغيرات مُقاسة بحيث يكون لها تباين وحدوي، من خلال توحيد البيانات وبالتالي استخدام مصفوفة الارتباط الذاتي بدلاً من مصفوفة التباين الذاتي كأساس لتحليل المكونات الرئيسية. ومع ذلك، فإن هذا يضغط (أو يوسع) التقلبات في جميع أبعاد مساحة الإشارة إلى تباين وحدوي.

إن طرح المتوسط ​​(أو "تمركز المتوسط") ضروري لإجراء تحليل المكونات الأساسية الكلاسيكي لضمان أن يصف المكون الرئيسي الأول اتجاه التباين الأقصى. إذا لم يتم إجراء طرح المتوسط، فقد يتوافق المكون الرئيسي الأول بدلاً من ذلك مع متوسط ​​البيانات بدرجة أكبر أو أقل. هناك حاجة إلى متوسط ​​يساوي صفرًا لإيجاد أساس يقلل من خطأ متوسط ​​المربعات لتقريب البيانات. ^[16]

إن تركيز المتوسط ​​غير ضروري عند إجراء تحليل المكونات الرئيسية على مصفوفة الارتباط، حيث يتم تركيز البيانات بالفعل بعد حساب الارتباطات. يتم استخلاص الارتباطات من حاصل الضرب المتبادل لدرجتين قياسيتين (درجات Z) أو لحظات إحصائية (ومن هنا جاء الاسم: ارتباط حاصل بيرسون-لحظة ). انظر أيضًا مقال كرومري وفوستر جونسون (1998) حول "تركيز المتوسط ​​في الانحدار المعتدل: الكثير من اللغط حول لا شيء" . نظرًا لأن التباينات هي ارتباطات للمتغيرات الطبيعية ( درجات Z أو الدرجات القياسية )، فإن تحليل المكونات الرئيسية المستند إلى مصفوفة الارتباط لـ X يساوي تحليل المكونات الرئيسية المستند إلى مصفوفة التباين لـ Z ، النسخة القياسية من X.

PCA هي تقنية أساسية شائعة في التعرف على الأنماط . ومع ذلك، فهي ليست مُحسَّنة لفصل الفئات. ^[17] ومع ذلك، فقد تم استخدامها لقياس المسافة بين فئتين أو أكثر من خلال حساب مركز الكتلة لكل فئة في مساحة المكونات الرئيسية والإبلاغ عن المسافة الإقليدية بين مركز كتلة فئتين أو أكثر. ^[18] التحليل التمييزي الخطي هو بديل مُحسَّن لفصل الفئات.

رمز	معنى	أبعاد	المؤشرات
${\displaystyle \mathbf {X} =[X_{ij}]}$	مصفوفة البيانات، تتكون من مجموعة من جميع متجهات البيانات، متجه واحد لكل صف	${\displaystyle n\times p}$	${\displaystyle i=1\ldots n}$ ${\displaystyle j=1\ldots p}$
${\displaystyle n}$	عدد متجهات الصفوف في مجموعة البيانات	${\displaystyle 1\times 1}$	عددي
${\displaystyle p}$	عدد العناصر في كل متجه صف (البعد)	${\displaystyle 1\times 1}$	عددي
${\displaystyle L}$	عدد الأبعاد في الفضاء الفرعي المخفض الأبعاد،${\displaystyle 1\leq L\leq p}$	${\displaystyle 1\times 1}$	عددي
${\displaystyle \mathbf {u} =[u_{j}]}$	متجه المتوسطات التجريبية ، متوسط ​​واحد لكل عمود j من مصفوفة البيانات	${\displaystyle p\times 1}$	${\displaystyle j=1\ldots p}$
${\displaystyle \mathbf {s} =[s_{j}]}$	متجه الانحرافات المعيارية التجريبية ، انحراف معياري واحد لكل عمود j من مصفوفة البيانات	${\displaystyle p\times 1}$	${\displaystyle j=1\ldots p}$
${\displaystyle \mathbf {h} =[h_{i}]}$	متجه لجميع الأعداد 1	${\displaystyle 1\times n}$	${\displaystyle i=1\ldots n}$
${\displaystyle \mathbf {B} =[B_{ij}]}$	الانحرافات عن متوسط ​​كل عمود j من مصفوفة البيانات	${\displaystyle n\times p}$	${\displaystyle i=1\ldots n}$ ${\displaystyle j=1\ldots p}$
${\displaystyle \mathbf {Z} =[Z_{ij}]}$	درجات Z ، محسوبة باستخدام المتوسط ​​والانحراف المعياري لكل عمود j من مصفوفة البيانات	${\displaystyle n\times p}$	${\displaystyle i=1\ldots n}$ ${\displaystyle j=1\ldots p}$
${\displaystyle \mathbf {C} =[C_{jj'}]}$	مصفوفة التغاير	${\displaystyle p\times p}$	${\displaystyle j=1\ldots p}$ ${\displaystyle j'=1\ldots p}$
${\displaystyle \mathbf {R} =[R_{jj'}]}$	مصفوفة الارتباط	${\displaystyle p\times p}$	${\displaystyle j=1\ldots p}$ ${\displaystyle j'=1\ldots p}$
${\displaystyle \mathbf {V} =[V_{jj'}]}$	مصفوفة تتكون من مجموعة جميع المتجهات الذاتية لـ C ، متجه ذاتي واحد لكل عمود	${\displaystyle p\times p}$	${\displaystyle j=1\ldots p}$ ${\displaystyle j'=1\ldots p}$
${\displaystyle \mathbf {D} =[D_{jj'}]}$	مصفوفة قطرية تتكون من مجموعة جميع القيم الذاتية لـ C على طول قطرها الرئيسي ، و0 لجميع العناصر الأخرى (ملاحظة مستخدمة أعلاه) ${\displaystyle \mathbf {\Lambda } }$	${\displaystyle p\times p}$	${\displaystyle j=1\ldots p}$ ${\displaystyle j'=1\ldots p}$
${\displaystyle \mathbf {W} =[W_{jl}]}$	مصفوفة متجهات الأساس، متجه واحد لكل عمود، حيث يكون كل متجه أساس أحد المتجهات الذاتية لـ C ، وحيث تكون المتجهات في W مجموعة فرعية من تلك الموجودة في V	${\displaystyle p\times L}$	${\displaystyle j=1\ldots p}$ ${\displaystyle l=1\ldots L}$
${\displaystyle \mathbf {T} =[T_{il}]}$	مصفوفة تتكون من n صف متجه، حيث يكون كل متجه هو إسقاط متجه البيانات المقابل من المصفوفة X على متجهات الأساس الموجودة في أعمدة المصفوفة W.	${\displaystyle n\times L}$	${\displaystyle i=1\ldots n}$ ${\displaystyle l=1\ldots L}$

تتضمن بعض خصائص تحليل المكونات الرئيسية ما يلي: ^{[12] [ الصفحة المطلوبة ]}

الخاصية 1 : لأي عدد صحيحq، 1 ≤q≤pالتحويل الخطيالمتعامد

${\displaystyle y=\mathbf {B'} x}$

حيث هو متجه عنصر q و هو مصفوفة ( q × p )، وليكن مصفوفة التباين - التباين لـ . ثم يتم تعظيم أثر ، المشار إليه ، عن طريق أخذ ، حيث يتكون من أول أعمدة q لـ هو منقول لـ . ( غير محدد هنا)${\displaystyle y}$${\displaystyle \mathbf {B'} }$${\displaystyle \mathbf {\Sigma } _{y}=\mathbf {B'} \mathbf {\Sigma } \mathbf {B} }$${\displaystyle y}$${\displaystyle \mathbf {\Sigma } _{y}}$${\displaystyle \operatorname {tr} (\mathbf {\Sigma } _{y})}$${\displaystyle \mathbf {B} =\mathbf {A} _{q}}$${\displaystyle \mathbf {A} _{q}}$${\displaystyle \mathbf {A} }$ ${\displaystyle (\mathbf {B'} }$${\displaystyle \mathbf {B} )}$${\displaystyle \mathbf {A} }$

الخاصية 2 : فكر مرة أخرى فيالتحويل المتعامد العمودي

${\displaystyle y=\mathbf {B'} x}$

مع و كما هو محدد من قبل. ثم يتم التقليل من خلال أخذ حيث يتكون من آخر أعمدة q من .${\displaystyle x,\mathbf {B} ,\mathbf {A} }$${\displaystyle \mathbf {\Sigma } _{y}}$${\displaystyle \operatorname {tr} (\mathbf {\Sigma } _{y})}$${\displaystyle \mathbf {B} =\mathbf {A} _{q}^{*},}$${\displaystyle \mathbf {A} _{q}^{*}}$${\displaystyle \mathbf {A} }$

إن الدلالة الإحصائية لهذه الخاصية هي أن آخر عدد قليل من أجهزة الكمبيوتر ليست مجرد بقايا غير منظمة بعد إزالة أجهزة الكمبيوتر المهمة. ولأن هذه الأجهزة الأخيرة لها تباينات صغيرة قدر الإمكان، فهي مفيدة في حد ذاتها. ويمكنها المساعدة في اكتشاف العلاقات الخطية الثابتة تقريبًا غير المتوقعة بين عناصر x ، وقد تكون مفيدة أيضًا في الانحدار ، في اختيار مجموعة فرعية من المتغيرات من x ، وفي اكتشاف القيم المتطرفة.

الخاصية 3 : (التحلل الطيفي لـ Σ )

${\displaystyle \mathbf {\Sigma } =\lambda _{1}\alpha _{1}\alpha _{1}'+\cdots +\lambda _{p}\alpha _{p}\alpha _{p}'}$

قبل أن ننظر إلى استخدامه، ننظر أولاً إلى العناصر القطرية ،

${\displaystyle \operatorname {Var} (x_{j})=\sum _{k=1}^{P}\lambda _{k}\alpha _{kj}^{2}}$

ومن ثم، ربما يكون المضمون الإحصائي الرئيسي للنتيجة هو أنه ليس بإمكاننا تحليل التباينات المجمعة لجميع عناصر x إلى مساهمات متناقصة بسبب كل حاسب آلي فحسب، بل يمكننا أيضًا تحليل مصفوفة التباين بأكملها إلى مساهمات من كل حاسب آلي. وعلى الرغم من عدم تناقصها بشكل صارم، فإن عناصر will تميل إلى أن تصبح أصغر مع الزيادة، كما هو الحال مع عدم الزيادة في تزايد ، في حين تميل عناصر إلى البقاء بنفس الحجم تقريبًا بسبب قيود التطبيع: . ${\displaystyle \lambda _{k}\alpha _{k}\alpha _{k}'}$${\displaystyle \lambda _{k}\alpha _{k}\alpha _{k}'}$${\displaystyle k}$${\displaystyle \lambda _{k}\alpha _{k}\alpha _{k}'}$${\displaystyle k}$${\displaystyle \alpha _{k}}$${\displaystyle \alpha _{k}'\alpha _{k}=1,k=1,\dots ,p}$

كما ذكرنا أعلاه، تعتمد نتائج تحليل المكونات الرئيسية على قياس المتغيرات. ويمكن علاج ذلك عن طريق قياس كل سمة حسب انحرافها المعياري، بحيث ينتهي الأمر بخصائص بلا أبعاد ذات تباين أحادي. ^[19]

إن قابلية تطبيق تحليل المكونات الرئيسية كما هو موضح أعلاه محدودة ببعض الافتراضات (الضمنية) ^[20] التي تم إجراؤها في اشتقاقها. على وجه الخصوص، يمكن لتحليل المكونات الرئيسية التقاط الارتباطات الخطية بين الميزات ولكنه يفشل عندما يتم انتهاك هذا الافتراض (انظر الشكل 6أ في المرجع). في بعض الحالات، يمكن للتحويلات الإحداثية استعادة افتراض الخطية ويمكن بعد ذلك تطبيق تحليل المكونات الرئيسية (انظر تحليل المكونات الرئيسية للنواة ).

هناك قيد آخر وهو عملية إزالة المتوسط ​​قبل إنشاء مصفوفة التغاير لتحليل المكونات الرئيسية. في مجالات مثل علم الفلك، تكون جميع الإشارات غير سلبية، وستجبر عملية إزالة المتوسط ​​متوسط ​​بعض التعرضات الفيزيائية الفلكية على أن يكون صفرًا، مما يؤدي بالتالي إلى إنشاء تدفقات سلبية غير فيزيائية، ^[21] ويجب إجراء النمذجة الأمامية لاستعادة الحجم الحقيقي للإشارات. ^[22] كطريقة بديلة، يتم التركيز على تحليل المكونات الرئيسية لعوامل المصفوفة غير السلبية فقط على العناصر غير السلبية في المصفوفات، وهو مناسب تمامًا للملاحظات الفيزيائية الفلكية. ^{[23] [24] [25]} انظر المزيد في العلاقة بين تحليل المكونات الرئيسية وتحليل المصفوفة غير السلبية.

إن تحليل مكونات البيانات الرئيسية يكون في وضع غير مؤاتٍ إذا لم يتم توحيد البيانات قبل تطبيق الخوارزمية عليها. يحول تحليل مكونات البيانات الرئيسية البيانات الأصلية إلى بيانات ذات صلة بالمكونات الرئيسية لتلك البيانات، مما يعني أنه لا يمكن تفسير متغيرات البيانات الجديدة بنفس الطرق التي تم بها تفسير المتغيرات الأصلية. إنها تفسيرات خطية للمتغيرات الأصلية. أيضًا، إذا لم يتم إجراء تحليل مكونات البيانات الرئيسية بشكل صحيح، فهناك احتمال كبير لفقدان المعلومات. ^[26]

يعتمد تحليل المكونات الأساسية على نموذج خطي. إذا كانت مجموعة البيانات تحتوي على نمط مخفي بداخلها غير خطي، فيمكن لتحليل المكونات الأساسية في الواقع توجيه التحليل في الاتجاه المعاكس تمامًا للتقدم. ^{[27] [ الصفحة مطلوبة ]} اكتشف الباحثون في جامعة ولاية كانساس أن خطأ العينة في تجاربهم أثر على تحيز نتائج تحليل المكونات الأساسية. "إذا كان عدد الموضوعات أو الكتل أقل من 30، و/أو كان الباحث مهتمًا بأجهزة الكمبيوتر الشخصية بعد الأولى، فقد يكون من الأفضل أولاً تصحيح الارتباط التسلسلي، قبل إجراء تحليل المكونات الأساسية". ^[28] وجد الباحثون في جامعة ولاية كانساس أيضًا أن تحليل المكونات الأساسية يمكن أن يكون "متحيزًا بشكل خطير إذا لم يتم التعامل مع بنية الارتباط التلقائي للبيانات بشكل صحيح". ^[28]

يؤدي تقليل الأبعاد إلى فقدان المعلومات بشكل عام. يميل تقليل الأبعاد المستند إلى تحليل المكونات الرئيسية إلى تقليل فقدان المعلومات هذا، في ظل نماذج معينة للإشارات والضوضاء.

على افتراض أن

${\displaystyle \mathbf {x} =\mathbf {s} +\mathbf {n} ,}$

وهذا يعني أن متجه البيانات هو مجموع إشارة المعلومات المطلوبة وإشارة الضوضاء، ومن الممكن إظهار أن تحليل المكونات الرئيسية يمكن أن يكون مثاليًا لتقليل الأبعاد، من وجهة نظر نظرية المعلومات. ${\displaystyle \mathbf {x} }$${\displaystyle \mathbf {s} }$${\displaystyle \mathbf {n} }$

على وجه الخصوص، أظهر لينسكر أنه إذا كان غاوسيًا وكان ضوضاء غاوسية مع مصفوفة تباين متناسبة مع مصفوفة الهوية، فإن تحليل المكونات الأساسية يعمل على تعظيم المعلومات المتبادلة بين المعلومات المطلوبة والمخرجات المخفضة الأبعاد . ^[29]${\displaystyle \mathbf {s} }$${\displaystyle \mathbf {n} }$ ${\displaystyle I(\mathbf {y} ;\mathbf {s} )}$${\displaystyle \mathbf {s} }$${\displaystyle \mathbf {y} =\mathbf {W} _{L}^{T}\mathbf {x} }$

إذا كانت الضوضاء لا تزال غاوسية ولديها مصفوفة تباين متناسبة مع مصفوفة الهوية (أي أن مكونات المتجه هي iid )، ولكن الإشارة الحاملة للمعلومات غير غاوسية (وهو سيناريو شائع)، فإن تحليل المكونات الرئيسية يقلل على الأقل من الحد الأعلى لفقدان المعلومات ، والذي يتم تعريفه على أنه ^{[30] [31]}${\displaystyle \mathbf {n} }$${\displaystyle \mathbf {s} }$

${\displaystyle I(\mathbf {x} ;\mathbf {s} )-I(\mathbf {y} ;\mathbf {s} ).}$

كما يتم الحفاظ على مثالية تحليل المكونات الرئيسية إذا كانت الضوضاء متماثلة وذات قيمة جاوسية أكبر على الأقل (من حيث تباعد كولباك-ليبلر ) من الإشارة الحاملة للمعلومات . ^[32] بشكل عام، حتى إذا كان نموذج الإشارة أعلاه صحيحًا، فإن تحليل المكونات الرئيسية يفقد أمثليته النظرية للمعلومات بمجرد أن تصبح الضوضاء تابعة. ${\displaystyle \mathbf {n} }$${\displaystyle \mathbf {s} }$${\displaystyle \mathbf {n} }$

فيما يلي وصف تفصيلي لتحليل مكونات البيانات الرئيسية باستخدام طريقة التباين ^[33] بدلاً من طريقة الارتباط. ^[34]

الهدف هو تحويل مجموعة بيانات معينة X ذات البعد p إلى مجموعة بيانات بديلة Y ذات بعد أصغر L. وعلى نحو مماثل، نسعى إلى إيجاد المصفوفة Y ، حيث Y هو تحويل Karhunen–Loève (KLT) للمصفوفة X :

$${\displaystyle \mathbf {Y} =\mathbb {KLT} \{\mathbf {X} \}}$$

1. تنظيم مجموعة البيانات

   افترض أن لديك بيانات تتألف من مجموعة من ملاحظات المتغيرات p ، وتريد تقليل البيانات بحيث يمكن وصف كل ملاحظة بمتغيرات L فقط ، L < p . افترض كذلك أن البيانات مرتبة كمجموعة من متجهات البيانات n ، حيث يمثل كل منها ملاحظة مجمعة واحدة للمتغيرات p . ${\displaystyle \mathbf {x} _{1}\ldots \mathbf {x} _{n}}$${\displaystyle \mathbf {x} _{i}}$

   • اكتب كمتجهات صف، كل منها يحتوي على عناصر p .${\displaystyle \mathbf {x} _{1}\ldots \mathbf {x} _{n}}$
   • ضع متجهات الصفوف في مصفوفة واحدة X ذات أبعاد n × p .
2. احسب المتوسط ​​التجريبي
   • أوجد المتوسط ​​التجريبي على طول كل عمود j = 1، ...،  p .
   • ضع متوسط ​​القيم المحسوبة في متجه متوسط ​​تجريبي u بأبعاد p × 1.$${\displaystyle u_{j}={\frac {1}{n}}\sum _{i=1}^{n}X_{ij}}$$
3. حساب الانحرافات عن المتوسط

   يعد طرح المتوسط ​​جزءًا لا يتجزأ من الحل نحو إيجاد أساس مكون رئيسي يقلل من خطأ متوسط ​​المربع لتقريب البيانات. ^[35] وبالتالي، نواصل تركيز البيانات على النحو التالي:

   • اطرح المتجه المتوسط ​​التجريبي من كل صف من مصفوفة البيانات X.${\displaystyle \mathbf {u} ^{T}}$
   • قم بتخزين البيانات المطروحة من المتوسط ​​في مصفوفة n × p B. حيث h هو متجه عمودي n × 1 لجميع القيم 1:$${\displaystyle \mathbf {B} =\mathbf {X} -\mathbf {h} \mathbf {u} ^{T}}$$$${\displaystyle h_{i}=1\,\qquad \qquad {\text{for }}i=1,\ldots ,n}$$

   في بعض التطبيقات، يمكن أيضًا قياس كل متغير (عمود B ) ليكون له تباين يساوي 1 (انظر الدرجة Z ). ^[36] تؤثر هذه الخطوة على المكونات الأساسية المحسوبة، ولكنها تجعلها مستقلة عن الوحدات المستخدمة لقياس المتغيرات المختلفة.

4. إيجاد مصفوفة التغاير
   • أوجد مصفوفة التباين التجريبي p × p C من المصفوفة B : حيث هو عامل النقل المترافق . إذا كانت B تتكون بالكامل من أعداد حقيقية، وهو الحال في العديد من التطبيقات، فإن "النقل المترافق" هو ​​نفس النقل المنتظم . $${\displaystyle \mathbf {C} ={1 \over {n-1}}\mathbf {B} ^{*}\mathbf {B} }$$${\displaystyle *}$
   • السبب وراء استخدام n − 1 بدلاً من n لحساب التباين هو تصحيح بيسل .
5. إيجاد المتجهات الذاتية والقيم الذاتية لمصفوفة التغاير
   • احسب مصفوفة V للمتجهات الذاتية التي ترسم قطريًا لمصفوفة التباين C : حيث D هي المصفوفة القطرية للقيم الذاتية لـ C. ستتضمن هذه الخطوة عادةً استخدام خوارزمية تعتمد على الكمبيوتر لحساب المتجهات الذاتية والقيم الذاتية . تتوفر هذه الخوارزميات بسهولة كمكونات فرعية لمعظم أنظمة جبر المصفوفات ، مثل SAS ، ^[37] R ، MATLAB ، ^{[38] [39]} Mathematica ، ^[40] SciPy ، IDL ( لغة البيانات التفاعلية )، أو GNU Octave بالإضافة إلى OpenCV .$${\displaystyle \mathbf {V} ^{-1}\mathbf {C} \mathbf {V} =\mathbf {D} }$$
   • ستتخذ المصفوفة D شكل مصفوفة قطرية p × p ، حيث j هي القيمة الذاتية لمصفوفة التغاير C ، و$${\displaystyle D_{k\ell }=\lambda _{k}\qquad {\text{for }}k=\ell }$$$${\displaystyle D_{k\ell }=0\qquad {\text{for }}k\neq \ell .}$$
   • تحتوي المصفوفة V ، والتي لها أيضًا أبعاد p × p ، على متجهات عمودية p ، كل منها بطول p ، والتي تمثل المتجهات الذاتية p لمصفوفة التغاير C.
   • القيم الذاتية والمتجهات الذاتية مرتبة ومقترنة. القيمة الذاتية j تتوافق مع المتجه الذاتي j .
   • تشير المصفوفة V إلى مصفوفة المتجهات الذاتية اليمنى (على عكس المتجهات الذاتية اليسرى ). بشكل عام، لا يلزم أن تكون مصفوفة المتجهات الذاتية اليمنى هي النقل (المترافق) لمصفوفة المتجهات الذاتية اليسرى.
6. إعادة ترتيب المتجهات الذاتية والقيم الذاتية
   • قم بفرز أعمدة مصفوفة المتجهات الذاتية V ومصفوفة القيم الذاتية D حسب ترتيب تناقص القيم الذاتية.
   • تأكد من الحفاظ على الاقترانات الصحيحة بين الأعمدة في كل مصفوفة.
7. احسب محتوى الطاقة التراكمية لكل متجه ذاتي
   • تمثل القيم الذاتية توزيع طاقة بيانات المصدر ^{[ بحاجة لتوضيح ]} بين كل من المتجهات الذاتية، حيث تشكل المتجهات الذاتية أساسًا للبيانات. المحتوى التراكمي للطاقة g للمتجه الذاتي j هو مجموع محتوى الطاقة عبر جميع القيم الذاتية من 1 إلى j : ^{[ بحاجة لمصدر ]} $${\displaystyle g_{j}=\sum _{k=1}^{j}D_{kk}\qquad {\text{for }}j=1,\dots ,p}$$
8. حدد مجموعة فرعية من المتجهات الذاتية كمتجهات أساسية
   • احفظ أول أعمدة L من V كمصفوفة p × L W : حيث$${\displaystyle W_{kl}=V_{k\ell }\qquad {\text{for }}k=1,\dots ,p\qquad \ell =1,\dots ,L}$$$${\displaystyle 1\leq L\leq p.}$$
   • استخدم المتجه g كدليل في اختيار القيمة المناسبة لـ L. والهدف هو اختيار قيمة L صغيرة قدر الإمكان مع تحقيق قيمة عالية معقولة لـ g على أساس النسبة المئوية. على سبيل المثال، قد ترغب في اختيار L بحيث تكون الطاقة التراكمية g أعلى من حد معين، مثل 90 بالمائة. في هذه الحالة، اختر أصغر قيمة لـ L بحيث$${\displaystyle {\frac {g_{L}}{g_{p}}}\geq 0.9}$$
9. إسقاط البيانات على الأساس الجديد
   • نقاط البيانات المتوقعة هي صفوف المصفوفة$${\displaystyle \mathbf {T} =\mathbf {B} \cdot \mathbf {W} }$$
   وهذا يعني أن العمود الأول هو إسقاط نقاط البيانات على المكون الرئيسي الأول، والعمود الثاني هو الإسقاط على المكون الرئيسي الثاني، وهكذا. ${\displaystyle \mathbf {T} }$

ليكن X متجهًا عشوائيًا ذا أبعاد d ، معبرًا عنه كمتجه عمودي. بدون فقدان العمومية، افترض أن X له متوسط ​​صفري.

نريد أن نجد مصفوفة تحويل متعامد d × d P بحيث يكون لدى PX مصفوفة تباين قطرية (أي أن PX عبارة عن متجه عشوائي مع جميع مكوناته المميزة غير مرتبطة في أزواج). ${\displaystyle (\ast )}$

حساب سريع بافتراض أن العائدات موحدة: ${\displaystyle P}$

${\displaystyle {\begin{aligned}\operatorname {cov} (PX)&=\operatorname {E} [PX~(PX)^{*}]\\&=\operatorname {E} [PX~X^{*}P^{*}]\\&=P\operatorname {E} [XX^{*}]P^{*}\\&=P\operatorname {cov} (X)P^{-1}\\\end{aligned}}}$

ومن ثم ينطبق ذلك إذا وفقط إذا كان من الممكن تحويله قطريًا بواسطة . ${\displaystyle (\ast )}$${\displaystyle \operatorname {cov} (X)}$${\displaystyle P}$

هذا أمر بناء للغاية، حيث من المؤكد أن cov( X ) عبارة عن مصفوفة محددة غير سلبية وبالتالي من المؤكد أنها قابلة للتحويل قطريًا بواسطة بعض المصفوفات الموحدة.

في التطبيقات العملية، وخاصة مع البيانات عالية الأبعاد ( p كبيرة )، نادرًا ما تُستخدم طريقة التباين الساذجة لأنها ليست فعّالة بسبب التكاليف الحسابية والذاكرة العالية لتحديد مصفوفة التباين صراحةً. يتجنب النهج الخالي من التباين عمليات np ² لحساب وتخزين مصفوفة التباين X ^T X صراحةً ، ويستخدم بدلاً من ذلك إحدى الطرق الخالية من المصفوفات ، على سبيل المثال، بناءً على الدالة التي تقيم حاصل الضرب X ^T (X r) على حساب عمليتين np .

تظهر إحدى الطرق لحساب المكون الرئيسي الأول بكفاءة ^[41] في الكود الزائف التالي، لمصفوفة بيانات X بمتوسط ​​صفري، دون حساب مصفوفة التغاير الخاصة بها على الإطلاق.

r = متجه عشوائي بطول p 
r = r / norm( r )
افعل c مرات:
       s = 0 (متجه بطول p )
       لكل صف x في X 
            s = s + ( x ⋅ r ) x
       λ = r T s  // λ هي القيمة الذاتية 
      error = |λ ⋅ r − s | 
      r = s / norm( s ) 
      اخرج إذا كان الخطأ < التسامح 
return λ, r

تحسب خوارزمية تكرار القوة هذه ببساطة المتجه X ^T (X r) وتضبطه على حالته الطبيعية وتعيد النتيجة إلى r . يتم تقريب القيمة الذاتية بواسطة r ^T (X ^T X) r ، وهو حاصل رايلي على المتجه الوحدوي r لمصفوفة التغاير X ^T X. إذا كانت أكبر قيمة مفردة منفصلة جيدًا عن القيمة الأكبر التالية، فإن المتجه r يقترب من المكون الرئيسي الأول لـ X ضمن عدد التكرارات c ، وهو صغير نسبيًا إلى p ، بتكلفة إجمالية 2cnp . يمكن تسريع تقارب تكرار القوة دون التضحية بشكل ملحوظ بالتكلفة الصغيرة لكل تكرار باستخدام طرق أكثر تقدمًا بدون مصفوفة ، مثل خوارزمية Lanczos أو طريقة التدرج المترافق المشروط محليًا الأمثل ( LOBPCG ).

يمكن حساب المكونات الرئيسية اللاحقة واحدًا تلو الآخر عبر الانكماش أو في وقت واحد ككتلة. في النهج السابق، تؤثر عدم الدقة في المكونات الرئيسية التقريبية المحسوبة بالفعل بشكل إضافي على دقة المكونات الرئيسية المحسوبة لاحقًا، وبالتالي زيادة الخطأ مع كل عملية حسابية جديدة. النهج الأخير في طريقة قوة الكتلة يستبدل المتجهات الفردية r و s بمتجهات كتلة ومصفوفات R و S. كل عمود من R يقارب أحد المكونات الرئيسية الرائدة، بينما يتم تكرار جميع الأعمدة في وقت واحد. الحساب الرئيسي هو تقييم المنتج X ^T (XR) . عند تنفيذه، على سبيل المثال، في LOBPCG ، يزيل الحظر الفعال تراكم الأخطاء، ويسمح باستخدام وظائف حاصل مصفوفة-مصفوفة BLAS عالية المستوى ، ويؤدي عادةً إلى تقارب أسرع، مقارنة بتقنية المتجه الفردي واحدًا تلو الآخر.

خوارزمية المربعات الجزئية الصغرى التكرارية غير الخطية (NIPALS) هي أحد أشكال التكرار الكلاسيكي للقوة مع انكماش المصفوفة عن طريق الطرح الذي تم تنفيذه لحساب المكونات القليلة الأولى في تحليل المكون الرئيسي أو المربعات الجزئية الصغرى . بالنسبة لمجموعات البيانات عالية الأبعاد للغاية، مثل تلك التي تم إنشاؤها في علوم *omics (على سبيل المثال، علم الجينوم وعلم التمثيل الغذائي )، فمن الضروري عادةً حساب أول بضعة مكونات فقط. تقوم خوارزمية المربعات الجزئية الصغرى التكرارية غير الخطية (NIPALS) بتحديث التقريبات التكرارية إلى الدرجات والأحمال الرائدة t ₁ و r ₁ ^T من خلال تكرار القوة الذي يتم ضربه في كل تكرار بـ X على اليسار وعلى اليمين ، أي يتم تجنب حساب مصفوفة التباين، تمامًا كما هو الحال في التنفيذ الخالي من المصفوفة لتكرارات القوة إلى X ^T X ، بناءً على الدالة التي تقيم حاصل الضرب X ^T (X r) = ((X r) ^T X) ^T.

يتم تنفيذ انكماش المصفوفة عن طريق الطرح عن طريق طرح المنتج الخارجي، t ₁ r ₁ ^T من X تاركًا مصفوفة المتبقي المنكمشة المستخدمة لحساب أجهزة الكمبيوتر الرائدة اللاحقة. ^[42] بالنسبة لمصفوفات البيانات الكبيرة، أو المصفوفات التي تحتوي على درجة عالية من التوازي العمودي، تعاني NIPALS من فقدان عمودية أجهزة الكمبيوتر بسبب أخطاء تقريب دقة الآلة المتراكمة في كل تكرار وانكماش المصفوفة عن طريق الطرح. ^[43] يتم تطبيق خوارزمية إعادة تقويم جرام-شميدت على كل من النتائج والأحمال في كل خطوة تكرار للقضاء على فقدان العمودية هذا. ^[44] لا يمكن لاعتماد NIPALS على مضاعفات المتجه الفردي الاستفادة من BLAS عالي المستوى ويؤدي إلى تقارب بطيء للقيم المفردة الرائدة المجمعة - يتم حل كلا القصورين في حلول كتلة خالية من المصفوفات أكثر تطوراً، مثل طريقة التدرج المترافق المشروط المحلي الأمثل للكتلة ( LOBPCG ).

في حالة "البث المباشر" أو "الإنترنت" حيث تصل البيانات قطعة قطعة بدلاً من تخزينها في دفعة واحدة، من المفيد إجراء تقدير لتوقعات تحليل المكونات الرئيسية التي يمكن تحديثها بشكل متسلسل. يمكن القيام بذلك بكفاءة، لكنه يتطلب خوارزميات مختلفة. ^[45]

في تحليل المكونات الرئيسية، من الشائع أن نرغب في تقديم متغيرات نوعية كعناصر تكميلية. على سبيل المثال، تم قياس العديد من المتغيرات الكمية على النباتات. بالنسبة لهذه النباتات، تتوفر بعض المتغيرات النوعية مثل، على سبيل المثال، الأنواع التي ينتمي إليها النبات. تم إخضاع هذه البيانات لتحليل المكونات الرئيسية للمتغيرات الكمية. عند تحليل النتائج، من الطبيعي ربط المكونات الرئيسية بأنواع المتغيرات النوعية . لهذا، يتم إنتاج النتائج التالية.

• التعرف على الأنواع المختلفة على المستويات العاملية، على سبيل المثال، باستخدام ألوان مختلفة.
• تمثيل مراكز ثقل النباتات التي تنتمي إلى نفس النوع على المستويات العاملية.
• بالنسبة لكل مركز ثقل ولكل محور، قيمة p للحكم على أهمية الفرق بين مركز الثقل والأصل.

هذه النتائج هي ما يسمى بإدخال متغير نوعي كعنصر تكميلي . تم تفصيل هذا الإجراء في Husson و Lê و Pagès (2009) و Pagès (2013). تقدم قِلة من البرامج هذا الخيار بطريقة "تلقائية". هذه هي حالة SPAD التي كانت تاريخيًا، بعد عمل Ludovic Lebart ، أول من اقترح هذا الخيار، وحزمة R FactoMineR.

كان التطبيق الأول لتحليل العوامل في تحديد وقياس مكونات الذكاء البشري. كان يُعتقد أن الذكاء يحتوي على مكونات مختلفة غير مترابطة مثل الذكاء المكاني والذكاء اللفظي والاستقراء والاستنباط وما إلى ذلك وأن الدرجات على هذه المكونات يمكن استنتاجها من خلال تحليل العوامل من نتائج اختبارات مختلفة، لإعطاء مؤشر واحد يُعرف باسم حاصل الذكاء (IQ). طور عالم النفس الإحصائي الرائد سبيرمان في الواقع تحليل العوامل في عام 1904 لنظريته المكونة من عاملين للذكاء، مضيفًا تقنية رسمية إلى علم القياس النفسي . في عام 1924، بحث ثورستون عن 56 عاملاً للذكاء، وطور مفهوم العمر العقلي. تعتمد اختبارات معدل الذكاء القياسية اليوم على هذا العمل المبكر. ^[46]

في عام 1949، قدم شيفكي وويليامز نظرية علم البيئة العاملية ، والتي سيطرت على دراسات التمايز السكني من الخمسينيات إلى السبعينيات. ^[47] كانت الأحياء في المدينة قابلة للتعرف عليها أو يمكن تمييزها عن بعضها البعض من خلال خصائص مختلفة يمكن اختزالها إلى ثلاث عن طريق تحليل العوامل. كانت تُعرف باسم "المرتبة الاجتماعية" (مؤشر للحالة المهنية)، و"العائلية" أو حجم الأسرة، و"العرقية"؛ يمكن بعد ذلك تطبيق تحليل المجموعات لتقسيم المدينة إلى مجموعات أو مناطق وفقًا لقيم متغيرات العوامل الرئيسية الثلاثة. تطورت أدبيات واسعة النطاق حول علم البيئة العاملية في الجغرافيا الحضرية، لكن النهج خرج عن الموضة بعد عام 1980 لكونه بدائيًا من الناحية المنهجية وليس له مكان كبير في النماذج الجغرافية ما بعد الحداثة.

كانت إحدى المشكلات المرتبطة بتحليل العوامل تتلخص دوماً في إيجاد أسماء مقنعة للعوامل الاصطناعية المختلفة. وفي عام 2000، أعاد فلود إحياء نهج علم البيئة العاملي لإظهار أن تحليل المكونات الرئيسية أعطى في الواقع إجابات ذات مغزى مباشرة، دون اللجوء إلى تدوير العوامل. وكانت المكونات الرئيسية في الواقع عبارة عن متغيرات مزدوجة أو أسعار ظلية لـ"القوى" التي تدفع الناس إلى التقارب أو الانفصال في المدن. وكان المكون الأول هو "القدرة على الوصول"، وهو المقايضة الكلاسيكية بين الطلب على السفر والطلب على المساحة، والتي تستند إليها اقتصاديات المدن الكلاسيكية. وكان المكونان التاليان هما "الحرمان"، الذي يبقي الناس من نفس المكانة في أحياء منفصلة (بوساطة التخطيط)، والعرق، حيث يحاول الناس من خلفيات عرقية متشابهة التواجد في مكان واحد. ^[48]

وفي نفس الوقت تقريبًا، قام المكتب الأسترالي للإحصاء بتحديد مؤشرات مميزة للميزة والعيوب، حيث أخذ المكون الرئيسي الأول لمجموعات من المتغيرات الرئيسية التي كان يُعتقد أنها مهمة. وتُنشر مؤشرات SEIFA هذه بانتظام لمختلف الولايات القضائية، وتُستخدم بشكل متكرر في التحليل المكاني. ^[49]

يمكن استخدام تحليل المكونات الرئيسية كطريقة رسمية لتطوير المؤشرات. وكبديل لذلك، تم اقتراح تحليل مركب تأكيدي لتطوير وتقييم المؤشرات. ^[50]

تم تطوير مؤشر تنمية المدينة من قبل PCA من حوالي 200 مؤشر لنتائج المدينة في مسح أجري عام 1996 لـ 254 مدينة عالمية. كان المكون الرئيسي الأول خاضعًا للانحدار التكراري، بإضافة المتغيرات الأصلية منفردة حتى تم أخذ حوالي 90٪ من تباينه في الاعتبار. استخدم المؤشر في النهاية حوالي 15 مؤشرًا ولكنه كان مؤشرًا جيدًا للعديد من المتغيرات الأخرى. تتفق قيمته المقارنة بشكل جيد للغاية مع التقييم الذاتي لحالة كل مدينة. كانت المعاملات على بنود البنية التحتية متناسبة تقريبًا مع متوسط ​​تكاليف توفير الخدمات الأساسية، مما يشير إلى أن المؤشر كان في الواقع مقياسًا للاستثمار المادي والاجتماعي الفعال في المدينة.

يحتوي مؤشر التنمية البشرية على مستوى الدولة من برنامج الأمم المتحدة الإنمائي ، والذي تم نشره منذ عام 1990 ويُستخدم على نطاق واسع في دراسات التنمية، ^[51] على معاملات متشابهة جدًا على مؤشرات متشابهة، مما يشير بقوة إلى أنه تم إنشاؤه في الأصل باستخدام تحليل المكونات الرئيسية.

في عام 1978، كان كافالي سفورزا وآخرون رائدين في استخدام تحليل المكونات الأساسية لتلخيص البيانات المتعلقة بالتباين في ترددات الجينات البشرية عبر المناطق. وأظهرت المكونات أنماطًا مميزة، بما في ذلك التدرجات والموجات الجيبية. وفسروا هذه الأنماط على أنها ناجمة عن أحداث هجرة قديمة محددة.

منذ ذلك الحين، أصبح تحليل المكونات الرئيسية منتشرًا في علم الوراثة السكانية، حيث استخدمت آلاف الأوراق البحثية تحليل المكونات الرئيسية كآلية عرض. تتنوع الجينات إلى حد كبير وفقًا للقرب، لذا فإن المكونين الرئيسيين الأولين يظهران في الواقع التوزيع المكاني ويمكن استخدامهما لرسم خريطة للموقع الجغرافي النسبي لمجموعات سكانية مختلفة، وبالتالي إظهار الأفراد الذين تجولوا بعيدًا عن مواقعهم الأصلية. ^[52]

كان تحليل المكونات الرئيسية في علم الوراثة مثيرًا للجدل من الناحية الفنية، حيث تم تنفيذ هذه التقنية على متغيرات منفصلة غير طبيعية وغالبًا على علامات الأليل الثنائية. كما أن الافتقار إلى أي مقاييس للخطأ المعياري في تحليل المكونات الرئيسية يشكل عائقًا أمام الاستخدام الأكثر اتساقًا. في أغسطس 2022، نشر عالم الأحياء الجزيئية إران إلهايك ورقة نظرية في Scientific Reports لتحليل 12 تطبيقًا لتحليل المكونات الرئيسية. وخلص إلى أنه من السهل التلاعب بالطريقة، والتي، في رأيه، أنتجت نتائج "خاطئة ومتناقضة وعبثية". وعلى وجه التحديد، زعم أن النتائج التي تم تحقيقها في علم الوراثة السكانية تميزت بالانتقاء والاستدلال الدائري . ^[53]

لقد كان البحث التسويقي من أكثر الاستخدامات استخدامًا لتحليل المكونات الرئيسية. فهو يستخدم لتطوير درجات رضا العملاء أو ولائهم للمنتجات، ومع التجميع، لتطوير قطاعات السوق التي يمكن استهدافها بحملات إعلانية، بنفس الطريقة التي تحدد بها بيئة العوامل المناطق الجغرافية ذات الخصائص المتشابهة. ^[54]

إن تحليل المكونات الرئيسية يحول بسرعة كميات كبيرة من البيانات إلى متغيرات أصغر وأسهل في الهضم ويمكن تحليلها بسرعة وسهولة أكبر. في أي استبيان للمستهلك، هناك سلسلة من الأسئلة المصممة لاستنباط مواقف المستهلكين، وتسعى المكونات الرئيسية إلى اكتشاف المتغيرات الكامنة وراء هذه المواقف. على سبيل المثال، سأل استطلاع أكسفورد للإنترنت في عام 2013 2000 شخص عن مواقفهم ومعتقداتهم، ومن هؤلاء المحللين استخرجوا أربعة أبعاد رئيسية للمكونات، والتي حددوها على أنها "الهروب"، و"الشبكات الاجتماعية"، و"الكفاءة"، و"خلق المشاكل". ^[55]

وفي عام 2008، استخرج جو فلود مؤشراً للمواقف تجاه السكن من 28 سؤالاً في دراسة استقصائية وطنية شملت 2697 أسرة في أستراليا. وكان المكون الرئيسي الأول يمثل موقفاً عاماً تجاه الملكية وامتلاك المسكن. ومن الممكن إدخال المؤشر، أو أسئلة المواقف التي يجسدها، في نموذج خطي عام لاختيار الحيازة. وكان أقوى عامل يحدد الإيجار الخاص هو مؤشر المواقف، وليس الدخل أو الحالة الاجتماعية أو نوع الأسرة. ^[56]

في التمويل الكمي ، يتم استخدام تحليل المكونات الرئيسية ^[57] في إدارة المخاطر المالية ، وتم تطبيقه على مشاكل أخرى مثل تحسين المحفظة .

تُستخدم PCA بشكل شائع في المشكلات التي تنطوي على الأوراق المالية ذات الدخل الثابت والمحافظ ومشتقات أسعار الفائدة . تعتمد التقييمات هنا على منحنى العائد بالكامل ، والذي يتألف من العديد من الأدوات المترابطة للغاية، وتُستخدم PCA لتحديد مجموعة من المكونات أو العوامل التي تفسر تحركات الأسعار، ^[58] وبالتالي تسهيل النمذجة. أحد تطبيقات إدارة المخاطر الشائعة هو حساب القيمة المعرضة للخطر ، VaR، وتطبيق PCA على محاكاة مونت كارلو . ^[59] هنا، لكل عينة محاكاة، يتم التأكيد على المكونات، ثم يتم إعادة بناء الأسعار، وبالتالي قيم الخيار ؛ مع حساب VaR، أخيرًا، على مدار التشغيل بالكامل. تُستخدم PCA أيضًا في التحوط من التعرض لمخاطر أسعار الفائدة ، مع مراعاة المدة الجزئية والحساسيات الأخرى. ^{[58] في} كليهما ، تكون المكونات الثلاثة الأولى، عادةً، الرئيسية للنظام ذات أهمية ( تمثل "التحول" و"الالتواء" و"الانحناء"). يتم اشتقاق هذه المكونات الرئيسية من التحلل الذاتي لمصفوفة التباين للعائد عند استحقاقات محددة مسبقًا؛ ^[60] وحيث أن تباين كل مكون هو قيمته الذاتية (ونظرًا لأن المكونات متعامدة ، فلا داعي لدمج أي ارتباط في النمذجة اللاحقة).

بالنسبة للأسهم ، فإن المحفظة المثالية هي تلك التي يتم فيها تعظيم العائد المتوقع لمستوى معين من المخاطر، أو بدلاً من ذلك، حيث يتم تقليل المخاطر لعائد معين؛ انظر نموذج ماركويتز للمناقشة. وبالتالي، فإن أحد الأساليب هو تقليل مخاطر المحفظة، حيث يتم تطبيق استراتيجيات التخصيص على "المحافظ الرئيسية" بدلاً من الأسهم الأساسية . والنهج الثاني هو تعزيز عائد المحفظة، باستخدام المكونات الرئيسية لاختيار أسهم الشركات ذات إمكانات الصعود. ^{[61] [62]} كما تم استخدام تحليل المكونات الرئيسية لفهم العلاقات ^{[57] بين} أسواق الأسهم الدولية ، وداخل الأسواق بين مجموعات الشركات في الصناعات أو القطاعات .

يمكن تطبيق تحليل المكونات الأساسية أيضًا على اختبارات الإجهاد ، ^[63] وهو في الأساس تحليل لقدرة البنك على تحمل سيناريو اقتصادي سلبي افتراضي . تكمن فائدته في "تقطير المعلومات الواردة في [عدة] متغيرات اقتصادية كلية إلى مجموعة بيانات أكثر قابلية للإدارة، والتي يمكن بعد ذلك [استخدامها] للتحليل". ^[63] هنا، ترتبط العوامل الناتجة بأسعار الفائدة على سبيل المثال - بناءً على أكبر عناصر متجه العامل الذاتي - ومن ثم نلاحظ كيف تؤثر "الصدمة" لكل من العوامل على الأصول الضمنية لكل من البنوك.

يتم استخدام أحد أشكال تحليل المكونات الرئيسية في علم الأعصاب لتحديد الخصائص المحددة للمحفز الذي يزيد من احتمالية توليد الخلية العصبية لجهد عمل . ^{[64] [65]} تُعرف هذه التقنية باسم تحليل التباين الناتج عن النبضات . في تطبيق نموذجي، يقدم المجرب عملية ضوضاء بيضاء كمحفز (عادةً إما كمدخل حسي لموضوع الاختبار، أو كتيار يتم حقنه مباشرة في الخلية العصبية) ويسجل سلسلة من جهد العمل، أو النبضات، التي تنتجها الخلية العصبية نتيجة لذلك. من المفترض أن بعض سمات المحفز تجعل الخلية العصبية أكثر عرضة للنبضات. من أجل استخراج هذه السمات، يحسب المجرب مصفوفة التباين للمجموعة الناتجة عن النبضات ، وهي مجموعة من جميع المحفزات (المحددة والمقسمة على مدى نافذة زمنية محدودة، عادةً في حدود 100 مللي ثانية) التي سبقت النبضة مباشرة. تشير المتجهات الذاتية للفرق بين مصفوفة التباين التي أثارتها النبضة ومصفوفة التباين لمجموعة التحفيز السابقة (مجموعة كل التحفيزات، المحددة على نفس نافذة الوقت ذات الطول) إلى الاتجاهات في فضاء التحفيزات التي اختلف فيها تباين مجموعة التحفيز التي أثارتها النبضة بشكل أكبر عن تباين مجموعة التحفيز السابقة. على وجه التحديد، تتوافق المتجهات الذاتية ذات القيم الذاتية الموجبة الأكبر مع الاتجاهات التي أظهر فيها تباين مجموعة التحفيز التي أثارتها النبضة أكبر تغيير إيجابي مقارنة بتباين التحفيز السابق. نظرًا لأن هذه كانت الاتجاهات التي أدى فيها تغيير التحفيز إلى حدوث نبضة، فإنها غالبًا ما تكون تقريبًا جيدة لسمات التحفيز ذات الصلة المطلوبة.

في علم الأعصاب، يستخدم تحليل المكونات الرئيسية أيضًا لتمييز هوية الخلية العصبية من شكل جهدها المحتمل. يعد فرز الأشواك إجراءً مهمًا لأن تقنيات التسجيل خارج الخلية غالبًا ما تلتقط إشارات من أكثر من خلية عصبية واحدة. في فرز الأشواك، يستخدم المرء أولاً تحليل المكونات الرئيسية لتقليل أبعاد مساحة أشكال موجات جهد الفعل، ثم يقوم بتحليل التجميع لربط جهد الفعل المحدد بالخلايا العصبية الفردية.

إن تحليل المكونات الرئيسية كتقنية لتقليل الأبعاد مناسب بشكل خاص للكشف عن الأنشطة المنسقة للمجموعات العصبية الكبيرة. وقد تم استخدامه في تحديد المتغيرات الجماعية، أي معلمات الترتيب ، أثناء التحولات الطورية في الدماغ. ^[66]

تم تطوير تحليل المراسلات (CA) بواسطة جان بول بنزكري ^[67] وهو مشابه من الناحية المفاهيمية لتحليل المكونات الرئيسية، ولكنه يقيس البيانات (التي يجب أن تكون غير سلبية) بحيث يتم التعامل مع الصفوف والأعمدة على قدم المساواة. يتم تطبيقه تقليديًا على جداول الطوارئ . يقوم تحليل المراسلات بتحليل إحصاء مربع كاي المرتبط بهذا الجدول إلى عوامل متعامدة. ^[68] نظرًا لأن تحليل المراسلات هو أسلوب وصفي، فيمكن تطبيقه على الجداول التي تكون فيها إحصاء مربع كاي مناسبًا أو لا. تتوفر العديد من المتغيرات لتحليل المراسلات بما في ذلك تحليل المراسلات منزوعة الاتجاه وتحليل المراسلات القياسي . أحد التوسعات الخاصة هو تحليل المراسلات المتعددة ، والذي يمكن اعتباره نظيرًا لتحليل المكونات الرئيسية للبيانات التصنيفية. ^[69]

إن تحليل المكونات الرئيسية ينشئ متغيرات عبارة عن مجموعات خطية من المتغيرات الأصلية. والمتغيرات الجديدة لها خاصية أن المتغيرات كلها متعامدة. ويمكن أن يكون تحويل تحليل المكونات الرئيسية مفيدًا كخطوة معالجة مسبقة قبل التجميع. وتحليل المكونات الرئيسية هو نهج يركز على التباين ويسعى إلى إعادة إنتاج التباين الكلي للمتغير، حيث تعكس المكونات التباين المشترك والفريد للمتغير. ويفضل تحليل المكونات الرئيسية بشكل عام لأغراض تقليل البيانات (أي ترجمة مساحة المتغير إلى مساحة عامل مثالية) ولكن ليس عندما يكون الهدف هو اكتشاف البنية أو العوامل الكامنة.

تحليل العوامل مشابه لتحليل المكونات الرئيسية، حيث يتضمن تحليل العوامل أيضًا مجموعات خطية من المتغيرات. يختلف تحليل العوامل عن تحليل المكونات الرئيسية، فهو نهج يركز على الارتباط يسعى إلى إعادة إنتاج الارتباطات المتبادلة بين المتغيرات، حيث تمثل العوامل "التباين المشترك للمتغيرات، باستثناء التباين الفريد". ^[70] من حيث مصفوفة الارتباط، يتوافق هذا مع التركيز على شرح المصطلحات خارج القطر (أي التباين المشترك)، بينما يركز تحليل المكونات الرئيسية على شرح المصطلحات الموجودة على القطر. ومع ذلك، وكنتيجة جانبية، عند محاولة إعادة إنتاج المصطلحات على القطر، يميل تحليل المكونات الرئيسية أيضًا إلى ملاءمة الارتباطات خارج القطر بشكل جيد نسبيًا. ^{[12] : 158} النتائج التي يعطيها تحليل المكونات الرئيسية وتحليل العوامل متشابهة جدًا في معظم المواقف، ولكن هذا ليس هو الحال دائمًا، وهناك بعض المشكلات حيث تكون النتائج مختلفة بشكل كبير. يستخدم تحليل العوامل بشكل عام عندما يكون الغرض من البحث هو اكتشاف بنية البيانات (أي البنيات أو العوامل الكامنة) أو النمذجة السببية . إذا تم صياغة نموذج العامل بشكل غير صحيح أو لم يتم استيفاء الافتراضات، فإن تحليل العوامل سوف يعطي نتائج خاطئة. ^[71]

وقد تم التأكيد على أن الحل المريح لتجمع k -means ، المحدد بواسطة مؤشرات المجموعة، يتم إعطاؤه بواسطة المكونات الرئيسية، وأن الفضاء الفرعي لتحليل المكونات الرئيسية الذي يمتد من خلال الاتجاهات الرئيسية مطابق للفضاء الفرعي لمركز الثقل للمجموعة. ^{[72] [73]} ومع ذلك، فإن كون تحليل المكونات الرئيسية بمثابة استرخاء مفيد لتجمع k -means لم يكن نتيجة جديدة، ^[74] ومن السهل الكشف عن أمثلة مضادة للبيان القائل بأن الفضاء الفرعي لمركز الثقل للمجموعة يمتد من خلال الاتجاهات الرئيسية. ^[75]

تحليل العوامل غير السلبية للمصفوفة (NMF) هو طريقة لتقليص الأبعاد حيث يتم استخدام العناصر غير السلبية فقط في المصفوفات، وبالتالي فهي طريقة واعدة في علم الفلك، ^{[23] [24] [25]} بمعنى أن الإشارات الفيزيائية الفلكية غير سلبية. مكونات تحليل المكونات الرئيسية متعامدة مع بعضها البعض، في حين أن مكونات NMF كلها غير سلبية وبالتالي تبني أساسًا غير متعامد.

في تحليل المكونات الرئيسية، يتم تصنيف مساهمة كل مكون بناءً على حجم القيمة الذاتية المقابلة له، والتي تعادل التباين المتبقي الكسري (FRV) في تحليل البيانات التجريبية. ^[21] بالنسبة لـ NMF، يتم تصنيف مكوناته بناءً على منحنيات FRV التجريبية فقط. ^[25] تحتوي مخططات القيمة الذاتية الكسرية المتبقية، أي كدالة لعدد المكونات المعطى لإجمالي المكونات، لتحليل المكونات الرئيسية على هضبة مسطحة، حيث لا يتم التقاط أي بيانات لإزالة الضوضاء شبه الثابتة، ثم تنخفض المنحنيات بسرعة كمؤشر على الإفراط في الملاءمة (الضوضاء العشوائية). ^[21] تتناقص منحنيات FRV لـ NMF بشكل مستمر ^[25] عندما يتم إنشاء مكونات NMF بشكل متسلسل ، ^[24] مما يشير إلى الالتقاط المستمر للضوضاء شبه الثابتة؛ ثم تتقارب إلى مستويات أعلى من تحليل المكونات الرئيسية، ^[25] مما يشير إلى خاصية الإفراط في الملاءمة الأقل لـ NMF. ${\displaystyle 1-\sum _{i=1}^{k}\lambda _{i}{\Big /}\sum _{j=1}^{n}\lambda _{j}}$${\displaystyle k}$${\displaystyle n}$

غالبًا ما يكون من الصعب تفسير المكونات الرئيسية عندما تتضمن البيانات العديد من المتغيرات من أصول مختلفة، أو عندما تكون بعض المتغيرات نوعية. وهذا يقود مستخدم تحليل المكونات الأساسية إلى إزالة دقيقة للعديد من المتغيرات. إذا كانت الملاحظات أو المتغيرات لها تأثير مفرط على اتجاه المحاور، فيجب إزالتها ثم عرضها كعناصر تكميلية. بالإضافة إلى ذلك، من الضروري تجنب تفسير القرب بين النقاط القريبة من مركز المستوى العاملي.

أما أيقونات الارتباطات ، على العكس من ذلك، والتي لا تشكل إسقاطًا على نظام من المحاور، فلا تعاني من هذه العيوب. وبالتالي يمكننا الاحتفاظ بكل المتغيرات.

مبدأ الرسم البياني هو إبراز الارتباطات "الملحوظة" لمصفوفة الارتباط، بواسطة خط متصل (ارتباط إيجابي) أو خط منقط (ارتباط سلبي).

إن الارتباط القوي لا يكون "ملحوظًا" إذا لم يكن مباشرًا، بل ناتجًا عن تأثير متغير ثالث. وعلى العكس من ذلك، يمكن أن تكون الارتباطات الضعيفة "ملحوظة". على سبيل المثال، إذا كان المتغير Y يعتمد على عدة متغيرات مستقلة، فإن ارتباطات Y بكل منها تكون ضعيفة ومع ذلك "ملحوظة".

من العيوب الخاصة بتحليل المكونات الرئيسية أن المكونات الرئيسية عادة ما تكون عبارة عن مجموعات خطية من جميع متغيرات الإدخال. يتغلب تحليل المكونات الرئيسية المتفرق على هذا العيب من خلال إيجاد مجموعات خطية تحتوي على عدد قليل فقط من متغيرات الإدخال. إنه يوسع الطريقة الكلاسيكية لتحليل المكونات الرئيسية (PCA) لتقليل أبعاد البيانات عن طريق إضافة قيد الندرة على متغيرات الإدخال. تم اقتراح العديد من الأساليب، بما في ذلك

• إطار الانحدار، ^[76]
• إطار عمل للاسترخاء المحدب/البرمجة شبه المحددة، ^[77]
• إطار عمل طريقة الطاقة المعممة ^[78]
• إطار التعظيم المتناوب ^[79]
• البحث الجشع للأمام والخلف والطرق الدقيقة باستخدام تقنيات التفرع والحد، ^[80]
• إطار صياغة بايز. ^[81]

تمت مراجعة التطورات المنهجية والنظرية لتحليل المكونات الرئيسية المتفرق بالإضافة إلى تطبيقاته في الدراسات العلمية مؤخرًا في ورقة مسح. ^[82]

تجد معظم الطرق الحديثة لتقليل الأبعاد غير الخطية جذورها النظرية والخوارزمية في تحليل مكونات البيانات الرئيسية أو متوسطات K. كانت فكرة بيرسون الأصلية هي أخذ خط مستقيم (أو مستوى) سيكون "الأفضل ملاءمة" لمجموعة من نقاط البيانات. توسع تريفور هاستي في هذا المفهوم من خلال اقتراح المنحنيات الرئيسية ^[86] باعتبارها الامتداد الطبيعي للتفسير الهندسي لتحليل مكونات البيانات الرئيسية، والذي ينشئ صراحةً متعدد الأشكال لتقريب البيانات متبوعًا بإسقاط النقاط عليه. انظر أيضًا خوارزمية الخريطة المرنة والتحليل الجيوديسي الرئيسي . ^[87] تعميم شائع آخر هو تحليل مكونات البيانات الرئيسي للنواة ، والذي يتوافق مع تحليل مكونات البيانات الرئيسي الذي يتم إجراؤه في فضاء هيلبرت للنواة المعاد إنتاجه المرتبط بنواة محددة موجبة.

في التعلم في الفضاء الفرعي متعدد الخطوط ، ^{[88] [89] [90]} يتم تعميم تحليل المكونات الرئيسية إلى تحليل المكونات الرئيسية متعدد الخطوط (MPCA) الذي يستخرج الميزات مباشرة من تمثيلات الموتر. يتم حل تحليل المكونات الرئيسية من خلال إجراء تحليل المكونات الرئيسية في كل وضع من أوضاع الموتر بشكل تكراري. تم تطبيق تحليل المكونات الرئيسية على التعرف على الوجوه والتعرف على المشي وما إلى ذلك. تم توسيع تحليل المكونات الرئيسية إلى تحليل المكونات الرئيسية غير المرتبط وتحليل المكونات الرئيسية غير السلبي وتحليل المكونات الرئيسية القوي.

يمكن إجراء تحليل المكونات الرئيسية ذات الاتجاه N باستخدام نماذج مثل تحلل تاكر ، وPARAFAC ، وتحليل العوامل المتعددة، وتحليل القصور الذاتي المشترك، وSTATIS، وDISTATIS.

في حين يجد تحليل المكونات الرئيسية الطريقة المثلى رياضيًا (كما في تقليل الخطأ التربيعي)، فإنه لا يزال حساسًا للقيم المتطرفة في البيانات التي تنتج أخطاء كبيرة، وهو الأمر الذي تحاول الطريقة تجنبه في المقام الأول. لذلك من الشائع إزالة القيم المتطرفة قبل حساب تحليل المكونات الرئيسية. ومع ذلك، في بعض السياقات، قد يكون من الصعب تحديد القيم المتطرفة ^[91] . على سبيل المثال، في خوارزميات استخراج البيانات مثل التجميع الارتباطي ، لا يُعرف مسبقًا تعيين النقاط للمجموعات والقيم المتطرفة. يزيد التعميم المقترح مؤخرًا لتحليل المكونات الرئيسية ^[92] استنادًا إلى تحليل المكونات الرئيسية المرجح من المتانة من خلال تعيين أوزان مختلفة لكائنات البيانات بناءً على أهميتها المقدرة.

تم اقتراح أيضًا متغيرات مقاومة للقيم المتطرفة من PCA، استنادًا إلى تركيبات L1-norm ( L1-PCA ). ^{[6] [4]}

يعد تحليل المكونات الأساسية القوي (RPCA) عبر التحلل في المصفوفات منخفضة الرتبة والمتفرقة تعديلاً لتحليل المكونات الأساسية يعمل بشكل جيد فيما يتعلق بالملاحظات الفاسدة بشكل صارخ. ^{[93] [94] [95]}

يتجه تحليل المكونات المستقلة (ICA) إلى مشاكل مماثلة لتحليل المكونات الأساسية، ولكنه يجد مكونات قابلة للفصل بشكل إضافي بدلاً من التقريبات المتعاقبة.

بالنظر إلى مصفوفة ، فإنه يحاول تحليلها إلى مصفوفتين بحيث . الفرق الرئيسي عن تقنيات مثل تحليل المكونات الأساسية وتحليل المكونات الداخلية هو أن بعض إدخالات مقيدة بأن تكون 0. هنا يطلق عليها طبقة التنظيم. في حين أن مثل هذا التحليل يمكن أن يكون له حلول متعددة بشكل عام، إلا أنه يثبت أنه إذا تم استيفاء الشروط التالية: ${\displaystyle E}$${\displaystyle E=AP}$${\displaystyle A}$${\displaystyle P}$

1. ${\displaystyle A}$لديه رتبة عمود كاملة
2. يجب أن يحتوي كل عمود من على أصفار على الأقل حيث يكون هو عدد أعمدة (أو بدلاً من ذلك عدد صفوف ). المبرر لهذا المعيار هو أنه إذا تمت إزالة عقدة من الطبقة التنظيمية مع جميع عقد الإخراج المتصلة بها، فيجب أن تظل النتيجة تتميز بمصفوفة اتصال ذات رتبة عمود كاملة.${\displaystyle A}$${\displaystyle L-1}$${\displaystyle L}$${\displaystyle A}$${\displaystyle P}$
3. ${\displaystyle P}$يجب أن يكون لديك رتبة صف كاملة.

ثم يكون التحلل فريدًا حتى الضرب بمقياس قياسي. ^[96]

التحليل التمييزي للمكونات الرئيسية (DAPC) هو طريقة متعددة المتغيرات تستخدم لتحديد ووصف مجموعات الأفراد المرتبطين وراثيًا. يتم تقسيم التباين الجيني إلى مكونين: التباين بين المجموعات وداخل المجموعات، ويعظم الأول. المميزات الخطية هي مجموعات خطية من الأليلات التي تفصل المجموعات بشكل أفضل. وبالتالي فإن الأليلات التي تساهم أكثر في هذا التمييز هي تلك التي تختلف بشكل ملحوظ عبر المجموعات. يمكن أن تسمح مساهمات الأليلات في التجمعات التي حددها DAPC بتحديد مناطق الجينوم التي تحرك التباعد الجيني بين المجموعات ^[97] في DAPC، يتم تحويل البيانات أولاً باستخدام تحليل المكونات الرئيسية (PCA) ثم يتم تحديد المجموعات باستخدام التحليل التمييزي (DA).

يمكن تنفيذ DAPC على R باستخدام الحزمة Adegenet. (مزيد من المعلومات: adegenet على الويب)

تحليل المكونات الاتجاهية (DCA) هي طريقة تستخدم في العلوم الجوية لتحليل مجموعات البيانات المتعددة المتغيرات. ^[98] مثل تحليل المكونات الرئيسية، فإنه يسمح بتقليل الأبعاد وتحسين التصور وتحسين قابلية تفسير مجموعات البيانات الكبيرة. كما أنه مثل تحليل المكونات الرئيسية، فهو يعتمد على مصفوفة تباين مشتقة من مجموعة البيانات المدخلة. الفرق بين تحليل المكونات الرئيسية وتحليل المكونات الاتجاهية هو أن تحليل المكونات الاتجاهية يتطلب بالإضافة إلى ذلك إدخال اتجاه متجه، يشار إليه بالتأثير. في حين أن تحليل المكونات الرئيسية يزيد من التباين الموضح، فإن تحليل المكونات الاتجاهية يزيد من كثافة الاحتمالية مع الأخذ في الاعتبار التأثير. الدافع وراء تحليل المكونات الاتجاهية هو العثور على مكونات مجموعة البيانات المتعددة المتغيرات التي تكون محتملة (مقاسة باستخدام كثافة الاحتمالية) ومهمة (مقاسة باستخدام التأثير). تم استخدام تحليل المكونات الاتجاهية للعثور على أنماط موجات الحر الأكثر احتمالية والأكثر خطورة في مجموعات التنبؤ بالطقس، ^[99] والتغيرات الأكثر احتمالية والأكثر تأثيرًا في هطول الأمطار بسبب تغير المناخ. ^[100]

• ALGLIB – مكتبة C++ وC# تنفذ PCA وPCA المقطوعة
• Analytica – تقوم وظيفة EigenDecomp المدمجة بحساب المكونات الأساسية.
• ELKI – يتضمن PCA للإسقاط، بما في ذلك المتغيرات القوية من PCA، بالإضافة إلى خوارزميات التجميع القائمة على PCA .
• يمكن إجراء تحليل المكونات الأساسية لـ Gretlpca إما عبر الأمر أو عبر princomp()الوظيفة.
• جوليا – تدعم PCA باستخدام pcaالوظيفة الموجودة في حزمة MultivariateStats
• KNIME – برنامج ترتيب عقدي قائم على Java للتحليل، وفي هذا البرنامج يتم استخدام العقد المسماة PCA، وPCA compute، وPCA Apply، وPCA inverse لتسهيل الأمر.
• Maple (برنامج) – يتم استخدام أمر PCA لإجراء تحليل المكونات الأساسية لمجموعة من البيانات.
• Mathematica – تنفيذ تحليل المكونات الأساسية باستخدام الأمر PrincipalComponents باستخدام كل من أساليب التباين والارتباط.
• MathPHP – مكتبة رياضيات PHP مع دعم PCA.
• MATLAB – تعد دالة SVD جزءًا من النظام الأساسي. في مجموعة أدوات الإحصائيات، تعطي الدالتان princompو pca(R2012b) المكونات الأساسية، بينما pcaresتعطي الدالة المتبقيات والمصفوفة المعاد بناؤها لتقريب PCA منخفض الرتبة.
• Matplotlib – تحتوي مكتبة Python على حزمة PCA في وحدة .mlab.
• mlpack – يوفر تنفيذًا لتحليل المكونات الأساسية في C++ .
• mrmath – مكتبة رياضيات عالية الأداء لـ Delphi و FreePascal يمكنها إجراء تحليل مكونات رئيسية (PCA)؛ بما في ذلك المتغيرات القوية.
• مكتبة NAG - يتم تنفيذ تحليل المكونات الأساسية عبر g03aaالروتين (المتوفر في كلا الإصدارين Fortran من المكتبة).
• NMath – مكتبة رقمية خاصة تحتوي على PCA لإطار عمل .NET .
• GNU Octave – بيئة حسابية برمجية حرة متوافقة في الغالب مع MATLAB، وتوفر الوظيفة princompالمكون الرئيسي.
• أوبن سي في
• قاعدة بيانات Oracle 12c – تم تنفيذها DBMS_DATA_MINING.SVDS_SCORING_MODEعن طريق تحديد قيمة الإعدادSVDS_SCORING_PCA
• Orange (برنامج) – يدمج تحليل المكونات الرئيسية في بيئة البرمجة المرئية الخاصة به. يعرض تحليل المكونات الرئيسية رسمًا بيانيًا (درجة التباين الموضحة) حيث يمكن للمستخدم تحديد عدد المكونات الرئيسية بشكل تفاعلي.
• الأصل – يحتوي على PCA في إصداره Pro.
• Qlucore – برنامج تجاري لتحليل البيانات المتعددة المتغيرات مع الاستجابة الفورية باستخدام PCA.
• R – حزمة إحصائية مجانية ، يمكن استخدام الوظائف princompو prcompلتحليل المكونات الأساسية؛ prcompتستخدم تحلل القيمة المفردة الذي يعطي عمومًا دقة رقمية أفضل. تتضمن بعض الحزم التي تنفذ تحليل المكونات الأساسية في R، على سبيل المثال لا الحصر: ade4و veganو ExPositionو dimRedو و FactoMineR.
• SAS – برنامج خاص؛ على سبيل المثال، انظر ^[101]
• scikit-learn – مكتبة Python للتعلم الآلي تحتوي على PCA و Probabilistic PCA و Kernel PCA و Sparse PCA وتقنيات أخرى في وحدة التحلل.
• Scilab – حزمة حسابية رقمية مجانية ومفتوحة المصدر ومتعددة الأنظمة، princompتحسب الدالة تحليل المكونات الأساسية، تحسب الدالة pcaتحليل المكونات الأساسية باستخدام متغيرات موحدة.
• SPSS – برنامج احتكاري يستخدمه علماء الاجتماع بشكل شائع في تحليل مكونات البيانات الرئيسية وتحليل العوامل وتحليل المجموعات المرتبطة.
• Weka – مكتبة Java للتعلم الآلي تحتوي على وحدات لحساب المكونات الأساسية.

• جاكسون، جي إي (1991). دليل المستخدم للمكونات الأساسية (وايلي).
• Jolliffe, IT (1986). Principal Component Analysis . Springer Series in Statistics. Springer-Verlag. ص. 487. CiteSeerX  10.1.1.149.8828 . doi :10.1007/b98835. ISBN 978-0-387-95442-4.
• Jolliffe, IT (2002). Principal Component Analysis. Springer Series in Statistics. New York: Springer-Verlag. doi :10.1007/b98835. ISBN 978-0-387-95442-4.
• هوسون فرانسوا، لي سيباستيان وباجيس جيروم (2009). التحليل الاستكشافي المتعدد المتغيرات باستخدام R. تشابمان وهول/سي آر سي، سلسلة R، لندن. 224 صفحة. رقم ISBN 978-2-7535-0938-2 
• باجيس جيروم (2014). تحليل العوامل المتعددة باستخدام R. تشابمان وهول/سي آر سي، سلسلة R، لندن، 272 صفحة

• فيديو جامعة كوبنهاجن بواسطة راسموس برو على اليوتيوب
• فيديو جامعة ستانفورد بواسطة أندرو نج على اليوتيوب
• برنامج تعليمي حول تحليل المكونات الأساسية
• مقدمة للمبتدئين حول تحليل المكونات الأساسية على اليوتيوب (فيديو أقل من 100 ثانية).
• StatQuest: StatQuest: تحليل المكونات الأساسية (PCA)، خطوة بخطوة على YouTube
• انظر أيضًا قائمة تنفيذات البرامج