الارتباط الكنسي
في الإحصاء ، يُعد تحليل الارتباط الكنسي ( CCA )، المعروف أيضًا بتحليل المتغيرات الكنسية ، طريقةً لاستنتاج المعلومات من مصفوفات التغاير المشترك . إذا كان لدينا متجهان X = ( X₁ , ... , Xₙ ) و Y = ( Y₁ , ..., Yₘ ) من المتغيرات العشوائية ، وكانت هناك ارتباطات بين هذه المتغيرات، فإن تحليل الارتباط الكنسي سيجد التراكيب الخطية لـ X و Y التي تحقق أعلى ارتباط بينهما. [ 1 ] ويشير تي آر كناب إلى أنه "يمكن اعتبار جميع اختبارات الدلالة البارامترية الشائعة تقريبًا حالات خاصة من تحليل الارتباط الكنسي، وهو الإجراء العام لدراسة العلاقات بين مجموعتين من المتغيرات". [ 2 ] وقد طُوِّرت هذه الطريقة لأول مرة على يد هارولد هوتلينج عام 1936، [ 3 ] على الرغم من أن المفهوم الرياضي نُشر عام 1875 في سياق الزوايا بين المستويات . [ 4 ]
أصبح تحليل الارتباط الكنسي (CCA) الآن حجر الزاوية في الإحصاءات متعددة المتغيرات والتعلم متعدد الرؤى، وقد طُرحت العديد من التفسيرات والتوسعات، مثل تحليل الارتباط الكنسي الاحتمالي، وتحليل الارتباط الكنسي المتفرق، وتحليل الارتباط الكنسي متعدد الرؤى، وتحليل الارتباط الكنسي العميق [ 5 ] ، وتحليل الارتباط الكنسي الجغرافي العميق [ 6 ] . مع ذلك، ربما بسبب شيوعه، قد يكون هناك تضارب في المصطلحات المستخدمة في المراجع العلمية. نسعى في هذه المقالة إلى تسليط الضوء على هذا التضارب لمساعدة القارئ على الاستفادة القصوى من المراجع والتقنيات المتاحة.
على غرار طريقة تحليل المكونات الرئيسية (PCA) ، يمكن النظر إلى تحليل الارتباط الكنسي (CCA) من منظورين: إما من منظور السكان (أي المتجهات العشوائية ومصفوفات التباين الخاصة بها) أو من منظور العينة (أي مجموعات البيانات ومصفوفات التباين الخاصة بها). يتشابه هذان المنظوران بشكل كبير، ولذلك غالبًا ما يُغفل التمييز بينهما، إلا أنهما قد يتصرفان بشكل مختلف تمامًا في البيئات عالية الأبعاد. [ 7 ] سنقدم فيما يلي تعريفات رياضية صريحة لمسألة السكان، ونسلط الضوء على العناصر المختلفة في ما يُسمى بالتحليل الكنسي - إذ يُعد فهم الاختلافات بين هذه العناصر أمرًا بالغ الأهمية لتفسير هذه التقنية.
تعريف تحليل الارتباط الكنسي للسكان من خلال الارتباطات
بفرض وجود متجهين عموديينوبالنسبة للمتغيرات العشوائية ذات العزوم الثانية المحدودة ، يمكن تعريف التغاير المشتركأن يكونالمصفوفة التيالمدخل هو التغايرعمليًا، نقوم بتقدير مصفوفة التغاير بناءً على البيانات المأخوذة من العينة.و(أي من زوج من مصفوفات البيانات).
يسعى تحليل الارتباط الكنسي إلى إيجاد سلسلة من المتجهات () و() بحيث تكون المتغيرات العشوائيةوتعظيم الارتباطالمتغيرات العشوائية (القياسية)ويمثل الزوج الأول من المتغيرات الأساسية . ثم نبحث عن متجهات تُعظّم نفس الارتباط مع مراعاة شرط عدم ارتباطها بالزوج الأول من المتغيرات الأساسية؛ وهذا يُعطي الزوج الثاني من المتغيرات الأساسية . يمكن مواصلة هذه العملية حتىمرات.
مجموعات المتجهاتتُسمى هذه المتجهات بالاتجاهات الأساسية أو متجهات الوزن أو ببساطة الأوزان . مجموعات المتجهات "الثنائية"تُسمى هذه المتجهات متجهات التحميل الأساسية أو ببساطة التحميلات ؛ وغالبًا ما يكون تفسيرها أسهل من تفسير الأوزان. [ 8 ]
حساب
الاشتقاق
يتركلتكن مصفوفة التغاير المتقاطع لأي زوج من المتغيرات العشوائية (ذات الشكل المتجهي)والدالة المستهدفة التي يجب تعظيمها هي
الخطوة الأولى هي تحديد تغيير الأساس وتحديد
أينويمكن الحصول عليها من تحليل القيم الذاتية (أو عن طريق القطرنة ):
و
هكذا
بحسب متباينة كوشي-شفارتز ،
يتحقق التساوي إذا كانت المتجهاتوتكون متوازية. بالإضافة إلى ذلك، يتم الوصول إلى أقصى درجة من الارتباط إذاهو المتجه الذاتي ذو القيمة الذاتية القصوى للمصفوفة(انظر حاصل قسمة رايلي ). يتم إيجاد الأزواج اللاحقة باستخدام القيم الذاتية ذات المقادير المتناقصة. ويُضمن التعامد من خلال تناظر مصفوفات الارتباط.
ويمكن النظر إلى هذه العملية الحسابية من زاوية أخرى، وهي أنويمثلان متجهي الارتباط الأيسر والأيمن لمصفوفة الارتباط لـ X و Y المقابلين لأعلى قيمة مفردة.
حل
إذن، الحل هو:
- هو متجه ذاتي لـ
- يتناسب مع
وبالمقابل، هناك أيضاً:
- هو متجه ذاتي لـ
- يتناسب مع
وبعكس تغيير الإحداثيات، نحصل على ما يلي:
- هو متجه ذاتي لـ،
- يتناسب مع
- هو متجه ذاتي لـ
- يتناسب مع.
يتم تعريف المتغيرات الأساسية على النحو التالي:
تطبيق
يمكن حساب تحليل الارتباط الكنسي (CCA) باستخدام تحليل القيم المفردة على مصفوفة الارتباط. [ 9 ] وهو متاح كدالة في [ 10 ]
- MATLAB كـ canoncorr ( أيضًا في Octave )
- تُستخدم الدالة cancor في لغة R كدالة قياسية ، بالإضافة إلى العديد من الحزم الأخرى، بما في ذلك candisc و CCA و vegan . وتُستخدم CCP لاختبار الفرضيات الإحصائية في تحليل الارتباط الكنسي.
- SAS كإجراء تصحيحي
- تُستخدم مكتبة scikit-learn في بايثون ، كتحليل تقاطعي ، بينما تُستخدم مكتبة statsmodels كـ CanCorr . وتُنفذ مكتبة CCA-Zoo [ 11 ] امتدادات CCA، مثل CCA الاحتمالي، وCCA المتفرق، وCCA متعدد الرؤى، وCCA العميق.
- برنامج SPSS كوحدة ماكرو CanCorr المرفقة مع البرنامج الرئيسي
- لغة البرمجة جوليا في حزمة MultivariateStats.jl .
تعتمد حسابات تحليل الارتباط المتعارف عليه (CCA) باستخدام تحليل القيم المفردة على مصفوفة الارتباط على جيب تمام الزوايا بين المستويات . تكون دالة جيب التمام غير مستقرة للزوايا الصغيرة، مما يؤدي إلى حساب غير دقيق للغاية للمتجهات الرئيسية شديدة الارتباط في العمليات الحسابية الحاسوبية ذات الدقة المحدودة . لحل هذه المشكلة ، تتوفر خوارزميات بديلة [ 12 ]
اختبار الفرضيات
يمكن اختبار دلالة كل صف باستخدام الطريقة التالية. وبما أن الارتباطات مرتبة، فإن هذا الصفإذا كانت قيمة تساوي صفرًا، فإن جميع الارتباطات الأخرى تساوي صفرًا أيضًا. إذا كان لديناالملاحظات المستقلة في عينة وهو الارتباط المقدر لـ. لـفي الصف رقم 1، تكون إحصائية الاختبار هي:
والذي يتوزع تقاربياً كتوزيع كاي تربيع معدرجات الحرية للأحجام الكبيرة[ 13 ] بما أن جميع الارتباطات منلإذا كانت منطقياً تساوي صفرًا (وتم تقديرها بهذه الطريقة أيضًا)، فإن حاصل ضرب الحدود بعد هذه النقطة غير ذي صلة.
لاحظ أنه في حالة حجم العينة الصغير مععندها نضمن أن القمةستكون معاملات الارتباط مساوية لـ 1، وبالتالي فإن الاختبار لا معنى له. [ 14 ]
الاستخدامات العملية
يُستخدم الارتباط الكنسي عادةً في السياق التجريبي لدراسة مجموعتين من المتغيرات وملاحظة أوجه التشابه بينهما. [ 15 ] على سبيل المثال، في الاختبارات النفسية، يمكن استخدام اختبارين معروفين للشخصية متعددة الأبعاد ، مثل اختبار مينيسوتا متعدد الأوجه للشخصية (MMPI-2) واختبار NEO . من خلال دراسة العلاقة بين عوامل MMPI-2 وعوامل NEO، يمكن فهم الأبعاد المشتركة بين الاختبارين ومقدار التباين المشترك بينهما. على سبيل المثال، قد يُلاحظ أن بُعد الانبساط أو العصابية يُفسر نسبة كبيرة من التباين المشترك بين الاختبارين.
يمكن أيضًا استخدام تحليل الارتباط الكنسي لإنتاج معادلة نموذجية تربط بين مجموعتين من المتغيرات، على سبيل المثال مجموعة من مقاييس الأداء ومجموعة من المتغيرات التفسيرية، أو مجموعة من المخرجات ومجموعة من المدخلات. ويمكن فرض قيود على هذا النموذج لضمان مطابقته للمتطلبات النظرية أو الشروط البديهية. يُعرف هذا النوع من النماذج بنموذج الارتباط الأقصى. [ 16 ]
عادةً ما يتم تمثيل نتائج الارتباط الكنسي بيانيًا من خلال رسوم بيانية شريطية لمعاملات مجموعتي المتغيرات لأزواج المتغيرات الكنسي التي تُظهر ارتباطًا معنويًا. ويقترح بعض الباحثين أن أفضل طريقة لتمثيلها بيانيًا هي رسمها على شكل دائرة ذات أشرطة شعاعية، حيث يمثل كل نصف مجموعتي المتغيرات. [ 17 ]
أمثلة
يتركبقيمة متوقعة صفرية ، أي.
- لو، أي،وإذا كانت مترابطة تمامًا، على سبيل المثال،وبحيث يكون الزوج الأول (والوحيد في هذا المثال) من المتغيرات الأساسية هوو.
- لو، أي،وإذا كانت هذه العلاقات متقابلة تمامًا، على سبيل المثال،وبحيث يكون الزوج الأول (والوحيد في هذا المثال) من المتغيرات الأساسية هوو.
نلاحظ ذلك في كلتا الحالتينوهذا يوضح أن تحليل الارتباط الكنسي يعامل المتغيرات المرتبطة والمتغيرات ذات الارتباط العكسي بشكل مماثل.
العلاقة بالزوايا الرئيسية
بافتراض أنولها قيم متوقعة صفرية ، أي، ومصفوفات التغاير الخاصة بهاويمكن اعتبارها مصفوفات غرام في جداء داخلي لعناصر ووبالمثل. في هذا التفسير، المتغيرات العشوائية، المدخلاتل ولتُعامل كعناصر في فضاء متجهي ذي جداء داخلي معطى بواسطة التغايرانظر إلى التباين المشترك#العلاقة بالمنتجات الداخلية .
تعريف المتغيرات الأساسيةووبالتالي، يكون ذلك مكافئًا لتعريف المتجهات الرئيسية لزوج الفضاءات الجزئية الممتدة بواسطة مدخلات وفيما يتعلق بهذا المنتج الداخلي . الارتباطات الأساسيةيساوي جيب تمام الزوايا الرئيسية .
التبييض وتحليل الارتباط الكنسي الاحتمالي
يمكن أيضًا اعتبار تحليل الارتباط المتعارف عليه (CCA) بمثابة تحويل تبييض خاص حيث تكون المتجهات العشوائيةويتم تحويلها في وقت واحد بطريقة تجعل الارتباط المتبادل بين المتجهات المبيضةوقطري. [ 18 ] ثم تُفسَّر الارتباطات الكنسية على أنها معاملات انحدار تربطووقد تكون سلبية أيضًا. كما يوفر منظور الانحدار لتحليل الارتباط الكنسي طريقة لبناء نموذج توليدي احتمالي للمتغيرات الكامنة لتحليل الارتباط الكنسي، مع متغيرات خفية غير مترابطة تمثل التباين المشترك وغير المشترك. [ 19 ]
انظر أيضاً
روابط خارجية
- تحليل الارتباط التمييزي (DCA) [ 20 ] ( MATLAB )
- هاردون، د. ر.؛ سزدماك، س.؛ شاو-تايلور، ج. (2004). "تحليل الارتباط الكنسي: نظرة عامة مع تطبيق على أساليب التعلم". الحوسبة العصبية . 16 (12): 2639-2664 . CiteSeerX 10.1.1.14.6452 . doi : 10.1162/0899766042321814 . PMID 15516276. S2CID 202473 .
- ملاحظة حول تحليل الارتباط الكنسي الترتيبي لمجموعتين من درجات التصنيف (يتضمن أيضًا برنامج FORTRAN ) - في مجلة الاقتصاد الكمي 7(2)، 2009، ص 173-199
- تحليل الارتباط الكنسي المقيد بالتمثيل: تهجين بين تحليل الارتباط الكنسي وتحليل المكونات الرئيسية (يوفر أيضًا برنامجًا بلغة فورتران ) - في مجلة العلوم الاقتصادية التطبيقية 4(1)، 2009، ص 115-124
مراجع
- ↑ هاردل، وولفغانغ؛ سيمار، ليوبولد (2007). "تحليل الارتباط الكنسي". التحليل الإحصائي متعدد المتغيرات التطبيقي . ص 321-330 . CiteSeerX 10.1.1.324.403 . doi : 10.1007/978-3-540-72244-1_14 . ISBN 978-3-540-72243-4.
- ↑ كناب، تي آر (1978). "تحليل الارتباط الكنسي: نظام عام لاختبار الدلالة البارامترية". النشرة النفسية . 85 (2): 410-416 . doi : 10.1037/0033-2909.85.2.410 .
- ↑ هوتلينج، هـ. (1936). "العلاقات بين مجموعتين من المتغيرات". بيومتريكا . 28 ( 3-4 ): 321-377 . doi : 10.1093/biomet/28.3-4.321 . JSTOR 2333955 .
- ^ الأردن ، ك. (1875). "مقالة حول الهندسةالأبعاد" . نشرة الجمعية الرياضية الفرنسية . 3 : 103.
- ↑ أندرو، جالين؛ أرورا، رامان؛ بيلمز، جيف؛ ليفيسكو، كارين (26-05-2013). "تحليل الارتباط الكنسي العميق" . وقائع المؤتمر الدولي الثلاثين للتعلم الآلي . PMLR: 1247-1255 .
- ↑ جو، سي؛ كوبلر، رينمار جيه؛ تانغ، لياو؛ غوان، كونتاي؛ كاوانابي، موتوأكي (2024). تحليل الارتباط الكنسي الجيوديسي العميق لبيانات التصوير العصبي القائمة على التغاير . المؤتمر الدولي الثاني عشر حول تمثيلات التعلم (ICLR 2024، تسليط الضوء).
- ↑ "التعلم الإحصائي مع التباعد: لاسو والتعميمات" . hastie.su.domains . تم الاسترجاع في 12-09-2023 .
- ↑ غو، فاي؛ وو، هاو (2018-04-01). "تحليل الارتباط الكنسي المتزامن مع معاملات التحميل الكنسية الثابتة" . مجلة Behaviormetrika . 45 (1): 111-132 . doi : 10.1007/s41237-017-0042-8 . ISSN 1349-6964 .
- ↑ هسو، د.؛ كاكادي، س.م.؛ تشانغ، ت. (2012). "خوارزمية طيفية لتعلم نماذج ماركوف المخفية" (ملف PDF) . مجلة علوم الحاسوب والأنظمة . 78 (5): 1460. arXiv : 0811.4413 . doi : 10.1016/j.jcss.2011.12.025 . S2CID 220740158 .
- ↑ هوانغ، إس واي؛ لي، إم إتش؛ هسياو، سي كيه (2009). "مقاييس الارتباط غير الخطية مع تحليل الارتباط الكنسي النواة وتطبيقاته" (ملف PDF) . مجلة التخطيط والاستدلال الإحصائي . 139 (7): 2162. doi : 10.1016/j.jspi.2008.10.011 . مؤرشف من الأصل (ملف PDF) بتاريخ 13 مارس 2017. تم الاطلاع عليه بتاريخ 4 سبتمبر 2015 .
- ↑ تشابمان، جيمس؛ وانغ، هاو-تينغ (18-12-2021). "CCA-Zoo: مجموعة من طرق تحليل الارتباط الكنسي (CCA) المنتظمة، والقائمة على التعلم العميق، والنواة، والاحتمالية في إطار عمل مشابه لـ scikit-learn" . مجلة البرمجيات مفتوحة المصدر . 6 (68): 3823. Bibcode : 2021JOSS....6.3823C . doi : 10.21105/joss.03823 . ISSN 2475-9066 .
- ↑ كنيازيف، أ. ف.؛ أرجنتاتي، م. إ. (2002)، "الزوايا الرئيسية بين الفضاءات الفرعية في حاصل الضرب القياسي القائم على A: الخوارزميات وتقديرات الاضطراب"، مجلة SIAM للحوسبة العلمية ، 23 (6): 2009-2041 ، Bibcode : 2002SJSC...23.2008K ، CiteSeerX 10.1.1.73.2914 ، doi : 10.1137/S1064827500377332
- ↑ كانتي ف. مارديا ، جيه تي كينت وجيه إم بيبي (1979). التحليل متعدد المتغيرات . دار النشر الأكاديمية .
- ↑ يانغ سونغ، بيتر جيه. شراير، ديفيد راميريز، وتانوج هاسيا: تحليل الارتباط الكنسي للبيانات عالية الأبعاد ذات حجم عينة صغير جدًا arXiv : 1604.02047
- ↑ سييرانوجا، س.؛ شهيد الله، م.؛ كينونين، ت.؛ كومولاينين، ج.؛ حديد، أ. (يوليو 2018). "الكشف عن التزامن السمعي البصري باستخدام ميزات صوتية محسّنة" (ملف PDF) . المؤتمر الدولي الثالث لمعالجة الإشارات والصور (ICSIP) لعام 2018، معهد مهندسي الكهرباء والإلكترونيات . الصفحات 377-381 . doi : 10.1109/SIPROCESS.2018.8600424 . ISBN 978-1-5386-6396-7. S2CID 51682024 .
- ↑ توفاليس، سي. (1999). "بناء النماذج باستخدام متغيرات تابعة متعددة وقيود". مجلة الجمعية الإحصائية الملكية، السلسلة د . 48 (3): 371-378 . arXiv : 1109.0725 . doi : 10.1111/1467-9884.00195 . S2CID 8942357 .
- ↑ ديغاني، أ.؛ شافتو، م.؛ أولسون، ل. (2006). "تحليل الارتباط الكنسي: استخدام الصور الشمسية المركبة لتمثيل أنماط متعددة" (ملف PDF) . التمثيل التخطيطي والاستدلال . سلسلة محاضرات في علوم الحاسوب. المجلد 4045. ص 93. CiteSeerX 10.1.1.538.5217 . doi : 10.1007/11783183_11 . ISBN 978-3-540-35623-3.
- ↑ جندوبي، ت.؛ ستريمر، ك. (2018). "نهج التبييض لتحليل الارتباط الكنسي الاحتمالي لتكامل بيانات علم الجينوم" . مجلة BMC Bioinformatics . 20 (1): 15. arXiv : 1802.03490 . doi : 10.1186/s12859-018-2572-9 . PMC 6327589. PMID 30626338 .
- ↑ جندوبي، تاكوا؛ ستريمر، كوربينيان (9 يناير 2019). "نهج التبييض لتحليل الارتباط الكنسي الاحتمالي لتكامل بيانات علم الجينوم" . مجلة BMC Bioinformatics . 20 (1): 15. doi : 10.1186/s12859-018-2572-9 . ISSN 1471-2105 . PMC 6327589. PMID 30626338 .
- ↑ حقيقيات، محمد؛ عبد المطلب، محمد؛ الحلبي، وديع (2016). "تحليل الارتباط التمييزي: دمج الميزات في الوقت الحقيقي للتعرف البيومتري متعدد الوسائط" . معاملات IEEE في الطب الشرعي وأمن المعلومات . 11 (9): 1984-1996 . doi : 10.1109/TIFS.2016.2569061 . S2CID 15624506 .
- التغاير والارتباط
