الارتباط الخطي المتعدد

في الإحصاء ، يُعرف التعدد الخطي أو الخطية المشتركة بأنه حالة تكون فيها المتغيرات التنبؤية في نموذج الانحدار مرتبطة خطيًا .

يشير مصطلح الارتباط الخطي المتعدد التام إلى حالة تكون فيها المتغيرات التنبؤية مرتبطة بعلاقة خطية دقيقة . عندما يكون هناك ارتباط خطي تام، فإن مصفوفة التصميم${\displaystyle X}$لها رتبة أقل من الرتبة الكاملة ، وبالتالي فإن مصفوفة العزوم${\displaystyle X^{\mathsf {T}}X}$لا يمكن عكسها . في هذه الحالة، لا تكون تقديرات معلمات الانحدار محددة جيدًا، حيث أن نظام المعادلات له عدد لا نهائي من الحلول .

يشير مصطلح التعدد الخطي غير الكامل إلى حالة تكون فيها المتغيرات التنبؤية ذات علاقة خطية شبه تامة.

تفترض نظرية جاوس -ماركوف عدم وجود تعدد خطي مثالي .

إن التأثير السلبي للمتغيرات شديدة الارتباط معروف على نطاق واسع ومثبت مرات عديدة. ^{[ 1 ] [ 2 ]}

لمعالجة مشكلة الارتباط الخطي العالي لمجموعة البيانات، يمكن استخدام عامل تضخم التباين لتحديد الارتباط الخطي بين المتغيرات التنبؤية.

يشير التعدد الخطي التام إلى حالة تكون فيها المتغيرات التنبؤية مرتبطة خطيًا (يمكن كتابة أحدها كدالة خطية دقيقة للمتغيرات الأخرى). ^{[ 3 ]} تتطلب طريقة المربعات الصغرى العادية عكس المصفوفة${\displaystyle X^{\mathsf {T}}X}$، أين

${\displaystyle X={\begin{bmatrix}1&X_{11}&\cdots &X_{k1}\\\vdots &\vdots &&\vdots \\1&X_{1N}&\cdots &X_{kN}\end{bmatrix}}}$

هو${\displaystyle N\times (k+1)}$المصفوفة، حيث${\displaystyle N}$يمثل عدد المشاهدات،${\displaystyle k}$يمثل عدد المتغيرات التفسيرية، و${\displaystyle N\geq k+1}$إذا كانت هناك علاقة خطية دقيقة بين المتغيرات المستقلة، فإن أحد أعمدة المصفوفة على الأقل${\displaystyle X}$هو توليفة خطية من العناصر الأخرى، وبالتالي فإن رتبة${\displaystyle X}$(وبالتالي من${\displaystyle X^{\mathsf {T}}X}$) أقل من${\displaystyle k+1}$والمصفوفة${\displaystyle X^{\mathsf {T}}X}$لن يكون قابلاً للعكس.

في بعض الأحيان، المتغيرات${\displaystyle X_{j}}$تكون متوازية تقريبًا. في هذه الحالة، المصفوفة${\displaystyle X^{\mathsf {T}}X}$للمصفوفة معكوس، لكنها غير مستقرة . قد تتمكن خوارزمية الحاسوب من حساب معكوس تقريبي أو لا؛ وحتى لو تمكنت من ذلك، فقد يحتوي المعكوس الناتج على أخطاء تقريب كبيرة .

يُعدّ مؤشر الحالة المقياس المعياري لسوء حالة المصفوفة. فهو يُحدد ما إذا كان معكوس المصفوفة غير مستقر عدديًا عند استخدام أعداد ذات دقة محدودة، مما يُشير إلى حساسية المعكوس المحسوب للتغيرات الطفيفة في المصفوفة الأصلية. يُحسب رقم الحالة بإيجاد القيمة المفردة القصوى مقسومة على القيمة المفردة الدنيا لمصفوفة التصميم . ^{[ 5 ]} في سياق المتغيرات الخطية، يُعدّ عامل تضخم التباين هو رقم الحالة لمعامل مُحدد.

إضافةً إلى التسبب في مشاكل عددية، فإن عدم التطابق الخطي بين المتغيرات يجعل التقدير الدقيق للمتغيرات صعباً. بعبارة أخرى، تؤدي المتغيرات شديدة الارتباط إلى تقديرات غير دقيقة وأخطاء معيارية كبيرة.

على سبيل المثال، لنفترض أننا لاحظنا أن أليس ترتدي حذاءها الطويل كلما هطل المطر، وأن الماء لا يتجمع إلا في البرك الصغيرة عند هطول المطر. عندها، لا نستطيع تحديد ما إذا كانت ترتدي الحذاء لحماية قدميها من المطر، أم لحماية قدميها من البلل إذا وطئت في بركة ماء.

تكمن المشكلة في محاولة تحديد مدى أهمية كل من المتغيرين في أنهما متداخلان مع بعضهما البعض: يتم تفسير ملاحظاتنا بشكل جيد بنفس القدر بواسطة أي من المتغيرين، لذلك لا نعرف أي منهما يسبب الارتباطات الملحوظة.

هناك طريقتان لاكتشاف هذه المعلومات:

1. باستخدام المعلومات أو النظريات السابقة. على سبيل المثال، إذا لاحظنا أن أليس لا تخطو أبدًا في البرك، فيمكننا أن نجادل بشكل معقول بأن البرك ليست سبب ارتدائها للأحذية، لأنها لا تحتاج إلى الأحذية لتجنب البرك.
2. جمع المزيد من البيانات. إذا راقبنا أليس مرات كافية، فسوف نراها في النهاية في الأيام التي توجد فيها برك ماء ولكن لا يوجد مطر (على سبيل المثال، لأن المطر يتوقف قبل أن تغادر المنزل).

يتفاقم هذا التداخل بشكل كبير عندما يحاول الباحثون تجاهله أو قمعه باستبعاد هذه المتغيرات من الانحدار (انظر #سوء الاستخدام ). إن استبعاد المتغيرات متعددة الارتباط الخطي من الانحدارات سيؤدي إلى إبطال الاستدلال السببي وإنتاج تقديرات أسوأ عن طريق إزالة عوامل التداخل المهمة.

يمكن أن يؤثر الارتباط الخطي المتعدد بشكل كبير على استقرار نماذج الانحدار وقابليتها للتفسير. فعندما تكون المتغيرات التنبؤية مترابطة ارتباطًا وثيقًا، يزداد تباين معاملات الانحدار المقدرة، مما قد يؤدي إلى أخطاء معيارية كبيرة واستدلال إحصائي غير موثوق. ونتيجة لذلك، قد تبدو المعاملات غير ذات دلالة إحصائية حتى عندما يتمتع النموذج الكلي بقوة تفسيرية عالية. لا تؤدي هذه المشكلة بالضرورة إلى تقليل الأداء التنبؤي، ولكنها تُعقّد تفسير كل متغير تنبؤي على حدة. ^{[ 9 ]}

كثيراً ما يُساء استخدام عوامل تضخم التباين كمعايير في الانحدار التدريجي (أي لإدراج/استبعاد المتغيرات)، وهو استخدام "يفتقر إلى أي أساس منطقي، كما أنه مضلل بشكل أساسي كقاعدة عامة". ^{[ 11 ]}

يؤدي استبعاد المتغيرات المتداخلة إلى تقديرات صغيرة بشكل مصطنع للأخطاء المعيارية، ولكنه لا يقلل من الأخطاء المعيارية الحقيقية (غير المقدرة) لمعاملات الانحدار. ^{[ 12 ]} كما أن استبعاد المتغيرات ذات معامل تضخم التباين العالي يُبطل الأخطاء المعيارية المحسوبة وقيم الاحتمالية، بتحويل نتائج الانحدار إلى تحليل لاحق . ^{[ 14 ]}

نظرًا لأنّ الارتباط الخطي يؤدي إلى أخطاء معيارية وقيم احتمالية كبيرة، مما قد يُصعّب نشر المقالات، يلجأ بعض الباحثين إلى إخفاء البيانات غير المرغوب فيها عن طريق حذف المتغيرات ذات الارتباط القوي من نماذج الانحدار. يندرج هذا الإجراء ضمن فئات أوسع تشمل التلاعب بقيمة الاحتمالية ، والتنقيب في البيانات ، والتحليل اللاحق . وعادةً ما يؤدي حذف المتغيرات التنبؤية المرتبطة خطيًا (المفيدة) إلى تدهور دقة النموذج وتقديرات المعاملات.

وبالمثل، فإن تجربة العديد من النماذج أو إجراءات التقدير المختلفة (مثل المربعات الصغرى العادية ، وانحدار ريدج، وما إلى ذلك) حتى العثور على نموذج قادر على "التعامل مع" الارتباط الخطي، يُنشئ مشكلة المسارات المتشعبة . وتُصبح قيم الاحتمالية وفترات الثقة المستمدة من التحليلات اللاحقة غير صالحة بسبب تجاهل عدم اليقين في إجراء اختيار النموذج .

من المنطقي استبعاد المتغيرات التنبؤية غير المهمة إذا كان معروفًا مسبقًا أن تأثيرها على النتيجة ضئيل أو معدوم؛ على سبيل المثال، لا ينبغي استخدام إنتاج الجبن المحلي للتنبؤ بارتفاع ناطحات السحاب. مع ذلك، يجب القيام بذلك عند تحديد النموذج لأول مرة، قبل جمع أي بيانات، وينبغي دائمًا تضمين المتغيرات التي قد تكون مفيدة.

• مصفوفة سيئة التكييف
• الاعتماد الخطي

• بيلسلي، ديفيد أ.؛ كوه، إدوين ؛ ويلش، روي إي. (1980). تشخيص الانحدار: تحديد البيانات المؤثرة ومصادر الارتباط الخطي . نيويورك: وايلي. ISBN 978-0-471-05856-4.
• جولدبيرجر، آرثر س. (1991). "التعدد الخطي" . دورة في الاقتصاد القياسي . كامبريدج: مطبعة جامعة هارفارد. ص 245-253 . ISBN  9780674175440.
• هيل، آر. كارتر؛ أدكينز، لي سي. (2001). "الارتباط الخطي". في بالتاجي، بادي ح. (محرر). دليل الاقتصاد القياسي النظري . بلاكويل. ص 256-278 . doi : 10.1002/9780470996249.ch13 . ISBN  978-0-631-21254-6.
• جونستون، جون (1972). الأساليب الاقتصادية القياسية (  الطبعة الثانية). نيويورك: ماكجرو هيل. الصفحات 159-168 . ISBN  9780070326798.
• كالنينز، أرتورس (2022). "متى يؤثر الارتباط الخطي المتعدد على معاملات التحيز ويسبب أخطاء من النوع الأول؟ توفيق بين ليندنر، باك، وفيربيك (2020) وكالنينز (2018)". مجلة دراسات الأعمال الدولية . 53 (7): 1536-1548 . doi : 10.1057/s41267-022-00531-9 . S2CID 249323519 . 
• كمنتا، جان (1986). عناصر الاقتصاد القياسي (  الطبعة الثانية). نيويورك: ماكميلان. الصفحات 430-442 . ISBN  978-0-02-365070-3.
• الأماكن القريبة : لاهيري، كاجال (2009). مقدمة في الاقتصاد القياسي (  الطبعة الرابعة). تشيتشيستر: وايلي. ص 279 – 312. ISBN  978-0-470-01512-4.
• توماشيك، فابيان؛ هندريكس، بيتر؛ باين، ر. هارالد (2018). "استراتيجيات لمعالجة الارتباط الخطي في البيانات اللغوية متعددة المتغيرات" . مجلة علم الصوتيات . 71 : 249-267 . doi : 10.1016/j.wocn.2018.09.004 .

• توما، مارك (2 مارس 2011). "محاضرة في الاقتصاد القياسي (الموضوع: الارتباط الخطي المتعدد)" . جامعة أوريغون . مؤرشفة من الأصل في 12 ديسمبر 2021 - عبر يوتيوب .
• أقدم الاستخدامات: يحتوي المدخل الخاص بالارتباط الخطي المتعدد على بعض المعلومات التاريخية.