الاستفادة (الإحصاءات)

في الإحصاء ، وخاصة في تحليل الانحدار ، تُعدّ الرافعة مقياسًا لمدى بُعد قيم المتغير المستقل لملاحظة ما عن قيم الملاحظات الأخرى. وتُعتبر النقاط ذات الرافعة العالية ، إن وُجدت، قيمًا شاذة بالنسبة للمتغيرات المستقلة . أي أن النقاط ذات الرافعة العالية ليس لها نقاط مجاورة فيRص{\displaystyle \mathbb {R} ^{p}}الفضاء، حيثص{\displaystyle {p}}يمثل عدد المتغيرات المستقلة في نموذج الانحدار. وهذا يجعل النموذج المُطابق أكثر عرضةً للتمرير بالقرب من نقطة ذات تأثير كبير. [ 1 ] وبالتالي، فإن النقاط ذات التأثير الكبير لديها القدرة على إحداث تغييرات كبيرة في تقديرات المعلمات عند حذفها، أي أنها نقاط مؤثرة . على الرغم من أن النقطة المؤثرة عادةً ما يكون لها تأثير كبير، إلا أن النقطة ذات التأثير الكبير ليست بالضرورة نقطة مؤثرة. يُعرَّف التأثير عادةً بأنه العناصر القطرية لمصفوفة القبعة . [ 2 ]

التعريفات والتفسيرات

ضع في اعتبارك نموذج الانحدار الخطيyأنا=xأناβ+εأنا{\displaystyle {y}_{i}={\boldsymbol {x}}_{i}^{\top }{\boldsymbol {\beta }}+{\varepsilon }_{i}}،أنا=1،2،...،ن{\displaystyle i=1,\,2,\ldots ,\,n}. إنه،y=Xβ+ε{\displaystyle {\boldsymbol {y}}=\mathbf {X} {\boldsymbol {\beta }}+{\boldsymbol {\varepsilon }}}، أين،X{\displaystyle \mathbf {X} }هون×ص{\displaystyle n\times p}مصفوفة تصميم تمثل صفوفها المشاهدات، وتمثل أعمدتها المتغيرات المستقلة أو التفسيرية. درجة التأثير لـأناتح{\displaystyle {i}^{th}}ملاحظة مستقلةxأنا{\displaystyle {\boldsymbol {x}}_{i}}يُعطى على النحو التالي:

حأناأنا=[ح]أناأنا=xأنا(XX)-1xأنا{\displaystyle h_{ii}=\left[\mathbf {H} \right]_{ii}={\boldsymbol {x}}_{i}^{\top }\left(\mathbf {X} ^{\top }\mathbf {X} \right)^{-1}{\boldsymbol {x}}_{i}}، الأناتح{\displaystyle {i}^{th}}العنصر القطري لمصفوفة الإسقاط المتعامد ( المعروفة أيضًا باسم مصفوفة القبعة)ح=X(XX)-1X{\displaystyle \mathbf {H} =\mathbf {X} \left(\mathbf {X} ^{\top }\mathbf {X} \right)^{-1}\mathbf {X} ^{\top }}.

وهكذاأناتح{\displaystyle {i}^{th}}يمكن اعتبار درجة الرافعة المالية بمثابة المسافة "المرجحة" بين xأنا{\displaystyle {\boldsymbol {x}}_{i}}إلى متوسط xأنا{\displaystyle {\boldsymbol {x}}_{i}}(انظر علاقته بمسافة ماهالانوبيس ). ويمكن تفسيره أيضًا على أنه الدرجة التي يكون بهاأناتح{\displaystyle {i}^{th}}القيمة المقاسة (التابعة) (أي، yأنا{\displaystyle y_{i}}) يؤثر علىأناتح{\displaystyle {i}^{th}}القيمة المتوقعة (أي،y^أنا{\displaystyle {\widehat {y\,}}_{i}}رياضياً،

حأناأنا=y^أناyأنا{\displaystyle h_{ii}={\frac {\partial {\widehat {y\,}}_{i}}{\partial y_{i}}}}.

لذا، تُعرف درجة التأثير أيضًا باسم حساسية الملاحظة الذاتية أو التأثير الذاتي. [ 3 ] باستخدام حقيقة أنy^=حy{\displaystyle {\boldsymbol {\widehat {y}}}={\mathbf {H} }{\boldsymbol {y}}}(أي التنبؤ)y^{\displaystyle {\boldsymbol {\widehat {y}}}}هو إسقاط عمودي لـy{\displaystyle {\boldsymbol {y}}}على نطاق مساحةX{\displaystyle \mathbf {X} }) في التعبير أعلاه، نحصل علىحأناأنا=[ح]أناأنا{\displaystyle h_{ii}=\left[\mathbf {H} \right]_{ii}}لاحظ أن هذه الرافعة تعتمد على قيم المتغيرات التفسيرية.(X){\displaystyle (\mathbf {X} )}من جميع الملاحظات ولكن ليس على أي من قيم المتغيرات التابعة(yأنا){\displaystyle (y_{i})}.

ملكيات

  1. الرافعة المالية  حأناأنا{\displaystyle h_{ii}}هو رقم بين 0 و 1،0حأناأنا1.{\displaystyle 0\leq h_{ii}\leq 1.}الدليل: لاحظ أنح{\displaystyle \mathbf {H} }هي مصفوفة متطابقة (ح2=ح{\displaystyle \mathbf {H} ^{2}=\mathbf {H} }) ومتناظر (حأناج=حجأنا{\displaystyle h_{ij}=h_{ji}}وبالتالي، باستخدام حقيقة أن[ح2]أناأنا=[ح]أناأنا{\displaystyle \left[\mathbf {H} ^{2}\right]_{ii}=\left[\mathbf {H} \right]_{ii}}لديناحأناأنا=حأناأنا2+جأناحأناج2{\displaystyle h_{ii}=h_{ii}^{2}+\sum _{j\neq i}h_{ij}^{2}}بما أننا نعلم ذلكجأناحأناج20{\displaystyle \sum _{j\neq i}h_{ij}^{2}\geq 0}لديناحأناأناحأناأنا20حأناأنا1{\displaystyle h_{ii}\geq h_{ii}^{2}\implies 0\leq h_{ii}\leq 1}.
  2. مجموع الرافعات يساوي عدد المعاملات(ص){\displaystyle (p)}فيβ{\displaystyle {\boldsymbol {\beta }}}(بما في ذلك نقطة التقاطع). الدليل:أنا=1نحأناأنا=Tr(ح)=Tr(X(XX)-1X)=Tr(XX(XX)-1)=Tr(أناص)=ص{\displaystyle \sum _{i=1}^{n}h_{ii}=\operatorname {Tr} (\mathbf {H} )=\operatorname {Tr} \left(\mathbf {X} \left(\mathbf {X} ^{\top }\mathbf {X} \right)^{-1}\mathbf {X} ^{\top }\right)=\operatorname {Tr} \left(\mathbf {X} ^{\top }\mathbf {X} \left(\mathbf {X} ^{\top }\mathbf {X} \right)^{-1}\right)=\operatorname {Tr} (\mathbf {I} _{p})=p}،

أينTr{\displaystyle \operatorname {Tr} }هو عامل التتبع .

تحديد القيم الشاذة في X باستخدام الرافعة المالية

رافعة مالية كبيرةحأناأنا{\displaystyle {h_{ii}}}يتوافق معxأنا{\displaystyle {{\boldsymbol {x}}_{i}}}هذا متطرف. القاعدة الشائعة هي تحديدxأنا{\displaystyle {{\boldsymbol {x}}_{i}}}قيمة الرافعة الماليةحأناأنا{\displaystyle {h}_{ii}}وهي أكبر بأكثر من ضعف متوسط ​​الرافعة الماليةح¯=1نأنا=1نحأناأنا=صن{\displaystyle {\bar {h}}={\dfrac {1}{n}}\sum _{i=1}^{n}h_{ii}={\dfrac {p}{n}}}(انظر الخاصية 2 أعلاه). أي، إذاحأناأنا>2صن{\displaystyle h_{ii}>2{\dfrac {p}{n}}}،xأنا{\displaystyle {{\boldsymbol {x}}_{i}}}يُعتبر هذا قيمة شاذة. يفضل بعض الإحصائيين عتبة من 3ص/ن{\displaystyle 3p/{n}}بدلاً من2ص/ن{\displaystyle 2p/{n}}.

العلاقة بمسافة ماهالانوبيس

ترتبط الرافعة المالية ارتباطًا وثيقًا بمسافة ماهالانوبيس (البرهان [ 4 ] ). على وجه التحديد، بالنسبة لبعضن×ص{\displaystyle n\times p}مصفوفةX{\displaystyle \mathbf {X} }، مسافة ماهالانوبيس التربيعية لـxأنا{\displaystyle {{\boldsymbol {x}}_{i}}}(أينxأنا{\displaystyle {\boldsymbol {x}}_{i}^{\top }}يكون أناتح{\displaystyle {i}^{th}}صف من X{\displaystyle \mathbf {X} }) من متجه المتوسطμ^=أنا=1نxأنا{\displaystyle {\widehat {\boldsymbol {\mu }}}=\sum _{i=1}^{n}{\boldsymbol {x}}_{i}}من الطولص{\displaystyle p}، يكوند2(xأنا)=(xأنا-μ^)S-1(xأنا-μ^){\displaystyle D^{2}({\boldsymbol {x}}_{i})=({\boldsymbol {x}}_{i}-{\widehat {\boldsymbol {\mu }}})^{\top }\mathbf {S} ^{-1}({\boldsymbol {x}}_{i}-{\widehat {\boldsymbol {\mu }}})}، أينS=XX{\displaystyle \mathbf {S} =\mathbf {X} ^{\top }\mathbf {X} }هي مصفوفة التغاير المقدرة لـ xأنا{\displaystyle {{\boldsymbol {x}}_{i}}}هذا مرتبط بالرافعة الماليةحأناأنا{\displaystyle h_{ii}}من مصفوفة القبعة لـX{\displaystyle \mathbf {X} }بعد إضافة متجه عمودي مكون من 1 إليه. العلاقة بينهما هي:

د2(xأنا)=(ن-1)(حأناأنا-1ن){\displaystyle D^{2}({\boldsymbol {x}}_{i})=(n-1)(h_{ii}-{\tfrac {1}{n}})}

تُمكّننا هذه العلاقة من تحليل الرافعة المالية إلى مكونات ذات دلالة، بحيث يمكن دراسة بعض مصادر الرافعة المالية العالية تحليلياً. [ 5 ]

العلاقة بوظائف التأثير

في سياق الانحدار، نجمع بين دالتي الرافعة والتأثير لحساب مدى تغير المعاملات المقدرة في حال حذف نقطة بيانات واحدة. ونرمز إلى بواقي الانحدار بـهـ^أنا=yأنا-xأناβ^{\displaystyle {\widehat {e}}_{i}=y_{i}-{\boldsymbol {x}}_{i}^{\top }{\widehat {\boldsymbol {\beta }}}}يمكن للمرء مقارنة المعامل المقدرβ^{\displaystyle {\widehat {\boldsymbol {\beta }}}}إلى معامل التقدير بحذف عنصر واحدβ^(-أنا){\displaystyle {\widehat {\boldsymbol {\beta }}}^{(-i)}}باستخدام الصيغة [ 6 ] [ 7 ]

β^-β^(-أنا)=(XX)-1xأناهـ^أنا1-حأناأنا{\displaystyle {\widehat {\boldsymbol {\beta }}}-{\widehat {\boldsymbol {\beta }}}^{(-i)}={\frac {(\mathbf {X} ^{\top }\mathbf {X} )^{-1}{\boldsymbol {x}}_{i}{\widehat {e}}_{i}}{1-h_{ii}}}}

يستخدم يونغ (2019) صيغةً مشابهةً لهذه الصيغة بعد تطبيق تأثيرات المتغيرات الضابطة المتبقية. [ 8 ] لفهم هذه الصيغة بشكلٍ أفضل، لاحظ أنβ^yأنا=(XX)-1xأنا{\displaystyle {\frac {\partial {\hat {\beta }}}{\partial y_{i}}}=(\mathbf {X} ^{\top }\mathbf {X} )^{-1}{\boldsymbol {x}}_{i}}يجسد هذا المفهوم إمكانية تأثير الملاحظة على معلمات الانحدار، وبالتالي(XX)-1xأناهـ^أنا{\displaystyle (\mathbf {X} ^{\top }\mathbf {X} )^{-1}{\boldsymbol {x}}_{i}{\widehat {e}}_{i}}يُجسّد هذا التأثير الفعلي لانحرافات تلك الملاحظات عن قيمتها المُقدّرة على معاملات الانحدار. ثم تقسم الصيغة على(1-حأناأنا){\displaystyle (1-h_{ii})}وذلك لمراعاة حقيقة أننا نزيل الملاحظة بدلاً من تعديل قيمتها، مما يعكس حقيقة أن الإزالة تُغير توزيع المتغيرات المساعدة بشكل أكبر عند تطبيقها على الملاحظات ذات التأثير الكبير (أي ذات قيم المتغيرات المساعدة الشاذة). وتظهر صيغ مماثلة عند تطبيق الصيغ العامة لدوال التأثيرات الإحصائية في سياق الانحدار. [ 9 ] [ 10 ]

التأثير على التباين المتبقي

إذا كنا في إطار المربعات الصغرى العادية مع قيم ثابتةX{\displaystyle \mathbf {X} }وأخطاء الانحدار المتجانسةεأنا،{\displaystyle \varepsilon _{i},}y=Xβ+ε؛  متغير(ε)=σ2أنا{\displaystyle {\boldsymbol {y}}=\mathbf {X} {\boldsymbol {\beta }}+{\boldsymbol {\varepsilon }};\ \ \operatorname {Var} ({\boldsymbol {\varepsilon }})=\sigma ^{2}\mathbf {I} }ثم الـأناتح{\displaystyle {i}^{th}}الباقي من الانحدار ،هـأنا=yأنا-y^أنا{\displaystyle e_{i}=y_{i}-{\widehat {y}}_{i}}يوجد تباين

متغير(هـأنا)=(1-حأناأنا)σ2{\displaystyle \operatorname {Var} (e_{i})=(1-h_{ii})\sigma ^{2}}.

بمعنى آخر، تحدد درجة تأثير الملاحظة درجة التشويش في تنبؤ النموذج الخاطئ بتلك الملاحظة، حيث يؤدي ارتفاع درجة التأثير إلى تقليل التشويش. وينتج هذا عن حقيقة أنأنا-ح{\displaystyle \mathbf {I} -\mathbf {H} }هو متماثل ومتماثل وy^=حy{\displaystyle {\widehat {\boldsymbol {y}}}=\mathbf {H} {\boldsymbol {y}}}، لذلك،متغير(هـ)=متغير((أنا-ح)y)=(أنا-ح)متغير(y)(أنا-ح)=σ2(أنا-ح)2=σ2(أنا-ح){\displaystyle \operatorname {Var} ({\boldsymbol {e}})=\operatorname {Var} ((\mathbf {I} -\mathbf {H} ){\boldsymbol {y}})=(\mathbf {I} -\mathbf {H} )\operatorname {Var} ({\boldsymbol {y}})(\mathbf {I} -\mathbf {H} )^{\top }=\sigma ^{2}(\mathbf {I} -\mathbf {H} )^{2}=\sigma ^{2}(\mathbf {I} -\mathbf {H} )}.

ثم يكون الباقي المعياري المقابل - الباقي المعدل وفقًا لتباين الباقي المقدر الخاص بالملاحظة -

تأنا=هـأناσ^1-حأناأنا {\displaystyle t_{i}={e_{i} \over {\widehat {\sigma }}{\sqrt {1-h_{ii}\ }}}}

أينσ^{\displaystyle {\widehat {\sigma }}}يُعد تقديرًا مناسبًا لـσ{\displaystyle \sigma }.

الرافعة المالية الجزئية

الرافعة الجزئية ( PL ) هي مقياس لمساهمة كل متغير مستقل في الرافعة الكلية لكل ملاحظة. أي أن الرافعة الجزئية هي مقياس لكيفيةحأناأنا{\displaystyle h_{ii}}تُضاف التغييرات كمتغير إلى نموذج الانحدار. ويتم حسابها على النحو التالي:

(Pلج)أنا=(Xج[ج])أنا2ك=1ن(Xج[ج])ك2{\displaystyle \left(\mathrm {PL} _{j}\right)_{i}={\frac {\left(\mathbf {X} _{j\bullet [j]}\right)_{i}^{2}}{\sum _{k=1}^{n}\left(\mathbf {X} _{j\bullet [j]}\right)_{k}^{2}}}}

أينج{\displaystyle j}هو مؤشر المتغير المستقل،أنا{\displaystyle i}هو مؤشر الملاحظة وXج[ج]{\displaystyle \mathbf {X} _{j\bullet [j]}}هي البواقي الناتجة عن الانحدارXج{\displaystyle \mathbf {X} _{j}}مقابل المتغيرات المستقلة المتبقية. لاحظ أن الرافعة المالية الجزئية هي رافعة...أناتح{\displaystyle {i}^{th}}النقطة في مخطط الانحدار الجزئي لـجتح{\displaystyle {j}^{th}}يمكن أن تؤثر نقاط البيانات ذات التأثير الجزئي الكبير لمتغير مستقل بشكل مفرط على اختيار هذا المتغير في إجراءات بناء نموذج الانحدار التلقائي.

تطبيقات البرمجيات

تتضمن العديد من البرامج وحزم الإحصاء، مثل R و Python وما إلى ذلك، تطبيقات لـ Leverage.

اللغة/البرنامجوظيفةملحوظات
Rhat(x, intercept = TRUE)أوhatvalues(model, ...)يرى
بايثون(x * np.linalg.pinv(x).T).sum(-1)يرى

انظر أيضاً

مراجع

  1. إيفريت، بي إس (2002). قاموس كامبريدج للإحصاء . مطبعة جامعة كامبريدج. رقم ISBN 0-521-81099-X.
  2. جيمس، غاريث؛ ويتن، دانييلا؛ هاستي، تريفور؛ تيبشيراني، روبرت (2021). مقدمة في التعلم الإحصائي: مع تطبيقات في لغة البرمجة R ( الطبعة الثانية). نيويورك، نيويورك: سبرينغر. ص 112. doi : 10.1007/978-1-0716-1418-1 . ISBN   978-1-0716-1418-1تم الاطلاع عليه بتاريخ 29 أكتوبر 2024 .
  3. كاردينالي، سي. (يونيو 2013). "استيعاب البيانات: تشخيص تأثير الملاحظة لنظام استيعاب البيانات" (PDF) .
  4. أثبت العلاقة بين مسافة ماهالانوبيس والرافعة المالية؟
  5. كيم، إم جي (2004). "مصادر التأثير العالي في نموذج الانحدار الخطي (مجلة الرياضيات التطبيقية والحوسبة، المجلد 16، 509-513)". arXiv : 2006.04024 [ math.ST ].
  6. ميلر، روبرت ج. (سبتمبر 1974). "اختبار جاكنايف غير المتوازن" . حوليات الإحصاء . 2 (5): 880-891 . doi : 10.1214/aos/1176342811 . ISSN 0090-5364 . 
  7. هياشي، فوميو (2000). الاقتصاد القياسي . مطبعة جامعة برينستون. ص 21. 
  8. يونغ، ألوين (2019). "استلهام فيشر: اختبارات العشوائية وعدم الأهمية الإحصائية للنتائج التجريبية التي تبدو ذات دلالة إحصائية" . المجلة الفصلية للاقتصاد . 134 (2): 567. doi : 10.1093/qje/qjy029 .
  9. تشاتيرجي، سامبريت؛ هادي، علي س. (أغسطس 1986). "الملاحظات المؤثرة، ونقاط التأثير العالية، والقيم الشاذة في الانحدار الخطي" . العلوم الإحصائية . 1 (3): 379-393 . doi : 10.1214/ss/1177013622 . ISSN 0883-4237 . 
  10. "الانحدار - دوال التأثير وطريقة المربعات الصغرى العادية" . تم التحقق من صحتها عبر التحقق المتبادل . تم استرجاعها بتاريخ 2020-12-06 .