تجزئة مجموع المربعات

📅 آخر تحديث: ٢٩ يوليو ٢٠٢٦
✍️ نُشر في: ٢٩ يوليو ٢٠٢٦
📷 يحتوي على 19 صور
الموسوعة الحرة

يُعدّ تقسيم مجموع مربعات الانحرافات مفهومًا أساسيًا في الإحصاء الاستدلالي والإحصاء الوصفي . وبشكل أدق، هو تقسيم مجموع مربعات الانحرافات أو الأخطاء . رياضيًا، يُعتبر مجموع مربعات الانحرافات مقياسًا غير مُعدّل للتشتت (أو التباين ). وعند تعديله وفقًا لعدد درجات الحرية ، فإنه يُقدّر التباين ، أو مدى انتشار المشاهدات حول متوسطها. يسمح تقسيم مجموع مربعات الانحرافات إلى مكونات مختلفة بنسب التباين الكلي في مجموعة البيانات إلى أنواع أو مصادر مختلفة من التباين، مع تحديد الأهمية النسبية لكل منها من خلال حجم كل مكون من مكونات مجموع مربعات الانحرافات الكلي.

خلفية

المسافة من أي نقطة في مجموعة بيانات إلى متوسط ​​تلك البيانات هي الانحراف. ويمكن كتابة ذلك على النحو التالي:yأنا-y¯{\displaystyle y_{i}-{\overline {y}}}، أينyأنا{\displaystyle y_{i}}هي نقطة البيانات رقم i، وy¯{\displaystyle {\overline {y}}}هو تقدير المتوسط. إذا تم تربيع جميع هذه الانحرافات، ثم جمعها، كما في∑أنا=1ن(yأنا-y¯)2{\displaystyle \sum _{i=1}^{n}\left(y_{i}-{\overline {y}}\,\right)^{2}}وهذا يعطي "مجموع المربعات" لهذه البيانات.

عند إضافة المزيد من البيانات إلى المجموعة، يزداد مجموع المربعات، باستثناء حالات نادرة كأن تكون البيانات الجديدة مساوية للمتوسط. لذا، عادةً ما يزداد مجموع المربعات مع حجم مجموعة البيانات. وهذا دليل على أنه غير مُقاس.

في كثير من الحالات، يكون عدد درجات الحرية هو ببساطة عدد نقاط البيانات في المجموعة، مطروحًا منه واحد. نكتب هذا على النحو التالي: n − 1، حيث n هو عدد نقاط البيانات.  

المعايرة (أو التوحيد) تعني تعديل مجموع المربعات بحيث لا يزداد مع ازدياد حجم مجموعة البيانات. وهذا مهم عند مقارنة عينات بأحجام مختلفة، كعينة من 100 شخص مقارنةً بعينة من 20 شخصًا. فلو لم تتم معايرة مجموع المربعات، لكانت قيمته دائمًا أكبر في عينة الـ 100 شخص مقارنةً بعينة الـ 20 شخصًا. ولمعايرة مجموع المربعات، نقسمه على درجات الحرية، أي نحسب مجموع المربعات لكل درجة حرية، أو التباين. والانحراف المعياري ، بدوره، هو الجذر التربيعي للتباين.

يوضح ما سبق كيفية استخدام مجموع المربعات في الإحصاء الوصفي؛ انظر المقالة حول مجموع المربعات الكلي لتطبيق هذا المبدأ الواسع على الإحصاء الاستدلالي .

تقسيم مجموع المربعات في الانحدار الخطي

نظرية. بالنظر إلى نموذج الانحدار الخطيyأنا=β0+β1xأنا1+⋯+βصxأناص+εأنا{\displaystyle y_{i}=\beta _{0}+\beta _{1}x_{i1}+\cdots +\beta _{p}x_{ip}+\varepsilon _{i}}بما في ذلك ثابتβ0{\displaystyle \beta _{0}}، بناءً على عينة(yأنا،xأنا1،...،xأناص)،أنا=1،...،ن{\displaystyle (y_{i},x_{i1},\ldots ,x_{ip}),\,i=1,\ldots ,n}يحتوي على n من المشاهدات، المجموع الكلي للمربعاتتيSS=∑أنا=1ن(yأنا-y¯)2{\displaystyle \mathrm {TSS} =\sum _{i=1}^{n}(y_{i}-{\bar {y}})^{2}}يمكن تقسيمها على النحو التالي إلى مجموع المربعات المُفسَّر (ESS) ومجموع المربعات المتبقية (RSS):

تيSS=هـSS+RSS،{\displaystyle \mathrm {TSS} =\mathrm {ESS} +\mathrm {RSS} ,}

حيث تكون هذه المعادلة مكافئة لكل من الأشكال التالية:

‖y-y¯1‖2=‖y^-y¯1‖2+‖ε^‖2،1=(1،1،...،1)تي،∑أنا=1ن(yأنا-y¯)2=∑أنا=1ن(y^أنا-y¯)2+∑أنا=1ن(yأنا-y^أنا)2،∑أنا=1ن(yأنا-y¯)2=∑أنا=1ن(y^أنا-y¯)2+∑أنا=1نε^أنا2،\begin{aligned}\left\|y-{\bar {y}}\mathbf {1} \right\|^{2}&=\left\|{\hat {y}}-{\bar {y}}\mathbf {1} \right\|^{2}+\left\|{\hat {\varepsilon }}\right\|^{2},\quad \mathbf {1} =(1,1,\ldots ,1)^{T},\\\sum _{i=1}^{n}(y_{i}-{\bar {y}})^{2}&=\sum _{i=1}^{n}({\hat {y}}_{i}-{\bar {y}})^{2}+\sum _{i=1}^{n}(y_{i}-{\hat \sum_{i=1}^{n}(y_{i}-\bar{y})^{2} = \sum_{i=1}^{n}(\hat{y}_{i}-\bar{y})^{2} + \sum_{i=1}^{n}{\hat{\varepsilon}_{i}^{2}
أينy^أنا{\displaystyle {\hat {y}}_{i}}هل القيمة المقدرة بواسطة خط الانحدار هيب^0{\displaystyle {\hat {b}}_{0}}،ب^1{\displaystyle {\hat {b}}_{1}}...ب^ص{\displaystyle {\hat {b}}_{p}}باعتبارها المعاملات المقدرة . [ 1 ]

دليل

∑أنا=1ن(yأنا-y¯)2=∑أنا=1ن(yأنا-y¯+y^أنا-y^أنا)2=∑أنا=1ن((y^أنا-y¯)+(yأنا-y^أنا)⏟ε^أنا)2=∑أنا=1ن((y^أنا-y¯)2+2ε^أنا(y^أنا-y¯)+ε^أنا2)=∑أنا=1ن(y^أنا-y¯)2+∑أنا=1نε^أنا2+2∑أنا=1نε^أنا(y^أنا-y¯)=∑أنا=1ن(y^أنا-y¯)2+∑أنا=1نε^أنا2+2∑أنا=1نε^أنا(β^0+β^1xأنا1+⋯+β^صxأناص-y¯)=∑أنا=1ن(y^أنا-y¯)2+∑أنا=1نε^أنا2+2(β^0-y¯)∑أنا=1نε^أنا⏟0+2β^1∑أنا=1نε^أناxأنا1⏟0+⋯+2β^ص∑أنا=1نε^أناxأناص⏟0=∑أنا=1ن(y^أنا-y¯)2+∑أنا=1نε^أنا2=هـSS+RSS{\displaystyle {\begin{aligned}\sum _{i=1}^{n}(y_{i}-{\overline {y}})^{2}&=\sum _{i=1}^{n}(y_{i}-{\overline {y}}+{\hat {y}}_{i}-{\hat {y}}_{i})^{2}=\sum _{i=1}^{n}(({\hat {y}}_{i}-{\bar {y}})+\underbrace {(y_{i}-{\hat {y}}_{i})} _{{\hat {\varepsilon }}_{i}})^{2}\\&=\sum _{i=1}^{n}(({\hat {y}}_{i}-{\bar {y}})^{2}+2{\hat {\varepsilon }}_{i}({\hat {y}}_{i}-{\bar {y}})+{\hat {\varepsilon }}_{i}^{2})\\&=\sum _{i=1}^{n}({\hat {y}}_{i}-{\bar {y}})^{2}+\sum _{i=1}^{n}{\hat {\varepsilon }}_{i}^{2}+2\sum _{i=1}^{n}{\hat {\varepsilon }}_{i}({\hat {y}}_{i}-{\bar {y}})\\&=\sum _{i=1}^{n}({\hat {y}}_{i}-{\bar {y}})^{2}+\sum _{i=1}^{n}{\hat {\varepsilon }}_{i}^{2}+2\sum _{i=1}^{n}{\hat {\varepsilon }}_{i}({\hat {\beta }}_{0}+{\hat {\beta }}_{1}x_{i1}+\cdots +{\hat {\beta }}_{p}x_{ip}-{\overline {y}})\\&=\sum _{i=1}^{n}({\hat {y}}_{i}-{\bar {y}})^{2}+\sum _{i=1}^{n}{\hat {\varepsilon }}_{i}^{2}+2({\hat {\beta }}_{0}-{\overline {y}})\underbrace {\sum _{i=1}^{n}{\hat {\varepsilon }}_{i}} _{0}+2{\hat {\beta }}_{1}\underbrace {\sum _{i=1}^{n}{\hat {\varepsilon }}_{i}x_{i1}} _{0}+\cdots +2{\hat {\beta }}_{p}\underbrace {\sum _{i=1}^{n}{\hat {\varepsilon }}_{i}x_{ip}} _{0}\\&=\sum _{i=1}^{n}({\hat {y}}_{i}-{\bar {y}})^{2}+\sum _{i=1}^{n}{\hat {\varepsilon }}_{i}^{2}=\mathrm {ESS} +\mathrm {RSS} \\\end{aligned}}}

يضمن اشتراط أن يتضمن النموذج قيمة ثابتة، أو ما يعادلها من شرط احتواء مصفوفة التصميم على عمود من الآحاد، ما يلي:∑أنا=1نε^أنا=0{\displaystyle \sum _{i=1}^{n}{\hat {\varepsilon }}_{i}=0}، أيε^تي1=0{\displaystyle {\hat {\varepsilon }}^{T}\mathbf {1} =0}.

ويمكن أيضاً التعبير عن البرهان بصيغة متجهة، كما يلي:

SSالمجموع=‖y-y¯1‖2=‖y-y¯1+y^-y^‖2،=‖(y^-y¯1)+(y-y^)‖2،=‖y^-y¯1‖2+‖ε^‖2+2ε^تي(y^-y¯1)،=SSالانحدار+SSخطأ+2ε^تي(Xβ^-y¯1)،=SSالانحدار+SSخطأ+2(ε^تيX)β^-2y¯ε^تي1⏟0،=SSالانحدار+SSخطأ.{\displaystyle {\begin{aligned}SS_{\text{total}}=\Vert \mathbf {y} -{\bar {y}}\mathbf {1} \Vert ^{2}&=\Vert \mathbf {y} -{\bar {y}}\mathbf {1} +\mathbf {\hat {y}} -\mathbf {\hat {y}} \Vert ^{2},\\&=\Vert \left(\mathbf {\hat {y}} -{\bar {y}}\mathbf {1} \right)+\left(\mathbf {y} -\mathbf {\hat {y}} \right)\Vert ^{2},\\&=\Vert {\mathbf {\hat {y}} -{\bar {y}}\mathbf {1} }\Vert ^{2}+\Vert {\hat {\varepsilon }}\Vert ^{2}+2{\hat {\varepsilon }}^{T}\left(\mathbf {\hat {y}} -{\bar {y}}\mathbf {1} \right),\\&=SS_{\text{regression}}+SS_{\text{error}}+2{\hat {\varepsilon }}^{T}\left(X{\hat {\beta }}-{\bar {y}}\mathbf {1} \right),\\&=SS_{\text{regression}}+SS_{\text{error}}+2\left({\hat {\varepsilon }}^{T}X\right){\hat {\beta }}-2{\bar {y}}\underbrace {{\hat {\varepsilon }}^{T}\mathbf {1} } _{0},\\&=SS_{\text{regression}}+SS_{\text{error}}.\end{aligned}}}

تم استخدام حقيقة أن حذف المصطلحات في السطر الأخير قد تم بناءً على ذلك.

ε^تيX=(y-y^)تيX=yتي(أنا-X(XتيX)-1Xتي)تيX=yتي(Xتي-Xتي)تي=0.{\displaystyle {\hat {\varepsilon }}^{T}X=\left(\mathbf {y} -\mathbf {\hat {y}} \right)^{T}X=\mathbf {y} ^{T}(I-X(X^{T}X)^{-1}X^{T})^{T}X={\mathbf {y} }^{T}(X^{T}-X^{T})^{T}={\mathbf {0} }.}

مزيد من التقسيم

لاحظ أن مجموع مربعات البواقي يمكن تقسيمه بشكل أكبر على أنه مجموع مربعات عدم المطابقة بالإضافة إلى مجموع المربعات الناتج عن الخطأ البحت.

انظر أيضاً

مراجع

  1. ↑ "مجموع المربعات - التعريف، الصيغ، تحليل الانحدار" . معهد تمويل الشركات . تم الاطلاع عليه بتاريخ 16-10-2020 .
  • بيلي، ر. أ. (2008). تصميم التجارب المقارنة . مطبعة جامعة كامبريدج. رقم ISBN 978-0-521-68357-9.تتوفر فصول الكتاب قبل نشره على الإنترنت.
  • كريستنسن، رونالد (2002). إجابات بسيطة على أسئلة معقدة: نظرية النماذج الخطية (  الطبعة الثالثة). نيويورك: سبرينغر. ISBN 0-387-95361-2.
  • ويتل، بيتر (1963). التنبؤ والتنظيم . مطبعة الجامعات الإنجليزية. ISBN 0-8166-1147-5.{{cite book}}عدم توافق رقم ISBN / التاريخ ( مساعدة )
    أُعيد نشره بعنوان: ويتل، ب. (1983). التنبؤ والتنظيم باستخدام طرق المربعات الصغرى الخطية . مطبعة جامعة مينيسوتا. رقم ISBN 0-8166-1148-3.
  • ويتل، ب. (20 أبريل 2000). الاحتمال من خلال التوقع (  الطبعة الرابعة). سبرينغر. ISBN 0-387-98955-2.