مجموع مربعات البواقي

في الإحصاء ، يُعرف مجموع مربعات البواقي ( RSS )، أو مجموع مربعات البواقي ( SSR )، أو مجموع مربعات تقديرات الأخطاء ( SSE )، بأنه مجموع مربعات البواقي (الانحرافات المتوقعة عن القيم التجريبية الفعلية للبيانات ). وهو مقياس للتباين بين البيانات ونموذج التقدير، مثل الانحدار الخطي . تشير قيمة RSS الصغيرة إلى تطابق النموذج مع البيانات بشكل جيد. ويُستخدم كمعيار أمثل في اختيار المعلمات واختيار النموذج .

بشكل عام، مجموع المربعات الكلي = مجموع المربعات المُفسَّرة + مجموع مربعات البواقي. وللاطلاع على برهان ذلك في حالة المربعات الصغرى العادية متعددة المتغيرات، انظر قسم التقسيم في نموذج المربعات الصغرى العادية العام .

في نموذج يحتوي على متغير تفسيري واحد، يتم إعطاء RSS بواسطة: ^{[ 1 ]}

$${\displaystyle \operatorname {RSS} =\sum _{i=1}^{n}\left(y_{i}-f(x_{i})\right)^{2}}$$

حيث يمثل yᵢ ^القيمة _i للمتغير المراد التنبؤ به، ويمثل xᵢ القيمة i _{للمتغير} التفسيري، ^و${\displaystyle f(x_{i})}$هي القيمة المتوقعة لـ y _i (وتسمى أيضًا${\displaystyle {\hat {y_{i}}}}$في نموذج الانحدار الخطي البسيط القياسي ،${\displaystyle y_{i}=\alpha +\beta x_{i}+\varepsilon _{i}\,}$، أين${\displaystyle \alpha }$و${\displaystyle \beta }$هي معاملات ، و y و x هما المتغير التابع والمتغير المستقل على التوالي، و ε هو حد الخطأ . مجموع مربعات البواقي هو مجموع مربعات${\displaystyle {\widehat {\varepsilon \,}}_{i}}$؛ إنه

$${\displaystyle \operatorname {RSS} =\sum _{i=1}^{n}\left({\widehat {\varepsilon }}_{i}\right)^{2}=\sum _{i=1}^{n}\left(y_{i}-({\widehat {\alpha \,}}+{\widehat {\beta }}\,x_{i})\right)^{2}}$$

أين${\displaystyle {\widehat {\alpha \,}}}$هي القيمة المقدرة للحد الثابت${\displaystyle \alpha }$و${\displaystyle {\widehat {\beta \,}}}$هي القيمة المقدرة لمعامل الميل${\displaystyle \beta }$.

نموذج الانحدار العام الذي يحتوي على n مشاهدة و k متغير تفسيري، أولها متجه وحدة ثابت معامله هو نقطة تقاطع الانحدار، هو

$${\displaystyle y=X\beta +e}$$

حيث يمثل y متجهًا من n × 1 لملاحظات المتغير التابع، وكل عمود من المصفوفة X من n × k هو متجه للملاحظات على أحد المتغيرات التفسيرية k ،${\displaystyle \beta }$هو متجه k × 1 للمعاملات الحقيقية، و e متجه n × 1 للأخطاء الأساسية الحقيقية. مقدِّر المربعات الصغرى العادية لـ${\displaystyle \beta }$يكون

$${\displaystyle {\begin{aligned}&X{\hat {\beta }}=y\\[1ex]\iff &X^{\operatorname {T} }X{\hat {\beta }}=X^{\operatorname {T} }y\\[1ex]\iff &{\hat {\beta }}=\left(X^{\operatorname {T} }X\right)^{-1}X^{\operatorname {T} }y.\end{aligned}}}$$

متجه الباقي${\displaystyle {\hat {e}}=y-X{\hat {\beta }}=y-X(X^{\operatorname {T} }X)^{-1}X^{\operatorname {T} }y}$إذن، مجموع مربعات البواقي هو:

$${\displaystyle \operatorname {RSS} ={\hat {e}}^{\operatorname {T} }{\hat {e}}=\left\|{\hat {e}}\right\|^{2},}$$

(مكافئ لمربع معيار البواقي ). كاملاً:

$${\displaystyle {\begin{aligned}\operatorname {RSS} &=y^{\operatorname {T} }y-y^{\operatorname {T} }X\left(X^{\operatorname {T} }X\right)^{-1}X^{\operatorname {T} }y\\[1ex]&=y^{\operatorname {T} }\left[I-X\left(X^{\operatorname {T} }X\right)^{-1}X^{\operatorname {T} }\right]y\\[1ex]&=y^{\operatorname {T} }\left[I-H\right]y,\end{aligned}}}$$

حيث H هي مصفوفة القبعة ، أو مصفوفة الإسقاط في الانحدار الخطي.

يُعطى خط الانحدار باستخدام طريقة المربعات الصغرى بالصيغة التالية:

$${\displaystyle y=ax+b,}$$

أين${\displaystyle b={\bar {y}}-a{\bar {x}}}$و${\displaystyle a={\frac {S_{xy}}{S_{xx}}}}$، أين${\displaystyle S_{xy}=\sum _{i=1}^{n}({\bar {x}}-x_{i})({\bar {y}}-y_{i})}$و${\displaystyle S_{xx}=\sum _{i=1}^{n}({\bar {x}}-x_{i})^{2}.}$

لذلك،

$${\displaystyle {\begin{aligned}\operatorname {RSS} &=\sum _{i=1}^{n}\left(y_{i}-f(x_{i})\right)^{2}=\sum _{i=1}^{n}\left(y_{i}-(ax_{i}+b)\right)^{2}\\[1ex]&=\sum _{i=1}^{n}\left(y_{i}-ax_{i}-{\bar {y}}+a{\bar {x}}\right)^{2}=\sum _{i=1}^{n}\left[a\left({\bar {x}}-x_{i}\right)-\left({\bar {y}}-y_{i}\right)\right]^{2}\\[1ex]&=a^{2}S_{xx}-2aS_{xy}+S_{yy}=S_{yy}-aS_{xy}\\[1ex]&=S_{yy}\left(1-{\frac {S_{xy}^{2}}{S_{xx}S_{yy}}}\right)\end{aligned}}}$$

أين${\displaystyle S_{yy}=\sum _{i=1}^{n}({\bar {y}}-y_{i})^{2}.}$

معامل ارتباط بيرسون هو :${\displaystyle r={\frac {S_{xy}}{\sqrt {S_{xx}S_{yy}}}};}$لذلك،${\displaystyle \operatorname {RSS} =S_{yy}(1-r^{2}).}$

• دريبر، إن آر؛ سميث، إتش. (1998). تحليل الانحدار التطبيقي (  الطبعة الثالثة). جون وايلي. ISBN 0-471-17082-8.