درجات الحرية (الإحصاءات)

في الإحصاء ، يُقصد بعدد درجات الحرية عدد القيم في الحساب النهائي للإحصائية التي يمكن أن تتغير بحرية. [ 1 ]

يمكن أن تستند تقديرات المعلمات الإحصائية إلى كميات مختلفة من المعلومات أو البيانات. يُطلق على عدد المعلومات المستقلة التي تدخل في تقدير المعلمة اسم درجات الحرية. بشكل عام، تساوي درجات حرية تقدير المعلمة عدد القيم المستقلة التي تدخل في التقدير مطروحًا منها عدد المعلمات المستخدمة كخطوات وسيطة في تقدير المعلمة نفسها. على سبيل المثال، إذا أردنا تقدير التباين من عينة عشوائية منشمال{\textstyle N}إذا كانت الدرجات مستقلة، فإن درجات الحرية تساوي عدد الدرجات المستقلة ( N ) مطروحًا منه عدد المعلمات المقدرة كخطوات وسيطة (واحدة، وهي متوسط ​​العينة)، وبالتالي تساويشمال-1{\textstyle N-1}[ 2 ]

رياضياً، درجات الحرية هي عدد أبعاد مجال المتجه العشوائي ، أو بشكل أساسي عدد المكونات "الحرة" (عدد المكونات التي يجب معرفتها قبل تحديد المتجه بالكامل).

يُستخدم هذا المصطلح غالبًا في سياق النماذج الخطية ( الانحدار الخطي ، تحليل التباين )، حيث تُقيد بعض المتجهات العشوائية لتقع في فضاءات فرعية خطية ، ويكون عدد درجات الحرية هو بُعد الفضاء الفرعي . كما ترتبط درجات الحرية عادةً بمربعات أطوال هذه المتجهات (أو "مجموع مربعات" إحداثياتها)، ومعاملات توزيع كاي تربيع وغيرها من التوزيعات التي تظهر في مسائل الاختبار الإحصائي ذات الصلة.

في حين أن الكتب التمهيدية قد تقدم درجات الحرية كمعلمات توزيع أو من خلال اختبار الفرضيات، فإن الهندسة الأساسية هي التي تحدد درجات الحرية، وهي أمر بالغ الأهمية للفهم الصحيح للمفهوم.

تاريخ

على الرغم من أن المفهوم الأساسي لدرجات الحرية قد تم التعرف عليه في وقت مبكر من عام 1821 في أعمال عالم الفلك والرياضيات الألماني كارل فريدريش غاوس ، [ 3 ] إلا أن تعريفه واستخدامه الحديثين قد تم توضيحهما لأول مرة من قبل الإحصائي الإنجليزي ويليام سيلي جوسيت في مقالته المنشورة عام 1908 في مجلة Biometrika بعنوان "الخطأ المحتمل للمتوسط"، والتي نُشرت تحت اسم مستعار "Student". [ 4 ] وبينما لم يستخدم جوسيت مصطلح "درجات الحرية" بشكل مباشر، فقد شرح المفهوم أثناء تطويره لما أصبح يُعرف بتوزيع t لـ Student . وقد شاع استخدام المصطلح نفسه على يد الإحصائي وعالم الأحياء الإنجليزي رونالد فيشر ، بدءًا من عمله عام 1922 حول مربعات كاي. [ 5 ]

الترميز

في المعادلات، يُستخدم الرمز ν ( حرف يوناني صغير يُرمز له بدرجات الحرية ). أما في النصوص والجداول، فيُستخدم الاختصار "df" عادةً. استخدم آر. إيه. فيشر الرمز n للدلالة على درجات الحرية، ولكن في الاستخدام الحديث، يُستخدم n عادةً للدلالة على حجم العينة. عند الإبلاغ عن نتائج الاختبارات الإحصائية ، تُذكر درجات الحرية عادةً بجانب إحصائية الاختبار إما كرمز سفلي أو بين قوسين. [ 6 ]

من المتجهات العشوائية

هندسياً، يمكن تفسير درجات الحرية على أنها بُعد فضاءات فرعية متجهة معينة. كنقطة انطلاق، لنفترض أن لدينا عينة من المشاهدات المستقلة الموزعة توزيعاً طبيعياً،

X1،...،Xن.{\displaystyle X_{1},\dots ,X_{n}.\,}

يمكن تمثيل ذلك كمتجه عشوائي ذي n بُعد :

(X1Xن).{\displaystyle {\begin{pmatrix}X_{1}\\\vdots \\X_{n}\end{pmatrix}}.}

بما أن هذا المتجه العشوائي يمكن أن يقع في أي مكان في الفضاء ذي الأبعاد n ، فإنه يمتلك n درجة من الحرية.

والآن، لنبدأX¯{\displaystyle {\bar {X}}}ليكن متوسط ​​العينة . يمكن تحليل المتجه العشوائي على أنه مجموع متوسط ​​العينة بالإضافة إلى متجه البواقي:

(X1Xن)=X¯(11)+(X1-X¯Xن-X¯).{\displaystyle {\begin{pmatrix}X_{1}\\\vdots \\X_{n}\end{pmatrix}}={\bar {X}}{\begin{pmatrix}1\\\vdots \\1\end{pmatrix}}+{\begin{pmatrix}X_{1}-{\bar {X}}\\\vdots \\X_{n}-{\bar {X}}\end{pmatrix}}.}

يُقيد المتجه الأول على الجانب الأيمن ليكون مضاعفًا لمتجه الآحاد، والكمية الحرة الوحيدة هيX¯{\displaystyle {\bar {X}}}وبالتالي، فإن لها درجة حرية واحدة.

المتجه الثاني مقيد بالعلاقةأنا=1ن(Xأنا-X¯)=0{\textstyle \sum _{i=1}^{n}(X_{i}-{\bar {X}})=0}يمكن أن تكون أول n  - 1 عنصرًا من هذا المتجه أي شيء. ومع ذلك، بمجرد معرفة  أول n  - 1 عنصرًا، يُستنتج العنصر رقم n من شرط أن يكون المجموع صفرًا. على سبيل المثال، ليكن ن=3{\displaystyle n=3}،(X1-X¯)=2{\textstyle (X_{1}-{\bar {X}})=2}و(X2-X¯)=5{\textstyle (X_{2}-{\bar {X}})=5}ثمX3-X¯{\displaystyle X_{3}-{\bar {X}}}يجب أن يكون-7{\displaystyle -7}لذلك، فإن هذا المتجه لديه n  1 درجة من الحرية.

رياضيًا، يُمثل المتجه الأول الإسقاط المائل لمتجه البيانات على الفضاء الجزئي الذي يُولّده متجه الآحاد. درجة الحرية 1 هي بُعد هذا الفضاء الجزئي. أما متجه الباقي الثاني، فهو الإسقاط باستخدام طريقة المربعات الصغرى على المتمم المتعامد ذي الأبعاد ( n  1) لهذا الفضاء الجزئي، وله n − 1 درجة حرية.  

في تطبيقات الاختبارات الإحصائية، غالبًا ما لا يكون المرء مهتمًا بشكل مباشر بمتجهات المكونات، بل بمربعات أطوالها. في المثال أعلاه، مجموع مربعات البواقي هو

أنا=1ن(Xأنا-X¯)2=X1-X¯Xن-X¯2.{\displaystyle \sum _{i=1}^{n}(X_{i}-{\bar {X}})^{2}={\begin{Vmatrix}X_{1}-{\bar {X}}\\\vdots \\X_{n}-{\bar {X}}\end{Vmatrix}}^{2}.}

إذا كانت نقاط البياناتXأنا{\displaystyle X_{i}}تتوزع توزيعاً طبيعياً بمتوسط ​​0 وتباينσ2{\displaystyle \sigma ^{2}}إذاً، فإن مجموع مربعات البواقي له توزيع كاي تربيع مُقاس (مُقاس بمعاملσ2{\displaystyle \sigma ^{2}})، مع n  1 درجة حرية. يمكن تفسير درجات الحرية، وهي هنا معلمة للتوزيع، على أنها بُعد فضاء متجهي فرعي أساسي.

وبالمثل، إحصائية اختبار t لعينة واحدة ،

ن(X¯-μ0)أنا=1ن(Xأنا-X¯)2/(ن-1){\displaystyle {\frac {{\sqrt {n}}({\bar {X}}-\mu _{0})}{\sqrt {\sum \limits _{i=1}^{n}(X_{i}-{\bar {X}})^{2}/(n-1)}}}}

يتبع توزيع t للطالب بدرجات حرية n  − 1 عندما يكون المتوسط ​​المفترض μ0{\displaystyle \mu _{0}}هذا صحيح. مرة أخرى، تنشأ درجات الحرية من متجه الباقي في المقام.

في النماذج الخطية

يُعدّ عرض توزيعات t وχ² لمسائل العينة الواحدة أعلاه أبسط مثال على ظهور درجات الحرية. مع ذلك، فإنّ هندسةً مماثلةً وتحليلاتٍ متجهةً تُشكّل أساسًا للكثير من نظرية النماذج الخطية ، بما في ذلك الانحدار الخطي وتحليل التباين . يُقدّم هنا مثالٌ واضحٌ قائمٌ على مقارنة ثلاثة متوسطات؛ وقد ناقش كريستنسن (2002) هندسة النماذج الخطية بتفصيلٍ أكبر. [ 7 ]

لنفترض أنه تم إجراء ملاحظات مستقلة لثلاث مجموعات سكانية،X1،...،Xن{\displaystyle X_{1},\ldots ,X_{n}}،Y1،...،Yن{\displaystyle Y_{1},\ldots ,Y_{n}}وZ1،...،Zن{\displaystyle Z_{1},\ldots ,Z_{n}}إن الاقتصار على ثلاث مجموعات وأحجام عينات متساوية يبسط الترميز، ولكن يمكن تعميم الأفكار بسهولة.

يمكن تحليل الملاحظات على النحو التالي:

Xأنا=م¯+(X¯-م¯)+(Xأنا-X¯)Yأنا=م¯+(Y¯-م¯)+(Yأنا-Y¯)Zأنا=م¯+(Z¯-م¯)+(Zأنا-Z¯){\displaystyle {\begin{aligned}X_{i}&={\bar {M}}+({\bar {X}}-{\bar {M}})+(X_{i}-{\bar {X}})\\Y_{i}&={\bar {M}}+({\bar {Y}}-{\bar {M}})+(Y_{i}-{\bar {Y}})\\Z_{i}&={\bar {M}}+({\bar {Z}}-{\bar {M}})+(Z_{i}-{\bar {Z}})\end{aligned}}}

أينX¯،Y¯،Z¯{\displaystyle {\bar {X}},{\bar {Y}},{\bar {Z}}}وهي متوسطات العينات الفردية، و م¯=(X¯+Y¯+Z¯)/3{\displaystyle {\bar {M}}=({\bar {X}}+{\bar {Y}}+{\bar {Z}})/3}هو متوسط ​​جميع المشاهدات الثلاث n . ويمكن كتابة هذا التحليل باستخدام الترميز المتجهي على النحو التالي:

(X1XنY1YنZ1Zن)=م¯(111111)+(X¯-م¯X¯-م¯Y¯-م¯Y¯-م¯Z¯-م¯Z¯-م¯)+(X1-X¯Xن-X¯Y1-Y¯Yن-Y¯Z1-Z¯Zن-Z¯).{\displaystyle {\begin{pmatrix}X_{1}\\\vdots \\X_{n}\\Y_{1}\\\vdots \\Y_{n}\\Z_{1}\\\vdots \\Z_{n}\end{pmatrix}}={\bar {M}}{\begin{pmatrix}1\\\vdots \\1\\1\\\vdots \\1\\1\\\vdots \\1\end{pmatrix}}+{\begin{pmatrix}{\bar {X}}-{\bar {M}}\\\vdots \\{\bar {X}}-{\bar {M}}\\{\bar {Y}}-{\bar {M}}\\\vdots \\{\bar {Y}}-{\bar {M}}\\{\bar {Z}}-{\bar {M}}\\\vdots \\{\bar {Z}}-{\bar {M}}\end{pmatrix}}+{\begin{pmatrix}X_{1}-{\bar {X}}\\\vdots \\X_{n}-{\bar {X}}\\Y_{1}-{\bar {Y}}\\\vdots \\Y_{n}-{\bar {Y}}\\Z_{1}-{\bar {Z}}\\\vdots \\Z_{n}-{\bar {Z}}\end{pmatrix}}.}

يحتوي متجه الملاحظة، على الجانب الأيسر، على 3 درجات حرية n . أما على الجانب الأيمن، فيحتوي المتجه الأول على درجة حرية واحدة (أو بُعد واحد) للمتوسط ​​العام. ويعتمد المتجه الثاني على ثلاثة متغيرات عشوائية.X¯-م¯{\displaystyle {\bar {X}}-{\bar {M}}}،Y¯-م¯{\displaystyle {\bar {Y}}-{\bar {M}}}وZ¯-م¯{\displaystyle {\overline {Z}}-{\overline {M}}}ومع ذلك، يجب أن يكون مجموع هذه القيم صفرًا، وبالتالي فهي مقيدة؛ لذا يجب أن يقع المتجه في فضاء فرعي ثنائي الأبعاد، وله درجتا حرية. أما درجات الحرية المتبقية، وعددها 3n -  3  ، فتوجد في متجه البواقي (المكون من n  -  1 درجة حرية ضمن كل مجموعة).

من البقايا

لنأخذ مثالاً على الانحدار ثنائي المتغيرات:Yأنا=أ+بxأنا+هـأنا ل أنا=1،...،ن{\displaystyle Y_{i}=a+bx_{i}+e_{i}{\text{ for }}i=1,\dots ,n} حيث xᵢ ثابتة، لكن eᵢ وبالتالي Yᵢ عشوائية . ليكنأ^{\displaystyle {\widehat {a}}}وب^{\displaystyle {\widehat {b}}}لنفترض أن تقديرات المربعات الصغرى لـ a و b . عندئذٍ تكون البواقي

هـ^أنا=yأنا-(أ^+ب^xأنا){\displaystyle {\widehat {e}}_{i}=y_{i}-({\widehat {a}}+{\widehat {b}}x_{i})}

تقتصر على التواجد ضمن الحيز المحدد بالمعادلتين

هـ^1++هـ^ن=0،{\displaystyle {\widehat {e}}_{1}+\cdots +{\widehat {e}}_{n}=0,}
x1هـ^1++xنهـ^ن=0.{\displaystyle x_{1}{\widehat {e}}_{1}+\cdots +x_{n}{\widehat {e}}_{n}=0.}

من الأصلن{\displaystyle n}درجات الحرية، يتم استهلاك درجتي حرية بواسطة هاتين المعادلتين بينما ترتبط درجات الحرية المتبقية n  − 2 بالبواقي. 

بتعميم ذلك على الانحدار المتعددYأنا=ب1+ب2x2أنا+...+بصxصأنا+هـأنا{\displaystyle Y_{i}=b_{1}+b_{2}x_{2i}+\ldots +b_{p}x_{pi}+e_{i}}يتضمنص-1{\displaystyle p-1}المنحدرات والمتغيرات المصاحبة والتقاطعب1{\displaystyle b_{1}}(أو ما يعادل ذلك)x1أنا1{\displaystyle x_{1i}\equiv 1}لكل i )، سينتج تقدير المربعات الصغرىص{\displaystyle p}المعادلات العادية. وبالتالي، فإن المعلمات المقدرةب^1،ب^2،...،ب^ص{\displaystyle {\hat {b}}_{1},{\hat {b}}_{2},\ldots ,{\hat {b}}_{p}}استهلكص{\displaystyle p}درجات الحرية، تاركةً n - p درجة حرية للبواقي.

في تحليل التباين (ANOVA)

في مسائل الاختبارات الإحصائية، لا يهتم المرء عادةً بالمتجهات المكونة نفسها، بل بمربعات أطوالها، أو مجموع المربعات. درجات الحرية المرتبطة بمجموع المربعات هي درجات حرية المتجهات المكونة المقابلة.

يُعد المثال المذكور أعلاه، والذي يتضمن ثلاث مجموعات سكانية، مثالاً على تحليل التباين أحادي الاتجاه . مجموع مربعات النموذج، أو المعالجة، هو مربع طول المتجه الثاني.

SST=ن(X¯-م¯)2+ن(Y¯-م¯)2+ن(Z¯-م¯)2{\displaystyle {\text{SST}}=n({\bar {X}}-{\bar {M}})^{2}+n({\bar {Y}}-{\bar {M}})^{2}+n({\bar {Z}}-{\bar {M}})^{2}}

مع درجتي حرية. مجموع مربعات الخطأ، أو الباقي، هو

جنوب شرق=أنا=1ن[(Xأنا-X¯)2+(Yأنا-Y¯)2+(Zأنا-Z¯)2]{\displaystyle {\text{SSE}}=\sum _{i=1}^{n}\left[(X_{i}-{\bar {X}})^{2}+(Y_{i}-{\bar {Y}})^{2}+(Z_{i}-{\bar {Z}})^{2}\right]}

مع 3( ن - 1) درجة حرية. بالطبع، عادةً ما تذكر الكتب التمهيدية حول تحليل التباين الصيغ دون إظهار المتجهات، ولكن هذه الهندسة الأساسية هي التي تُنتج صيغ مجموع المربعات، وتُبين كيفية تحديد درجات الحرية بشكل لا لبس فيه في أي حالة معينة.

بافتراض عدم وجود فرق بين متوسطات المجتمعين (وبافتراض استيفاء افتراضات انتظام تحليل التباين القياسية)، فإن مجموع المربعات يتبع توزيع كاي تربيع المُقاس، بدرجات الحرية المقابلة. إحصائية اختبار F هي النسبة بعد قياسها بدرجات الحرية. إذا لم يكن هناك فرق بين متوسطات المجتمعين، فإن هذه النسبة تتبع توزيع F بدرجتي حرية 2 و 3n  − 3. 

في بعض الحالات المعقدة، مثل تصميمات القطع المنفصلة غير المتوازنة ، لا تتبع مجاميع المربعات توزيعات كاي تربيع المُقاسة. وبالتالي، تصبح مقارنة مجاميع المربعات بدرجات الحرية غير ذات جدوى، وقد تُظهر البرامج في هذه الحالات درجات حرية كسرية معينة. لا تحمل هذه الأرقام أي دلالة حقيقية على درجات الحرية، بل تُقدم ببساطة توزيع كاي تربيع تقريبي لمجاميع المربعات المقابلة. تفاصيل هذه التقريبات تتجاوز نطاق هذه الصفحة.

في التوزيعات الاحتمالية

تحتوي العديد من التوزيعات الإحصائية الشائعة (مثل توزيع t للطالب ، وتوزيع كاي تربيع ، وتوزيع F ) على معلمات تُعرف عادةً بدرجات الحرية . ويعكس هذا المصطلح ببساطة أنه في العديد من التطبيقات التي تظهر فيها هذه التوزيعات، تتوافق المعلمة مع درجات حرية متجه عشوائي أساسي، كما في مثال تحليل التباين (ANOVA) السابق. مثال بسيط آخر هو: إذاXأنا؛أنا=1،...،ن{\displaystyle X_{i};i=1,\ldots ,n}هي مستقلة طبيعية(μ،σ2){\displaystyle (\mu ,\sigma ^{2})}المتغيرات العشوائية، الإحصائية

أنا=1ن(Xأنا-X¯)2σ2{\displaystyle {\frac {\sum _{i=1}^{n}(X_{i}-{\bar {X}})^{2}}{\sigma ^{2}}}}

يتبع توزيع كاي تربيع بدرجات حرية n  1. تنشأ درجات الحرية هنا من مجموع مربعات البواقي في البسط، وبالتالي من درجات حرية n  1 لمتجه البواقي الأساسي.{Xأنا-X¯}{\displaystyle \{X_{i}-{\bar {X}}\}}.

عند تطبيق هذه التوزيعات على النماذج الخطية، لا يمكن أن تأخذ معلمات درجات الحرية إلا قيمًا صحيحة . تسمح عائلات التوزيعات الأساسية بقيم كسرية لمعلمات درجات الحرية، وهو ما قد يظهر في استخدامات أكثر تعقيدًا. ومن الأمثلة على ذلك المسائل التي تُستخدم فيها تقريبات كاي تربيع القائمة على درجات الحرية الفعّالة . في تطبيقات أخرى، مثل نمذجة البيانات ذات الذيول السميكة ، يمكن استخدام توزيع χ² أو F كنموذج تجريبي. في هذه الحالات، لا يوجد تفسير محدد لدرجات الحرية لمعلمات التوزيع، على الرغم من استمرار استخدام المصطلحات.

في الانحدار غير القياسي

تعتمد العديد من طرق الانحدار غير القياسية، بما في ذلك المربعات الصغرى المنتظمة (مثل انحدار ريدجوالمُنعِّمات الخطية ، والشرائح المُنعِّمة ، والانحدار شبه البارامتري ، على المربعات الصغرى المنتظمة ( المُعمَّمة و/أو المُعاقَبة) ، وليس على إسقاطات المربعات الصغرى العادية، ولذلك فإن درجات الحرية المُعرَّفة بدلالة الأبعاد لا تُفيد هذه الإجراءات عمومًا. ومع ذلك، تظل هذه الإجراءات خطية بالنسبة للمشاهدات، ويمكن التعبير عن القيم المُقدَّرة للانحدار بالشكل التالي:

y^=حy،{\displaystyle {\hat {y}}=Hy,}

أينy^{\displaystyle {\hat {y}}}يمثل متجه القيم المناسبة عند كل قيمة من قيم المتغيرات الأصلية من النموذج المناسب، و y هو متجه الاستجابات الأصلي، و H هي مصفوفة القبعة ، وهي مصفوفة الإسقاط للفضاء الخطي للمتغيرات المستقلة، أو بشكل عام، مصفوفة التنعيم.

لأغراض الاستدلال الإحصائي، لا يزال من الممكن تكوين مجاميع المربعات: مجموع مربعات النموذج هوحy2{\displaystyle \|Hy\|^{2}}؛ مجموع مربعات البواقي هوy-حy2{\displaystyle \|y-Hy\|^{2}}ومع ذلك، ولأن H لا يتوافق مع طريقة المربعات الصغرى العادية (أي أنه ليس إسقاطًا متعامدًا)، فإن مجموعات المربعات هذه لم تعد تحتوي على توزيعات مربع كاي (المقياسة وغير المركزية)، ودرجات الحرية المحددة الأبعاد ليست مفيدة.

يمكن تعريف درجات الحرية الفعّالة للنموذج بطرقٍ مختلفة لتطبيق اختبارات جودة المطابقة ، والتحقق المتبادل ، وغيرها من إجراءات الاستدلال الإحصائي . ويمكن هنا التمييز بين درجات الحرية الفعّالة للانحدار ودرجات الحرية الفعّالة للبواقي .

درجات الحرية الفعالة للانحدار

بالنسبة لدرجات الحرية الفعالة للانحدار، يمكن أن تتضمن التعريفات المناسبة أثر مصفوفة القبعة، [ 8 ] tr( H )، وأثر الشكل التربيعي لمصفوفة القبعة، tr( H'H )، والشكل tr(2H H H ' )، أو تقريب ساتيرثويت ، tr( H'H ) ² /tr( H'HH'H ) . [ 9 ] في حالة الانحدار الخطي، تكون مصفوفة القبعة H هي X(X'X)⁻¹X' ، وتختزل جميع هذه التعريفات  إلى درجات الحرية المعتادة . لاحظ أن 

tr(ح)=أناحأناأنا=أناy^أناyأنا،{\displaystyle \operatorname {tr} (H)=\sum _{i}h_{ii}=\sum _{i}{\frac {\partial {\hat {y}}_{i}}{\partial y_{i}}},}

درجات حرية الانحدار (وليس الباقي) في النماذج الخطية هي "مجموع حساسيات القيم المتوقعة بالنسبة لقيم الاستجابة المرصودة"، [ 10 ] أي مجموع درجات الرافعة المالية .

إحدى طرق المساعدة في فهم هذا المفهوم هي النظر إلى مصفوفة تنعيم بسيطة مثل التمويه الغاوسي ، المستخدمة للتخفيف من ضوضاء البيانات. على عكس التوفيق الخطي أو متعدد الحدود البسيط، فإن حساب درجات الحرية الفعالة لدالة التنعيم ليس بالأمر السهل. في هذه الحالات، من المهم تقدير درجات الحرية المسموح بها.ح{\displaystyle H}المصفوفة بحيث يمكن استخدام درجات الحرية المتبقية لتقدير الاختبارات الإحصائية مثلχ2{\displaystyle \chi ^{2}}.

درجات الحرية الفعالة المتبقية

توجد تعريفات مماثلة لدرجات الحرية الفعالة المتبقية (redf)، حيث يُستبدل H بـ I H. على سبيل المثال، إذا كان الهدف هو تقدير تباين الخطأ، فسيتم تعريف redf على أنه tr(( IH )'( IH ))، والتقدير غير المتحيز هو (مع     ر^=y-حy{\displaystyle {\hat {r}}=y-Hy})

σ^2=ر^2tr((أنا-ح)(أنا-ح))،{\displaystyle {\hat {\sigma }}^{2}={\frac {\|{\hat {r}}\|^{2}}{\operatorname {tr} \left((I-H)'(I-H)\right)}},}

أو: [ 11 ] [ 12 ] [ 13 ] [ 14 ]

σ^2=ر^2ن-tr(2ح-حح)=ر^2ن-2tr(ح)+tr(حح){\displaystyle {\hat {\sigma }}^{2}={\frac {\|{\hat {r}}\|^{2}}{n-\operatorname {tr} (2H-HH')}}={\frac {\|{\hat {r}}\|^{2}}{n-2\operatorname {tr} (H)+\operatorname {tr} (HH')}}}
σ^2ر^2ن-1.25tr(ح)+0.5.{\displaystyle {\hat {\sigma }}^{2}\approx {\frac {\|{\hat {r}}\|^{2}}{n-1.25\operatorname {tr} (H)+0.5}}.}

يُقلل التقريب الأخير المذكور أعلاه [ 12 ] التكلفة الحسابية من O ( n² ) إلى O ( n ) فقط . وبشكل عام ، يكون البسط هو دالة الهدف التي يتم تقليلها؛ على سبيل المثال، إذا كانت مصفوفة القبعة تتضمن مصفوفة تباين الملاحظات، Σ، فإنر^2{\displaystyle \|{\hat {r}}\|^{2}}يصبحر^Σ-1ر^{\displaystyle {\hat {r}}'\Sigma ^{-1}{\hat {r}}}.

عام

لاحظ أنه على عكس الحالة الأصلية، يُسمح بدرجات الحرية غير الصحيحة، على الرغم من أنه يجب عادةً تقييد القيمة بين 0 و n . [ 15 ]

لنأخذ على سبيل المثال مُحسِّن الجوار الأقرب k ، وهو متوسط ​​أقرب k قيمة مُقاسة إلى النقطة المُعطاة. عندئذٍ، عند كل نقطة من النقاط المُقاسة n ، يكون وزن القيمة الأصلية على التركيبة الخطية التي تُشكِّل القيمة المُتوقَّعة هو 1/ k . وبالتالي، يكون أثر مصفوفة القبعة n/k . ومن ثم، يتطلب المُحسِّن n/k درجة حرية فعّالة.

كمثال آخر، لنفترض وجود مشاهدات متطابقة تقريبًا. إن التطبيق البسيط للصيغة الكلاسيكية، np ، سيؤدي إلى المبالغة في تقدير درجة حرية البواقي، كما لو كانت كل مشاهدة مستقلة. ولكن في الواقع، فإن مصفوفة القبعة H = X ( X  ' Σ −1 X ) −1 X ' Σ −1 ستتضمن مصفوفة تباين المشاهدات Σ التي تشير إلى وجود ارتباط غير صفري بين المشاهدات.

إن الصياغة الأكثر عمومية لدرجة الحرية الفعالة ستؤدي إلى تقدير أكثر واقعية، على سبيل المثال، لتباين الخطأ σ 2 ، والذي بدوره يقيس الانحراف المعياري اللاحق للمعلمات غير المعروفة ؛ كما ستؤثر درجة الحرية على عامل التوسع اللازم لإنتاج قطع ناقص للخطأ لمستوى ثقة معين .

تركيبات أخرى

تتضمن المفاهيم المشابهة درجات الحرية المكافئة في الانحدار غير البارامتري ، [ 16 ] ودرجة حرية الإشارة في الدراسات الجوية، [ 17 ] [ 18 ] ودرجة الحرية غير الصحيحة في الجيوديسيا. [ 19 ] [ 20 ]

مجموع مربعات البواقيy-حy2{\displaystyle \|y-Hy\|^{2}}لها توزيع مربع كاي المعمم ، والنظرية المرتبطة بهذا التوزيع [ 21 ] توفر مسارًا بديلًا للإجابات المقدمة أعلاه.

في نماذج المعادلات الهيكلية

عند عرض نتائج نماذج المعادلات الهيكلية (SEM)، فإنها تتضمن عادةً مؤشرًا واحدًا أو أكثر لمدى ملاءمة النموذج بشكل عام، وأكثرها شيوعًا هوχ2{\displaystyle \chi ^{2}}تُشكل هذه الإحصائية أساسًا لمؤشرات أخرى شائعة الاستخدام. ورغم أن هذه الإحصائيات الأخرى هي الأكثر شيوعًا في التفسير، فإن درجات حرية اختبار مربع كاي (χ² ) ضرورية لفهم مدى ملاءمة النموذج وطبيعة النموذج نفسه.

تُحسب درجات الحرية في نمذجة المعادلات الهيكلية (SEM) كفرق بين عدد المعلومات الفريدة المستخدمة كمدخلات في التحليل، والتي تُسمى أحيانًا بالمعطيات المعروفة، وعدد المعلمات التي يتم تقديرها بشكل فريد، والتي تُسمى أحيانًا بالمجهولات. في تحليل SEM الأكثر شيوعًا، وهو تحليل هياكل التغاير (أي لا يتم نمذجة بنية المتوسط)، يمثل هذا عدد العناصر غير المتكررة في مصفوفة التغاير التي يتم نمذجتها.د{\displaystyle d}المتغيرات المرصودة في النموذج، هناكد(د+1)/2{\displaystyle d(d+1)/2}هذه العناصر (مع العناصر المتبقية)د(د-1)/2{\displaystyle d(d-1)/2}(العناصر غير القطرية هي نسخ عبر القطر). على سبيل المثال، في تحليل عاملي تأكيدي أحادي العامل مع 4 عناصر، هناك4×5/2=10{\displaystyle 4\times 5/2=10}المعروف (التباينات الستة الفريدة بين العناصر الأربعة وتباينات العناصر الأربعة) و 8 مجهولات (4 معاملات تحميل عاملية و 4 تباينات خطأ) مما ينتج عنه درجتان متبقيتان من الحرية.

لقد ثبت أن درجات الحرية يمكن استخدامها من قِبل قراء الأبحاث التي تحتوي على نماذج المعادلات الهيكلية لتحديد ما إذا كان مؤلفو تلك الأبحاث يقدمون بالفعل إحصائيات مطابقة النموذج الصحيحة. ففي العلوم التنظيمية، على سبيل المثال، يُبلغ ما يقرب من نصف الأبحاث المنشورة في المجلات الرائدة عن درجات حرية لا تتوافق مع النماذج الموصوفة في تلك الأبحاث، مما يدفع القارئ إلى التساؤل عن النماذج التي تم اختبارها بالفعل. [ 22 ]

في إحصاءات المسح

عند جمع البيانات باستخدام تصميم معاينة مسحية معقدة ، يُعطى الحد الأدنى لدرجات حرية تصميم المعاينة عادةً على النحو التالي: (عدد وحدات المعاينة الأولية) - (عدد الطبقات). ويستند هذا إلى التقدير الشائع للتباين لتصميم معاينة ثنائي المراحل بدون إحلال: لعينة مسحية معل{\displaystyle L}الطبقات،نح{\displaystyle n_{h}}وحدات المعاينة الأولية (PSUs) التي تم أخذ عينات منها فيح{\displaystyle h}الطبقة رقم - بمعدلوح{\displaystyle f_{h}}، ومحأنا{\displaystyle m_{hi}}وحدات المراقبة المأخوذة منأنا{\displaystyle i}وحدة توزيع الطاقة رقم -th في الطبقةح{\displaystyle h}، تباين إجمالي عدد السكان المقدر

تsتر(y)=ح=1لأنا=1نحج=1محأناwحأناجyحأناج{\displaystyle t_{\rm {str}}(y)=\sum _{h=1}^{L}\sum _{i=1}^{n_{h}}\sum _{j=1}^{m_{hi}}w_{hij}y_{hij}}

هو [ 23 ]

v[تsتر(y)]=ح=1ل(1-وح)نحنح-1أنا=1نح(y¯حأنا-y¯ح)2{\displaystyle v[t_{\rm {str}}(y)]=\sum _{h=1}^{L}(1-f_{h}){\frac {n_{h}}{n_{h}-1}}\sum _{i=1}^{n_{h}}({\bar {y}}_{hi}-{\bar {y}}_{h})^{2}}

هناك، في الملخص علىح=1لنح{\displaystyle \sum _{h=1}^{L}n_{h}}وحدات تزويد الطاقة،ل{\displaystyle L}الطبقة تعنيy¯ح{\displaystyle {\bar {y}}_{h}}يتم تقديرها وطرحها. وبالتالي، بما يتوافق مع الاعتبارات الهندسية المذكورة أعلاه، فإن درجات الحرية هيح=1لنح-ل{\displaystyle \sum _{h=1}^{L}n_{h}-L}.

إن التقديرات الأكثر دقة لدرجات الحرية في تصميمات المسح المعقدة تصحح انحراف المتغيرات [ 24 ] ، وأحجام العينات الفعالة [ 25 ] ، وتجميع المتنبئات في النماذج الخطية [ 26 ] .

انظر أيضاً

مراجع

  1. "درجات الحرية" . مسرد المصطلحات الإحصائية . برنامج الرسوم المتحركة . تم الاسترجاع في 21-08-2008 .
  2. لين، ديفيد م. "درجات الحرية" . هايبرستات أونلاين . حلول إحصائية . تم الاسترجاع في 21-08-2008 .
  3. ووكر، إتش إم (أبريل 1940). "درجات الحرية" (ملف PDF) . مجلة علم النفس التربوي . 31 (4): 253-269 . doi : 10.1037/h0054588 .
  4. طالب (مارس 1908). "الخطأ المحتمل للمتوسط" . Biometrika . 6 (1): 1– 25. doi : 10.2307/2331554 . JSTOR 2331554 . 
  5. فيشر، ر. أ. (يناير 1922). "حول تفسير χ² من جداول التوافق، وحساب P" . مجلة الجمعية الإحصائية الملكية . 85 (1): 87-94 . doi : 10.2307/2340521 . JSTOR 2340521 . 
  6. سيتشون، ماريوس (2020-06-01). "الإبلاغ عن الأساليب الإحصائية ونتائج التحليلات الإحصائية في المقالات البحثية" . تقارير علم الأدوية . 72 (3): 481-485 . doi : 10.1007/s43440-020-00110-5 . ISSN 2299-5684 . PMID 32542585 .  
  7. كريستنسن، رونالد (2002). إجابات بسيطة على أسئلة معقدة: نظرية النماذج الخطية ( الطبعة الثالثة). نيويورك: سبرينغر. ISBN  0-387-95361-2.
  8. تريفور هاستي ، روبرت تيبشيراني ، جيروم هـ. فريدمان (2009)، عناصر التعلم الإحصائي: التنقيب عن البيانات، والاستدلال، والتنبؤ ، الطبعة الثانية، 746 صفحة. ISBN 978-0-387-84857-0، doi : 10.1007/978-0-387-84858-7 ، (المعادلة (5.16))
  9. فوكس، ج. (2000). الانحدار البسيط غير البارامتري: تنعيم مخططات التشتت . التطبيقات الكمية في العلوم الاجتماعية. المجلد 130. منشورات سيج. ص 58. ISBN   978-0-7619-1585-0تم الاطلاع عليه بتاريخ 28-08-2020 .
  10. يي، ج. (1998)، "حول قياس وتصحيح آثار استخراج البيانات واختيار النموذج"، مجلة الجمعية الإحصائية الأمريكية ، 93 (441)، 120-131. JSTOR 2669609 (معادلة (7)) 
  11. كاثرين لودر (1999)، الانحدار المحلي والاحتمالية ، ISBN 978-0-387-98775-0، doi : 10.1007/b98858 ، (المعادلة (2.18)، ص 30)
  12. 1 2 تريفور هاستي، روبرت تيبشيراني (1990)، النماذج المضافة المعممة ، مطبعة سي آر سي، (ص 54) و (المعادلة (ب.1)، ص 305))
  13. سيمون ن. وود (2006)، النماذج الإضافية المعممة: مقدمة مع R ، مطبعة CRC، (المعادلة (4،14)، ص 172)
  14. ديفيد روبرت، إم بي واند، آر جيه كارول (2003)، الانحدار شبه البارامتري ، مطبعة جامعة كامبريدج (المعادلة (3.28)، ص 82)
  15. جيمس إس. هودجز (2014)، نماذج خطية غنية بالمعاملات ، مطبعة سي آر سي.
  16. بيتر ج. جرين، بي دبليو سيلفرمان (1994)، الانحدار غير البارامتري والنماذج الخطية المعممة: نهج عقوبة الخشونة ، مطبعة سي آر سي (المعادلة (3.15)، ص 37)
  17. كلايف د. رودجرز (2000)، الطرق العكسية لسبر الغلاف الجوي: النظرية والتطبيق ، وورلد ساينتيفيك (المعادلة (2.56)، ص 31)
  18. ^ أدريان دويكو، توماس تروتمان، فرانز شراير (2010)، التنظيم العددي للمشاكل العكسية في الغلاف الجوي ، سبرينغر (مكافئ (4.26)، ص 114)
  19. D. Dong, TA Herring and RW King (1997), Estimating regional deformation from a combination of space and terrestrial geodistic data, J. Geodesy , 72 (4), 200–214, doi : 10.1007/s001900050161 (eq.(27), p. 205 ).
  20. H. Theil (1963), "حول استخدام المعلومات المسبقة غير الكاملة في تحليل الانحدار"، مجلة الجمعية الإحصائية الأمريكية ، 58 (302)، 401-414 JSTOR 2283275 (المعادلة (5.19)-(5.20)) 
  21. جونز، د.أ. (1983) "التحليل الإحصائي للنماذج التجريبية الملائمة عن طريق التحسين"، بيومتريكا ، 70 (1)، 67-88
  22. كورتينا، جيه إم، غرين، جيه بي، كيلر، كيه آر، وفاندنبرغ، آر جيه (2017). درجات الحرية في نمذجة المعادلات الهيكلية: هل نختبر النماذج التي ندعي اختبارها؟ أساليب البحث التنظيمي، 20(3)، 350-378.
  23. "تقدير التباين لبيانات المسح" (ملف PDF) . تم الاطلاع عليه بتاريخ 2024-04-01 .
  24. فاليانت، ريتشارد؛ راست، كيث (2010). "تقريب درجات الحرية والقواعد العامة". مجلة الإحصاءات الرسمية : 585-602 .
  25. بوتوف، ريتشارد ف.؛ وودبري، ماكس أ.؛ مانتون، كينيث ج. (1990). "تحسينات "حجم العينة المكافئ" و"درجات الحرية المكافئة" للاستدلال باستخدام أوزان المسح في نماذج السكان الفائقة . مجلة الجمعية الإحصائية الأمريكية . 87 (418). الجمعية الإحصائية الأمريكية: 383-396 . doi : 10.1080/01621459.1992.10475218 . تاريخ الاسترجاع: 1 أبريل 2026 .
  26. بيل، روبرت م.؛ مكافري، دانيال ف. (ديسمبر 2002). "تقليل التحيز في الأخطاء المعيارية للانحدار الخطي مع عينات متعددة المراحل" (ملف PDF) . منهجية المسح . 28 (2). هيئة الإحصاء الكندية: 169-181 . تاريخ الاسترجاع: 1 أبريل 2024 .

للمزيد من القراءة