الإحصاءات البارامترية

📅 آخر تحديث: ٣ أغسطس ٢٠٢٦
✍️ نُشر في: ٣ أغسطس ٢٠٢٦
📷 يحتوي على 27 صور
الموسوعة الحرة

الإحصاءات البارامترية هي فرع من فروع الإحصاء يهتم بتحليل البيانات والاستدلال منها، بافتراض أن التوزيع الأساسي الذي استُمدت منه البيانات المرصودة يمكن وصفه بمجموعة محدودة من المعلمات (غير المعروفة) . [ 1 ] [ 2 ] في المقابل، لا تفترض الإحصاءات غير البارامترية أشكالًا رياضية صريحة (ذات معلمات محدودة) للتوزيعات عند نمذجة البيانات. ومع ذلك، قد تفترض بعض الافتراضات حول هذا التوزيع، مثل الاستمرارية أو التناظر، أو حتى شكلًا رياضيًا صريحًا، ولكنها تمتلك نموذجًا لمعلمة التوزيع ليس بحد ذاته ذا معلمات محدودة.

معظم الأساليب الإحصائية المعروفة هي أساليب بارامترية. [ 3 ] وفيما يتعلق بالنماذج غير البارامترية (وشبه البارامترية)، قال السير ديفيد كوكس : "عادةً ما تتضمن هذه النماذج افتراضات أقل حول البنية والشكل التوزيعي، ولكنها عادةً ما تحتوي على افتراضات قوية حول الاستقلالية". [ 4 ]

ملخص

يتمثل الهدف الرئيسي للاستدلال الإحصائي في توفير أساليب لتحليل البيانات بشكل منهجي واستنتاج خصائص التوزيع الاحتمالي الذي سُحبت منه البيانات. ويفترض الافتراض الأساسي الذي تقوم عليه الإحصاءات البارامترية أن توزيع البيانات ينتمي إلى عائلة أعم من التوزيعات التي يمكن تحديدها بواسطة عدد محدود من المعلمات.θ1،...،θص{\displaystyle \theta _{1},\dots ,\theta _{p}}وهي غير معروفة. تُسمى هذه المجموعة من التوزيعات بالنموذج البارامتري . ومن الأسئلة النموذجية في هذا السياق: [ 2 ]

  • تقدير المعلمات : ما هو اختيار المعلمات الذي يفسر البيانات المرصودة بشكل أفضل أو يؤدي إلى أفضل التنبؤات؟
  • تقدير الفترة : ما هي الحدود العليا والسفلى المناسبة؟تي¯{\displaystyle {\overline {T}}}وتي_{\displaystyle {\underline {T}}}بحيث تقع المعلمة "الأفضل" في الفترة[تي_،تي¯]{\displaystyle [{\underline {T}},{\overline {T}}]}باحتمالية عالية؟
  • اختبار الفرضيات : هل من المعقول أن يكون للمعلمة "الأفضل" قيمة معينة أو تقع ضمن نطاق معين؟
  • تحديد النموذج (أو عدم تحديده) : ما هي عائلة التوزيعات المناسبة التي يمكنها تفسير البيانات المرصودة؟

تقدير المعلمات

في الإطار النموذجي لتقدير المعلمات، تمتلك عائلة التوزيعات البارامترية المختارة إما دالة كثافة أو دالة كتلة كثافةلθ{\displaystyle L_{\theta }}، والتي تسمى الاحتمالية اعتمادًا على المعلماتθ=(θ1،...،θص){\displaystyle \theta =(\theta _{1},\dots ,\theta _{p})}وعينة محدودة من البيانات المستقلة والموزعة توزيعًا متطابقًاX1،...،Xن{\displaystyle X_{1},\dots ,X_{n}}معطى. الهدف هو التقديرθ{\displaystyle \theta }(أو دالة منها) بناءً على البيانات المرصودة.

المناهج التكرارية

في المنهج التكراري، يُفترض أن البيانات موزعة وفقًا لـلθ*{\displaystyle L_{\theta ^{*}}}بالنسبة لبعض المعلمات "الحقيقية"θ*{\displaystyle \theta ^{*}}الهدف هو التعافيθ*{\displaystyle \theta ^{*}}من البيانات المرصودة. [ 5 ] فيما يلي أكثر الطرق شيوعًا لتقدير المعلمات.

  • تقدير الاحتمال الأقصى (MLE): تُختار معلمات النموذج بحيث يكون احتمال (أو كثافة احتمال) المشاهدة المعطاة في أعلى قيمة له. في ظل افتراضات معينة على الاحتمال، يكون تقدير الاحتمال الأقصى متسقًا (بقوة)، وفعالًا تقاربيًا، وطبيعيًا تقاربيًا .
  • طريقة العزوم (MoM): إذا أمكن التعبير عن معلمات النموذج كدوالز1،...،زص{\displaystyle g_{1},\dots ,g_{p}}إذا كانت عزمات التوزيع ، فإن تقديرات عزمات المعلمات هيز1(∑أنا=1نXأنا،...،∑أنا=1نXأناص)،...،زص(∑أنا=1نXأنا،...،∑أنا=1نXأناص){\displaystyle g_{1}\left(\sum _{i=1}^{n}X_{i},\dots ,\sum _{i=1}^{n}X_{i}^{p}\right),\dots ,g_{p}\left(\sum _{i=1}^{n}X_{i},\dots ,\sum _{i=1}^{n}X_{i}^{p}\right)}إذا كانت الدوالز1،...،زص{\displaystyle g_{1},\dots ,g_{p}}إذا كانت الدوال متصلة ، فإن مقدر العزوم يكون متسقًا بقوة (بسبب قانون الأعداد الكبيرة القوي ).ز1،...،زص{\displaystyle g_{1},\dots ,g_{p}}إذا كانت قابلة للتفاضل بشكل زوجي، فإن مقدر العزم يكون طبيعيًا تقاربيًا أيضًا (بسبب نظرية النهاية المركزية وطريقة دلتا ).
  • تقدير المربعات الصغرى (LSE): تُطبق هذه الطريقة في سياق الانحدار ، حيث تظهر البيانات في أزواج.(X1،Y1)،...،(Xن،Yن){\displaystyle (X_{1},Y_{1}),\dots ,(X_{n},Y_{n})}ودالة الانحدارو{\displaystyle f}سيتم تحديده. يتم اختيار معلمات النموذج بحيث يكون مجموع مربعات الفروق∑أنا=1ن(Yأنا-وθ(Xأنا))2{\displaystyle \sum _{i=1}^{n}(Y_{i}-f_{\theta }(X_{i}))^{2}}يكون الفرق بين البيانات المرصودة وتنبؤات النموذج ضئيلاً. في الواقع، تُعدّ طريقة المربعات الصغرى (LSE) حالة خاصة من طريقة تقدير الاحتمال الأقصى (MLE)، حيث يكون التوزيع الشرطي لـY{\displaystyle Y}منحX{\displaystyle X}[ 6 ]​

الأساليب البايزية

في المنهج البايزي ، لا يُفترض أن البيانات مُولَّدة بواسطة توزيع.لθ*{\displaystyle L_{\theta ^{*}}}بالنسبة لبعض الحقيقةθ*{\displaystyle \theta ^{*}}بدلاً من ذلك، يتم ترجيح مجموعة جميع معلمات النموذج الممكنة (أو المعقولة) مبدئيًا بتوزيع مسبق.π{\displaystyle \pi }يعكس هذا التوزيع اعتقاد الإحصائي المسبق. وبالنظر إلى البيانات المرصودة، يتم تحديث توزيع المعلمات باستخدام قاعدة بايز ، مما ينتج عنه التوزيع اللاحق.صθ{\displaystyle p_{\theta }}وهذا يتناسب مع الاحتماليةلθ{\displaystyle L_{\theta }}مرات سابقةπ{\displaystyle \pi }لذلك، فإن المقدرات البايزية تعطي أفضل تقدير بناءً على معتقدات الإحصائيين. [ 5 ]

أمثلية المقدرات

مقدرات غير متحيزة ذات تباين أدنى منتظم

المقدرات غير المتحيزة ذات التباين الأدنى المنتظم (UMVUE)، والتي تُسمى أحيانًا أفضل المقدرات غير المتحيزة [ 7 ] ، هي مقدرات تتميز بأقل تباين بين جميع المقدرات غير المتحيزة. وبفضل تحليل التباين والتحيز ، تُعتبر هذه المقدرات مثالية لأنها تُقلل متوسط ​​مربع الخطأ بين جميع المقدرات غير المتحيزة.

لنفترض دالة لمعاملات النموذجq(θ){\displaystyle q(\theta )}يجب تقديرها (مثل المتوسط، التباين، الوسيط، أوθ{\displaystyle \theta }(نفسه). بشكل عام، إذا كان مقدر UMVU لـq(θ){\displaystyle q(\theta )}إذا وُجدت إحصائية ذات تباين محدود، فلا بد أن تكون فريدة وفقًا لنظرية راو-بلاك ويل [ 8 ] . إذا وُجدت إحصائية كافية كاملةتي{\displaystyle T}في النموذج الإحصائي المختار ، والذي يسهل تحديده غالبًا باستخدام نظرية نيمان-فيشر ، فإنه ينطبق عليه نظرية ليمان-شيفيه : مقدرات من الشكلو(تي){\displaystyle f(T)}أي أن التقدير غير متحيز، يكون تلقائيًا تقديرًا غير متحيز وغير متحيز. إذا كان لهذا التقدير تباين محدود لجميعθ{\displaystyle \theta }إذن، فهي أيضاً UMVUE الفريدة.

أفضل مُقدِّر خطي غير متحيز

يتميز أفضل مقدر خطي غير متحيز (BLUE) بأقل تباين بين جميع المقدرات غير المتحيزةθ^{\displaystyle {\hat {\theta }}}التي تكون خطية في البيانات، أيθ^=∑أنا=1نαأناXأنا،{\displaystyle {\hat {\theta }}=\sum _{i=1}^{n}\alpha _{i}X_{i},}بالنسبة لبعض المعاملاتα1،...،αن∈R{\displaystyle \alpha _{1},\dots ,\alpha _{n}\in \mathbb {R} }بمعنى ما، فإن تقديرات BLUE هي تقديرات UMVU مع قيد إضافي يتمثل في كونها خطية. [ 9 ]

في سياق الانحدار ، تنص نظرية غاوس-ماركوف على أن مُقدِّر المربعات الصغرى هو المُقدِّر الخطي الأفضل غير المُتحيز الوحيد. كما تُظهر هذه النظرية (مع الأخذ في الاعتبار الحالة الخاصة للانحدار الثابت) أن المتوسط ​​التجريبي هو مُقدِّر خطي أفضل غير مُتحيز لتقدير المتوسط.

عدم المساواة في المعلومات والعائلات الأسية

في النماذج الإحصائية العادية ، يمكن إثبات أن تباين المقدرات غير المتحيزة لا يمكن أن يكون صغيرًا بشكل تعسفي: أي مقدر غير متحيزتي{\displaystyle T}من الكميةq(θ){\displaystyle q(\theta )}محدد من الأسفل بالحد العالمي [ 10 ]Vأرθ[تي(X)]≥∇q(θ)أنا(θ)-1∇q(θ)تي،{\displaystyle \mathrm {Var} _{\theta [T(X)]\geq \nabla q(\theta )I(\theta )^{-1}\nabla q(\theta )^{T},}أينأنا(θ){\displaystyle I(\theta )}هي مصفوفة معلومات فيشر للنموذج الإحصائي. الجانب الأيمن هو ما يسمى بحد كرامر-راو .

تُسمى المُقدِّرات التي يساوي تباينها حد كرامر-راو بالمُقدِّرات الكفؤة ، وهي قريبة من كونها مُقدِّرات غير متحيزة ذات تباين أقل (UMVU)، لأنها تُقلِّل التباين إلى أدنى حدٍّ ممكن مقارنةً بجميع المُقدِّرات غير المتحيزة المنتظمة (قد توجد مُقدِّرات غير منتظمة ذات تباين أقل). على النقيض من ذلك، ليس كل مُقدِّر غير متحيز ذي تباين أقل كفؤًا. في الواقع، المُقدِّرتي{\displaystyle T}تكون فعالة إذا وفقط إذا (1) كان النموذج الإحصائي عائلة أسية و (2)تي{\displaystyle T}[ 11 ] هو الإحصاء الكافي الطبيعي.

النماذج البارامترية

إن اختيار النموذج ، أي توزيع الاحتمال الذي يُفترض أن البيانات تُسحب منه في مسائل تقدير الكثافة أو التبعية الوظيفية المفترضة بين أزواج البيانات، هو أمرٌ بالغ الأهمية.X{\displaystyle X}وY{\displaystyle Y}في مسائل الانحدار/التصنيف، يكمن جوهر الإجراءات البارامترية. فيما يلي قائمة بالنماذج الشائعة الاستخدام عمليًا.

تقدير الكثافة

الانحدار

تصنيف

مثال

تتشابه جميع التوزيعات الطبيعية في شكلها العام، ويتم تحديدها بواسطة المتوسط ​​والانحراف المعياري . وهذا يعني أنه إذا عُرف المتوسط ​​والانحراف المعياري، وكان التوزيع طبيعيًا، فإن احتمال وقوع أي قيمة مستقبلية ضمن نطاق معين يكون معروفًا.

لنفترض أن لدينا عينة من 99 درجة اختبار بمتوسط ​​100 وانحراف معياري 1. إذا افترضنا أن جميع درجات الاختبار الـ 99 هي مشاهدات عشوائية من توزيع طبيعي، فإننا نتوقع أن هناك احتمالًا بنسبة 1% أن تكون درجة الاختبار رقم 100 أعلى من 102.33 (أي المتوسط ​​زائد 2.33 انحرافًا معياريًا)، بافتراض أن درجة الاختبار رقم 100 تنتمي إلى نفس التوزيع الذي تنتمي إليه الدرجات الأخرى. تُستخدم الأساليب الإحصائية البارامترية لحساب القيمة 2.33 المذكورة أعلاه، مع العلم أن لدينا 99 مشاهدة مستقلة من نفس التوزيع الطبيعي.

التقدير غير البارامتري لنفس الشيء هو أعلى درجة من بين أول 99 درجة. لا نحتاج إلى افتراض أي شيء عن توزيع درجات الاختبار لنستنتج أنه قبل إجراء الاختبار، كان من المحتمل بالتساوي أن تكون أعلى درجة أيًا من أول 100 درجة. وبالتالي، هناك احتمال بنسبة 1% أن تكون الدرجة رقم 100 أعلى من أي من الدرجات الـ 99 التي سبقتها.

تاريخ

وقد ذكر آر إيه فيشر الإحصاءات البارامترية في عمله " الأساليب الإحصائية للباحثين" عام 1925، والذي وضع الأساس للإحصاء الحديث.

انظر أيضاً

ملحوظات

  1. ↑ جيسر، س. (2006)، أنماط الاستدلال الإحصائي البارامتري ، جون وايلي وأولاده
  2. 1 2 ليمان وكاسيلا (1998)، ص. 1
  3. ↑ كوكس، د. ر. (2006)، مبادئ الاستدلال الإحصائي ، مطبعة جامعة كامبريدج
  4. ↑ كوكس (2006)، ص 2
  5. 1 2 كاسيلا وبيرغر (2002)، ص 324
  6. ↑ كاسيلا وبيرغر (2002)، ص 549
  7. ↑ كاسيلا وبيرغر (2002)، ص 334
  8. ↑ كاسيلا وبيرغر (2002)، ص 343
  9. ↑ ليمان وكاسيلا (1998)، ص 184
  10. ↑ ليمان وكاسيلا (1998)، ص 120
  11. ↑ ليمان وكاسيلا (1998)، ص 121

مراجع

  • ليمان، إريك ليو؛ كاسيلا، جورج (1998)، نظرية تقدير النقطة (الطبعة الثانية  )، نيويورك : سبرينغر ، ISBN 0-387-98502-6
  • كاسيلا، جورج؛ بيرغر، روجر ل. (2002)، الاستدلال الإحصائي (  الطبعة الثانية)، دوكسبوري
  • جيسر، س. (2006)، أنماط الاستدلال الإحصائي البارامتري ، جون وايلي وأولاده
  • كوكس، ديفيد ر. (2006)، مبادئ الاستدلال الإحصائي ، مطبعة جامعة كامبريدج ، رقم ISBN 978-0-511-34950-8