النظرية التقاربية (الإحصاء)

في الإحصاء ، تُعدّ نظرية التقارب ، أو نظرية العينات الكبيرة ، إطارًا لتقييم خصائص المُقدِّرات والاختبارات الإحصائية . ضمن هذا الإطار، يُفترض غالبًا أن حجم العينة n قد ينمو إلى ما لا نهاية؛ ثم تُقيَّم خصائص المُقدِّرات والاختبارات في حالة n → ∞ . عمليًا، يُعتبر التقييم الحدي صالحًا تقريبًا لأحجام العينات الكبيرة المحدودة أيضًا. [ 1 ]

ملخص

تبدأ معظم المسائل الإحصائية بمجموعة بيانات بحجم n . وتفترض النظرية التقاربية أنه من الممكن (من حيث المبدأ) الاستمرار في جمع بيانات إضافية، وبالتالي ينمو حجم العينة إلى ما لا نهاية، أي n → ∞ . وبناءً على هذا الافتراض، يمكن الحصول على العديد من النتائج التي لا يمكن الحصول عليها لعينات ذات حجم محدود. ومن الأمثلة على ذلك قانون الأعداد الكبيرة الضعيف . ينص هذا القانون على أنه بالنسبة لسلسلة من المتغيرات العشوائية المستقلة والمتطابقة التوزيع (IID) X1 ، X2 ، ... ، إذا تم اختيار قيمة واحدة من كل متغير عشوائي وحُسب متوسط ​​القيم n الأولى كـ Xn ، فإن Xn تتقارب احتماليًا إلى متوسط ​​المجتمع E[ Xi ] عندما n . [ 2 ]

في نظرية التقارب، يُعتبر النهج القياسي هو n → ∞ . بالنسبة لبعض النماذج الإحصائية ، قد تُستخدم مناهج تقارب مختلفة قليلاً. على سبيل المثال، مع بيانات اللوحات ، يُفترض عادةً أن أحد أبعاد البيانات يظل ثابتًا، بينما ينمو البعد الآخر: T = ثابت و N → ∞ ، أو العكس. [ 2 ]

إلى جانب النهج القياسي للتقارب، توجد مناهج بديلة أخرى:

  • في إطار نظرية التوزيع الطبيعي التقاربي المحلي ، يُفترض أن قيمة "المعلمة الحقيقية" في النموذج تتغير قليلاً مع n ، بحيث يتوافق النموذج رقم n مع θ n = θ + h / n . يتيح لنا هذا النهج دراسة انتظام المُقدِّرات .
  • عند دراسة الاختبارات الإحصائية من حيث قدرتها على التمييز بين البدائل القريبة من الفرضية الصفرية، يتم ذلك ضمن إطار ما يُسمى "البدائل المحلية": الفرضية الصفرية هي H₀ : θ = θ₀ والبديل هو H₁ : θ = θ₀ + h / √n . ويحظى هذا النهج بشعبية خاصة في اختبارات جذر الوحدة .
  • توجد نماذج يتوسع فيها بُعد فضاء المعلمات Θ n ببطء مع n ، مما يعكس حقيقة أنه كلما زاد عدد الملاحظات، زادت التأثيرات الهيكلية التي يمكن دمجها بشكل عملي في النموذج.
  • في تقدير كثافة النواة وانحدار النواة ، يُفترض وجود مُعامل إضافي، وهو عرض النطاق h . في هذه النماذج، يُفترض عادةً أن h → 0 عندما n → ∞ . مع ذلك، يجب اختيار معدل التقارب بعناية، وعادةً ما يكون hn −1/5 .

في كثير من الحالات، يمكن الحصول على نتائج دقيقة للغاية للعينات المحدودة باستخدام الطرق العددية (أي الحواسيب)؛ ومع ذلك، حتى في مثل هذه الحالات، قد يكون التحليل التقاربي مفيدًا. وقد أشار سمول (2010 ، §1.4) إلى هذه النقطة على النحو التالي.

يتمثل أحد الأهداف الرئيسية للتحليل التقاربي في الحصول على فهم نوعي أعمق للأدوات الكمية . وغالبًا ما تُكمّل استنتاجات التحليل التقاربي الاستنتاجات التي يمكن الحصول عليها باستخدام الطرق العددية.

أنماط تقارب المتغيرات العشوائية

الخصائص التقاربية

مقدرات النقطة

فيما يلي،(θ^ن)نشمال{\displaystyle ({\hat {\theta }}_{n})_{n\in \mathbb {N} }}ستكون سلسلة عشوائية من المقدرات.

التسلسل(θ^ن)نشمال{\displaystyle ({\hat {\theta }}_{n})_{n\in \mathbb {N} }}يقال إنها متسقة (بشكل ضعيف) ، إذا تقاربت احتمالياً مع القيمة الحقيقية للمعلمة التي يتم تقديرها:

θ^ن ص θ0.{\displaystyle {\hat {\theta}}_{n}\ {\xrightarrow {\overset {}{p}}}\ \theta _{0}.}

هذا يعني أن احتمال اقتراب القيمة المقدرة بشكل تعسفي منθ0{\displaystyle \theta _{0}}يتقارب إلى الصفر عندمان{\displaystyle n}يؤول إلى اللانهاية. [ 2 ] وبشكل أكثر تحديدًا، إذا كان تقارب(θ^ن)نشمال{\displaystyle ({\hat {\theta }}_{n})_{n\in \mathbb {N} }}لθ0{\displaystyle \theta _{0}}هو من رتبة عشوائية1/أن{\displaystyle 1/a_{n}}(مكتوب أيضًا)ياص(1/أن){\displaystyle {\textit {O}}_{p}(1/a_{n})}) لبعض التسلسلات(أن)نشمال{\displaystyle (a_{n})_{n\in \mathbb {N} }}من الأعداد الحقيقية التي تتباعد إلى ما لا نهاية، أي

ليمنP(|أن(θ^ن-θ0)|>ك)=0للجميع ك>0،{\displaystyle \lim _{n\to \infty }\mathbb {P} (|a_{n}({\hat {\theta }}_{n}-\theta _{0})|>K)=0\quad {\text{for all }}K>0,}

ثم(θ^ن)نشمال{\displaystyle ({\hat {\theta }}_{n})_{n\in \mathbb {N} }}يُطلق عليه اسمأن{\displaystyle a_{n}}متسق . [ 3 ]

يقال إن سلسلة التقديرات متسقة بقوة ، إذا كانت تتقارب بشكل شبه مؤكد مع المعلمة الحقيقية:

θ^نأ.s. θ0.{\displaystyle {\hat {\theta }}_{n}{\overset {\mathrm {a.s.} }{\longrightarrow }}\ \theta _{0}.}

الفرق الدقيق بين المُقدِّر المتسق بشكل ضعيف والمُقدِّر المتسق بشكل قوي هو أن المُقدِّر المتسق بشكل قوي يضمن الاقتراب بشكل تعسفي منθ0{\displaystyle \theta _{0}}مثلن{\displaystyle n}يميل إلى اللانهاية في النهاية.

إذا كان من الممكن إيجاد متواليات من الثوابت غير العشوائية(أن)نشمال{\displaystyle (a_{n})_{n\in \mathbb {N} }}،(بن)نشمال{\displaystyle (b_{n})_{n\in \mathbb {N} }}(ربما يعتمد ذلك على القيمة)θ0{\displaystyle \theta _{0}})، وتوزيع غير منحطμ{\displaystyle \mu }بحيث

بن(θ^ن-أن) د μ،{\displaystyle b_{n}({\hat {\theta }}_{n}-a_{n})\ \xrightarrow {d} \ \mu ,}

ثم سلسلة المقدراتθ^ن{\displaystyle {\hat {\theta }}_{n}}يقال إن لها التوزيع التقاربيμ{\displaystyle \mu }.

في أغلب الأحيان، يكون التوزيع التقاربي للمُقدِّرات التي تُصادف في الممارسة العملية هو التوزيع الطبيعي.μ=شمال(0،V){\displaystyle \mu ={\mathcal {N}}(0,V)}لبعض مصفوفة التغايرV{\displaystyle V}وفي هذه الحالة، يُطلق على المُقدِّر اسم المُقدِّر الطبيعي تقاربياً . [ 4 ] ويشترط بعض المؤلفين تحديداًأن=θ0{\displaystyle a_{n}=\theta _{0}}وبن=ن{\displaystyle b_{n}={\sqrt {n}}}ثم نسمي متتالية المقدرات طبيعية تقاربياً لـθ0{\displaystyle \theta _{0}}[ 5 ]

الحياد في الحد

يُطلق على المتتالية اسم المتتالية غير المتحيزة في النهاية ، إذاليمنهـ[θ^ن]=θ0{\displaystyle \lim _{n\to \infty }\mathbb {E} [{\hat {\theta }}_{n}]=\theta _{0}}[ 6 ] يُطلق على المُقدِّر الذي يتمتع بهذه الخاصية أحيانًا اسم المُقدِّر غير المتحيز تقريبًا . [ 7 ]

عدم التحيز التقاربي

يُطلق على المتتالية اسم المتتالية غير المتحيزة تقاربياً بالنسبة للمعاملθ0{\displaystyle \theta _{0}}، لوσن(θ^ن-θ0){\displaystyle \sigma _{n}({\hat {\theta }}_{n}-\theta _{0})}يتقارب في التوزيع إلى متغير عشوائيجي0{\displaystyle G\neq 0}معهـ[جي]=0{\displaystyle \mathbb {E} [G]=0}لبعض التسلسلات(σن)نشمال{\displaystyle (\sigma _{n})_{n\in \mathbb {N} }}من الأعداد الحقيقية. [ 8 ]

الحد من التباين

إذا وُجدت متتالية(τن)نشمال{\displaystyle (\tau _{n})_{n\in \mathbb {N} }}من الأعداد الحقيقية بحيثليمنτنVأر(θ^ن)=σ2{\displaystyle \lim _{n\to \infty }\tau _{n}\mathrm {Var} ({{\hat {\theta }}_{n}})=\sigma ^{2}}، ثمσ2{\displaystyle \sigma ^{2}}يُطلق عليه اسم التباين المحدود لـ(θ^ن)نشمال{\displaystyle ({\hat {\theta }}_{n})_{n\in \mathbb {N} }}عادةً ما يتم اختيارهτن=ن{\displaystyle \tau _{n}=n}[ 9 ]

التباين التقاربي

إذا وُجدت متتالية(بن)نشمال{\displaystyle (b_{n})_{n\in \mathbb {N} }}بحيث

بن(θ^ن-θ0)دجي{\displaystyle b_{n}({\hat {\theta }}_{n}-\theta _{0})\xrightarrow {d} G}

مع0<هـ[جي2]<{\displaystyle 0<\mathbb {E} [G^{2}]<\infty }، ثمV=Vأر(جي){\displaystyle V=\mathrm {Var} (G)}يُطلق عليه اسم التباين التقاربي لـ(θ^ن)نشمال{\displaystyle ({\hat {\theta }}_{n})_{n\in \mathbb {N} }}[ 10 ] على وجه الخصوص ، إذا(θ^ن)نشمال{\displaystyle ({\hat {\theta }}_{n})_{n\in \mathbb {N} }}إذا كان غير متحيز تقاربياً،V=هـ[جي2]{\displaystyle V=\mathbb {E} [G^{2}]}.

تُسمى المتتالية فعالة تقاربياً ، إذا كانت طبيعية تقاربياً لـθ0{\displaystyle \theta _{0}}وتباينها التقاربي هوV=أنا(θ0)-1{\displaystyle V=I(\theta _{0})^{-1}}مع معلومات فيشرأنا(θ0){\displaystyle I(\theta _{0})}أي أن التباين التقاربي يحقق حد كرامر-راو . [ 11 ] [ 12 ]

الاختبارات الإحصائية

مناطق الثقة التقاربية

العلاقات العامة بين الخصائص التقاربية

كما سبق، دع(θ^ن)نشمال{\displaystyle ({\hat {\theta }}_{n})_{n\in \mathbb {N} }}لتكن سلسلة عشوائية من المقدرات.

  • لو(θ^ن)نشمال{\displaystyle ({\hat {\theta }}_{n})_{n\in \mathbb {N} }}يكون طبيعيًا تقاربيًا لـθ0{\displaystyle \theta _{0}}، إذن فهو متسق (بحسب نظرية سلوتسكي ).
  • لو(θ^ن)نشمال{\displaystyle ({\hat {\theta }}_{n})_{n\in \mathbb {N} }}إذا كان متسقًا، فإنه يكون غير متحيز تقاربًا. [ 13 ]
  • لو(θ^ن)نشمال{\displaystyle ({\hat {\theta }}_{n})_{n\in \mathbb {N} }}إذا كانت الدالة غير متحيزة تقاربياً وقابلة للتكامل بانتظام ، فإنها تكون غير متحيزة في النهاية. [ 14 ] وهذا هو الحال، على سبيل المثال، عندما تكون العزوم الثانية محدودة بانتظام، أيرشفةنشمالهـ[|θ^ن|2]<{\displaystyle \sup _{n\in \mathbb {N} }\mathbb {E} [|{\hat {\theta }}_{n}|^{2}]<\infty }.
  • في حالة المتغير الواحد، إذا كان المُقدِّر غير متحيز تقاربياً وله تباين تقاربيτ2{\displaystyle \tau ^{2}}وإذا كان التباين المحددσ2{\displaystyle \sigma ^{2}}موجود، إذنτ2σ2{\displaystyle \tau ^{2}\leq \sigma ^{2}}[ 11 ] يتحقق التوازن إذا وفقط إذا كانت متتالية المقدرات المعيارية، أيبن(θ^ن-θ0){\displaystyle b_{n}({\hat {\theta }}_{n}-\theta _{0})}مناسب لـبن{\displaystyle b_{n}}، قابلة للتكامل بشكل منتظم (وهو ما يحدث غالبًا في الممارسة العملية). [ 10 ] [ 11 ]

النظريات التقاربية

الخصائص التقاربية لسلسلة من المقدرات(θ^ن)نشمال{\displaystyle ({\hat {\theta }}_{n})_{n\in \mathbb {N} }}(لمعامل)θ{\displaystyle \theta }غالبًا ما تنتج هذه النتائج عن نظريات عامة من نظرية الاحتمالات . فيما يلي، لنفترضX1،X2،...{\displaystyle X_{1},X_{2},\dots }أن تكون الملاحظات مستقلة وموزعة بشكل متطابق عن التوزيع الحقيقيPθ{\displaystyle \mathbb {P} _{\theta }}.

لضمان الاتساق

قانون الأعداد الكبيرة القوي

إذا كانت التقديرات على الشكلθ^ن=1نأنا=1نو(Xأنا){\displaystyle {\hat {\theta }}_{n}={\frac {1}{n}}\sum _{i=1}^{n}f(X_{i})}لبعض الوظائف القابلة للقياسو{\displaystyle f}بحيثهـ[|و(X1)|]<{\displaystyle \mathbb {E} [|f(X_{1})|]<\infty }ثم، وفقًا لقانون الأعداد الكبيرة القوي

θ^نأ.s.هـ[و(X1)].{\displaystyle {\hat {\theta }}_{n}\xrightarrow {a.s.} \mathbb {E} [f(X_{1})].}

وبالتالي، إذاθ=هـ[و(X1)]{\displaystyle \theta =\mathbb {E} [f(X_{1})]}، ثم(θ^ن)نشمال{\displaystyle ({\hat {\theta }}_{n})_{n\in \mathbb {N} }}متسق للغاية.

نظرية التطبيق المستمر

يفترضθ=و(τ){\displaystyle \theta =f(\tau )}بالنسبة لبعض المعايير الأخرىτ{\displaystyle \tau }ودالة متصلةو{\displaystyle f}. بالنظر إلى سلسلة متسقة (بشكل قوي) من المقدرات(τ^ن)نشمال{\displaystyle ({\hat {\tau }}_{n})_{n\in \mathbb {N} }}بالنسبة للمعاملτ{\displaystyle \tau }ثم، وفقًا لنظرية التطبيق المستمر ، فإن سلسلة المقدرات(θ^ن)نشمال=(و(τ^ن))نشمال{\displaystyle ({\hat {\theta }}_{n})_{n\in \mathbb {N} }=(f({\hat {\tau }}_{n}))_{n\in \mathbb {N} }}متسق (بقوة) بالنسبة للمعاملθ{\displaystyle \theta }[ 15 ]

للتوزيع التقاربي

نظرية النهاية المركزية

إذا كانت التقديرات على الشكلθ^ن=1نأنا=1نو(Xأنا){\displaystyle {\hat {\theta }}_{n}={\frac {1}{n}}\sum _{i=1}^{n}f(X_{i})}لبعض الدوال القابلة للقياس ذات القيم الحقيقيةو{\displaystyle f}بحيثهـ[|و(X1)|2]<{\displaystyle \mathbb {E} [|f(X_{1})|^{2}]<\infty }ثم، بحسب نظرية النهاية المركزية ،(θ^ن)نشمال{\displaystyle ({\hat {\theta }}_{n})_{n\in \mathbb {N} }}طبيعي تقاربياً بالمعنى

نθ^ن-μσ د شمال(0،1){\displaystyle {\sqrt {n}}{\frac {{\hat {\theta }}_{n}-\mu }{\sigma }}\ {\overset {d}{\longrightarrow }}\ {\mathcal {N}}(0,1)}

مع التعريفاتهـ[و(X1)]=μ{\displaystyle \mathbb {E} [f(X_{1})]=\mu }وVأر(و(X1))=σ2{\displaystyle \mathrm {Var} (f(X_{1}))=\sigma ^{2}}.

نظرية فيشر-تيبت-غنيدينكو

إذا كانت التقديرات على الشكلθ^ن=الأعلىأنا=1،...،نو(Xأنا){\displaystyle {\hat {\theta }}_{n}=\max _{i=1,\dots ,n}f(X_{i})}لبعض الدوال القابلة للقياس ذات القيم الحقيقيةو{\displaystyle f}وإذا وُجدت متتابعات(أن)نشمال{\displaystyle (a_{n})_{n\in \mathbb {N} }}و(بن)نشمال{\displaystyle (b_{n})_{n\in \mathbb {N} }}وتوزيع غير منحطجي{\displaystyle G}بحيث

θ^ن-أنبن د جي،{\displaystyle {\frac {{\hat {\theta }}_{n}-a_{n}}{b_{n}}}\ {\overset {d}{\longrightarrow }}\ G,}

ثم، وفقًا لنظرية فيشر-تيبت-غنيدينكو ، التوزيع التقاربيجي{\displaystyle G}ل(θ^ن)نشمال{\displaystyle ({\hat {\theta }}_{n})_{n\in \mathbb {N} }}هو توزيع القيمة القصوى المعمم .

طريقة دلتا

يفترضθ=و(τ){\displaystyle \theta =f(\tau )}بالنسبة لبعض المعايير الأخرىτ{\displaystyle \tau }ودالة قابلة للتفاضلو{\displaystyle f}معو(τ)0{\displaystyle \nabla f(\tau )\neq 0}. بالنظر إلى سلسلة من المقدرات(τ^ن)نشمال{\displaystyle ({\hat {\tau }}_{n})_{n\in \mathbb {N} }}بالنسبة للمعاملτ{\displaystyle \tau }له توزيع تقاربيجي{\displaystyle G}بمعنى

τ^ن-τσن د Zجي{\displaystyle {\frac {{\hat {\tau }}_{n}-\tau }{\sigma _{n}}}\ {\overset {d}{\longrightarrow }}\ Z\sim G}

لبعض متتابعات الأعداد الحقيقية(σن)نشمال{\displaystyle (\sigma _{n})_{n\in \mathbb {N} }}ثم باستخدام طريقة دلتا ، سلسلة المقدرات(θ^ن)نشمال=(و(τ^ن))نشمال{\displaystyle ({\hat {\theta }}_{n})_{n\in \mathbb {N} }=(f({\hat {\tau }}_{n}))_{n\in \mathbb {N} }}له توزيع تقاربي لـو(τ)Z{\displaystyle \nabla f(\tau )^{\top }Z}.

في الحالة الخاصة، حيث(τ^ن)نشمال{\displaystyle ({\hat {\tau }}_{n})_{n\in \mathbb {N} }}يكون طبيعيًا تقاربيًا لـτ{\displaystyle \tau }مع التباين التقاربيV{\displaystyle V}، التسلسل(θ^ن)نشمال{\displaystyle ({\hat {\theta }}_{n})_{n\in \mathbb {N} }}يتبع التوزيع الطبيعي التقاربي بتباين تقاربيو(τ)Vو(τ){\displaystyle \nabla f(\tau )^{\top }V\nabla f(\tau )}.

انظر أيضاً

مراجع

  1. ^ هوبفنر، ر. (2014)، الإحصائيات المقاربة، والتر دي جرويتر. 286 صفحة. رقم ISBN 3110250241، ISBN 978-3110250244
  2. 1 2 3 أ. داسغوبتا (2008)، النظرية التقاربية للإحصاء والاحتمالات ، سبرينغر. ISBN 0387759700، ISBN 978-0387759708
  3. ^ شاو (2003)، ص. 133
  4. ^ شاو (2003)، ص 70
  5. ليمان وكاسيلا (1998)، ص 439
  6. ليمان وكاسيلا (1998)، ص 431
  7. ^ شاو (2003)، ص135
  8. ليمان وكاسيلا (1998)، ص 438
  9. كاسيلا وبيرغر (2002)، ص 470
  10. 1 2 شاو (2003)، ص 138
  11. 1 2 3 كاسيلا وبيرغر (2002)، ص 471
  12. ^ شاو (2003)، ص. 289
  13. ^ شاو (2003)، ص.136
  14. بيلينغسلي (1995)، ص 338
  15. ^ شاو (2003)، ص. 133

فهرس