طريقة العزوم (الإحصاء)

بشرط أن تكون الوظيفة${\displaystyle g=(g_{1},\dots ,g_{k})}$هي قابلة للعكس ومتصلة ، والأولى${\displaystyle k}$توجد لحظات (${\displaystyle \operatorname {E} [|W|^{k}]<\infty }$)، يكون مقدر العزم متسقًا بقوة . هذه نتيجة مباشرة لقانون الأعداد الكبيرة القوي . ^{[ 7 ]}

في الحالة النموذجية، حيث العزم الثاني${\displaystyle \mathbb {E} [{\big (}{\hat {\theta }}^{(n)}{\big )}^{2}]=\mathrm {Var} ({\hat {\theta }}^{(n)})+\mathbb {E} [{\hat {\theta }}^{(n)}]^{2}}$لا ينفجر كما${\displaystyle n}$إذا ؤولت القيمة إلى اللانهاية، فإن ما سبق يستلزم (بحسب نظرية تقارب فيتالي ) أن مقدر العزوم يكون غير متحيز أيضًا في النهاية ، أي

$${\displaystyle \lim _{n\to \infty }\mathbb {E} [{\hat {\theta }}^{(n)}]=\theta .}$$

إذا كانت الدالة${\displaystyle g=(g_{1},\dots ,g_{k})}$بل إنها قابلة للتفاضل و${\displaystyle \operatorname {E} [|W^{2}|^{k}]<\infty }$, then the moment estimator is also asymptotically normal in the sense^[7]$${\displaystyle {\sqrt {n}}{\big (}{\hat {\theta }}^{(n)}-\mathbb {E} _{\theta }[{\hat {\theta }}^{(n)}]{\big )}\ {\overset {d}{\longrightarrow }}\ {\mathcal {N}}{\big (}0,(\nabla g^{-1}(\theta ))^{T}\mathrm {Cov} _{\theta }(W)\nabla g^{-1}(\theta ){\big )},}$$where ${\displaystyle \mathrm {Cov} _{\theta }(W)}$ is the covariance matrix of ${\displaystyle W}$. This is a consequence of the central limit theorem and the delta method.

يترك${\displaystyle W\sim \mathrm {Poiss} (\lambda )}$يتم توزيعها وفقًا لتوزيع بواسون ذي المعلمة${\displaystyle \lambda >0}$اللحظة الأولى (أي المتوسط) هي

$${\displaystyle m_{1}=\operatorname {E} [W]=\lambda .}$$

بما أن هذه معادلة صريحة بالفعل لـ${\displaystyle \lambda }$إن تقدير العزم هو ببساطة متوسط ​​العينة .

يترك${\displaystyle W\sim {\mathcal {N}}(\mu ,\sigma ^{2})}$توزيع طبيعي بمعاملات غير معروفة${\displaystyle \mu \in \mathbb {R} }$و${\displaystyle \sigma ^{2}>0}$بما أنه يجب تحديد معلَمين، فإن الأمر يتطلب معادلتين. يُعطى أول عزمين بالصيغة التالية:

$${\displaystyle {\begin{aligned}&m_{1}=\operatorname {E} [W]=\mu ,\\&m_{2}=\operatorname {E} [W^{2}]=\mathrm {Var} (W)+\operatorname {E} [W]^{2}=\sigma ^{2}+\mu ^{2}.\end{aligned}}}$$

حل المعادلات لإيجاد المعاملات ينتج عنه

$${\displaystyle {\begin{aligned}\mu &=m_{1},\\\sigma ^{2}&=m_{2}-m_{1}^{2}.\end{aligned}}}$$

بالنظر إلى عينة${\displaystyle X_{1},\dots ,X_{n}\sim {\mathcal {N}}(\mu ,\sigma ^{2})}$، والمُقدِّرات المقابلة هي

$${\displaystyle {\begin{aligned}{\hat {\mu }}&={\frac {1}{n}}\sum _{i=1}^{n}X_{i}={\overline {X}},\\{\hat {\sigma }}^{2}&={\frac {1}{n}}\sum _{i=1}^{n}X_{i}^{2}-{\frac {1}{n^{2}}}\left(\sum _{i=1}^{n}X_{i}\right)^{2}={\frac {1}{n}}\sum _{i=1}^{n}{\big (}X_{i}-{\overline {X}}{\big )}^{2},\end{aligned}}}$$

وهما متوسط ​​العينة وتباين العينة (المتحيز) . في هذه الحالة، يتطابقان مع مقدرات الاحتمال الأقصى .

ضع في اعتبارك التوزيع المنتظم على الفترة${\displaystyle [a,b]}$،${\displaystyle U(a,b)}$، بمعاملات غير معروفة${\displaystyle -\infty <a<b<\infty }$. لو${\displaystyle W\sim U(a,b)}$ثم لدينا ^{[ 9 ]}

$${\displaystyle {\begin{aligned}m_{1}&=\operatorname {E} \left[W\right]&=&{\tfrac {1}{2}}(a+b)\\[1ex]m_{2}&=\operatorname {E} \left[W^{2}\right]&=&{\tfrac {1}{3}}\left(a^{2}+ab+b^{2}\right)\end{aligned}}}$$

حل هذه المعادلات يعطي

$${\displaystyle {\begin{aligned}{\hat {a}}&=m_{1}-{\sqrt {3\left(m_{2}-m_{1}^{2}\right)}}\\{\hat {b}}&=m_{1}+{\sqrt {3\left(m_{2}-m_{1}^{2}\right)}}\end{aligned}}}$$

بالنظر إلى مجموعة من العينات${\displaystyle \{w_{i}\}}$يمكننا استخدام لحظات العينة${\displaystyle {\hat {m}}_{1}}$و${\displaystyle {\hat {m}}_{2}}$في هذه الصيغ من أجل التقدير${\displaystyle a}$و${\displaystyle b}$.

مع ذلك، تجدر الإشارة إلى أن هذه الطريقة قد تُنتج نتائج غير متسقة في بعض الحالات. على سبيل المثال، مجموعة العينات${\displaystyle \{0,0,0,0,1\}}$النتائج في التقدير${\textstyle {\hat {a}}={\frac {1}{5}}\left(1-2{\sqrt {3}}\right)=-0.4928}$،${\textstyle {\hat {b}}={\frac {1}{5}}\left(1+2{\sqrt {3}}\right)=0.8928}$. منذ${\displaystyle {\hat {b}}<1}$من المستحيل على المجموعة${\displaystyle \{0,0,0,0,1\}}$أن يكون قد تم استخلاصه من${\displaystyle U({\hat {a}},{\hat {b}})}$في هذه الحالة.

يترك${\displaystyle W\sim \mathrm {Bin} (n,p)}$يتم توزيعها توزيعًا ثنائيًا بمعاملات غير معروفة${\displaystyle n\in \mathbb {N} }$و${\displaystyle p\in (0,1)}$تُقرأ اللحظتان الأوليان على النحو التالي: ^{[ 14 ]}

$${\displaystyle {\begin{aligned}&m_{1}=\operatorname {E} [W]=np,\\&m_{2}=\operatorname {E} [W^{2}]=np(1-p)+n^{2}p^{2}.\end{aligned}}}$$

حل هذه المعادلات لإيجاد قيم المعاملات ينتج عنه$${\displaystyle {\begin{aligned}&p={\frac {m_{1}+m_{1}^{2}-m_{2}}{m_{1}}}=1+m_{1}-{\frac {m_{2}}{m_{1}}},\\&n={\frac {m_{1}}{p}}={\frac {m_{1}^{2}}{m_{1}+m_{1}^{2}-m_{2}}}.\end{aligned}}}$$

إدخال المُقدِّرات${\displaystyle {\hat {m}}_{1}}$و${\displaystyle {\hat {m}}_{2}}$ل${\displaystyle m_{1}}$و${\displaystyle m_{2}}$يعطي تقديرات العزوم المقابلة${\displaystyle {\hat {p}}}$و${\displaystyle {\hat {n}}}$.

هذا مثال سلبي، حيث تعاني مُقدِّرات العزوم من مشاكل متعددة: أولاً، المُقدِّر${\displaystyle {\hat {n}}}$لا يُقدّم بالضرورة أعدادًا صحيحة، على الرغم من إمكانية حلّ هذه المشكلة بسهولة عن طريق التقريب إلى أقرب عدد صحيح. ^{[ 14 ]} وتكمن المشكلة الأكثر خطورة في أن كلا المُقدِّرين قد يؤديان إلى تقديرات سالبة، وتحديدًا عندما${\displaystyle {\hat {m}}_{1}+{\hat {m}}_{1}^{2}-{\hat {m}}_{2}<0}$وهو ما يعادل تباين العينة${\displaystyle S_{n}^{2}={\hat {m}}_{2}-{\hat {m}}_{1}^{2}}$كونها أكبر من متوسط ​​العينة${\displaystyle {\hat {m}}_{1}}$قد يحدث هذا، على سبيل المثال، في مجموعات البيانات الصغيرة ذات التباين الكبير. في مثل هذه الحالات، تصبح تقديرات العزوم عديمة الفائدة.

لا تتطلب طريقة العزوم في الواقع أي افتراضات حول توزيع البيانات باستثناء وجود عدد معين من العزوم. لتقدير المتوسط${\displaystyle \mu }$والتباين${\displaystyle \sigma ^{2}}$باستخدام الملاحظات${\displaystyle X_{1},\dots ,X_{n}}$، بافتراض فقط${\displaystyle \operatorname {E} [X_{i}^{2}]<\infty }$ينطبق نفس الاشتقاق المستخدم للتوزيع الطبيعي (انظر أعلاه)، مما ينتج عنه المقدرات

$${\displaystyle {\begin{aligned}{\hat {\mu }}&={\frac {1}{n}}\sum _{i=1}^{n}X_{i}={\overline {X}},\\{\hat {\sigma }}^{2}&={\frac {1}{n}}\sum _{i=1}^{n}{\big (}X_{i}-{\overline {X}}{\big )}^{2}.\end{aligned}}}$$

من الأمثلة الأخرى لتطبيق طريقة العزوم تقدير توزيعات كثافة الاحتمال متعددة الحدود. في هذه الحالة، يتم استخدام متعددة حدود تقريبية من الرتبة${\displaystyle N}$يتم تعريفها على فترة${\displaystyle [a,b]}$. ومن ثم فإن طريقة العزوم تعطي نظامًا من المعادلات، يتضمن حلها عكس مصفوفة هانكل . ^{[ 15 ]}