توزيع غاما المعكوس الطبيعي

في نظرية الاحتمالات والإحصاء ، يُعد توزيع غاما المعكوس الطبيعي (أو توزيع غاوس المعكوس غاما ) عائلة من التوزيعات الاحتمالية المستمرة متعددة المتغيرات ذات أربعة معلمات . وهو التوزيع المسبق المترافق لتوزيع طبيعي بمتوسط ​​وتباين غير معلومين .

تعريف

يفترض

x|σ2،μ،λشمال(μ،σ2/λ){\displaystyle x\mid \sigma ^{2},\mu ,\lambda \sim \mathrm {N} (\mu ,\sigma ^{2}/\lambda )\,\!}

يتبع التوزيع الطبيعي بمتوسطμ{\displaystyle \mu }والتباينσ2/λ{\displaystyle \sigma ^{2}/\lambda }، أين

σ2|α،βΓ-1(α،β){\displaystyle \sigma ^{2}\mid \alpha ,\beta \sim \Gamma ^{-1}(\alpha ,\beta )\!}

يتبع توزيع غاما المعكوس . إذن(x،σ2){\displaystyle (x,\sigma ^{2})} يتبع توزيعًا طبيعيًا معكوسًا لتوزيع جاما، ويرمز له بـ

(x،σ2)ن-Γ-1(μ،λ،α،β).{\displaystyle (x,\sigma ^{2})\sim {\text{N-}}\Gamma ^{-1}(\mu ,\lambda ,\alpha ,\beta )\!.}

(نيجيريا{\displaystyle {\text{NIG}}}يُستخدم أيضًا بدلاً منن-Γ-1.{\displaystyle {\text{N-}}\Gamma ^{-1}.})

يُعد توزيع ويشارت العكسي الطبيعي تعميمًا لتوزيع جاما العكسي الطبيعي الذي يتم تعريفه على المتغيرات العشوائية متعددة المتغيرات.

توصيف

دالة كثافة الاحتمال

و(x،σ2|μ،λ،α،β)=λσ2πβαΓ(α)(1σ2)α+1خبرة(-2β+λ(x-μ)22σ2){\displaystyle f(x,\sigma ^{2}\mid \mu ,\lambda ,\alpha ,\beta )={\frac {\sqrt {\lambda }}{\sigma {\sqrt {2\pi }}}}\,{\frac {\beta ^{\alpha }}{\Gamma (\alpha )}}\,\left({\frac {1}{\sigma ^{2}}}\right)^{\alpha +1}\exp \left(-{\frac {2\beta +\lambda (x-\mu )^{2}}{2\sigma ^{2}}}\right)}

بالنسبة للصيغة متعددة المتغيرات حيثx{\displaystyle \mathbf {x} }هوك×1{\displaystyle k\times 1}متجه عشوائي،

و(x،σ2|μ،V-1،α،β)=|V|-1/2(2π)-ك/2βαΓ(α)(1σ2)α+1+ك/2خبرة(-2β+(x-μ)تيV-1(x-μ)2σ2).{\displaystyle f(\mathbf {x} ,\sigma ^{2}\mid \mu ,\mathbf {V} ^{-1},\alpha ,\beta )=|\mathbf {V} |^{-1/2}{(2\pi )^{-k/2}}\,{\frac {\beta ^{\alpha }}{\Gamma (\alpha )}}\,\left({\frac {1}{\sigma ^{2}}}\right)^{\alpha +1+k/2}\exp \left(-{\frac {2\beta +(\mathbf {x} -{\boldsymbol {\mu }})^{T}\mathbf {V} ^{-1}(\mathbf {x} -{\boldsymbol {\mu }})}{2\sigma ^{2}}}\right).}

أين|V|{\displaystyle |\mathbf {V} |}هو المحدد لـك×ك{\displaystyle k\times k}مصفوفةV{\displaystyle \mathbf {V} }لاحظ كيف تتحول هذه المعادلة الأخيرة إلى الشكل الأول إذاك=1{\displaystyle k=1}لهذا السبب.x،V،μ{\displaystyle \mathbf {x} ,\mathbf {V} ,{\boldsymbol {\mu }}}هي كميات قياسية .

تحديد المعلمات البديلة

من الممكن أيضاً التأجيرγ=1/λ{\displaystyle \gamma =1/\lambda }وفي هذه الحالة يصبح ملف PDF

و(x،σ2|μ،γ،α،β)=1σ2πγβαΓ(α)(1σ2)α+1خبرة(-2γβ+(x-μ)22γσ2){\displaystyle f(x,\sigma ^{2}\mid \mu ,\gamma ,\alpha ,\beta )={\frac {1}{\sigma {\sqrt {2\pi \gamma }}}}\,{\frac {\beta ^{\alpha }}{\Gamma (\alpha )}}\,\left({\frac {1}{\sigma ^{2}}}\right)^{\alpha +1}\exp \left(-{\frac {2\gamma \beta +(x-\mu )^{2}}{2\gamma \sigma ^{2}}}\right)}

في الصيغة متعددة المتغيرات، يتمثل التغيير المقابل في النظر إلى مصفوفة التغاير.V{\displaystyle \mathbf {V} }بدلاً من عكسهاV-1{\displaystyle \mathbf {V} ^{-1}}كمعامل.

دالة التوزيع التراكمي

F(x،σ2|μ،λ،α،β)=هـ-βσ2(βσ2)α(قطعة أرض(λ(x-μ)2σ)+1)2σ2Γ(α){\displaystyle F(x,\sigma ^{2}\mid \mu ,\lambda ,\alpha ,\beta )={\frac {e^{-{\frac {\beta }{\sigma ^{2}}}}\left({\frac {\beta }{\sigma ^{2}}}\right)^{\alpha }\left(\operatorname {erf} \left({\frac {{\sqrt {\lambda }}(x-\mu )}{{\sqrt {2}}\sigma }}\right)+1\right)}{2\sigma ^{2}\Gamma (\alpha )}}}

ملكيات

التوزيعات الهامشية

منح(x،σ2)ن-Γ-1(μ،λ،α،β).{\displaystyle (x,\sigma ^{2})\sim {\text{N-}}\Gamma ^{-1}(\mu ,\lambda ,\alpha ,\beta )\!.}كما سبق،σ2{\displaystyle \sigma ^{2}}يتبع في حد ذاته توزيع غاما معكوس :

σ2Γ-1(α،β){\displaystyle \sigma ^{2}\sim \Gamma ^{-1}(\alpha ,\beta )\!}

بينماαλβ(x-μ){\displaystyle {\sqrt {\frac {\alpha \lambda }{\beta }}}(x-\mu )}يتبع توزيع t مع2α{\displaystyle 2\alpha }درجات الحرية. [ 1 ]

دليل علىλ=1{\displaystyle \lambda =1}

لλ=1{\displaystyle \lambda =1}دالة كثافة الاحتمال هي

و(x،σ2|μ،α،β)=1σ2πβαΓ(α)(1σ2)α+1خبرة(-2β+(x-μ)22σ2){\displaystyle f(x,\sigma ^{2}\mid \mu ,\alpha ,\beta )={\frac {1}{\sigma {\sqrt {2\pi }}}}\,{\frac {\beta ^{\alpha }}{\Gamma (\alpha )}}\,\left({\frac {1}{\sigma ^{2}}}\right)^{\alpha +1}\exp \left(-{\frac {2\beta +(x-\mu )^{2}}{2\sigma ^{2}}}\right)}

التوزيع الهامشي علىx{\displaystyle x}يكون

و(x|μ،α،β)=0دσ2و(x،σ2|μ،α،β)=12πβαΓ(α)0دσ2(1σ2)α+1/2+1خبرة(-2β+(x-μ)22σ2){\displaystyle {\begin{aligned}f(x\mid \mu ,\alpha ,\beta )&=\int _{0}^{\infty }d\sigma ^{2}f(x,\sigma ^{2}\mid \mu ,\alpha ,\beta )\\&={\frac {1}{\sqrt {2\pi }}}\,{\frac {\beta ^{\alpha }}{\Gamma (\alpha )}}\int _{0}^{\infty }d\sigma ^{2}\left({\frac {1}{\sigma ^{2}}}\right)^{\alpha +1/2+1}\exp \left(-{\frac {2\beta +(x-\mu )^{2}}{2\sigma ^{2}}}\right)\end{aligned}}}

باستثناء عامل التوحيد، يتطابق التعبير تحت التكامل مع توزيع غاما المعكوس

Γ-1(x;أ،ب)=بأΓ(أ)هـ-ب/xxأ+1،{\displaystyle \Gamma ^{-1}(x;a,b)={\frac {b^{a}}{\Gamma (a)}}{\frac {e^{-b/x}}{{x}^{a+1}}},}

معx=σ2{\displaystyle x=\sigma ^{2}}،أ=α+1/2{\displaystyle a=\alpha +1/2}،ب=2β+(x-μ)22{\displaystyle b={\frac {2\beta +(x-\mu )^{2}}{2}}}.

منذ0دxΓ-1(x;أ،ب)=1،0دxx-(أ+1)هـ-ب/x=Γ(أ)ب-أ{\displaystyle \int _{0}^{\infty }dx\Gamma ^{-1}(x;a,b)=1,\quad \int _{0}^{\infty }dxx^{-(a+1)}e^{-b/x}=\Gamma (a)b^{-a}}، و

0دσ2(1σ2)α+1/2+1خبرة(-2β+(x-μ)22σ2)=Γ(α+1/2)(2β+(x-μ)22)-(α+1/2){\displaystyle \int _{0}^{\infty }d\sigma ^{2}\left({\frac {1}{\sigma ^{2}}}\right)^{\alpha +1/2+1}\exp \left(-{\frac {2\beta +(x-\mu )^{2}}{2\sigma ^{2}}}\right)=\Gamma (\alpha +1/2)\left({\frac {2\beta +(x-\mu )^{2}}{2}}\right)^{-(\alpha +1/2)}}

باستبدال هذا التعبير وتحليل الاعتماد علىx{\displaystyle x}،

و(x|μ،α،β)x(1+(x-μ)22β)-(α+1/2).{\displaystyle f(x\mid \mu ,\alpha ,\beta )\propto _{x}\left(1+{\frac {(x-\mu )^{2}}{2\beta }}\right)^{-(\alpha +1/2)}.}

شكل توزيع t المعمم للطالب هو

ت(x|ν،μ^،σ^2)x(1+1ν(x-μ^)2σ^2)-(ν+1)/2{\displaystyle t(x|\nu ,{\hat {\mu }},{\hat {\sigma }}^{2})\propto _{x}\left(1+{\frac {1}{\nu }}{\frac {(x-{\hat {\mu }})^{2}}{{\hat {\sigma }}^{2}}}\right)^{-(\nu +1)/2}}.

التوزيع الهامشيو(x|μ،α،β){\displaystyle f(x\mid \mu ,\alpha ,\beta )}يتبع توزيع t مع 2α{\displaystyle 2\alpha }درجات الحرية

و(x|μ،α،β)=ت(x|ν=2α،μ^=μ،σ^2=β/α){\displaystyle f(x\mid \mu ,\alpha ,\beta )=t(x|\nu =2\alpha ,{\hat {\mu }}=\mu ,{\hat {\sigma }}^{2}=\beta /\alpha )}.

في حالة المتغيرات المتعددة، يكون التوزيع الهامشي لـx{\displaystyle \mathbf {x} }هو توزيع t متعدد المتغيرات :

xت2α(μ،βαV){\displaystyle \mathbf {x} \sim t_{2\alpha }({\boldsymbol {\mu }},{\frac {\beta }{\alpha }}\mathbf {V} )\!}

الخلاصة

التوسع

يفترض

(x،σ2)ن-Γ-1(μ،λ،α،β).{\displaystyle (x,\sigma ^{2})\sim {\text{N-}}\Gamma ^{-1}(\mu ,\lambda ,\alpha ,\beta )\!.}

ثم لـج>0{\displaystyle c>0}،

(جx،جσ2)ن-Γ-1(جμ،λ/ج،α،جβ).{\displaystyle (cx,c\sigma ^{2})\sim {\text{N-}}\Gamma ^{-1}(c\mu ,\lambda /c,\alpha ,c\beta )\!.}

البرهان: لإثبات ذلك، لنفترض(x،σ2)ن-Γ-1(μ،λ،α،β){\displaystyle (x,\sigma ^{2})\sim {\text{N-}}\Gamma ^{-1}(\mu ,\lambda ,\alpha ,\beta )}وإصلاح ج>0{\displaystyle c>0}تعريفY=(Y1،Y2)=(جx،جσ2){\displaystyle Y=(Y_{1},Y_{2})=(cx,c\sigma ^{2})}لاحظ أن دالة كثافة الاحتمال للمتغير العشوائيY{\displaystyle Y}تم تقييمها في(y1،y2){\displaystyle (y_{1},y_{2})}يُعطى بواسطة1/ج2{\displaystyle 1/c^{2}}أضعاف دالة كثافة الاحتمال لـ ن-Γ-1(μ،λ،α،β){\displaystyle {\text{N-}}\Gamma ^{-1}(\mu ,\lambda ,\alpha ,\beta )}المتغير العشوائي الذي تم تقييمه عند(y1/ج،y2/ج){\displaystyle (y_{1}/c,y_{2}/c)}وبالتالي فإن دالة كثافة الاحتمال لـ Y{\displaystyle Y}تم تقييمها في(y1،y2){\displaystyle (y_{1},y_{2})}يُعطى بواسطةوY(y1،y2)=1ج2λ2πy2/جβαΓ(α)(1y2/ج)α+1خبرة(-2β+λ(y1/ج-μ)22y2/ج)=λ/ج2πy2(جβ)αΓ(α)(1y2)α+1خبرة(-2جβ+(λ/ج)(y1-جμ)22y2).{\displaystyle {\begin{aligned}f_{Y}(y_{1},y_{2})&={\frac {1}{c^{2}}}{\frac {\sqrt {\lambda }}{\sqrt {2\pi y_{2}/c}}}\,{\frac {\beta ^{\alpha }}{\Gamma (\alpha )}}\,\left({\frac {1}{y_{2}/c}}\right)^{\alpha +1}\exp \left(-{\frac {2\beta +\lambda (y_{1}/c-\mu )^{2}}{2y_{2}/c}}\right)\\&={\frac {\sqrt {\lambda /c}}{\sqrt {2\pi y_{2}}}}\,{\frac {(c\beta )^{\alpha }}{\Gamma (\alpha )}}\,\left({\frac {1}{y_{2}}}\right)^{\alpha +1}\exp \left(-{\frac {2c\beta +(\lambda /c)\,(y_{1}-c\mu )^{2}}{2y_{2}}}\right).\end{aligned}}}

التعبير الموجود على اليمين هو ملف PDF لـن-Γ-1(جμ،λ/ج،α،جβ){\displaystyle {\text{N-}}\Gamma ^{-1}(c\mu ,\lambda /c,\alpha ,c\beta )}المتغير العشوائي الذي تم تقييمه عند(y1،y2){\displaystyle (y_{1},y_{2})}وهذا يكمل البرهان.

عائلة الدوال الأسية

تشكل توزيعات غاما المعكوسة الطبيعية عائلة أسية ذات معلمات طبيعيةθ1=-λ2{\displaystyle \textstyle \theta _{1}={\frac {-\lambda }{2}}}،θ2=λμ{\displaystyle \textstyle \theta _{2}=\lambda \mu }،θ3=α{\displaystyle \textstyle \theta _{3}=\alpha }، وθ4=-β+-λμ22{\displaystyle \textstyle \theta _{4}=-\beta +{\frac {-\lambda \mu ^{2}}{2}}}وإحصاءات كافيةتي1=x2σ2{\displaystyle \textstyle T_{1}={\frac {x^{2}}{\sigma ^{2}}}}،تي2=xσ2{\displaystyle \textstyle T_{2}={\frac {x}{\sigma ^{2}}}}،تي3=سجل(1σ2){\displaystyle \textstyle T_{3}=\log {\big (}{\frac {1}{\sigma ^{2}}}{\big )}}، وتي4=1σ2{\displaystyle \textstyle T_{4}={\frac {1}{\sigma ^{2}}}}.

إنتروبيا المعلومات

تباعد كولباك-لايبير

Measures difference between two distributions.

Maximum likelihood estimation

Posterior distribution of the parameters

See the articles on normal-gamma distribution and conjugate prior.

Interpretation of the parameters

See the articles on normal-gamma distribution and conjugate prior.

Generating normal-inverse-gamma random variates

Generation of random variates is straightforward:

  1. Sample σ2{\displaystyle \sigma ^{2}} from an inverse gamma distribution with parameters α{\displaystyle \alpha } and β{\displaystyle \beta }
  2. Sample x{\displaystyle x} from a normal distribution with mean μ{\displaystyle \mu } and variance σ2/λ{\displaystyle \sigma ^{2}/\lambda }
  • The normal-gamma distribution is the same distribution parameterized by precision rather than variance
  • A generalization of this distribution which allows for a multivariate mean and a completely unknown positive-definite covariance matrix σ2V{\displaystyle \sigma ^{2}\mathbf {V} } (whereas in the multivariate inverse-gamma distribution the covariance matrix is regarded as known up to the scale factor σ2{\displaystyle \sigma ^{2}}) is the normal-inverse-Wishart distribution

See also

References

  • Denison, David G. T.; et al. (2002). Bayesian Methods for Nonlinear Classification and Regression. Wiley. ISBN 0471490369.
  • Koch, Karl-Rudolf (2007). Introduction to Bayesian Statistics (2nd ed.). Springer. ISBN 354072723X.