توزيع ويشارت المعكوس الطبيعي

في نظرية الاحتمالات والإحصاء ، يُعد توزيع ويشارت العكسي الطبيعي (أو توزيع ويشارت العكسي الغاوسي ) عائلة متعددة المتغيرات ذات أربعة معلمات من التوزيعات الاحتمالية المستمرة . وهو التوزيع المسبق المترافق لتوزيع طبيعي متعدد المتغيرات بمتوسط ​​غير معروف ومصفوفة تباين (معكوس مصفوفة الدقة ). [ 1 ]

تعريف

يفترض

μ|μ0،λ،Σشمال(μ|μ0،1λΣ){\displaystyle {\boldsymbol {\mu }}|{\boldsymbol {\mu }}_{0},\lambda ,{\boldsymbol {\Sigma }}\sim {\mathcal {N}}\left({\boldsymbol {\mu }}{\Big |}{\boldsymbol {\mu }}_{0},{\frac {1}{\lambda }}{\boldsymbol {\Sigma }}\right)}

له توزيع طبيعي متعدد المتغيرات بمتوسطμ0{\displaystyle {\boldsymbol {\mu }}_{0}}ومصفوفة التغاير1λΣ{\displaystyle {\tfrac {1}{\lambda }}{\boldsymbol {\Sigma }}}، أين

Σ|Ψ،νدبليو-1(Σ|Ψ،ν){\displaystyle {\boldsymbol {\Sigma }}|{\boldsymbol {\Psi }},\nu \sim {\mathcal {W}}^{-1}({\boldsymbol {\Sigma }}|{\boldsymbol {\Psi }},\nu )}

يتبع توزيع ويشارت العكسي . إذن(μ،Σ){\displaystyle ({\boldsymbol {\mu }},{\boldsymbol {\Sigma }})} يتبع توزيع ويشارت العكسي الطبيعي، ويرمز له بـ

(μ،Σ)شمالأنادبليو(μ0،λ،Ψ،ν).{\displaystyle ({\boldsymbol {\mu }},{\boldsymbol {\Sigma }})\sim \mathrm {NIW} ({\boldsymbol {\mu }}_{0},\lambda ,{\boldsymbol {\Psi }},\nu ).}

توصيف

دالة كثافة الاحتمال

و(μ،Σ|μ0،λ،Ψ،ν)=شمال(μ|μ0،1λΣ)دبليو-1(Σ|Ψ،ν){\displaystyle f({\boldsymbol {\mu }},{\boldsymbol {\Sigma }}|{\boldsymbol {\mu }}_{0},\lambda ,{\boldsymbol {\Psi }},\nu )={\mathcal {N}}\left({\boldsymbol {\mu }}{\Big |}{\boldsymbol {\mu }}_{0},{\frac {1}{\lambda }}{\boldsymbol {\Sigma }}\right){\mathcal {W}}^{-1}({\boldsymbol {\Sigma }}|{\boldsymbol {\Psi }},\nu )}

النسخة الكاملة من ملف PDF هي كالتالي: [ 2 ]

و(μ،Σ|μ0،λ،Ψ،ν)=λد/2|Ψ|ν/2|Σ|-ν+د+22(2π)د/22νد2Γد(ν2)خبرة{-12تير(ΨΣ-1)-λ2(μ-μ0)تيΣ-1(μ-μ0)}{\displaystyle f({\boldsymbol {\mu }},{\boldsymbol {\Sigma }}|{\boldsymbol {\mu }}_{0},\lambda ,{\boldsymbol {\Psi }},\nu )={\frac {\lambda ^{D/2}|{\boldsymbol {\Psi }}|^{\nu /2}|{\boldsymbol {\Sigma }}|^{-{\frac {\nu +D+2}{2}}}}{(2\pi )^{D/2}2^{\frac {\nu D}{2}}\Gamma _{D}({\frac {\nu }{2}})}}{\text{exp}}\left\{-{\frac {1}{2}}Tr({\boldsymbol {\Psi \Sigma }}^{-1})-{\frac {\lambda }{2}}({\boldsymbol {\mu }}-{\boldsymbol {\mu }}_{0})^{T}{\boldsymbol {\Sigma }}^{-1}({\boldsymbol {\mu }}-{\boldsymbol {\mu }}_{0})\right\}}

هناΓد[]{\displaystyle \Gamma _{D}[\cdot ]}هي دالة غاما متعددة المتغيرات وتير(Ψ){\displaystyle Tr({\boldsymbol {\Psi }})}هو أثر المصفوفة المعطاة.

ملكيات

التوسع

التوزيعات الهامشية

بحسب التصميم، فإن التوزيع الهامشي علىΣ{\displaystyle {\boldsymbol {\Sigma }}}هو توزيع ويشارت معكوس ، والتوزيع الشرطي علىμ{\displaystyle {\boldsymbol {\mu }}}منحΣ{\displaystyle {\boldsymbol {\Sigma }}}هو توزيع طبيعي متعدد المتغيرات . التوزيع الهامشي علىμ{\displaystyle {\boldsymbol {\mu }}}هو توزيع t متعدد المتغيرات .

التوزيع الاحتمالي اللاحق للمعلمات

لنفترض أن كثافة العينة هي توزيع طبيعي متعدد المتغيرات

yأنا|μ،Σشمالص(μ،Σ){\displaystyle {\boldsymbol {y_{i}}}|{\boldsymbol {\mu }},{\boldsymbol {\Sigma }}\sim {\mathcal {N}}_{p}({\boldsymbol {\mu }},{\boldsymbol {\Sigma }})}

أينy{\displaystyle {\boldsymbol {y}}}هون×ص{\displaystyle n\times p}المصفوفة وyأنا{\displaystyle {\boldsymbol {y_{i}}}}(طول)ص{\displaystyle p}) هو الصفأنا{\displaystyle i}من المصفوفة.

بما أن مصفوفة المتوسط ​​والتباين لتوزيع المعاينة غير معروفة، يمكننا وضع توزيع طبيعي-معكوس-ويشارت مسبق على معلمات المتوسط ​​والتباين معًا.

(μ،Σ)شمالأنادبليو(μ0،λ،Ψ،ν).{\displaystyle ({\boldsymbol {\mu }},{\boldsymbol {\Sigma }})\sim \mathrm {NIW} ({\boldsymbol {\mu }}_{0},\lambda ,{\boldsymbol {\Psi }},\nu ).}

سيكون التوزيع الاحتمالي اللاحق الناتج للمتوسط ​​ومصفوفة التباين أيضًا توزيعًا طبيعيًا معكوسًا من نوع ويشارت

(μ،Σ|y)شمالأنادبليو(μن،λن،Ψن،νن)،{\displaystyle ({\boldsymbol {\mu }},{\boldsymbol {\Sigma }}|y)\sim \mathrm {NIW} ({\boldsymbol {\mu }}_{n},\lambda _{n},{\boldsymbol {\Psi }}_{n},\nu _{n}),}

أين

μن=λμ0+نy¯λ+ن{\displaystyle {\boldsymbol {\mu }}_{n}={\frac {\lambda {\boldsymbol {\mu }}_{0}+n{\bar {\boldsymbol {y}}}}{\lambda +n}}}
λن=λ+ن{\displaystyle \lambda _{n}=\lambda +n}
νن=ν+ن{\displaystyle \nu _{n}=\nu +n}
Ψن=Ψ+S+λنλ+ن(y¯-μ0)(y¯-μ0)تي   wأناتح  S=أنا=1ن(yأنا-y¯)(yأنا-y¯)تي{\displaystyle {\boldsymbol {\Psi }}_{n}={\boldsymbol {\Psi +S}}+{\frac {\lambda n}{\lambda +n}}({\boldsymbol {{\bar {y}}-\mu _{0}}})({\boldsymbol {{\bar {y}}-\mu _{0}}})^{T}~~~\mathrm {with} ~~{\boldsymbol {S}}=\sum _{i=1}^{n}({\boldsymbol {y_{i}-{\bar {y}}}})({\boldsymbol {y_{i}-{\bar {y}}}})^{T}}.

لأخذ عينة من الجزء الخلفي للمفصل من(μ،Σ){\displaystyle ({\boldsymbol {\mu }},{\boldsymbol {\Sigma }})}يقوم المرء ببساطة بسحب العينات منΣ|yدبليو-1(Ψن،νن){\displaystyle {\boldsymbol {\Sigma }}|{\boldsymbol {y}}\sim {\mathcal {W}}^{-1}({\boldsymbol {\Psi }}_{n},\nu _{n})}ثم ارسمμ|Σ،yشمالص(μن،Σ/λن){\displaystyle {\boldsymbol {\mu }}|{\boldsymbol {\Sigma ,y}}\sim {\mathcal {N}}_{p}({\boldsymbol {\mu }}_{n},{\boldsymbol {\Sigma }}/\lambda _{n})}لرسم التنبؤ اللاحق لملاحظة جديدة، ارسمy~|μ،Σ،yشمالص(μ،Σ){\displaystyle {\boldsymbol {\tilde {y}}}|{\boldsymbol {\mu ,\Sigma ,y}}\sim {\mathcal {N}}_{p}({\boldsymbol {\mu }},{\boldsymbol {\Sigma }})}، بالنظر إلى القيم المرسومة مسبقًا لـμ{\displaystyle {\boldsymbol {\mu }}}وΣ{\displaystyle {\boldsymbol {\Sigma }}}[ 3 ]

توليد متغيرات عشوائية من نوع نورمال-إنفرس-ويشارت

توليد المتغيرات العشوائية أمر بسيط:

  1. عينةΣ{\displaystyle {\boldsymbol {\Sigma }}}من توزيع ويشارت العكسي ذي المعلماتΨ{\displaystyle {\boldsymbol {\Psi }}}وν{\displaystyle \nu }
  2. عينةμ{\displaystyle {\boldsymbol {\mu }}}من توزيع طبيعي متعدد المتغيرات بمتوسطμ0{\displaystyle {\boldsymbol {\mu }}_{0}}والتباين1λΣ{\displaystyle {\boldsymbol {\tfrac {1}{\lambda }}}{\boldsymbol {\Sigma }}}
  • يُعد توزيع ويشارت الطبيعي هو نفسه التوزيع الذي يتم تحديده بالدقة بدلاً من التباين.(μ،Σ)شمالأنادبليو(μ0،λ،Ψ،ν){\displaystyle ({\boldsymbol {\mu }},{\boldsymbol {\Sigma }})\sim \mathrm {NIW} ({\boldsymbol {\mu }}_{0},\lambda ,{\boldsymbol {\Psi }},\nu )}ثم(μ،Σ-1)شمالدبليو(μ0،λ،Ψ-1،ν){\displaystyle ({\boldsymbol {\mu }},{\boldsymbol {\Sigma }}^{-1})\sim \mathrm {NW} ({\boldsymbol {\mu }}_{0},\lambda ,{\boldsymbol {\Psi }}^{-1},\nu )}.
  • يُعد التوزيع الطبيعي المعكوس غاما هو المكافئ أحادي البعد.
  • يُعد التوزيع الطبيعي متعدد المتغيرات وتوزيع ويشارت العكسي من التوزيعات المكونة التي يتكون منها هذا التوزيع.

ملحوظات

  1. مورفي، كيفن ب. (2007). "التحليل البايزي المترافق للتوزيع الغاوسي".
  2. سيمون جيه دي برينس (يونيو 2012). رؤية الحاسوب: النماذج والتعلم والاستدلال . مطبعة جامعة كامبريدج. 3.8: "توزيع ويشارت العكسي الطبيعي".
  3. جيلمان، أندرو، وآخرون. تحليل البيانات البايزية. المجلد 2، ص 73. بوكا راتون، فلوريدا، الولايات المتحدة الأمريكية: تشابمان آند هول/سي آر سي، 2014.

مراجع

  • بيشوب، كريستوفر م. (2006). التعرف على الأنماط والتعلم الآلي. سبرينغر ساينس + بيزنس ميديا.
  • مورفي، كيفن ب. (2007). "التحليل البايزي المترافق للتوزيع الغاوسي".