توزيع غاما الطبيعي

في نظرية الاحتمالات والإحصاء ، يُعد توزيع غاما الطبيعي (أو توزيع غاوس غاما ) عائلة ثنائية المتغيرات ذات أربعة معلمات من التوزيعات الاحتمالية المستمرة . وهو التوزيع المسبق المترافق لتوزيع طبيعي بمتوسط ​​ودقة غير معروفين . ^{[ 2 ]}

بالنسبة لزوج من المتغيرات العشوائية ( X ، T )، لنفترض أن التوزيع الشرطي لـ X بشرط T يُعطى بالصيغة التالية:

${\displaystyle X\mid T\sim N(\mu ,1/(\lambda T))\,\!,}$

وهذا يعني أن التوزيع الشرطي هو توزيع طبيعي بمتوسط${\displaystyle \mu }$والدقة​${\displaystyle \lambda T}$— أو بعبارة أخرى، مع وجود تباين${\displaystyle 1/(\lambda T).}$

لنفترض أيضًا أن التوزيع الهامشي لـ T معطى بواسطة

${\displaystyle T\mid \alpha ,\beta \sim \operatorname {Gamma} (\alpha ,\beta ),}$

وهذا يعني أن T لها توزيع غاما . هنا λ و α و β هي معلمات التوزيع المشترك.

إذن، يتبع المتغير ( X , T ) توزيعًا طبيعيًا-غاما، ويُرمز إلى ذلك بـ

${\displaystyle (X,T)\sim \operatorname {NormalGamma} (\mu ,\lambda ,\alpha ,\beta ).}$

لنفترض أن x موزعة وفقًا للتوزيع الطبيعي بمتوسط ​​غير معروف${\displaystyle \mu }$والدقة${\displaystyle \tau }$.

${\displaystyle x\sim {\mathcal {N}}(\mu ,\tau ^{-1})}$

وأن التوزيع المسبق على${\displaystyle \mu }$و${\displaystyle \tau }$، ${\displaystyle (\mu ,\tau )}$، له توزيع طبيعي-غاما

${\displaystyle (\mu ,\tau )\sim {\text{NormalGamma}}(\mu _{0},\lambda _{0},\alpha _{0},\beta _{0}),}$

والتي تحقق الكثافة π

${\displaystyle \pi (\mu ,\tau )\propto \tau ^{\alpha _{0}-{\frac {1}{2}}}\,\exp[-\beta _{0}\tau ]\,\exp \left[-{\frac {\lambda _{0}\tau (\mu -\mu _{0})^{2}}{2}}\right].}$

يفترض

${\displaystyle x_{1},\ldots ,x_{n}\mid \mu ,\tau \sim \operatorname {{i.}{i.}{d.}} \operatorname {N} \left(\mu ,\tau ^{-1}\right),}$

أي مكونات${\displaystyle \mathbf {X} =(x_{1},\ldots ,x_{n})}$مستقلة شرطيًا بالنظر إلى${\displaystyle \mu ,\tau }$والتوزيع الشرطي لكل منها معطى${\displaystyle \mu ,\tau }$طبيعي مع القيمة المتوقعة${\displaystyle \mu }$والتباين${\displaystyle 1/\tau .}$التوزيع الخلفي لـ${\displaystyle \mu }$و${\displaystyle \tau }$بالنظر إلى مجموعة البيانات هذه${\displaystyle \mathbb {X} }$يمكن تحديدها تحليليًا بشكل صريح باستخدام نظرية بايز ^{[ 4 ]} ،

${\displaystyle \mathbf {P} (\tau ,\mu \mid \mathbf {X} )\propto \mathbf {L} (\mathbf {X} \mid \tau ,\mu )\pi (\tau ,\mu ),}$

أين${\displaystyle \mathbf {L} }$هي احتمالية المعلمات بالنظر إلى البيانات.

بما أن البيانات مستقلة ومتطابقة التوزيع، فإن احتمالية مجموعة البيانات بأكملها تساوي حاصل ضرب احتمالات عينات البيانات الفردية:

${\displaystyle \mathbf {L} (\mathbf {X} \mid \tau ,\mu )=\prod _{i=1}^{n}\mathbf {L} (x_{i}\mid \tau ,\mu ).}$

يمكن تبسيط هذا التعبير على النحو التالي:

${\displaystyle {\begin{aligned}\mathbf {L} (\mathbf {X} \mid \tau ,\mu )&\propto \prod _{i=1}^{n}\tau ^{1/2}\exp \left[{\frac {-\tau }{2}}(x_{i}-\mu )^{2}\right]\\[5pt]&\propto \tau ^{n/2}\exp \left[{\frac {-\tau }{2}}\sum _{i=1}^{n}(x_{i}-\mu )^{2}\right]\\[5pt]&\propto \tau ^{n/2}\exp \left[{\frac {-\tau }{2}}\sum _{i=1}^{n}(x_{i}-{\bar {x}}+{\bar {x}}-\mu )^{2}\right]\\[5pt]&\propto \tau ^{n/2}\exp \left[{\frac {-\tau }{2}}\sum _{i=1}^{n}\left((x_{i}-{\bar {x}})^{2}+({\bar {x}}-\mu )^{2}\right)\right]\\[5pt]&\propto \tau ^{n/2}\exp \left[{\frac {-\tau }{2}}\left(ns+n({\bar {x}}-\mu )^{2}\right)\right],\end{aligned}}}$

أين${\displaystyle {\bar {x}}={\frac {1}{n}}\sum _{i=1}^{n}x_{i}}$، وهو متوسط ​​عينات البيانات، و${\displaystyle s={\frac {1}{n}}\sum _{i=1}^{n}(x_{i}-{\bar {x}})^{2}}$، تباين العينة.

إن التوزيع الاحتمالي اللاحق للمعلمات يتناسب مع التوزيع الاحتمالي السابق مضروبًا في الاحتمالية.

${\displaystyle {\begin{aligned}\mathbf {P} (\tau ,\mu \mid \mathbf {X} )&\propto \mathbf {L} (\mathbf {X} \mid \tau ,\mu )\pi (\tau ,\mu )\\&\propto \tau ^{n/2}\exp \left[{\frac {-\tau }{2}}\left(ns+n({\bar {x}}-\mu )^{2}\right)\right]\tau ^{\alpha _{0}-{\frac {1}{2}}}\,\exp[{-\beta _{0}\tau }]\,\exp \left[-{\frac {\lambda _{0}\tau (\mu -\mu _{0})^{2}}{2}}\right]\\&\propto \tau ^{{\frac {n}{2}}+\alpha _{0}-{\frac {1}{2}}}\exp \left[-\tau \left({\frac {1}{2}}ns+\beta _{0}\right)\right]\exp \left[-{\frac {\tau }{2}}\left(\lambda _{0}(\mu -\mu _{0})^{2}+n({\bar {x}}-\mu )^{2}\right)\right]\end{aligned}}}$

يتم تبسيط الحد الأسي الأخير بإكمال المربع.

${\displaystyle {\begin{aligned}\lambda _{0}(\mu -\mu _{0})^{2}+n({\bar {x}}-\mu )^{2}&=\lambda _{0}\mu ^{2}-2\lambda _{0}\mu \mu _{0}+\lambda _{0}\mu _{0}^{2}+n\mu ^{2}-2n{\bar {x}}\mu +n{\bar {x}}^{2}\\&=(\lambda _{0}+n)\mu ^{2}-2(\lambda _{0}\mu _{0}+n{\bar {x}})\mu +\lambda _{0}\mu _{0}^{2}+n{\bar {x}}^{2}\\&=(\lambda _{0}+n)(\mu ^{2}-2{\frac {\lambda _{0}\mu _{0}+n{\bar {x}}}{\lambda _{0}+n}}\mu )+\lambda _{0}\mu _{0}^{2}+n{\bar {x}}^{2}\\&=(\lambda _{0}+n)\left(\mu -{\frac {\lambda _{0}\mu _{0}+n{\bar {x}}}{\lambda _{0}+n}}\right)^{2}+\lambda _{0}\mu _{0}^{2}+n{\bar {x}}^{2}-{\frac {\left(\lambda _{0}\mu _{0}+n{\bar {x}}\right)^{2}}{\lambda _{0}+n}}\\&=(\lambda _{0}+n)\left(\mu -{\frac {\lambda _{0}\mu _{0}+n{\bar {x}}}{\lambda _{0}+n}}\right)^{2}+{\frac {\lambda _{0}n({\bar {x}}-\mu _{0})^{2}}{\lambda _{0}+n}}\end{aligned}}}$

عند إدخال هذا مرة أخرى في التعبير أعلاه،

${\displaystyle {\begin{aligned}\mathbf {P} (\tau ,\mu \mid \mathbf {X} )&\propto \tau ^{{\frac {n}{2}}+\alpha _{0}-{\frac {1}{2}}}\exp \left[-\tau \left({\frac {1}{2}}ns+\beta _{0}\right)\right]\exp \left[-{\frac {\tau }{2}}\left(\left(\lambda _{0}+n\right)\left(\mu -{\frac {\lambda _{0}\mu _{0}+n{\bar {x}}}{\lambda _{0}+n}}\right)^{2}+{\frac {\lambda _{0}n({\bar {x}}-\mu _{0})^{2}}{\lambda _{0}+n}}\right)\right]\\&\propto \tau ^{{\frac {n}{2}}+\alpha _{0}-{\frac {1}{2}}}\exp \left[-\tau \left({\frac {1}{2}}ns+\beta _{0}+{\frac {\lambda _{0}n({\bar {x}}-\mu _{0})^{2}}{2(\lambda _{0}+n)}}\right)\right]\exp \left[-{\frac {\tau }{2}}\left(\lambda _{0}+n\right)\left(\mu -{\frac {\lambda _{0}\mu _{0}+n{\bar {x}}}{\lambda _{0}+n}}\right)^{2}\right]\end{aligned}}}$

هذا التعبير النهائي هو بنفس شكل توزيع غاما الطبيعي، أي

${\displaystyle \mathbf {P} (\tau ,\mu \mid \mathbf {X} )={\text{NormalGamma}}\left({\frac {\lambda _{0}\mu _{0}+n{\bar {x}}}{\lambda _{0}+n}},\lambda _{0}+n,\alpha _{0}+{\frac {n}{2}},\beta _{0}+{\frac {1}{2}}\left(ns+{\frac {\lambda _{0}n({\bar {x}}-\mu _{0})^{2}}{\lambda _{0}+n}}\right)\right)}$

توليد المتغيرات العشوائية أمر بسيط:

1. عينة${\displaystyle \tau }$من توزيع جاما ذي معلمات${\displaystyle \alpha }$و${\displaystyle \beta }$
2. عينة${\displaystyle x}$من توزيع طبيعي بمتوسط${\displaystyle \mu }$والتباين${\displaystyle 1/(\lambda \tau )}$

• يُعد توزيع غاما المعكوس الطبيعي هو نفس التوزيع الذي يتم تحديده بواسطة التباين بدلاً من الدقة
• التوزيع الطبيعي الأسي غاما

• برناردو، جيه إم؛ سميث، إيه إف إم (1993). نظرية بايز . وايلي. ISBN 0-471-49464-X.
• ديردن، ريتشارد؛ فريدمان، نير؛ راسل، ستيوارت جيه. (1998). التعلم كيو البايزي (ملف PDF) . وقائع المؤتمر الوطني الخامس عشر حول الذكاء الاصطناعي (AAAI-98)، 26-30 يوليو 1998، ماديسون، ويسكونسن، الولايات المتحدة الأمريكية.