عائلة الدوال الأسية الطبيعية

في الاحتمالات والإحصاء ، تعتبر العائلة الأسية الطبيعية ( NEF ) فئة من التوزيعات الاحتمالية التي تمثل حالة خاصة من العائلة الأسية (EF).

تعريف

حالة أحادية المتغير

تُعدّ العائلات الأسية الطبيعية (NEF) مجموعة فرعية من العائلات الأسية . والعائلة الأسية الطبيعية هي عائلة أسية يكون فيها كل من المعامل الطبيعي η والإحصائية الطبيعية T ( x ) دالة الوحدة. ويمكن كتابة التوزيع في عائلة أسية ذات المعامل θ باستخدام دالة كثافة الاحتمال (PDF). وX(x|θ)=ح(x) خبرة( η(θ)تي(x)-أ(θ) )،{\displaystyle f_{X}(x\mid \theta )=h(x)\ \exp {\Big (}\ \eta (\theta )T(x)-A(\theta )\ {\Big )}\,\!,} أينح(x){\displaystyle h(x)}وأ(θ){\displaystyle A(\theta )}هي دوال معروفة. وبالتالي، يمكن كتابة توزيع في عائلة أسية طبيعية بمعامل θ باستخدام دالة كثافة الاحتمال (PDF).وX(x|θ)=ح(x) خبرة( θx-أ(θ) ).{\displaystyle f_{X}(x\mid \theta )=h(x)\ \exp {\Big (}\ \theta xA(\theta )\ {\Big )}\,\!.} [لاحظ أن كارل موريس، مبتكر NEF، يستخدم تدوينًا مختلفًا قليلاً. [ 1 ] يستخدم موريس ω بدلاً من η و ψ بدلاً من A. ]

الحالة العامة متعددة المتغيرات

لنفترض أنxXRص{\displaystyle \mathbf {x} \in {\mathcal {X}}\subseteq \mathbb {R} ^{p}}إذن، فإن عائلة الدوال الأسية الطبيعية من الرتبة p لها دالة كثافة أو دالة كتلة على الشكل التالي: وX(x|θ)=ح(x) خبرة(θتيx-أ(θ) )،{\displaystyle f_{X}(\mathbf {x} \mid {\boldsymbol {\theta }})=h(\mathbf {x} )\ \exp {\Big (}{\boldsymbol {\theta }}^{\rm {T}}\mathbf {x} -A({\boldsymbol {\theta }})\ {\Big )}\,\!,} حيث يكون المعامل في هذه الحالةθRص.{\displaystyle {\boldsymbol {\theta }}\in \mathbb {R} ^{p}.}

دوال توليد العزوم والتراكمات

يمتلك أحد أفراد عائلة الدوال الأسية الطبيعية دالة توليد العزوم (MGF) بالشكل التالي مX(ت)=خبرة( أ(θ+ت)-أ(θ) ).{\displaystyle M_{X}(\mathbf {t} )=\exp {\Big (}\ A({\boldsymbol {\theta }}+\mathbf {t} )-A({\boldsymbol {\theta }})\ {\Big )}\,.}

دالة توليد العزوم التراكمية هي ، بحكم تعريفها، لوغاريتم دالة توليد العزوم، لذا فهي كX(ت)=أ(θ+ت)-أ(θ).{\displaystyle K_{X}(\mathbf {t} )=A({\boldsymbol {\theta }}+\mathbf {t} )-A({\boldsymbol {\theta }})\,.}

تباعد كولباك-لايبير

تباعد كولباك -لايبير لعائلتين طبيعيتين من الدوال الأسية ذات المعاملاتθ{\displaystyle \theta }وλ{\displaystyle \lambda }يكون

دكل(θ||λ)=(θ-λ)أ(θ)-(أ(θ)-أ(λ))=θλ(λ-ت)أ"(ت)دت{\displaystyle D_{KL}(\theta ||\lambda )=(\theta -\lambda )A'(\theta )-(A(\theta )-A(\lambda ))=\int _{\theta }^{\lambda }(\lambda -t)A''(t)dt}

أمثلة

أهم خمس حالات أحادية المتغير هي:

تُعدّ هذه الأمثلة الخمسة - بواسون، وذو الحدين، وذو الحدين السالب، والطبيعي، وجاما - مجموعة فرعية خاصة من التوزيع الطبيعي ذي دالة التباين التربيعي (NEF)، تُسمى التوزيع الطبيعي ذي دالة التباين التربيعي (NEF-QVF) لأن التباين يُمكن كتابته كدالة تربيعية للمتوسط. وسيتم تناول التوزيع الطبيعي ذي دالة التباين التربيعي (NEF-QVF) بالتفصيل لاحقًا.

تُعدّ التوزيعات مثل التوزيع الأسي ، وتوزيع برنولي ، والتوزيع الهندسي حالات خاصة من التوزيعات الخمسة المذكورة أعلاه. فعلى سبيل المثال، يُعدّ توزيع برنولي توزيعًا ثنائي الحدّ مع n  =  1  تجربة، بينما يُعدّ التوزيع الأسي توزيع غاما بمعامل شكل α  =  1 (أو k  =  1  )، أما التوزيع الهندسي فهو حالة خاصة من التوزيع ثنائي الحدّ السالب .

بعض توزيعات العائلة الأسية ليست من عائلة التوزيعات الأسية الطبيعية. فالتوزيع اللوغاريتمي الطبيعي وتوزيع بيتا ينتميان إلى العائلة الأسية، لكنهما ليسا من عائلة التوزيعات الأسية الطبيعية. أما توزيع جاما ذو المعلمتين فهو من العائلة الأسية ولكنه ليس من عائلة التوزيعات الأسية الطبيعية، وتوزيع كاي تربيع هو حالة خاصة من توزيع جاما ذي معلمة مقياس ثابتة، وبالتالي فهو أيضاً من العائلة الأسية ولكنه ليس من عائلة التوزيعات الأسية الطبيعية (مع ملاحظة أن توزيع جاما ذي معلمة شكل ثابتة فقط هو من عائلة التوزيعات الأسية الطبيعية).

إن التوزيع الغاوسي المعكوس هو توزيع NEF ذو دالة تباين مكعبة.

تختلف صياغة معلمات معظم التوزيعات المذكورة أعلاه عن الصياغة الشائعة في الكتب الدراسية والصفحات المرتبطة بها. فعلى سبيل المثال، تختلف الصياغة المذكورة أعلاه عن الصياغة الواردة في المقالة المرتبطة في حالة توزيع بواسون. وترتبط الصياغتان بالمعلمات التالية:θ=سجل(λ){\displaystyle \theta =\log(\lambda )}حيث λ هو معامل المتوسط، وبالتالي يمكن كتابة الكثافة على النحو التالي و(ك؛θ)=1ك!خبرة( θ ك-خبرة(θ) ) ،{\displaystyle f(k;\theta )={\frac {1}{k!}}\exp {\Big (}\ \theta \ k-\exp(\theta )\ {\Big )}\ ,} لθR{\displaystyle \theta \in \mathbb {R} }، لذا ح(ك)=1ك!، و أ(θ)=خبرة(θ) .{\displaystyle h(k)={\frac {1}{k!}},{\text{ و }}A(\theta )=\exp(\theta )\ .}

يمكن لهذا التحديد البديل للمعاملات تبسيط الحسابات في الإحصاء الرياضي بشكل كبير . على سبيل المثال، في الاستدلال البايزي ، يُحسب توزيع الاحتمال اللاحق كحاصل ضرب توزيعين. عادةً ما يتطلب هذا الحساب كتابة دوال توزيع الاحتمال (PDF) وإجراء التكامل؛ ولكن مع التحديد المذكور أعلاه، يمكن تجنب هذا الحساب. بدلاً من ذلك، يمكن استخلاص العلاقات بين التوزيعات بفضل خصائص NEF الموضحة أدناه.

ومن الأمثلة على الحالة متعددة المتغيرات التوزيع متعدد الحدود مع عدد معروف من التجارب.

ملكيات

يمكن استخدام خصائص عائلة التوزيعات الأسية الطبيعية لتبسيط الحسابات التي تتضمن هذه التوزيعات.

حالة أحادية المتغير

  1. تُعتبر العائلات الأسية الطبيعية (NEF) مغلقة تحت عملية الالتفاف. [ 2 ] بالنظر إلى متغيرات مستقلة ومتطابقة التوزيع (iid)X1،...،Xن{\displaystyle X_{1},\ldots ,X_{n}}مع التوزيع من NEF، ثمأنا=1نXأنا{\displaystyle \sum _{i=1}^{n}X_{i}\,}هي دالة توليد العزوم، وإن لم تكن بالضرورة دالة توليد العزوم الأصلية. وينتج هذا عن خصائص دالة توليد العزوم.
  2. يمكن كتابة دالة التباين للمتغيرات العشوائية ذات التوزيع NEF بدلالة المتوسط. [ 2 ]متغير(X)=V(μ).{\displaystyle \operatorname {Var} (X)=V(\mu ).}
  3. تحدد العزمتان الأوليان لتوزيع NEF بشكل فريد التوزيع داخل تلك العائلة من التوزيعات. [ 2 ]XNEF[μ،V(μ)].{\displaystyle X\sim \operatorname {NEF} [\mu ,V(\mu )].}

حالة متعددة المتغيرات

في حالة المتغيرات المتعددة، يكون متجه المتوسط ​​ومصفوفة التباين هماهـ[X]=أ(θ) و كوف[X]=تيأ(θ)،{\displaystyle \operatorname {E} [X]=\nabla A({\boldsymbol {\theta }}){\text{ and }}\operatorname {Cov} [X]=\nabla \nabla ^{\rm {T}}A({\boldsymbol {\theta }})\,,} أين{\displaystyle \nabla }هو التدرج وتي{\displaystyle \nabla \nabla ^{\rm {T}}}هي مصفوفة هيسيان .

العائلات الأسية الطبيعية ذات دوال التباين التربيعي (NEF-QVF)

تُعدّ التوزيعات الأسية الطبيعية ذات دوال التباين التربيعية حالةً خاصةً من هذه التوزيعات. ستة من هذه التوزيعات لها دوال تباين تربيعية (QVF) حيث يمكن كتابة تباين التوزيع كدالة تربيعية للمتوسط. تُسمى هذه التوزيعات NEF-QVF. وقد وصف كارل موريس خصائص هذه التوزيعات لأول مرة . [ 3 ]

متغير(X)=V(μ)=ν0+ν1μ+ν2μ2.{\displaystyle \operatorname {Var} (X)=V(\mu )=\nu _{0}+\nu _{1}\mu +\nu _{2}\mu ^{2}.}

ستة من أجهزة NEF-QVF

تم كتابة نماذج NEF-QVF الستة هنا بترتيب متزايد التعقيد للعلاقة بين التباين والمتوسط.

  1. التوزيع الطبيعي ذو التباين الثابتXشمال(μ،σ2){\displaystyle X\sim N(\mu ,\sigma ^{2})}إن NEF-QVF هو NEF-QVF لأن التباين ثابت. يمكن كتابة التباين على النحو التالي:متغير(X)=V(μ)=σ2{\displaystyle \operatorname {Var} (X)=V(\mu )=\sigma ^{2}}إذن، التباين هو دالة من الدرجة 0 للمتوسط.
  2. توزيع شركة كيسونXبواسون(μ){\displaystyle X\sim \operatorname {Poisson} (\mu )}إن NEF-QVF هو لأن جميع توزيعات بواسون لها تباين يساوي المتوسطمتغير(X)=V(μ)=μ{\displaystyle \operatorname {Var} (X)=V(\mu )=\mu }لذا فإن التباين هو دالة خطية للمتوسط.
  3. توزيع جاماXجاما(ر،λ){\displaystyle X\sim \operatorname {Gamma} (r,\lambda )}NEF-QVF لأن متوسط ​​توزيع جاما هوμ=رλ{\displaystyle \mu =r\lambda }وتباين توزيع جاما هومتغير(X)=V(μ)=μ2/ر{\displaystyle \operatorname {Var} (X)=V(\mu )=\mu ^{2}/r}إذن، التباين هو دالة تربيعية للمتوسط.
  4. التوزيع ذو الحدينXذات الحدين(ن،ص){\displaystyle X\sim \operatorname {Binomial} (n,p)}NEF-QVF لأن المتوسط ​​هوμ=نص{\displaystyle \mu =np}والتباين هومتغير(X)=نص(1-ص){\displaystyle \operatorname {Var} (X)=np(1-p)}والتي يمكن كتابتها بدلالة المتوسط ​​كما يلي
    V(X)=-نص2+نص=-μ2/ن+μ.{\displaystyle V(X)=-np^{2}+np=-\mu ^{2}/n+\mu .}
  5. التوزيع ذو الحدين السالبXنيغ بين(ن،ص){\displaystyle X\sim \operatorname {NegBin} (n,p)}NEF-QVF لأن المتوسط ​​هوμ=نص/(1-ص){\displaystyle \mu =np/(1-p)}والتباين هوV(μ)=μ2/ن+μ.{\displaystyle V(\mu )=\mu ^{2}/n+\mu .}
  6. التوزيع (غير المشهور جدًا) الناتج عن توزيع القاطع الزائدي المعمم (NEF-GHS)V(μ)=μ2/ن+ن{\displaystyle V(\mu )=\mu ^{2}/n+n}وμ>0.{\displaystyle \mu >0.}

خصائص NEF-QVF

يمكن لخصائص NEF-QVF أن تبسط الحسابات التي تستخدم هذه التوزيعات.

  1. تُعتبر العائلات الأسية الطبيعية ذات دوال التباين التربيعي (NEF-QVF) مغلقة تحت التفافات التحويل الخطي. [ 4 ] أي أن التفاف التحويل الخطي لـ NEF-QVF هو أيضًا NEF-QVF، وإن لم يكن بالضرورة هو نفسه الأصل. بافتراض استقلال وتطابق توزيع (iid)X1،...،Xن{\displaystyle X_{1},\ldots ,X_{n}}مع توزيع من دالة NEF-QVF. التفاف التحويل الخطي لدالة NEF-QVF هو أيضًا دالة NEF-QVF. ليكنY=أنا=1ن(Xأنا-ب)/ج{\displaystyle Y=\sum _{i=1}^{n}(X_{i}-b)/c\,}ليكن الناتج التفاف تحويل خطي لـ X. متوسط ​​Y هوμ*=ن(μ-ب)/ج{\displaystyle \mu ^{*}=n(\mu -b)/c\,}يمكن كتابة تباين Y بدلالة دالة التباين لـ NEF-QVF الأصلي. إذا كانت دالة التباين لـ NEF-QVF الأصلي هي متغير(X)=V(μ)=ν0+ν1μ+ν2μ2،{\displaystyle \operatorname {Var} (X)=V(\mu )=\nu _{0}+\nu _{1}\mu +\nu _{2}\mu ^{2},} ثم يكون لـ NEF-QVF الجديد دالة تباين متغير(Y)=V*(μ*)=ν0*+ν1*μ+ν2*μ2،{\displaystyle \operatorname {Var} (Y)=V^{*}(\mu ^{*})=\nu _{0}^{*}+\nu _{1}^{*}\mu +\nu _{2}^{*}\mu ^{2},} أين ν0*=نV(ب)/ج2،{\displaystyle \nu _{0}^{*}=nV(b)/c^{2}\,,}ν1*=V(ب)/ج،{\displaystyle \nu _{1}^{*}=V'(b)/c\,,}ν2*/ن=ν2/ن.{\displaystyle \nu _{2}^{*}/n=\nu _{2}/n\,.}
  2. يتركX1{\displaystyle X_{1}}وX2{\displaystyle X_{2}}لنفترض أن NEF مستقلة ولها نفس المعامل θ ولتكنY=X1+X2{\displaystyle Y=X_{1}+X_{2}}ثم التوزيع الشرطي لـX1{\displaystyle X_{1}}منحY{\displaystyle Y}له تباين تربيعي فيY{\displaystyle Y}إذا وفقط إذاX1{\displaystyle X_{1}}وX2{\displaystyle X_{2}}هي NEF-QVF. ومن أمثلة هذه التوزيعات الشرطية التوزيعات الطبيعية ، والتوزيعات ذات الحدين ، وتوزيعات بيتا ، والتوزيعات فوق الهندسية ، والتوزيعات الهندسية ، والتي ليست جميعها NEF-QVF. [ 1 ]
  3. تتمتع توزيعات NEF-QVF بتوزيعات احتمالية مسبقة مترافقة على μ في نظام توزيعات بيرسون (يُسمى أيضًا توزيع بيرسون، مع العلم أن نظام توزيعات بيرسون هو في الواقع عائلة من التوزيعات وليس توزيعًا واحدًا). ​​من أمثلة التوزيعات الاحتمالية المسبقة المترافقة لتوزيعات NEF-QVF: التوزيع الطبيعي ، وتوزيع جاما ، وتوزيع جاما المقلوب، وتوزيع بيتا ، وتوزيع F ، وتوزيع t . مع ذلك، لا تُعدّ جميع هذه التوزيعات الاحتمالية المسبقة المترافقة توزيعات NEF-QVF. [ 1 ]
  4. لوX|μ{\displaystyle X\mid \mu }إذا كان للمتغير التابع توزيع NEF-QVF، وكان للمتغير μ توزيع مسبق مترافق، فإن التوزيعات الهامشية تكون توزيعات معروفة. [ 1 ] هذه الخصائص، بالإضافة إلى الرموز المذكورة أعلاه، تُسهّل الحسابات في الإحصاء الرياضي التي تُجرى عادةً باستخدام حسابات معقدة وحساب التفاضل والتكامل.

انظر أيضاً

مراجع

  1. 1 2 3 4 موريس سي (2006) "العائلات الأسية الطبيعية"، موسوعة العلوم الإحصائية .
  2. ١ ٢ ٣ كارل ن. موريس. "العائلات الأسية الطبيعية ذات دوال التباين التربيعي: النظرية الإحصائية". حوليات الإحصاء ١١ (٢) ٥١٥ - ٥٢٩، يونيو ١٩٨٣. doi : 10.1214/aos/1176346158
  3. موريس، كارل (1982). "العائلات الأسية الطبيعية ذات دوال التباين التربيعي" . حوليات الإحصاء . 10 (1): 65-80 . doi : 10.1214/aos/1176345690 .
  4. موريس، كارل؛ لوك، كاري ف. (2009). "توحيد عائلات الدوال الأسية الطبيعية المسماة وما يتصل بها". الإحصائي الأمريكي . 63 (3): 247-253 . doi : 10.1198/tast.2009.08145 . S2CID 7095121 . 
  • موريس سي. (1982) العائلات الأسية الطبيعية ذات دوال التباين التربيعي: النظرية الإحصائية . قسم الرياضيات، معهد الإحصاء، جامعة تكساس، أوستن.