التوزيع اللوجستي المعمم

${\displaystyle F(x;\alpha )={\frac {1}{(1+e^{-x})^{\alpha }}}\equiv (1+e^{-x})^{-\alpha },\quad \alpha >0.}$

دالة كثافة الاحتمال المقابلة هي:

${\displaystyle f(x;\alpha )={\frac {\alpha e^{-x}}{\left(1+e^{-x}\right)^{\alpha +1}}},\quad \alpha >0.}$

وقد أطلق على هذا النوع أيضًا اسم التوزيع "اللوجستي المنحرف".

${\displaystyle F(x;\alpha )=1-{\frac {e^{-\alpha x}}{(1+e^{-x})^{\alpha }}},\quad \alpha >0.}$

دالة كثافة الاحتمال المقابلة هي:

${\displaystyle f(x;\alpha )={\frac {\alpha e^{-\alpha x}}{(1+e^{-x})^{\alpha +1}}},\quad \alpha >0.}$

${\displaystyle f(x;\alpha )={\frac {1}{B(\alpha ,\alpha )}}{\frac {e^{-\alpha x}}{(1+e^{-x})^{2\alpha }}},\quad \alpha >0.}$

هنا، B هي دالة بيتا . دالة توليد العزوم لهذا النوع هي

${\displaystyle M(t)={\frac {\Gamma (\alpha -t)\Gamma (\alpha +t)}{(\Gamma (\alpha ))^{2}}},\quad -\alpha <t<\alpha .}$

دالة التوزيع التراكمي المقابلة هي:

${\displaystyle F(x;\alpha )={\frac {\left(e^{x}+1\right)\Gamma (\alpha )e^{\alpha (-x)}\left(e^{-x}+1\right)^{-2\alpha }\,_{2}{\tilde {F}}_{1}\left(1,1-\alpha$ ;\alpha +1;-e^{x}\right)}{B(\alpha ,\alpha )}},\quad \alpha >0.}

${\displaystyle {\begin{aligned}f(x;\alpha ,\beta )&={\frac {1}{B(\alpha ,\beta )}}{\frac {e^{-\beta x}}{(1+e^{-x})^{\alpha +\beta }}},\quad \alpha ,\beta >0\\[4pt]&={\frac {\sigma (x)^{\alpha }\sigma (-x)^{\beta }}{B(\alpha ,\beta )}}.\end{aligned}}}$

حيث B هي دالة بيتا و${\displaystyle \sigma (x)=1/(1+e^{-x})}$هي الدالة اللوجستية القياسية . دالة توليد العزوم لهذا النوع هي

${\displaystyle M(t)={\frac {\Gamma (\beta -t)\Gamma (\alpha +t)}{\Gamma (\alpha )\Gamma (\beta )}},\quad -\alpha <t<\beta .}$

يُطلق على هذا النوع أيضًا اسم "بيتا المعممة الأسية من النوع الثاني". ^{[ 1 ]}

دالة التوزيع التراكمي المقابلة هي:

${\displaystyle F(x;\alpha ,\beta )={\frac {\left(e^{x}+1\right)\Gamma (\alpha )e^{\beta (-x)}\left(e^{-x}+1\right)^{-\alpha -\beta }\,_{2}{\tilde {F}}_{1}\left(1,1-\beta$ ;\alpha +1;-e^{x}\right)}{B(\alpha ,\beta )}},\quad \alpha ,\beta >0.}

يُعدّ النوع الرابع الشكل الأكثر عمومية للتوزيع. ويمكن الحصول على توزيع النوع الثالث من النوع الرابع بتثبيت${\displaystyle \beta =\alpha }$يمكن الحصول على التوزيع من النوع الثاني من التوزيع من النوع الرابع عن طريق تثبيت${\displaystyle \alpha =1}$(وإعادة التسمية)${\displaystyle \beta }$ل${\displaystyle \alpha }$يمكن الحصول على توزيع النوع الأول من النوع الرابع عن طريق تثبيت${\displaystyle \beta =1}$إصلاح${\displaystyle \alpha =\beta =1}$يعطي التوزيع اللوجستي القياسي .

كما يوحي الاسم، لوجستي-بيتا، إذا${\displaystyle x}$يتبع نموذج بيتا اللوجستي بمعاملات${\displaystyle \alpha ,\beta }$، ثم${\displaystyle \sigma (x)=1/(1+e^{-x})\sim {\text{Beta}}(\alpha ,\beta )}$

يمكن الحصول على هذا التوزيع بدلالة توزيع جاما كما يلي. ليكن${\displaystyle y\sim {\text{Gamma}}(\alpha ,\gamma )}$وبشكل مستقل ،${\displaystyle z\sim {\text{Gamma}}(\beta ,\gamma )}$ودع${\displaystyle x=\ln y-\ln z}$. ثم${\displaystyle x\sim B_{\sigma }(\alpha ,\beta )}$[ ^{3 ]​}

لو${\displaystyle x\sim B_{\sigma }(\alpha ,\beta )}$، ثم${\displaystyle -x\sim B_{\sigma }(\beta ,\alpha )}$.

يسمح توزيع بيتا اللوجستي بالتمثيل المختلط الطبيعي التالي للتباين والمتوسط: ^{[ 4 ]}

${\displaystyle f(x;\alpha ,\beta )={\frac {1}{B(\alpha ,\beta )}}{\frac {e^{-\beta x}}{(1+e^{-x})^{\alpha +\beta }}}=\int _{0}^{\infty }N(x;0.5\lambda (\alpha -\beta ),\lambda )p_{\text{Polya}}(\lambda$ ;\alpha ,\beta )d\lambda }

أين${\displaystyle N(x;\mu ,\lambda )}$هي كثافة طبيعية بمتوسط${\displaystyle \mu }$، التباين${\displaystyle \lambda }$، و${\displaystyle p_{\text{Polya}}(\lambda$ ;\alpha ,\beta )} هي دالة كثافة لتوزيع بوليا بمعاملات${\displaystyle \alpha ,\beta >0}$، كما هو مُعرَّف${\displaystyle \lambda {\stackrel {d}{=}}\sum _{k=0}^{\infty }2\epsilon _{k}/\{(k+\alpha )(k+\beta )\},\epsilon _{k}{\stackrel {iid}{\sim }}{\text{Exp}}(1)}$.

باستخدام التوقعات اللوغاريتمية لتوزيع جاما، يمكن اشتقاق المتوسط ​​والتباين على النحو التالي:

${\displaystyle {\begin{aligned}{\text{E}}[x]&=\psi (\alpha )-\psi (\beta )\\{\text{var}}[x]&=\psi '(\alpha )+\psi '(\beta )\\\end{aligned}}}$

أين${\displaystyle \psi }$دالة ديغاما ، بينما${\displaystyle \psi '=\psi ^{(1)}}$وهي مشتقتها الأولى، والمعروفة أيضًا باسم دالة تريغاما ، أو دالة بوليغاما الأولى .${\displaystyle \psi }$إذا كانت الدالة متزايدة تمامًا ، فإن إشارة المتوسط ​​هي نفسها إشارة${\displaystyle \alpha -\beta }$. منذ${\displaystyle \psi '}$بما أن قيمة تتناقص بشكل صارم، يمكن تفسير معلمات الشكل أيضًا على أنها معلمات تركيز. في الواقع، كما هو موضح أدناه، يصبح الذيلان الأيسر والأيمن أرق على التوالي مع${\displaystyle \alpha }$أو${\displaystyle \beta }$تزداد. يمثل حدّا التباين مساهمات الجزأين الأيسر والأيمن من التوزيع في التباين.

دالة توليد العزوم التراكمية هي${\displaystyle K(t)=\ln M(t)}$، حيث دالة توليد العزوم${\displaystyle M(t)}$مذكور أعلاه . العزوم التراكمية ،${\displaystyle \kappa _{n}}$، هي${\displaystyle n}$المشتقات من الرتبة n لـ${\displaystyle K(t)}$، تم تقييمها في${\displaystyle t=0}$:

${\displaystyle \kappa _{n}=K^{(n)}(0)=\psi ^{(n-1)}(\alpha )+(-1)^{n}\psi ^{(n-1)}(\beta )}$

أين${\displaystyle \psi ^{(0)}=\psi }$و${\displaystyle \psi ^{(n-1)}}$هما دالتا ديغاما وبوليغاما. وبناءً على الاشتقاق أعلاه، فإن العزم التراكمي الأول،${\displaystyle \kappa _{1}}$، هو المتوسط ​​والثاني،${\displaystyle \kappa _{2}}$، هو التباين.

التراكم الثالث،${\displaystyle \kappa _{3}}$، هي اللحظة المركزية الثالثة${\displaystyle E[(x-E[x])^{3}]}$، والذي عند ضربه في القوة الثالثة للانحراف المعياري يعطي معامل الالتواء :

${\displaystyle {\text{skew}}[x]={\frac {\psi ^{(2)}(\alpha )-\psi ^{(2)}(\beta )}{{\sqrt {{\text{var}}[x]}}^{3}}}}$

إشارة (وبالتالي اتجاه ) الالتواء هي نفسها إشارة${\displaystyle \alpha -\beta }$.

يمكن استنتاج المنوال (القيمة القصوى لدالة كثافة الاحتمال) عن طريق إيجاد${\displaystyle x}$حيث تكون مشتقة دالة كثافة الاحتمال اللوغاريتمية صفرًا:

${\displaystyle {\frac {d}{dx}}\ln f(x;\alpha ,\beta )=\alpha \sigma (-x)-\beta \sigma (x)=0}$

وهذا يتبسط إلى${\displaystyle \alpha /\beta =e^{x}}$، بحيث: ^{[ 3 ]}

${\displaystyle {\text{mode}}[x]=\ln {\frac {\alpha }{\beta }}}$

في كل من الذيلين الأيسر والأيمن، تتشبع إحدى الدوال السينية في دالة كثافة الاحتمال إلى واحد، بحيث يتشكل الذيل بواسطة الدالة السينية الأخرى. بالنسبة للقيم السالبة الكبيرة${\displaystyle x}$، الذيل الأيسر لدالة كثافة الاحتمال يتناسب مع${\displaystyle \sigma (x)^{\alpha }\approx e^{\alpha x}}$بينما الذيل الأيمن (موجب كبير)${\displaystyle x}$) يتناسب مع${\displaystyle \sigma (-x)^{\beta }\approx e^{-\beta x}}$وهذا يعني أن الذيول يتم التحكم فيها بشكل مستقل بواسطة${\displaystyle \alpha }$و${\displaystyle \beta }$على الرغم من أن ذيول النوع الرابع أثقل من ذيول التوزيع الطبيعي (${\displaystyle e^{-{\frac {x^{2}}{2v}}}}$، للتباين${\displaystyle v}$)، تظل المتوسطات والتباينات من النوع الرابع محدودة لجميع${\displaystyle \alpha ,\beta >0}$يختلف هذا عن توزيع كوشي الذي لا يوجد له متوسط ​​ولا تباين. في رسومات دالة كثافة الاحتمال اللوغاريتمية الموضحة هنا، تكون ذيول النوع الرابع خطية، وذيول التوزيع الطبيعي تربيعية، وذيول توزيع كوشي لوغاريتمية.

${\displaystyle B_{\sigma }(\alpha ,\beta )}$تشكل عائلة أسية ذات معلمات طبيعية${\displaystyle \alpha }$و${\displaystyle \beta }$وإحصاءات كافية${\displaystyle \log \sigma (x)}$و${\displaystyle \log \sigma (-x)}$يمكن إيجاد القيم المتوقعة للإحصائيات الكافية عن طريق تفاضل اللوغاريتم الطبيعي: ^{[ 5 ]}

${\displaystyle {\begin{aligned}E[\log \sigma (x)]&={\frac {\partial \log B(\alpha ,\beta )}{\partial \alpha }}=\psi (\alpha )-\psi (\alpha +\beta )\\E[\log \sigma (-x)]&={\frac {\partial \log B(\alpha ,\beta )}{\partial \beta }}=\psi (\beta )-\psi (\alpha +\beta )\\\end{aligned}}}$

بالنظر إلى مجموعة بيانات${\displaystyle x_{1},\ldots ,x_{n}}$يفترض أنه تم إنشاؤه بشكل مستقل وموزع من${\displaystyle B_{\sigma }(\alpha ,\beta )}$، تقدير معلمات الاحتمال الأقصى هو:

${\displaystyle {\begin{aligned}{\hat {\alpha }},{\hat {\beta }}=\arg \max _{\alpha ,\beta }&\;{\frac {1}{n}}\sum _{i=1}^{n}\log f(x_{i};\alpha ,\beta )\\=\arg \max _{\alpha ,\beta }&\;\alpha {\Bigl (}{\frac {1}{n}}\sum _{i}\log \sigma (x_{i}){\Bigr )}+\beta {\Bigl (}{\frac {1}{n}}\sum _{i}\log \sigma (-x_{i}){\Bigr )}-\log B(\alpha ,\beta )\\=\arg \max _{\alpha ,\beta }&\;\alpha \,{\overline {\log \sigma (x)}}+\beta \,{\overline {\log \sigma (-x)}}-\log B(\alpha ,\beta )\end{aligned}}}$

حيث تشير الخطوط العلوية إلى متوسطات الإحصاءات الكافية. يعتمد تقدير الاحتمال الأقصى على البيانات فقط من خلال هذه الإحصاءات المتوسطة. في الواقع، عند تقدير الاحتمال الأقصى، تتطابق القيم المتوقعة مع المتوسطات.

${\displaystyle {\begin{aligned}\psi ({\hat {\alpha }})-\psi ({\hat {\alpha }}+{\hat {\beta }})&={\overline {\log \sigma (x)}}\\\psi ({\hat {\beta }})-\psi ({\hat {\alpha }}+{\hat {\beta }})&={\overline {\log \sigma (-x)}}\\\end{aligned}}}$

وهو المكان الذي تتلاشى فيه المشتقات الجزئية للدالة العظمى المذكورة أعلاه.

تشمل العلاقات مع التوزيعات الأخرى ما يلي:

• نسبة اللوغاريتم لمتغيرات جاما هي من النوع الرابع كما هو مفصل أعلاه .
• لو${\displaystyle y\sim {\text{BetaPrime}}(\alpha ,\beta )}$، ثم${\displaystyle x=\ln y}$له توزيع من النوع الرابع ، مع معلمات${\displaystyle \alpha }$و${\displaystyle \beta }$انظر إلى توزيع بيتا الأولي .
• لو${\displaystyle z\sim {\text{Gamma}}(\beta ,1)}$و ${\displaystyle y\mid z\sim {\text{Gamma}}(\alpha ,z)}$، أين${\displaystyle z}$يُستخدم كمعامل معدل لتوزيع جاما الثاني، ثم${\displaystyle y}$لها توزيع جاما المركب ، وهو نفس توزيع جاما المركب.${\displaystyle {\text{BetaPrime}}(\alpha ,\beta )}$، لهذا السبب${\displaystyle x=\ln y}$له توزيع من النوع الرابع .
• لو${\displaystyle p\sim {\text{Beta}}(\alpha ,\beta )}$، ثم${\displaystyle x={\text{logit}}\,p}$له توزيع من النوع الرابع ، مع معلمات${\displaystyle \alpha }$و${\displaystyle \beta }$انظر إلى توزيع بيتا . دالة اللوجيت .${\displaystyle \mathrm {logit} (p)=\log {\frac {p}{1-p}}}$هي معكوس الدالة اللوجستية . هذه العلاقة تفسر تسمية التوزيع اللوجستي-بيتا لهذا التوزيع: إذا تم تطبيق الدالة اللوجستية على متغيرات لوجستية-بيتا، فإن التوزيع المحوّل يكون بيتا.

بالنسبة للقيم الكبيرة لمعاملات الشكل،${\displaystyle \alpha ,\beta \gg 1}$يصبح التوزيع أقرب إلى التوزيع الطبيعي (غاوسي) ، مع:

${\displaystyle {\begin{aligned}E[x]&\approx \ln {\frac {\alpha }{\beta }}\\{\text{var}}[x]&\approx {\frac {\alpha +\beta }{\alpha \beta }}\end{aligned}}}$

ويتضح ذلك في مخططات دالة كثافة الاحتمال (pdf) ودالة كثافة الاحتمال اللوغاريتمية (log pdf) هنا.

بما أن أخذ العينات العشوائية من توزيعات جاما وبيتا متاح بسهولة على العديد من منصات البرامج ، يمكن استخدام العلاقات المذكورة أعلاه مع تلك التوزيعات لتوليد متغيرات من توزيع النوع الرابع.

كما ذكر أعلاه ،${\displaystyle B_{\sigma }(\alpha ,\beta )}$هي عائلة أسية ذات معلمات طبيعية${\displaystyle \alpha ,\beta }$، والتي تعتمد تقديرات الاحتمال الأقصى لها فقط على الإحصاءات الكافية المتوسطة:

${\displaystyle {\begin{aligned}{\overline {\log \sigma (x)}}&={\frac {1}{n}}\sum _{i}\log \sigma (x_{i})&&{\text{and}}&{\overline {\log \sigma (-x)}}&={\frac {1}{n}}\sum _{i}\log \sigma (-x_{i})\end{aligned}}}$

بعد تجميع هذه الإحصائيات، يتم إعطاء تقدير الاحتمال الأقصى على النحو التالي:

${\displaystyle {\begin{aligned}{\hat {\alpha }},{\hat {\beta }}=\arg \max _{\alpha ,\beta >0}&\;\alpha \,{\overline {\log \sigma (x)}}+\beta \,{\overline {\log \sigma (-x)}}-\log B(\alpha ,\beta )\end{aligned}}}$

باستخدام المعلمات${\displaystyle \theta _{1}=\log \alpha }$و${\displaystyle \theta _{2}=\log \beta }$يمكن استخدام خوارزمية تحسين عددية غير مقيدة مثل BFGS . وتتميز عمليات التحسين بالسرعة، لأنها لا تعتمد على حجم مجموعة البيانات.

وثمة بديل يتمثل في استخدام خوارزمية EM تعتمد على التركيب:${\displaystyle x-\log(\gamma \delta )\sim B_{\sigma }(\alpha ,\beta )}$لو${\displaystyle z\sim {\text{Gamma}}(\beta ,\gamma )}$و${\displaystyle e^{x}\mid z\sim {\text{Gamma}}(\alpha ,z/\delta )}$بسبب خاصية الاقتران الذاتي لتوزيع جاما ، فإن التوقعات اللاحقة،${\displaystyle \left\langle z\right\rangle _{P(z\mid x)}}$و${\displaystyle \left\langle \log z\right\rangle _{P(z\mid x)}}$يمكن حساب المعاملات المطلوبة لخطوة التوقع (E-step) بصيغة مغلقة. ويمكن حل تحديث معلمات خطوة التعظيم (M-step) بشكل مماثل لطريقة الاحتمال الأقصى لتوزيع جاما .

مشكلة الاحتمال الأقصى لـ${\displaystyle {\bar {B}}_{\sigma }(\alpha ,\beta ,\mu ,s^{2})}$، مع وجود ملف PDF${\displaystyle {\bar {f}}}$يكون:

${\displaystyle {\hat {\alpha }},{\hat {\beta }},{\hat {\mu }},{\hat {s}}=\arg \max _{\alpha ,\beta ,\mu ,s}\log {\frac {1}{n}}\sum _{i}{\bar {f}}(x_{i};\alpha ,\beta ,\mu ,s^{2})}$

لم تعد هذه عائلة أسية، لذا يتعين على كل تكرار للتحسين اجتياز مجموعة البيانات بأكملها. علاوة على ذلك، فإن حساب المشتقات الجزئية (كما هو مطلوب على سبيل المثال في BFGS) أكثر تعقيدًا بكثير مما هو عليه في حالة المعلمتين المذكورتين أعلاه. ومع ذلك، فإن جميع الدوال المكونة متوفرة بسهولة في حزم البرامج التي تدعم التفاضل التلقائي . مرة أخرى، يمكن تمثيل المعلمات الموجبة بدلالة لوغاريتماتها للحصول على مسألة تحسين عددي غير مقيدة.

في هذه المسألة، قد تفشل عملية التحسين العددي ما لم يتم اختيار معلمات الموقع والمقياس الأولية بشكل مناسب. ومع ذلك، فإن قابلية تفسير هذه المعلمات المذكورة أعلاه في عملية تحديد المعلمات${\displaystyle {\bar {B}}_{\sigma }}$يمكن استخدامها للقيام بذلك. على وجه التحديد، القيم الأولية لـ${\displaystyle \mu }$و${\displaystyle s^{2}}$يمكن ضبطها على المتوسط ​​والتباين التجريبيين للبيانات.