توزيع المصفوفة الطبيعي

في الإحصاء ، يعتبر التوزيع الطبيعي للمصفوفة أو التوزيع الغاوسي للمصفوفة توزيعًا احتماليًا وهو تعميم للتوزيع الطبيعي متعدد المتغيرات للمتغيرات العشوائية ذات القيم المصفوفية.

تعريف

دالة كثافة الاحتمال للمصفوفة العشوائية X ( n × p ) التي تتبع التوزيع الطبيعي للمصفوفات  مشمالن،ص(م،يو،V){\displaystyle {\mathcal {MN}} _ {n,p}(\mathbf {M} ,\mathbf {U} ,\mathbf {V} )}له الشكل التالي:

ص(X|م،يو،V)=خبرة(-12تر[V-1(X-م)تييو-1(X-م)])(2π)نص/2|V|ن/2|يو|ص/2{\displaystyle p(\mathbf {X} \mid \mathbf {M} ,\mathbf {U} ,\mathbf {V} )={\frac {\exp \left(-{\frac {1}{2}}\,\mathrm {tr} \left[\mathbf {V} ^{-1}(\mathbf {X} -\mathbf {M} )^{T}\mathbf {U} ^{-1}(\mathbf {X} -\mathbf {M} )\right]\right)}{(2\pi )^{np/2}|\mathbf {V} |^{n/2}|\mathbf {U} |^{p/2}}}}

أينتر{\displaystyle \mathrm {tr} }يرمز إلى الأثر ، و M هي n × p ، وU هي n × و V هي p × p ، ويُفهم الكثافة على أنها دالة كثافة الاحتمال بالنسبة إلى مقياس ليبيغ القياسي في      Rن×ص{\displaystyle \mathbb {R} ^{n\times p}}أي: المقياس المقابل للتكامل بالنسبة إلىدx11دx21...دxن1دx12...دxن2...دxنص{\displaystyle dx_{11}dx_{21}\dots dx_{n1}dx_{12}\dots dx_{n2}\dots dx_{np}}.

يرتبط التوزيع الطبيعي المصفوفي بالتوزيع الطبيعي متعدد المتغيرات بالطريقة التالية:

Xمشمالن×ص(م،يو،V)،{\displaystyle \mathbf {X} \sim {\mathcal {MN}} _ {n\times p}(\mathbf {M} ,\mathbf {U} ,\mathbf {V} ),}

إذا وفقط إذا

vهـج(X)شمالنص(vهـج(م)،Vيو){\displaystyle \mathrm {vec} (\mathbf {X} )\sim {\mathcal {N}}_{np}(\mathrm {vec} (\mathbf {M} ),\mathbf {V} \otimes \mathbf {U} )}

أين{\displaystyle \otimes }يرمز إلى حاصل ضرب كرونكر وvهـج(م){\displaystyle \mathrm {vec} (\mathbf {M} )}يشير إلى تحويل إلى متجهم{\displaystyle \mathbf {M} }.

دليل

يمكن إثبات التكافؤ بين دالتي كثافة الاحتمال الطبيعي للمصفوفة المذكورة أعلاه ودالة كثافة الاحتمال الطبيعي متعدد المتغيرات باستخدام عدة خصائص للأثر وحاصل ضرب كرونكر ، كما يلي. نبدأ بمعامل أس دالة كثافة الاحتمال الطبيعي للمصفوفة:

-12tr[V-1(X-م)تييو-1(X-م)]=-12متجه(X-م)تيمتجه(يو-1(X-م)V-1)=-12متجه(X-م)تي(V-1يو-1)متجه(X-م)=-12[متجه(X)-متجه(م)]تي(Vيو)-1[متجه(X)-متجه(م)]{\displaystyle {\begin{aligned}&\;\;\;\;-{\frac {1}{2}}{\text{tr}}\left[\mathbf {V} ^{-1}(\mathbf {X} -\mathbf {M} )^{T}\mathbf {U} ^{-1}(\mathbf {X} -\mathbf {M} )\right]\\&=-{\frac {1}{2}}{\text{vec}}\left(\mathbf {X} -\mathbf {M} \right)^{T}{\text{vec}}\left(\mathbf {U} ^{-1}(\mathbf {X} -\mathbf {M} )\mathbf {V} ^{-1}\right)\\&=-{\frac {1}{2}}{\text{vec}}\left(\mathbf {X} -\mathbf {M} \right)^{T}\left(\mathbf {V} ^{-1}\otimes \mathbf {U} ^{-1}\right){\text{vec}}\left(\mathbf {X} -\mathbf {M} \right)\\&=-{\frac {1}{2}}\left[{\text{vec}}(\mathbf {X} )-{\text{vec}}(\mathbf {M} )\right]^{T}\left(\mathbf {V} \otimes \mathbf {U} \right)^{-1}\left[{\text{vec}}(\mathbf {X} )-{\text{vec}}(\mathbf {M} )\right]\end{aligned}}}

وهو وسيط أس دالة كثافة الاحتمال الطبيعية متعددة المتغيرات بالنسبة لمقياس ليبيغ فيRنص{\displaystyle \mathbb {R} ^{np}}يتم إكمال البرهان باستخدام خاصية المحدد:|Vيو|=|V|ن|يو|ص.{\displaystyle |\mathbf {V} \otimes \mathbf {U} |=|\mathbf {V} |^{n}|\mathbf {U} |^{p}.}

ملكيات

لوXمشمالن×ص(م،يو،V){\displaystyle \mathbf {X} \sim {\mathcal {MN}}_{n\times p}(\mathbf {M} ,\mathbf {U} ,\mathbf {V} )}إذن، لدينا الخصائص التالية: [ 1 ] [ 2 ]

القيم المتوقعة

المتوسط، أو القيمة المتوقعة ، هو:

هـ[X]=م{\displaystyle E[\mathbf {X} ]=\mathbf {M} }

ولدينا التوقعات التالية من الدرجة الثانية:

هـ[(X-م)(X-م)تي]=يوtr(V){\displaystyle E[(\mathbf {X} -\mathbf {M} )(\mathbf {X} -\mathbf {M} )^{T}]=\mathbf {U} \operatorname {tr} (\mathbf {V} )}
هـ[(X-م)تي(X-م)]=Vtr(يو){\displaystyle E[(\mathbf {X} -\mathbf {M} )^{T}(\mathbf {X} -\mathbf {M} )]=\mathbf {V} \operatorname {tr} (\mathbf {U} )}

أينtr{\displaystyle \operatorname {tr} }يشير إلى أثر .

وبشكل أعم، بالنسبة للمصفوفات ذات الأبعاد المناسبة A و B و C :

هـ[XأXتي]=يوtr(أتيV)+مأمتيهـ[XتيبX]=Vtr(يوبتي)+متيبمهـ[XجX]=Vجتييو+مجم{\displaystyle {\begin{aligned}E[\mathbf {X} \mathbf {A} \mathbf {X} ^{T}]&=\mathbf {U} \operatorname {tr} (\mathbf {A} ^{T}\mathbf {V} )+\mathbf {MAM} ^{T}\\E[\mathbf {X} ^{T}\mathbf {B} \mathbf {X} ]&=\mathbf {V} \operatorname {tr} (\mathbf {U} \mathbf {B} ^{T})+\mathbf {M} ^{T}\mathbf {BM} \\E[\mathbf {X} \mathbf {C} \mathbf {X} ]&=\mathbf {V} \mathbf {C} ^{T}\mathbf {U} +\mathbf {MCM} \end{aligned}}}

تحويل

تحويل النقل :

Xتيمشمالص×ن(متي،V،يو){\displaystyle \mathbf {X} ^{T}\sim {\mathcal {MN}}_{p\times n}(\mathbf {M} ^{T},\mathbf {V} ,\mathbf {U} )}

التحويل الخطي: ليكن D ( r -by- n )، من الرتبة الكاملة r ≤ n و C ( p -by- s )، من الرتبة الكاملة s ≤ p ، إذن:

دXجمشمالر×s(دمج،ديودتي،جتيVج){\displaystyle \mathbf {DXC} \sim {\mathcal {MN}}_{r\times s}(\mathbf {DMC} ,\mathbf {DUD} ^{T},\mathbf {C} ^{T}\mathbf {VC} )}

تعبير

حاصل ضرب كثافتي التوزيع الطبيعي للمصفوفتين

مشمال(م1،يو1،V1)مشمال(م2،يو2،V2)شمال(μج،Σج){\displaystyle {\mathcal {MN}}(\mathbf {M_{1}} ,\mathbf {U_{1}} ,\mathbf {V_{1}} )\cdot {\mathcal {MN}}(\mathbf {M_{2}} ,\mathbf {U_{2}} ,\mathbf {V_{2}} )\propto {\mathcal {N}}(\mu _{c},\Sigma _{c})}

يتناسب مع الكثافة الطبيعية ذات المعاملات التالية:

Σج=(V1-1يو1-1+V2-1يو2-1)-1،{\displaystyle \Sigma _{c}=(V_{1}^{-1}\otimes U_{1}^{-1}+V_{2}^{-1}\otimes U_{2}^{-1})^{-1},}
μج=Σج((V1-1يو1-1)متجه(م1)+(V2-1يو2-1)متجه(م2)).{\displaystyle \mu _{c}=\Sigma _{c}{\big (}(V_{1}^{-1}\otimes U_{1}^{-1})\operatorname {vec} (M_{1})+(V_{2}^{-1}\otimes U_{2}^{-1})\operatorname {vec} (M_{2}){\big )}.}

ملاحظة: هذا يختلف عن حاصل ضرب المتغيرات الطبيعية، والذي لا يكون طبيعياً بشكل عام.

مثال

لنفترض عينة من n متغيرات عشوائية مستقلة ذات أبعاد p موزعة بشكل متطابق وفقًا للتوزيع الطبيعي متعدد المتغيرات :

Yأناشمالص(μ،Σ) مع أنا{1،...،ن}{\displaystyle \mathbf {Y} _{i}\sim {\mathcal {N}}_{p}({\boldsymbol {\mu }},{\boldsymbol {\Sigma }}){\text{ with }}i\in \{1,\ldots ,n\}}.

عند تعريف المصفوفة n × p  X{\displaystyle \mathbf {X} }الصف رقم i هوYأنا{\displaystyle \mathbf {Y} _{i}}، فنحصل على:

Xمشمالن×ص(م،يو،V){\displaystyle \mathbf {X} \sim {\mathcal {MN}}_{n\times p}(\mathbf {M} ,\mathbf {U} ,\mathbf {V} )}

حيث كل صف منم{\displaystyle \mathbf {M} }يساويμ{\displaystyle {\boldsymbol {\mu }}}، إنهم=1ن×μتي{\displaystyle \mathbf {M} =\mathbf {1} _{n}\times {\boldsymbol {\mu }}^{T}}،يو{\displaystyle \mathbf {U} }هي مصفوفة الوحدة من الرتبة n × n ، أي أن صفوفها مستقلة، و  V=Σ{\displaystyle \mathbf {V} ={\boldsymbol {\Sigma }}}.

تقدير معلمات الاحتمال الأقصى

بفرض وجود k مصفوفة، كل منها بحجم n  × p ، يُرمز لها بـ X1،X2،...،Xك{\displaystyle \mathbf {X} _{1},\mathbf {X} _{2},\ldots ,\mathbf {X} _{k}}، والتي نفترض أنها تم أخذ عينات منها بشكل مستقل ومتطابق من توزيع طبيعي مصفوفي، يمكن الحصول على تقدير الاحتمال الأقصى للمعلمات عن طريق تعظيم:

أنا=1كمشمالن×ص(Xأنا|م،يو،V).{\displaystyle \prod _{i=1}^{k}{\mathcal {MN}}_{n\times p}(\mathbf {X} _{i}\mid \mathbf {M} ,\mathbf {U} ,\mathbf {V} ).}

للحل الخاص بالمتوسط ​​صيغة مغلقة، وهي:

م=1كأنا=1كXأنا{\displaystyle \mathbf {M} ={\frac {1}{k}}\sum _{i=1}^{k}\mathbf {X} _{i}}

لكن معاملات التغاير لا تفعل ذلك. ومع ذلك، يمكن زيادة هذه المعاملات بشكل تكراري عن طريق تصفير تدرجاتها عند:

يو=1كصأنا=1ك(Xأنا-م)V-1(Xأنا-م)تي{\displaystyle \mathbf {U} ={\frac {1}{kp}}\sum _{i=1}^{k}(\mathbf {X} _{i}-\mathbf {M} )\mathbf {V} ^{-1}(\mathbf {X} _{i}-\mathbf {M} )^{T}}

و

V=1كنأنا=1ك(Xأنا-م)تييو-1(Xأنا-م)،{\displaystyle \mathbf {V} ={\frac {1}{kn}}\sum _{i=1}^{k}(\mathbf {X} _{i}-\mathbf {M} )^{T}\mathbf {U} ^{-1}(\mathbf {X} _{i}-\mathbf {M} ),}

انظر على سبيل المثال [ 3 ] والمراجع الواردة فيه. تكون معاملات التغاير غير قابلة للتحديد بمعنى أنه لأي عامل قياس، s > 0، لدينا:

مشمالن×ص(X|م،يو،V)=مشمالن×ص(X|م،sيو،1sV).{\displaystyle {\mathcal {MN}}_{n\times p}(\mathbf {X} \mid \mathbf {M} ,\mathbf {U} ,\mathbf {V} )={\mathcal {MN}}_{n\times p}(\mathbf {X} \mid \mathbf {M} ,s\mathbf {U} ,{\tfrac {1}{s}}\mathbf {V} ).}

استخلاص القيم من التوزيع

يُعد أخذ العينات من التوزيع الطبيعي المصفوفي حالة خاصة من إجراء أخذ العينات للتوزيع الطبيعي متعدد المتغيرات .X{\displaystyle \mathbf {X} }لتكن مصفوفة من الرتبة n × p تحتوي على np عينة مستقلة من التوزيع الطبيعي القياسي، بحيث

Xمشمالن×ص(0،أنا،أنا).{\displaystyle \mathbf {X} \sim {\mathcal {MN}}_{n\times p}(\mathbf {0} ,\mathbf {I} ,\mathbf {I} ).}

ثم دع

Y=م+أXب،{\displaystyle \mathbf {Y} =\mathbf {M} +\mathbf {A} \mathbf {X} \mathbf {B} ,}

لهذا السبب.

Yمشمالن×ص(م،أأتي،بتيب)،{\displaystyle \mathbf {Y} \sim {\mathcal {MN}}_{n\times p}(\mathbf {M} ,\mathbf {AA} ^{T},\mathbf {B} ^{T}\mathbf {B} ),}

حيث يمكن اختيار A و B عن طريق تحليل Cholesky أو ​​عملية الجذر التربيعي للمصفوفة المماثلة.

العلاقة بالتوزيعات الأخرى

يقدم داويد (1981) مناقشة حول علاقة التوزيع الطبيعي ذي القيم المصفوفية بالتوزيعات الأخرى، بما في ذلك توزيع ويشارت ، وتوزيع ويشارت العكسي، وتوزيع t المصفوفي ، ولكنه يستخدم رموزًا مختلفة عن تلك المستخدمة هنا.

انظر أيضاً

مراجع

  1. أ. ك. غوبتا؛ د. ك. ناجار (22 أكتوبر 1999). "الفصل 2: ​​التوزيع الطبيعي للمتغيرات المصفوفية". توزيعات المتغيرات المصفوفية . مطبعة سي آر سي. رقم ISBN 978-1-58488-046-2تم الاطلاع عليه بتاريخ 23 مايو 2014 .
  2. دينغ، شانشان؛ آر. دينيس كوك (2014). "طي الأبعاد باستخدام تحليل المكونات الرئيسية وتحليل المكونات الرئيسية للتنبؤات ذات القيم المصفوفية". مجلة الإحصاء الصينية . 24 (1): 463-492 . JSTOR 26432553 . 
  3. غلانز، هنتر؛ كارفاليو، لويس (2013). "خوارزمية التوقع والتعظيم لتوزيع المصفوفة الطبيعية". arXiv : 1309.6609 [ stat.ME ].