نموذج خطي معمّم متجهي

الموسوعة الحرة

في الإحصاء ، طُرحت فئة النماذج الخطية المعممة المتجهة ( VGLMs ) لتوسيع نطاق النماذج التي تدعمها النماذج الخطية المعممة ( GLMs ). وعلى وجه الخصوص، تسمح نماذج VGLMs بمتغيرات استجابة خارج نطاق العائلة الأسية الكلاسيكية ، وبأكثر من مُعامل واحد. ويمكن تحويل كل مُعامل (ليس بالضرورة المتوسط) بواسطة دالة ربط . كما أن إطار عمل VGLM واسع بما يكفي لاستيعاب استجابات متعددة بشكل طبيعي؛ وهي عبارة عن عدة استجابات مستقلة، كل منها ناتجة عن توزيع إحصائي معين، وقد تختلف قيم مُعاملاتها.

تم شرح النماذج الخطية المعممة المتجهة بالتفصيل في Yee (2015). [ 1 ] تعتمد هذه النماذج بشكل أساسي على طريقة المربعات الصغرى الموزونة تكراريًا ، لتقدير الاحتمال الأقصى لجميع معلمات النموذج عادةً. وبشكل خاص، يتم تطبيق تسجيل فيشر باستخدام هذه الطريقة، والتي تستخدم، في معظم النماذج، المشتقة الأولى والمشتقة الثانية المتوقعة لدالة الاحتمال اللوغاريتمي.

تحفيز

تغطي نماذج الانحدار الخطي المعمم (GLMs) بشكل أساسي نماذج ذات مُعامل واحد من عائلة الانحدار الأسي الكلاسيكية ، وتشمل ثلاثة من أهم نماذج الانحدار الإحصائي: النموذج الخطي، وانحدار بواسون للبيانات العددية، والانحدار اللوجستي للاستجابات الثنائية. مع ذلك، تُعدّ عائلة الانحدار الأسي محدودة للغاية بالنسبة لتحليل البيانات العادي. على سبيل المثال، بالنسبة للبيانات العددية، يُصادف المرء بانتظام تضخم الأصفار، وحذف الأصفار، والتشتت الزائد، ويمكن اعتبار التعديلات المؤقتة التي أُجريت على نموذجي ذي الحدين وبواسون، في شكل شبه ذي الحدين وشبه بواسون، تعديلاتٍ مؤقتة وغير مُرضية. لكن إطار عمل VGLM يتعامل بسهولة مع نماذج مثل انحدار بواسون ذي تضخم الأصفار ، وانحدار بواسون المُعدّل (الحاجز)، وانحدار بواسون الموجب، وانحدار ذي الحدين السالب . كمثال آخر، في النموذج الخطي، يُعتبر تباين التوزيع الطبيعي مُعاملًا قياسيًا، وغالبًا ما يُعامل كمعامل مُزعج (إن اعتُبر مُعاملًا أصلًا). لكن إطار عمل VGLM يسمح بنمذجة التباين باستخدام المتغيرات المُصاحبة.

بشكل عام، يمكن اعتبار نماذج VGLM بمثابة نماذج GLM تتعامل مع العديد من النماذج خارج نطاق العائلة الأسية الكلاسيكية، ولا تقتصر على تقدير متوسط ​​واحد. أثناء التقدير، بدلاً من استخدام طريقة المربعات الصغرى الموزونة في طريقة IRLS، تُستخدم طريقة المربعات الصغرى المعممة للتعامل مع الارتباط بين المتغيرات الخطية M.

البيانات والرموز

نفترض أن الاستجابة أو النتيجة أو المتغير (المتغيرات) التابع ،y=(y1،...،yسؤال1)تي{\displaystyle {\boldsymbol {y}}=(y_{1},\ldots ,y_{Q_{1}})^{T}}يُفترض أن هذه القيم مُولَّدة من توزيع معين . معظم التوزيعات أحادية المتغير، لذاسؤال1=1{\displaystyle Q_{1}=1}ومثال علىسؤال1=2{\displaystyle Q_{1}=2}هو التوزيع الطبيعي ثنائي المتغيرات.

أحيانًا نكتب بياناتنا على النحو التالي:(xأنا،wأنا،yأنا){\displaystyle ({\boldsymbol {x}}_{i},w_{i},{\boldsymbol {y}}_{i})} لأنا=1،...،ن{\displaystyle i=1,\ldots ,n}تُعتبر كل مشاهدة من المشاهدات n مستقلة.yأنا=(yأنا1،...،yأناسؤال1)تي{\displaystyle {\boldsymbol {y}}_{i}=(y_{i1},\ldots ,y_{iQ_{1}})^{T}}. الwأنا{\displaystyle w_{i}}تُعرف الأوزان المسبقة الإيجابية، وغالبًاwأنا=1{\displaystyle w_{i}=1}.

تُكتب المتغيرات التفسيرية أو المستقلةx=(x1،...،xص)تي{\displaystyle {\boldsymbol {x}}=(x_{1},\ldots ,x_{p})^{T}}أو عندما تكون هناك حاجة إلى i ، كماxأنا=(xأنا1،...،xأناص)تي{\displaystyle {\boldsymbol {x}}_{i}=(x_{i1},\ldots ,x_{ip})^{T}}عادةً ما يكون هناك تقاطع ، وفي هذه الحالة x1=1{\displaystyle x_{1}=1}أوxأنا1=1{\displaystyle x_{i1}=1}.

في الواقع، يسمح إطار عمل VGLM بـ S استجابة، كل منها ذو بُعدسؤال1{\displaystyle Q_{1}}في المثال أعلاه ، S  =  1. ومن ثم فإن بُعدyأنا{\displaystyle {\boldsymbol {y}}_{i}}بشكل عامسؤال=S×سؤال1{\displaystyle Q=S\times Q_{1}}يتم التعامل مع استجابات S بواسطة التعليمات البرمجية كما هو الحال vglm(cbind(y1, y2, y3) ~ x2 + x3, ..., data = mydata)بالنسبة لـ S  =  3. ولتبسيط الأمور، فإن معظم هذا المقال يحتوي على S  =  1.

مكونات النموذج

يتكون نموذج VGLM عادةً من أربعة عناصر:

1. دالة كثافة الاحتمال أو دالة كتلة الاحتمال من توزيع إحصائي ما والتي لها دالة احتمال لوغاريتميةℓ{\displaystyle \ell }المشتقات الأولى∂ℓ/∂θج{\displaystyle \partial \ell /\partial \theta _{j}}ومصفوفة المعلومات المتوقعة التي يمكن حسابها. يجب أن يستوفي النموذج شروط الانتظام المعتادة لتقدير الاحتمال الأقصى .
2. المتنبئات الخطيةηج{\displaystyle \eta _{j}}كما هو موضح أدناه لنمذجة كل معلمةθج{\displaystyle \theta _{j}}،ج=1،...،م.{\displaystyle j=1,\ldots ,M.}
3. وظائف الربطزج{\displaystyle g_{j}}بحيثθج=زج-1(ηج).{\displaystyle \theta _{j}=g_{j}^{-1}(\eta _{j}).}
4. مصفوفات القيودحك{\displaystyle {\boldsymbol {H}}_{k}}لك=1،...،ص،{\displaystyle k=1,\ldots ,p,}كل منها ذو رتبة عمود كاملة ومعروف.

المتنبئات الخطية

كل مُتنبئ خطي هو كمية تتضمن معلومات حول المتغيرات المستقلة في النموذج. الرمزηج{\displaystyle \eta _{j}}يشير الرمز ( اليوناني " إيتا ") إلى المتنبئ الخطي، ويُستخدم الرمز السفلي j للدلالة على المتنبئ رقم j . ويربط هذا الرمز المعلمة رقم j بالمتغيرات التفسيرية، و ηج{\displaystyle \eta _{j}}يتم التعبير عنها كمجموعات خطية (وبالتالي "خطية") من معلمات غير معروفةβج،{\displaystyle {\boldsymbol {\beta }}_{j},} أي، معاملات الانحدارβ(ج)ك{\displaystyle \beta _{(j)k}}.

المعامل j ،θج{\displaystyle \theta _{j}}يعتمد جزء من التوزيع على المتغيرات المستقلة.x،{\displaystyle {\boldsymbol {x}},}خلال

زج(θج)=ηج=βجتيx.{\displaystyle g_{j}(\theta _{j})=\eta _{j}={\boldsymbol {\beta }}_{j}^{T}{\boldsymbol {x}}.}

يتركη=(η1،...،ηم)تي{\displaystyle {\boldsymbol {\eta }}=(\eta _{1},\ldots ,\eta _{M})^{T}}ليكن متجه جميع المتغيرات التنبؤية الخطية. (للتسهيل، نرمز دائمًا إلى η{\displaystyle {\boldsymbol {\eta }}} (يكون من البعد M ). وبالتالي فإن جميع المتغيرات المصاحبة التي تشملx{\displaystyle {\boldsymbol {x}}}قد تؤثر على جميع المعايير من خلال المتنبئات الخطيةηج{\displaystyle \eta _{j}}لاحقًا، سنسمح بتعميم المتنبئات الخطية إلى متنبئات جمعية، وهي عبارة عن مجموع دوال سلسة لكل منهاxك{\displaystyle x_{k}}ويتم تقدير كل دالة من البيانات.

تُحدد كل دالة ربط العلاقة بين مُتنبئ خطي ومعلمة من معلمات التوزيع. توجد العديد من دوال الربط الشائعة الاستخدام، وقد يكون اختيارها عشوائيًا إلى حد ما. من المنطقي محاولة مطابقة مجال دالة الربط مع نطاق قيمة معلمة التوزيع. لاحظ أعلاه أنزج{\displaystyle g_{j}}يسمح ذلك باستخدام دالة ربط مختلفة لكل مُعامل. ولها خصائص مشابهة لتلك الموجودة في النماذج الخطية المعممة ، فعلى سبيل المثال، تتضمن دوال الربط الشائعة دالة الربط اللوجستي للمُعاملات في(0،1){\displaystyle (0,1)}ورابط السجل للمعاملات الموجبة. VGAMتحتوي الحزمة على دالة identitylink()للمعاملات التي يمكن أن تأخذ قيمًا موجبة وسالبة.

مصفوفات القيود

وبشكل أعم، يسمح إطار عمل VGLM بأي قيود خطية بين معاملات الانحدارβ(ج)ك{\displaystyle \beta _{(j)k}}لكل مُتنبئ خطي. على سبيل المثال، قد نرغب في جعل بعضها يساوي صفرًا، أو تقييد بعضها الآخر ليكون متساويًا. لدينا

η=∑ك=1صβ(ك)xك=∑ك=1صحكβ(ك)*xك{\displaystyle {\boldsymbol {\eta }}=\sum _{k=1}^{p}\,{\boldsymbol {\beta }}_{(k)}^{}\,x_{k}=\sum _{k=1}^{p}\,{\boldsymbol {H}}_{k}\;{\boldsymbol {\beta }}_{(k)}^{*}\,x_{k}}

حيثحك{\displaystyle {\boldsymbol {H}}_{k}}هي مصفوفات القيود . كل مصفوفة قيود معروفة ومحددة مسبقًا، وتحتوي على M صفًا، وعدد أعمدة يتراوح بين 1 و M. عناصر مصفوفات القيود ذات قيم محدودة، وغالبًا ما تكون 0 أو 1. على سبيل المثال، القيمة 0 تستبعد العنصر فعليًا، بينما القيمة 1 تتضمنه. من الشائع في بعض النماذج افتراض التوازي ، مما يعني أن حك=1م{\displaystyle {\boldsymbol {H}}_{k}={\boldsymbol {1}}_{M}}لك=2،...،ص{\displaystyle k=2,\ldots ,p}وبالنسبة لبعض الطرازات، لـك=1{\displaystyle k=1}أيضًا. الحالة الخاصة عندماحك=أنام{\displaystyle {\boldsymbol {H}}_{k}={\boldsymbol {I}}_{M}}للجميعك=1،...،ص{\displaystyle k=1,\ldots ,p}يُعرف هذا النوع بالقيود البسيطة ؛ حيث يتم تقدير جميع معاملات الانحدار وهي غير مرتبطة ببعضها البعض.θج{\displaystyle \theta _{j}}يُعرف باسم المعامل ذي التقاطع فقط إذا كان الصف j من جميعحك={\displaystyle {\boldsymbol {H}}_{k}=}يساوي0تي{\displaystyle {\boldsymbol {0}}^{T}}لك=2،...،ص{\displaystyle k=2,\ldots ,p}، أي،ηج=β(ج)1*{\displaystyle \eta _{j}=\beta _{(j)1}^{*}}يساوي قيمة ثابتة فقط. وبالتالي، يتم نمذجة المعاملات التي تحتوي على قيمة ثابتة فقط بأبسط شكل ممكن، كقيمة عددية.

المعلمات المجهولة،β*=(β(1)*تي،...،β(ص)*تي)تي{\displaystyle {\boldsymbol {\beta }}^{*}=({\boldsymbol {\beta }}_{(1)}^{*T},\ldots ,{\boldsymbol {\beta }}_{(p)}^{*T})^{T}}يتم تقديرها عادةً باستخدام طريقة الاحتمال الأقصى . ويمكن وضع جميع معاملات الانحدار في مصفوفة كما يلي:

ηأنا=بتيxأنا=(β1تيxأنا⋮βمتيxأنا)=(β(1)،...،β(ص))xأنا.{\displaystyle {\boldsymbol {\eta }}_{i}={\boldsymbol {B}}^{T}{\boldsymbol {x}}_{i}={\begin{pmatrix}{\boldsymbol {\beta }}_{1}^{T}\,{\boldsymbol {x}}_{i}\\\vdots \\{\boldsymbol {\beta }}_{M}^{T}\,{\boldsymbol {x}}_{i}\\\end{pmatrix}}=\left({\boldsymbol {\beta }}_{(1)}^{},\ldots ,{\boldsymbol {\beta }}_{(p)}^{}\right)\;{\boldsymbol {x}}_{i}.}

منشأة xij

وبشكل أعم، يمكن للمرء أن يسمح بقيمة متغيرxك{\displaystyle x_{k}} أن يكون لكل منهما قيمة مختلفةηج{\displaystyle \eta _{j}}على سبيل المثال، إذا كان كل مُتنبئ خطي خاصًا بنقطة زمنية مختلفة، فقد يكون لدينا متغير مُصاحب مُتغير مع الزمن. في نماذج الاختيار المنفصل ، على سبيل المثال ، لدينا نماذج لوجيت شرطية ، ونماذج لوجيت متداخلة ، ونماذج لوجيت مُعممة ، وما شابه، للتمييز بين متغيرات مُعينة وتطبيق نموذج لوجيت متعدد الحدود، على سبيل المثال، لخيارات النقل. يختلف متغير مثل التكلفة باختلاف الاختيار، على سبيل المثال، سيارة الأجرة أغلى من الحافلة، والحافلة أغلى من المشي. تُمكّن هذه xijالخاصية VGAMمن التعميم.ηج(xأنا){\displaystyle \eta _{j}({\boldsymbol {x}}_{i})} لηج(xأناج){\displaystyle \eta _{j}({\boldsymbol {x}}_{ij})}.

الصيغة الأكثر عمومية هي

ηأنا=oأنا+∑ك=1صدأناأز(xأناك1،...،xأناكم)حكβ(ك)*.{\displaystyle {\boldsymbol {\eta }}_{i}={\boldsymbol {o}}_{i}+\sum _{k=1}^{p}\,diag(x_{ik1},\ldots ,x_{ikM})\,\mathbf {H} _{k}\,{\boldsymbol {\beta }}_{(k)}^{*}.}

هناoأنا{\displaystyle {\boldsymbol {o}}_{i}}هو إزاحة اختيارية ؛ والتي تُترجم إلى أن تكونن×م{\displaystyle n\times M}المصفوفة عملياً. VGAMتحتوي الحزمة على xijوسيط يسمح بإدخال العناصر المتتالية للمصفوفة القطرية.

برمجة

يصف يي (2015) [ 1 ] تطبيقًا لحزمة R يُسمى VGAM. [ 2 ] يدعم هذا البرنامج حاليًا ما يقارب 150 نموذجًا/توزيعًا. وظائف النمذجة الأساسية هي vglm()و vgam(). familyيُسند إلى الوسيط دالة من عائلة VGAM ، على سبيل المثال، للانحدار ذي الحدين السالب ، family = negbinomialوللانحدار بواسون ، وللنموذج النسبي الفردي أو نموذج اللوجيت التراكمي للانحدار الفئوي الترتيبي.family = poissonfffamily = propodds

تركيب

أقصى احتمال

نحن نعمل على تعظيم دالة الاحتمال اللوغاريتمي

ℓ=∑أنا=1نwأناℓأنا،{\displaystyle \ell =\sum _{i=1}^{n}\,w_{i}\,\ell _{i},}

حيثwأنا{\displaystyle w_{i}}هي أوزان مسبقة موجبة ومعروفة . يمكن إيجاد تقديرات الاحتمال الأقصى باستخدام خوارزمية المربعات الصغرى المعاد ترجيحها بشكل تكراري باستخدام طريقة تسجيل فيشر ، مع تحديثات على النحو التالي:

β(أ+1)=β(أ)+أنا-1(β(أ))u(β(أ))،{\displaystyle {\boldsymbol {\beta }}^{(a+1)}={\boldsymbol {\beta }}^{(a)}+{\boldsymbol {\mathcal {I}}}^{-1}({\boldsymbol {\beta }}^{(a)})\,\,\mathbf {u} ({\boldsymbol {\beta }}^{(a)}),}

أينأنا(β(أ)){\displaystyle {\boldsymbol {\mathcal {I}}}({\boldsymbol {\beta }}^{(a)})}هي مصفوفة معلومات فيشر في التكرار a . وتسمى أيضًا مصفوفة المعلومات المتوقعة ، أو EIM .

VLM

لإجراء الحساب، تُدمج مصفوفة النموذج (الصغيرة) المُنشأة من الطرف الأيمن للصيغة المذكورة vglm() ومصفوفات القيود لتكوين مصفوفة نموذج كبيرة . تُطبق طريقة المربعات الصغرى العكسية (IRLS) على هذه المصفوفة الكبيرة X. تُعرف هذه المصفوفة بمصفوفة VLM، لأن النموذج الخطي المتجهي هو أساس حل مشكلة المربعات الصغرى. يُعد VLM انحدارًا متعدد المتغيرات مُرجّحًا، حيث لا تكون مصفوفة التباين والتباين المشترك لكل صف من مصفوفة الاستجابة متطابقة بالضرورة، وهي معلومة. (في الانحدار متعدد المتغيرات التقليدي، تمتلك جميع الأخطاء مصفوفة تباين وتباين مشترك متطابقة، وهي غير معلومة). على وجه الخصوص، يُقلل VLM مجموع المربعات المُرجّح.

RهـsSS=∑أنا=1نwأنا{zأنا(أ-1)-ηأنا(أ-1)}تيدبليوأنا(أ-1){zأنا(أ-1)-ηأنا(أ-1)}{\displaystyle \mathrm {ResSS} =\sum _{i=1}^{n}\;w_{i}\left\{\mathbf {z} _{i}^{(a-1)}-{\boldsymbol {\eta }}_{i}^{(a-1)}\right\}^{T}\mathbf {W} _{i}^{(a-1)}\left\{\mathbf {z} _{i}^{(a-1)}-{\boldsymbol {\eta }}_{i}^{(a-1)}\right\}}

يتم تقليل هذه الكمية في كل تكرار من تكرارات IRLS. الاستجابات العاملة (المعروفة أيضًا باسم الاستجابة الزائفة والمتجهات التابعة المعدلة ) هي

zأنا=ηأنا+دبليوأنا-1uأنا،{\displaystyle \mathbf {z} _{i}={\boldsymbol {\eta }}_{i}+\mathbf {W} _{i}^{-1}\mathbf {u} _{i},}

حيثدبليوأنا{\displaystyle \mathbf {W} _{i}}تُعرف هذه المصفوفات بأوزان العمل أو مصفوفات أوزان العمل . وهي متناظرة وموجبة التحديد. يساعد استخدام طريقة EIM على ضمان كونها جميعًا موجبة التحديد (وليس فقط مجموعها) في معظم فضاء المعلمات. في المقابل، يعني استخدام طريقة نيوتن-رافسون استخدام مصفوفات المعلومات المرصودة، والتي تميل إلى أن تكون موجبة التحديد في مجموعة فرعية أصغر من فضاء المعلمات.

من الناحية الحسابية، يتم استخدام تحليل تشوليسكي لعكس مصفوفات الوزن العاملة ولتحويل مشكلة المربعات الصغرى المعممة الشاملة إلى مشكلة المربعات الصغرى العادية .

أمثلة

النماذج الخطية المعممة

بالطبع، جميع النماذج الخطية المعممة هي حالات خاصة من نماذج VGLM. لكننا غالباً ما نقدر جميع المعلمات باستخدام تقدير الاحتمال الأقصى الكامل بدلاً من استخدام طريقة العزوم لمعلمة المقياس.

استجابة تصنيفية مرتبة

إذا كان المتغير التابع عبارة عن قياس ترتيبي ذي M  +  1 مستوى ، فيمكن حينها ملاءمة دالة نموذجية بالشكل التالي:

ز(θج)=ηج{\displaystyle g(\theta _{j})=\eta _{j}} أينθج=Pر(Y≤ج)،{\displaystyle \theta _{j}=\mathrm {Pr} (Y\leq j),}

لج=1،...،م.{\displaystyle j=1,\ldots ,M.} تؤدي الروابط المختلفة (g) إلى نماذج احتمالات نسبية أو نماذج بروبيت مرتبةVGAM ، على سبيل المثال، تُعيّن دالة العائلة cumulative(link = probit)رابط بروبيت للاحتمالات التراكمية، ولذلك يُسمى هذا النموذج أيضًا نموذج بروبيت التراكمي . وبشكل عام، تُسمى هذه النماذج بنماذج الروابط التراكمية .

بالنسبة للتوزيعات الفئوية والمتعددة الحدود، فإن القيم المُقدَّرة هي متجه ( M  +  1) من الاحتمالات، مع خاصية أن مجموع كل الاحتمالات يساوي 1. يشير كل احتمال إلى احتمالية حدوث إحدى القيم الممكنة M  +  1.

استجابة فئوية غير مرتبة

إذا كان المتغير التابع عبارة عن قياس اسمي ، أو إذا كانت البيانات لا تفي بافتراضات النموذج المرتب، فيمكن حينها ملاءمة نموذج بالشكل التالي:

سجل⁡[Pر(Y=ج)Pر(Y=م+1)]=ηج،{\displaystyle \log \left[{\frac {Pr(Y=j)}{\mathrm {Pr} (Y=M+1)}}\right]=\eta _{j},}

لج=1،...،م.{\displaystyle j=1,\ldots ,M.}يُطلق على الرابط المذكور أعلاه أحيانًا اسم رابط اللوجيت المتعدد ، ويُسمى النموذج نموذج اللوجيت متعدد الحدود . من الشائع اختيار المستوى الأول أو الأخير من الاستجابة كمجموعة مرجعية أو أساسية ؛ ويستخدم المثال أعلاه المستوى الأخير. تُناسب VGAMدالة العائلة multinomial()النموذج المذكور أعلاه، ولها وسيط يُسمى refLevelيمكن تعيين المستوى المستخدم كمجموعة مرجعية له.

بيانات العد

تُجري نظرية النماذج الخطية المعممة الكلاسيكية تحليل انحدار بواسون لبيانات العد . ويكون الرابط عادةً هو اللوغاريتم، المعروف بالرابط الكنسي . وتتناسب دالة التباين مع المتوسط.

متغير⁡(Yأنا)=τμأنا،{\displaystyle \operatorname {Var} (Y_{i})=\tau \mu _{i},\,}

حيث معامل التشتتτ{\displaystyle \tau }عادةً ما تكون قيمة ثابتة عند واحد بالضبط. وعندما لا تكون كذلك، يُوصف نموذج شبه الاحتمالية الناتج غالبًا بأنه بواسون مع تشتت زائد ، أو شبه بواسون ؛τ{\displaystyle \tau }يتم تقديرها عادةً باستخدام طريقة العزوم، وبالتالي، فإن فترات الثقة لـτ{\displaystyle \tau }يصعب الحصول عليها.

في المقابل، توفر نماذج الانحدار الخطي المعمم المتغير (VGLMs) مجموعةً أوسع من النماذج للتعامل مع التشتت الزائد مقارنةً بتوزيع بواسون، مثل التوزيع ذي الحدين السالب والعديد من متغيراته. ومن نماذج انحدار العد الأخرى توزيع بواسون المعمم . ومن النماذج الأخرى الممكنة توزيع زيتا وتوزيع زيبف .

الإضافات

نماذج خطية معممة ذات متجهات منخفضة الرتبة

نماذج RR-VGLM هي نماذج VGLM حيث تكون مجموعة فرعية من المصفوفة B ذات رتبة أقل . وبدون فقدان للعمومية، لنفترض أنx=(x1تي،x2تي)تي{\displaystyle {\boldsymbol {x}}=({\boldsymbol {x}}_{1}^{T},{\boldsymbol {x}}_{2}^{T})^{T}}هو تجزئة لمتجه المتغيرات المساعدة. ثم يكون جزء المصفوفة B المقابل لـx2{\displaystyle {\boldsymbol {x}}_{2}}وهو على شكلأجتي{\displaystyle {\boldsymbol {A}}{\boldsymbol {C}}^{T}}أينأ{\displaystyle {\boldsymbol {A}}}و ج{\displaystyle {\boldsymbol {C}}}هي مصفوفات رقيقة (أي ذات R عمودًا)، على سبيل المثال، متجهات إذا كانت الرتبة R  =  1. توفر نماذج RR-VGLMs العديد من المزايا المحتملة عند تطبيقها على نماذج ومجموعات بيانات معينة. أولًا، إذا كانت M و p كبيرتين، فإن عدد معاملات الانحدار التي يتم تقديرها بواسطة VGLMs يكون كبيرًا (م×ص{\displaystyle M\times p}ثم يمكن لنماذج RR-VGLMs أن تقلل عدد معاملات الانحدار المقدرة بشكل كبير إذا كانت قيمة R منخفضة، على سبيل المثال، R  =  1 أو R  =  2. ومن الأمثلة على النماذج التي يكون فيها هذا مفيدًا بشكل خاص نموذج RR-multinomial logit ، المعروف أيضًا باسم نموذج النمطية . ثانيًا،ν=جتيx2=(ν1،...،νR)تي{\displaystyle {\boldsymbol {\nu }}={\boldsymbol {C}}^{T}{\boldsymbol {x}}_{2}=(\nu _{1},\ldots ,\nu _{R})^{T}} هو متجه R من المتغيرات الكامنة ، وغالبًا ما يمكن تفسير هذه المتغيرات بشكل مفيد. إذا كان R  =  1، فيمكننا كتابةν=جتيx2{\displaystyle \nu ={\boldsymbol {c}}^{T}{\boldsymbol {x}}_{2}} بحيث يتضمن المتغير الكامن معاملات التحميل على المتغيرات التفسيرية. ويمكن ملاحظة أن نماذج RR-VGLMs تأخذ توليفات خطية مثلى منx2{\displaystyle {\boldsymbol {x}}_{2}} ثم يتم تركيب نموذج VGLM على المتغيرات التفسيرية(x1،ν){\displaystyle ({\boldsymbol {x}}_{1},{\boldsymbol {\nu }})}ثالثًا، يمكن إنتاج مخطط ثنائي إذا كانت R  =  2، وهذا يسمح بتصور النموذج.

يمكن إثبات أن نماذج RR-VGLMs هي ببساطة نماذج VGLMs حيث تكون مصفوفات القيود للمتغيرات فيx2{\displaystyle {\boldsymbol {x}}_{2}}غير معروفة وتحتاج إلى تقدير. ثم يتضح أنحك=أ{\displaystyle {\boldsymbol {H}}_{k}={\boldsymbol {A}}}بالنسبة لهذه المتغيرات، يمكن تقدير نماذج RR-VGLMs باستخدام خوارزمية متناوبة تُثبّتأ{\displaystyle {\boldsymbol {A}}} والتقديراتج،{\displaystyle {\boldsymbol {C}},}ثم يقوم بالإصلاحاتج{\displaystyle {\boldsymbol {C}}}والتقديراتأ{\displaystyle {\boldsymbol {A}}}، إلخ.

من الناحية العملية، هناك حاجة إلى بعض قيود التفرد لـأ{\displaystyle {\boldsymbol {A}}} و/أوج{\displaystyle {\boldsymbol {C}}}في هذه الدالة VGAM، rrvglm()يتم استخدام قيود الزاوية افتراضيًا، مما يعني أن الصفوف R العلوية منأ{\displaystyle {\boldsymbol {A}}}تم ضبطه علىأناR{\displaystyle {\boldsymbol {I}}_{R}}تم اقتراح نماذج RR-VGLMs في عام 2003. [ 3 ]

اثنان إلى واحد

تُعدّ حالة خاصة من نماذج RR-VGLMs عندما يكون R  =  1 و M  =  2. وهذا يعني تقليل الأبعاد من معلَمين إلى معلَم واحد. عندئذٍ يمكن إثبات ما يلي:

θ2=ز2-1(ت1+أ21⋅ز1(θ1))،{\displaystyle \theta _{2}=g_{2}^{-1}\left(t_{1}+a_{21}\cdot g_{1}(\theta _{1})\right),}

حيث العناصرت1{\displaystyle t_{1}}وأ21{\displaystyle a_{21}}يتم تقديرها. أو بعبارة أخرى،

η2=ت1+أ21⋅η1.{\displaystyle \eta _{2}=t_{1}+a_{21}\cdot \eta _{1}.}

توفر هذه الصيغة اقترانًا لـη1{\displaystyle \eta _{1}}وη2{\displaystyle \eta _{2}}يُنشئ هذا النموذج علاقة بين مُعاملين، وهي علاقة مفيدة، على سبيل المثال، لنمذجة علاقة المتوسط ​​بالتباين. في بعض الأحيان، تتوفر خيارات متعددة لدوال الربط، مما يُتيح مرونةً في ربط المُعاملين، مثل دالة الربط اللوجستي (logit)، أو الانحدار اللوجستي (probit)، أو الانحدار اللوجستي المختلط (cauchit)، أو الانحدار اللوجستي المختلط (cloglog) للمُعاملات في الفترة [0، 1]. تُعدّ الصيغة المذكورة أعلاه مفيدةً بشكل خاص لتوزيع ذي الحدين السالب ، حيث يمتلك توزيع ذي الحدين السالب المُعاد ترتيبه دالة تباين.

متغير⁡(Y|x)=μ(x)+دلتا1μ(x)دلتا2.{\displaystyle \operatorname {Var} (Y\mid {\boldsymbol {x}})=\mu ({\boldsymbol {x}})+\delta _{1}\,\mu ({\boldsymbol {x}})^{\delta _{2}}.}

وقد أطلق بعض المؤلفين على هذا النوع اسم NB-P .دلتا1{\displaystyle \delta _{1}}ودلتا2{\displaystyle \delta _{2}}يتم تقديرها، ومن الممكن أيضًا الحصول على فترات ثقة تقريبية لها أيضًا.

بالمناسبة، يمكن أيضًا تطبيق العديد من متغيرات NB المفيدة الأخرى، وذلك باختيار التركيبة المناسبة من مصفوفات القيود. على سبيل المثال، NB - 1، و NB - 2 ( الافتراضي)، و NB - H ؛ انظر Yee (2014) [ 4 ] والجدول 11.3 من Yee (2015). [ 1 ]    negbinomial()  

RCIMs

تم اقتراح فئة فرعية من نماذج التفاعل بين الصفوف والأعمدة (RCIMs)؛ وهي نوع خاص من نماذج RR-VGLM. تنطبق نماذج RCIMs فقط على استجابة المصفوفة Y ، ولا توجد متغيرات تفسيرية صريحة.x{\displaystyle {\boldsymbol {x}}}بدلاً من ذلك، يتم تحديد متغيرات مؤشر لكل صف وعمود بشكل صريح، وتفاعل ترتيب- R على النحو التالي: أجتي{\displaystyle {\boldsymbol {A}}{\boldsymbol {C}}^{T}}يُسمح بذلك. تشمل الحالات الخاصة لهذا النوع من النماذج نموذج ارتباط غودمان RC ومنهجية شبه التباينات كما هو مطبق بواسطة qvcalcحزمة R.

يمكن تعريف RCIMs على أنها RR-VGLM مطبقة على Y مع

ز1(θ1)≡η1أناج=β0+αأنا+γج+∑ر=1Rجأنارأجر.{\displaystyle g_{1}(\theta _{1})\equiv \eta _{1ij}=\beta _{0}+\alpha _{i}+\gamma _{j}+\sum _{r=1}^{R}c_{ir}\,a_{jr}.}

بالنسبة لنموذج جمعية غودمان RC، لديناη1أناج=سجل⁡μأناج،{\displaystyle \eta _{1ij}=\log \mu _{ij},}بحيث إذا كانت R  =  0 فإن ذلك يكون انحدار بواسون مناسبًا لمصفوفة من التكرارات مع تأثيرات الصف وتأثيرات العمود؛ وهذا له فكرة مشابهة لنموذج ANOVA ثنائي الاتجاه بدون تفاعل.

مثال آخر على RCIM هو إذاز1{\displaystyle g_{1}}هو الرابط المطابق والمعلمة هي الوسيط والنموذج يتوافق مع توزيع لابلاس غير المتماثل؛ ثم يكون RCIM بدون تفاعل مشابهًا لتقنية تسمى تلميع الوسيط .

في هذه الدراسة VGAM، تتوافق rcim()الدوال grc()مع النماذج المذكورة أعلاه. كما أظهر يي وهادي (2014) [ 5 ] أنه يمكن استخدام نماذج RCIMs لملاءمة نماذج الترتيب التربيعي غير المقيدة لبيانات الأنواع؛ وهذا مثال على تحليل التدرج غير المباشر في الترتيب (وهو موضوع في علم البيئة الإحصائي).

نماذج الجمع المعممة المتجهة

تُعد النماذج المضافة المعممة المتجهة (VGAMs) امتدادًا رئيسيًا للنماذج الخطية المعممة المتجهة (VGLMs) حيث يكون المتنبئ الخطيηج{\displaystyle \eta _{j}}لا يقتصر على أن يكون خطيًا في المتغيرات المصاحبةxك{\displaystyle x_{k}}لكن هل مجموع دوال التنعيم المطبقة علىxك{\displaystyle x_{k}}:

η(x)=ح1β(1)*+ح2و(2)*(x2)+ح3و(3)*(x3)+⋯{\displaystyle {\boldsymbol {\eta }}({\boldsymbol {x}})={\boldsymbol {H}}_{1}\,{\boldsymbol {\beta }}_{(1)}^{*}+{\boldsymbol {H}}_{2}\,{\boldsymbol {f}}_{(2)}^{*}(x_{2})+{\boldsymbol {H}}_{3}\,{\boldsymbol {f}}_{(3)}^{*}(x_{3})+\cdots \,\!}

أينو(ك)*(xك)=(و(1)ك*(xك)،و(2)ك*(xك)،...)تي.{\displaystyle {\boldsymbol {f}}_{(k)}^{*}(x_{k})=(f_{(1)k}^{*}(x_{k}),f_{(2)k}^{*}(x_{k}),\ldots )^{T}.} هذه هي M من المتغيرات التنبؤية الجمعية . كل دالة سلسةو(ج)ك*{\displaystyle f_{(j)k}^{*}}يتم تقديرها من البيانات. لذا، فإن نماذج VGLM تعتمد على النموذج، بينما تعتمد نماذج VGAM على البيانات . حاليًا، لا يتم تطبيق سوى دوال التنعيم التكعيبية في VGAMالحزمة. بالنسبة لـ M  >  1، فهي في الواقع دوال تكعيبية متجهة ، والتي تُقدّر الدوال المكونة فيو(ج)ك*(xك){\displaystyle f_{(j)k}^{*}(x_{k})}في آنٍ واحد. بالطبع، يمكن استخدام دوال الانحدار التكعيبية مع نماذج الانحدار الخطي المعمم المتجهي (VGLMs). الدافع وراء نماذج الانحدار الخطي المعمم المتجهي (VGAMs) مشابه لدافع هاستي وتيبشيراني (1990) [ 6 ] وود (2017) [ 7 ] . وقد طُرحت نماذج الانحدار الخطي المعمم المتجهي (VGAMs) في عام 1996 [ 8 ] .

يجري العمل حاليًا على تقدير نماذج الانحدار اللوجستي متعدد المتغيرات باستخدام دوال P-splines لإيلرز وماركس (1996). [ 9 ] وهذا يتيح العديد من المزايا مقارنةً باستخدام دوال التنعيم التكعيبية والتعديل الرجعي للمتجهات ، مثل القدرة على إجراء اختيار معلمات التنعيم التلقائي بسهولة أكبر.

نماذج خطية معممة ذات متجهات منخفضة الرتبة من الدرجة الثانية

تُضيف هذه العوامل دالة تربيعية في المتغير الكامن إلى فئة RR-VGLM. والنتيجة هي إمكانية تركيب منحنى على شكل جرس لكل استجابة، كدالة للمتغير الكامن. عند R  =  2، نحصل على أسطح على شكل جرس كدالة للمتغيرين الكامنين، وهو ما يُشبه إلى حد ما التوزيع الطبيعي ثنائي المتغيرات . توجد تطبيقات خاصة لـ QRR-VGLMs في علم البيئة ، في مجال من التحليل متعدد المتغيرات يُسمى الترتيب .

كمثال محدد من الرتبة الأولى لنموذج QRR-VGLM، لنفترض بيانات بواسون مع S نوعًا. نموذج الأنواع s هو انحدار بواسون.

سجلμs(ν)=ηs(ν)=β(s)1+β(s)2ν+β(s)3ν2=αs-12(ν-usتs)2،{\displaystyle \log \,\mu _{s}(\nu )=\eta _{s}(\nu )=\beta _{(s)1}+\beta _{(s)2}\,\nu +\beta _{(s)3}\,\nu ^{2}=\alpha _{s}-{\frac {1}{2}}\left({\frac {\nu -u_{s}}{t_{s}}}\right)^{2},}

لs=1،...،S{\displaystyle s=1,\ldots ,S}. المعلمة الموجودة في أقصى اليمين والتي تستخدم الرموزαs،{\displaystyle \alpha _{s},}us،{\displaystyle u_{s},}تs،{\displaystyle t_{s},}لها دلالة بيئية خاصة، لأنها ترتبط بوفرة الأنواع ، والظروف المثلى ، والتحمل على التوالي. على سبيل المثال، يُعد التحمل مقياسًا لمدى اتساع النطاق البيئي، وتعني القيمة الكبيرة أن هذا النوع يمكنه العيش في نطاق واسع من البيئات. في المعادلة أعلاه، سيحتاج المرء إلىβ(s)3<0{\displaystyle \beta _{(s)3}<0}للحصول على منحنى على شكل جرس.

تُناسب نماذج QRR-VGLMs نماذج الترتيب الغاوسي باستخدام تقدير الاحتمال الأقصى، وهي مثال على تحليل التدرج المباشر . تستدعي cqo()الدالة الموجودة في VGAMالحزمة حاليًا optim()البحث عن الأمثل ج{\displaystyle {\boldsymbol {C}}}وبناءً على ذلك، يسهل حساب درجات الموقع وتطبيق نموذج خطي معمّم مناسب عليها. سُمّيت الدالة نسبةً إلى الاختصار CQO، الذي يرمز إلى الترتيب التربيعي المقيد : يشير مصطلح " المقيد " إلى تحليل التدرج المباشر (حيث توجد متغيرات بيئية، ويُؤخذ توليفة خطية منها كمتغير كامن)، بينما يشير مصطلح "التربيعي " إلى الصيغة التربيعية في المتغيرات الكامنة.ν{\displaystyle {\boldsymbol {\nu }}} علىη{\displaystyle {\boldsymbol {\eta }}}على نطاق واسع. لسوء الحظ، تتأثر نماذج QRR-VGLMs بالقيم الشاذة في كل من المتغيرات التابعة والمستقلة، كما أنها مكلفة حسابيًا، وقد تُعطي حلًا محليًا بدلًا من حل شامل. طُرحت نماذج QRR-VGLMs في عام 2004. [ 10 ]

انظر أيضاً

مراجع

  1. 1 2 3 يي، تي دبليو (2015). النماذج الخطية والإضافية المعممة المتجهة: مع تطبيق في لغة البرمجة R. نيويورك، الولايات المتحدة الأمريكية: سبرينغر. ISBN 978-1-4939-2817-0.
  2. ↑ "النماذج الخطية المعممة المتجهة" . 2016-01-18.
  3. ↑ يي، تي دبليو؛ هاستي، تي جيه (2003). "نماذج خطية معممة متجهة ذات رتبة منخفضة". النمذجة الإحصائية . 3 (1): 15-41 . CiteSeerX 10.1.1.36.3700 . doi : 10.1191/1471082x03st045oa . S2CID 122810408 .  
  4. ↑ يي، تي دبليو (1996). "نماذج خطية معممة ذات متجهات منخفضة الرتبة مع متنبئين خطيين". الإحصاءات الحاسوبية وتحليل البيانات . 71 : 889-902 . doi : 10.1016/j.csda.2013.01.012 .
  5. ↑ يي، تي دبليو؛ هادي، إيه إف (2014). "نماذج التفاعل بين الصفوف والأعمدة، مع تطبيق باستخدام لغة R". الإحصاءات الحاسوبية . 29 (6): 1427-1445 . doi : 10.1007/s00180-014-0499-9 . S2CID 253724333 . 
  6. ↑ هاستي، تي جيه؛ تيبشيراني، آر جيه (1990). النماذج الإضافية المعممة . لندن: تشابمان وهول.{{cite book}}: CS1 maint: publisher location ( link )
  7. ↑ وود، إس إن (2017). النماذج الجمعية المعممة: مقدمة باستخدام لغة البرمجة R ( الطبعة الثانية). لندن: تشابمان وهول. ISBN  9781498728331.{{cite book}}: CS1 maint: publisher location ( link )
  8. ↑ يي، تي دبليو؛ وايلد، سي جيه (1996). "نماذج الجمع المعممة المتجهة". مجلة الجمعية الإحصائية الملكية، السلسلة ب . 58 (3): 481-493 . doi : 10.1111/j.2517-6161.1996.tb02095.x .
  9. ↑ إيلرز، بي إتش سي؛ ماركس، بي دي (1996). "التنعيم المرن باستخدام دوال بي-سبلاين والعقوبات". العلوم الإحصائية . 11 (2): 89-121 . CiteSeerX 10.1.1.47.4521 . doi : 10.1214/ss/1038425655 . 
  10. ↑ يي، تي دبليو (2004). "تقنية جديدة لترتيب غاوسي قانوني ذي احتمالية قصوى". دراسات بيئية . 74 (4): 685-701 . doi : 10.1890/03-0078 .

للمزيد من القراءة

  • هيلبي، جوزيف (2011). الانحدار ذو الحدين السالب (  الطبعة الثانية). كامبريدج: مطبعة جامعة كامبريدج. ISBN 978-0-521-19815-8.{{cite book}}: CS1 maint: publisher location ( link )