الانحدار غير البارامتري

الانحدار غير البارامتري هو شكل من أشكال تحليل الانحدار حيث لا يتخذ المتغير التنبؤي شكلاً محدداً مسبقاً، بل يُبنى بالكامل باستخدام المعلومات المستمدة من البيانات. أي أنه لا يُفترض وجود معادلة بارامترية للعلاقة بين المتغيرات التنبؤية والمتغير التابع. ويتطلب بناء نموذج غير بارامتري بنفس مستوى عدم اليقين الذي يتميز به النموذج البارامتري حجم عينة أكبر ، لأن البيانات يجب أن توفر كلاً من بنية النموذج وتقديرات المعلمات.

تعريف

يفترض الانحدار غير البارامتري العلاقة التالية، بالنظر إلى المتغيرات العشوائية.X{\displaystyle X}وY{\displaystyle Y}:

هـ[Y|X=x]=م(x)،{\displaystyle \mathbb {E} [Y\mid X=x]=m(x),}

أينم(x){\displaystyle m(x)}هي دالة حتمية. الانحدار الخطي هو حالة مقيدة من الانحدار غير البارامتري حيثم(x){\displaystyle m(x)}يُفترض أن تكون دالة خطية للبيانات. وفي بعض الأحيان، يُستخدم افتراض أقوى قليلاً يتعلق بالضوضاء المضافة.

Y=م(X)+يو،{\displaystyle Y=m(X)+U,}

حيث المتغير العشوائييو{\displaystyle U}هو "مصطلح الضوضاء"، بمتوسط ​​0. بدون افتراض أنم{\displaystyle m}إذا كانت تنتمي إلى عائلة بارامترية محددة من الدوال، فمن المستحيل الحصول على تقدير غير متحيز لها.م{\displaystyle m}ومع ذلك، فإن معظم المقدرات تكون متسقة في ظل ظروف مناسبة.

خوارزميات الانحدار غير البارامتري الشائعة

هذه قائمة غير شاملة للنماذج غير البارامترية للانحدار.

أمثلة

الانحدار باستخدام العمليات الغاوسية أو كريغينغ

في انحدار العمليات الغاوسية، المعروف أيضًا باسم كريغينغ، يُفترض وجود توزيع غاوسي مسبق لمنحنى الانحدار. وتُفترض الأخطاء أنها تتبع توزيعًا طبيعيًا متعدد المتغيرات ، ويُقدّر منحنى الانحدار باستخدام نمطه اللاحق . قد يعتمد التوزيع الغاوسي المسبق على معلمات فائقة غير معروفة، والتي تُقدّر عادةً باستخدام بايز التجريبي . تُحدد هذه المعلمات الفائقة عادةً نواة التغاير المسبقة. في حال استلزم الأمر استنتاج النواة بطريقة غير بارامترية من البيانات، يُمكن استخدام المرشح الحرج .

تُفسَّر دوال التنعيم التكعيبية على أنها النمط الخلفي لانحدار العملية الغاوسية.

الانحدار باستخدام النواة

مثال على منحنى (خط أحمر) مُلائم لمجموعة بيانات صغيرة (نقاط سوداء) باستخدام الانحدار غير البارامتري مع مُنعِّم النواة الغاوسية. توضح المنطقة المظللة باللون الوردي دالة النواة المُطبقة للحصول على تقدير لـ y لقيمة مُعطاة لـ x. تُحدد دالة النواة الوزن المُعطى لكل نقطة بيانات في إنتاج التقدير لنقطة الهدف.

يقوم الانحدار باستخدام النواة بتقدير المتغير التابع المستمر من مجموعة محدودة من نقاط البيانات عن طريق دمج مواقع نقاط البيانات مع دالة النواة - بشكل تقريبي، تحدد دالة النواة كيفية "طمس" تأثير نقاط البيانات بحيث يمكن استخدام قيمها للتنبؤ بقيمة المواقع القريبة.

أشجار الانحدار

يمكن تطبيق خوارزميات تعلم شجرة القرار لتعلم التنبؤ بمتغير تابع من البيانات. [ 2 ] على الرغم من أن الصيغة الأصلية لشجرة التصنيف والانحدار (CART) كانت تُستخدم فقط للتنبؤ بالبيانات أحادية المتغير، إلا أنه يمكن استخدام هذا الإطار للتنبؤ بالبيانات متعددة المتغيرات، بما في ذلك السلاسل الزمنية. [ 3 ]

انظر أيضاً

مراجع

  1. تشيركاسكي، فلاديمير؛ مولير، فيليب (1994). تشيزمان، ب.؛ أولدفورد، ر. و. (محرران). "التقنيات الإحصائية وتقنيات الشبكات العصبية للانحدار غير البارامتري" . اختيار النماذج من البيانات . سلسلة محاضرات في الإحصاء. نيويورك، نيويورك: سبرينغر: 383-392 . doi : 10.1007/978-1-4612-2660-4_39 . ISBN 978-1-4612-2660-4.
  2. بريمان، ليو؛ فريدمان، جيه إتش؛ أولشن، آر إيه؛ ستون، سي جيه (1984). أشجار التصنيف والانحدار . مونتيري، كاليفورنيا: وادزورث وبروكس/كول للكتب والبرمجيات المتقدمة. ISBN 978-0-412-04841-8.
  3. سيغال، إم آر (1992). "أساليب ذات بنية شجرية للبيانات الطولية". مجلة الجمعية الإحصائية الأمريكية . 87 (418). الجمعية الإحصائية الأمريكية، تايلور وفرانسيس: 407-418 . doi : 10.2307/2290271 . JSTOR 2290271 . 

للمزيد من القراءة