خسارة هوبر

في الإحصاء ، تُعدّ دالة خسارة هوبر دالة خسارة تُستخدم في الانحدار القوي ، وهي أقل حساسية للقيم الشاذة في البيانات من دالة خسارة الخطأ التربيعي . كما يُستخدم أحيانًا شكلٌ مُعدَّل منها في التصنيف.

تصف دالة خسارة هوبر العقوبة التي تتكبدها عملية التقدير f . وقد عرّف هوبر (1964) دالة الخسارة بشكل مجزأ على النحو التالي ^{[ 1 ]}$${\displaystyle L_{\delta }(a)={\begin{cases}{\frac {1}{2}}{a^{2}}&{\text{لـ }}|a|\leq \delta ,\\[4pt]\delta \cdot \left(|a|-{\frac {1}{2}}\delta \right),&{\text{فيما عدا ذلك.}}\end{cases}}}$$

تكون هذه الدالة تربيعية للقيم الصغيرة لـ a ، وخطية للقيم الكبيرة، مع تساوي قيم وميول الأجزاء المختلفة عند النقطتين حيث${\displaystyle |a|=\delta }$يشير المتغير a غالبًا إلى البواقي، أي إلى الفرق بين القيم المرصودة والمتوقعة${\displaystyle a=yf(x)}$، لذا يمكن توسيع الأول إلى ^{[ 2 ]}

$${\displaystyle L_{\delta }(y,f(x))={\begin{cases}{\frac {1}{2}}{\left(yf(x)\right)}^{2}&{\text{لـ }}\left|yf(x)\right|\leq \delta ,\\[4pt]\delta \ \cdot \left(\left|yf(x)\right|-{\frac {1}{2}}\delta \right),&{\text{فيما عدا ذلك.}}\end{cases}}}$$

خسارة هوبر هي عملية التفاف دالة القيمة المطلقة مع الدالة المستطيلة ، مع تغيير المقياس والإزاحة. وبالتالي، فإنها "تنعم" زاوية الدالة الأولى عند نقطة الأصل.

من أكثر دوال الخسارة استخداماً دالة الخسارة التربيعية ،${\displaystyle L(a)=a^{2}}$والخسارة المطلقة ،${\displaystyle L(a)=|a|}$تُنتج دالة الخسارة التربيعية مُقدِّرًا غير متحيز للمتوسط ​​الحسابي ، بينما تُنتج دالة الخسارة بالقيمة المطلقة مُقدِّرًا غير متحيز للوسيط (في الحالة أحادية البُعد، ومُقدِّرًا غير متحيز للوسيط الهندسي في الحالة متعددة الأبعاد). يُعاب على دالة الخسارة التربيعية ميلها للتأثر بالقيم الشاذة عند جمعها على مجموعة من القيم.${\displaystyle a}$'s (كما في${\textstyle \sum _{i=1}^{n}L(a_{i})}$يتأثر متوسط ​​العينة بشكل كبير بعدد قليل من القيم الكبيرة بشكل خاص${\displaystyle a}$قيم - عندما يكون التوزيع ذو ذيل سميك: من حيث نظرية التقدير ، تكون الكفاءة النسبية التقاربية للمتوسط ​​ضعيفة بالنسبة للتوزيعات ذات الذيل السميك. ^{[ 3 ]}

كما هو موضح أعلاه، فإن دالة خسارة هوبر محدبة بشدة في جوار منتظم لأدنى قيمة لها.${\displaystyle a=0}$عند حدود هذا الجوار المنتظم، يكون لدالة خسارة هوبر امتداد قابل للتفاضل إلى دالة خطية عند النقاط${\displaystyle a=-\delta }$و${\displaystyle a=\delta }$تسمح هذه الخصائص بدمج الكثير من حساسية مقدر المتوسط ​​غير المتحيز ذي التباين الأدنى (باستخدام دالة الخسارة التربيعية) ومتانة مقدر الوسيط غير المتحيز (باستخدام دالة القيمة المطلقة).

يمكن استخدام دالة خسارة شبه هوبر كتقريب سلس لدالة خسارة هوبر. فهي تجمع بين أفضل خصائص خسارة L2 التربيعية وخسارة L1 المطلقة ، إذ تكون محدبة بشدة عند الاقتراب من القيمة المستهدفة/الدنيا، وأقل انحدارًا عند القيم القصوى. ويمكن التحكم في المقياس الذي تنتقل عنده دالة خسارة شبه هوبر من خسارة L2 للقيم القريبة من الحد الأدنى إلى خسارة L1 للقيم القصوى، وكذلك في انحدارها عند القيم القصوى، من خلال...${\displaystyle \delta }$القيمة. تضمن دالة خسارة شبه هوبر أن تكون المشتقات متصلة لجميع الدرجات. وهي تُعرَّف على النحو التالي ^{[ 4 ] [ 5 ]}

$${\displaystyle L_{\delta }(a)=\delta ^{2}\left({\sqrt {1+(a/\delta )^{2}}}-1\right).}$$

وبالتالي، فإن هذه الدالة تقارب${\displaystyle a^{2}/2}$بالنسبة للقيم الصغيرة لـ${\displaystyle a}$، ويقارب خطًا مستقيمًا بميل${\displaystyle \delta }$بالنسبة للقيم الكبيرة لـ${\displaystyle a}$.

على الرغم من أن الشكل المذكور أعلاه هو الشكل الأكثر شيوعًا، إلا أن هناك تقريبات سلسة أخرى لدالة خسارة هوبر. ^{[ 6 ]}

لأغراض التصنيف ، يُستخدم أحيانًا نوعٌ مُعدّل من دالة خسارة هوبر يُسمى هوبر المُعدّل . وبالنظر إلى التنبؤ${\displaystyle f(x)}$(درجة تصنيف ذات قيمة حقيقية) وتصنيف ثنائي حقيقي${\displaystyle y\in \{+1,-1\}}$، يتم تعريف خسارة هوبر المعدلة على النحو التالي ^{[ 7 ]}

$${\displaystyle L(y,f(x))={\begin{cases}\max(0,1-y\,f(x))^{2}&{\text{for }}\,\,y\,f(x)>-1,\\[4pt]-4y\,f(x)&{\text{otherwise.}}\end{cases}}}$$

على المدى${\displaystyle \max(0,1-y\,f(x))}$دالة خسارة المفصل المستخدمة في آلات المتجهات الداعمة هي دالة خسارة المفصل؛ ودالة خسارة المفصل المُنعّمة تربيعيًا هي تعميم لـ${\displaystyle L}$[ ^{7 ]​}

تُستخدم دالة خسارة هوبر في الإحصاءات القوية ، وتقدير M، والنمذجة الإضافية . ^{[ 8 ]}

• وينسورايزينغ
• الانحدار القوي
• مقدر M
• مقارنة بصرية لمقدرات M المختلفة