مسافة التباين الكلي لمقاييس الاحتمالية

المسافة الكلية للتغير تساوي نصف المساحة المطلقة بين المنحنيين: نصف المساحة المظللة أعلاه.

في نظرية الاحتمالات ، مسافة التباين الكلي هي مسافة إحصائية بين التوزيعات الاحتمالية ، وتسمى أحيانًا المسافة الإحصائية أو الفرق الإحصائي أو المسافة التباينية .

تعريف

ضع في اعتبارك مساحة قابلة للقياس(Ω،F){\displaystyle (\Omega ,{\mathcal {F}})}ومقاييس الاحتماليةP{\displaystyle P}وسؤال{\displaystyle Q}محدد في(Ω،F){\displaystyle (\Omega ,{\mathcal {F}})}المسافة الكلية للتغير بينP{\displaystyle P}وسؤال{\displaystyle Q}يُعرَّف على أنه [ 1 ]

دلتا(P،سؤال)=رشفةأF|P(أ)-سؤال(أ)|.{\displaystyle \delta (P,Q)=\sup _{A\in {\mathcal {F}}}\left|P(A)-Q(A)\right|.}

هذا هو أكبر فرق مطلق بين الاحتمالات التي يخصصها توزيعا الاحتمالات لنفس الحدث.

ملكيات

مسافة التباين الكلية هي تباعد من النوع f ومقياس احتمالي متكامل .

العلاقة بالمسافات الأخرى

ترتبط مسافة التباين الكلية بتباعد كولباك-لايبير من خلال متباينة بينسكر :

دلتا(P،سؤال)12دكل(Pسؤال).{\displaystyle \delta (P,Q)\leq {\sqrt {{\frac {1}{2}}D_{\mathrm {KL} }(P\parallel Q)}}.}

لدينا أيضًا المتباينة التالية، التي تعود إلى بريتانيول وهوبر [ 2 ] (انظر أيضًا [ 3 ] )، والتي تتميز بتقديم حد غير فارغ حتى عندمادكل(Pسؤال)>2:{\displaystyle \textstyle D_{\mathrm {KL} }(P\parallel Q)>2\colon }

دلتا(P،سؤال)1-هـ-دكل(Pسؤال).{\displaystyle \delta (P,Q)\leq {\sqrt {1-e^{-D_{\mathrm {KL} }(P\parallel Q)}}}.}

المسافة الكلية للتغير هي نصف مسافة L 1 بين دوال الاحتمال: في المجالات المنفصلة، ​​هذه هي المسافة بين دوال كتلة الاحتمال [ 4 ]

دلتا(P،سؤال)=12x|P(x)-سؤال(x)|،{\displaystyle \delta (P,Q)={\frac {1}{2}}\sum _{x}|P(x)-Q(x)|,}

وعندما يكون للتوزيعات دوال كثافة احتمالية قياسية p و q ، [ 5 ]

دلتا(P،سؤال)=12|ص(x)-q(x)|دx{\displaystyle \delta (P,Q)={\frac {1}{2}}\int |p(x)-q(x)|\,\mathrm {d} x}

(أو المسافة المماثلة بين مشتقات رادون-نيكوديم مع أي مقياس مهيمن مشترك ). يمكن إثبات هذه النتيجة بملاحظة أن القيمة العليا في التعريف تتحقق بالضبط عند المجموعة التي يهيمن فيها توزيع واحد على الآخر. [ 6 ]

ترتبط مسافة التباين الكلية بمسافة هيلينجرح(P،سؤال){\displaystyle H(P,Q)}على النحو التالي: [ 7 ]

ح2(P،سؤال)دلتا(P،سؤال)2ح(P،سؤال).{\displaystyle H^{2}(P,Q)\leq \delta (P,Q)\leq {\sqrt {2}}H(P,Q).}

تنتج هذه المتباينات مباشرة من المتباينات بين المعيار 1 والمعيار 2 .

الصلة بنظرية النقل

تُعتبر مسافة التباين الكلية (أو نصف المعيار) هي تكلفة النقل المثلى، عندما تكون دالة التكلفةج(x،y)=1xy{\displaystyle c(x,y)={\mathbf {1} }_{x\neq y}}، إنه،

12P-سؤال1=دلتا(P،سؤال)=معلومات{P(XY):قانون(X)=P،قانون(Y)=سؤال}=معلوماتπهـπ[1xy]،{\displaystyle {\frac {1}{2}}\|PQ\|_{1}=\delta (P,Q)=\inf {\big \{}\mathbb {P} (X\neq Y):{\text{Law}}(X)=P,{\text{Law}}(Y)=Q{\big \}}=\inf _{\pi }\operatorname {E} _{\pi [{\mathbf {1} }_{x\neq y}],}

حيث يتم حساب التوقع بالنسبة لمقياس الاحتماليةπ{\displaystyle \pi }في المساحة حيث(x،y){\displaystyle (x,y)}الأرواح، ويتم الاستيلاء على الحد الأدنى على كل هذه الأرواحπ{\displaystyle \pi }مع الهوامشP{\displaystyle P}وسؤال{\displaystyle Q}[ 8 ]

انظر أيضاً

مراجع

  1. تشاتيرجي، سوراف . "المسافات بين مقاييس الاحتمال" (ملف PDF) . جامعة كاليفورنيا، بيركلي. مؤرشف من الأصل (ملف PDF) في 8 يوليو 2008. تم الاطلاع عليه في 21 يونيو 2013 .
  2. ^ بريتاجنول، جيه. Huber، C، Estimation des densités: risque minimax ، Séminaire de Probabilités، XII (Univ. Strasbourg، Strasbourg، 1976/1977)، pp. 342–363، Lecture Notes in Math.، 649، Springer، Berlin، 1978، Lemma 2.1 (الفرنسية).
  3. تسيباكوف، ألكسندر ب.، مقدمة في التقدير غير البارامتري ، منقح وموسع من النسخة الفرنسية الأصلية لعام 2004. ترجمة فلاديمير زاياتس. سلسلة سبرينغر في الإحصاء. سبرينغر، نيويورك، 2009. 12+214 صفحة. ISBN 978-0-387-79051-0، المعادلة 2.25.
  4. ديفيد أ. ليفين، يوفال بيريز ، إليزابيث ل. ويلمر ، سلاسل ماركوف وأوقات الخلط ، الطبعة الثانية المنقحة (AMS، 2017)، الاقتراح 4.2، ص 48.
  5. تسيباكوف، ألكسندر ب. (2009). مقدمة في التقدير غير البارامتري (نسخة منقحة وموسعة من الطبعة الفرنسية ). نيويورك، نيويورك: سبرينغر. اللمة 2.1. ISBN  978-0-387-79051-0.
  6. ديفروي، لوك ؛ جيورفي، لازلو؛ لوغوسي، غابور (4 أبريل 1996). نظرية احتمالية للتعرف على الأنماط ( طبعة منقحة). نيويورك: سبرينغر. ISBN  978-0-387-94618-4.
  7. هارشا، براهلاد (23 سبتمبر 2011). "ملاحظات المحاضرة حول تعقيد الاتصال" (PDF) .
  8. ^ فيلاني ، سيدريك (2009). النقل الأمثل، القديم والجديد . Grundlehren der mathematischen Wissenschaften. المجلد. 338. سبرينغر-فيرلاغ برلين هايدلبرغ. ص. 10. دوى : 10.1007/978-3-540-71050-9 . رقم ISBN   978-3-540-71049-3.