معامل التركيز

في نظرية الاحتمالات والإحصاء ، يُعدّ مُعامل التركيز نوعًا خاصًا من المُعاملات العددية لعائلة بارامترية من التوزيعات الاحتمالية . يظهر مُعامل التركيز في نوعين من التوزيعات: في توزيع فون ميزس-فيشر ، وبالتزامن مع التوزيعات التي يكون مجالها توزيعًا احتماليًا، مثل توزيع ديريشليه المتناظر وعملية ديريشليه . ويركز الجزء المتبقي من هذه المقالة على الاستخدام الأخير.

كلما زادت قيمة معامل التركيز، كان التوزيع الناتج أكثر انتظامًا (أي أنه يميل أكثر نحو التوزيع المنتظم ). وكلما قلت قيمة معامل التركيز، كان التوزيع الناتج أقل انتظامًا، حيث تكون احتمالية معظم القيم أو نطاقات القيم قريبة من الصفر (بمعنى آخر، يميل أكثر نحو توزيع مركز على نقطة واحدة، وهو التوزيع المنحط المحدد بدالة ديراك دلتا ).

توزيع ديريشليه

في حالة توزيعات ديريشليه متعددة المتغيرات، ثمة بعض الالتباس حول كيفية تعريف معامل التركيز. في أدبيات نمذجة المواضيع، يُعرَّف غالبًا بأنه مجموع معاملات ديريشليه الفردية، [ 1 ] وعند مناقشة توزيعات ديريشليه المتناظرة (حيث تكون المعاملات متطابقة في جميع الأبعاد)، يُعرَّف غالبًا بأنه قيمة معامل ديريشليه الوحيد المستخدم في جميع الأبعاد . هذا التعريف الثاني أصغر بمعامل بُعد التوزيع.

عندما يكون معامل التركيز مساويًا لـ 1 (أو k ، وهو بُعد توزيع ديريشليه، وفقًا للتعريف المُستخدم في أدبيات نمذجة المواضيع)، فإن جميع مجموعات الاحتمالات تكون متساوية الاحتمال، أي أن توزيع ديريشليه ذي البُعد k في هذه الحالة يُكافئ توزيعًا منتظمًا على مُجسم بسيط ذي k-1 بُعد . وهذا يختلف عما يحدث عندما يؤول معامل التركيز إلى اللانهاية. ففي الحالة الأولى، تكون جميع التوزيعات الناتجة متساوية الاحتمال (يكون التوزيع على التوزيعات منتظمًا). أما في الحالة الثانية، فتكون التوزيعات شبه المنتظمة فقط هي المُحتملة (يكون التوزيع على التوزيعات شديد التركيز حول التوزيع المنتظم). وفي الوقت نفسه، عندما يؤول معامل التركيز إلى الصفر، تكون التوزيعات التي تتركز فيها الكتلة بالكامل تقريبًا على أحد مكوناتها هي المُحتملة فقط (يكون التوزيع على التوزيعات شديد التركيز حول توزيعات ديراك دلتا k المُمكنة المُتمركزة على أحد المكونات، أو من حيث المُجسم البسيط ذي k بُعد، يكون التوزيع شديد التركيز عند زوايا المُجسم البسيط).

التوزيع الاحتمالي المحدود

كمثال على الحاجة إلى توزيع احتمالي أولي متفرق (معامل تركيز أقل بكثير من 1)، لنأخذ نموذجًا موضوعيًا يُستخدم لتعلم المواضيع التي تُناقش في مجموعة من الوثائق، حيث يُوصف كل "موضوع" باستخدام توزيع فئوي على معجم من الكلمات. قد يحتوي المعجم النموذجي على 100,000 كلمة، مما يؤدي إلى توزيع فئوي ذي 100,000 بُعد. من المرجح أن يكون التوزيع الاحتمالي الأولي لمعاملات التوزيع الفئوي توزيع ديريشليه متماثلًا . مع ذلك، قد لا يحتوي الموضوع المتماسك إلا على بضع مئات من الكلمات ذات كتلة احتمالية كبيرة. بناءً على ذلك، قد يكون الإعداد المناسب لمعامل التركيز 0.01 أو 0.001. مع معجم أكبر يبلغ حوالي مليون كلمة، قد تكون قيمة أصغر، مثل 0.0001، مناسبة.

انظر أيضاً

مراجع

  1. والاش، حنا م .؛ إيان موراي؛ روسلان سالاخوتدينوف؛ ديفيد مينو (2009). "أساليب تقييم نماذج المواضيع". وقائع المؤتمر الدولي السنوي السادس والعشرين للتعلم الآلي . ICML '09. نيويورك، نيويورك، الولايات المتحدة الأمريكية: ACM. الصفحات 1105-1112 . CiteSeerX 10.1.1.149.771 . doi : 10.1145/1553374.1553515 . ISBN   978-1-60558-516-1.