المرافق السابق
في نظرية الاحتمالات البايزية ، إذا، بالنظر إلى دالة الاحتمال، التوزيع الخلفيينتمي إلى نفس عائلة التوزيع الاحتمالي مثل التوزيع الاحتمالي المسبقيُطلق على التوزيعين الاحتماليين المسبق واللاحق اسم التوزيعين المترافقين بالنسبة لدالة الاحتمال، ويُطلق على التوزيع المسبق اسم التوزيع المسبق المترافق لدالة الاحتمال..
يُعدّ التوزيع المسبق المترافق أداةً جبريةً مُيسّرةً، إذ يُتيح صيغةً مغلقةً للتوزيع اللاحق؛ وإلا فقد يكون التكامل العددي ضروريًا. علاوةً على ذلك، قد يُوضّح التوزيع المسبق المترافق كيفية تحديث دالة الاحتمال للتوزيع المسبق.
تم تقديم مفهوم "التوزيع الاحتمالي المترافق"، بالإضافة إلى مصطلح "التوزيع الاحتمالي المترافق"، من قبل هوارد رايفا وروبرت شلايفر في عملهما حول نظرية القرار البايزية . [ 1 ] [ 2 ] [ 3 ] وقد اكتشف جورج ألفريد بارنارد مفهومًا مشابهًا بشكل مستقل . [ 3 ] [ 4 ]
مثال
يمكن عمومًا تحديد شكل التوزيع الاحتمالي المسبق المترافق من خلال فحص دالة كثافة الاحتمال أو دالة كتلة الاحتمال للتوزيع. على سبيل المثال، لنفترض متغيرًا عشوائيًا يتكون من عدد النجاحات.فيتجارب برنولي باحتمالية نجاح غير معروفةفي الفترة [0,1]. سيتبع هذا المتغير العشوائي التوزيع ذي الحدين ، مع دالة كتلة احتمالية على الشكل التالي
التوزيع الاحتمالي المسبق المترافق المعتاد هو توزيع بيتا ذو المعاملات (،):
أينويتم اختيارها لتعكس أي معتقدات أو معلومات موجودة (وسيؤدي ذلك إلى توزيع منتظم ) وهل دالة بيتا تعمل كثابت تطبيع ؟
في هذا السياق،وتُسمى هذه المعلمات بالمعلمات الفائقة (معلمات التوزيع الاحتمالي المسبق)، وذلك لتمييزها عن معلمات النموذج الأساسي (هنا).من الخصائص المميزة للتوزيعات الاحتمالية المترافقة أن بُعد المعلمات الفائقة يزيد بمقدار واحد عن بُعد معلمات التوزيع الأصلي. فإذا كانت جميع المعلمات قيمًا عددية، فسيكون هناك معلمة فائقة أكثر من المعلمات؛ وينطبق هذا أيضًا على المعلمات المتجهة والمصفوفية. (انظر المقالة العامة حول عائلة التوزيعات الأسية ، وانظر أيضًا توزيع ويشارت ، وهو التوزيع الاحتمالي المترافق لمصفوفة التغاير لتوزيع طبيعي متعدد المتغيرات ، كمثال على التوزيع ذي البُعد الكبير).
إذا قمنا بأخذ عينة من هذا المتغير العشوائي وحصلنا علىالنجاحات وإذا فشلنا، فسنواجه
وهو توزيع بيتا آخر ذو معلماتويمكن بعد ذلك استخدام هذا التوزيع الخلفي كتوزيع مسبق لمزيد من العينات، مع إضافة المعلمات الفائقة ببساطة كل معلومة إضافية عند ورودها.
التفسيرات
ملاحظات زائفة
من المفيد غالبًا التفكير في المعلمات الفائقة لتوزيع مسبق مترافق يتوافق مع رصد عدد معين من المشاهدات الوهمية ذات الخصائص المحددة بواسطة هذه المعلمات. على سبيل المثال، القيمويمكن اعتبار توزيع بيتا متوافقًا معالنجاحات وحالات الفشل إذا تم استخدام الوضع اللاحق لاختيار الإعداد الأمثل للمعلمات، أوالنجاحات ويحدث الفشل عند استخدام المتوسط اللاحق لاختيار الإعداد الأمثل للمعاملات. عمومًا، بالنسبة لجميع التوزيعات المسبقة المترافقة تقريبًا، يمكن تفسير المعاملات الفائقة بدلالة الملاحظات الوهمية. وهذا يُساعد على فهم معادلات التحديث المعقدة في كثير من الأحيان، ويُساعد في اختيار معاملات فائقة مناسبة للتوزيع المسبق.
النظام الديناميكي
يمكن اعتبار التكييف على التوزيعات الاحتمالية المسبقة المترافقة بمثابة تعريف لنظام ديناميكي (منفصل زمنيًا) : فمن مجموعة معينة من المعلمات الفائقة، تُحدِّث البيانات الواردة هذه المعلمات، لذا يمكن اعتبار التغير في المعلمات الفائقة بمثابة "تطور زمني" للنظام، وهو ما يُقابل "التعلم". يؤدي البدء من نقاط مختلفة إلى تدفقات مختلفة بمرور الوقت. وهذا يُشابه النظام الديناميكي المُعرَّف بواسطة مُؤثر خطي، ولكن تجدر الإشارة إلى أنه نظرًا لأن العينات المختلفة تؤدي إلى استدلالات مختلفة، فإن هذا لا يعتمد ببساطة على الزمن، بل على البيانات المُتاحة عبر الزمن. للاطلاع على مناهج ذات صلة، انظر التقدير البايزي التكراري واستيعاب البيانات .
مثال عملي
لنفترض أن خدمة تأجير السيارات تعمل في مدينتك. يمكن للسائقين تسليم واستلام السيارات في أي مكان داخل حدود المدينة. يمكنك البحث عن السيارات واستئجارها باستخدام تطبيق.
لنفترض أنك ترغب في معرفة احتمالية العثور على سيارة للإيجار على مسافة قصيرة من عنوان منزلك في أي وقت من اليوم.
على مدار ثلاثة أيام، تقوم بتصفح التطبيق وتجد العدد التالي من السيارات على مسافة قصيرة من عنوان منزلك:
لنفترض أننا نفترض أن البيانات تأتي من توزيع بواسون . في هذه الحالة، يمكننا حساب تقدير الاحتمال الأقصى لمعلمات النموذج، وهوباستخدام تقدير الاحتمال الأقصى هذا، يمكننا حساب احتمالية وجود سيارة واحدة على الأقل متاحة في يوم معين:
هذا هو توزيع بواسون الذي يُرجح أنه قد ولّد البيانات المرصودةلكن البيانات قد تكون أيضًا من توزيع بواسون آخر، على سبيل المثال، توزيع ذو، أوإلخ. في الواقع، يوجد عدد لا نهائي من توزيعات بواسون التي يُمكن أن تكون قد ولّدت البيانات المرصودة. مع عدد قليل نسبيًا من نقاط البيانات، ينبغي أن نكون غير متأكدين تمامًا من توزيع بواسون الذي ولّد هذه البيانات. بديهيًا، ينبغي لنا بدلًا من ذلك أن نأخذ متوسطًا مرجحًا لاحتماليةلكل توزيع من توزيعات بواسون تلك، مرجحة بمدى احتمالية كل منها، بالنظر إلى البيانات التي لاحظناها.
بشكل عام، تُعرف هذه الكمية باسم التوزيع التنبؤي اللاحقأينهي نقطة بيانات جديدة،البيانات المرصودة وهي معلمات النموذج. باستخدام نظرية بايز، يمكننا توسيعلذلكعموماً، يصعب حساب هذا التكامل. ومع ذلك، إذا اخترت توزيعًا مسبقًا مترافقًا،ويمكن اشتقاق صيغة مغلقة. وهذا هو عمود التنبؤ اللاحق في الجداول أدناه.
بالعودة إلى مثالنا، إذا اخترنا توزيع غاما كتوزيع أولي لمعدل توزيعات بواسون، فإن التوزيع التنبؤي اللاحق هو التوزيع ذو الحدين السالب ، كما هو موضح في الجدول أدناه. يتم تحديد توزيع غاما بواسطة معلَمتين فائقتين.، وهو ما يتعين علينا اختياره. من خلال النظر إلى رسوم بيانية لتوزيع جاما، نختاروهذا يبدو احتمالاً معقولاً لعدد السيارات المتوسط. إن اختيار المعلمات الفائقة المسبقة أمرٌ شخصي بطبيعته ويعتمد على المعرفة المسبقة.
بالنظر إلى المعلمات الفائقة السابقةويمكننا حساب المعلمات الفائقة اللاحقةو
بمعرفة المعلمات الفائقة اللاحقة، يمكننا أخيرًا حساب التنبؤ اللاحق لـ
يعكس هذا التقدير الأكثر تحفظاً عدم اليقين في معلمات النموذج، والتي يأخذها التنبؤ اللاحق في الاعتبار.
جدول التوزيعات المترافقة
لنفترض أن n يمثل عدد المشاهدات. في جميع الحالات أدناه، يُفترض أن البيانات تتكون من n نقطة(والتي ستكون متجهات عشوائية في الحالات متعددة المتغيرات).
إذا كانت دالة الاحتمال تنتمي إلى العائلة الأسية ، فإن التوزيع المسبق المترافق موجود، وغالبًا ما يكون أيضًا في العائلة الأسية؛ انظر العائلة الأسية: التوزيعات المترافقة .
عندما تكون دالة الاحتمالية عبارة عن توزيع منفصل
| احتمالية | معلمات النموذج | التوزيع المسبق (واللاحق) المترافق | المعلمات الفائقة السابقة | المعلمات الفائقة الخلفية [ ملاحظة 1 ] | تفسير المعلمات الفائقة | التنبؤ اللاحق [ ملاحظة 2 ] |
|---|---|---|---|---|---|---|
| برنولي | الاحتمال ( p ) | بيتا | نجاحات،حالات الفشل [ ملاحظة 3 ] | ( برنولي ) | ||
| التوزيع ذو الحدين مع عدد معروف من المحاولات، N_i | الاحتمال ( p ) | بيتا | نجاحات،حالات الفشل [ ملاحظة 3 ] | ( بيتا-ذو الحدين ) | ||
| توزيع ذو حدين سالب مع عدد فشل معروف، r | الاحتمال ( p ) | بيتا | نجاحات كاملة،حالات الفشل [ ملاحظة 3 ] (أي،التجارب، بافتراض(يبقى ثابتًا) | |||
| بواسون | λ (المعدل) | جاما | إجمالي مرات الظهور فيالفترات | ( التوزيع ذو الحدين السالب ) | ||
| [ ملاحظة 4 ] | إجمالي مرات الظهور فيالفترات | ( التوزيع ذو الحدين السالب ) | ||||
| فئوي | p (متجه الاحتمالية)، k (عدد الفئات؛ أي حجم p ) | ديريشليه | أينيمثل عدد المشاهدات في الفئة i | حالات الفئة[ ملاحظة 3 ] | ( تصنيفي ) | |
| متعدد الحدود | p (متجه الاحتمالية)، k (عدد الفئات؛ أي حجم p ) | ديريشليه | حالات الفئة[ ملاحظة 3 ] | ( توزيع ديريشلي متعدد الحدود ) | ||
| التوزيع الهندسي الفائق مع حجم سكان إجمالي معروف، N | م (عدد الأعضاء المستهدفين) | بيتا-ذو الحدين [ 5 ] | نجاحات،حالات الفشل [ ملاحظة 3 ] | |||
| هندسي | p 0 (الاحتمالية) | بيتا | التجارب،حالات فشل كاملة [ ملاحظة 3 ] | ( توزيع بيتا الهندسي ) |
عندما تكون دالة الاحتمال توزيعًا مستمرًا
| احتمالية | معلمات النموذج | التوزيع المسبق (واللاحق) المترافق | المعلمات الفائقة السابقة | المعلمات الفائقة الخلفية [ ملاحظة 1 ] | تفسير المعلمات الفائقة | التنبؤ اللاحق [ ملاحظة 5 ] |
|---|---|---|---|---|---|---|
| التوزيع الطبيعي ذو التباين المعروف σ 2 | μ (المتوسط) | طبيعي | تم تقدير المتوسط من الملاحظات بدقة إجمالية (مجموع جميع الدقة الفردية).وبمتوسط العينة | [ 6 ] | ||
| الوضع الطبيعي بدقة معروفة τ | μ (المتوسط) | طبيعي | تم تقدير المتوسط من الملاحظات بدقة إجمالية (مجموع جميع الدقة الفردية).وبمتوسط العينة | [ 6 ] | ||
| توزيع طبيعي بمتوسط معروف μ | σ 2 (التباين) | غاما المعكوسة | [ ملاحظة 6 ] | تم تقدير التباين منالملاحظات ذات التباين العيني(أي بمجموع مربعات الانحرافات)، حيث تكون الانحرافات عن المتوسط المعروف) | [ 6 ] | |
| توزيع طبيعي بمتوسط معروف μ | σ 2 (التباين) | مربع كاي المعكوس المُقاس | تم تقدير التباين منالملاحظات ذات التباين العيني | [ 6 ] | ||
| توزيع طبيعي بمتوسط معروف μ | τ (الدقة) | جاما | [ ملاحظة 4 ] | تم تقدير الدقة منالملاحظات ذات التباين العيني(أي بمجموع مربعات الانحرافات)، حيث تكون الانحرافات عن المتوسط المعروف) | [ 6 ] | |
| عادي [ ملاحظة 7 ] | μ و σ 2 بافتراض قابلية التبادل | غاما المعكوسة الطبيعية |
| تم تقدير المتوسط منالملاحظات مع متوسط العينةتم تقدير التباين منالملاحظات مع متوسط العينةومجموع مربعات الانحرافات | [ 6 ] | |
| طبيعي | μ و τ بافتراض قابلية التبادل | غاما الطبيعية |
| تم تقدير المتوسط منالملاحظات مع متوسط العينةوتم تقدير الدقة منالملاحظات مع متوسط العينةومجموع مربعات الانحرافات | [ 6 ] | |
| توزيع طبيعي متعدد المتغيرات مع مصفوفة تباين معروفة Σ | μ (متجه المتوسط) | التوزيع الطبيعي متعدد المتغيرات |
| تم تقدير المتوسط من الملاحظات بدقة إجمالية (مجموع جميع الدقة الفردية).وبمتوسط العينة | [ 6 ] | |
| توزيع طبيعي متعدد المتغيرات بمصفوفة دقة معروفة Λ | μ (متجه المتوسط) | التوزيع الطبيعي متعدد المتغيرات |
| تم تقدير المتوسط من الملاحظات بدقة إجمالية (مجموع جميع الدقة الفردية).وبمتوسط العينة | [ 6 ] | |
| توزيع طبيعي متعدد المتغيرات بمتوسط معروف μ | Σ (مصفوفة التغاير) | معكوس ويشارت | تم تقدير مصفوفة التغاير منالملاحظات مع مجموع نواتج الانحراف الزوجي | [ 6 ] | ||
| توزيع طبيعي متعدد المتغيرات بمتوسط معروف μ | Λ (مصفوفة الدقة) | ويشارت | تم تقدير مصفوفة التغاير منالملاحظات مع مجموع نواتج الانحراف الزوجي | [ 6 ] | ||
| التوزيع الطبيعي متعدد المتغيرات | μ (متجه المتوسط) و Σ (مصفوفة التغاير) | ويشارت المعكوس الطبيعي |
| تم تقدير المتوسط منالملاحظات مع متوسط العينةتم تقدير مصفوفة التغاير منالملاحظات مع متوسط العينةوبمجموع نواتج الانحراف الزوجي | [ 6 ] | |
| التوزيع الطبيعي متعدد المتغيرات | μ (متجه المتوسط) و Λ (مصفوفة الدقة) | عادي-ويشارت |
| تم تقدير المتوسط منالملاحظات مع متوسط العينةتم تقدير مصفوفة التغاير منالملاحظات مع متوسط العينةوبمجموع نواتج الانحراف الزوجي | [ 6 ] | |
| زي مُوحد | باريتو | الملاحظات ذات القيمة القصوى | ||||
| باريتو مع الحد الأدنى المعروف لـ x m | ك (شكل) | جاما | الملاحظات مع المجموعمن رتبة مقدار كل ملاحظة (أي لوغاريتم نسبة كل ملاحظة إلى الحد الأدنى)) | |||
| توزيع ويبول ذو شكل معروف β | θ (مقياس) | غاما المعكوسة [ 5 ] | الملاحظات مع المجموعمن القوة β لكل ملاحظة | |||
| التوزيع اللوغاريتمي الطبيعي | ينطبق الأمر نفسه على التوزيع الطبيعي بعد تطبيق اللوغاريتم الطبيعي على البيانات لحساب المعلمات الفائقة اللاحقة. يُرجى الرجوع إلى فينك (1997 ، الصفحات 21-22) للاطلاع على التفاصيل. | |||||
| النمو الأسي | λ (المعدل) | جاما | [ ملاحظة 4 ] | الملاحظات التي مجموعها[ 7 ] | ( توزيع لوماكس ) | |
| جاما ذات شكل معروف α | β (المعدل) | جاما | الملاحظات مع المجموع | [ ملاحظة 8 ] | ||
| توزيع غاما معكوس ذو شكل معروف α | β (مقياس معكوس) | جاما | الملاحظات مع المجموع | |||
| جاما بمعدل معروف β | α (الشكل) | أوالملاحظات (لتقدير،لتقدير) مع المنتج | ||||
| جاما [ 5 ] | α (الشكل)، β (مقياس معكوس) | تم تقديرها منملاحظات حول المنتج؛تم تقديرها منالملاحظات مع المجموع | ||||
| بيتا | α ، β | وتم تقديرها منملاحظات حول المنتجونتاج المكملات | ||||
انظر أيضاً
ملحوظات
- 1 2 يُشار إليهما بنفس الرموز المستخدمة في المعلمات الفائقة السابقة مع إضافة علامات الفتحة ('). على سبيل المثاليُشار إليه بـ
- ↑ هذا هو التوزيع التنبؤي اللاحق لنقطة بيانات جديدةبالنظر إلى نقاط البيانات المرصودة، مع استبعاد المعلمات . تشير المتغيرات التي تحمل علامات الفتحة إلى القيم اللاحقة للمعلمات.
- 1 2 3 4 5 6 7 يعتمد التفسير الدقيق لمعاملات توزيع بيتا من حيث عدد حالات النجاح والفشل على الدالة المستخدمة لاستخراج تقدير نقطي من التوزيع. متوسط توزيع بيتا هووهو ما يتوافق معالنجاحات وحالات الفشل، بينما الوضع هووهو ما يتوافق معالنجاحات وفي حالات الفشل، يفضل أتباع المنهج البايزي عمومًا استخدام المتوسط اللاحق بدلًا من المنوال اللاحق كتقدير نقطي، وهو ما يبرره وجود دالة خسارة تربيعية، واستخدامويُعدّ أكثر ملاءمة من الناحية الرياضية، بينما استخدامويتميز الزي الموحد بميزةيتوافق الاحتمال السابق مع صفر من النجاحات وصفر من الإخفاقات. وتنطبق نفس المشكلات على توزيع ديريشليه .
- β هو المعدل أو المقياس العكسي. في تحديد معلمات توزيع جاما ، θ = 1 / β و k = α .
- ↑ هذا هو التوزيع التنبؤي اللاحق لنقطة بيانات جديدةبالنظر إلى نقاط البيانات المرصودة، مع استبعاد المعلمات . تشير المتغيرات التي تحمل علامات الفتحة إلى القيم اللاحقة للمعلمات.ويشير إلى التوزيع الطبيعي وتوزيع t للطالب ، على التوالي، أو إلى التوزيع الطبيعي متعدد المتغيرات وتوزيع t متعدد المتغيرات في الحالات متعددة المتغيرات.
- ↑ من حيث دالة غاما المعكوسة ،هو معامل قياس
- ↑ تم العثور على توزيع مسبق مترافق مختلف للمتوسط والتباين غير المعروفين، ولكن مع علاقة خطية ثابتة بينهما، في خليط التباين والمتوسط الطبيعي ، مع التوزيع الغاوسي المعكوس المعمم كتوزيع خلط مترافق.
- ↑هو توزيع جاما مركب ؛هذا توزيع بيتا الأولي المعمم .
مراجع
- ↑ فينبرغ، ستيفن إي. (2006-03-01). "متى أصبح الاستدلال البايزي "بايزيًا"؟" . التحليل البايزي . 1 (1). doi : 10.1214/06-BA101 . ISSN 1936-0975 .
- ↑ رايفا، هوارد ؛ شلايفر، روبرت (1970). نظرية القرار الإحصائي التطبيقي (ملف PDF) . دراسات في الاقتصاد الإداري ( الطبعة الخامسة). بوسطن: قسم البحوث، كلية هارفارد للأعمال. ISBN 0-87584-017-5.
- 1 2 ميلر، جيف. "أقدم الاستخدامات المعروفة لبعض مصطلحات الرياضيات (ج)" . أرشيف ماك تيوتور لتاريخ الرياضيات . تم الاسترجاع في 13 فبراير 2026 .
- ↑ ويثرل، جي بي (1961). "التحليل التسلسلي البايزي" . بيومتريكا . 48 ( 3-4 ): 281-292 . doi : 10.1093/biomet/48.3-4.281 . ISSN 0006-3444 .
- 1 2 3 فينك، دانيال (1997). "مجموعة من الاحتمالات المترافقة" (ملف PDF) . CiteSeerX 10.1.1.157.5540 . مؤرشف من الأصل (ملف PDF) في 29 مايو 2009.
- 1 2 3 4 5 6 7 8 9 10 11 12 13 مورفي، كيفن ب. (2007)، التحليل البايزي المترافق للتوزيع الغاوسي (PDF)
- ↑ ليو، هان؛ واسرمان، لاري (2014). التعلم الآلي الإحصائي (ملف PDF) . ص 314.
- الإحصاءات البايزية
- التوزيعات الاحتمالية المترافقة
