قاعدة القرار المقبول

يترك${\displaystyle \pi (\theta )\,\!}$ليكن توزيعًا احتماليًا لحالات الطبيعة. من وجهة نظر بايزي ، نعتبره توزيعًا احتماليًا مسبقًا . أي أنه التوزيع الاحتمالي الذي نعتقده لحالات الطبيعة، قبل رصد البيانات. أما بالنسبة للمنهج التكراري ، فهو مجرد دالة على${\displaystyle \Theta \,\!}$بدون أي تفسير خاص من هذا القبيل. مخاطر بايز لقاعدة القرار${\displaystyle \delta \,\!}$بالنسبة إلى${\displaystyle \pi (\theta )\,\!}$هو التوقع

${\displaystyle r(\pi ,\delta )=\operatorname {E} _{\pi (\theta )}[R(\theta ,\delta )].\,\!}$

قاعدة القرار${\displaystyle \delta \,\!}$ذلك يقلل${\displaystyle r(\pi ,\delta )\,\!}$يُطلق عليه اسم قاعدة بايز فيما يتعلق بـ ${\displaystyle \pi (\theta )\,\!}$قد يكون هناك أكثر من قاعدة بايز واحدة. إذا كان خطر بايز لانهائيًا لجميع${\displaystyle \delta \,\!}$إذاً، لا يتم تعريف قاعدة بايز.

في المنهج البايزي لنظرية القرار، الملاحظة${\displaystyle x\,\!}$يُعتبر ثابتًا . بينما يقوم النهج التكراري (أي المخاطرة) بحساب المتوسط ​​على العينات الممكنة.${\displaystyle x\in {\mathcal {X}}\,\!}$، سيقوم النموذج البايزي بتحديد العينة المرصودة${\displaystyle x\,\!}$والمتوسط ​​على الفرضيات${\displaystyle \theta \in \Theta \,\!}$وبالتالي، فإن النهج البايزي هو مراعاة ما لاحظناه${\displaystyle x\,\!}$الخسارة المتوقعة

${\displaystyle \rho (\pi ,\delta \mid x)=\operatorname {E} _{\pi (\theta \mid x)}[L(\theta ,\delta (x))].\,\!}$

حيث يكون التوقع على الاحتمال الخلفي لـ${\displaystyle \theta \,\!}$منح${\displaystyle x\,\!}$(مأخوذ من${\displaystyle \pi (\theta )\,\!}$و${\displaystyle F(x\mid \theta )\,\!}$(باستخدام نظرية بايز ).

بعد توضيح الخسارة المتوقعة لكل حالة معينة${\displaystyle x\,\!}$بشكل منفصل، يمكننا تحديد قاعدة القرار${\displaystyle \delta \,\!}$عن طريق تحديد لكل${\displaystyle x\,\!}$فعل${\displaystyle \delta (x)\,\!}$الذي يقلل من الخسارة المتوقعة. يُعرف هذا بقاعدة بايز المعممة فيما يتعلق بـ${\displaystyle \pi (\theta )\,\!}$قد يكون هناك أكثر من قاعدة بايز معممة، نظرًا لوجود خيارات متعددة.${\displaystyle \delta (x)\,\!}$والتي تحقق نفس الخسارة المتوقعة.

قد يبدو هذا في البداية مختلفًا تمامًا عن نهج قاعدة بايز في القسم السابق، وليس تعميمًا له. ومع ذلك، لاحظ أن مخاطر بايز تُحسب كمعدل وسطي بالفعل.${\displaystyle \Theta \,\!}$وبطريقة بايزية، ويمكن استرداد مخاطر بايز على أنها التوقع على${\displaystyle {\mathcal {X}}}$من الخسارة المتوقعة (حيث${\displaystyle x\sim \theta \,\!}$و${\displaystyle \theta \sim \pi \,\!}$). بشكل عام،${\displaystyle \delta \,\!}$يقلل هذا من توقع الخسارة المتوقعة (أي أنه قاعدة بايز) إذا وفقط إذا قلل من الخسارة المتوقعة لكل${\displaystyle x\in {\mathcal {X}}}$بشكل منفصل (أي، هي قاعدة بايز معممة).

إذن، لماذا يُعد مفهوم قاعدة بايز المعممة تحسينًا؟ إنه في الواقع مكافئ لمفهوم قاعدة بايز عندما توجد قاعدة بايز وكل شيء${\displaystyle x\,\!}$لها احتمالية موجبة. ومع ذلك، لا توجد قاعدة بايز إذا كان خطر بايز لانهائيًا (لكل${\displaystyle \delta \,\!}$في هذه الحالة، لا يزال من المفيد تعريف قاعدة بايز المعممة.${\displaystyle \delta \,\!}$والذي يختار على الأقل إجراءً يقلل من الخسائر المتوقعة${\displaystyle \delta (x)\!\,}$لأولئك${\displaystyle x\,\!}$والتي يوجد لها إجراء ذو ​​خسارة متوقعة محدودة. بالإضافة إلى ذلك، قد تكون قاعدة بايز المعممة مرغوبة لأنها يجب أن تختار إجراءً ذو خسارة متوقعة دنيا${\displaystyle \delta (x)\,\!}$لكل​${\displaystyle x\,\!}$بينما يُسمح لقاعدة بايز بالانحراف عن هذه السياسة على مجموعة${\displaystyle X\subseteq {\mathcal {X}}}$قياس 0 دون التأثير على مخاطر بايز.

والأهم من ذلك، أنه من الملائم أحيانًا استخدام معلومات مسبقة غير مناسبة${\displaystyle \pi (\theta )\,\!}$في هذه الحالة، لا يكون خطر بايز محددًا بشكل جيد، ولا يوجد أي توزيع محدد بشكل جيد على${\displaystyle x\,\!}$ومع ذلك، فإن الجزء الخلفي${\displaystyle \pi (\theta \mid x)\,\!}$وبالتالي، قد تكون الخسارة المتوقعة محددة جيدًا لكل منهما.${\displaystyle x\,\!}$، بحيث لا يزال من الممكن تعريف قاعدة بايز المعممة.

وفقًا لنظريات الفئة الكاملة، في ظل شروط معتدلة، فإن كل قاعدة مقبولة هي قاعدة بايز (معممة) (بالنسبة لبعض الاحتمالات المسبقة).${\displaystyle \pi (\theta )\,\!}$ربما يكون توزيعًا غير مناسب - يفضل التوزيعات${\displaystyle \theta \,\!}$حيث تحقق هذه القاعدة مخاطر منخفضة). وبالتالي، في نظرية القرار التكرارية ، يكفي النظر فقط في قواعد بايز (المعممة).

في المقابل، بينما تكون قواعد بايز المتعلقة بالتوزيعات الاحتمالية المسبقة الصحيحة مقبولة دائمًا تقريبًا، فإن قواعد بايز المعممة المقابلة للتوزيعات الاحتمالية المسبقة غير الصحيحة لا تؤدي بالضرورة إلى إجراءات مقبولة. مثال شتاين هو أحد هذه الحالات الشهيرة.