الاحتمال المسبق

التوزيع الاحتمالي المسبق (ويُسمى غالبًا ببساطة الاحتمال المسبق أو التوزيع المسبق ) لكمية غير مؤكدة هو التوزيع الاحتمالي المفترض لها قبل أخذ الأدلة بعين الاعتبار. على سبيل المثال، قد يكون التوزيع المسبق هو التوزيع الاحتمالي الذي يُمثل النسب النسبية للناخبين الذين سيصوتون لسياسي معين في انتخابات مستقبلية. قد تكون الكمية المجهولة مُعاملًا من مُعاملات النموذج أو متغيرًا كامنًا بدلًا من متغير قابل للملاحظة .

في الإحصاء البايزي ، تحدد قاعدة بايز كيفية تحديث التوزيع الاحتمالي المسبق بمعلومات جديدة للحصول على التوزيع الاحتمالي اللاحق ، وهو التوزيع الشرطي للكمية غير المؤكدة بناءً على البيانات الجديدة. تاريخيًا، كان اختيار التوزيعات الاحتمالية المسبقة غالبًا ما يقتصر على عائلة مترافقة من دالة احتمال معينة ، بحيث ينتج عنه توزيع احتمالي لاحق قابل للمعالجة من نفس العائلة. إلا أن الانتشار الواسع لطرق مونت كارلو لسلاسل ماركوف قد قلل من أهمية هذا الأمر.

توجد طرق عديدة لإنشاء توزيع احتمالي مسبق. ^{[ 1 ]} في بعض الحالات، يمكن تحديد التوزيع المسبق من معلومات سابقة، مثل التجارب السابقة. كما يمكن استخلاص التوزيع المسبق من التقييم الذاتي البحت لخبير متمرس. ^{[ 2 ] [ 3 ] [ 4 ]} عندما لا تتوفر أي معلومات، يمكن اعتماد توزيع مسبق غير إعلامي استنادًا إلى مبدأ الحياد . ^{[ 5 ] [ 6 ]} في التطبيقات الحديثة، غالبًا ما يتم اختيار التوزيعات المسبقة لخصائصها الميكانيكية، مثل التنظيم واختيار الميزات . ^{[ 7 ] [ 8 ] [ 9 ]}

غالبًا ما تعتمد التوزيعات الاحتمالية المسبقة لمعلمات النموذج على معلمات خاصة بها. ويمكن التعبير عن عدم اليقين بشأن هذه المعلمات الفائقة ، بدورها، كتوزيعات احتمالية مسبقة فائقة . على سبيل المثال، إذا استخدمنا توزيع بيتا لنمذجة توزيع المعلمة p لتوزيع برنولي ، فإن:

• يمثل p أحد معلمات النظام الأساسي (توزيع برنولي)، و
• α و β هما معلمات التوزيع المسبق (توزيع بيتا)؛ ومن ثم المعلمات الفائقة .

من حيث المبدأ، يمكن تقسيم التوزيعات الاحتمالية المسبقة إلى العديد من المستويات الشرطية للتوزيعات، ما يسمى بالتوزيعات الاحتمالية المسبقة الهرمية . ^{[ 10 ]}

يُعبّر التوزيع الاحتمالي المسبق عن معلومات محددة ودقيقة حول متغير ما. مثال على ذلك التوزيع الاحتمالي المسبق لدرجة الحرارة عند الظهيرة غدًا. من الأساليب المعقولة جعل التوزيع الاحتمالي المسبق توزيعًا طبيعيًا بقيمة متوقعة تساوي درجة حرارة الظهيرة اليوم، وتباين يساوي التباين اليومي لدرجة حرارة الغلاف الجوي، أو توزيعًا لدرجة الحرارة في ذلك اليوم من السنة.

يشترك هذا المثال في خاصية مع العديد من التوزيعات الاحتمالية المسبقة، وهي أن التوزيع الاحتمالي اللاحق لمسألة ما (درجة حرارة اليوم) يصبح توزيعًا احتماليًا مسبقًا لمسألة أخرى (درجة حرارة الغد)؛ فالأدلة الموجودة مسبقًا والتي أُخذت في الحسبان تُعد جزءًا من التوزيع الاحتمالي المسبق، ومع تراكم المزيد من الأدلة، يتحدد التوزيع الاحتمالي اللاحق إلى حد كبير بالأدلة نفسها وليس بأي افتراض أصلي، شريطة أن يكون الافتراض الأصلي قد أقر بإمكانية ما تشير إليه الأدلة. ويُشار إلى مصطلحي "التوزيع الاحتمالي المسبق" و"التوزيع الاحتمالي اللاحق" عمومًا ببيانات أو ملاحظات محددة.

يُعبّر التوزيع الاحتمالي المسبق ذو المعلومات الضعيفة عن معلومات جزئية حول متغير ما، موجهًا التحليل نحو حلول تتوافق مع المعرفة الحالية دون تقييد النتائج بشكل مفرط، ومتجنبًا التقديرات المتطرفة. على سبيل المثال، عند تحديد التوزيع الاحتمالي المسبق لدرجة الحرارة ظهر غدٍ في سانت لويس، يُنصح باستخدام التوزيع الطبيعي بمتوسط ​​50 درجة فهرنهايت وانحراف معياري 40 درجة، مما يُقيّد درجة الحرارة بشكل فضفاض جدًا ضمن النطاق (10 درجات، 90 درجة) مع احتمال ضئيل أن تكون أقل من -30 درجة أو أعلى من 130 درجة. يكمن الغرض من التوزيع الاحتمالي المسبق ذي المعلومات الضعيفة في التنظيم ، أي الحفاظ على الاستدلالات ضمن نطاق معقول.

يُعبّر التوزيع الاحتمالي المسبق غير المُفيد، أو المُسطّح، أو المُبهم عن معلومات غامضة أو عامة حول متغير ما. ^{[ 5 ]} يُعدّ مصطلح "التوزيع الاحتمالي المسبق غير المُفيد" تسميةً غير دقيقة إلى حدٍّ ما. يُمكن أيضًا تسمية هذا التوزيع الاحتمالي المسبق بتوزيع احتمالي مسبق غير مُفيد جدًا ، أو توزيع احتمالي مسبق موضوعي ، أي توزيع لا يتم استخلاصه بشكلٍ ذاتي.

يمكن للتوزيعات الاحتمالية المسبقة غير المُعلِمة أن تُعبِّر عن معلومات "موضوعية" مثل "المتغير موجب" أو "المتغير أقل من حد معين". أبسط وأقدم قاعدة لتحديد التوزيع الاحتمالي المسبق غير المُعلِم هي مبدأ اللامبالاة ، الذي يُخصِّص احتمالات متساوية لجميع الاحتمالات. في مسائل تقدير المعلمات، عادةً ما يُؤدي استخدام التوزيع الاحتمالي المسبق غير المُعلِم إلى نتائج لا تختلف كثيرًا عن التحليل الإحصائي التقليدي، حيث غالبًا ما تُقدِّم دالة الاحتمال معلومات أكثر مما يُقدِّمه التوزيع الاحتمالي المسبق غير المُعلِم.

بُذلت بعض المحاولات لإيجاد احتمالات مسبقة، أي توزيعات احتمالية تتطلبها طبيعة حالة عدم اليقين منطقيًا؛ وهذه مسألة خلاف فلسفي، حيث ينقسم أتباع المنهج البايزي تقريبًا إلى مدرستين: "البايزيون الموضوعيون"، الذين يؤمنون بوجود هذه الاحتمالات المسبقة في العديد من المواقف المفيدة، و"البايزيون الذاتيون"، الذين يعتقدون أن الاحتمالات المسبقة في الواقع العملي تمثل عادةً أحكامًا ذاتية لا يمكن تبريرها بدقة (ويليامسون 2010). ولعل أقوى الحجج المؤيدة للمنهج البايزي الموضوعي قدمها إدوين تي. جاينز ، استنادًا بشكل رئيسي إلى نتائج التناظرات ومبدأ أقصى إنتروبيا.

كمثال على التوزيع الاحتمالي المسبق، وفقًا لجاينز (2003)، لنفترض موقفًا نعلم فيه أن كرةً ما مخبأة تحت أحد ثلاثة أكواب، أ، ب، أو ج، ولكن لا تتوفر أي معلومات أخرى عن موقعها. في هذه الحالة، يبدو التوزيع الاحتمالي المسبق المنتظم p ( A )  = p ( B )  = p ( C )  = 1/3 الخيار المنطقي الوحيد. وبشكل أدق، نلاحظ أن المشكلة تبقى كما هي حتى لو بدلنا تسميات الأكواب ("أ"، "ب"، و"ج"). لذا، سيكون من الغريب اختيار توزيع احتمالي مسبق يؤدي تبديل تسمياته إلى تغيير توقعاتنا بشأن الكوب الذي ستُعثر تحته الكرة؛ فالتوزيع الاحتمالي المسبق المنتظم هو الوحيد الذي يحافظ على هذا الثبات. إذا قبلنا مبدأ الثبات هذا، فسنجد أن التوزيع الاحتمالي المسبق المنتظم هو التوزيع الصحيح منطقيًا لتمثيل هذه الحالة من المعرفة. هذا الافتراض المسبق "موضوعي" بمعنى أنه الخيار الصحيح لتمثيل حالة معرفية معينة، ولكنه ليس موضوعيًا بمعنى أنه سمة مستقلة عن المراقب في العالم: ففي الواقع، توجد الكرة تحت كأس معين، ولا معنى للحديث عن الاحتمالات في هذه الحالة إلا إذا كان هناك مراقب لديه معرفة محدودة بالنظام. ^{[ 11 ]}

كمثال أكثر إثارة للجدل، نشر جاينز حجة تستند إلى ثبات التوزيع الاحتمالي المسبق عند تغيير المعاملات، تشير إلى أن التوزيع الاحتمالي المسبق الذي يمثل عدم اليقين التام بشأن احتمال ما يجب أن يكون توزيع هالدين المسبق p ^{− 1} (1 − p ) ^{− 1. [} 12 ^{] المثال الذي} قدمه جاينز هو العثور على مادة كيميائية في المختبر والسؤال عما إذا كانت ستذوب في الماء في تجارب متكررة. يعطي توزيع هالدين المسبق ^{[ 13 ]} الوزن الأكبر بكثير لـ  ${\displaystyle p=0}$و${\displaystyle p=1}$يشير هذا إلى أن العينة إما ستذوب في كل مرة أو لن تذوب أبدًا، باحتمالية متساوية. مع ذلك، إذا لوحظ ذوبان عينات من المادة الكيميائية في تجربة وعدم ذوبانها في تجربة أخرى، يتم تحديث هذا التوزيع الاحتمالي المسبق ليصبح توزيعًا منتظمًا على الفترة [0، 1]. ويتم ذلك بتطبيق نظرية بايز على مجموعة البيانات التي تتكون من ملاحظة واحدة للذوبان وأخرى لعدم الذوبان، باستخدام التوزيع الاحتمالي المسبق المذكور أعلاه. يُعد توزيع هالدين المسبق توزيعًا احتماليًا مسبقًا غير مناسب (أي أن له كتلة لانهائية). وقد ابتكر هارولد جيفريز طريقة منهجية لتصميم توزيعات احتمالية مسبقة غير إعلامية، مثل توزيع جيفريز المسبق p ^{− 1/2} (1 − p ) ^{− 1/2} لمتغير برنولي العشوائي.  

يمكن بناء توزيعات احتمالية مسبقة تتناسب مع مقياس هار إذا كانت فضاءات المعلمات X تحمل بنية زمرة طبيعية تحافظ على ثبات حالة معرفتنا البايزية. ^{[ 12 ]} يمكن اعتبار هذا تعميمًا لمبدأ الثبات المستخدم لتبرير التوزيع الاحتمالي المسبق الموحد على الأكواب الثلاثة في المثال أعلاه. على سبيل المثال، في الفيزياء، قد نتوقع أن تعطي التجربة نفس النتائج بغض النظر عن اختيارنا لأصل نظام الإحداثيات. هذا يُنشئ بنية زمرة الإزاحة على X ، والتي تحدد الاحتمال المسبق كتوزيع احتمالي مسبق غير مناسب ثابت . وبالمثل، فإن بعض القياسات ثابتة بطبيعتها بغض النظر عن اختيار مقياس عشوائي (على سبيل المثال، سواء استخدمنا السنتيمترات أو البوصات، يجب أن تكون النتائج الفيزيائية متساوية). في مثل هذه الحالة، تكون زمرة المقياس هي بنية الزمرة الطبيعية، ويكون التوزيع الاحتمالي المسبق المقابل على X متناسبًا مع 1/ x . من المهم أحيانًا معرفة ما إذا كنا نستخدم مقياس هار الثابت من اليسار أو الثابت من اليمين. على سبيل المثال، لا يتساوى مقياسا هار الثابتان من اليسار واليمين على الزمرة الأفينية . يجادل بيرغر (1985، ص  413) بأن مقياس هار الثابت من اليمين هو الخيار الصحيح.

ثمة فكرة أخرى، دافع عنها إدوين تي. جاينز ، وهي استخدام مبدأ أقصى إنتروبيا (MAXENT). ويكمن الدافع وراء هذه الفكرة في أن إنتروبيا شانون لتوزيع احتمالي تقيس كمية المعلومات التي يحتويها هذا التوزيع. فكلما زادت قيمة الإنتروبيا، قلت المعلومات التي يقدمها التوزيع. وبالتالي، من خلال تعظيم الإنتروبيا على مجموعة مناسبة من التوزيعات الاحتمالية على X ، نجد التوزيع الأقل إفادة بمعنى أنه يحتوي على أقل قدر من المعلومات بما يتوافق مع القيود التي تحدد المجموعة. على سبيل المثال، التوزيع الاحتمالي المسبق ذو أقصى إنتروبيا على فضاء منفصل ، مع العلم فقط أن الاحتمال مُعَيَّر إلى 1، هو التوزيع المسبق الذي يُسند احتمالًا متساويًا لكل حالة. وفي الحالة المستمرة، يكون التوزيع الاحتمالي المسبق ذو أقصى إنتروبيا، مع العلم أن الكثافة مُعَيَّرة بمتوسط ​​صفر وتباين يساوي واحدًا، هو التوزيع الطبيعي القياسي . ويُعمِّم مبدأ الحد الأدنى للإنتروبيا المتقاطعة مبدأ أقصى إنتروبيا ليشمل حالة "تحديث" أي توزيع مسبق بقيود مناسبة بمعنى أقصى إنتروبيا.

قدم خوسيه ميغيل برناردو فكرة ذات صلة، وهي التوزيعات الاحتمالية المرجعية المسبقة . وتتلخص هذه الفكرة في تعظيم تباعد كولباك-لايبير المتوقع للتوزيع الاحتمالي اللاحق بالنسبة للتوزيع الاحتمالي المسبق. وهذا بدوره يعظم المعلومات الاحتمالية اللاحقة المتوقعة حول المتغير العشوائي X عندما تكون كثافة التوزيع الاحتمالي المسبق هي p ( x )؛ وبالتالي، يمكن القول إن p ( x ) هو التوزيع الاحتمالي المسبق "الأقل إفادة" حول X. يُعرَّف التوزيع الاحتمالي المرجعي المسبق في الحد التقاربي، أي أنه يُنظر في نهاية التوزيعات الاحتمالية المسبقة التي تم الحصول عليها عندما يؤول عدد نقاط البيانات إلى اللانهاية. في هذه الحالة، يُعطى تباعد كولباك-لايبير بين التوزيعين الاحتماليين المسبق واللاحق بالصيغة التالية: $${\displaystyle KL=\int p(t)\int p(x\mid t)\log {\frac {p(x\mid t)}{p(x)}}\,dx\,dt}$$

هنا،${\displaystyle t}$إحصائية كافية لبعض المعلمات${\displaystyle x}$التكامل الداخلي هو تباعد كولباك-ليبر بين التوزيع الخلفي${\displaystyle p(x\mid t)}$وما قبل ذلك${\displaystyle p(x)}$التوزيعات والنتيجة هي المتوسط ​​المرجح لجميع قيم${\displaystyle t}$بتقسيم اللوغاريتم إلى جزأين، وعكس ترتيب التكاملات في الجزء الثاني، مع ملاحظة أن$${\displaystyle \log \,[p(x)]}$$لا يعتمد على${\displaystyle t}$العائد $${\displaystyle KL=\int p(t)\int p(x\mid t)\log[p(x\mid t)]\,dx\,dt\,-\,\int \log[p(x)]\,\int p(t)p(x\mid t)\,dt\,dx}$$

التكامل الداخلي في الجزء الثاني هو التكامل على${\displaystyle t}$كثافة الوصلة${\displaystyle p(x,t)}$هذا هو التوزيع الهامشي${\displaystyle p(x)}$لذلك لدينا $${\displaystyle KL=\int p(t)\int p(x\mid t)\log[p(x\mid t)]\,dx\,dt\,-\,\int p(x)\log[p(x)]\,dx}$$

نستخدم الآن مفهوم الإنتروبيا، والذي يمثل، في حالة التوزيعات الاحتمالية، القيمة المتوقعة السالبة للوغاريتم دالة الكتلة الاحتمالية أو دالة الكثافة.${\textstyle H(x)=-\int p(x)\log[p(x)]\,dx.}$ باستخدام هذا في المعادلة الأخيرة ينتج $${\displaystyle KL=-\int p(t)H(x\mid t)\,dt+\,H(x)}$$

بعبارة أخرى، KL هي القيمة المتوقعة السالبة على${\displaystyle t}$من إنتروبيا${\displaystyle x}$بشرط${\displaystyle t}$بالإضافة إلى الإنتروبيا الحدية (أي غير المشروطة) لـ${\displaystyle x}$في الحالة الحدية حيث يؤول حجم العينة إلى اللانهاية، تنص نظرية برنشتاين-فون ميزس على أن توزيع${\displaystyle x}$بشرط قيمة مُلاحظة مُعينة لـ${\displaystyle t}$يكون التوزيع طبيعيًا بتباين يساوي مقلوب معلومات فيشر عند القيمة "الحقيقية" لـ${\displaystyle x}$إنتروبيا دالة الكثافة الطبيعية تساوي نصف لوغاريتم${\displaystyle 2\pi ev}$أين${\displaystyle v}$يمثل تباين التوزيع. في هذه الحالة إذن$${\displaystyle H=\log {\sqrt {\frac {2\pi e}{NI(x^{*})}}}}$$أين${\displaystyle N}$يمثل حجم العينة الكبير بشكل تعسفي (الذي تتناسب معه معلومات فيشر) و${\displaystyle x*}$هي القيمة "الحقيقية". بما أن هذا لا يعتمد على${\displaystyle t}$يمكن إخراجها من التكامل، وبما أن هذا التكامل على فضاء احتمالي، فإنه يساوي واحدًا. ومن ثم يمكننا كتابة الصيغة التقاربية لـ KL على النحو التالي: $${\displaystyle KL=-\log \left(1{\sqrt {kI(x^{*})}}\right)-\,\int p(x)\log[p(x)]\,dx}$$ أين${\displaystyle k}$يتناسب مع حجم العينة (الكبير تقاربياً). لا نعرف قيمة${\displaystyle x*}$في الواقع، تتعارض هذه الفكرة تمامًا مع فلسفة الاستدلال البايزي التي تستبدل القيم "الحقيقية" للمعلمات بتوزيعات احتمالية مسبقة ولاحقة. لذلك نزيل${\displaystyle x*}$باستبداله بـ${\displaystyle x}$وبأخذ القيمة المتوقعة للإنتروبيا العادية، والتي نحصل عليها بضربها في${\displaystyle p(x)}$والتكامل عبر${\displaystyle x}$وهذا يسمح لنا بدمج اللوغاريتمات التي ينتج عنها $${\displaystyle KL=-\int p(x)\log \left[{\frac {p(x)}{\sqrt {kI(x)}}}\right]\,dx}$$

هذا تباعد شبه كولباك-لايبير (شبه بمعنى أن الجذر التربيعي لمعلومات فيشر قد يكون نواة توزيع غير مناسب). نظرًا للإشارة السالبة، نحتاج إلى تقليل هذه القيمة لتعظيم تباعد كولباك-لايبير الذي بدأنا به. تحدث القيمة الدنيا للمعادلة الأخيرة عندما لا يتباعد التوزيعان في وسيط اللوغاريتم، سواء كانا مناسبين أم لا. ويحدث هذا بدوره عندما يكون التوزيع المسبق متناسبًا مع الجذر التربيعي لمعلومات فيشر لدالة الاحتمال. وبالتالي، في حالة المعلمة الواحدة، تكون التوزيعات المسبقة المرجعية وتوزيعات جيفريز المسبقة متطابقة، على الرغم من أن جيفريز له أساس منطقي مختلف تمامًا.

غالباً ما تكون التوزيعات الاحتمالية المرجعية هي التوزيع الاحتمالي الموضوعي المفضل في المشكلات متعددة المتغيرات، لأن القواعد الأخرى (مثل قاعدة جيفريز ) قد تؤدي إلى توزيعات احتمالية ذات سلوك إشكالي.

يمكن أيضًا اشتقاق التوزيعات الاحتمالية الموضوعية المسبقة من مبادئ أخرى، مثل نظرية المعلومات أو نظرية الترميز (انظر على سبيل المثال، الحد الأدنى لطول الوصف ) أو الإحصاءات التكرارية (ما يُسمى بالتوزيعات الاحتمالية المسبقة المطابقة ). ^{[ 14 ]} تُستخدم هذه الأساليب في نظرية سولومونوف للاستدلال الاستقرائي . وقد طُرح بناء التوزيعات الاحتمالية الموضوعية المسبقة مؤخرًا في المعلوماتية الحيوية، وخاصةً في الاستدلال في بيولوجيا أنظمة السرطان ، حيث يكون حجم العينة محدودًا وتتوفر كمية هائلة من المعرفة المسبقة . في هذه الأساليب، يُستخدم إما معيار قائم على نظرية المعلومات، مثل تباعد كولباك-لايبير أو دالة الاحتمال اللوغاريتمي لمشاكل التعلم الخاضع للإشراف الثنائي ^{[ 15 ]} ومشاكل نماذج الخليط. ^{[ 16 ]}

ترتبط المشكلات الفلسفية المتعلقة بالمعلومات المسبقة غير المُعلِمة باختيار مقياس مناسب. لنفترض أننا نريد معرفة مسبقة لسرعة عداء مجهول. يمكننا تحديد، على سبيل المثال، التوزيع الطبيعي كمعلومات مسبقة لسرعته، ولكن بدلاً من ذلك، يمكننا تحديد معلومات مسبقة طبيعية للوقت الذي يستغرقه لقطع مسافة 100 متر، وهو يتناسب مع مقلوب المعلومات المسبقة الأولى. هذه معلومات مسبقة مختلفة تمامًا، ولكن ليس من الواضح أيها الأفضل. يمكن لطريقة جاينز لمجموعات التحويل أن تجيب على هذا السؤال في بعض الحالات. ^{[ 17 ]}

وبالمثل، إذا طُلب منا تقدير نسبة غير معروفة بين 0 و1، فقد نقول إن جميع النسب متساوية الاحتمال، ونستخدم توزيعًا احتماليًا منتظمًا مسبقًا. أو قد نقول إن جميع رتب المقدار للنسبة متساوية الاحتمال، والتوزيع الاحتمالي المسبق اللوغاريتمي ، وهو التوزيع الاحتمالي المسبق المنتظم على لوغاريتم النسبة.توزيع جيفريز المسبقحل هذه المشكلة بحساب توزيع احتمالي مسبق يعبر عن نفس الاعتقاد بغض النظر عن المقياس المستخدم. توزيع جيفريز المسبق لنسبة غير معروفةpهوp ^{− 1/2}(1−p) ^{− 1/2}، وهو يختلف عن توصية جاينز.  

تُستخدم الاحتمالات المسبقة القائمة على مفاهيم الاحتمالية الخوارزمية في الاستدلال الاستقرائي كأساس للاستقراء في إعدادات عامة للغاية.

تشمل المشكلات العملية المرتبطة بالتوزيعات الاحتمالية المسبقة غير المُعلِمة شرطَ أن يكون التوزيع الاحتمالي اللاحق مناسبًا. عادةً ما تكون التوزيعات الاحتمالية المسبقة غير المُعلِمة على المتغيرات المستمرة غير المحدودة غير مناسبة. لا يُشترط أن يُشكّل هذا مشكلةً إذا كان التوزيع الاحتمالي اللاحق مناسبًا. ومن المسائل المهمة الأخرى أنه إذا كان سيتم استخدام توزيع احتمالي مسبق غير مُعلِم بشكل روتيني ، أي مع العديد من مجموعات البيانات المختلفة، فيجب أن يتمتع بخصائص إحصائية جيدة . عادةً لا يهتم المنهج البايزي بمثل هذه المسائل، ولكنها قد تكون مهمة في هذه الحالة. على سبيل المثال، يرغب المرء في أن تكون أي قاعدة قرار مبنية على التوزيع الاحتمالي اللاحق مقبولة في ظل دالة الخسارة المُعتمدة. غالبًا ما يكون التحقق من المقبولية صعبًا، على الرغم من وجود بعض النتائج المعروفة (مثل بيرغر وستراودرمان 1996). تبرز هذه المسألة بشكل خاص مع نماذج بايز الهرمية ؛ فقد تُعطي التوزيعات الاحتمالية المسبقة المعتادة (مثل توزيع جيفريز المسبق) قواعد قرار غير مقبولة بشكل كبير إذا تم استخدامها في المستويات العليا من التسلسل الهرمي.

دع الأحداث${\displaystyle A_{1},A_{2},\ldots ,A_{n}}$يجب أن تكون متنافية وشاملة. إذا كُتبت نظرية بايز على النحو التالي $${\displaystyle P(A_{i}\mid B)={\frac {P(B\mid A_{i})P(A_{i})}{\sum _{j}P(B\mid A_{j})P(A_{j})}}\,,}$$ يتضح إذن أنه سيتم الحصول على النتيجة نفسها إذا ضُربت جميع الاحتمالات المسبقة P ( Aᵢ ₎ و P ( Aⱼ ₎ بثابت مُعطى؛ وينطبق الأمر نفسه على المتغير العشوائي المستمر . إذا تقارب مجموع المقام، فإن الاحتمالات اللاحقة ستظل مجموعها (أو تكاملها) يساوي 1 حتى لو لم تتقارب القيم المسبقة، وبالتالي قد يكفي تحديد القيم المسبقة بالنسب الصحيحة. وبالتوسع في هذه الفكرة، في كثير من الحالات، قد لا يكون من الضروري أن يكون مجموع أو تكامل القيم المسبقة محدودًا للحصول على إجابات منطقية للاحتمالات اللاحقة. في هذه الحالة، يُطلق على الاحتمال المسبق اسم الاحتمال المسبق غير المناسب . ومع ذلك، لا يشترط أن يكون التوزيع اللاحق توزيعًا مناسبًا إذا كان الاحتمال المسبق غير مناسب. ^{[ 18 ]} ويتضح هذا من الحالة التي يكون فيها الحدث B مستقلًا عن جميع _قيم Aⱼ .

يستخدم الإحصائيون أحيانًا توزيعات احتمالية مسبقة غير مناسبة، أو توزيعات غير مفيدة . ^{[ 19 ]} على سبيل المثال، إذا احتاجوا إلى توزيع مسبق لمتوسط ​​وتباين متغير عشوائي، فقد يفترضون أن p ( m , v ) ≈ 1/ v (لـ v > 0)، مما يوحي بأن أي قيمة للمتوسط ​​"متساوية الاحتمال"، وأن قيمة التباين الموجب تصبح "أقل احتمالًا" عكسيًا مع قيمتها. يحذر العديد من المؤلفين (ليندلي، 1973؛ دي غروت، 1937؛ كاس وواسرمن، 1996) من خطر المبالغة في تفسير هذه التوزيعات المسبقة، لأنها ليست دوال كثافة احتمالية. تكمن أهميتها الوحيدة في التوزيع الاحتمالي اللاحق المقابل، طالما أنه مُعرَّف جيدًا لجميع المشاهدات. ( يُعد توزيع هالدين المسبق مثالًا نموذجيًا مضادًا ) .     

على النقيض من ذلك، لا تحتاج دوال الاحتمال إلى التكامل، ودالة الاحتمال التي تساوي 1 بشكل منتظم تُشير إلى غياب البيانات (جميع النماذج متساوية الاحتمال في حال عدم وجود بيانات): تضرب قاعدة بايز التوزيع الاحتمالي المسبق في دالة الاحتمال، ويكون الناتج الفارغ هو دالة الاحتمال الثابتة 1. مع ذلك، بدون البدء بتوزيع احتمالي مسبق، لا نحصل على توزيع احتمالي لاحق ، وبالتالي لا يمكننا إجراء التكامل أو حساب القيم المتوقعة أو الخسارة. انظر قسم "  عدم قابلية التكامل" في دالة الاحتمال لمزيد من التفاصيل.

بينما يُستخدم الاحتمال المسبق في الإحصاء البايزي لتمثيل المعتقدات الأولية حول مُعامل غير مؤكد، يُستخدم الاحتمال القبلي في الميكانيكا الإحصائية لوصف الحالة الأولية لنظام ما. ^{[ 20 ]} يُعرَّف الاحتمال القبلي في الصيغة الكلاسيكية بأنه نسبة عدد الأحداث الأولية (مثل عدد مرات رمي ​​النرد) إلى العدد الإجمالي للأحداث، ويُؤخذ هذا الاحتمال في الاعتبار استنتاجيًا بحتًا، أي دون أي تجربة. في حالة النرد، إذا نظرنا إليه على الطاولة دون رميه، يُستنتج استنتاجيًا أن لكل حدث أولي نفس الاحتمال، وبالتالي فإن احتمال كل نتيجة من نتائج رمي النرد (المثالي) افتراضيًا أو بمجرد عدّ عدد أوجهه هو 1/6. يظهر كل وجه من أوجه النرد باحتمال متساوٍ، حيث يُعرَّف الاحتمال كمقياس لكل حدث أولي. تختلف النتيجة إذا رمينا النرد عشرين مرة وسألنا كم مرة (من أصل 20) يظهر الرقم 6 على الوجه العلوي. في هذه الحالة، يلعب عامل الزمن دورًا، ولدينا نوع مختلف من الاحتمالية يعتمد على الوقت أو عدد مرات رمي ​​النرد. من ناحية أخرى، فإن الاحتمالية المسبقة مستقلة عن الزمن؛ إذ يمكنك النظر إلى النرد على الطاولة كما تشاء دون لمسه، وتستنتج أن احتمالية ظهور الرقم 6 على الوجه العلوي هي 1/6.

في الميكانيكا الإحصائية، على سبيل المثال، تلك المتعلقة بغاز محصور في حجم محدود${\displaystyle V}$، الإحداثيات المكانية${\displaystyle q_{i}}$وإحداثيات الزخم${\displaystyle p_{i}}$عدد عناصر الغاز الفردية (الذرات أو الجزيئات) محدود في فضاء الطور الذي تغطيه هذه الإحداثيات. قياسًا على حالة النرد، فإن الاحتمال المسبق هنا (في حالة الوسط المتصل) يتناسب مع عنصر حجم فضاء الطور.${\displaystyle \Delta q\Delta p}$مقسوماً على${\displaystyle h}$، وهو عدد الموجات المستقرة (أي الحالات) فيها، حيث${\displaystyle \Delta q}$هو مدى المتغير${\displaystyle q}$ و${\displaystyle \Delta p}$هو مدى المتغير${\displaystyle p}$(هنا، ولتبسيط الأمر، يُنظر إلى الأمر في بُعد واحد). في بُعد واحد (الطول)${\displaystyle L}$) هذا الرقم أو الوزن الإحصائي أو الترجيح المسبق هو${\displaystyle L\Delta p/h}$في الأبعاد الثلاثة المعتادة (الحجم)${\displaystyle V}$) يمكن حساب الرقم المقابل ليكون${\displaystyle V4\pi p^{2}\Delta p/h^{3}}$[ ^{21 ]} لفهم هذه الكمية على أنها تعطي عددًا من الحالات في ميكانيكا الكم (أي ميكانيكا الموجة)، تذكر أنه في ميكانيكا الكم، يرتبط كل جسيم بموجة مادية تمثل حلًا لمعادلة ^{شرودنغر} . في حالة الجسيمات الحرة (من الطاقة${\displaystyle \epsilon ={\bf {p}}^{2}/2m}$) مثل تلك الخاصة بالغاز في صندوق حجمه${\displaystyle V=L^{3}}$تُعرَّف هذه الموجة المادية بشكل صريح على أنها $${\displaystyle \psi \propto \sin {\frac {l\pi x}{L}}\sin {\frac {m\pi y}{L}}\sin {\frac {n\pi z}{L}},}$$ أين${\displaystyle l,m,n}$هي أعداد صحيحة. عدد الأنواع المختلفة ${\displaystyle (l,m,n)}$القيم وبالتالي الحالات في المنطقة الواقعة بين${\displaystyle p,p+dp,p^{2}={\bf {p}}^{2},}$ثم يتبين أن التعبير المذكور أعلاه${\displaystyle V4\pi p^{2}dp/h^{3}}$من خلال النظر في المساحة التي تغطيها هذه النقاط. علاوة على ذلك، وبالنظر إلى علاقة عدم اليقين ، والتي تكون في بُعد مكاني واحد $${\displaystyle \Delta q\Delta p\geq h,}$$ هذه الحالات غير قابلة للتمييز (أي أنها لا تحمل أي تصنيفات). ومن النتائج المهمة لذلك ما يُعرف بنظرية ليوفيل ، أي استقلال عنصر حجم فضاء الطور هذا عن الزمن، وبالتالي استقلال الاحتمالية المسبقة عنه. إن اعتماد هذه الكمية على الزمن يعني معرفة معلومات مسبقة عن ديناميكيات النظام، وبالتالي لن يكون احتمالًا مسبقًا. ^{[ 22 ]} وهكذا، فإن المنطقة $$أوميغا$$ :={\frac {\Delta q\Delta p}{\int \Delta q\Delta p}},\;\;\;\int \Delta q\Delta p=\mathrm {const.} ,} عند اشتقاقها بالنسبة للزمن${\displaystyle t}$ينتج عنه صفر (بمساعدة معادلات هاميلتون): الحجم عند الزمن${\displaystyle t}$هو نفسه كما كان عليه في الزمن صفر. ويوصف هذا أيضاً بأنه حفظ المعلومات.

في نظرية الكم الكاملة، يوجد قانون حفظ مماثل. في هذه الحالة، يتم استبدال منطقة فضاء الطور بفضاء فرعي من فضاء الحالات، معبر عنه بدلالة عامل الإسقاط.${\displaystyle P}$وبدلاً من الاحتمالية في فضاء الطور، يكون لدينا كثافة الاحتمالية $${\displaystyle \Sigma$$ :={\frac {P}{{\text{Tr}}(P)}},\;\;\;N={\text{Tr}}(P)=\mathrm {const.} ,} حيث${\displaystyle N}$يمثل بُعد الفضاء الجزئي. ويُعبَّر عن قانون الحفظ في هذه الحالة بوحدة مصفوفة التشتت (S-matrix ). في كلتا الحالتين، تفترض الاعتبارات نظامًا مغلقًا معزولًا. هذا النظام المغلق المعزول هو نظام ذو (1) طاقة ثابتة${\displaystyle E}$و(2) عدد ثابت من الجسيمات${\displaystyle N}$في (ج) حالة التوازن. إذا أخذنا في الاعتبار عددًا هائلاً من نسخ هذا النظام، نحصل على ما يُسمى بالمجموعة الميكروكانونية . بالنسبة لهذا النظام، يُفترض في الإحصاء الكمي "الفرضية الأساسية لتساوي الاحتمالات المسبقة لنظام معزول". تنص هذه الفرضية على أن النظام المعزول في حالة التوازن يشغل كل حالة من حالاته المتاحة بنفس الاحتمال. وبالتالي، تسمح لنا هذه الفرضية الأساسية بمساواة الاحتمال المسبق بانحلال النظام، أي بعدد الحالات المختلفة التي لها نفس الطاقة.

• السعر الأساسي
• مغالطة سعر الفائدة الأساسي
• نظرية المعرفة البايزية
• قوي

• باوينز، لوك؛ لوبرانو، ميشيل؛ ريتشارد، جان فرانسوا (1999). "الكثافات الاحتمالية المسبقة لنموذج الانحدار". الاستدلال البايزي في النماذج الاقتصادية القياسية الديناميكية . مطبعة جامعة أكسفورد. ص 94-128 . ISBN  0-19-877313-7.
• روبين، دونالد ب.؛ جيلمان، أندرو ؛ جون ب. كارلين؛ ستيرن، هال (2003). تحليل البيانات البايزي (  الطبعة الثانية). بوكا راتون: تشابمان آند هول/سي آر سي. رقم ISBN 978-1-58488-388-3MR 2027492 .​ 
• بيرغر، جيمس أو. (1985). نظرية القرار الإحصائي والتحليل البايزي . برلين: سبرينغر-فيرلاغ. ISBN 978-0-387-96098-2MR 0804611 .​ 
• بيرغر، جيمس أو.؛ ​​سترودرمان، ويليام إي. (1996). "اختيار التوزيعات الاحتمالية الهرمية المسبقة: المقبولية في تقدير المتوسطات الطبيعية" . حوليات الإحصاء . 24 (3): 931-951 . doi : 10.1214/aos/1032526950 . MR 1401831. Zbl 0865.62004 .  
• برناردو، خوسيه م . (1979). "التوزيعات الاحتمالية الخلفية المرجعية للاستدلال البايزي". مجلة الجمعية الإحصائية الملكية، السلسلة ب . 41 (2): 113-147 . doi : 10.1111/j.2517-6161.1979.tb01066.x . JSTOR 2985028. MR 0547240 .  
• جيمس أو. بيرغر ؛ خوسيه إم. برناردو ؛ دونغتشو صن (2009). "التعريف الرسمي للاحتمالات المرجعية المسبقة". حوليات الإحصاء . 37 (2): 905-938 . arXiv : 0904.0156 . Bibcode : 2009arXiv0904.0156B . doi : 10.1214/07-AOS587 . S2CID 3221355 . 
• جاينز، إدوين ت. (2003). نظرية الاحتمالات: منطق العلم . مطبعة جامعة كامبريدج. ISBN 978-0-521-59271-0.
• ويليامسون، جون (2010). "مراجعة لكتاب برونو دي فينيتي: محاضرات فلسفية في الاحتمالات" (ملف PDF) . مجلة فلسفة الرياضيات . 18 (1): 130-135 . doi : 10.1093/philmat/nkp019 . مؤرشف من النسخة الأصلية (ملف PDF) بتاريخ 9 يونيو 2011. تاريخ الاسترجاع: 2 يوليو 2010 .

• PriorDB هي قاعدة بيانات تعاونية للنماذج واحتمالاتها المسبقة