احتمال مسبق

التوزيع الاحتمالي المسبق لكمية غير مؤكدة، والذي يُطلق عليه غالبًا ببساطة "التوزيع المسبق" ، هو توزيع الاحتمال المفترض قبل أخذ بعض الأدلة في الاعتبار. على سبيل المثال، يمكن أن يكون التوزيع المسبق هو توزيع الاحتمال الذي يمثل النسب النسبية للناخبين الذين سيصوتون لسياسي معين في انتخابات مستقبلية. قد تكون الكمية غير المعروفة معلمة للنموذج أو متغيرًا كامنًا وليس متغيرًا يمكن ملاحظته .

في الإحصاء البايزي ، تنص قاعدة بايز على كيفية تحديث السابق بمعلومات جديدة للحصول على توزيع الاحتمالات اللاحق ، وهو التوزيع الشرطي للكمية غير المؤكدة بالنظر إلى البيانات الجديدة. تاريخيًا، كان اختيار السابقات مقيدًا غالبًا بعائلة مترافقة لدالة احتمالية معينة ، بحيث ينتج عنه لاحق قابل للحل من نفس العائلة. ومع ذلك، فإن التوافر الواسع النطاق لطرق سلسلة ماركوف مونت كارلو جعل هذا الأمر أقل إثارة للقلق.

هناك العديد من الطرق لبناء توزيع مسبق. [1] في بعض الحالات، يمكن تحديد مسبق من المعلومات السابقة، مثل التجارب السابقة. يمكن أيضًا استنباط مسبق من التقييم الذاتي البحت لخبير ذي خبرة. [2] [3] [4] عندما لا تتوفر أي معلومات، يمكن تبني مسبق غير إعلامي مبررًا بمبدأ اللامبالاة . [5] [6] في التطبيقات الحديثة، غالبًا ما يتم اختيار المسبقات أيضًا لخصائصها الميكانيكية، مثل التنظيم واختيار الميزات . [7] [8] [9]

غالبًا ما تعتمد التوزيعات السابقة لمعلمات النموذج على معلمات خاصة بها. يمكن التعبير عن عدم اليقين بشأن هذه المعلمات الفائقة ، بدوره، كتوزيعات احتمالية فائقة الأولوية . على سبيل المثال، إذا استخدم المرء توزيع بيتا لنمذجة توزيع المعلمة p لتوزيع برنولي ، فإن:

  • p هو أحد معلمات النظام الأساسي (توزيع برنولي)، و
  • α و β هما معلمات التوزيع السابق (توزيع بيتا)؛ ومن ثم المعلمات الفائقة .

من حيث المبدأ، يمكن تحليل الأولويات إلى العديد من المستويات الشرطية للتوزيعات، والتي تسمى الأولويات الهرمية . [10]

معلومات سابقة

يعبر التنبؤ المسبق الإخباري عن معلومات محددة ومؤكدة حول متغير. ومن الأمثلة على ذلك توزيع مسبق لدرجة الحرارة عند الظهيرة غدًا. والنهج المعقول هو جعل التنبؤ المسبق توزيعًا طبيعيًا بقيمة متوقعة تساوي درجة حرارة الظهيرة اليوم، مع تباين يساوي تباين درجة الحرارة الجوية من يوم لآخر، أو توزيعًا لدرجة الحرارة لذلك اليوم من العام.

إن هذا المثال له خاصية مشتركة مع العديد من الأمثلة السابقة، وهي أن ما بعد مشكلة ما (درجة الحرارة اليوم) يصبح ما بعد مشكلة أخرى (درجة الحرارة غدًا)؛ فالأدلة السابقة التي تم أخذها في الاعتبار بالفعل تشكل جزءًا من السابق، ومع تراكم المزيد من الأدلة، يتم تحديد ما بعد إلى حد كبير من خلال الأدلة وليس أي افتراض أصلي، بشرط أن يكون الافتراض الأصلي قد اعترف بإمكانية ما يشير إليه الدليل. إن مصطلحي "سابق" و"لاحق" يرتبطان عمومًا ببيانات أو ملاحظة محددة.

سابقة قوية

السابقة القوية هي افتراض أو نظرية أو مفهوم أو فكرة سابقة، والتي بعد أخذ معلومات جديدة في الاعتبار، يتم تأسيس افتراض أو نظرية أو مفهوم أو فكرة حالية عليها. [ بحاجة لمصدر ] السابقة القوية هي نوع من السابقة المعلوماتية حيث تهيمن المعلومات الواردة في التوزيع السابق على المعلومات الواردة في البيانات التي يتم تحليلها. يجمع التحليل البايزي بين المعلومات الواردة في السابقة وتلك المستخرجة من البيانات لإنتاج التوزيع اللاحق ، والذي في حالة "السابقة القوية"، لن يتغير كثيرًا عن التوزيع السابق.

مقدمات ذات معلومات ضعيفة

يعبر التنبؤ المسبق الضعيف عن معلومات جزئية حول متغير، مما يوجه التحليل نحو حلول تتوافق مع المعرفة الموجودة دون تقييد النتائج بشكل مفرط ومنع التقديرات المتطرفة. على سبيل المثال، عند تحديد توزيع التنبؤ المسبق لدرجة الحرارة عند ظهر غد في سانت لويس، استخدام توزيع طبيعي بمتوسط ​​50 درجة فهرنهايت وانحراف معياري 40 درجة، مما يقيد درجة الحرارة بشكل فضفاض للغاية إلى النطاق (10 درجات، 90 درجة) مع فرصة ضئيلة لتكون أقل من -30 درجة أو أعلى من 130 درجة. الغرض من التنبؤ المسبق الضعيف هو التنظيم ، أي الحفاظ على الاستدلالات في نطاق معقول.

مقدمات غير مفيدة

يعبر السابق غير المعلوماتي أو المسطح أو المنتشر عن معلومات غامضة أو عامة حول متغير. [5] مصطلح "السابق غير المعلوماتي" هو تسمية خاطئة إلى حد ما. يمكن أيضًا تسمية مثل هذه السابقة بأنها سابقة غير معلوماتية للغاية ، أو سابقة موضوعية ، أي سابقة لا يتم استنباطها ذاتيًا.

يمكن أن تعبر المقدمات غير المعلوماتية عن معلومات "موضوعية" مثل "المتغير موجب" أو "المتغير أقل من حد معين". أبسط وأقدم قاعدة لتحديد المقدمة غير المعلوماتية هي مبدأ اللامبالاة ، الذي يعين احتمالات متساوية لجميع الاحتمالات. في مشاكل تقدير المعلمات، يؤدي استخدام المقدمة غير المعلوماتية عادةً إلى نتائج لا تختلف كثيرًا عن التحليل الإحصائي التقليدي، حيث غالبًا ما تنتج دالة الاحتمالية معلومات أكثر من المقدمة غير المعلوماتية.

بُذلت بعض المحاولات لإيجاد احتمالات مسبقة ، أي توزيعات احتمالية بمعنى ما تتطلبها طبيعة حالة عدم اليقين لدى المرء؛ وهذه المحاولات موضوع جدل فلسفي، حيث ينقسم البايزيون تقريبًا إلى مدرستين: "البيزيون الموضوعيون"، الذين يعتقدون أن مثل هذه المسبقات موجودة في العديد من المواقف المفيدة، و"البيزيون الذاتيون" الذين يعتقدون أنه في الممارسة العملية تمثل المسبقات عادةً أحكامًا ذاتية للرأي لا يمكن تبريرها بدقة (ويليامسون 2010). ولعل أقوى الحجج لصالح البايزية الموضوعية قدمها إدوين تي جاينز ، استنادًا بشكل أساسي إلى عواقب التناظرات ومبدأ الحد الأقصى للإنتروبيا.

كمثال على الأولوية المسبقة، وفقًا لجينز (2003)، ضع في اعتبارك موقفًا يعرف فيه المرء أن كرة قد تم إخفاؤها تحت أحد الكؤوس الثلاثة، أ، ب، أو ج، ولكن لا تتوفر أي معلومات أخرى حول موقعها. في هذه الحالة، يبدو أن الأولوية الموحدة لـ p ( أ ) = p ( ب ) = p ( ج ) = 1/3 هي الخيار المعقول الوحيد بشكل حدسي. وبشكل أكثر رسمية، يمكننا أن نرى أن المشكلة تظل كما هي إذا قمنا بتبديل تسميات الكؤوس ("أ"، "ب" و"ج"). لذلك سيكون من الغريب اختيار أولوية حيث يؤدي تبديل التسميات إلى تغيير في توقعاتنا حول الكأس التي ستوجد الكرة تحتها؛ الأولوية الموحدة هي الوحيدة التي تحافظ على هذا الثبات. إذا قبل المرء مبدأ الثبات هذا، فيمكنه أن يرى أن الأولوية الموحدة هي الأولوية الصحيحة منطقيًا لتمثيل هذه الحالة من المعرفة. إن هذه المقدمة "موضوعية" بمعنى كونها الاختيار الصحيح لتمثيل حالة معينة من المعرفة، ولكنها ليست موضوعية بمعنى كونها سمة مستقلة عن المراقب للعالم: في الواقع، توجد الكرة تحت كأس معينة، ومن المنطقي فقط التحدث عن الاحتمالات في هذا الموقف إذا كان هناك مراقب لديه معرفة محدودة بالنظام. [11]

كمثال أكثر إثارة للجدل، نشر جاينز حجة تستند إلى ثبات السابقة تحت تغيير المعلمات التي تشير إلى أن السابقة التي تمثل عدم اليقين الكامل بشأن الاحتمال يجب أن تكون سابقة هالدين p −1 (1 −  p ) −1 . [12] المثال الذي قدمه جاينز هو العثور على مادة كيميائية في مختبر والسؤال عما إذا كانت ستذوب في الماء في التجارب المتكررة. تعطي سابقة هالدين [13] أكبر وزن لـ و ، مما يشير إلى أن العينة ستذوب في كل مرة أو لن تذوب أبدًا، باحتمالية متساوية. ومع ذلك، إذا لاحظ المرء أن عينات من المادة الكيميائية تذوب في تجربة واحدة ولا تذوب في تجربة أخرى، فسيتم تحديث هذه السابقة إلى التوزيع المنتظم على الفاصل الزمني [0، 1]. يتم الحصول على ذلك من خلال تطبيق نظرية بايز على مجموعة البيانات المكونة من ملاحظة واحدة للذوبان وملاحظة واحدة لعدم الذوبان، باستخدام السابقة المذكورة أعلاه. سابقة هالدين هي توزيع مسبق غير صحيح (بمعنى أن لها كتلة لا نهائية). ابتكر هارولد جيفريز طريقة منهجية لتصميم المسبقات غير المعلوماتية مثل، مسبقة جيفريز p −1/2 (1 −  p ) −1/2 للمتغير العشوائي برنولي.

يمكن إنشاء مقدمات تتناسب مع مقياس هار إذا كانت مساحة المعلمة X تحمل بنية مجموعة طبيعية تترك حالة المعرفة البايزية لدينا ثابتة. [12] يمكن اعتبار هذا تعميمًا لمبدأ الثبات المستخدم لتبرير المقدمة الموحدة على الكؤوس الثلاثة في المثال أعلاه. على سبيل المثال، في الفيزياء قد نتوقع أن تعطي التجربة نفس النتائج بغض النظر عن اختيارنا لأصل نظام الإحداثيات. هذا يحفز بنية المجموعة لمجموعة الترجمة على X ، والتي تحدد احتمالية المقدمة كسابقة غير صحيحة ثابتة . وبالمثل، تكون بعض القياسات ثابتة بشكل طبيعي لاختيار مقياس تعسفي (على سبيل المثال، سواء تم استخدام السنتيمترات أو البوصات، يجب أن تكون النتائج الفيزيائية متساوية). في مثل هذه الحالة، تكون مجموعة المقياس هي بنية المجموعة الطبيعية، والمقدمة المقابلة على X تتناسب مع 1/ x . يهم أحيانًا ما إذا كنا نستخدم مقياس هار الثابت لليسار أو الثابت لليمين. على سبيل المثال، مقاييس هار الثابتة لليسار واليمين على المجموعة الأفينية ليست متساوية. يزعم بيرغر (1985، ص 413) أن مقياس هار الثابت لليمين هو الاختيار الصحيح.

فكرة أخرى، تبناها إدوين تي جاينز ، هي استخدام مبدأ الحد الأقصى للإنتروبيا (MAXENT). والدافع وراء ذلك هو أن إنتروبيا شانون لتوزيع الاحتمالات تقيس كمية المعلومات الموجودة في التوزيع. وكلما كانت الإنتروبيا أكبر، كلما كانت المعلومات التي يوفرها التوزيع أقل. وبالتالي، من خلال تعظيم الإنتروبيا على مجموعة مناسبة من توزيعات الاحتمالات على X ، نجد التوزيع الأقل إفادة بمعنى أنه يحتوي على أقل قدر من المعلومات المتسقة مع القيود التي تحدد المجموعة. على سبيل المثال، فإن أقصى إنتروبيا مسبقة على مساحة منفصلة، ​​بشرط أن يتم تطبيع الاحتمال إلى 1 فقط، هي الأولوية التي تعين احتمالية متساوية لكل حالة. وفي الحالة المستمرة، فإن أقصى إنتروبيا مسبقة بشرط أن يتم تطبيع الكثافة بمتوسط ​​صفر وتباين الوحدة هو التوزيع الطبيعي القياسي . يعمم مبدأ الحد الأدنى للإنتروبيا المتقاطعة MAXENT إلى حالة "تحديث" توزيع مسبق تعسفي بقيود مناسبة بمعنى أقصى إنتروبيا.

تم تقديم فكرة ذات صلة، وهي المسبقات المرجعية، بواسطة خوسيه ميغيل برناردو . هنا، الفكرة هي تعظيم تباعد كولباك-ليبلر المتوقع للتوزيع اللاحق بالنسبة للمسبق. هذا يزيد من المعلومات اللاحقة المتوقعة حول X عندما تكون كثافة المسبق p ( x )؛ وبالتالي، بمعنى ما، فإن p ( x ) هي المسبقة "الأقل إفادة" حول X. يتم تعريف المسبق المرجعي في الحد المقارب، أي أنه يتم النظر في حد المسبقات التي تم الحصول عليها بهذه الطريقة حيث يذهب عدد نقاط البيانات إلى ما لا نهاية. في الحالة الحالية، يتم إعطاء تباعد كولباك-ليبلر بين التوزيعات السابقة واللاحقة بواسطة

هنا، إحصائية كافية لبعض المعلمات . التكامل الداخلي هو تباعد KL بين التوزيعات اللاحقة والسابقة والنتيجة هي المتوسط ​​المرجح لجميع قيم . تقسيم اللوغاريتم إلى قسمين، وعكس ترتيب التكاملات في الجزء الثاني وملاحظة أن لا يعتمد على العائدات

التكامل الداخلي في الجزء الثاني هو التكامل على كثافة المفصل . هذا هو التوزيع الهامشي ، لذلك لدينا

الآن نستخدم مفهوم الإنتروبيا والذي في حالة توزيعات الاحتمالات هو القيمة المتوقعة السالبة للوغاريتم لدالة الكتلة أو الكثافة الاحتمالية أو استخدام هذا في المعادلة الأخيرة يعطي

بالكلمات، KL هي القيمة المتوقعة السلبية على إنتروبيا الشرطية على زائد إنتروبيا الحدية (أي غير المشروطة) لـ . في الحالة الحدية حيث يميل حجم العينة إلى اللانهاية، تنص نظرية برنشتاين-فون ميزس على أن توزيع الشرطية على قيمة ملحوظة معينة لـ يكون طبيعيًا مع تباين يساوي مقلوب معلومات فيشر عند القيمة "الحقيقية" لـ . إنتروبيا دالة الكثافة الطبيعية تساوي نصف لوغاريتم حيث هو تباين التوزيع. في هذه الحالة، إذن حيث هو حجم العينة الكبير تعسفيًا (الذي تتناسب معه معلومات فيشر) و هي القيمة "الحقيقية". نظرًا لأن هذا لا يعتمد عليه ، فيمكن إخراجه من التكامل، وبما أن هذا التكامل موجود على مساحة احتمالية فإنه يساوي واحدًا. وبالتالي يمكننا كتابة الشكل المقارب لـ KL على النحو التالي حيث يتناسب مع حجم العينة (الكبير مقاربًا). نحن لا نعرف قيمة . في الواقع، تتعارض الفكرة ذاتها مع فلسفة الاستدلال البايزي التي يتم فيها استبدال القيم "الحقيقية" للمعلمات بتوزيعات سابقة ولاحقة. لذا فإننا نزيلها عن طريق استبدالها بـ وأخذ القيمة المتوقعة للإنتروبيا الطبيعية، والتي نحصل عليها عن طريق الضرب في والتكامل على . وهذا يسمح لنا بدمج اللوغاريتمات التي تسفر عن

هذا تباعد شبه KL ("شبه" بمعنى أن الجذر التربيعي لمعلومات فيشر قد يكون نواة توزيع غير سليم). وبسبب علامة الطرح، نحتاج إلى تقليل هذا من أجل تعظيم تباعد KL الذي بدأنا به. تحدث القيمة الدنيا للمعادلة الأخيرة عندما لا يتباعد التوزيعان في وسيطة اللوغاريتم، غير السليمين أم لا. يحدث هذا بدوره عندما يكون التوزيع المسبق متناسبًا مع الجذر التربيعي لمعلومات فيشر لدالة الاحتمالية. وبالتالي في حالة المعلمة الفردية، تكون المسبقات المرجعية ومسبقات جيفريز متطابقة، على الرغم من أن جيفريز لديه أساس منطقي مختلف تمامًا.

غالبًا ما تكون المسبقات المرجعية هي المسبقات الموضوعية المختارة في المشكلات المتعددة المتغيرات، نظرًا لأن القواعد الأخرى (على سبيل المثال، قاعدة جيفريز ) قد تؤدي إلى مسبقات ذات سلوك إشكالي. [ توضيح مطلوب هل مسبقة جيفريز مرتبطة بتباعد KL؟ ]

يمكن أيضًا اشتقاق التوزيعات المسبقة الموضوعية من مبادئ أخرى، مثل نظرية المعلومات أو الترميز (انظر على سبيل المثال الحد الأدنى لطول الوصف ) أو إحصاءات التكرار (ما يسمى بالتوزيعات المسبقة المطابقة للاحتمالات). [14] تُستخدم مثل هذه الأساليب في نظرية سولومونوف للاستدلال الاستقرائي . تم تقديم بناء التوزيعات المسبقة الموضوعية مؤخرًا في علم المعلومات الحيوية، وخاصة الاستدلال في علم الأحياء لأنظمة السرطان، حيث يكون حجم العينة محدودًا ويتوفر قدر كبير من المعرفة المسبقة . في هذه الأساليب، إما معيار قائم على نظرية المعلومات، مثل تباعد KL أو دالة الاحتمال اللوغاريتمي لمشاكل التعلم الثنائي الخاضع للإشراف [15] ومشاكل نموذج الخليط. [16]

ترتبط المشكلات الفلسفية المرتبطة بالمسبقات غير المعلوماتية باختيار مقياس أو مقياس قياس مناسب. لنفترض أننا نريد سابقة لسرعة جري عداء غير معروف لنا. يمكننا تحديد توزيع طبيعي كسابقة لسرعته، ولكن بدلاً من ذلك يمكننا تحديد سابقة طبيعية للوقت الذي يستغرقه لإكمال 100 متر، وهو متناسب مع مقلوب السابقة الأولى. هذه مسبقات مختلفة جدًا، ولكن ليس من الواضح أيهما مفضل. يمكن لطريقة جاينز لمجموعات التحويل الإجابة على هذا السؤال في بعض المواقف. [17]

على نحو مماثل، إذا طُلب منا تقدير نسبة غير معروفة بين 0 و1، فقد نقول إن جميع النسب متساوية الاحتمال، ونستخدم أولوية موحدة. أو بدلاً من ذلك، قد نقول إن جميع أوامر الحجم للنسبة متساوية الاحتمال،الأولوية اللوغاريتمية ، وهي الأولوية الموحدة على لوغاريتم النسبة.أولوية جيفريزحل هذه المشكلة عن طريق حساب أولوية تعبر عن نفس الاعتقاد بغض النظر عن المقياس المستخدم. أولوية جيفريز لنسبة غير معروفةpهيp−1/2(1 − p)−1/2، والتي تختلف عن توصية جاينز.

تُستخدم المقدمات المبنية على مفاهيم الاحتمال الخوارزمي في الاستدلال الاستقرائي كأساس للاستدلال في الإعدادات العامة للغاية.

تتضمن المشكلات العملية المرتبطة بالأولويات غير المعلوماتية متطلب أن يكون التوزيع اللاحق مناسبًا. تكون الأولويات غير المعلوماتية المعتادة على المتغيرات المستمرة غير المحدودة غير مناسبة. لا يلزم أن تكون هذه مشكلة إذا كان التوزيع اللاحق مناسبًا. هناك قضية أخرى ذات أهمية وهي أنه إذا كان من المقرر استخدام أولية غير معلوماتية بشكل روتيني ، أي مع العديد من مجموعات البيانات المختلفة، فيجب أن يكون لها خصائص تكرارية جيدة. عادةً لا يهتم البايزي بمثل هذه القضايا، ولكن يمكن أن يكون مهمًا في هذا الموقف. على سبيل المثال، قد يرغب المرء في أن تكون أي قاعدة قرار تستند إلى التوزيع اللاحق مقبولة بموجب دالة الخسارة المعتمدة. لسوء الحظ، غالبًا ما يكون من الصعب التحقق من المقبولية، على الرغم من معرفة بعض النتائج (على سبيل المثال، Berger and Strawderman 1996). تكون المشكلة حادة بشكل خاص مع نماذج بايز الهرمية ؛ قد تعطي الأولويات المعتادة (على سبيل المثال، أولية جيفريز) قواعد قرار غير مقبولة بشكل سيئ إذا تم استخدامها في المستويات الأعلى من التسلسل الهرمي.

مقدمات غير سليمة

دع الأحداث تكون متبادلة الحصر وشاملة. إذا كتبت نظرية بايز على النحو التالي، فمن الواضح أنه سيتم الحصول على نفس النتيجة إذا تم ضرب جميع الاحتمالات السابقة P ( A i ) و P ( A j ) بثابت معين؛ وينطبق الشيء نفسه على متغير عشوائي مستمر . إذا تقارب المجموع في المقام، فإن الاحتمالات اللاحقة ستظل تتجمع (أو تتكامل) إلى 1 حتى لو لم تتقارب القيم السابقة، وبالتالي قد تحتاج الاحتمالات السابقة فقط إلى تحديد النسبة الصحيحة. وبأخذ هذه الفكرة إلى أبعد من ذلك، في كثير من الحالات قد لا يلزم أن يكون مجموع أو تكامل القيم السابقة منتهيًا للحصول على إجابات معقولة للاحتمالات اللاحقة. عندما تكون هذه هي الحالة، يُطلق على السابق اسم سابق غير صحيح . ومع ذلك، لا يلزم أن يكون التوزيع الخلفي توزيعًا صحيحًا إذا كان السابق غير صحيح. [18] هذا واضح من الحالة التي يكون فيها الحدث B مستقلاً عن كل A j .

يستخدم الإحصائيون أحيانًا المسبقات غير السليمة كأولويات غير مفيدة . [19] على سبيل المثال، إذا احتاجوا إلى توزيع مسبق لمتوسط ​​وتباين متغير عشوائي، فقد يفترضون أن p ( m ،  v ) ~ 1/ v (بالنسبة إلى v  > 0) مما يشير إلى أن أي قيمة للمتوسط ​​"متساوية الاحتمال" وأن قيمة التباين الإيجابي تصبح "أقل احتمالية" في تناسب عكسي مع قيمتها. يحذر العديد من المؤلفين (ليندلي، 1973؛ دي جروت، 1937؛ كاس وواسرمان، 1996) [ بحاجة لمصدر ] من خطر الإفراط في تفسير تلك المسبقات لأنها ليست كثافات احتمالية. الأهمية الوحيدة التي لها توجد في اللاحق المقابل، طالما أنه محدد جيدًا لجميع الملاحظات. ( تعتبر مسبقة هالدين مثالاً مضادًا نموذجيًا. [ بحاجة لتوضيح ] [ بحاجة لمصدر ] )

على النقيض من ذلك، لا يلزم تكامل وظائف الاحتمالية ، ودالة الاحتمال التي تساوي 1 بشكل موحد تتوافق مع غياب البيانات (كل النماذج متساوية الاحتمالية، في حالة عدم وجود بيانات): تضاعف قاعدة بايز قيمة سابقة بالاحتمالية، والناتج الفارغ هو مجرد احتمال ثابت 1. ومع ذلك، بدون البدء بتوزيع احتمالي سابق، لا ينتهي الأمر بالحصول على توزيع احتمالي لاحق ، وبالتالي لا يمكن تكامل أو حساب القيم المتوقعة أو الخسارة. انظر دالة الاحتمالية § عدم القدرة على التكامل للحصول على التفاصيل.

أمثلة

تتضمن أمثلة الأولويات غير السليمة ما يلي:

يمكن تفسير هذه الوظائف، التي يتم تفسيرها على أنها توزيعات موحدة، أيضًا على أنها دالة احتمالية في غياب البيانات، ولكنها ليست مسبقات مناسبة.

الاحتمالية المسبقة في الميكانيكا الإحصائية

في حين أن الاحتمالية السابقة في الإحصاء البايزي تُستخدم لتمثيل المعتقدات الأولية حول معلمة غير مؤكدة، في الميكانيكا الإحصائية تُستخدم الاحتمالية المسبقة لوصف الحالة الأولية للنظام. [20] تُعرَّف النسخة الكلاسيكية على أنها نسبة عدد الأحداث الأولية (على سبيل المثال عدد المرات التي يتم فيها إلقاء النرد) إلى العدد الإجمالي للأحداث - ويتم اعتبارها استنتاجيًا بحتًا، أي بدون أي تجربة. في حالة النرد إذا نظرنا إليه على الطاولة دون رميه، يتم استنتاج أن كل حدث أولي له نفس الاحتمالية - وبالتالي فإن احتمال كل نتيجة لرمي تخيلي للنرد (المثالي) أو ببساطة عن طريق عد عدد الوجوه هو 1/6. يظهر كل وجه من وجوه النرد باحتمالية متساوية - الاحتمال هو مقياس محدد لكل حدث أولي. تكون النتيجة مختلفة إذا ألقينا النرد عشرين مرة وسألنا عن عدد المرات (من أصل 20) التي يظهر فيها الرقم 6 على الوجه العلوي. في هذه الحالة، يدخل الوقت في الحسبان، ونحصل على نوع مختلف من الاحتمالات اعتمادًا على الوقت أو عدد المرات التي يُلقى فيها النرد. من ناحية أخرى، فإن الاحتمال المسبق لا يعتمد على الوقت ــ يمكنك أن تنظر إلى النرد على الطاولة طالما شئت دون أن تلمسه، وتستنتج أن احتمال ظهور الرقم 6 على الوجه العلوي هو 1/6.

في الميكانيكا الإحصائية، على سبيل المثال تلك الخاصة بالغاز الموجود في حجم محدود ، تكون كل من الإحداثيات المكانية وإحداثيات الزخم لعناصر الغاز الفردية (الذرات أو الجزيئات) محدودة في فضاء الطور الذي تمتد عليه هذه الإحداثيات. وقياسًا على حالة النرد، فإن الاحتمالية المسبقة هنا (في حالة المتصل) تتناسب مع عنصر حجم فضاء الطور مقسومًا على ، و هي عدد الموجات المستقرة (أي الحالات) فيه، حيث هي نطاق المتغير و هي نطاق المتغير (هنا من أجل التبسيط يتم النظر إليه في بُعد واحد). في بُعد واحد (الطول ) يكون هذا العدد أو الوزن الإحصائي أو الترجيح المسبق . في الأبعاد الثلاثة المعتادة (الحجم ) يمكن حساب العدد المقابل ليكون . [21] لفهم هذه الكمية على أنها تعطي عددًا من الحالات في ميكانيكا الكم (أي الموجة)، تذكر أنه في ميكانيكا الكم يرتبط كل جسيم بموجة مادية وهي حل لمعادلة شرودنجر. في حالة الجسيمات الحرة (الطاقة ) مثل تلك الموجودة في الغاز في صندوق ذي حجم، تكون موجة المادة هذه صريحة حيث تكون أعداد صحيحة. ثم نجد أن عدد القيم المختلفة وبالتالي الحالات في المنطقة بينهما هو التعبير أعلاه من خلال النظر في المنطقة التي تغطيها هذه النقاط. وعلاوة على ذلك، في ضوء علاقة عدم اليقين ، والتي في بُعد مكاني واحد هي لا يمكن تمييز هذه الحالات (أي أن هذه الحالات لا تحمل تسميات). إحدى النتائج المهمة هي نتيجة تُعرف باسم نظرية ليوفيل ، أي الاستقلال الزمني لعنصر حجم فضاء الطور وبالتالي عن الاحتمالية المسبقة. إن اعتماد هذه الكمية على الوقت يعني معلومات معروفة حول ديناميكيات النظام، وبالتالي لن تكون احتمالية مسبقة. [22] وبالتالي فإن المنطقة عند التمايز فيما يتعلق بالوقت تعطي صفرًا (بمساعدة معادلات هاملتون): الحجم في الوقت هو نفسه عند الوقت صفر. يصف المرء هذا أيضًا بأنه الحفاظ على المعلومات.

في نظرية الكم الكاملة لدينا قانون حفظ مماثل. في هذه الحالة، يتم استبدال منطقة فضاء الطور بمساحة فرعية لفضاء الحالات المعبر عنها من حيث عامل الإسقاط ، وبدلاً من الاحتمال في فضاء الطور، لدينا كثافة الاحتمال حيث هي أبعاد الفضاء الفرعي. يتم التعبير عن قانون الحفظ في هذه الحالة من خلال وحدة مصفوفة S. في كلتا الحالتين، تفترض الاعتبارات وجود نظام معزول مغلق. هذا النظام المعزول المغلق هو نظام به (1) طاقة ثابتة و (2) عدد ثابت من الجسيمات في (ج) حالة توازن. إذا نظرنا في عدد كبير من النسخ المتماثلة لهذا النظام، نحصل على ما يسمى المجموعة الميكروكنونية . لهذا النظام، نفترض في إحصاءات الكم "الفرضية الأساسية لاحتمالات مسبقة متساوية لنظام معزول". وهذا يقول أن النظام المعزول في حالة التوازن يشغل كل حالة من حالاته التي يمكن الوصول إليها بنفس الاحتمال. وهذا الافتراض الأساسي يسمح لنا بمساواة الاحتمال المسبق بانحطاط النظام، أي بعدد الحالات المختلفة التي لها نفس الطاقة.

مثال

يوضح المثال التالي الاحتمالية المسبقة (أو الترجيح المسبق) في (أ) السياقات الكلاسيكية و (ب) السياقات الكمية.

  1. الاحتمالية الكلاسيكية المسبقة

    ضع في اعتبارك الطاقة الدورانية E لجزيء ثنائي الذرة مع عزم القصور الذاتي I في إحداثيات قطبية كروية (هذا يعني أعلاه هنا )، أي المنحنى - للثابت E و هو قطع ناقص للمساحة من خلال التكامل على و الحجم الإجمالي لمساحة الطور المغطاة للطاقة الثابتة E هو ومن ثم فإن الترجيح المسبق الكلاسيكي في نطاق الطاقة هو

    (حجم فضاء الطور عند ) ناقص (حجم فضاء الطور عند ) يعطى بواسطة
  2. الاحتمال الكمي المسبق

    بافتراض أن عدد الحالات الكمومية في نطاق لكل اتجاه حركة معطى، لكل عنصر، بعامل ، فإن عدد الحالات في نطاق الطاقة dE هو، كما هو موضح في (أ) للجزيء ثنائي الذرة الدوار. ومن المعروف من ميكانيكا الموجة أن مستويات الطاقة لجزيء ثنائي الذرة الدوار تعطى من خلال كون كل مستوى من هذه المستويات متدهورًا بمقدار (2n+1). من خلال التقييم، نحصل على وبالتالي بالمقارنة مع ما سبق، نجد أن العدد التقريبي للحالات في نطاق dE معطى بواسطة الانحطاط، أي وبالتالي فإن الترجيح المسبق في السياق الكلاسيكي (أ) يتوافق مع الترجيح المسبق هنا في السياق الكمي (ب). وفي حالة المذبذب التوافقي البسيط أحادي البعد للتردد الطبيعي نجد على النحو التالي: (أ) و (ب) (لا انحطاط). وهكذا في ميكانيكا الكم فإن الاحتمال المسبق هو في الواقع مقياس للانحطاط ، أي عدد الحالات التي لها نفس الطاقة.

    في حالة ذرة الهيدروجين أو جهد كولومب (حيث يكون تقييم حجم فضاء الطور للطاقة الثابتة أكثر تعقيدًا) نعلم أن الانحطاط الميكانيكي الكمومي يكون مع . وبالتالي في هذه الحالة .

وظائف الاحتمال والتوزيع الأولية

في الميكانيكا الإحصائية (انظر أي كتاب) يشتق المرء ما يسمى بدالات التوزيع لمختلف الإحصاءات. في حالة إحصاءات فيرمي-ديراك وإحصاءات بوز-أينشتاين تكون هذه الدوال على التوالي. تُشتق هذه الدوال لـ (1) نظام في حالة توازن ديناميكي (أي في ظل ظروف ثابتة وموحدة) مع (2) إجمالي (وضخم) عدد الجسيمات (يحدد هذا الشرط الثابت )، و(3) إجمالي الطاقة ، أي مع كل جسيم له الطاقة . أحد الجوانب المهمة في الاشتقاق هو مراعاة عدم القدرة على التمييز بين الجسيمات والحالات في الإحصاءات الكمومية، أي أن الجسيمات والحالات ليس لها تسميات. في حالة الفرميونات، مثل الإلكترونات، التي تخضع لمبدأ باولي (جسيم واحد فقط لكل حالة أو لا يُسمح بأي جسيم)، يكون لدينا وبالتالي هو مقياس لنسبة الحالات التي تشغلها الإلكترونات بالفعل عند الطاقة ودرجة الحرارة . من ناحية أخرى، فإن الاحتمالية المسبقة هي مقياس لعدد الحالات الميكانيكية الموجية المتاحة. ومن ثم بما أن ثابت في ظل ظروف موحدة (كما يتدفق عدد كبير من الجسيمات خارج عنصر الحجم يتدفق أيضًا بثبات، بحيث يبدو الوضع في العنصر ثابتًا)، أي مستقل عن الزمن ، ومستقل أيضًا عن الزمن كما هو موضح سابقًا، نحصل على التعبير عن هذه المعادلة من حيث مشتقاتها الجزئية، نحصل على معادلة نقل بولتزمان . كيف تظهر الإحداثيات وما إلى ذلك هنا فجأة؟ لم يتم ذكر أي مجال كهربائي أو مجالات أخرى أعلاه. وبالتالي مع عدم وجود مثل هذه المجالات لدينا توزيع فيرمي ديراك كما هو مذكور أعلاه. ولكن مع وجود مثل هذه المجالات لدينا هذا الاعتماد الإضافي على .

انظر أيضا

ملحوظات

  1. ^ روبرت، كريستيان (1994). "من المعلومات السابقة إلى التوزيعات السابقة". الاختيار البايزي . نيويورك: سبرينغر. ص 89-136. ISBN 0-387-94296-3.
  2. ^ شالونر، كاثرين (1996). "استنباط التوزيعات المسبقة". في بيري، دونالد أ.؛ ستانجل، دالين (المحرران). الإحصاء الحيوي البايزي . نيويورك: مارسيل ديكر. ص 141-156. رقم ISBN 0-8247-9334-X.
  3. ^ ميكولا، بيترس؛ وآخرون (2023). "استنباط المعرفة السابقة: الماضي والحاضر والمستقبل". التحليل البايزي . قيد النشر. doi :10.1214/23-BA1381. hdl : 11336/183197 . S2CID  244798734.
  4. ^ Icazatti, Alejandro; Abril-Pla, Oriol; Klami, Arto; Martin, Osvaldo A. (سبتمبر 2023). "PreliZ: مجموعة أدوات للاستنباط المسبق". مجلة برمجيات المصدر المفتوح . doi : 10.21105/joss.05499 .
  5. ^ ab Zellner, Arnold (1971). "التوزيعات المسبقة لتمثيل "معرفة القليل"" مقدمة إلى الاستدلال البايزي في القياس الاقتصادي . نيويورك: جون وايلي وأولاده. ص 41-53. ISBN 0-471-98165-6.
  6. ^ برايس، هارولد جيه؛ مانسون، أليسون آر. (2001). "المقدمات غير المعلوماتية لنظرية بايز". مؤتمر الجمعية الأمريكية للمهندسين الفيزيائيين 617 : 379–391. doi :10.1063/1.1477060.
  7. ^ Piironen, Juho; Vehtari, Aki (2017). "معلومات الندرة والتنظيم في حدوة الحصان وغيرها من مقدمات الانكماش". المجلة الإلكترونية للإحصاء . 11 (2): 5018-5051. arXiv : 1707.01694 . doi : 10.1214/17-EJS1337SI .
  8. ^ سيمبسون، دانيال؛ وآخرون (2017). "معاقبة تعقيد مكونات النموذج: نهج عملي مبدئي لبناء المسبقات". العلوم الإحصائية . 32 (1): 1-28. arXiv : 1403.4630 . doi :10.1214/16-STS576. S2CID  88513041.
  9. ^ فورتوين، فينسينت (2022). "الأولويات في التعلم العميق البايزي: مراجعة". المراجعة الإحصائية الدولية . 90 (3): 563-591. doi :10.1111/insr.12502. hdl : 20.500.11850/547969 . S2CID  234681651.
  10. ^ كونجدون، بيتر د. (2020). "تقنيات الانحدار باستخدام الأولويات الهرمية". النماذج الهرمية البايزية (الطبعة الثانية). بوكا راتون: مطبعة سي آر سي. ص 253-315. رقم ISBN 978-1-03-217715-1.
  11. ^ فلورينس، جان بيير؛ موشارت، مايكل؛ رولين، جان ماري (1990). "حجج الثبات في الإحصاءات البايزية". صنع القرار الاقتصادي: الألعاب، القياس الاقتصادي والتحسين . شمال هولندا. ص 351-367. ISBN 0-444-88422-X.
  12. ^ ab Jaynes, Edwin T. (سبتمبر 1968). "الاحتمالات السابقة" (PDF) . معاملات معهد مهندسي الكهرباء والإلكترونيات في علوم الأنظمة والسيبرنطيقا . 4 (3): 227–241. doi :10.1109/TSSC.1968.300117.
  13. ^ اقترح هذا المبدأ السابق JBS Haldane في "A note on inverse probability", Mathematical Proceedings of the Cambridge Philosophical Society 28, 55–61, 1932, doi :10.1017/S0305004100010495. انظر أيضًا J. Haldane, "The precise of watched values ​​of small frequencies", Biometrika, 35:297–300, 1948, doi :10.2307/2332350, JSTOR  2332350.
  14. ^ داتا، غوري سانكار؛ موكيرجي، راؤول (2004). Probability Matching Priors: Higher Order Asymptotics . Springer. ISBN 978-0-387-20329-4.
  15. ^ Esfahani, MS; Dougherty, ER (2014). "دمج المعرفة المتعلقة بالمسار البيولوجي في بناء الأولويات من أجل التصنيف البايزي الأمثل - مجلات ومجلات IEEE". IEEE/ACM Transactions on Computational Biology and Bioinformatics . 11 (1): 202–18. doi :10.1109/TCBB.2013.143. PMID  26355519. S2CID  10096507.
  16. ^ بولوكي، شاهين؛ أصفهاني، محمد شهروخ؛ كيان، شياونينج؛ دوجيرتي، إدوارد ر (ديسمبر 2017). "دمج المعرفة البيولوجية المسبقة للتعلم البايزي عبر أقصى قدر من المعرفة المسبقة المدفوعة بالمعلومات". BMC Bioinformatics . 18 (S14): 552. doi : 10.1186/s12859-017-1893-4 . ISSN  1471-2105. PMC 5751802. PMID  29297278 . 
  17. ^ جاينز (1968)، ص 17، انظر أيضًا جاينز (2003)، الفصل 12. لاحظ أن الفصل 12 غير متاح في النسخة المطبوعة المسبقة عبر الإنترنت ولكن يمكن معاينته عبر كتب جوجل.
  18. ^ Dawid, AP; Stone, M.; Zidek, JV (1973). "Marginalization Paradoxes in Bayesian and Structural Inference". مجلة الجمعية الإحصائية الملكية . السلسلة ب (منهجية). 35 (2): 189–233. JSTOR  2984907.
  19. ^ كريستنسن، رونالد؛ جونسون، ويسلي؛ برانسكوم، آدم؛ هانسون، تيموثي إي. (2010). الأفكار البايزية وتحليل البيانات: مقدمة للعلماء والإحصائيين . هوبوكين: مطبعة سي آر سي. ص. 69. رقم ISBN 9781439894798.
  20. ^ إيبا، ي. (1989). "الإحصاء البايزي والميكانيكا الإحصائية". في تاكاياما، هـ. (المحرر). الديناميكيات التعاونية في الأنظمة الفيزيائية المعقدة . سلسلة سبرينغر في التآزر. المجلد 43. برلين: سبرينغر. ص 235-236. doi :10.1007/978-3-642-74554-6_60. ISBN 978-3-642-74556-0.
  21. ^ مولر-كيرستن، إتش جي دبليو (2013). أساسيات الفيزياء الإحصائية (الطبعة الثانية). سنغافورة: وورلد ساينتيفيك. الفصل 6.
  22. ^ بن نعيم، أ. (2007). كشف غموض الإنتروبيا . سنغافورة: العالم العلمي.

مراجع

  • باوينز، لوك؛ لوبرانو، ميشيل؛ ريتشارد، جان فرانسوا (1999). "الكثافات المسبقة لنموذج الانحدار". الاستدلال البايزي في النماذج الاقتصادية القياسية الديناميكية . مطبعة جامعة أكسفورد. ص 94-128. رقم ISBN 0-19-877313-7.
  • روبين، دونالد ب.؛ جلمان، أندرو ؛ جون ب. كارلين؛ ستيرن، هال (2003). تحليل البيانات البايزية (الطبعة الثانية). بوكا راتون: تشابمان وهول/سي آر سي. رقم ISBN 978-1-58488-388-3. السيد  2027492.
  • بيرجر، جيمس أو. (1985). نظرية القرار الإحصائي والتحليل البايزي . برلين: سبرينغر فيرلاغ. رقم ISBN 978-0-387-96098-2. السيد  0804611.
  • بيرجر، جيمس أو.؛ ​​سترودرمان، ويليام إي. (1996). "اختيار الأسبقيات الهرمية: القبول في تقدير المتوسطات الطبيعية". حوليات الإحصاء . 24 (3): 931-951. doi : 10.1214/aos/1032526950 . MR  1401831. Zbl  0865.62004.
  • برناردو، خوسيه م. (1979). "التوزيعات المرجعية الخلفية للاستدلال البايزي". مجلة الجمعية الإحصائية الملكية، السلسلة ب . 41 (2): 113-147. JSTOR  2985028. MR  0547240.
  • جيمس أو. بيرجر ؛ خوسيه م. برناردو ؛ دونجتشو صن (2009). "التعريف الرسمي للمراجع المسبقة". حوليات الإحصاء . 37 (2): 905-938. arXiv : 0904.0156 . Bibcode :2009arXiv0904.0156B. doi :10.1214/07-AOS587. S2CID  3221355.
  • جاينز، إدوين ت. (2003). نظرية الاحتمالات: منطق العلوم. مطبعة جامعة كامبريدج. رقم ISBN 978-0-521-59271-0.
  • ويليامسون، جون (2010). "مراجعة كتاب برونو دي فينيتي. محاضرات فلسفية عن الاحتمالات" (PDF) . Philosophia Mathematica . 18 (1): 130–135. doi :10.1093/philmat/nkp019. مؤرشف من الأصل (PDF) في 2011-06-09 . تم الاسترجاع في 2010-07-02 .
  • PriorDB قاعدة بيانات تعاونية للنماذج وأسبقياتها
Retrieved from "https://en.wikipedia.org/w/index.php?title=Prior_probability&oldid=1259402647#Prior_probability_in_statistical_mechanics"
Original text
Rate this translation
Your feedback will be used to help improve Google Translate