الإحصاءات البايزية

تُصاغ المعادلة الكلاسيكية في الكتب الدراسية لحساب التوزيع الاحتمالي اللاحق في الإحصاء البايزي عادةً على النحو التالي: $${\displaystyle \pi (\theta \mid x)={\mathcal {L}}(x\mid \theta )\cdot {\frac {\pi (\theta )}{\int _{\Theta }{\mathcal {L}}(x\mid \theta ')\cdot \pi (\theta ')\;d\theta '}}}$$ أين${\displaystyle \pi (\theta \mid x)}$هي الاحتمالية المحدثة لـ${\displaystyle \theta }$كونها المعلمة الحقيقية بعد جمع البيانات${\displaystyle x}$،${\displaystyle {\mathcal {L}}(x\mid \theta )}$احتمالية جمع البيانات${\displaystyle x}$بالنظر إلى المعلمة${\displaystyle \theta }$،${\displaystyle \pi (\theta )}$هو الاعتقاد المسبق لـ${\displaystyle \theta }$احتمالية ، والتكامل في المقام يعطي احتمال جمع البيانات${\displaystyle x}$.

رياضياً، يمكن بناء هذه النسخة من نظرية بايز بالطريقة التالية: لنفترض${\displaystyle (\Omega ,\Sigma _{\Omega },\lbrace P_{\theta }\mid \theta \in \Theta \rbrace )}$أن يكون نموذجًا إحصائيًا بارامتريًا و${\displaystyle (\Theta ,\Sigma _{\Theta },\pi )}$أن تكون فضاء احتماليًا فوق فضاء المعلمات. يمكننا إنشاء فضاء احتمالي جديد.${\displaystyle (\Theta \times \Omega ,\Sigma _{\Theta }\otimes \Sigma _{\Omega },Q)}$أين${\displaystyle Q}$هو نوع من أنواع مقاييس المنتج يُعرَّف على النحو التالي: ${\displaystyle Q(M):=(\pi \otimes P_{\cdot })(M)=\int _{\Theta }P_{\theta '}(M_{\theta '})\;d\pi (\theta '),}$ أين${\displaystyle M_{\theta '}:=\{\omega \in \Omega \mid (\theta ',\omega )\in M\})}$.

والآن، لنبدأ${\displaystyle A_{\theta }:=\lbrace \theta \rbrace \times \Omega }$و${\displaystyle B_{x}:=\Theta \times \lbrace x\rbrace }$ثم نحصل على: ${\displaystyle Q(\theta )=Q(A_{\theta })=\int _{\lbrace \theta \rbrace }P_{\theta '}(\Omega )\;d\pi (\theta ')=\pi (\lbrace \theta \rbrace )\cdot P_{\theta }(\Omega )=\pi (\theta )}$

وبالتالي

${\displaystyle Q(x\mid \theta )={\frac {Q(B_{x}\cap A_{\theta })}{Q(A_{\theta })}}={\frac {\pi (\theta )\cdot P_{\theta }(\lbrace x\rbrace )}{\pi (\theta )}}=P_{\theta }(x)}$

كلاهما كما هو متوقع تجريبياً. وبالتالي، تنص نظرية بايز على ما يلي:

${\displaystyle Q(\theta \mid x)=P_{\theta }(x)\cdot {\frac {\pi (\theta )}{Q(x)}}}$

لو${\displaystyle \pi \ll \lambda }$(أي متصلة بشكل مطلق بالنسبة لمقياس ليبيغ )، إذن توجد كثافة بحيث${\displaystyle \pi (\theta )={\frac {d\pi }{d\lambda }}(\theta )}$ويمكننا أن نكتب:

${\displaystyle Q(x)=\int _{\Theta }P_{\theta '}(x)\;d\pi (\theta ')=\int _{\Theta }P_{\theta '}(x)\cdot \pi (\theta ')\;d\theta '}$

وإلا، إذا${\displaystyle \pi \ll \nu }$(متصل تمامًا فيما يتعلق بقياس العد)، وبالمثل يمكننا أن نكتب:

${\displaystyle Q(x)=\int _{\Theta }P_{\theta '}(x)\cdot \pi (\theta ')\;d\nu (\theta ')=\sum _{i}P_{\theta _{i}}(x)\cdot \pi (\theta _{i})}$

وبالتالي، من خلال تحديد${\displaystyle Q(\theta \mid x)}$مع${\displaystyle \pi (\theta \mid x)}$و${\displaystyle {\mathcal {L}}(x\mid \theta )}$مع${\displaystyle P_{\theta }(x)}$نصل بذلك إلى المعادلة الكلاسيكية المذكورة أعلاه.

يشير الاستدلال البايزي إلى الاستدلال الإحصائي الذي يُقاس فيه عدم اليقين في الاستدلالات باستخدام الاحتمالية. ^{[ 8 ]} في الاستدلال التكراري الكلاسيكي، تُعتبر معلمات النموذج وفرضياته ثابتة. ولا تُسند احتمالات إلى المعلمات أو الفرضيات في الاستدلال التكراري. على سبيل المثال، لا يُعقل في الاستدلال التكراري إسناد احتمال مباشر لحدث لا يمكن أن يحدث إلا مرة واحدة، مثل نتيجة رمية عملة معدنية متوازنة. ومع ذلك، من المنطقي القول إن نسبة ظهور الصورة تقترب من النصف مع ازدياد عدد رميات العملة. ^{[ 9 ]}

تُحدد النماذج الإحصائية مجموعة من الافتراضات والعمليات الإحصائية التي تُمثل كيفية توليد بيانات العينة. تحتوي النماذج الإحصائية على عدد من المعلمات القابلة للتعديل. على سبيل المثال، يمكن تمثيل العملة المعدنية كعينات من توزيع برنولي ، الذي يُمثل نتيجتين محتملتين. يحتوي توزيع برنولي على مُعامل واحد يُساوي احتمال إحدى النتيجتين، وهو في أغلب الأحيان احتمال ظهور الصورة (الوجه). يُعدّ تصميم نموذج جيد للبيانات أمرًا أساسيًا في الاستدلال البايزي. في أغلب الأحيان، تُقارب النماذج العملية الحقيقية فقط، وقد لا تأخذ في الحسبان بعض العوامل المؤثرة على البيانات. ^{[ 2 ]} في الاستدلال البايزي، يُمكن إسناد احتمالات لمعلمات النموذج. يُمكن تمثيل المعلمات كمتغيرات عشوائية . يستخدم الاستدلال البايزي نظرية بايز لتحديث الاحتمالات بعد الحصول على المزيد من الأدلة أو معرفتها. ^{[ 2 ] [ 10 ]} علاوة على ذلك، تسمح الطرق البايزية بوضع توزيعات احتمالية مسبقة على النماذج بأكملها وحساب احتمالاتها اللاحقة باستخدام نظرية بايز. تتناسب هذه الاحتمالات اللاحقة مع حاصل ضرب الاحتمال المسبق والاحتمال الهامشي، حيث يُمثل الاحتمال الهامشي تكامل كثافة المعاينة على التوزيع المسبق للمعلمات. في النماذج المعقدة، تُحسب الاحتمالات الهامشية عادةً عدديًا. ^{[ 11 ]}

تتميز صياغة النماذج الإحصائية باستخدام الإحصاءات البايزية بضرورة تحديد التوزيعات الاحتمالية المسبقة لأي معلمات مجهولة. في الواقع، قد تمتلك معلمات التوزيعات الاحتمالية المسبقة نفسها توزيعات احتمالية مسبقة، مما يؤدي إلى النمذجة الهرمية البايزية ، ^{[ 12 ] [ 13 ] [ 14 ]} والمعروفة أيضًا بالنمذجة متعددة المستويات. وتُعد الشبكات البايزية حالة خاصة من هذا النوع .

لإجراء تحليل إحصائي بايزي، تمت مناقشة أفضل الممارسات بواسطة فان دي شوت وآخرون ^{[ 15 ] .}

يتضمن التصميم البايزي للتجارب مفهومًا يُسمى "تأثير المعتقدات المسبقة". يستخدم هذا النهج تقنيات التحليل التسلسلي لإدراج نتائج التجارب السابقة في تصميم التجربة التالية. ويتحقق ذلك من خلال تحديث "المعتقدات" باستخدام التوزيعات الاحتمالية المسبقة واللاحقة . وهذا يسمح بتصميم التجارب بحيث تستفيد من جميع أنواع الموارد على النحو الأمثل. ومن الأمثلة على ذلك مسألة اللص متعدد الأذرع .

يُعد التحليل الاستكشافي للنماذج البايزية تكييفًا أو توسيعًا لمنهج تحليل البيانات الاستكشافي ليناسب احتياجات وخصائص النمذجة البايزية. وكما قال بيرسي دياكونيس: ^{[ 16 ]}

يسعى تحليل البيانات الاستكشافي إلى الكشف عن البنية، أو تقديم أوصاف بسيطة للبيانات. ننظر إلى الأرقام أو الرسوم البيانية ونحاول إيجاد أنماط. نتتبع الخيوط التي تشير إليها المعلومات الأساسية، والخيال، والأنماط المدركة، والخبرة في تحليلات البيانات الأخرى.

تُنتج عملية الاستدلال توزيعًا احتماليًا لاحقًا، والذي يلعب دورًا محوريًا في الإحصاء البايزي، إلى جانب توزيعات أخرى مثل التوزيع التنبؤي اللاحق والتوزيع التنبؤي القبلي. ويُعدّ التصور والتحليل والتفسير الصحيح لهذه التوزيعات أمرًا أساسيًا للإجابة بشكل سليم على الأسئلة التي تُحفّز عملية الاستدلال. ^{[ 17 ]}

عند العمل مع النماذج البايزية، هناك سلسلة من المهام ذات الصلة التي يجب معالجتها إلى جانب الاستدلال نفسه:

• تشخيص جودة الاستدلال، وهذا ضروري عند استخدام الطرق العددية مثل تقنيات مونت كارلو لسلاسل ماركوف
• نقد النموذج، بما في ذلك تقييمات كل من افتراضات النموذج وتنبؤاته
• مقارنة النماذج، بما في ذلك اختيار النموذج أو حساب متوسط ​​النماذج
• إعداد النتائج لجمهور معين

تُعدّ جميع هذه المهام جزءًا من منهجية التحليل الاستكشافي للنماذج البايزية، ويُعتبر إنجازها بنجاح أمرًا أساسيًا لعملية النمذجة التكرارية والتفاعلية. تتطلب هذه المهام ملخصات رقمية ومرئية. ^{[ 18 ] [ 19 ] [ 20 ]} وبشكل أعم، تُوصف هذه المهام المترابطة، إلى جانب بناء النموذج التكراري والتحقق منه واستكشاف الأخطاء وإصلاحها، بأنها تُشكّل سير عمل بايزي . ^{[ 21 ]}