نظرية برنشتاين-فون ميزس

في الاستدلال البايزي ، تُوفر نظرية برنشتاين-فون ميزس الأساس لاستخدام مجموعات المصداقية البايزية لبيانات الثقة في النماذج البارامترية . وتنص هذه النظرية على أنه في ظل شروط معينة، يتقارب التوزيع الاحتمالي اللاحق في مسافة التباين الكلي إلى توزيع طبيعي متعدد المتغيرات متمركز حول مُقدِّر الاحتمال الأقصى.${\displaystyle {\widehat {\theta }}_{n}}$مع مصفوفة التغاير المعطاة بواسطة ${\displaystyle n^{-1}{\mathcal {I}}(\theta _{0})^{-1}}$، أين${\displaystyle \theta _{0}}$هو المعامل السكاني الحقيقي و${\displaystyle {\mathcal {I}}(\theta _{0})}$هي مصفوفة معلومات فيشر عند قيمة معلمة السكان الحقيقية: ^{[ 1 ]}

$$$ =0}$$

تربط نظرية برنشتاين-فون ميزس بين الاستدلال البايزي والاستدلال التكراري . تفترض هذه النظرية وجود عملية احتمالية حقيقية تولد المشاهدات، كما هو الحال في التكرارية، ثم تدرس جودة الطرق البايزية لاستعادة تلك العملية، وتقديم بيانات عدم اليقين بشأنها. على وجه الخصوص، تنص النظرية على أنه تقاربياً، توجد العديد من مجموعات المصداقية البايزية ذات مستوى مصداقية معين.${\displaystyle \alpha }$ستعمل كمجموعات ثقة لمستوى الثقة${\displaystyle \alpha }$، مما يسمح بتفسير مجموعات المصداقية البايزية بمصطلحات التكرارية.

يترك${\displaystyle (P_{\theta }\,:\,\theta \in \Theta )}$أن يكون نموذجًا إحصائيًا محددًا جيدًا، حيث تكون مساحة المعلمات${\displaystyle \Theta }$هي مجموعة فرعية من${\displaystyle \mathbb {R} ^{k}}$علاوة على ذلك، دع البيانات${\displaystyle X_{1},\ldots ,X_{n}\in {\mathcal {X}}}$يتم توزيعها بشكل مستقل ومتطابق من${\displaystyle P_{\theta _{0}}}$لنفترض أن جميع الشروط التالية محققة:

1. يسمح النموذج بكثافات${\displaystyle (p_{\theta }\,:\,\theta \in \Theta )}$فيما يتعلق ببعض المقاييس${\displaystyle \mu }$.
2. مصفوفة معلومات فيشر${\displaystyle {\mathcal {I}}(\theta _{0})}$غير مفرد.
3. النموذج قابل للتفاضل في المتوسط ​​التربيعي. أي أنه توجد دالة قابلة للقياس${\displaystyle f:{\mathcal {X}}\rightarrow \mathbb {R} ^{k}}$بحيث${\displaystyle \int \left[{\sqrt {p_{\theta }(x)}}-{\sqrt {p_{\theta _{0}}(x)}}-{\frac {1}{2}}(\theta -\theta _{0})^{\top }f(x){\sqrt {p_{\theta _{0}}(x)}}\right]^{2}\mathrm {d} \mu (x)=o(||\theta -\theta _{0}||^{2})}$مثل${\displaystyle \theta \rightarrow \theta _{0}}$.
4. لكل${\displaystyle \varepsilon >0}$، يوجد تسلسل من دوال الاختبار${\displaystyle \phi _{n}:{\mathcal {X}}^{n}\rightarrow [0,1]}$بحيث${\displaystyle \mathbb {E} _{\mathbf {X} \sim P_{\theta _{0}}^{n}}\left[\phi _{n}(\mathbf {X} )\right]\rightarrow 0}$و${\displaystyle \sup _{\theta \,:\,||\theta -\theta _{0}||>\varepsilon }\mathbb {E} _{\mathbf {X} \sim P_{\theta }^{n}}\left[1-\phi _{n}(\mathbf {X} )\right]\rightarrow 0}$مثل${\displaystyle n\rightarrow \infty }$.
5. يكون المقياس السابق متصلاً بشكل مطلق بالنسبة لمقياس ليبيغ في جوار${\displaystyle \theta _{0}}$، بكثافة موجبة مستمرة عند${\displaystyle \theta _{0}}$.

ثم لأي مُقدِّر${\displaystyle {\widehat {\theta }}_{n}}$مُرضٍ${\displaystyle {\sqrt {n}}({\widehat {\theta}}_{n}-\theta _{0})\xrightarrow {d} {\mathcal {N}}(0,{\mathcal {I}}^{-1}(\theta _{0}))}$، التوزيع الخلفي${\displaystyle \Pi _{n}}$ل${\displaystyle \theta \mid X_{1},\ldots ,X_{n}}$يرضي

$// _{0}}} 0.}$

مثل${\displaystyle n\rightarrow \infty }$.

في ظل شروط انتظام معينة، يكون مقدر الاحتمال الأقصى مقدرًا فعالًا تقاربيًا، وبالتالي يمكن استخدامه كـ${\displaystyle {\widehat {\theta }}_{n}}$في نص النظرية. وهذا يؤدي بالتالي إلى أن التوزيع الاحتمالي اللاحق يتقارب في مسافة التباين الكلي إلى التوزيع التقاربي لمقدر الاحتمال الأقصى، والذي يستخدم عادة لبناء مجموعات الثقة التكرارية.

أهم ما يترتب على نظرية برنشتاين-فون ميزس هو أن الاستدلال البايزي صحيح تقاربياً من وجهة نظر إحصائية تكرارية. وهذا يعني أنه بالنسبة لكميات كبيرة من البيانات، يمكن استخدام التوزيع الاحتمالي اللاحق للتوصل، من وجهة نظر إحصائية تكرارية، إلى استنتاجات صحيحة حول التقدير وعدم اليقين.

سُميت النظرية نسبةً إلى ريتشارد فون ميزس وإس إن بيرنشتاين ، على الرغم من أن أول برهان صحيح قدمه جوزيف إل دوب عام 1949 للمتغيرات العشوائية ذات فضاء الاحتمال المحدود . ^{[ 2 ]} وفي وقت لاحق ، قام لوسيان لو كام ، وطالبته لورين شوارتز ، وديفيد أ. فريدمان، وبيرسي دياكونيس بتوسيع البرهان ليشمل افتراضات أكثر عمومية.

في حالة وجود نموذج غير محدد بشكل صحيح، سيصبح التوزيع الاحتمالي اللاحق أيضًا توزيعًا غاوسيًا تقاربيًا بمتوسط ​​صحيح، ولكن ليس بالضرورة بمعلومات فيشر كتباين. وهذا يعني أن مجموعات المصداقية البايزية من المستوى${\displaystyle \alpha }$لا يمكن تفسيرها على أنها مجموعات ثقة من المستوى${\displaystyle \alpha }$[ ^{3 ]​}

في حالة الإحصاءات غير البارامترية، عادة ما تفشل نظرية برنشتاين-فون ميزس في التحقق باستثناء ملحوظ لعملية ديريشليه .

توصل فريدمان في عام 1965 إلى نتيجة لافتة: لا تنطبق نظرية برنشتاين-فون ميزس بشكل شبه مؤكد إذا كان للمتغير العشوائي فضاء احتمالي لانهائي قابل للعد ؛ ومع ذلك، يعتمد هذا على السماح بنطاق واسع جدًا من التوزيعات الاحتمالية المسبقة الممكنة. عمليًا، تتمتع التوزيعات الاحتمالية المسبقة المستخدمة عادةً في البحث بالخاصية المرغوبة حتى مع فضاء احتمالي لانهائي قابل للعد .

قد تتصرف الإحصاءات الموجزة المختلفة، مثل المنوال والمتوسط، بشكل مختلف في التوزيع الاحتمالي اللاحق. في أمثلة فريدمان، قد يتقارب كل من كثافة الاحتمال اللاحق ومتوسطه نحو نتيجة خاطئة، بينما يكون المنوال اللاحق ثابتًا ويتقارب نحو النتيجة الصحيحة.

• هارتيغان، جيه إيه (1983). "التقارب الطبيعي للتوزيعات الاحتمالية اللاحقة". نظرية بايز . سلسلة سبرينغر في الإحصاء. نيويورك: سبرينغر. ص 107-118 . doi : 10.1007/978-1-4613-8242-3_11 . ISBN  978-1-4613-8244-7.
• لو كام، لوسيان (1986). "التوزيعات الخلفية التقريبية الغاوسية". الأساليب التقاربية في نظرية القرار الإحصائي . نيويورك: سبرينغر. ص 336-345 . ISBN  0-387-96307-3.
• فان دير فارت، AW (1998). “نظرية برنشتاين – فون ميزس”. إحصائيات مقاربة . مطبعة جامعة كامبريدج. رقم ISBN 0-521-49603-9.