تقريب لابلاس
يُقدّم تقريب لابلاس، أو التقريب التربيعي ( QUAP ) [ 1 ] ، تعبيرًا تحليليًا لتوزيع الاحتمال اللاحق عن طريق مطابقة توزيع غاوسي بمتوسط يساوي حل MAP ودقة تساوي معلومات فيشر المرصودة . [ 2 ] [ 3 ] ويُبرَّر هذا التقريب بنظرية برنشتاين-فون ميزس ، التي تنص على أنه في ظل شروط الانتظام، يؤول خطأ التقريب إلى الصفر عندما يؤول عدد نقاط البيانات إلى اللانهاية. [ 4 ] [ 5 ]
على سبيل المثال، ضع في اعتبارك نموذج انحدار أو تصنيف مع مجموعة بياناتتتضمن المدخلاتوالمخرجاتمع متجه المعاملات (غير المعروف)من الطوليُرمز إلى الاحتمالية بـوالمعامل المسبقلنفترض أننا نريد تقريب الكثافة المشتركة للمخرجات والمعلماتصيغة بايز هي:
يساوي الاحتمال المشترك حاصل ضرب الاحتمالية والاحتمال المسبق، وبحسب قاعدة بايز ، يساوي حاصل ضرب الاحتمالية الحديةوالخلفييُنظر إليه كدالة لـالوصلة عبارة عن كثافة غير مُعَيَّرة.
في تقريب لابلاس، نقوم بتقريب المفصل بواسطة دالة غاوسية غير مُعَيَّرة، حيث نستخدمللدلالة على الكثافة التقريبية،للكثافة غير المعيارية وثابت التطبيع لـ(بشكل مستقل عن). بما أن الاحتمالية الحديةلا يعتمد على المعاملوالخلفييعود الوضع إلى طبيعتهيمكننا التعرف عليهم على الفور من خلالومن تقريبنا، على التوالي.
تقريب لابلاس هو
حيث حددنا
أينهو موقع نمط كثافة الهدف المشترك، والمعروف أيضًا باسم نقطة الاحتمال اللاحق الأقصى أو نقطة MAP وهومصفوفة موجبة محددة للمشتقات الثانية للوغاريتم السالب لكثافة الهدف المشتركة عند الوضعوبالتالي، يتطابق تقريب غاوس مع قيمة وانحناء لوغاريتم كثافة الهدف غير المُعَيَّرة عند النمط. قيمةيتم العثور عليها عادة باستخدام طريقة تعتمد على التدرج .
باختصار، لدينا
بالنسبة للتوزيع الاحتمالي الخلفي التقريبي علىواللوغاريتم التقريبي للاحتمالية الحدية على التوالي.
تتمثل أبرز نقاط ضعف تقريب لابلاس في تناظره حول النمط، وفي كونه محليًا للغاية: إذ يُستمد التقريب بأكمله من خصائص نقطة واحدة من كثافة الهدف. تُستخدم طريقة لابلاس على نطاق واسع، وقد رُوِّج لها في سياق الشبكات العصبية على يد ديفيد ماكاي [ 6 ] ، وفي سياق العمليات الغاوسية على يد ويليامز وباربر [ 7 ] .
تقريب لابلاس المتداخل المتكامل
تقريب لابلاس المتداخل المتكامل (INLA هي طريقةللاستدلال البايزيتعتمد على تقريب لابلاس. [ 8 ] صُممت هذه الطريقة لفئة من النماذج تُسمى نماذج غاوس الكامنة (LGMs)، حيث تُعد بديلاً سريعًا ودقيقًامونت كارلو لسلاسل ماركوفلحساب التوزيعات الهامشية اللاحقة. [ 9 ] [ 10 ] [ 11 ] نظرًا لسرعتها النسبية حتى مع مجموعات البيانات الكبيرة في بعض المشكلات والنماذج، أصبحت INLA طريقة استدلال شائعة في الإحصاء التطبيقي، ولا سيماالإحصاء المكاني،وعلم البيئة،الزلازل، وعلمالأوبئة. [ 12 ] [ 13 ] [ 14 ] من الممكن أيضًا دمج INLA معحلطريقة العناصر المحدودةلمعادلة تفاضلية جزئية عشوائيةلدراسة، على سبيل المثال، عمليات النقاط المكانية ونماذجتوزيع الأنواع. [ 15 ] [ 16 ] تم تطبيق طريقة INLA فيحزمةالبرمجة R. [ 17 ]
نماذج غاوسية كامنة
يتركلنرمز إلى متغير الاستجابة (أي المشاهدات) الذي ينتمي إلى عائلة أسية ، بمتوسط(ل) الارتباط بمتنبئ خطيعبر دالة ربط مناسبة . يمكن أن يتخذ المتنبئ الخطي شكل نموذج إضافي (بيزي) . تُرمز جميع التأثيرات الكامنة (المتنبئ الخطي، والتقاطع، ومعاملات المتغيرات المصاحبة المحتملة، وما إلى ذلك) بشكل جماعي بواسطة المتجه.يُرمز إلى المعلمات الفائقة للنموذج بـوفقًا للإحصاءات البايزية،وهي متغيرات عشوائية ذات توزيعات مسبقة.
يُفترض أن تكون المشاهدات مستقلة شرطيًا بالنظر إلىو:أينهي مجموعة المؤشرات للعناصر المرصودة من(قد لا تُلاحظ بعض العناصر، ولذلك يحسب برنامج INLA توزيعًا تنبؤيًا لاحقًا). لاحظ أن المتنبئ الخطيجزء من.
لكي يكون النموذج نموذجًا غاوسيًا كامنًا، يُفترض أنهو حقل عشوائي ماركوف غاوسي (GMRF) [ 8 ] (أي، غاوسي متعدد المتغيرات مع خصائص استقلال شرطي إضافية ) بكثافة احتماليةأينهومصفوفة دقة متفرقة تعتمد على -هو مُحدِّدها. مصفوفة الدقة متفرقة بسبب افتراض GMRF. التوزيع المسبقلا يشترط أن تكون المعلمات الفائقة موزعة توزيعًا طبيعيًا (غاوسيًا). ومع ذلك، فإن عدد المعلمات الفائقة،، يفترض أن تكون صغيرة (على سبيل المثال، أقل من 15).
الاستدلال البايزي التقريبي باستخدام INLA
في الاستدلال البايزي، يرغب المرء في إيجاد التوزيع الاحتمالي اللاحق للمتغيرات الكامنةوتطبيق نظرية بايزالتوزيع الخلفي المشترك لـويُعطى بواسطةيُعدّ الحصول على التوزيع الاحتمالي الخلفي الدقيق مشكلة بالغة الصعوبة عمومًا. في خوارزمية INLA، يتمثل الهدف الرئيسي في تقريب التوزيعات الاحتمالية الخلفية الهامشية.أين.
تتمثل الفكرة الرئيسية لـ INLA في بناء تقريبات متداخلة معطاة بواسطةأينهي كثافة احتمالية خلفية تقريبية. التقريب للكثافة الهامشيةيتم الحصول عليها بطريقة متداخلة عن طريق التقريب أولاًوثم يتم إجراء التكامل العدديمثلحيث يتم الجمع على قيم، مع أوزان التكامل المعطاة بواسطةتقريبيتم حسابها عن طريق التكامل العدديمن.
للحصول على التوزيع التقريبييمكن للمرء استخدام العلاقةكنقطة انطلاق. ثميتم الحصول عليها عند قيمة محددة للمعاملات الفائقةباستخدام تقريب لابلاس [ 8 ]أينهو التقريب الغاوسي لـنمطه عند قيمة معينةيكونيمكن إيجاد النمط عدديًا، على سبيل المثال باستخدام طريقة نيوتن-رافسون .
يكمن سر تقريب لابلاس المذكور أعلاه في حقيقة أن تقريب غاوس يُطبق على الشرط الكامل لـفي المقام لأنه عادة ما يكون قريبًا من التوزيع الغاوسي بسبب خاصية GMRF لـيؤدي تطبيق التقريب هنا إلى تحسين دقة الطريقة، لأن التوزيع الاحتمالي اللاحقلا يشترط أن تكون قريبة من التوزيع الغاوسي، وبالتالي لا يتم تطبيق تقريب التوزيع الغاوسي بشكل مباشر عليها.الخاصية الثانية المهمة لنموذج GMRF هي تباعد مصفوفة الدقة، وهو أمر ضروري لإجراء حسابات فعالة لـلكل قيمة[ 8 ]
الحصول على التوزيع التقريبيالأمر أكثر تعقيدًا، وتوفر طريقة INLA ثلاثة خيارات لذلك: تقريب غاوسي، تقريب لابلاس، أو تقريب لابلاس المبسط. [ 8 ] وللحصول على التكامل العدديكما تتوفر ثلاثة خيارات: البحث الشبكي، أو التصميم المركب المركزي، أو بايز التجريبي. [ 8 ]
مراجع
- ↑ "quap: حساب التوزيع الاحتمالي الخلفي التقريبي التربيعي في rmcelreath/rethinking: حزمة كتاب إعادة التفكير الإحصائي" . rdrr.io. تم الاسترجاع في 17 مارس 2026 .
- ↑ كاس، روبرت إي.؛ تيرني، لوك؛ كادان، جوزيف ب. (1991). "طريقة لابلاس في التحليل البايزي". التكامل الإحصائي المتعدد . الرياضيات المعاصرة. المجلد 115. الصفحات 89-100 . doi : 10.1090/conm/115/07 . ISBN 0-8218-5122-5.
- ↑ ماكاي، ديفيد جيه سي (2003). "نظرية المعلومات، الاستدلال وخوارزميات التعلم، الفصل 27: طريقة لابلاس" (PDF) .
- ↑ هارتيغان، جيه إيه (1983). "التقارب الطبيعي للتوزيعات الاحتمالية اللاحقة". نظرية بايز . سلسلة سبرينغر في الإحصاء. نيويورك: سبرينغر. ص 107-118 . doi : 10.1007/978-1-4613-8242-3_11 . ISBN 978-1-4613-8244-7.
- ↑ كاس، روبرت إي.؛ تيرني، لوك؛ كادان، جوزيف ب. (1990). "صحة توسعات الاحتمال اللاحق بناءً على طريقة لابلاس". في: جيسر، س.؛ هودجز، جيه إس؛ بريس، إس جيه؛ زيلنر، أ. (محررون). طرق بايز وطرق الاحتمال في الإحصاء والاقتصاد القياسي . إلسيفير. ص 473-488 . ISBN 0-444-88376-2.
- ↑ ماكاي، ديفيد جيه سي (1992). "الاستيفاء البايزي" (ملف PDF) . الحوسبة العصبية . 4 (3). مطبعة معهد ماساتشوستس للتكنولوجيا: 415-447 . doi : 10.1162/neco.1992.4.3.415 . S2CID 1762283 .
- ↑ ويليامز، كريستوفر كي؛ باربر، ديفيد (1998). "التصنيف البايزي باستخدام العمليات الغاوسية" (ملف PDF) . معاملات IEEE في تحليل الأنماط والذكاء الآلي . 20 (12). IEEE: 1342–1351 . doi : 10.1109/34.735807 .
- 1 2 3 4 5 6 رو، هافارد؛ مارتينو، سارة؛ شوبان، نيكولاس (2009). "الاستدلال البايزي التقريبي للنماذج الغاوسية الكامنة باستخدام تقريبات لابلاس المتداخلة المتكاملة". مجلة الجمعية الملكية للإحصاء، السلسلة ب . 71 (2): 319-392 . doi : 10.1111/j.1467-9868.2008.00700.x . hdl : 2066/75507 . S2CID 1657669 .
- ↑ تايلور، بنجامين م.؛ ديجل، بيتر ج. (2014). "INLA أم MCMC؟ دليل وتقييم مقارن للتنبؤ المكاني في عمليات كوكس اللوغاريتمية الغاوسية". مجلة الحساب الإحصائي والمحاكاة . 84 (10): 2266-2284 . arXiv : 1202.1738 . doi : 10.1080/00949655.2013.788653 . S2CID 88511801 .
- ↑ تينغ، م.؛ ناثو، ف.؛ جونسون، ت. د. (2017). "الحساب البايزي لعمليات كوكس اللوغاريتمية الغاوسية: تحليل مقارن للطرق" . مجلة الحساب الإحصائي والمحاكاة . 87 (11): 2227-2252 . doi : 10.1080/00949655.2017.1326117 . PMC 5708893. PMID 29200537 .
- ↑ وانغ، شياوفينغ؛ يو، يو رايان؛ فاراواي، جوليان جيه. (2018). نمذجة الانحدار البايزي باستخدام INLA . تشابمان آند هول/سي آر سي. ISBN 9781498727259.
- ↑ بلانجياردو، مارتا؛ كاميليتي، ميكيلا (2015). نماذج بايزية مكانية ومكانية-زمانية باستخدام R-INLA . جون وايلي وأولاده المحدودة. ISBN 9781118326558.
- ^ أوبيتز، ت. (2017). “النمذجة الغوسية الكامنة وINLA: مراجعة مع التركيز على تطبيقات الزمكان”. مجلة الشركة الفرنسية للإحصاء . 158 : 62 – 85. أرخايف : 1708.02723 .
- ↑ موراجا، باولا (2019). بيانات الصحة الجغرافية المكانية: النمذجة والتصور باستخدام R-INLA وShiny . تشابمان آند هول/سي آر سي. ISBN 9780367357955.
- ↑ ليندغرين، فين؛ رو، هافارد؛ ليندستروم، يوهان (2011). "رابط صريح بين الحقول الغاوسية والحقول العشوائية الغاوسية الماركوفية: منهج المعادلات التفاضلية الجزئية العشوائية". مجلة الجمعية الملكية للإحصاء، السلسلة ب ، 73 (4): 423-498 . doi : 10.1111/j.1467-9868.2011.00777.x . hdl : 20.500.11820/1084d335-e5b4-4867-9245-ec9c4f6f4645 . S2CID 120949984 .
- ^ ليزاما أوتشوا، ن. جراتسيا بينينو، م.؛ هول، ماساتشوستس؛ لوبيز، J.؛ موروا، هـ. (2020). "استخدام منهج النمذجة الافتراضية (INLA-SPDE) للتنبؤ بحدوث شعاع الشيطان ذو الذيل الشوكي (Mobular mobular)" . التقارير العلمية . 10 (1): 18822. بيب كود : 2020NatSR..1018822L . دوى : 10.1038/s41598-020-73879-3 . بمك 7606447 . بميد 33139744 .
- ↑ "مشروع R-INLA" . تم الاطلاع عليه بتاريخ 21 أبريل 2022 .
للمزيد من القراءة
- أمارال تركمان، م. أنطونيا؛ باولينو، كارلوس دانيال؛ مولر، بيتر (2019). "طريقة لابلاس الكلاسيكية". الإحصاءات البايزية الحاسوبية : مقدمة . كامبريدج: مطبعة جامعة كامبريدج. ص 154-159 . ISBN 978-1-108-48103-8.
- غوميز-روبيو، فيرجيلو (2021). الاستدلال البايزي باستخدام INLA . تشابمان آند هول/سي آر سي. رقم ISBN 978-1-03-217453-2.
- تانر، مارتن أ. (1996). "العزوم اللاحقة والتهميش بناءً على طريقة لابلاس". أدوات الاستدلال الإحصائي . نيويورك: سبرينغر. ص 44-51 . ISBN 0-387-94688-8.
- التقريبات الإحصائية
- الاستدلال البايزي
