إرسال الرسائل المتغيرة

قد تكون هذه المقالة تقنية للغاية بحيث يصعب على معظم القراء فهمها . يرجى المساعدة في تحسينها لجعلها مفهومة لغير المتخصصين ، دون إزالة التفاصيل التقنية. ( فبراير 2024 ) ( تعرف على كيفية ومتى يمكنك إزالة هذه الرسالة )

تمرير الرسائل المتغيرة ( VMP ) هي تقنية استدلال تقريبية للشبكات البايزية ذات القيم المستمرة أو المنفصلة ، ​​مع آباء مترافقين أسي ، طورها جون وين. تم تطوير VMP كوسيلة لتعميم طرق التباين التقريبية المستخدمة بواسطة تقنيات مثل تخصيص دي ريتشليت الكامن ، وتعمل عن طريق تحديث توزيع تقريبي في كل عقدة من خلال الرسائل في بطانية ماركوف الخاصة بالعقدة .

بالنظر إلى مجموعة من المتغيرات المخفية والمتغيرات الملاحظة ، فإن هدف الاستدلال التقريبي هو تعظيم الحد الأدنى لاحتمالية وجود نموذج رسومي في التكوين . على بعض توزيعات الاحتمالات (التي سيتم تعريفها لاحقًا)، ${\displaystyle H}$${\displaystyle V}$${\displaystyle V}$${\displaystyle س}$

${\displaystyle \ln P(V)=\sum _{H}Q(H)\ln {\frac {P(H,V)}{P(H|V)}}=\sum _{H}Q(H){\Bigg [}\ln {\frac {P(H,V)}{Q(H)}}-\ln {\frac {P(H|V)}{Q(H)}}{\Bigg ]}}$.

لذا، إذا حددنا الحد الأدنى لدينا ليكون

${\displaystyle L(Q)=\sum _{H}Q(H)\ln {\frac {P(H,V)}{Q(H)}}}$,

عندئذٍ، يكون الاحتمال ببساطة هو هذا الحد بالإضافة إلى الإنتروبيا النسبية بين و . ولأن الإنتروبيا النسبية ليست سلبية، فإن الدالة المحددة أعلاه هي في الواقع حد أدنى لاحتمالية اللوغاريتم لملاحظتنا . سيكون للتوزيع طابع أبسط من طابع لأن التهميش على أكثر من أمر صعب بالنسبة لجميع النماذج الرسومية باستثناء أبسطها . على وجه الخصوص، يستخدم VMP توزيعًا معاملًا ${\displaystyle P}$${\displaystyle س}$${\displaystyle L}$${\displaystyle V}$${\displaystyle س}$${\displaystyle P}$${\displaystyle P}$

${\displaystyle Q(H)=\prod _{i}Q_{i}(H_{i}),}$

حيث هو جزء منفصل من النموذج الرسومي. ${\displaystyle H_{i}}$

يجب أن يكون تقدير الاحتمالية كبيرًا قدر الإمكان؛ لأنه حد أدنى، فإن الاقتراب يحسن تقريب الاحتمالية اللوغاريتمية. من خلال استبدال الإصدار العامل من ، ، المعلمة على العقد المخفية كما هو مذكور أعلاه، فإن الإنتروبيا النسبية السلبية بين و بالإضافة إلى مصطلحات أخرى مستقلة عن إذا يتم تعريفها على أنها ${\displaystyle \log P}$${\displaystyle س}$${\displaystyle L(Q)}$${\displaystyle H_{i}}$${\displaystyle Q_{j}}$${\displaystyle Q_{j}^{*}}$${\displaystyle Q_{j}}$${\displaystyle Q_{j}^{*}}$

${\displaystyle Q_{j}^{*}(H_{j})={\frac {1}{Z}}e^{\mathbb {E} _{-j}\{\ln P(H,V)\}}}$,

حيث يكون التوقع على جميع التوزيعات باستثناء . وبالتالي، إذا قمنا بتعيينه على ، فإن الحد الأقصى يكون أقصى. ${\displaystyle \mathbb {E} _{-j}\{\ln P(H,V)\}}$${\displaystyle Q_{i}}$${\displaystyle Q_{j}}$${\displaystyle Q_{j}}$${\displaystyle Q_{j}^{*}}$${\displaystyle L}$

يرسل الآباء لأطفالهم توقعات إحصائية كافية بينما يرسل الأبناء لآبائهم معلماتهم الطبيعية ، والتي تتطلب أيضًا إرسال رسائل من الوالدين المشاركين للعقدة.

نظرًا لأن جميع العقد في VMP تأتي من عائلات أسيّة وجميع آباء العقد مترافقون مع عقد أطفالهم، فمن الممكن حساب توقع الإحصائية الكافية من عامل التطبيع .

تبدأ الخوارزمية بحساب القيمة المتوقعة للإحصائيات الكافية لهذا المتجه. ثم، حتى تتقارب الاحتمالية مع قيمة مستقرة (يتم تحقيق ذلك عادةً عن طريق تعيين قيمة حدية صغيرة وتشغيل الخوارزمية حتى تزيد بمقدار أقل من قيمة الحدية هذه)، قم بما يلي عند كل عقدة:

1. احصل على جميع الرسائل من الوالدين.
2. احصل على جميع الرسائل من الأطفال (قد يتطلب هذا من الأطفال الحصول على رسائل من الوالدين المشاركين).
3. احسب القيمة المتوقعة للعقد الإحصائية الكافية.

نظرًا لأن كل طفل يجب أن يكون مترافقًا مع والده، فقد حد هذا من أنواع التوزيعات التي يمكن استخدامها في النموذج. على سبيل المثال، يجب أن يكون والدا التوزيع الغاوسي توزيعًا غاوسيًا (يتوافق مع المتوسط ) وتوزيع جاما (يتوافق مع الدقة، أو واحد فوق في المعلمات الأكثر شيوعًا). يمكن أن يكون للمتغيرات المنفصلة آباء دي ريتشليت، ويجب أن يكون للعقد البويسونية والأسية آباء جاما . في الآونة الأخيرة، تم توسيع VMP للتعامل مع النماذج التي تنتهك قيد الاقتران الشرطي هذا. ^[1]${\displaystyle \sigma }$

• وين، جيه إم؛ بيشوب، سي. (2005). "تمرير الرسائل المتغيرة" (ملف PDF) . مجلة أبحاث التعلم الآلي . 6 : 661-694.
• بيل، إم جيه (2003). الخوارزميات المتغيرة للاستدلال البايزي التقريبي (ملف PDF) (دكتوراه). وحدة علوم الأعصاب الحاسوبية غاتسبي، كلية لندن الجامعية. مؤرشف من الأصل (ملف PDF) في 2005-04-28 . تم الاسترجاع في 2007-02-15 .

• Infer.NET: إطار عمل استدلالي يتضمن تنفيذًا لـ VMP مع الأمثلة.
• dimple: نظام استدلال مفتوح المصدر يدعم VMP.
• تنفيذ أقدم لـ VMP مع أمثلة الاستخدام.