التحليل الدلالي الكامن الاحتمالي

يُعدّ التحليل الدلالي الكامن الاحتمالي ( PLSA )، المعروف أيضًا باسم فهرسة الدلالات الكامنة الاحتمالية ( PLSI ، خاصةً في أوساط استرجاع المعلومات)، أسلوبًا إحصائيًا لتحليل البيانات ثنائية النمط وبيانات التواجد المشترك. وبعبارة أخرى، يُمكن استخلاص تمثيل منخفض الأبعاد للمتغيرات المرصودة من حيث ارتباطها بمتغيرات كامنة معينة، تمامًا كما هو الحال في التحليل الدلالي الكامن الذي تطور منه PLSA.

بالمقارنة مع التحليل الدلالي الكامن القياسي الذي ينبع من الجبر الخطي ويقلل من حجم جداول التكرار (عادةً عبر تحليل القيمة المفردة )، يعتمد التحليل الدلالي الكامن الاحتمالي على تحليل الخليط المشتق من نموذج الفئة الكامنة .

مع الأخذ في الاعتبار الملاحظات في شكل حالات التزامن${\displaystyle (w,d)}$بالنسبة للكلمات والوثائق، يقوم نموذج PLSA بنمذجة احتمالية كل تواجد مشترك كمزيج من التوزيعات متعددة الحدود المستقلة شرطيًا :

${\displaystyle P(w,d)=\sum _{c}P(d)P(c|d)P(w|c)=P(d)\sum _{c}P(c|d)P(w|c)}$

مع${\displaystyle c}$باعتبارها موضوع الكلمات. لاحظ أن عدد المواضيع هو مُعامل فائق يجب اختياره مسبقًا ولا يُقدّر من البيانات. الصيغة الأولى هي الصيغة المتناظرة ، حيث${\displaystyle w}$و${\displaystyle d}$كلاهما مُولّد من الفئة الكامنة${\displaystyle c}$وبطرق مماثلة (باستخدام الاحتمالات الشرطية)${\displaystyle P(d|c)}$و${\displaystyle P(w|c)}$)، بينما الصيغة الثانية هي الصيغة غير المتماثلة ، حيث، لكل مستند${\displaystyle d}$يتم اختيار فئة كامنة بشكل مشروط بالمستند وفقًا لـ${\displaystyle P(c|d)}$ثم يتم توليد كلمة من تلك الفئة وفقًا لـ${\displaystyle P(w|c)}$على الرغم من أننا استخدمنا الكلمات والوثائق في هذا المثال، إلا أنه يمكن نمذجة التواجد المشترك لأي زوج من المتغيرات المنفصلة بنفس الطريقة تمامًا.

إذن، عدد المعاملات يساوي${\displaystyle cd+wc}$يزداد عدد المعاملات خطيًا مع عدد المستندات. إضافةً إلى ذلك، على الرغم من أن نموذج PLSA هو نموذج توليدي للمستندات الموجودة في المجموعة التي يُقدَّر عليها، إلا أنه ليس نموذجًا توليديًا لمستندات جديدة.

يتم تعلم معاييرها باستخدام خوارزمية EM .

يمكن استخدام PLSA في بيئة تمييزية، عبر نوى فيشر . ^{[ 1 ]}

تُستخدم PLSA في استرجاع المعلومات وتصفيتها ، ومعالجة اللغة الطبيعية ، والتعلم الآلي من النصوص، والمعلوماتية الحيوية ، ^{[ 2 ]} والمجالات ذات الصلة.

تشير التقارير إلى أن نموذج الجوانب المستخدم في التحليل الدلالي الكامن الاحتمالي يعاني من مشاكل فرط التخصيص الشديدة . ^{[ 3 ]}

• الامتدادات الهرمية:
  • غير متماثل: MASHA ("التحليل الهرمي غير المتماثل متعدد الحدود") ^{[ 4 ]}
  • متناظر: HPLSA ("التحليل الدلالي الكامن الاحتمالي الهرمي") ^{[ 5 ]}

• النماذج التوليدية: تم تطوير النماذج التالية لمعالجة أحد أوجه القصور التي غالباً ما يتم انتقادها في PLSA، ألا وهو أنها ليست نموذجاً توليدياً مناسباً للمستندات الجديدة.
  • تخصيص ديريشلي الكامن – يضيف توزيع ديريشلي المسبق على توزيع المواضيع لكل مستند
• البيانات ذات الرتب الأعلى: على الرغم من ندرة مناقشة هذا الموضوع في الأدبيات العلمية، إلا أن تحليل الانحدار اللوجستي الاحتمالي (PLSA) يمتد بشكل طبيعي ليشمل البيانات ذات الرتب الأعلى (ثلاثة أنماط فأكثر)، أي أنه قادر على نمذجة التواجد المشترك لثلاثة متغيرات أو أكثر. في الصيغة المتناظرة المذكورة أعلاه، يتم ذلك ببساطة عن طريق إضافة توزيعات احتمالية شرطية لهذه المتغيرات الإضافية. وهذا هو النظير الاحتمالي لتحليل الموتر غير السالب.

هذا مثال على نموذج الفئات الكامنة (انظر المراجع المذكورة فيه)، وهو مرتبط ^{[ 6 ] [ 7 ]} بتحليل المصفوفات غير السالبة . وقد صاغ المصطلح الحالي توماس هوفمان عام 1999. ^{[ 8 ]}

• معالجة المصطلحات المركبة
• تخصيص الباتشينكو
• نموذج الفضاء المتجهي

• التحليل الدلالي الكامن الاحتمالي
• عرض توضيحي كامل لـ PLSA بلغة C#