نموذج الموضوع

📅 آخر تحديث: ١٧ يوليو ٢٠٢٦
✍️ نُشر في: ١٧ يوليو ٢٠٢٦
الموسوعة الحرة

في معالجة اللغات الطبيعية ، يُعدّ نموذج الموضوع نوعًا من النماذج الاحتمالية أو العصبية أو الجبرية لاكتشاف المواضيع المجردة التي تظهر في مجموعة من المستندات. ويُستخدم نمذجة المواضيع بكثرة في استخراج النصوص لاكتشاف السمات والبنى الدلالية الخفية في النص. وتُنتج المواضيع بواسطة نماذج الموضوعات من خلال مجموعة متنوعة من الأطر الرياضية، بما في ذلك النماذج التوليدية الاحتمالية، وطرق تحليل المصفوفات القائمة على تكرار الكلمات، وخوارزميات التجميع المطبقة على التضمينات الدلالية . [ 1 ] [ 2 ] [ 3 ]

تُستخدم نماذج المواضيع بشكل شائع لتنظيم واكتشاف السمات الكامنة في مجموعات كبيرة من النصوص غير المهيكلة وغيرها من أشكال البيانات الضخمة . [ 4 ] [ 5 ] وبالإضافة إلى التنقيب في النصوص، استُخدمت نماذج المواضيع أيضًا للكشف عن البنى الكامنة في مجالات مثل المعلومات الوراثية ، والمعلوماتية الحيوية ، ورؤية الحاسوب ، والشبكات الاجتماعية . [ 6 ] [ 7 ]

تاريخ

وصف باباديميتريو، وراغافان، وتاماكي، وفيمبالا نموذجًا مبكرًا للمواضيع في عام 1998. [ 8 ] وطوّر توماس هوفمان نموذجًا آخر يُسمى التحليل الدلالي الكامن الاحتمالي (PLSA) في عام 1999. [ 9 ] ويُعدّ تخصيص ديريشلي الكامن (LDA)، الذي ربما يكون النموذج الأكثر شيوعًا حاليًا، تعميمًا لنموذج PLSA. وقد طوّره ديفيد بلي ، وأندرو نغ ، ومايكل آي. جوردان في عام 2002، حيث يُقدّم LDA توزيعات ديريشلي مسبقة متفرقة على توزيعات المستندات-المواضيع وتوزيعات المواضيع-الكلمات، مُجسّدًا بذلك فكرة أن المستندات تُغطي عددًا محدودًا من المواضيع وأن المواضيع غالبًا ما تستخدم عددًا محدودًا من الكلمات. [ 10 ] وتُعتبر نماذج المواضيع الأخرى امتدادات لنموذج LDA، مثل تخصيص باتشينكو ، الذي يُحسّن من LDA من خلال نمذجة الارتباطات بين المواضيع بالإضافة إلى ارتباطات الكلمات التي تُشكّل المواضيع. يُعد تحليل الشجرة الكامنة الهرمي ( HLTA ) بديلاً لـ LDA، الذي يقوم بنمذجة التواجد المشترك للكلمات باستخدام شجرة من المتغيرات الكامنة وحالات المتغيرات الكامنة، والتي تتوافق مع مجموعات ناعمة من المستندات، ويتم تفسيرها على أنها مواضيع.

رسم متحرك لعملية اكتشاف المواضيع في مصفوفة الكلمات والمستندات باستخدام التجميع الثنائي . يُمثل كل عمود مستندًا، وكل صف كلمة. تُخزن كل خلية تردد الكلمة في المستند، حيث تشير الخلايا الداكنة إلى ترددات الكلمات العالية. تُصنف هذه العملية المستندات التي تستخدم كلمات متشابهة، كما تُصنف الكلمات التي تظهر في مجموعة مماثلة من المستندات. تُسمى هذه المجموعات من الكلمات بالمواضيع. أما نماذج المواضيع الأكثر شيوعًا، مثل LDA، فتُصنف المستندات فقط، استنادًا إلى آلية أكثر تعقيدًا واحتمالية.

نماذج المواضيع لمعلومات السياق

تشمل مناهج المعلومات الزمنية تحديد بلوك ونيومان للديناميكيات الزمنية للمواضيع في جريدة بنسلفانيا غازيت خلال الفترة 1728-1800. استخدم غريفيث وستيفيرز نمذجة المواضيع على ملخصات من مجلة PNAS لتحديد المواضيع التي ارتفعت أو انخفضت شعبيتها من عام 1991 إلى عام 2001، بينما استخدم لامبا ومادهوسودان [ 11 ] نمذجة المواضيع على مقالات بحثية كاملة النص تم استرجاعها من مجلة DJLIT من عام 1981 إلى عام 2018. في مجال علم المكتبات والمعلومات، طبق لامبا ومادهوسودان [ 11 ] [ 12 ] [ 13 ] [ 14 ] نمذجة المواضيع على مصادر هندية مختلفة مثل مقالات المجلات والرسائل الجامعية الإلكترونية والموارد الإلكترونية. قام نيلسون [ 15 ] بتحليل التغير في المواضيع بمرور الوقت في صحيفة ريتشموند تايمز ديسباتش لفهم التغيرات والاستمرارية الاجتماعية والسياسية في ريتشموند خلال الحرب الأهلية الأمريكية . قام كل من يانغ وتورجيت وميهالسا بتطبيق أساليب نمذجة المواضيع على الصحف من عام 1829 إلى عام 2008. واستخدم ميمو نمذجة المواضيع مع 24 مجلة في فقه اللغة الكلاسيكية وعلم الآثار على مدى 150 عامًا للنظر في كيفية تغير المواضيع في المجلات بمرور الوقت وكيف تصبح المجلات أكثر اختلافًا أو تشابهًا بمرور الوقت.

قدم ين وآخرون [ 16 ] نموذجًا موضوعيًا للمستندات الموزعة جغرافيًا، حيث يتم شرح مواقع المستندات بواسطة المناطق الكامنة التي يتم اكتشافها أثناء الاستدلال.

قام تشانغ وبلي [ 17 ] بتضمين معلومات الشبكة بين المستندات المرتبطة في نموذج الموضوع العلائقي، لنمذجة الروابط بين مواقع الويب.

يقوم نموذج المؤلف-الموضوع الذي وضعه روزن-زفي وآخرون [ 18 ] بنمذجة المواضيع المرتبطة بمؤلفي المستندات لتحسين اكتشاف الموضوع للمستندات التي تحتوي على معلومات التأليف.

طُبِّقَ نموذج HLTA على مجموعة من الأبحاث الحديثة المنشورة في مؤتمرات رئيسية في مجال الذكاء الاصطناعي والتعلم الآلي. يُطلق على النموذج الناتج اسم " شجرة الذكاء الاصطناعي" . تُستخدم المواضيع الناتجة لفهرسة الأبحاث على موقع aipano.cse.ust.hk لمساعدة الباحثين على تتبع اتجاهات البحث وتحديد الأبحاث التي ينبغي قراءتها ، ولمساعدة منظمي المؤتمرات ومحرري المجلات في اختيار المراجعين للأبحاث المقدمة .

لتحسين الجوانب النوعية وتماسك المواضيع المُستخلصة، استكشف بعض الباحثين فعالية "مؤشرات التماسك"، أو مدى توافق المجموعات المُستخرجة حاسوبيًا (أي المواضيع) مع معيار بشري. [ 19 ] [ 20 ] تُعدّ مؤشرات التماسك مقاييس لتحسين عدد المواضيع المراد استخراجها من مجموعة مستندات. [ 21 ]

طُرق

عمليًا، يسعى الباحثون إلى ملاءمة معلمات النموذج المناسبة لمجموعة البيانات باستخدام إحدى الطرق الاستدلالية العديدة لتقدير الاحتمال الأقصى. وقد وصف د. بلي هذه المجموعة من الخوارزميات في دراسة استقصائية [ 22 ] . وقد حاولت عدة مجموعات من الباحثين، بدءًا من باباديميتريو وآخرون [ 8 ] ، تصميم خوارزميات ذات ضمانات قابلة للإثبات. وبافتراض أن البيانات قد تم توليدها بالفعل بواسطة النموذج المعني، فإنهم يحاولون تصميم خوارزميات من المرجح أن تحدد النموذج الذي استُخدم لإنشاء البيانات. وتشمل التقنيات المستخدمة هنا تحليل القيم المفردة (SVD) وطريقة العزوم . وفي عام 2012، تم تقديم خوارزمية تعتمد على تحليل المصفوفات غير السالبة (NMF) والتي يمكن تعميمها أيضًا لتشمل نماذج المواضيع ذات الارتباطات بين المواضيع [ 23 ] .

منذ عام 2017، تم استخدام الشبكات العصبية في نمذجة المواضيع لتحسين سرعة الاستدلال، [ 24 ] مما أدى إلى مزيد من التطورات مثل vONTSS، الذي يسمح للبشر بدمج المعرفة بالمجال من خلال التعلم شبه الخاضع للإشراف. [ 25 ]

في عام 2018، تم اقتراح نهج جديد لنماذج المواضيع بناءً على نموذج الكتلة العشوائية . [ 26 ]

استفادت نمذجة المواضيع من نماذج اللغة من خلال التضمين السياقي [ 27 ] والضبط الدقيق. [ 28 ]

تطبيقات نماذج المواضيع

الطب الحيوي الكمي

تُستخدم نماذج المواضيع أيضًا في سياقات أخرى. على سبيل المثال، ظهرت استخدامات نماذج المواضيع في أبحاث علم الأحياء والمعلوماتية الحيوية. [ 29 ] ومؤخرًا، استُخدمت نماذج المواضيع لاستخلاص المعلومات من مجموعة بيانات لعينات جينومية من السرطانات. [ 30 ] في هذه الحالة، تُمثل المواضيع متغيرات بيولوجية كامنة يُراد استنتاجها.

الموسيقى والإبداع

يمكن استخدام نماذج المواضيع لتحليل الموسيقى. على سبيل المثال، استُخدمت نماذج المواضيع لتحديد كيفية تغير الأنماط الموسيقية بمرور الوقت، وتحديد تأثير فنانين محددين على الإبداع الموسيقي اللاحق. [ 31 ]

انظر أيضاً

مراجع

  1. ↑ إيجر، رومان؛ يو، جوان (2022). "مقارنة نمذجة المواضيع بين LDA وNMF وTop2Vec وBERTopic لتبسيط فهم منشورات تويتر" . مجلة فرونتيرز في علم الاجتماع . 7 886498. doi : 10.3389/fsoc.2022.886498 . ISSN 2297-7775 . PMC 9120935. PMID 35602001 .   
  2. ↑ موثوسامي، ر.؛ ماني كاندان، ن.؛ ساريثا، ك.؛ نارينثيران، ب.؛ ناجابراساد، ن.؛ راماسوامي، كريشناراج (25-05-2024). " دراسة تقنيات نمذجة المواضيع من خلال تقييم المواضيع المكتشفة في بيانات النصوص القصيرة عبر مجالات متنوعة" . التقارير العلمية . 14 (1): 12003. doi : 10.1038/s41598-024-61738-4 . ISSN 2045-2322 . PMC 11127968. PMID 38796483 .   
  3. ↑ تشرشل، روب؛ سينغ، ليزا (10 نوفمبر 2022). "تطور نمذجة المواضيع". مجلة ACM للحوسبة . 54 (10): 215:1–215:35. doi : 10.1145/3507900 . ISSN 0360-0300 . 
  4. ↑ مرشد، بلال عبد الله حزام؛ مالابا، سوريشا؛ أباوجي، جمال؛ سيف، مفيد أحمد ناجي؛ العريكي، حسيب داود إسماعيل؛ عبد الوهاب، حذيفة محمد (2023-06-01). "مناهج نمذجة مواضيع النصوص القصيرة في سياق البيانات الضخمة: التصنيف، والمسح، والتحليل" . مجلة مراجعة الذكاء الاصطناعي . 56 (6): 5133-5260 . doi : 10.1007/s10462-022-10254-w . ISSN 1573-7462 . PMC 9607740. PMID 36320612 .   
  5. ↑ سونغ، و.؛ زو، ل. (2016). "LDA-TM: منهج من خطوتين لتجميع بيانات مواضيع تويتر". وقائع المؤتمر الدولي لهندسة الكهرباء والإلكترونيات حول الحوسبة السحابية وتحليل البيانات الضخمة . معهد مهندسي الكهرباء والإلكترونيات. ص 342-347 . doi : 10.1109/ICCCBDA.2016.7529581 . 
  6. ↑ بلي، ديفيد (أبريل 2012). "نماذج المواضيع الاحتمالية". اتصالات رابطة الحوسبة الآلية . 55 (4): 77-84 . doi : 10.1145/2133806.2133826 . S2CID 753304 . 
  7. ↑ كاو، ليانغليانغ، ولي فاي-فاي. " نموذج موضوع كامن متماسك مكانيًا للتجزئة والتصنيف المتزامنين للأشياء والمشاهد ." المؤتمر الدولي الحادي عشر لرؤية الحاسوب، معهد مهندسي الكهرباء والإلكترونيات، 2007.
  8. 1 2 باباديميتريو، كريستوس؛ راغافان، برابهاكار؛ تاماكي، هيساو؛ فيمبالا، سانتوش (1998). "الفهرسة الدلالية الكامنة" . وقائع الندوة السابعة عشرة لجمعية ACM SIGACT-SIGMOD-SIGART حول مبادئ أنظمة قواعد البيانات - PODS '98 . الصفحات 159-168 . doi : 10.1145/275487.275505 . ISBN  978-0-89791-996-8S2CID 1479546. مؤرشف من الأصل (Postscript) بتاريخ 2013-05-09 . تم الاطلاع عليه بتاريخ 2012-04-17 . 
  9. ↑ هوفمان، توماس (1999). "الفهرسة الدلالية الكامنة الاحتمالية" (ملف PDF) . وقائع المؤتمر الدولي السنوي الثاني والعشرين لجمعية SIGIR حول البحث والتطوير في استرجاع المعلومات . مؤرشف من النسخة الأصلية (ملف PDF) بتاريخ 14 ديسمبر 2010.
  10. ↑ بلي، ديفيد م.؛ نغ، أندرو ي.؛ جوردان، مايكل آي .؛ لافيرتي، جون (يناير 2003). "تخصيص ديريشلي الكامن" . مجلة أبحاث تعلم الآلة . 3 : 993-1022 . doi : 10.1162/jmlr.2003.3.4-5.993 .
  11. لامبا ، مانيكا جون (2019). "رسم خرائط المواضيع في مجلة ديسيدوك لتكنولوجيا المكتبات والمعلومات، الهند: دراسة". علم القياسات . 120 (2): 477-505 . doi : 10.1007/s11192-019-03137-5 . ISSN 0138-9130 . S2CID 174802673 .  
  12. ↑ لامبا، مانيكا جون (2019). "وسم البيانات الوصفية ونمذجة التنبؤ: دراسة حالة لمجلة DESIDOC لتكنولوجيا المكتبات والمعلومات (2008-2017)" . المكتبات الرقمية العالمية . 12 : 33-89 . doi : 10.18329/09757597/2019/12103 (غير نشط في 12 يوليو 2025). ISSN 0975-7597 . {{cite journal}}: صيانة CS1: رقم التعريف الرقمي غير نشط اعتبارًا من يوليو 2025 ( رابط )
  13. ↑ لامبا، مانيكا ماي (2019). "نمذجة المؤلف والموضوع لمجلة ديسيدوك لتكنولوجيا المكتبات والمعلومات (2008-2017)، الهند" . فلسفة وممارسة المكتبات .
  14. ^ لامبا، مانيكا سبتمبر (2018). وضع علامات على البيانات الوصفية لأطروحات علوم المكتبات والمعلومات: Shodhganga (2013-2017) (PDF) . ETD2018: ما وراء حدود الحافات والمحيطات. تايوان، تايبيه.
  15. ↑ نيلسون، روب. "استخراج المعلومات من التقارير" . استخراج المعلومات من التقارير . مختبر المنح الدراسية الرقمية، جامعة ريتشموند . تم الاطلاع عليه بتاريخ 26 مارس 2021 .
  16. ↑ ين، تشيجون (2011). "اكتشاف ومقارنة المواضيع الجغرافية". وقائع المؤتمر الدولي العشرين حول شبكة الويب العالمية . ص 247-256 . doi : 10.1145/1963405.1963443 . ISBN  978-1-4503-0632-4. S2CID 17883132 . 
  17. ↑ تشانغ، جوناثان (2009). "نماذج المواضيع العلائقية لشبكات المستندات" (ملف PDF) . Aistats . 9 : 81-88 .
  18. ↑ روزن-زفي، ميخال (2004). "نموذج المؤلف-الموضوع للمؤلفين والوثائق". وقائع المؤتمر العشرين حول عدم اليقين في الذكاء الاصطناعي : 487-494 . arXiv : 1207.4169 .
  19. ↑ نيكولينكو، سيرجي (2017). "نمذجة المواضيع للدراسات النوعية". مجلة علوم المعلومات . 43 : 88-102 . doi : 10.1177/0165551515617393 . S2CID 30657489 . 
  20. ↑ ريفيرتر-رامبالدي، مارسيل (2022). نمذجة المواضيع في بيانات الكلام التلقائي (أطروحة شرف). الجامعة الوطنية الأسترالية. doi : 10.25911/M1YF-ZF55 .
  21. ↑ نيومان، ديفيد (2010). "التقييم التلقائي لترابط الموضوع". تقنيات اللغة البشرية: المؤتمر السنوي لعام 2010 لفرع أمريكا الشمالية لجمعية اللغويات الحاسوبية : 100-108 .
  22. ↑ بلي، ديفيد م. (أبريل 2012). "مقدمة في نماذج المواضيع الاحتمالية" (ملف PDF) . مجلة الاتصالات ACM . 55 (4): 77-84 . doi : 10.1145/2133806.2133826 . S2CID 753304 . 
  23. ↑ سانجيف أرورا؛ رونغ جي؛ أنكور مويترا (أبريل 2012). "نماذج موضوع التعلم - تجاوز تحليل القيم المفردة". arXiv : 1204.1956 [ cs.LG ].
  24. ↑ مياو، ييشو؛ غريفنستيت، إدوارد؛ بلونسوم، فيل (2017). "اكتشاف المواضيع الكامنة المنفصلة باستخدام الاستدلال التبايني العصبي" . وقائع المؤتمر الدولي الرابع والثلاثين للتعلم الآلي . PMLR: 2410–2419 . arXiv : 1706.00359 .
  25. ↑ شو، ويجي؛ جيانغ، شياويو؛ سينغاميدو هانومانثا راو، سرينيفاسان؛ إياناكي، فرانسيس؛ تشاو، جينجين (2023). "vONTSS: نمذجة المواضيع العصبية شبه الخاضعة للإشراف باستخدام النقل الأمثل والمبنية على vMF". نتائج مؤتمر رابطة اللغويات الحاسوبية: ACL 2023. سترودسبيرغ، بنسلفانيا، الولايات المتحدة الأمريكية: رابطة اللغويات الحاسوبية: 4433-4457 . arXiv : 2307.01226 . doi : 10.18653/v1/2023.findings-acl.271 .
  26. ↑ مارتن جيرلاش؛ تياجو بيكسوتو؛ إدواردو ألتمان (2018). "نهج شبكي لنماذج المواضيع" . مجلة ساينس أدفانسز . 4 (7) eaaq1360. arXiv : 1708.01677 . Bibcode : 2018SciA....4.1360G . doi : 10.1126 / sciadv.aaq1360 . PMC 6051742. PMID 30035215 .  
  27. ↑ بيانكي، فيديريكو؛ تيراجني، سيلفيا؛ هوفي، ديرك (2021). "التدريب المسبق موضوعٌ ساخن: تضمينات المستندات السياقية تُحسّن تماسك الموضوع" . وقائع الاجتماع السنوي التاسع والخمسين لجمعية اللغويات الحاسوبية والمؤتمر الدولي المشترك الحادي عشر حول معالجة اللغة الطبيعية (المجلد 2: أوراق بحثية قصيرة) . سترودسبيرغ، بنسلفانيا، الولايات المتحدة الأمريكية: جمعية اللغويات الحاسوبية. الصفحات 759-766 . doi : 10.18653/v1/2021.acl-short.96 . 
  28. ↑ شو، ويجي؛ هو، وينشيانغ؛ وو، فانيو؛ سينغاميدو، سرينيفاسان (2023). "DeTiME: نمذجة المواضيع المحسّنة بالانتشار باستخدام نموذج لغة-لغة قائم على المُشفّر-المُفكّك". نتائج مؤتمر رابطة اللغويات الحاسوبية: EMNLP 2023. سترودسبيرغ، بنسلفانيا، الولايات المتحدة الأمريكية: رابطة اللغويات الحاسوبية: 9040-9057 . arXiv : 2310.15296 . doi : 10.18653/v1/2023.findings-emnlp.606 .
  29. ↑ ليو، ل.؛ تانغ، ل.؛ وآخرون (2016). " نظرة عامة على نمذجة المواضيع وتطبيقاتها الحالية في المعلوماتية الحيوية" . SpringerPlus . 5 ( 1): 1608. doi : 10.1186/s40064-016-3252-8 . PMC 5028368. PMID 27652181. S2CID 16712827 .    
  30. ↑ فالي ، ف.؛ أوسيلا، م.؛ كاسيل، م. (2020). "تحليل نمذجة المواضيع لبيانات النسخ الجيني لسرطان الثدي والرئة من مشروع TCGA" . مجلة السرطانات . 12 (12): 3799. doi : 10.3390/cancers12123799 . PMC 7766023. PMID 33339347. S2CID 229325007 .   
  31. ↑ شاليت، أوري؛ وينشال، دافنا؛ تشيك، غال (13 مايو 2013). "نمذجة التأثير الموسيقي باستخدام نماذج المواضيع" . وقائع المؤتمر الدولي الثلاثين للتعلم الآلي . PMLR: 244-252 .

للمزيد من القراءة