الدلالات التوزيعية

علم الدلالة التوزيعية ^{[ 1 ]} هو مجال بحثي يُعنى بتطوير ودراسة النظريات والأساليب اللازمة لتحديد وتصنيف أوجه التشابه الدلالي بين العناصر اللغوية بناءً على خصائصها التوزيعية في عينات كبيرة من البيانات اللغوية. ويمكن تلخيص الفكرة الأساسية لعلم الدلالة التوزيعية في الفرضية التوزيعية : العناصر اللغوية ذات التوزيعات المتشابهة تحمل معاني متشابهة.

تستند فرضية التوزيع في علم اللغة إلى النظرية الدلالية لاستخدام اللغة ، أي أن الكلمات التي تُستخدم وتظهر في نفس السياقات تميل إلى أن تحمل معاني متشابهة. ^{[ 2 ]}

انتشرت الفكرة الأساسية القائلة بأن "الكلمة تتميز بما يصاحبها" على يد فيرث في الخمسينيات من القرن العشرين. ^{[ 3 ]}

تُعدّ فرضية التوزيع أساسًا للدلالات الإحصائية . ورغم أن هذه الفرضية نشأت في علم اللغة، ^{[ 4 ] [ 5 ]} إلا أنها تحظى الآن باهتمام متزايد في العلوم المعرفية، لا سيما فيما يتعلق بسياق استخدام الكلمات. ^{[ 6 ]}

في السنوات الأخيرة، شكلت فرضية التوزيع أساسًا لنظرية التعميم القائم على التشابه في تعلم اللغة: وهي فكرة مفادها أن الأطفال يستطيعون معرفة كيفية استخدام الكلمات التي نادرًا ما صادفوها من قبل عن طريق تعميم استخدامها من توزيعات الكلمات المتشابهة. ^{[ 7 ] [ 8 ]}

تشير فرضية التوزيع إلى أنه كلما زاد التشابه الدلالي بين كلمتين، زاد التشابه التوزيعي بينهما، وبالتالي زاد احتمال ظهورهما في سياقات لغوية متشابهة.

إن ما إذا كان هذا الاقتراح صحيحًا أم لا له آثار كبيرة على كل من مشكلة ندرة البيانات في النمذجة الحاسوبية، ^{[ 9 ]} وعلى مسألة كيف يمكن للأطفال تعلم اللغة بهذه السرعة بالنظر إلى المدخلات الفقيرة نسبيًا (وهذا ما يُعرف أيضًا بمشكلة فقر المحفزات ) أمر غير واضح.

يُفضّل علم الدلالة التوزيعية استخدام الجبر الخطي كأداة حسابية وإطار تمثيلي. يتمثل النهج الأساسي في جمع المعلومات التوزيعية في متجهات عالية الأبعاد، وتحديد التشابه التوزيعي/الدلالي بدلالة تشابه المتجهات. ^{[ 10 ]} يمكن استخلاص أنواع مختلفة من أوجه التشابه اعتمادًا على نوع المعلومات التوزيعية المستخدمة لجمع المتجهات: يمكن استخلاص أوجه التشابه الموضوعية من خلال ملء المتجهات بمعلومات حول مناطق النص التي تظهر فيها العناصر اللغوية؛ ويمكن استخلاص أوجه التشابه النموذجية من خلال ملء المتجهات بمعلومات حول العناصر اللغوية الأخرى التي تتواجد معها هذه العناصر. تجدر الإشارة إلى أنه يمكن أيضًا استخدام النوع الأخير من المتجهات لاستخلاص أوجه التشابه التركيبية من خلال النظر إلى مكونات المتجه الفردية.

يمكن تطبيق الفكرة الأساسية المتمثلة في وجود علاقة بين التشابه التوزيعي والتشابه الدلالي بطرق عديدة. يوجد تنوع كبير في النماذج الحاسوبية التي تُطبّق الدلالات التوزيعية، بما في ذلك تحليل الدلالات الكامنة (LSA) ^{[ 11 ] [ 12 ]،} ونموذج التناظر المكاني للغة (HAL)، والنماذج القائمة على بناء الجملة أو التبعية ^{[ 13 ]} ، والفهرسة العشوائية ، والطي الدلالي ^{[ 14 ]} ، ومختلف أنواع نموذج الموضوع ^{[ 15 ]} .

تختلف النماذج الدلالية التوزيعية بشكل أساسي فيما يتعلق بالمعايير التالية:

• نوع السياق (مناطق النص مقابل العناصر اللغوية)
• نافذة السياق (الحجم، الامتداد، إلخ)
• ترجيح التردد (مثل الإنتروبيا ، والمعلومات المتبادلة النقطية ، ^{[ 16 ]} إلخ).
• تقليل الأبعاد (مثل الفهرسة العشوائية ، وتحليل القيم المفردة ، وما إلى ذلك).
• مقياس التشابه (مثل تشابه جيب التمام ، مسافة مينكوفسكي ، إلخ).

تُعرف النماذج الدلالية التوزيعية التي تستخدم العناصر اللغوية كسياق أيضًا باسم نماذج فضاء الكلمات أو نماذج فضاء المتجهات . ^{[ 17 ] [ 18 ]}

على الرغم من أن الدلالات التوزيعية تُطبق عادةً على المفردات - الكلمات والمصطلحات متعددة الكلمات - بنجاح كبير، لا سيما بفضل قابليتها للتطبيق كطبقة إدخال لنماذج التعلم العميق المستوحاة من الشبكات العصبية، إلا أن الدلالات المعجمية ، أي معنى الكلمات، لا تحمل سوى جزء من دلالات الجملة بأكملها. فمعنى جملة مثل "النمور تحب الأرانب" لا يمكن فهمه إلا جزئيًا من خلال فحص معنى المفردات الثلاث التي تتكون منها. يمكن توسيع نطاق الدلالات التوزيعية بسهولة لتشمل عناصر لغوية أكبر مثل التراكيب، سواءً مع العناصر غير المُجسَّدة أو بدونها، ولكن بعض الافتراضات الأساسية للنموذج تحتاج إلى تعديل. يوفر نحو البناء وصياغته للتسلسل المعجمي-النحوي أحد الأساليب لإدراج تراكيب أكثر تعقيدًا في نموذج الدلالات التوزيعية، وقد نُفِّذت بعض التجارب باستخدام أسلوب الفهرسة العشوائية. ^{[ 19 ]}

تُوسّع النماذج الدلالية التوزيعية التركيبية النماذج الدلالية التوزيعية من خلال وظائف دلالية صريحة تستخدم قواعد نحوية لدمج دلالات الوحدات المعجمية المشاركة في نموذج تركيبي لتوصيف دلالات العبارات أو الجمل الكاملة. وقد اقترح هذا العمل في الأصل ستيفن كلارك، وبوب كويك ، ومهرنوش صدر زاده من جامعة أكسفورد في ورقتهم البحثية لعام 2008 بعنوان "نموذج دلالي توزيعي تركيبي". ^{[ 20 ]} وقد تم استكشاف مناهج مختلفة للتركيب - بما في ذلك النماذج العصبية - وهي قيد المناقشة في ورش عمل معتمدة مثل SemEval . ^{[ 21 ]}

تم تطبيق نماذج الدلالات التوزيعية بنجاح على المهام التالية:

• إيجاد التشابه الدلالي بين الكلمات والتعبيرات متعددة الكلمات؛
• تجميع الكلمات بناءً على التشابه الدلالي؛
• إنشاء تلقائي لقواميس المرادفات والقواميس ثنائية اللغة؛
• إزالة الغموض عن معاني الكلمات ؛
• توسيع نطاق طلبات البحث باستخدام المرادفات والارتباطات؛
• تحديد موضوع الوثيقة؛
• تجميع المستندات لاسترجاع المعلومات ؛
• استخراج البيانات والتعرف على الكيانات المسماة ؛
• إنشاء خرائط دلالية لمجالات موضوعية مختلفة؛
• إعادة الصياغة ؛
• تحليل المشاعر ؛
• نمذجة التفضيلات الانتقائية للكلمات.

• إس-سبيس
• المتجهات الدلالية
• جينسيم
• منشئ الديسكو
• إندرا

• التشابه العائلي – فكرة فلسفية شاع استخدامها على يد لودفيج فيتجنشتاين 
• الفضاء المفاهيمي
• التزامن
• قاعدة بيانات توزيعية-علائقية
• جينسيم
• عبارة
• الفهرسة العشوائية
• تضمين الجملة
• الدلالات الإحصائية
• Word2vec
• تضمين الكلمات

• زيليج إس. هاريس