تحديد أجزاء الكلام

تُدرَّس عادةً في المدارس أن اللغة الإنجليزية تتكون من تسعة أقسام للكلام : الاسم ، والفعل ، وأداة التعريف ، والصفة ، وحرف الجر ، والضمير ، والظرف ، وحرف العطف ، وأداة التعجب . مع ذلك، من الواضح أن هناك العديد من الفئات والفئات الفرعية الأخرى. بالنسبة للأسماء، يمكن التمييز بين صيغ الجمع، والملكية، والمفرد. في العديد من اللغات، تُصنَّف الكلمات أيضًا حسب حالتها الإعرابية ( دورها كفاعل، أو مفعول به، إلخ)، وجنسها النحوي ، وما إلى ذلك؛ بينما تُصنَّف الأفعال حسب زمنها ، وجانبها ، وأمور أخرى. في بعض أنظمة التصنيف، تُصنَّف تصريفات مختلفة لنفس الكلمة الجذرية حسب أقسام الكلام، مما ينتج عنه عدد كبير من التصنيفات. على سبيل المثال، NN للأسماء العامة المفردة، وNNS للأسماء العامة الجمع، وNP للأسماء العلم المفردة (انظر تصنيفات أقسام الكلام المستخدمة في مدونة براون). تستخدم أنظمة تصنيف أخرى عددًا أقل من التصنيفات وتتجاهل الفروق الدقيقة أو تُنمذجها كخصائص مستقلة إلى حد ما عن قسم الكلام. ^{[ 2 ]}

في عملية تصنيف أجزاء الكلام باستخدام الحاسوب، من المعتاد التمييز بين 50 إلى 150 جزءًا مختلفًا من الكلام في اللغة الإنجليزية. وقد استخدمت دراسةٌ حول الأساليب الاحتمالية لتصنيف اللغة اليونانية الكوينية (ديروز، 1990) أكثر من 1000 جزء من الكلام، ووجدت أن عدد الكلمات الغامضة في تلك اللغة يُقارب عددها في اللغة الإنجليزية. أما في حالة اللغات الغنية صرفيًا، فيُعبَّر عن الوصف الصرفي النحوي عادةً باستخدام اختصاراتٍ مختصرة جدًا، مثل Ncmsan للدلالة على: الفئة = اسم، النوع = عام، الجنس = مذكر، العدد = مفرد، الحالة = منصوب، الفاعل = لا.

ربما تكون مجموعة علامات Penn، التي طُوّرت ضمن مشروع Penn Treebank، هي الأكثر شيوعًا في ترميز أجزاء الكلام في اللغة الإنجليزية الأمريكية. وهي تُشابه إلى حد كبير مجموعتي علامات Brown Corpus وLOB Corpus السابقتين، وإن كانت أصغر حجمًا. أما في أوروبا، فتُستخدم مجموعات علامات Eagles Guidelines على نطاق واسع، وتتضمن إصداراتٍ للغاتٍ متعددة.

أُجريت دراساتٌ حول وسم أجزاء الكلام في لغاتٍ عديدة، وتختلف مجموعة الوسوم المستخدمة اختلافًا كبيرًا باختلاف اللغة. عادةً ما تُصمَّم الوسوم لتشمل فروقًا صرفيةً واضحة، مع أن هذا يؤدي إلى تناقضات، مثل استخدام علامات الإعراب للضمائر دون الأسماء في اللغة الإنجليزية، واختلافاتٍ أكبر بكثير بين اللغات. قد تكون مجموعات الوسوم للغات ذات التصريفات الكثيرة، كاليونانية واللاتينية ، ضخمةً جدًا؛ وقد يكون وسم الكلمات في اللغات التجميعية ، كلغات الإنويت، شبه مستحيل. في المقابل، اقترح بيتروف وآخرون ^{[ 3 ]} مجموعة وسوم "عالمية" تضم 12 فئة (على سبيل المثال، لا توجد أنواع فرعية للأسماء أو الأفعال أو علامات الترقيم، وما إلى ذلك). يعتمد تفضيل استخدام مجموعة صغيرة جدًا من الوسوم العامة أو مجموعة أكبر بكثير من الوسوم الأكثر دقة على الغرض المنشود. يُعدّ الوسم التلقائي أسهل مع مجموعات الوسوم الصغيرة.

ارتبطت الأبحاث المتعلقة بتحديد أجزاء الكلام ارتباطًا وثيقًا بعلم لغويات المدونات . وكانت مدونة براون أول مدونة رئيسية للغة الإنجليزية مخصصة للتحليل الحاسوبي، وقد طُوّرت في جامعة براون على يد هنري كوتشيرا وويليام نيلسون فرانسيس في منتصف ستينيات القرن الماضي. تتألف هذه المدونة من حوالي مليون كلمة من نصوص نثرية إنجليزية متصلة، مُكوّنة من 500 عينة من منشورات مختارة عشوائيًا. تتكون كل عينة من 2000 كلمة أو أكثر (وتنتهي عند نهاية الجملة الأولى بعد 2000 كلمة، بحيث لا تحتوي المدونة إلا على جمل كاملة).

تمّ تصنيف مدونة براون بدقة متناهية باستخدام علامات أجزاء الكلام على مدى سنوات عديدة. وقد تمّ وضع التقريب الأولي باستخدام برنامج من إعداد غرين وروبين، والذي تضمن قائمة ضخمة مكتوبة يدويًا بالفئات التي يمكن أن تتواجد معًا. على سبيل المثال، يمكن أن تتواجد أداة التعريف ثم الاسم، ولكن من غير الممكن (على الأرجح) أن تتواجد أداة التعريف ثم الفعل. وقد حقق البرنامج دقة تقارب 70%. وتمّت مراجعة نتائجه وتصحيحها يدويًا بشكل متكرر، وأرسل المستخدمون لاحقًا ملاحظاتهم، حتى أصبح التصنيف بحلول أواخر السبعينيات شبه مثالي (مع مراعاة بعض الحالات التي قد لا يتفق عليها حتى المتحدثون البشريون).

استُخدمت هذه المدونة اللغوية في دراسات لا حصر لها حول تردد الكلمات وأجزاء الكلام، وألهمت تطوير مدونات لغوية "موسومة" مماثلة في العديد من اللغات الأخرى. وشكّلت الإحصاءات المستمدة من تحليلها أساسًا لمعظم أنظمة وسم أجزاء الكلام اللاحقة، مثل CLAWS و VOLSUNGA . مع ذلك، وبحلول عام 2005، حلت محلها مدونات لغوية أكبر حجمًا، مثل المدونة الوطنية البريطانية التي تضم 100 مليون كلمة ، على الرغم من أن المدونات الأكبر حجمًا نادرًا ما تُدقّق بدقة مماثلة.

لفترة من الزمن، اعتُبر تحديد أجزاء الكلام جزءًا لا يتجزأ من معالجة اللغة الطبيعية ، نظرًا لوجود حالات معينة لا يمكن فيها تحديد الجزء الصحيح من الكلام دون فهم دلالات السياق أو حتى دلالاته البراغماتية . وهذا مكلف للغاية، لا سيما أن تحليل المستويات العليا يصبح أكثر صعوبة عندما يتعين مراعاة احتمالات متعددة لأجزاء الكلام لكل كلمة.

في منتصف ثمانينيات القرن الماضي، بدأ باحثون في أوروبا باستخدام نماذج ماركوف المخفية (HMMs) لتحديد أجزاء الكلام، وذلك أثناء عملهم على تصنيف مدونة لانكستر-أوسلو-بيرغن للغة الإنجليزية البريطانية. تعتمد نماذج ماركوف المخفية على عدّ الحالات (كما في مدونة براون) وإنشاء جدول باحتمالات تسلسلات معينة. على سبيل المثال، بعد رؤية أداة تعريف مثل "the"، قد تكون الكلمة التالية اسمًا بنسبة 40%، وصفة بنسبة 40%، وعددًا بنسبة 20%. بناءً على هذه المعلومات، يمكن للبرنامج أن يقرر أن "can" في "the can" من المرجح أن تكون اسمًا أكثر من كونها فعلًا أو فعلًا مساعدًا. ويمكن بالطبع استخدام الطريقة نفسها للاستفادة من معرفة الكلمات التالية.

تتعلم نماذج ماركوف المخفية الأكثر تطوراً (ذات الرتبة الأعلى) احتمالات ليس فقط الأزواج، بل الثلاثيات وحتى التسلسلات الأكبر. فعلى سبيل المثال، إذا رأيت اسماً متبوعاً بفعل، فمن المرجح جداً أن يكون العنصر التالي حرف جر أو أداة تعريف أو اسماً، ولكن من غير المرجح أن يكون فعلاً آخر.

عندما تتكرر عدة كلمات غامضة معًا، تتضاعف الاحتمالات. ومع ذلك، من السهل حصر جميع التوليفات وتحديد احتمال نسبي لكل منها، وذلك بضرب احتمالات كل خيار على حدة. ثم يتم اختيار التوليفة ذات الاحتمال الأعلى. وقد طوّر الفريق الأوروبي برنامج CLAWS، وهو برنامج تصنيف يقوم بهذه المهمة تحديدًا، وحقق دقة تتراوح بين 93 و95%.

يشير يوجين شارنياك في التقنيات الإحصائية لتحليل اللغة الطبيعية (1997) ^{[ 4 ]} إلى أن مجرد تعيين العلامة الأكثر شيوعًا لكل كلمة معروفة وعلامة " اسم علم " لجميع الكلمات غير المعروفة سيقترب من دقة 90٪ لأن العديد من الكلمات لا لبس فيها، والعديد من الكلمات الأخرى نادرًا ما تمثل أجزاء الكلام الأقل شيوعًا.

كان برنامج CLAWS رائدًا في مجال تصنيف أجزاء الكلام باستخدام نماذج ماركوف المخفية، ولكنه كان مكلفًا للغاية نظرًا لأنه كان يحصي جميع الاحتمالات. وكان يضطر أحيانًا إلى اللجوء إلى طرق بديلة عندما يكون عدد الخيارات كبيرًا جدًا (تحتوي مدونة براون على حالة بها 17 كلمة غامضة متتالية، وهناك كلمات مثل "still" التي يمكن أن تمثل ما يصل إلى 7 أجزاء كلام مختلفة. ^{[ 5 ]}

تُشكل نماذج ماركوف المخفية أساس عمل المصنفات العشوائية وتُستخدم في خوارزميات متنوعة، ومن أكثرها استخدامًا خوارزمية الاستدلال ثنائي الاتجاه. ^{[ 6 ]}

في عام ١٩٨٧، طوّر ستيفن ديروز ^{[ ٧ ]} وكينيث دبليو تشيرش ^{[ ٨ ]} بشكل مستقل خوارزميات البرمجة الديناميكية لحل المشكلة نفسها في وقت أقل بكثير. كانت أساليبهما مشابهة لخوارزمية فيتربي المعروفة منذ فترة في مجالات أخرى. استخدم ديروز جدولًا للأزواج، بينما استخدم تشيرش جدولًا للثلاثيات وطريقة لتقدير قيم الثلاثيات النادرة أو غير الموجودة في مدونة براون (يتطلب القياس الفعلي لاحتمالات الثلاثيات مدونة أكبر بكثير). حققت كلتا الطريقتين دقة تزيد عن ٩٥٪. تضمنت أطروحة ديروز لعام ١٩٩٠ في جامعة براون تحليلات لأنواع الأخطاء المحددة، والاحتمالات، وغيرها من البيانات ذات الصلة، وكرر عمله للغة اليونانية، حيث أثبت فعاليته المماثلة.

أحدثت هذه النتائج تغييرًا جذريًا في مجال معالجة اللغة الطبيعية. فقد تجاوزت الدقة المُسجلة الدقة المعتادة للخوارزميات المتطورة التي تدمج اختيار أجزاء الكلام مع مستويات أعلى من التحليل اللغوي، كالنحو والصرف والدلالة، وغيرها. صحيح أن طرق CLAWS وDeRose وChurch فشلت في بعض الحالات المعروفة التي تتطلب تحليلًا دلاليًا، إلا أن هذه الحالات كانت نادرة للغاية. وقد أقنع هذا الكثيرين في هذا المجال بإمكانية فصل عملية تحديد أجزاء الكلام عن مستويات المعالجة الأخرى، مما بسّط بدوره نظرية وممارسة تحليل اللغة المحوسب، وشجع الباحثين على إيجاد طرق لفصل أجزاء أخرى أيضًا. وهكذا أصبحت نماذج ماركوف الطريقة القياسية لتحديد أجزاء الكلام.

تتضمن الطرق التي نوقشت سابقًا العمل انطلاقًا من مجموعة بيانات موجودة مسبقًا لتعلم احتمالات الوسوم. ومع ذلك، من الممكن أيضًا استخدام أسلوب "الوسم غير الخاضع للإشراف" في عملية التدريب. تستخدم تقنيات الوسم غير الخاضع للإشراف مجموعة بيانات غير موسومة كبيانات تدريب، وتُنتج مجموعة الوسوم بالاستقراء. أي أنها تُلاحظ أنماط استخدام الكلمات، وتستخلص فئات أجزاء الكلام بنفسها. على سبيل المثال، تُظهر الإحصائيات بوضوح أن الكلمات "the" و"a" و"an" تظهر في سياقات متشابهة، بينما تظهر كلمة "eat" في سياقات مختلفة تمامًا. مع التكرار الكافي، تظهر فئات تشابه الكلمات التي تُشابه إلى حد كبير تلك التي يتوقعها اللغويون؛ وقد تُشير الاختلافات نفسها أحيانًا إلى رؤى جديدة قيّمة.

يمكن تقسيم هاتين الفئتين بشكل أكبر إلى مناهج قائمة على القواعد، ومناهج عشوائية، ومناهج عصبية.

تتضمن بعض الخوارزميات الرئيسية الحالية لتصنيف أجزاء الكلام خوارزمية فيتربي ، وخوارزمية بريل ، وقواعد القيود النحوية ، وخوارزمية باوم-ويلش (المعروفة أيضًا بخوارزمية التقديم والتراجع). ويمكن تطبيق كل من نماذج ماركوف المخفية ونماذج ماركوف المرئية باستخدام خوارزمية فيتربي. وتتميز خوارزمية بريل القائمة على القواعد بأنها تتعلم مجموعة من أنماط القواعد، ثم تطبق تلك الأنماط بدلاً من تحسين قيمة إحصائية.

تم تطبيق العديد من أساليب التعلم الآلي على مشكلة تصنيف أجزاء الكلام. وقد جُرِّبت أساليب مثل آلة المتجهات الداعمة ، ومصنف الإنتروبيا القصوى ، والبيرسيبترون ، وخوارزمية أقرب جار ، ويمكن لمعظمها تحقيق دقة تزيد عن 95%.

نُشرت مقارنة مباشرة بين عدة طرق (مع مراجع) في موقع ACL Wiki. ^{[ 9 ]} تستخدم هذه المقارنة مجموعة علامات Penn على بعض بيانات Penn Treebank، لذا فإن النتائج قابلة للمقارنة المباشرة. مع ذلك، لم تُدرج العديد من أدوات الوسم المهمة (ربما بسبب الجهد المبذول في إعادة تهيئتها لهذه المجموعة من البيانات تحديدًا). ​​لذا، لا ينبغي افتراض أن النتائج المذكورة هنا هي أفضل ما يمكن تحقيقه باستخدام منهجية معينة، ولا حتى أفضل ما تم تحقيقه باستخدامها.

في عام 2014، أفادت ورقة بحثية باستخدام طريقة تنظيم البنية لتصنيف أجزاء الكلام، محققة نسبة 97.36% على مجموعة بيانات مرجعية قياسية. ^{[ 10 ]}

• شارنياك، يوجين. 1997. " التقنيات الإحصائية لتحليل اللغة الطبيعية ". مجلة الذكاء الاصطناعي 18(4): 33-44 .
• هانز فان هالترين، جاكوب زافريل، والتر دايلمانز . 2001. تحسين دقة معالجة اللغة الطبيعية من خلال دمج أنظمة التعلم الآلي. اللغويات الحاسوبية . 27(2): 199-229 . PDF
• ديروز، ستيفن ج. 1990. "الأساليب الاحتمالية لحل غموض الفئات النحوية في اللغات المصرفة وغير المصرفة". أطروحة دكتوراه. بروفيدنس، رود آيلاند: قسم العلوم المعرفية واللغوية، جامعة براون. النسخة الإلكترونية متاحة علىأُرشف بتاريخ 19 أغسطس 2018 في أرشيف الإنترنت (Wayback Machine) .
• دي كيو نغوين، دي كيو نغوين، دي دي فام، وإس بي فام (2016). "نهج تعلم قوي قائم على التحويل باستخدام قواعد التموج لتصنيف أجزاء الكلام". اتصالات الذكاء الاصطناعي ، المجلد 29، العدد 3، الصفحات 409-422. [ ملف PDF ]