نموذج القناة المشوشة

يُعدّ نموذج القناة المشوّشة إطار عمل يُستخدم في مدققي الإملاء ، وأنظمة الإجابة على الأسئلة ، والتعرف على الكلام ، والترجمة الآلية . في هذا النموذج، يتمثل الهدف في إيجاد الكلمة المقصودة من كلمة تم فيها خلط حروفها بطريقة ما.

انظر الفصل ب من ^{[ 1 ]}

بفرض وجود أبجدية${\displaystyle \Sigma }$، يترك${\displaystyle \Sigma ^{*}}$لتكن مجموعة جميع السلاسل المنتهية على${\displaystyle \Sigma }$دع القاموس${\displaystyle D}$من الكلمات الصحيحة يمكن أن تكون مجموعة فرعية من${\displaystyle \Sigma ^{*}}$، أي، ${\displaystyle D\subseteq \Sigma ^{*}}$.

القناة المشوشة هي المصفوفة

${\displaystyle \Gamma _{ws}=\Pr(s|w)}$،

أين${\displaystyle w\in D}$هي الكلمة المقصودة و${\displaystyle s\in \Sigma ^{*}}$هي الكلمة المشوشة التي تم استلامها بالفعل.

يهدف نموذج القناة المشوشة إلى إيجاد الكلمة المقصودة بالنظر إلى الكلمة المشوشة التي تم استلامها. دالة القرار${\displaystyle \sigma$ :\Sigma ^{*}\to D} هي دالة تقوم، عند إعطائها كلمة مشوشة، بإرجاع الكلمة المقصودة.

تشمل طرق بناء دالة القرار قاعدة الاحتمال الأقصى ، وقاعدة الاحتمال اللاحق الأقصى ، وقاعدة المسافة الدنيا .

في بعض الحالات، قد يكون من الأفضل قبول الكلمة المشوشة باعتبارها الكلمة المقصودة بدلاً من محاولة البحث عنها في القاموس. على سبيل المثال، قد لا تكون كلمة " schönfinkeling" موجودة في القاموس، ولكنها قد تكون في الواقع الكلمة المقصودة.

يتساءل المرء بطبيعة الحال عما إذا كان من الممكن معالجة مشكلة الترجمة كمشكلة في علم التشفير. عندما أقرأ مقالاً باللغة الروسية، أقول: "هذا مكتوب باللغة الإنجليزية، لكنه مُشفّر برموز غريبة. سأشرع الآن في فك التشفير."

انظر الفصل 1، والفصل 25 من. ^{[ 2 ]}

لنفترض أننا نريد ترجمة لغة أجنبية إلى الإنجليزية، يمكننا أن نصمم نموذجًا${\displaystyle P(E|F)}$بشكل مباشر: احتمال وجود الجملة الإنجليزية E بمعلومية الجملة الأجنبية F، ثم نختار الجملة الأكثر احتمالاً.${\displaystyle {\hat {E}}=\arg \max _{E}P(E|F)}$ومع ذلك، وبحسب قانون بايز، لدينا المعادلة المكافئة التالية:$${\displaystyle {\hat {E}}={\underset {E\in {\text{ English }}}{\operatorname {argmax} }}\overbrace {P(F\mid E)} ^{\text{translation model }}\overbrace {P(E)} ^{\text{language model}}}$$تكمن فائدة نموذج القناة المشوشة في البيانات: فإذا كان جمع مجموعة بيانات متوازية مكلفًا، فلن نحصل إلا على مجموعة بيانات متوازية صغيرة، وبالتالي لن نتمكن إلا من تدريب نموذج ترجمة متوسط ​​الجودة من الإنجليزية إلى اللغات الأجنبية، ونموذج ترجمة متوسط ​​الجودة من اللغات الأجنبية إلى الإنجليزية. أما إذا جمعنا مجموعة بيانات كبيرة باللغة الأجنبية فقط، ومجموعة بيانات كبيرة باللغة الإنجليزية فقط، فسنتمكن من تدريب نموذجين لغويين جيدين. وبدمج هذه النماذج الأربعة، نحصل فورًا على مترجم جيد من الإنجليزية إلى اللغات الأجنبية، ومترجم جيد من اللغات الأجنبية إلى الإنجليزية. ^{[ 3 ]}

تكمن تكلفة نموذج القناة المشوشة في أن استخدام الاستدلال البايزي أكثر تكلفة من استخدام نموذج الترجمة مباشرةً. فبدلاً من قراءة الترجمة الأكثر احتمالاً بواسطة${\displaystyle \arg \max _{E}P(E|F)}$، سيتعين عليه قراءة التنبؤات من كل من نموذج الترجمة ونموذج اللغة ، وضربها، والبحث عن أعلى رقم.

يمكن اعتبار التعرف على الكلام بمثابة ترجمة من لغة صوتية إلى لغة نصية. وبالتالي، لدينا$${\displaystyle {\hat {T}}={\underset {T\in {\text{ Text }}}{\operatorname {argmax} }}\overbrace {P(S\mid T)} ^{\text{speech model }}\overbrace {P(T)} ^{\text{language model}}}$$أين${\displaystyle P(S|T)}$يمثل احتمال إنتاج صوت الكلام S إذا كان المتحدث ينوي قول النص T. وبشكل بديهي، تنص هذه المعادلة على أن النص الأكثر احتمالاً هو النص الذي يكون نصًا محتملاً في اللغة، وينتج صوت الكلام باحتمالية عالية .

لا تكمن فائدة نموذج القناة المشوشة في السعة. نظريًا، يمكن محاكاة أي نموذج قناة مشوشة بشكل مباشر${\displaystyle P(T|S)}$ومع ذلك، فإن نموذج القناة المشوشة يقسم النموذج إلى جزأين مناسبين للموقف، وبالتالي فهو بشكل عام أكثر استقرارًا.

عندما يتحدث الإنسان، لا يُصدر الصوت مباشرةً، بل يُنتج أولاً النص الذي يريد نطقه في مراكز اللغة بالدماغ، ثم يُترجم النص إلى صوت بواسطة القشرة الحركية والأحبال الصوتية وأجزاء أخرى من الجسم. يتوافق نموذج القناة المشوشة مع هذا النموذج البشري، ولذا فهو مناسب. ويتجلى ذلك في النجاح العملي الذي حققه هذا النموذج في التعرف على الكلام.

• نظرية الترميز