التحليل الدلالي الكامن

يمكن لتحليل الدلالة الكامنة (LSA) استخدام مصفوفة المستندات والمصطلحات التي تصف تكرار المصطلحات في المستندات؛ وهي مصفوفة متفرقة تمثل صفوفها المصطلحات ، بينما تمثل أعمدتها المستندات. ومن الأمثلة الشائعة على ترجيح عناصر المصفوفة مصفوفة tf-idf (تردد المصطلح - تردد المستند العكسي): يتناسب وزن عنصر المصفوفة مع عدد مرات ظهور المصطلح في كل مستند، حيث تُعطى المصطلحات النادرة وزنًا أكبر لتعكس أهميتها النسبية.

تُعد هذه المصفوفة شائعة أيضًا في النماذج الدلالية القياسية، على الرغم من أنها لا تُعبر عنها بالضرورة بشكل صريح كمصفوفة، نظرًا لأن الخصائص الرياضية للمصفوفات لا تُستخدم دائمًا.

بعد إنشاء مصفوفة التكرار، يجد تحليل الدلالات الكامنة تقريبًا منخفض الرتبة ^{[ 5 ]} لمصفوفة المصطلحات والمستندات . وقد يكون لهذه التقريبات أسباب مختلفة:

• يُفترض أن مصفوفة المصطلحات والمستندات الأصلية كبيرة جدًا بالنسبة لموارد الحوسبة؛ في هذه الحالة، يتم تفسير مصفوفة الرتبة المنخفضة التقريبية على أنها تقريب (أقل شر وضروري).
• يُفترض أن مصفوفة المصطلحات والوثائق الأصلية تحتوي على تشويش : على سبيل المثال، يجب حذف الحالات العرضية للمصطلحات. من هذا المنطلق، تُفسَّر المصفوفة المُقَرَّبة على أنها مصفوفة مُنقَّاة من التشويش (مصفوفة أفضل من المصفوفة الأصلية).
• يُفترض أن مصفوفة المصطلحات والوثائق الأصلية متفرقة للغاية مقارنةً بمصفوفة المصطلحات والوثائق "الحقيقية". أي أن المصفوفة الأصلية لا تسرد إلا الكلمات الموجودة فعليًا في كل وثيقة، بينما قد نهتم بجميع الكلمات المرتبطة بكل وثيقة - وهي عادةً مجموعة أكبر بكثير بسبب الترادف .

نتيجة انخفاض الرتبة هي دمج بعض الأبعاد واعتمادها على أكثر من مصطلح واحد:

{(سيارة)، (شاحنة)، (زهرة)} → {(1.3452 * سيارة + 0.2828 * شاحنة)، (زهرة)}

يُخفف هذا من مشكلة تحديد المرادفات، إذ يُتوقع أن يؤدي خفض الرتبة إلى دمج الأبعاد المرتبطة بالمصطلحات ذات المعاني المتشابهة. كما يُخفف جزئيًا من مشكلة تعدد المعاني ، حيث تُضاف مكونات الكلمات متعددة المعاني التي تشير إلى الاتجاه "الصحيح" إلى مكونات الكلمات التي تشترك في معنى مشابه. في المقابل، تميل المكونات التي تشير إلى اتجاهات أخرى إما إلى الإلغاء التام، أو في أسوأ الأحوال، إلى أن تكون أصغر من المكونات في الاتجاهات المقابلة للمعنى المقصود.

يترك${\displaystyle X}$لتكن مصفوفة حيث العنصر${\displaystyle (i,j)}$يصف حدوث المصطلح${\displaystyle i}$في المستند${\displaystyle j}$(يمكن أن يكون هذا، على سبيل المثال، التردد).${\displaystyle X}$سيبدو الأمر كالتالي:

${\displaystyle {\begin{matrix}&{\textbf {d}}_{j}\\&\downarrow \\{\textbf {t}}_{i}^{T}\rightarrow &{\begin{bmatrix}x_{1,1}&\dots &x_{1,j}&\dots &x_{1,n}\\\vdots &\ddots &\vdots &\ddots &\vdots \\x_{i,1}&\dots &x_{i,j}&\dots &x_{i,n}\\\vdots &\ddots &\vdots &\ddots &\vdots \\x_{m,1}&\dots &x_{m,j}&\dots &x_{m,n}\\\end{bmatrix}}\end{matrix}}}$

الآن، سيكون كل صف في هذه المصفوفة عبارة عن متجه يتوافق مع مصطلح، ويحدد علاقته بكل مستند:

${\displaystyle {\textbf {t}}_{i}^{T}={\begin{bmatrix}x_{i,1}&\dots &x_{i,j}&\dots &x_{i,n}\end{bmatrix}}}$

وبالمثل، سيكون العمود في هذه المصفوفة عبارة عن متجه يتوافق مع مستند، ويعطي علاقته بكل مصطلح:

${\displaystyle {\textbf {d}}_{j}={\begin{bmatrix}x_{1,j}\\\vdots \\x_{i,j}\\\vdots \\x_{m,j}\\\end{bmatrix}}}$

والآن الضرب النقطي${\displaystyle {\textbf {t}}_{i}^{T}{\textbf {t}}_{p}}$يُعطي حاصل ضرب المصفوفات بين متجهين من المصطلحات الارتباط بين المصطلحات في مجموعة المستندات.${\displaystyle XX^{T}}$يحتوي على جميع هذه المنتجات النقطية. عنصر${\displaystyle (i,p)}$(وهو ما يساوي العنصر)${\displaystyle (p,i)}$) يحتوي على الضرب النقطي${\displaystyle {\textbf {t}}_{i}^{T}{\textbf {t}}_{p}}$(${\displaystyle ={\textbf {t}}_{p}^{T}{\textbf {t}}_{i}}$). وبالمثل، المصفوفة${\displaystyle X^{T}X}$يحتوي على حاصل الضرب النقطي بين جميع متجهات المستندات، مما يعطي ارتباطها عبر الحدود:${\displaystyle {\textbf {d}}_{j}^{T}{\textbf {d}}_{q}={\textbf {d}}_{q}^{T}{\textbf {d}}_{j}}$.

الآن، من نظرية الجبر الخطي، يوجد تحليل لـ${\displaystyle X}$بحيث${\displaystyle U}$و${\displaystyle V}$هي مصفوفات متعامدة و${\displaystyle \Sigma }$هي مصفوفة قطرية . وهذا ما يسمى بتحليل القيم المفردة (SVD):

${\displaystyle {\begin{matrix}X=U\Sigma V^{T}\end{matrix}}}$

تصبح نواتج المصفوفات التي تعطينا ارتباطات المصطلحات والوثائق

${\displaystyle {\begin{matrix}XX^{T}&=&(U\Sigma V^{T})(U\Sigma V^{T})^{T}=(U\Sigma V^{T})(V^{T^{T}}\Sigma ^{T}U^{T})=U\Sigma V^{T}V\Sigma ^{T}U^{T}=U\Sigma \Sigma ^{T}U^{T}\\X^{T}X&=&(U\Sigma V^{T})^{T}(U\Sigma V^{T})=(V^{T^{T}}\Sigma ^{T}U^{T})(U\Sigma V^{T})=V\Sigma ^{T}U^{T}U\Sigma V^{T}=V\Sigma ^{T}\Sigma V^{T}\end{matrix}}}$

منذ${\displaystyle \Sigma \Sigma ^{T}}$و${\displaystyle \Sigma ^{T}\Sigma }$نلاحظ أن الخطوط القطرية مائلة.${\displaystyle U}$يجب أن تحتوي على المتجهات الذاتية لـ${\displaystyle XX^{T}}$، بينما${\displaystyle V}$يجب أن تكون المتجهات الذاتية لـ${\displaystyle X^{T}X}$لكلا المنتجين نفس القيم الذاتية غير الصفرية، والتي تُعطى بواسطة المدخلات غير الصفرية لـ${\displaystyle \Sigma \Sigma ^{T}}$أو بالمثل، من خلال المدخلات غير الصفرية لـ${\displaystyle \Sigma ^{T}\Sigma }$. الآن يبدو التفكيك على النحو التالي:

${\displaystyle {\begin{matrix}&X&&&U&&\Sigma &&V^{T}\\&({\textbf {d}}_{j})&&&&&&&({\hat {\textbf {d}}}_{j})\\&\downarrow &&&&&&&\downarrow \\({\textbf {t}}_{i}^{T})\rightarrow &{\begin{bmatrix}x_{1,1}&\dots &x_{1,j}&\dots &x_{1,n}\\\vdots &\ddots &\vdots &\ddots &\vdots \\x_{i,1}&\dots &x_{i,j}&\dots &x_{i,n}\\\vdots &\ddots &\vdots &\ddots &\vdots \\x_{m,1}&\dots &x_{m,j}&\dots &x_{m,n}\\\end{bmatrix}}&=&({\hat {\textbf {t}}}_{i}^{T})\rightarrow &{\begin{bmatrix}{\begin{bmatrix}\,\\\,\\{\textbf {u}}_{1}\\\,\\\,\end{bmatrix}}\dots {\begin{bmatrix}\,\\\,\\{\textbf {u}}_{l}\\\,\\\,\end{bmatrix}}\end{bmatrix}}&\cdot &{\begin{bmatrix}\sigma _{1}&\dots &0\\\vdots &\ddots &\vdots \\0&\dots &\sigma _{l}\\\end{bmatrix}}&\cdot &{\begin{bmatrix}{\begin{bmatrix}&&{\textbf {v}}_{1}&&\end{bmatrix}}\\\vdots \\{\begin{bmatrix}&&{\textbf {v}}_{l}&&\end{bmatrix}}\end{bmatrix}}\end{matrix}}}$

القيم${\displaystyle \sigma _{1},\dots ,\sigma _{l}}$تُسمى هذه القيم بالقيم المفردة، و${\displaystyle u_{1},\dots ,u_{l}}$و${\displaystyle v_{1},\dots ,v_{l}}$المتجهات المفردة اليسرى واليمنى. لاحظ الجزء الوحيد من${\displaystyle U}$وهذا يساهم في${\displaystyle {\textbf {t}}_{i}}$هو${\displaystyle i{\textrm {'th}}}$صف. لنسمي متجه الصف هذا${\displaystyle {\hat {\textrm {t}}}_{i}^{T}}$وبالمثل، فإن الجزء الوحيد من${\displaystyle V^{T}}$وهذا يساهم في${\displaystyle {\textbf {d}}_{j}}$هو${\displaystyle j{\textrm {'th}}}$عمود،${\displaystyle {\hat {\textrm {d}}}_{j}}$هذه ليست المتجهات الذاتية، ولكنها تعتمد على جميع المتجهات الذاتية.

اتضح أنه عند تحديد${\displaystyle k}$أكبر القيم المفردة، ومتجهاتها المفردة المقابلة من${\displaystyle U}$و${\displaystyle V}$ستحصل على الرتبة${\displaystyle k}$تقريب إلى${\displaystyle X}$بأقل خطأ ( معيار فروبينيوس ). يتميز هذا التقريب بأقل خطأ ممكن. والأهم من ذلك، يمكننا الآن التعامل مع متجهات المصطلحات والمستندات كـ"فضاء دلالي". متجه الصف "المصطلح"${\displaystyle {\hat {\textbf {t}}}_{i}^{T}}$ثم لديه${\displaystyle k}$المدخلات التي تربطها بفضاء ذي أبعاد أقل. هذه الأبعاد الجديدة لا ترتبط بأي مفاهيم مفهومة. إنها تقريب ذو أبعاد أقل للفضاء ذي الأبعاد الأعلى. وبالمثل، متجه "المستند".${\displaystyle {\hat {\textbf {d}}}_{j}}$يمثل هذا تقريبًا في هذا الفضاء ذي الأبعاد المنخفضة. نكتب هذا التقريب على النحو التالي:

${\displaystyle X_{k}=U_{k}\Sigma _{k}V_{k}^{T}}$

يمكنك الآن القيام بما يلي:

• اطلع على كيفية عمل المستندات ذات الصلة${\displaystyle j}$و${\displaystyle q}$يتم تحديدها في الفضاء ذي الأبعاد المنخفضة عن طريق مقارنة المتجهات${\displaystyle \Sigma _{k}\cdot {\hat {\textbf {d}}}_{j}}$و${\displaystyle \Sigma _{k}\cdot {\hat {\textbf {d}}}_{q}}$(عادةً عن طريق تشابه جيب التمام ).
• مقارنة المصطلحات${\displaystyle i}$و${\displaystyle p}$بمقارنة المتجهات${\displaystyle \Sigma _{k}\cdot {\hat {\textbf {t}}}_{i}}$و${\displaystyle \Sigma _{k}\cdot {\hat {\textbf {t}}}_{p}}$. لاحظ أن${\displaystyle {\hat {\textbf {t}}}}$أصبح الآن متجهًا عموديًا.
• يمكن تجميع المستندات وتمثيلات متجهات المصطلحات باستخدام خوارزميات التجميع التقليدية مثل k-means باستخدام مقاييس التشابه مثل جيب التمام.
• بالنظر إلى استعلام، اعرض هذا كمستند مصغر، وقارنه بمستنداتك في الفضاء منخفض الأبعاد.

للقيام بذلك، يجب عليك أولاً تحويل استعلامك إلى فضاء منخفض الأبعاد. ومن البديهي بعد ذلك أن تستخدم نفس التحويل الذي تستخدمه على مستنداتك.

${\displaystyle {\hat {\textbf {d}}}_{j}=\Sigma _{k}^{-1}U_{k}^{T}{\textbf {d}}_{j}}$

لاحظ هنا أن معكوس المصفوفة القطرية${\displaystyle \Sigma _{k}}$يمكن إيجادها عن طريق عكس كل قيمة غير صفرية داخل المصفوفة.

هذا يعني أنه إذا كان لديك متجه استعلام${\displaystyle q}$يجب عليك القيام بالترجمة${\displaystyle {\hat {\textbf {q}}}=\Sigma _{k}^{-1}U_{k}^{T}{\textbf {q}}}$قبل مقارنتها بمتجهات المستندات في الفضاء منخفض الأبعاد. يمكنك فعل الشيء نفسه لمتجهات المصطلحات الزائفة:

${\displaystyle {\textbf {t}}_{i}^{T}={\hat {\textbf {t}}}_{i}^{T}\Sigma _{k}V_{k}^{T}}$

${\displaystyle {\hat {\textbf {t}}}_{i}^{T}={\textbf {t}}_{i}^{T}V_{k}^{-T}\Sigma _{k}^{-1}={\textbf {t}}_{i}^{T}V_{k}\Sigma _{k}^{-1}}$

${\displaystyle {\hat {\textbf {t}}}_{i}=\Sigma _{k}^{-1}V_{k}^{T}{\textbf {t}}_{i}}$

تم استخدام LSA للمساعدة في إجراء عمليات بحث عن التقنية السابقة لبراءات الاختراع . ^{[ 9 ]}

شاع استخدام تحليل الدلالات الكامنة في دراسة الذاكرة البشرية، لا سيما في مجالي الاستدعاء الحر والبحث في الذاكرة. ^{[ 10 ] [ 11 ]} ثمة ارتباط إيجابي بين التشابه الدلالي بين كلمتين (كما يُقاس بتحليل الدلالات الكامنة) واحتمالية استدعاء هاتين الكلمتين تباعًا في مهام الاستدعاء الحر باستخدام قوائم دراسية لأسماء شائعة عشوائية. وقد لوحظ أيضًا أن الفاصل الزمني بين الاستجابات للكلمات المتشابهة في هذه الحالات كان أسرع بكثير من الفاصل الزمني بين الاستجابات للكلمات غير المتشابهة. تُعرف هذه النتائج بتأثير التقارب الدلالي . ^{[ 12 ]}

عندما يرتكب المشاركون أخطاءً في استرجاع العناصر المدروسة، تميل هذه الأخطاء إلى أن تكون عناصر ذات صلة دلالية أكبر بالعنصر المطلوب، وموجودة في قائمة سبق دراستها. ويبدو أن هذه العناصر المتداخلة من القائمة السابقة، كما يُطلق عليها، تتنافس مع العناصر الموجودة في القائمة الحالية على الاسترجاع. ^{[ 13 ]}

يُستخدم نموذج آخر، يُسمى فضاءات ارتباط الكلمات (WAS)، في دراسات الذاكرة من خلال جمع بيانات الارتباط الحر من سلسلة من التجارب، ويتضمن مقاييس لترابط الكلمات لأكثر من 72000 زوج من الكلمات المختلفة. ^{[ 14 ]}

في التجزئة الدلالية ^{[ 23 ]} ، تُربط المستندات بعناوين الذاكرة باستخدام شبكة عصبية ، بحيث تقع المستندات المتشابهة دلاليًا في عناوين متقاربة. تقوم الشبكة العصبية العميقة أساسًا ببناء نموذج بياني لمتجهات عدد الكلمات المُستخرجة من مجموعة كبيرة من المستندات. بعد ذلك، يُمكن العثور على مستندات مشابهة لمستند الاستعلام بمجرد الوصول إلى جميع العناوين التي تختلف ببضع بتات فقط عن عنوان مستند الاستعلام. ترتبط هذه الطريقة، التي تُحسّن كفاءة ترميز التجزئة لتشمل المطابقة التقريبية، ارتباطًا وثيقًا بالتجزئة الحساسة للموقع .

الفهرسة الدلالية الكامنة ( LSI ) هي طريقة للفهرسة والاسترجاع تستخدم تقنية رياضية تُسمى تحليل القيم المفردة (SVD) لتحديد الأنماط في العلاقات بين المصطلحات والمفاهيم الواردة في مجموعة نصوص غير منظمة. تعتمد LSI على مبدأ أن الكلمات المستخدمة في السياقات نفسها تميل إلى أن يكون لها معانٍ متشابهة. ومن السمات الرئيسية لـ LSI قدرتها على استخلاص المحتوى المفاهيمي لمجموعة من النصوص من خلال إقامة روابط بين المصطلحات التي تظهر في سياقات متشابهة . ^{[ 24 ]}

LSI هو أيضًا تطبيق لتحليل المراسلات ، وهو أسلوب إحصائي متعدد المتغيرات طوره جان بول بنزكري ^{[ 25 ]} في أوائل السبعينيات، على جدول طوارئ مبني من عدد الكلمات في المستندات.

يُطلق على هذه التقنية اسم " الفهرسة الدلالية الكامنة " لقدرتها على ربط المصطلحات ذات الصلة الدلالية الكامنة في مجموعة من النصوص، وقد طُبقت لأول مرة على النصوص في شركة بيلكور في أواخر ثمانينيات القرن الماضي. تكشف هذه الطريقة، التي تُعرف أيضًا باسم التحليل الدلالي الكامن (LSA)، عن البنية الدلالية الكامنة في استخدام الكلمات ضمن نص معين، وكيفية استخدامها لاستخلاص معنى النص استجابةً لاستفسارات المستخدم، والتي تُعرف عادةً باسم عمليات البحث المفاهيمي. ستُظهر الاستفسارات، أو عمليات البحث المفاهيمي، على مجموعة من المستندات التي خضعت لتقنية LSI نتائج متشابهة في المعنى مع معايير البحث، حتى لو لم تشترك النتائج في كلمة أو كلمات محددة مع معايير البحث.

تبدأ عملية LSI بإنشاء مصفوفة المصطلحات والوثائق،${\displaystyle A}$، لتحديد حالات حدوث${\displaystyle m}$مصطلحات فريدة ضمن مجموعة من${\displaystyle n}$المستندات. في مصفوفة المصطلحات والمستندات، يُمثل كل مصطلح بصف، ويُمثل كل مستند بعمود، مع كل خلية من خلايا المصفوفة،${\displaystyle a_{ij}}$، والتي تمثل في البداية عدد مرات ظهور المصطلح المرتبط في المستند المشار إليه،${\displaystyle \mathrm {tf_{ij}} }$. عادةً ما تكون هذه المصفوفة كبيرة جدًا ومتفرقة جدًا.

بمجرد إنشاء مصفوفة المصطلحات والوثائق، يمكن تطبيق دوال ترجيح محلية وعالمية عليها لتهيئة البيانات. تقوم دوال الترجيح بتحويل كل خلية،${\displaystyle a_{ij}}$ل${\displaystyle A}$، ليكون نتاج وزن مصطلح محلي،${\displaystyle l_{ij}}$، والذي يصف التكرار النسبي لمصطلح ما في وثيقة، ووزن إجمالي،${\displaystyle g_{i}}$، وهو ما يصف التكرار النسبي للمصطلح ضمن المجموعة الكاملة من الوثائق.

تم تعريف بعض وظائف الترجيح المحلية الشائعة ^{[ 37 ]} في الجدول التالي.

ثنائي		${\displaystyle l_{ij}=1}$إذا كان المصطلح موجودًا في المستند، وإلا${\displaystyle 0}$
تردد المصطلح		${\displaystyle l_{ij}=\mathrm {tf} _{ij}}$عدد مرات ظهور المصطلح${\displaystyle i}$في المستند${\displaystyle j}$
سجل		${\displaystyle l_{ij}=\log(\mathrm {tf} _{ij}+1)}$
أغسطس		${\displaystyle l_{ij}={\frac {{\Big (}{\frac {\mathrm {tf} _{ij}}{\max _{i}(\mathrm {tf} _{ij})}}{\Big )}+1}{2}}}$

تم تعريف بعض وظائف الترجيح العالمية الشائعة في الجدول التالي.

ثنائي		${\displaystyle g_{i}=1}$
طبيعي		${\displaystyle g_{i}={\frac {1}{\sqrt {\sum _{j}\mathrm {tf} _{ij}^{2}}}}}$
GfIdf		${\displaystyle g_{i}=\mathrm {gf} _{i}/\mathrm {df} _{i}}$، أين${\displaystyle \mathrm {gf} _{i}}$هو إجمالي عدد مرات المصطلح${\displaystyle i}$يحدث ذلك في المجموعة بأكملها، و${\displaystyle \mathrm {df} _{i}}$هو عدد المستندات التي في تلك الفترة${\displaystyle i}$يحدث.
Idf (تردد المستند العكسي)		${\displaystyle g_{i}=\log _{2}{\frac {n}{1+\mathrm {df} _{i}}}}$
إنتروبيا		${\displaystyle g_{i}=1+\sum _{j}{\frac {p_{ij}\log p_{ij}}{\log n}}}$، أين${\displaystyle p_{ij}={\frac {\mathrm {tf} _{ij}}{\mathrm {gf} _{i}}}}$

تشير الدراسات التجريبية التي تستخدم خوارزمية LSI إلى أن دالتي الترجيح اللوغاريتمي والإنتروبي تعملان بشكل جيد عمليًا مع العديد من مجموعات البيانات. ^{[ 38 ]} بعبارة أخرى، كل مدخل${\displaystyle a_{ij}}$ل${\displaystyle A}$يتم حسابها على النحو التالي:

${\displaystyle g_{i}=1+\sum _{j}{\frac {p_{ij}\log p_{ij}}{\log n}}}$

${\displaystyle a_{ij}=g_{i}\ \log(\mathrm {tf} _{ij}+1)}$

يُجرى تحليل القيم المفردة المُخفَّض الرتبة على المصفوفة لتحديد الأنماط في العلاقات بين المصطلحات والمفاهيم الواردة في النص. ويُشكِّل تحليل القيم المفردة أساسًا لتحليل الدلالة الكامنة. ^{[ 39 ]} ويحسب فضاءات متجهات المصطلحات والوثائق من خلال تقريب مصفوفة تردد المصطلحات المفردة.${\displaystyle A}$، إلى ثلاث مصفوفات أخرى - مصفوفة متجهات المصطلحات والمفاهيم من الرتبة m × r${\displaystyle T}$، مصفوفة القيم المفردة r × r${\displaystyle S}$، ومصفوفة متجهات مفاهيم المستندات من الرتبة n × r ،${\displaystyle D}$والتي تحقق العلاقات التالية:

${\displaystyle A\approx TSD^{T}}$

${\displaystyle T^{T}T=I_{r}\quad D^{T}D=I_{r}}$

${\displaystyle S_{1,1}\geq S_{2,2}\geq \ldots \geq S_{r,r}>0\quad S_{i,j}=0\;{\text{where}}\;i\neq j}$

في الصيغة، A هي مصفوفة ترددات المصطلحات الموزونة ذات الأبعاد m × n في مجموعة نصوص، حيث m هو عدد المصطلحات الفريدة، و n هو عدد المستندات. T هي مصفوفة متجهات المصطلحات المحسوبة ذات الأبعاد m × r ، حيث r هي رتبة A - وهي مقياس لأبعادها الفريدة ≤ min( m,n ) . S هي مصفوفة قطرية محسوبة ذات الأبعاد r × r بقيم مفردة متناقصة، و D هي مصفوفة متجهات المستندات المحسوبة ذات الأبعاد n × r .

ثم تُقتطع عملية تحليل القيم المفردة (SVD) لتقليل رتبة المصفوفة، وذلك بالاحتفاظ فقط بأكبر k عنصر قطري في مصفوفة القيم المفردة S ، حيث يتراوح عدد أبعاد k عادةً بين 100 و300. يؤدي هذا فعليًا إلى تقليل حجم مصفوفة متجه المصطلحات ومصفوفة متجه المستندات إلى m × k و n × k على التوالي. تُسهم عملية تحليل القيم المفردة، إلى جانب هذا الاختزال، في الحفاظ على أهم المعلومات الدلالية في النص مع تقليل التشويش والشوائب الأخرى غير المرغوب فيها في الفضاء الأصلي للمصفوفة A. غالبًا ما يُشار إلى هذه المجموعة المُختزلة من المصفوفات بصيغة مُعدّلة، مثل: 

A ≈ A _k = T _k S _k D _k ^T

تقوم خوارزميات LSI الفعالة بحساب أول k قيمة مفردة ومتجهات المصطلحات والمستندات فقط بدلاً من حساب SVD كامل ثم اقتطاعه.

لاحظ أن هذا التخفيض في الرتبة يُشابه إلى حد كبير إجراء تحليل المكونات الرئيسية (PCA) على المصفوفة A ، باستثناء أن PCA يطرح المتوسطات. يفقد PCA خاصية التباعد في المصفوفة A ، مما قد يجعله غير عملي للمعاجم الكبيرة.

• التحليل الدلالي الكامن ، مقالة في موسوعة سكولاربيديا حول التحليل الدلالي الكامن كتبها توم لانداور، أحد مبتكري التحليل الدلالي الكامن.

• نظرة عامة على تحليل الدلالة الكامنة (LSA) ، محاضرة ألقاها البروفيسور توماس هوفمان، مؤرشفة بتاريخ 22-12-2017 في Wayback Machine، تصف تحليل الدلالة الكامنة (LSA) وتطبيقاته في استرجاع المعلومات، وعلاقاته بتحليل الدلالة الكامنة الاحتمالي .
• نموذج كامل لرمز LSA بلغة C# لنظام التشغيل Windows . يتضمن رمز العرض التوضيحي تعداد ملفات النصوص، وتصفية الكلمات المتوقفة، والتجذير، وإنشاء مصفوفة المستند-المصطلح، وتحليل القيم المفردة (SVD).

نظراً لتطبيقاتها متعددة المجالات في استرجاع المعلومات ، ومعالجة اللغة الطبيعية (NLP)، والعلوم المعرفية ، واللغويات الحاسوبية ، فقد تم تطبيق LSA لدعم العديد من أنواع التطبيقات المختلفة.

• مجموعات الحواس ، تطبيق بيرل موجه لاسترجاع المعلومات لـ LSA
• حزمة S-Space ، وهي تطبيق جافا لتحليل الدلالة الكامنة (LSA) موجه نحو اللغويات الحاسوبية والعلوم المعرفية
• تُطبّق تقنية Semantic Vectors تقنيات الإسقاط العشوائي، وتحليل الدلالة الكامنة (LSA)، والفهرسة العشوائية الانعكاسية على مصفوفات المصطلحات والمستندات في Lucene.
• مشروع Infomap ، وهو تطبيق C موجه نحو معالجة اللغة الطبيعية لـ LSA (تم استبداله بمشروع semanticvectors).
• مولد تحويل النصوص إلى مصفوفات ، وهو عبارة عن مجموعة أدوات MATLAB لإنشاء مصفوفات المصطلحات والمستندات من مجموعات النصوص، مع دعم LSA
• يحتوي Gensim على تطبيق بايثون لخوارزمية LSA للمصفوفات الأكبر من ذاكرة الوصول العشوائي (RAM).