مرشح المربعات الصغرى المتكرر

تُعدّ طريقة المربعات الصغرى المتكررة ( RLS ) خوارزمية ترشيح تكيفية تجد بشكل متكرر المعاملات التي تُقلّل دالة التكلفة الخطية الموزونة للمربعات الصغرى، والمرتبطة بإشارات الإدخال. يختلف هذا النهج عن خوارزميات أخرى، مثل طريقة المربعات الصغرى المتوسطة (LMS)، التي تهدف إلى تقليل متوسط ​​مربع الخطأ . في اشتقاق RLS، تُعتبر إشارات الإدخال حتمية ، بينما تُعتبر عشوائية في LMS والخوارزميات المشابهة . تتميز RLS، مقارنةً بمعظم منافسيها، بتقارب سريع للغاية. مع ذلك، تأتي هذه الميزة على حساب تعقيد حسابي كبير.

تحفيز

اكتشف جاوس طريقة المربعات الصغرى المتكررة (RLS) ، لكنها ظلت مهملة أو غير مستخدمة حتى عام 1950 عندما أعاد بلاكيت اكتشاف عمل جاوس الأصلي من عام 1821. بشكل عام، يمكن استخدام طريقة المربعات الصغرى المتكررة لحل أي مشكلة يمكن حلها باستخدام المرشحات التكيفية . على سبيل المثال، لنفترض أن إشارةد(ن){\displaystyle d(n)}يتم إرسالها عبر قناة مليئة بالصدى والضوضاء مما يجعلها تُستقبل على أنها

x(ن)=ك=0qبن(ك)د(ن-ك)+v(ن){\displaystyle x(n)=\sum _{k=0}^{q}b_{n}(k)d(nk)+v(n)}

أينv(ن){\displaystyle v(n)}يمثل الضوضاء المضافة . والهدف من مرشح RLS هو استعادة الإشارة المطلوبةد(ن){\displaystyle d(n)}باستخدامص+1{\displaystyle p+1}مرشح الأشعة تحت الحمراء البعيدة (FIR) - النقر ،w{\displaystyle \mathbf {w} }:

د(ن)ك=0صw(ك)x(ن-ك)=wتيxن{\displaystyle d(n)\approx \sum _{k=0}^{p}w(k)x(nk)=\mathbf {w} ^{\mathit {T}}\mathbf {x} _{n}}

أينxن=[x(ن)x(ن-1)...x(ن-ص)]تي{\displaystyle \mathbf {x} _{n}=[x(n)\quad x(n-1)\quad \ldots \quad x(np)]^{T}}هو متجه العمود الذي يحتوي علىص+1{\displaystyle p+1}أحدث عينات منx(ن){\displaystyle x(n)}تقدير الإشارة المطلوبة المستعادة هو

د^(ن)=ك=0صwن(ك)x(ن-ك)=wنتيxن{\displaystyle {\hat {d}}(n)=\sum _{k=0}^{p}w_{n}(k)x(nk)=\mathbf {w} _{n}^{\mathit {T}}\mathbf {x} _{n}}

الهدف هو تقدير معلمات المرشحw{\displaystyle \mathbf {w} }وفي كل وقتن{\displaystyle n}نشير إلى التقدير الحالي باسمwن{\displaystyle \mathbf {w} _{n}}وتقدير المربعات الصغرى المعدل بواسطةwن+1{\displaystyle \mathbf {w} _{n+1}}. wن{\displaystyle \mathbf {w} _{n}}وهو أيضًا متجه عمودي، كما هو موضح أدناه، والمُنَقل ،wنتي{\displaystyle \mathbf {w} _{n}^{\mathit {T}}}، هو متجه صف . حاصل ضرب المصفوفاتwنتيxن{\displaystyle \mathbf {w} _{n}^{\mathit {T}}\mathbf {x} _{n}}(وهو حاصل الضرب النقطي لـwن{\displaystyle \mathbf {w} _{n}}وxن{\displaystyle \mathbf {x} _{n}}) يكوند^(ن){\displaystyle {\hat {d}}(n)}وهو قيمة عددية. يكون التقدير "جيدًا" إذا د^(ن)-د(ن){\displaystyle {\hat {d}}(n)-d(n)}صغيرة في حجمها بمعنى المربعات الصغرى .

مع مرور الوقت، يُفضّل تجنّب إعادة تطبيق خوارزمية المربعات الصغرى بالكامل لإيجاد التقدير الجديد لـwن+1{\displaystyle \mathbf {w} _{n+1}}، من ناحيةwن{\displaystyle \mathbf {w} _{n}}.

تتمثل فائدة خوارزمية المربعات الصغرى المتكررة (RLS) في عدم الحاجة إلى عكس المصفوفات، مما يوفر تكلفة حسابية. ومن مزاياها الأخرى أنها توفر فهمًا بديهيًا لنتائج مثل مرشح كالمان .

مناقشة

تتمثل الفكرة وراء مرشحات RLS في تقليل دالة التكلفةج{\displaystyle C}عن طريق اختيار معاملات التصفية بشكل مناسبwن{\displaystyle \mathbf {w} _{n}}ويتم تحديث الفلتر مع وصول البيانات الجديدة. إشارة الخطأهـ(ن){\displaystyle e(n)}والإشارة المطلوبةد(ن){\displaystyle d(n)}يتم تعريفها في مخطط التغذية الراجعة السلبية أدناه:

يعتمد الخطأ ضمنيًا على معاملات التصفية من خلال التقديرد^(ن){\displaystyle {\hat {d}}(n)}:

هـ(ن)=د(ن)-د^(ن){\displaystyle e(n)=d(n)-{\hat {d}}(n)}

دالة الخطأ التربيعي الأدنى الموزونج{\displaystyle C}—دالة التكلفة التي نرغب في تقليلها—كونها دالة لـهـ(ن){\displaystyle e(n)}وبالتالي، يعتمد أيضًا على معاملات التصفية:

ج(wن)=أنا=0نλن-أناهـ2(أنا){\displaystyle C(\mathbf {w} _{n})=\sum _{i=0}^{n}\lambda ^{n-i}e^{2}(i)}

أين0<λ1{\displaystyle 0<\lambda \leq 1}هو "عامل النسيان" الذي يعطي وزناً أقل بشكل كبير لعينات الأخطاء القديمة.

يتم تقليل دالة التكلفة عن طريق أخذ المشتقات الجزئية لجميع المدخلاتك{\displaystyle k}متجه المعاملاتwن{\displaystyle \mathbf {w} _{n}}وتعيين النتائج إلى الصفر

ج(wن)wن(ك)=أنا=0ن2λن-أناهـ(أنا)هـ(أنا)wن(ك)=-أنا=0ن2λن-أناهـ(أنا)x(أنا-ك)=0ك=0،1،...،ص{\displaystyle {\frac {\partial C(\mathbf {w} _{n})}{\partial w_{n}(k)}}=\sum _{i=0}^{n}2\lambda ^{n-i}e(i)\cdot {\frac {\partial e(i)}{\partial w_{n}(k)}}=-\sum _{i=0}^{n}2\lambda ^{n-i}e(i)\,x(i-k)=0\qquad k=0,1,\ldots ,p}

ثم استبدلهـ(ن){\displaystyle e(n)}مع تعريف إشارة الخطأ

أنا=0نλن-أنا[د(أنا)-=0صwن()x(أنا-)]x(أنا-ك)=0ك=0،1،...،ص{\displaystyle \sum _{i=0}^{n}\lambda ^{n-i}\left[d(i)-\sum _{\ell =0}^{p}w_{n}(\ell )x(i-\ell )\right]x(i-k)=0\qquad k=0,1,\ldots ,p}

بإعادة ترتيب المعادلة ينتج

=0صwن()[أنا=0نλن-أناx(أنا-)x(أنا-ك)]=أنا=0نλن-أناد(أنا)x(أنا-ك)ك=0،1،...،ص{\displaystyle \sum _{\ell =0}^{p}w_{n}(\ell )\left[\sum _{i=0}^{n}\lambda ^{n-i}\,x(i-\ell )x(i-k)\right]=\sum _{i=0}^{n}\lambda ^{n-i}d(i)x(i-k)\qquad k=0,1,\ldots ,p}

يمكن التعبير عن هذا الشكل بدلالة المصفوفات

Rx(ن)wن=ردx(ن){\displaystyle \mathbf {R} _{x}(n)\,\mathbf {w} _{n}=\mathbf {r} _{dx}(n)}

أينRx(ن){\displaystyle \mathbf {R} _{x}(n)}هي مصفوفة التغاير الموزون للعينة لـx(ن){\displaystyle x(n)}، وردx(ن){\displaystyle \mathbf {r} _{dx}(n)}وهو التقدير المكافئ للتغاير المتبادل بيند(ن){\displaystyle d(n)}وx(ن){\displaystyle x(n)}بناءً على هذا التعبير، نجد المعاملات التي تقلل دالة التكلفة كما يلي:

wن=Rx-1(ن)ردx(ن){\displaystyle \mathbf {w} _{n}=\mathbf {R} _{x}^{-1}(n)\,\mathbf {r} _{dx}(n)}

هذه هي النتيجة الرئيسية للمناقشة.

اختيار λ

الأصغرλ{\displaystyle \lambda }أي أن مساهمة العينات السابقة في مصفوفة التغاير تكون أقل . وهذا يجعل المرشح أكثر حساسية للعينات الحديثة، مما يعني مزيدًا من التقلبات في معاملات المرشح.λ=1{\displaystyle \lambda =1}تُعرف هذه الحالة باسم خوارزمية RLS ذات النافذة المتنامية . عملياً،λ{\displaystyle \lambda }يُختار عادةً بين 0.98 و1. [ 1 ] باستخدام تقدير الاحتمال الأقصى من النوع الثاني ، يتم تحديد القيمة المثلىλ{\displaystyle \lambda }يمكن تقديرها من مجموعة من البيانات. [ 2 ]

الخوارزمية التكرارية

أسفرت المناقشة عن معادلة واحدة لتحديد متجه المعاملات الذي يقلل دالة التكلفة. في هذا القسم، نريد اشتقاق حل تكراري على النحو التالي:

wن=wن-1+Δwن-1{\displaystyle \mathbf {w} _{n}=\mathbf {w} _{n-1}+\Delta \mathbf {w} _{n-1}}

أينΔwن-1{\displaystyle \Delta \mathbf {w} _{n-1}}هو عامل تصحيح في وقتن-1{\displaystyle {n-1}}نبدأ اشتقاق الخوارزمية التكرارية بالتعبير عن التغاير المتقاطعردx(ن){\displaystyle \mathbf {r} _{dx}(n)}من ناحيةردx(ن-1){\displaystyle \mathbf {r} _{dx}(n-1)}

ردx(ن){\displaystyle \mathbf {r} _{dx}(n)}=أنا=0نλن-أناد(أنا)x(أنا){\displaystyle =\sum _{i=0}^{n}\lambda ^{n-i}d(i)\mathbf {x} (i)}
=أنا=0ن-1λن-أناد(أنا)x(أنا)+λ0د(ن)x(ن){\displaystyle =\sum _{i=0}^{n-1}\lambda ^{n-i}d(i)\mathbf {x} (i)+\lambda ^{0}d(n)\mathbf {x} (n)}
=λردx(ن-1)+د(ن)x(ن){\displaystyle =\lambda \mathbf {r} _{dx}(n-1)+d(n)\mathbf {x} (n)}

أينx(أنا){\displaystyle \mathbf {x} (i)}هوص+1{\displaystyle {p+1}}متجه البيانات متعدد الأبعاد

x(أنا)=[x(أنا)،x(أنا-1)،...،x(أنا-ص)]تي{\displaystyle \mathbf {x} (i)=[x(i),x(i-1),\dots ,x(i-p)]^{T}}

وبالمثل نعبرRx(ن){\displaystyle \mathbf {R} _{x}(n)}من ناحيةRx(ن-1){\displaystyle \mathbf {R} _{x}(n-1)}بواسطة

Rx(ن){\displaystyle \mathbf {R} _{x}(n)}=أنا=0نλن-أناx(أنا)xتي(أنا){\displaystyle =\sum _{i=0}^{n}\lambda ^{n-i}\mathbf {x} (i)\mathbf {x} ^{T}(i)}
=λRx(ن-1)+x(ن)xتي(ن){\displaystyle =\lambda \mathbf {R} _{x}(n-1)+\mathbf {x} (n)\mathbf {x} ^{T}(n)}

من أجل توليد متجه المعاملات، نهتم بمعكوس مصفوفة التغاير الذاتي الحتمية. ولتحقيق هذه المهمة، تُعدّ متطابقة مصفوفة وودبري مفيدة.

أ{\displaystyle A}=λRx(ن-1){\displaystyle =\lambda \mathbf {R} _{x}(n-1)}يكون(ص+1){\displaystyle (p+1)}-بواسطة-(ص+1){\displaystyle (p+1)}
يو{\displaystyle U}=x(ن){\displaystyle =\mathbf {x} (n)}يكون(ص+1){\displaystyle (p+1)}-بمضاعفة-1 (متجه عمودي)
V{\displaystyle V}=xتي(ن){\displaystyle =\mathbf {x} ^{T}(n)}هو 1×(ص+1){\displaystyle (p+1)}(متجه صفي)
ج{\displaystyle C}=أنا1{\displaystyle =\mathbf {I} _{1}}هي مصفوفة الوحدة 1×1

تتبع هوية مصفوفة وودبري

Rx-1(ن){\displaystyle \mathbf {R} _{x}^{-1}(n)}={\displaystyle =}[λRx(ن-1)+x(ن)xتي(ن)]-1{\displaystyle \left[\lambda \mathbf {R} _{x}(n-1)+\mathbf {x} (n)\mathbf {x} ^{T}(n)\right]^{-1}}
={\displaystyle =}1λ{Rx-1(ن-1)-Rx-1(ن-1)x(ن)xتي(ن)Rx-1(ن-1)λ+xتي(ن)Rx-1(ن-1)x(ن)}{\displaystyle {\dfrac {1}{\lambda }}\left\lbrace \mathbf {R} _{x}^{-1}(n-1)-{\dfrac {\mathbf {R} _{x}^{-1}(n-1)\mathbf {x} (n)\mathbf {x} ^{T}(n)\mathbf {R} _{x}^{-1}(n-1)}{\lambda +\mathbf {x} ^{T}(n)\mathbf {R} _{x}^{-1}(n-1)\mathbf {x} (n)}}\right\rbrace }
{\displaystyle }

تماشياً مع الأدبيات القياسية، نُعرّف

P(ن){\displaystyle \mathbf {P} (n)}=Rx-1(ن){\displaystyle =\mathbf {R} _{x}^{-1}(n)}
=λ-1P(ن-1)-ز(ن)xتي(ن)λ-1P(ن-1){\displaystyle =\lambda ^{-1}\mathbf {P} (n-1)-\mathbf {g} (n)\mathbf {x} ^{T}(n)\lambda ^{-1}\mathbf {P} (n-1)}

حيث متجه الكسبز(ن){\displaystyle g(n)}يكون

ز(ن){\displaystyle \mathbf {g} (n)}=λ-1P(ن-1)x(ن){1+xتي(ن)λ-1P(ن-1)x(ن)}-1{\displaystyle =\lambda ^{-1}\mathbf {P} (n-1)\mathbf {x} (n)\left\{1+\mathbf {x} ^{T}(n)\lambda ^{-1}\mathbf {P} (n-1)\mathbf {x} (n)\right\}^{-1}}
=P(ن-1)x(ن){λ+xتي(ن)P(ن-1)x(ن)}-1{\displaystyle =\mathbf {P} (n-1)\mathbf {x} (n)\left\{\lambda +\mathbf {x} ^{T}(n)\mathbf {P} (n-1)\mathbf {x} (n)\right\}^{-1}}

قبل أن ننتقل إلى الخطوة التالية، من الضروري أن نذكرز(ن){\displaystyle \mathbf {g} (n)}إلى شكل آخر

ز(ن){1+xتي(ن)λ-1P(ن-1)x(ن)}{\displaystyle \mathbf {g} (n)\left\{1+\mathbf {x} ^{T}(n)\lambda ^{-1}\mathbf {P} (n-1)\mathbf {x} (n)\right\}}=λ-1P(ن-1)x(ن){\displaystyle =\lambda ^{-1}\mathbf {P} (n-1)\mathbf {x} (n)}
ز(ن)+ز(ن)xتي(ن)λ-1P(ن-1)x(ن){\displaystyle \mathbf {g} (n)+\mathbf {g} (n)\mathbf {x} ^{T}(n)\lambda ^{-1}\mathbf {P} (n-1)\mathbf {x} (n)}=λ-1P(ن-1)x(ن){\displaystyle =\lambda ^{-1}\mathbf {P} (n-1)\mathbf {x} (n)}

بطرح الحد الثاني من الطرف الأيسر نحصل على

ز(ن){\displaystyle \mathbf {g} (n)}=λ-1P(ن-1)x(ن)-ز(ن)xتي(ن)λ-1P(ن-1)x(ن){\displaystyle =\lambda ^{-1}\mathbf {P} (n-1)\mathbf {x} (n)-\mathbf {g} (n)\mathbf {x} ^{T}(n)\lambda ^{-1}\mathbf {P} (n-1)\mathbf {x} (n)}
=λ-1[P(ن-1)-ز(ن)xتي(ن)P(ن-1)]x(ن){\displaystyle =\lambda ^{-1}\left[\mathbf {P} (n-1)-\mathbf {g} (n)\mathbf {x} ^{T}(n)\mathbf {P} (n-1)\right]\mathbf {x} (n)}

مع التعريف التكراري لـP(ن){\displaystyle \mathbf {P} (n)}الشكل المطلوب يتبع

ز(ن)=P(ن)x(ن){\displaystyle \mathbf {g} (n)=\mathbf {P} (n)\mathbf {x} (n)}

الآن نحن جاهزون لإكمال عملية التكرار. كما تم شرحه

wن{\displaystyle \mathbf {w} _{n}}=P(ن)ردx(ن){\displaystyle =\mathbf {P} (n)\,\mathbf {r} _{dx}(n)}
=λP(ن)ردx(ن-1)+د(ن)P(ن)x(ن){\displaystyle =\lambda \mathbf {P} (n)\,\mathbf {r} _{dx}(n-1)+d(n)\mathbf {P} (n)\,\mathbf {x} (n)}

وتنتج الخطوة الثانية من التعريف التكراري لـردx(ن){\displaystyle \mathbf {r} _{dx}(n)}ثم نُدمج التعريف التكراري لـP(ن){\displaystyle \mathbf {P} (n)}بالإضافة إلى الشكل البديل لـز(ن){\displaystyle \mathbf {g} (n)}واحصل على

wن{\displaystyle \mathbf {w} _{n}}=λ[λ-1P(ن-1)-ز(ن)xتي(ن)λ-1P(ن-1)]ردx(ن-1)+د(ن)ز(ن){\displaystyle =\lambda \left[\lambda ^{-1}\mathbf {P} (n-1)-\mathbf {g} (n)\mathbf {x} ^{T}(n)\lambda ^{-1}\mathbf {P} (n-1)\right]\mathbf {r} _{dx}(n-1)+d(n)\mathbf {g} (n)}
=P(ن-1)ردx(ن-1)-ز(ن)xتي(ن)P(ن-1)ردx(ن-1)+د(ن)ز(ن){\displaystyle =\mathbf {P} (n-1)\mathbf {r} _{dx}(n-1)-\mathbf {g} (n)\mathbf {x} ^{T}(n)\mathbf {P} (n-1)\mathbf {r} _{dx}(n-1)+d(n)\mathbf {g} (n)}
=P(ن-1)ردx(ن-1)+ز(ن)[د(ن)-xتي(ن)P(ن-1)ردx(ن-1)]{\displaystyle =\mathbf {P} (n-1)\mathbf {r} _{dx}(n-1)+\mathbf {g} (n)\left[d(n)-\mathbf {x} ^{T}(n)\mathbf {P} (n-1)\mathbf {r} _{dx}(n-1)\right]}

معwن-1=P(ن-1)ردx(ن-1){\displaystyle \mathbf {w} _{n-1}=\mathbf {P} (n-1)\mathbf {r} _{dx}(n-1)}نصل إلى معادلة التحديث

wن{\displaystyle \mathbf {w} _{n}}=wن-1+ز(ن)[د(ن)-xتي(ن)wن-1]{\displaystyle =\mathbf {w} _{n-1}+\mathbf {g} (n)\left[d(n)-\mathbf {x} ^{T}(n)\mathbf {w} _{n-1}\right]}
=wن-1+ز(ن)α(ن){\displaystyle =\mathbf {w} _{n-1}+\mathbf {g} (n)\alpha (n)}

أينα(ن)=د(ن)-xتي(ن)wن-1{\displaystyle \alpha (n)=d(n)-\mathbf {x} ^{T}(n)\mathbf {w} _{n-1}} هذا هو الخطأ المسبق . قارن هذا بالخطأ اللاحق ؛ وهو الخطأ المحسوب بعد تحديث المرشح:

هـ(ن)=د(ن)-xتي(ن)wن{\displaystyle e(n)=d(n)-\mathbf {x} ^{T}(n)\mathbf {w} _{n}}

هذا يعني أننا وجدنا عامل التصحيح

Δwن-1=ز(ن)α(ن){\displaystyle \Delta \mathbf {w} _{n-1}=\mathbf {g} (n)\alpha (n)}

تشير هذه النتيجة المُرضية حدسياً إلى أن عامل التصحيح يتناسب طردياً مع كل من الخطأ ومتجه الكسب، الذي يتحكم في مقدار الحساسية المطلوبة، من خلال عامل الترجيح.λ{\displaystyle \lambda }.

ملخص خوارزمية RLS

يمكن تلخيص خوارزمية RLS لمرشح RLS من الرتبة p على النحو التالي

حدود:ص={\displaystyle p=}طلب فلتر
λ={\displaystyle \lambda =}عامل النسيان
دلتا={\displaystyle \delta =}القيمة المراد تهيئتهاP(0){\displaystyle \mathbf {P} (0)}
التهيئة:w(0)=0{\displaystyle \mathbf {w} (0)=0}،
x(ك)=0،ك=-ص،...،-1{\displaystyle x(k)=0,k=-p,\dots ,-1}،
د(ك)=0،ك=-ص،...،-1{\displaystyle d(k)=0,k=-p,\dots ,-1}
P(0)=دلتاأنا{\displaystyle \mathbf {P} (0)=\delta I}أينأنا{\displaystyle I}هي مصفوفة الوحدة من الرتبةص+1{\displaystyle p+1}
حساب:لن=1،2،...{\displaystyle n=1,2,\dots }

x(ن)=[x(ن)x(ن-1)x(ن-ص)]{\displaystyle \mathbf {x} (n)=\left[{\begin{matrix}x(n)\\x(n-1)\\\vdots \\x(n-p)\end{matrix}}\right]}

α(ن)=د(ن)-xتي(ن)w(ن-1){\displaystyle \alpha (n)=d(n)-\mathbf {x} ^{T}(n)\mathbf {w} (n-1)}
ز(ن)=P(ن-1)x(ن){λ+xتي(ن)P(ن-1)x(ن)}-1{\displaystyle \mathbf {g} (n)=\mathbf {P} (n-1)\mathbf {x} (n)\left\{\lambda +\mathbf {x} ^{T}(n)\mathbf {P} (n-1)\mathbf {x} (n)\right\}^{-1}}
P(ن)=λ-1P(ن-1)-ز(ن)xتي(ن)λ-1P(ن-1){\displaystyle \mathbf {P} (n)=\lambda ^{-1}\mathbf {P} (n-1)-\mathbf {g} (n)\mathbf {x} ^{T}(n)\lambda ^{-1}\mathbf {P} (n-1)}
w(ن)=w(ن-1)+α(ن)ز(ن){\displaystyle \mathbf {w} (n)=\mathbf {w} (n-1)+\,\alpha (n)\mathbf {g} (n)}.

التكرار لـP{\displaystyle P}يتبع معادلة ريكاتي الجبرية ، وبالتالي يرسم أوجه تشابه مع مرشح كالمان . [ 3 ]

مرشح المربعات الصغرى المتكرر الشبكي (LRLS)

يرتبط مرشح المربعات الصغرى التكيفي المتكرر الشبكي بخوارزمية المربعات الصغرى المتكررة القياسية، إلا أنه يتطلب عمليات حسابية أقل (من الرتبة N ) . [ 4 ] ويوفر مزايا إضافية مقارنةً بخوارزميات المربعات الصغرى التقليدية، مثل سرعة التقارب، والبنية المعيارية، وعدم التأثر بتغيرات انتشار القيم الذاتية لمصفوفة الارتباط المدخلة. تعتمد خوارزمية المربعات الصغرى المتكررة الشبكية الموصوفة على الأخطاء اللاحقة ، وتتضمن الشكل المعياري. ويشابه الاشتقاق خوارزمية المربعات الصغرى المتكررة القياسية، ويستند إلى تعريفد(ك){\displaystyle d(k)\,\!}في حالة التنبؤ الأمامي، لديناد(ك)=x(ك){\displaystyle d(k)=x(k)\,\!}مع إشارة الإدخالx(ك-1){\displaystyle x(k-1)\,\!}باعتبارها أحدث عينة. حالة التنبؤ العكسي هيد(ك)=x(ك-أنا-1){\displaystyle d(k)=x(k-i-1)\,\!}، حيث يمثل i فهرس العينة في الماضي التي نريد التنبؤ بها، وإشارة الإدخالx(ك){\displaystyle x(k)\,\!}وهي أحدث عينة. [ 5 ]

ملخص المعلمات

κو(ك،أنا){\displaystyle \kappa _{f}(k,i)\,\!}معامل الانعكاس الأمامي
κب(ك،أنا){\displaystyle \kappa _{b}(k,i)\,\!}معامل الانعكاس الخلفي
هـو(ك،أنا){\displaystyle e_{f}(k,i)\,\!}يمثل خطأ التنبؤ الأمامي اللاحق اللحظي
هـب(ك،أنا){\displaystyle e_{b}(k,i)\,\!}يمثل خطأ التنبؤ اللاحق اللحظي
ξبميند(ك،أنا){\displaystyle \xi _{b_{\min }}^{d}(k,i)\,\!}هو الحد الأدنى لخطأ التنبؤ العكسي باستخدام طريقة المربعات الصغرى
ξوميند(ك،أنا){\displaystyle \xi _{f_{\min }}^{d}(k,i)\,\!}هو الحد الأدنى لخطأ التنبؤ الأمامي باستخدام طريقة المربعات الصغرى
γ(ك،أنا){\displaystyle \gamma (k,i)\,\!}هو عامل تحويل بين الأخطاء القبلية والأخطاء اللاحقة
vأنا(ك){\displaystyle v_{i}(k)\,\!}هي معاملات المضاعفة الأمامية.
ε{\displaystyle \varepsilon \,\!}هو ثابت موجب صغير يمكن أن يكون 0.01

ملخص خوارزمية LRLS

يمكن تلخيص خوارزمية مرشح LRLS على النحو التالي

التهيئة:
لأنا=0،1،...،شمال{\textstyle i=0,1,\ldots ,N}
 دلتا(-1،أنا)=دلتاد(-1،أنا)=0{\displaystyle \delta (-1,i)=\delta _{D}(-1,i)=0\,\!}(لوx(ك)=0{\textstyle x(k)=0}لك<0{\textstyle k<0})
 ξبميند(-1،أنا)=ξوميند(-1،أنا)=ε{\displaystyle \xi _{b_{\min }}^{d}(-1,i)=\xi _{f_{\min }}^{d}(-1,i)=\varepsilon }
 γ(-1،أنا)=1{\displaystyle \gamma (-1,i)=1\,\!}
 هـب(-1،أنا)=0{\displaystyle e_{b}(-1,i)=0\,\!}
نهاية
حساب:
لك0{\textstyle k\geq 0}
 γ(ك،0)=1{\displaystyle \gamma (k,0)=1\,\!}
 هـب(ك،0)=هـو(ك،0)=x(ك){\displaystyle e_{b}(k,0)=e_{f}(k,0)=x(k)\,\!}
 ξبميند(ك،0)=ξوميند(ك،0)=x2(ك)+λξوميند(ك-1،0){\displaystyle \xi _{b_{\min }}^{d}(k,0)=\xi _{f_{\min }}^{d}(k,0)=x^{2}(k)+\lambda \xi _{f_{\min }}^{d}(k-1,0)\,\!}
 هـ(ك،0)=د(ك){\displaystyle e(k,0)=d(k)\,\!}
 لأنا=0،1،...،شمال{\textstyle i=0,1,\ldots ,N}
 دلتا(ك،أنا)=λدلتا(ك-1،أنا)+هـب(ك-1،أنا)هـو(ك،أنا)γ(ك-1،أنا){\displaystyle \delta (k,i)=\lambda \delta (k-1,i)+{\frac {e_{b}(k-1,i)e_{f}(k,i)}{\gamma (k-1,i)}}}
 γ(ك،أنا+1)=γ(ك،أنا)-هـب2(ك،أنا)ξبميند(ك،أنا){\displaystyle \gamma (k,i+1)=\gamma (k,i)-{\frac {e_{b}^{2}(k,i)}{\xi _{b_{\min }}^{d}(k,i)}}}
 κب(ك،أنا)=دلتا(ك،أنا)ξوميند(ك،أنا){\displaystyle \kappa _{b}(k,i)={\frac {\delta (k,i)}{\xi _{f_{\min }}^{d}(k,i)}}}
 κو(ك،أنا)=دلتا(ك،أنا)ξبميند(ك-1،أنا){\displaystyle \kappa _{f}(k,i)={\frac {\delta (k,i)}{\xi _{b_{\min }}^{d}(k-1,i)}}}
 هـب(ك،أنا+1)=هـب(ك-1،أنا)-κب(ك،أنا)هـو(ك،أنا){\displaystyle e_{b}(k,i+1)=e_{b}(k-1,i)-\kappa _{b}(k,i)e_{f}(k,i)\,\!}
 هـو(ك،أنا+1)=هـو(ك،أنا)-κو(ك،أنا)هـب(ك-1،أنا){\displaystyle e_{f}(k,i+1)=e_{f}(k,i)-\kappa _{f}(k,i)e_{b}(k-1,i)\,\!}
 ξبميند(ك،أنا+1)=ξبميند(ك-1،أنا)-دلتا(ك،أنا)κب(ك،أنا){\displaystyle \xi _{b_{\min }}^{d}(k,i+1)=\xi _{b_{\min }}^{d}(k-1,i)-\delta (k,i)\kappa _{b}(k,i)}
 ξوميند(ك،أنا+1)=ξوميند(ك،أنا)-دلتا(ك،أنا)κو(ك،أنا){\displaystyle \xi _{f_{\min }}^{d}(k,i+1)=\xi _{f_{\min }}^{d}(k,i)-\delta (k,i)\kappa _{f}(k,i)}
 التصفية الأمامية
 دلتاد(ك،أنا)=λدلتاد(ك-1،أنا)+هـ(ك،أنا)هـب(ك،أنا)γ(ك،أنا){\displaystyle \delta _{D}(k,i)=\lambda \delta _{D}(k-1,i)+{\frac {e(k,i)e_{b}(k,i)}{\gamma (k,i)}}}
 vأنا(ك)=دلتاد(ك،أنا)ξبميند(ك،أنا){\displaystyle v_{i}(k)={\frac {\delta _{D}(k,i)}{\xi _{b_{\min }}^{d}(k,i)}}}
 هـ(ك،أنا+1)=هـ(ك،أنا)-vأنا(ك)هـب(ك،أنا){\displaystyle e(k,i+1)=e(k,i)-v_{i}(k)e_{b}(k,i)\,\!}
 نهاية
نهاية

مرشح المربعات الصغرى المتكرر الشبكي المعياري (NLRLS)

يحتوي الشكل المُعَيَّر لخوارزمية المربعات الصغرى ذات الانحدار الخطي (LRLS) على عدد أقل من التكرارات والمتغيرات. ويمكن حسابه بتطبيق عملية تطبيع على المتغيرات الداخلية للخوارزمية، مما يحافظ على قيمها ضمن نطاق الواحد. لا يُستخدم هذا الشكل عادةً في التطبيقات الآنية نظرًا لكثرة عمليات القسمة والجذر التربيعي، مما يُؤدي إلى عبء حسابي كبير.

ملخص خوارزمية NLRLS

يمكن تلخيص خوارزمية مرشح NLRLS على النحو التالي

التهيئة:
لأنا=0،1،...،شمال.{\textstyle i=0,1,\ldots ,N.}
 دلتا¯(-1،أنا)=0{\displaystyle {\overline {\delta }}(-1,i)=0\,\!}(لوx(ك)=د(ك)=0{\textstyle x(k)=d(k)=0}لك<0{\textstyle k<0})
 دلتا¯د(-1،أنا)=0{\displaystyle {\overline {\delta }}_{D}(-1,i)=0\,\!}
 هـ¯ب(-1،أنا)=0{\displaystyle {\overline {e}}_{b}(-1,i)=0\,\!}
نهاية
 σx2(-1)=λσد2(-1)=ε{\displaystyle \sigma _{x}^{2}(-1)=\lambda \sigma _{d}^{2}(-1)=\varepsilon \,\!}
حساب:
لك0{\textstyle k\geq 0}
 σx2(ك)=λσx2(ك-1)+x2(ك){\displaystyle \sigma _{x}^{2}(k)=\lambda \sigma _{x}^{2}(k-1)+x^{2}(k)\,\!}(طاقة إشارة الإدخال)
 σد2(ك)=λσد2(ك-1)+د2(ك){\displaystyle \sigma _{d}^{2}(k)=\lambda \sigma _{d}^{2}(k-1)+d^{2}(k)\,\!}(طاقة الإشارة المرجعية)
 هـ¯ب(ك،0)=هـ¯و(ك،0)=x(ك)σx(ك){\displaystyle {\overline {e}}_{b}(k,0)={\overline {e}}_{f}(k,0)={\frac {x(k)}{\sigma _{x}(k)}}\,\!}
 هـ¯(ك،0)=د(ك)σد(ك){\displaystyle {\overline {e}}(k,0)={\frac {d(k)}{\sigma _{d}(k)}}\,\!}
 لأنا=0،1،...،شمال{\textstyle i=0,1,\ldots ,N}
 دلتا¯(ك،أنا)=دلتا(ك-1،أنا)(1-هـ¯ب2(ك-1،أنا))(1-هـ¯و2(ك،أنا))+هـ¯ب(ك-1،أنا)هـ¯و(ك،أنا){\displaystyle {\overline {\delta }}(k,i)=\delta (k-1,i){\sqrt {(1-{\overline {e}}_{b}^{2}(k-1,i))(1-{\overline {e}}_{f}^{2}(k,i))}}+{\overline {e}}_{b}(k-1,i){\overline {e}}_{f}(k,i)}
 هـ¯ب(ك،أنا+1)=هـ¯ب(ك-1،أنا)-دلتا¯(ك،أنا)هـ¯و(ك،أنا)(1-دلتا¯2(ك،أنا))(1-هـ¯و2(ك،أنا)){\displaystyle {\overline {e}}_{b}(k,i+1)={\frac {{\overline {e}}_{b}(k-1,i)-{\overline {\delta }}(k,i){\overline {e}}_{f}(k,i)}{\sqrt {(1-{\overline {\delta }}^{2}(k,i))(1-{\overline {e}}_{f}^{2}(k,i))}}}}
 هـ¯و(ك،أنا+1)=هـ¯و(ك،أنا)-دلتا¯(ك،أنا)هـ¯ب(ك-1،أنا)(1-دلتا¯2(ك،أنا))(1-هـ¯ب2(ك-1،أنا)){\displaystyle {\overline {e}}_{f}(k,i+1)={\frac {{\overline {e}}_{f}(k,i)-{\overline {\delta }}(k,i){\overline {e}}_{b}(k-1,i)}{\sqrt {(1-{\overline {\delta }}^{2}(k,i))(1-{\overline {e}}_{b}^{2}(k-1,i))}}}}
 مرشح التغذية الأمامية
 دلتا¯د(ك،أنا)=دلتا¯د(ك-1،أنا)(1-هـ¯ب2(ك،أنا))(1-هـ¯2(ك،أنا))+هـ¯(ك،أنا)هـ¯ب(ك،أنا){\displaystyle {\overline {\delta }}_{D}(k,i)={\overline {\delta }}_{D}(k-1,i){\sqrt {(1-{\overline {e}}_{b}^{2}(k,i))(1-{\overline {e}}^{2}(k,i))}}+{\overline {e}}(k,i){\overline {e}}_{b}(k,i)}
 هـ¯(ك،أنا+1)=1(1-هـ¯ب2(ك،أنا))(1-دلتا¯د2(ك،أنا))[هـ¯(ك،أنا)-دلتا¯د(ك،أنا)هـ¯ب(ك،أنا)]{\displaystyle {\overline {e}}(k,i+1)={\frac {1}{\sqrt {(1-{\overline {e}}_{b}^{2}(k,i))(1-{\overline {\delta }}_{D}^{2}(k,i))}}}[{\overline {e}}(k,i)-{\overline {\delta }}_{D}(k,i){\overline {e}}_{b}(k,i)]}
 نهاية
نهاية

انظر أيضاً

مراجع

  • هايز، مونسون هـ. (1996). "9.4: المربعات الصغرى المتكررة". معالجة الإشارات الرقمية الإحصائية والنمذجة . وايلي. ص  541. ISBN 0-471-59431-8.
  • سايمون هايكين، نظرية المرشحات التكيفية ، برنتيس هول، 2002، رقم ISBN 0-13-048434-2
  • إم إتش إيه ديفيس، آر بي فينتر، النمذجة والتحكم العشوائي ، سبرينغر، 1985، رقم ISBN 0-412-16200-8
  • ويفنغ ليو، خوسيه برينسيبي، وسيمون هايكين، الترشيح التكيفي باستخدام النواة: مقدمة شاملة ، جون وايلي، 2010، رقم ISBN 0-470-44753-2
  • آر إل بلاكيت، بعض النظريات في المربعات الصغرى ، بيومتريكا، 1950، 37، 149-157، الرقم الدولي الموحد للدوريات 0006-3444 
  • CFGauss، Theoria Combinationis Observatoryum erroribus minimis obnoxiae ، 1821، Werke، 4. غوتينج

ملحوظات

  1. إيمانويل سي. إيفاكور، باري دبليو. جيرفيس. معالجة الإشارات الرقمية: منهج عملي، الطبعة الثانية. إنديانابوليس: بيرسون إديوكيشن ليمتد، 2002، ص 718
  2. ستيفن فان فارينبيرغ، إغناسيو سانتاماريا، ميغيل لازارو-غريديلا "تقدير عامل النسيان في المربعات الصغرى المتكررة للنواة" ، ورشة عمل IEEE الدولية لعام 2012 حول التعلم الآلي لمعالجة الإشارات، 2012، تم الوصول إليه في 23 يونيو 2016.
  3. ويلش، جريج وبيشوب، جاري "مقدمة إلى مرشح كالمان" ، قسم علوم الحاسوب، جامعة نورث كارولينا في تشابل هيل، 17 سبتمبر 1997، تم الوصول إليه في 19 يوليو 2011.
  4. دينيز، باولو إس آر، "الترشيح التكيفي: الخوارزميات والتطبيق العملي"، سبرينغر نيتشر سويسرا إيه جي 2020، الفصل 7: خوارزميات المربعات الصغرى المتكررة التكيفية القائمة على الشبكة. https://doi.org/10.1007/978-3-030-29057-3_7
  5. Albu, Kadlec, Softley, Matousek, Hermanek, Coleman, Fagan "تنفيذ شبكة RLS (المُعَيَّرة) على Virtex" مؤرشف في 2016-03-04 في Wayback Machine ، معالجة الإشارات الرقمية، 2001، تم الوصول إليه في 24 ديسمبر 2011.