مرشح المربعات الصغرى المتكرر
تُعدّ طريقة المربعات الصغرى المتكررة ( RLS ) خوارزمية ترشيح تكيفية تجد بشكل متكرر المعاملات التي تُقلّل دالة التكلفة الخطية الموزونة للمربعات الصغرى، والمرتبطة بإشارات الإدخال. يختلف هذا النهج عن خوارزميات أخرى، مثل طريقة المربعات الصغرى المتوسطة (LMS)، التي تهدف إلى تقليل متوسط مربع الخطأ . في اشتقاق RLS، تُعتبر إشارات الإدخال حتمية ، بينما تُعتبر عشوائية في LMS والخوارزميات المشابهة . تتميز RLS، مقارنةً بمعظم منافسيها، بتقارب سريع للغاية. مع ذلك، تأتي هذه الميزة على حساب تعقيد حسابي كبير.
تحفيز
اكتشف جاوس طريقة المربعات الصغرى المتكررة (RLS) ، لكنها ظلت مهملة أو غير مستخدمة حتى عام 1950 عندما أعاد بلاكيت اكتشاف عمل جاوس الأصلي من عام 1821. بشكل عام، يمكن استخدام طريقة المربعات الصغرى المتكررة لحل أي مشكلة يمكن حلها باستخدام المرشحات التكيفية . على سبيل المثال، لنفترض أن إشارةيتم إرسالها عبر قناة مليئة بالصدى والضوضاء مما يجعلها تُستقبل على أنها
أينيمثل الضوضاء المضافة . والهدف من مرشح RLS هو استعادة الإشارة المطلوبةباستخداممرشح الأشعة تحت الحمراء البعيدة (FIR) - النقر ،:
أينهو متجه العمود الذي يحتوي علىأحدث عينات منتقدير الإشارة المطلوبة المستعادة هو
الهدف هو تقدير معلمات المرشحوفي كل وقتنشير إلى التقدير الحالي باسموتقدير المربعات الصغرى المعدل بواسطة. وهو أيضًا متجه عمودي، كما هو موضح أدناه، والمُنَقل ،، هو متجه صف . حاصل ضرب المصفوفات(وهو حاصل الضرب النقطي لـو) يكونوهو قيمة عددية. يكون التقدير "جيدًا" إذا صغيرة في حجمها بمعنى المربعات الصغرى .
مع مرور الوقت، يُفضّل تجنّب إعادة تطبيق خوارزمية المربعات الصغرى بالكامل لإيجاد التقدير الجديد لـ، من ناحية.
تتمثل فائدة خوارزمية المربعات الصغرى المتكررة (RLS) في عدم الحاجة إلى عكس المصفوفات، مما يوفر تكلفة حسابية. ومن مزاياها الأخرى أنها توفر فهمًا بديهيًا لنتائج مثل مرشح كالمان .
مناقشة
تتمثل الفكرة وراء مرشحات RLS في تقليل دالة التكلفةعن طريق اختيار معاملات التصفية بشكل مناسبويتم تحديث الفلتر مع وصول البيانات الجديدة. إشارة الخطأوالإشارة المطلوبةيتم تعريفها في مخطط التغذية الراجعة السلبية أدناه:
![]()
يعتمد الخطأ ضمنيًا على معاملات التصفية من خلال التقدير:
دالة الخطأ التربيعي الأدنى الموزون—دالة التكلفة التي نرغب في تقليلها—كونها دالة لـوبالتالي، يعتمد أيضًا على معاملات التصفية:
أينهو "عامل النسيان" الذي يعطي وزناً أقل بشكل كبير لعينات الأخطاء القديمة.
يتم تقليل دالة التكلفة عن طريق أخذ المشتقات الجزئية لجميع المدخلاتمتجه المعاملاتوتعيين النتائج إلى الصفر
ثم استبدلمع تعريف إشارة الخطأ
بإعادة ترتيب المعادلة ينتج
يمكن التعبير عن هذا الشكل بدلالة المصفوفات
أينهي مصفوفة التغاير الموزون للعينة لـ، ووهو التقدير المكافئ للتغاير المتبادل بينوبناءً على هذا التعبير، نجد المعاملات التي تقلل دالة التكلفة كما يلي:
هذه هي النتيجة الرئيسية للمناقشة.
اختيار λ
الأصغرأي أن مساهمة العينات السابقة في مصفوفة التغاير تكون أقل . وهذا يجعل المرشح أكثر حساسية للعينات الحديثة، مما يعني مزيدًا من التقلبات في معاملات المرشح.تُعرف هذه الحالة باسم خوارزمية RLS ذات النافذة المتنامية . عملياً،يُختار عادةً بين 0.98 و1. [ 1 ] باستخدام تقدير الاحتمال الأقصى من النوع الثاني ، يتم تحديد القيمة المثلىيمكن تقديرها من مجموعة من البيانات. [ 2 ]
الخوارزمية التكرارية
أسفرت المناقشة عن معادلة واحدة لتحديد متجه المعاملات الذي يقلل دالة التكلفة. في هذا القسم، نريد اشتقاق حل تكراري على النحو التالي:
أينهو عامل تصحيح في وقتنبدأ اشتقاق الخوارزمية التكرارية بالتعبير عن التغاير المتقاطعمن ناحية
أينهومتجه البيانات متعدد الأبعاد
وبالمثل نعبرمن ناحيةبواسطة
من أجل توليد متجه المعاملات، نهتم بمعكوس مصفوفة التغاير الذاتي الحتمية. ولتحقيق هذه المهمة، تُعدّ متطابقة مصفوفة وودبري مفيدة.
يكون-بواسطة- يكون-بمضاعفة-1 (متجه عمودي) هو 1×(متجه صفي) هي مصفوفة الوحدة 1×1
تتبع هوية مصفوفة وودبري
تماشياً مع الأدبيات القياسية، نُعرّف
حيث متجه الكسبيكون
قبل أن ننتقل إلى الخطوة التالية، من الضروري أن نذكرإلى شكل آخر
بطرح الحد الثاني من الطرف الأيسر نحصل على
مع التعريف التكراري لـالشكل المطلوب يتبع
الآن نحن جاهزون لإكمال عملية التكرار. كما تم شرحه
وتنتج الخطوة الثانية من التعريف التكراري لـثم نُدمج التعريف التكراري لـبالإضافة إلى الشكل البديل لـواحصل على
معنصل إلى معادلة التحديث
أين هذا هو الخطأ المسبق . قارن هذا بالخطأ اللاحق ؛ وهو الخطأ المحسوب بعد تحديث المرشح:
هذا يعني أننا وجدنا عامل التصحيح
تشير هذه النتيجة المُرضية حدسياً إلى أن عامل التصحيح يتناسب طردياً مع كل من الخطأ ومتجه الكسب، الذي يتحكم في مقدار الحساسية المطلوبة، من خلال عامل الترجيح..
ملخص خوارزمية RLS
يمكن تلخيص خوارزمية RLS لمرشح RLS من الرتبة p على النحو التالي
| حدود: | طلب فلتر |
| عامل النسيان | |
| القيمة المراد تهيئتها | |
| التهيئة: | ، |
| ، | |
| أينهي مصفوفة الوحدة من الرتبة | |
| حساب: | ل |
| . |
التكرار لـيتبع معادلة ريكاتي الجبرية ، وبالتالي يرسم أوجه تشابه مع مرشح كالمان . [ 3 ]
مرشح المربعات الصغرى المتكرر الشبكي (LRLS)
يرتبط مرشح المربعات الصغرى التكيفي المتكرر الشبكي بخوارزمية المربعات الصغرى المتكررة القياسية، إلا أنه يتطلب عمليات حسابية أقل (من الرتبة N ) . [ 4 ] ويوفر مزايا إضافية مقارنةً بخوارزميات المربعات الصغرى التقليدية، مثل سرعة التقارب، والبنية المعيارية، وعدم التأثر بتغيرات انتشار القيم الذاتية لمصفوفة الارتباط المدخلة. تعتمد خوارزمية المربعات الصغرى المتكررة الشبكية الموصوفة على الأخطاء اللاحقة ، وتتضمن الشكل المعياري. ويشابه الاشتقاق خوارزمية المربعات الصغرى المتكررة القياسية، ويستند إلى تعريففي حالة التنبؤ الأمامي، لدينامع إشارة الإدخالباعتبارها أحدث عينة. حالة التنبؤ العكسي هي، حيث يمثل i فهرس العينة في الماضي التي نريد التنبؤ بها، وإشارة الإدخالوهي أحدث عينة. [ 5 ]
ملخص المعلمات
- معامل الانعكاس الأمامي
- معامل الانعكاس الخلفي
- يمثل خطأ التنبؤ الأمامي اللاحق اللحظي
- يمثل خطأ التنبؤ اللاحق اللحظي
- هو الحد الأدنى لخطأ التنبؤ العكسي باستخدام طريقة المربعات الصغرى
- هو الحد الأدنى لخطأ التنبؤ الأمامي باستخدام طريقة المربعات الصغرى
- هو عامل تحويل بين الأخطاء القبلية والأخطاء اللاحقة
- هي معاملات المضاعفة الأمامية.
- هو ثابت موجب صغير يمكن أن يكون 0.01
ملخص خوارزمية LRLS
يمكن تلخيص خوارزمية مرشح LRLS على النحو التالي
| التهيئة: | |
| ل | |
| (لول) | |
| نهاية | |
| حساب: | |
| ل | |
| ل | |
| التصفية الأمامية | |
| نهاية | |
| نهاية | |
مرشح المربعات الصغرى المتكرر الشبكي المعياري (NLRLS)
يحتوي الشكل المُعَيَّر لخوارزمية المربعات الصغرى ذات الانحدار الخطي (LRLS) على عدد أقل من التكرارات والمتغيرات. ويمكن حسابه بتطبيق عملية تطبيع على المتغيرات الداخلية للخوارزمية، مما يحافظ على قيمها ضمن نطاق الواحد. لا يُستخدم هذا الشكل عادةً في التطبيقات الآنية نظرًا لكثرة عمليات القسمة والجذر التربيعي، مما يُؤدي إلى عبء حسابي كبير.
ملخص خوارزمية NLRLS
يمكن تلخيص خوارزمية مرشح NLRLS على النحو التالي
| التهيئة: | |
| ل | |
| (لول) | |
| نهاية | |
| حساب: | |
| ل | |
| (طاقة إشارة الإدخال) | |
| (طاقة الإشارة المرجعية) | |
| ل | |
| مرشح التغذية الأمامية | |
| نهاية | |
| نهاية | |
انظر أيضاً
مراجع
- هايز، مونسون هـ. (1996). "9.4: المربعات الصغرى المتكررة". معالجة الإشارات الرقمية الإحصائية والنمذجة . وايلي. ص 541. ISBN 0-471-59431-8.
- سايمون هايكين، نظرية المرشحات التكيفية ، برنتيس هول، 2002، رقم ISBN 0-13-048434-2
- إم إتش إيه ديفيس، آر بي فينتر، النمذجة والتحكم العشوائي ، سبرينغر، 1985، رقم ISBN 0-412-16200-8
- ويفنغ ليو، خوسيه برينسيبي، وسيمون هايكين، الترشيح التكيفي باستخدام النواة: مقدمة شاملة ، جون وايلي، 2010، رقم ISBN 0-470-44753-2
- آر إل بلاكيت، بعض النظريات في المربعات الصغرى ، بيومتريكا، 1950، 37، 149-157، الرقم الدولي الموحد للدوريات 0006-3444
- CFGauss، Theoria Combinationis Observatoryum erroribus minimis obnoxiae ، 1821، Werke، 4. غوتينج
ملحوظات
- ↑ إيمانويل سي. إيفاكور، باري دبليو. جيرفيس. معالجة الإشارات الرقمية: منهج عملي، الطبعة الثانية. إنديانابوليس: بيرسون إديوكيشن ليمتد، 2002، ص 718
- ↑ ستيفن فان فارينبيرغ، إغناسيو سانتاماريا، ميغيل لازارو-غريديلا "تقدير عامل النسيان في المربعات الصغرى المتكررة للنواة" ، ورشة عمل IEEE الدولية لعام 2012 حول التعلم الآلي لمعالجة الإشارات، 2012، تم الوصول إليه في 23 يونيو 2016.
- ↑ ويلش، جريج وبيشوب، جاري "مقدمة إلى مرشح كالمان" ، قسم علوم الحاسوب، جامعة نورث كارولينا في تشابل هيل، 17 سبتمبر 1997، تم الوصول إليه في 19 يوليو 2011.
- ↑ دينيز، باولو إس آر، "الترشيح التكيفي: الخوارزميات والتطبيق العملي"، سبرينغر نيتشر سويسرا إيه جي 2020، الفصل 7: خوارزميات المربعات الصغرى المتكررة التكيفية القائمة على الشبكة. https://doi.org/10.1007/978-3-030-29057-3_7
- ↑ Albu, Kadlec, Softley, Matousek, Hermanek, Coleman, Fagan "تنفيذ شبكة RLS (المُعَيَّرة) على Virtex" مؤرشف في 2016-03-04 في Wayback Machine ، معالجة الإشارات الرقمية، 2001، تم الوصول إليه في 24 ديسمبر 2011.
- معالجة الإشارات الرقمية
- نظرية المرشحات
- معالجة الإشارات الإحصائية
