التقريب العشوائي
في علوم الحاسوب وبحوث العمليات ، يعتبر التقريب العشوائي [ 1 ] أسلوبًا شائع الاستخدام لتصميم وتحليل خوارزميات التقريب . [ 2 ] [ 3 ]
تُعدّ العديد من مسائل التحسين التوافقي صعبة الحل حسابيًا بدقة (للوصول إلى الحل الأمثل). في مثل هذه المسائل، يمكن استخدام التقريب العشوائي لتصميم خوارزميات تقريبية سريعة ( بزمن متعدد الحدود ) - أي خوارزميات تضمن إرجاع حل أمثل تقريبًا لأي مُدخل.
تتمثل الفكرة الأساسية للتقريب العشوائي في تحويل الحل الأمثل لمسألة مُبسّطة إلى حل شبه أمثل للمسألة الأصلية. وعادةً ما يتم تحليل الخوارزمية الناتجة باستخدام الطريقة الاحتمالية .
ملخص
يتكون النهج الأساسي من ثلاث خطوات:
- قم بصياغة المشكلة المراد حلها كبرنامج خطي صحيح (ILP).
- احسب الحل الكسري الأمثلإلى استرخاء البرمجة الخطية (LP) للبرمجة الخطية الصحيحة (ILP).
- قرّب الحل الكسريتحويل البرنامج الخطي إلى حل صحيحمن برنامج القيادة المستقلة.
(على الرغم من أن هذا النهج يُطبق في الغالب مع البرامج الخطية، إلا أنه يتم استخدام أنواع أخرى من الاسترخاء في بعض الأحيان. على سبيل المثال، انظر خوارزمية تقريب القطع الأقصى لـ Goemans و Williamson ، والتي تعتمد على برنامج شبه محدد يمكن اشتقاقه من المستوى الأول من التسلسل الهرمي لمجموع المربعات .)
في الخطوة الأولى، يكمن التحدي في اختيار برنامج خطي مناسب للأعداد الصحيحة. ويتطلب ذلك الإلمام بالبرمجة الخطية، ولا سيما النمذجة باستخدام البرامج الخطية وبرامج الأعداد الصحيحة الخطية. بالنسبة للعديد من المسائل، يوجد برنامج خطي طبيعي للأعداد الصحيحة يُجدي نفعًا، كما هو الحال في مثال تغطية المجموعة أدناه. (يجب أن يتميز البرنامج الخطي للأعداد الصحيحة بفجوة تكامل صغيرة ؛ وفي الواقع، غالبًا ما يُستخدم التقريب العشوائي لإثبات حدود فجوات التكامل).
في الخطوة الثانية، يمكن عادةً حساب الحل الكسري الأمثل في وقت متعدد الحدود باستخدام أي خوارزمية برمجة خطية قياسية .
في الخطوة الثالثة، يجب تحويل الحل الكسري إلى حل صحيح (وبالتالي حل للمسألة الأصلية). يُسمى هذا تقريب الحل الكسري. يجب أن يكون الحل الصحيح الناتج (بشكل مؤكد) بتكلفة لا تزيد كثيرًا عن تكلفة الحل الكسري. هذا يضمن ألا تزيد تكلفة الحل الصحيح كثيرًا عن تكلفة الحل الصحيح الأمثل.
تعتمد التقنية الرئيسية المستخدمة في الخطوة الثالثة (التقريب) على استخدام التوزيع العشوائي، ثم استخدام الحجج الاحتمالية لتقييد الزيادة في التكلفة الناتجة عن التقريب (وفقًا للمنهج الاحتمالي في التوافقية). وتُستخدم الحجج الاحتمالية لإثبات وجود هياكل منفصلة ذات خصائص مرغوبة. وفي هذا السياق، تُستخدم هذه الحجج لإثبات ما يلي:
- بافتراض أي حل كسريبالنسبة للبرمجة الخطية، باحتمالية موجبة، تنتج عملية التقريب العشوائي حلاً صحيحاًهذا يقاربوفقًا لمعيار مرغوب فيه.
وأخيرًا، لجعل الخطوة الثالثة فعالة من الناحية الحسابية، يجب إما إثبات أنتقريبيباحتمالية عالية (بحيث تبقى الخطوة عشوائية) أو يتم إزالة العشوائية من خطوة التقريب، عادةً باستخدام طريقة الاحتمالات الشرطية . تحوّل الطريقة الأخيرة عملية التقريب العشوائية إلى عملية حتمية فعّالة تضمن الوصول إلى نتيجة جيدة.
مثال: مسألة تغطية المجموعة
يوضح المثال التالي كيفية استخدام التقريب العشوائي لتصميم خوارزمية تقريبية لمسألة تغطية المجموعة . ثبّت أي حالةمجموعة تغطي الكون.
حساب الحل الكسري
بالنسبة للخطوة 1 ، دع IP هو برنامج خطي صحيح قياسي لتغطية المجموعة لهذه الحالة.
في الخطوة الثانية ، لنفترض أن LP هي النسخة المُبسطة للبرمجة الخطية لـ IP، ونحسب الحل الأمثل.لتحويلها إلى برنامج خطي باستخدام أي خوارزمية برمجة خطية قياسية ، يستغرق ذلك وقتًا متعدد الحدود بالنسبة لحجم المدخلات. الحلول الممكنة للبرنامج الخطي هي المتجهات.التي تُخصص لكل مجموعةوزن غير سالببحيث يكون لكل عنصر،أغطية—الوزن الإجمالي المخصص للمجموعات التي تحتوي علىهو واحد على الأقل، أي
الحل الأمثليُعد حلاً قابلاً للتطبيق بتكلفة
يجب أن يكون صغيرًا قدر الإمكان. لاحظ أن أي غطاء للمجموعةليقدم حلاً قابلاً للتطبيق(أينل،وإلا). تكلفة هذايساوي تكلفة، إنه،
بمعنى آخر، فإن البرنامج الخطي LP هو تخفيف لمشكلة تغطية المجموعة المعطاة.
منذيتميز هذا الحل بأقل تكلفة بين الحلول الممكنة لمسألة البرمجة الخطية، وهي تكلفةيمثل الحد الأدنى لتكلفة التغطية المثلى للمجموعة .
خطوات التقريب العشوائية
في الخطوة 3 ، يجب علينا تحويل غطاء المجموعة الجزئي ذي التكلفة الدنياإلى حل صحيح ممكن(الموافق لغلاف مجموعة حقيقي). يجب أن تُنتج خطوة التقريبوالتي، باحتمالية إيجابية، تكون تكلفتها ضمن عامل صغير من تكلفةثم (بما أن تكلفةيمثل الحد الأدنى لتكلفة التغطية المثلى للمجموعة)، تكلفةسيكون ضمن نطاق صغير من التكلفة المثلى.
كنقطة انطلاق، ضع في اعتبارك أسلوب التقريب الأكثر طبيعية:
- لكل مجموعةبدوره، يأخذباحتمالوإلا فخذ.
باستخدام أسلوب التقريب هذا، فإن التكلفة المتوقعة للمجموعات المختارة هي على الأكثرتكلفة التغطية الجزئية. هذا جيد. لكن لسوء الحظ، التغطية ليست جيدة. عندما تتغير المتغيراتإذا كانت صغيرة، فإن احتمال وجود عنصرلا يشمل ذلك ما يتعلق بـ
لذا، سيتم تغطية جزء ثابت فقط من العناصر في التوقع.
لصنعتغطية كل عنصر باحتمالية عالية، يقوم نظام التقريب القياسي أولاً بزيادة احتمالات التقريب بمعامل مناسبفيما يلي مخطط التقريب القياسي:
- قم بإصلاح أحد المعاملاتلكل مجموعةبدوره،
- يأخذباحتمالوإلا فخذ.
زيادة احتمالات التوسع بواسطةيزيد التكلفة المتوقعة بمقدارلكن هذا يجعل تغطية جميع العناصر أمرًا مرجحًا. الفكرة هي الاختيارأصغر ما يمكن بحيث يتم تغطية جميع العناصر بشكل مؤكد باحتمالية غير صفرية. إليكم تحليل مفصل.
اللمة (ضمان التقريب لخوارزمية التقريب)
- يصلحباحتمالية موجبة، تُعيد خوارزمية التقريب غطاءً للمجموعةبتكلفة لا تتجاوز الحد الأقصى(وبالتالي التكلفة)(بمقدار ضعف تكلفة غطاء المجموعة الأمثل).
(ملاحظة: مع الحرص) يمكن اختصارها إلى.)
دليل
الناتجتتمتع خوارزمية التقريب العشوائي بالخصائص المطلوبة طالما لم تحدث أي من الأحداث "السيئة" التالية:
- التكلفةليتجاوز، أو
- لبعض العناصر،يفشل في التغطية.
توقعات كل هو على الأكثربسبب خطية التوقع ، فإن توقع هو على الأكثروبالتالي، وفقًا لمتباينة ماركوف ، فإن احتمال وقوع الحدث السيئ الأول المذكور أعلاه هو على الأكثر.
أما بالنسبة للأحداث السيئة المتبقية (حدث واحد لكل عنصر)لاحظ أنه، بما أنلأي عنصر معين، احتمال أنغير مشمول بالتغطية
(هذا يستخدم المتباينة)، وهو أمر صارم بالنسبة لـ.)
وبالتالي، بالنسبة لكل منإذا كانت العناصر غير مغطاة، فإن احتمال عدم تغطية العنصر يكون أقل من.
بحسب حد الاتحاد ، فإن احتمال أن يكون أحدعدد الأحداث السيئة التي تحدث أقل منوبالتالي، باحتمالية موجبة، لا توجد أحداث سيئة.وهي عبارة عن غطاء محدد للتكلفة على الأكثر. QED
إزالة العشوائية باستخدام طريقة الاحتمالات الشرطية
تُظهر اللمة أعلاه وجود غطاء مجموعة للتكلفة). في هذا السياق، هدفنا هو خوارزمية تقريب فعالة، وليس مجرد إثبات وجود، لذلك لم ننتهِ بعد.
يتمثل أحد الأساليب في زيادة قليلاً، ثم أظهر أن احتمال النجاح لا يقل عن، لنقل، 1/4. مع هذا التعديل، يكفي تكرار خطوة التقريب العشوائي عدة مرات لضمان نتيجة ناجحة باحتمالية عالية.
يُضعف هذا النهج نسبة التقريب. سنصف فيما يلي نهجًا مختلفًا يُنتج خوارزمية حتمية تضمن مطابقة نسبة التقريب لإثبات الوجود المذكور أعلاه. يُسمى هذا النهج طريقة الاحتمالات الشرطية .
تحاكي الخوارزمية الحتمية مخطط التقريب العشوائي: فهي تأخذ كل مجموعة في الاعتباربدوره، ويختارلكن بدلاً من اتخاذ كل خيار عشوائياً بناءً على، فهو يتخذ القرار بشكل حتمي ، وذلك للحفاظ على الاحتمالية الشرطية للفشل، بالنظر إلى الخيارات حتى الآن، أقل من 1 .
تحديد الحد الأقصى لاحتمالية الفشل الشرطية
نريد أن نكون قادرين على ضبط كل متغيروبالتالي، للحفاظ على احتمال الفشل الشرطي أقل من 1، نحتاج إلى حدٍّ دقيق لاحتمال الفشل الشرطي. يُمكن الحصول على هذا الحدّ من خلال تحسين برهان الوجود الأصلي. يُقيّد هذا البرهان ضمنيًا احتمال الفشل بتوقع المتغير العشوائي.
- ،
أين
هي مجموعة العناصر التي تُترك دون تغطية في النهاية.
المتغير العشوائيقد يبدو الأمر غامضًا بعض الشيء، ولكنه يعكس البرهان الاحتمالي بطريقة منهجية. الحد الأول فيينشأ هذا من تطبيق متباينة ماركوف لتقييد احتمالية وقوع الحدث السيئ الأول (التكلفة مرتفعة للغاية). ويساهم هذا بنسبة 1 على الأقل فيإذا كانت تكلفةمرتفع للغاية. يحسب الحد الثاني عدد الأحداث السيئة من النوع الثاني (العناصر غير المكتشفة). ويساهم بما لا يقل عن 1 فيلولا يترك أي عنصر مكشوفًا. وبالتالي، في أي نتيجة حيثأقل من 1، يجب أن يغطي جميع العناصر وأن تكون تكلفته ضمن الحد المطلوب من اللمة. باختصار، إذا فشلت خطوة التقريب، فإنوهذا يعني (بحسب متباينة ماركوف ) أن يمثل حدًا أعلى لاحتمالية الفشل. لاحظ أن الحجة المذكورة أعلاه مضمنة بالفعل في برهان اللمة، والذي يُظهر أيضًا بالحساب أن.
لتطبيق طريقة الاحتمالات الشرطية، نحتاج إلى توسيع نطاق الحجة لتقييد الاحتمال الشرطي للفشل مع تقدم خطوة التقريب. عادةً، يمكن القيام بذلك بطريقة منهجية، على الرغم من أنها قد تكون شاقة من الناحية التقنية.
إذن، ماذا عن الاحتمال الشرطي للفشل أثناء تكرار خطوة التقريب عبر المجموعات؟في أي نتيجة تفشل فيها خطوة التقريب، وبحسب متباينة ماركوف ، فإن الاحتمال الشرطي للفشل هو على الأكثر القيمة المتوقعة الشرطية لـ.
بعد ذلك، نحسب التوقع الشرطي لـ، تمامًا كما حسبنا التوقع غير المشروط لـفي البرهان الأصلي. لننظر إلى حالة عملية التقريب في نهاية إحدى التكرارات.. يتركتشير إلى المجموعات التي تم النظر فيها حتى الآن (الأولى)يبدأ في). يتركيشير إلى المتجه (المُخصص جزئيًا) (لذايتم تحديده فقط إذا). لكل مجموعة، يترك يرمز إلى الاحتمال الذيسيتم ضبطها على 1. دعتتضمن العناصر التي لم يتم تغطيتها بعد. ثم التوقع الشرطي لـبالنظر إلى الخيارات التي تم اتخاذها حتى الآن، أي بالنظر إلى، يكون
لاحظ أنيتم تحديده فقط بعد التكرار.
الحفاظ على احتمالية الفشل المشروطة أقل من 1
للحفاظ على احتمال الفشل الشرطي أقل من 1، يكفي الحفاظ على التوقع الشرطي لـأقل من 1. وللقيام بذلك، يكفي الحفاظ على التوقع الشرطي لـمن الزيادة. هذا ما ستفعله الخوارزمية. ستضبطفي كل تكرار لضمان ذلك
(أين).
فيكيف يمكن للخوارزمية أن تحدد التكرار رقم 1؟ لضمان ذلكاتضح أنه يمكن ببساطة ضبطه وذلك لتقليل القيمة الناتجة لـ.
لفهم السبب، ركز على اللحظة التي يحدث فيها التكراريبدأ. في ذلك الوقت،تم تحديد ذلك، ولكنلم يتم تحديدها بعد --- يمكن أن تأخذ قيمتين محتملتين اعتمادًا على كيفية يتم تحديدها في التكرار. يتركيدل على قيمة. يتركو، تشير إلى القيمتين المحتملتين لـ ، وذلك بحسب مايتم ضبطها على 0 أو 1 على التوالي. وفقًا لتعريف التوقع الشرطي،
بما أن المتوسط المرجح لكميتين يكون دائمًا على الأقل أصغر هاتين الكميتين، فإنه يترتب على ذلك أن
وبالتالي، فإن الإعداد وذلك لتقليل القيمة الناتجة لـ سيضمن ذلك هذا ما ستفعله الخوارزمية.
ماذا يعني هذا بالتفصيل؟ باعتبار ذلك دالة لـ (مع تثبيت جميع الكميات الأخرى) هي دالة خطية لـ، ومعاملفي تلك الوظيفة
وبالتالي، ينبغي للخوارزمية أن تحددتُحوّل القيمة إلى صفر إذا كانت هذه العبارة موجبة، وإلى واحد فيما عدا ذلك. وهذا يُعطي الخوارزمية التالية.
خوارزمية التقريب العشوائي لتغطية المجموعة
المدخلات: ضبط النظامالكونمتجه التكلفة
الناتج: ضبط الغطاء(حل لبرنامج البرمجة الخطية القياسية للأعداد الصحيحة لتغطية المجموعات)
- احسب غطاء المجموعة الجزئي بأقل تكلفة(حل أمثل للاسترخاء الخطي).
- يترك. يتركلكل.
- لكليفعل:
- يترك. ((يحتوي على المجموعات التي لم يتم تحديدها بعد.)
- لو
- ثم اضبط،
- وإلا فقم بتعيينو.
- ((يحتوي على العناصر التي لم يتم تغطيتها بعد.)
- يعود.
اللمة (ضمان التقريب للخوارزمية)
- تُعيد الخوارزمية المذكورة أعلاه غطاءً للمجموعةبتكلفة لا تتجاوز الحد الأقصىمضروبًا في الحد الأدنى لتكلفة أي غطاء (جزئي).
دليل
تضمن الخوارزمية أن التوقع الشرطي لـ، لا يزداد هذا التوقع الشرطي في كل تكرار. وبما أن هذا التوقع الشرطي أقل من 1 في البداية (كما هو موضح سابقًا)، فإن الخوارزمية تضمن بقاء التوقع الشرطي أقل من 1. وبما أن الاحتمال الشرطي للفشل هو على الأكثر التوقع الشرطي لـوبهذه الطريقة، تضمن الخوارزمية أن يبقى احتمال الفشل الشرطي أقل من 1. وبالتالي، في النهاية، عندما يتم تحديد جميع الخيارات، تصل الخوارزمية إلى نتيجة ناجحة. أي أن الخوارزمية المذكورة أعلاه تُعيد مجموعة تغطية. بتكلفة لا تتجاوز الحد الأقصىمضروبًا في الحد الأدنى لتكلفة أي غطاء (جزئي).
ملاحظات
في المثال أعلاه، استرشدت الخوارزمية بالتوقع الشرطي لمتغير عشوائيفي بعض الحالات، بدلاً من استخدام التوقع الشرطي الدقيق، يُستخدم حد أعلى (أو أحيانًا حد أدنى) لتوقع شرطي معين. ويُسمى هذا التقدير بالتقدير التشاؤمي .
مقارنة بالتطبيقات الأخرى للطريقة الاحتمالية
تختلف خطوة التقريب العشوائي عن معظم تطبيقات الطريقة الاحتمالية في جانبين:
- يُعدّ التعقيد الحسابي لخطوة التقريب أمراً بالغ الأهمية. ينبغي أن يكون بالإمكان تنفيذه بواسطة خوارزمية سريعة (مثل خوارزمية ذات زمن متعدد الحدود ) .
- إن التوزيع الاحتمالي الكامن وراء التجربة العشوائية هو دالة للحليُعدّ تخفيف حالة المسألة أمرًا بالغ الأهمية لإثبات ضمان أداء خوارزمية التقريب، أي أنه لأي حالة مسألة، تُعيد الخوارزمية حلاً يُقارب الحل الأمثل لتلك الحالة تحديدًا . في المقابل، تُظهر تطبيقات الطريقة الاحتمالية في التوافقية عادةً وجود هياكل تعتمد خصائصها على معلمات أخرى للمدخلات. على سبيل المثال، لنأخذ نظرية توران ، التي يمكن صياغتها على النحو التالي: "أي رسم بياني معرؤوس ذات درجة متوسطةيجب أن يكون لها مجموعة مستقلة من الحجم على الأقل(انظر هنا للاطلاع على برهان احتمالي لنظرية توران ). في حين أن هناك رسومًا بيانية يكون هذا الحد فيها دقيقًا، إلا أن هناك أيضًا رسومًا بيانية تحتوي على مجموعات مستقلة أكبر بكثير منوبالتالي، فإن حجم المجموعة المستقلة التي ثبت وجودها بواسطة نظرية توران في الرسم البياني قد يكون، بشكل عام، أصغر بكثير من الحد الأقصى للمجموعة المستقلة لهذا الرسم البياني.
انظر أيضاً
- طريقة الاحتمالات الشرطية
- التقريب العشوائي دون حل البرنامج الخطي. [ 4 ] [ 5 ]
مراجع
- ↑ راغافان، برابهاكار ؛ تومبسون، كلارك د. (1987)، "التقريب العشوائي: تقنية للخوارزميات الجيدة المثبتة والبراهين الخوارزمية" ، كومبيناتوريكا ، 7 (4): 365-374 ، doi : 10.1007/BF02579324 ، S2CID 5749936 .
- ↑ موتاني، راجيف ؛ راغافان، برابهاكار (25 أغسطس 1995). الخوارزميات العشوائية . مطبعة جامعة كامبريدج . ISBN 978-0-521-47465-8.
- ^ وزيراني ، فيجاي (2002-12-05). خوارزميات التقريب . سبرينغر فيرلاغ . رقم ISBN 978-3-540-65367-7.
- ↑ يونغ، نيل إي. (2002). "التقريب العشوائي دون حل البرنامج الخطي". arXiv : cs/0205036 .
- ↑ يونغ، نيل. "التقريب العشوائي غير الواعي" . AlgNotes . تم الاسترجاع في 14-09-2023 .
- راغافان، برابهاكار (1988)، "البناء الاحتمالي للخوارزميات الحتمية: تقريب برامج التعبئة العددية الصحيحة"، مجلة علوم الحاسوب والنظم ، 37 (2): 130-143 ، doi : 10.1016/0022-0000(88)90003-7.
للمزيد من القراءة
- ألثوفر، إنجو (1994)، "حول التقريبات المتفرقة للاستراتيجيات العشوائية والتركيبات المحدبة"، الجبر الخطي وتطبيقاته ، 199 : 339-355 ، doi : 10.1016/0024-3795(94)90357-3 ، MR 1274423
- هوفمايستر، توماس؛ ليفمان، هانو (1996)، "حساب التقريبات المتفرقة بشكل حتمي"، الجبر الخطي وتطبيقاته ، 240 : 9-19 ، doi : 10.1016/0024-3795(94)00175-8 ، MR 1387283
- ليبتون، ريتشارد جيه؛ يونغ، نيل إي. (1994)، "استراتيجيات بسيطة لألعاب المحصلة الصفرية الكبيرة مع تطبيقات في نظرية التعقيد"، STOC '94: وقائع الندوة السنوية السادسة والعشرين لجمعية ACM حول نظرية الحوسبة ، نيويورك، نيويورك: ACM ، الصفحات 734-740 ، arXiv : cs.cc/0205035 ، doi : 10.1145/195058.195447 ، ISBN 978-0-89791-663-9، S2CID 7524887
- الخوارزميات
- الحجج الاحتمالية
