التحسين بدون مشتقات

التحسين بدون مشتقات (يُشار إليه أحيانًا بتحسين الصندوق الأسود ) هو فرع من فروع التحسين الرياضي لا يستخدم معلومات المشتقات بالمعنى التقليدي لإيجاد الحلول المثلى. في بعض الأحيان، تكون معلومات مشتقة دالة الهدف f غير متوفرة، أو غير موثوقة، أو يصعب الحصول عليها عمليًا. على سبيل المثال، قد تكون f غير سلسة، أو تستغرق وقتًا طويلًا في حسابها، أو تتسم بالتشويش، مما يجعل الطرق التي تعتمد على المشتقات أو تقاربها باستخدام الفروق المحدودة قليلة الفائدة. تُعرف مشكلة إيجاد النقاط المثلى في مثل هذه الحالات بالتحسين بدون مشتقات، وتُسمى الخوارزميات التي لا تستخدم المشتقات أو الفروق المحدودة بالخوارزميات بدون مشتقات . ^{[ 1 ]}

المشكلة التي يتعين حلها هي تحسين دالة الهدف عدديًا${\displaystyle f\colon A\to \mathbb {R} }$لبعض المجموعات${\displaystyle A}$(عادة${\displaystyle A\subset \mathbb {R} ^{n}}$), أي ابحث${\displaystyle x_{0}\in A}$بحيث دون فقدان للعمومية${\displaystyle f(x_{0})\leq f(x)}$للجميع${\displaystyle x\in A}$.

عند الاقتضاء، يتمثل أحد الأساليب الشائعة في التحسين التكراري لتقدير المعلمات من خلال تسلق التلال المحلية في فضاء دالة الهدف. تستخدم الخوارزميات القائمة على المشتقات معلومات المشتقات لـ${\displaystyle f}$لإيجاد اتجاه بحث جيد، حيث أن التدرج، على سبيل المثال، يُعطي اتجاه الصعود الأسرع. يُعدّ التحسين القائم على المشتقات فعالاً في إيجاد الحلول المثلى المحلية لمسائل أحادية النمط سلسة في المجال المستمر. ومع ذلك، قد يواجه مشاكل عندما، على سبيل المثال،${\displaystyle A}$غير متصل، أو عدد صحيح (مختلط)، أو عندما${\displaystyle f}$تكون عملية التقييم مكلفة، أو غير سلسة، أو مشوشة، بحيث لا توفر التقريبات العددية للمشتقات معلومات مفيدة. وثمة مشكلة مختلفة قليلاً عندما${\displaystyle f}$هو متعدد الأنماط، وفي هذه الحالة فإن الطرق القائمة على المشتقات المحلية تعطي فقط الحلول المثلى المحلية، ولكنها قد تغفل الحل الأمثل العالمي.

في التحسين الخالي من المشتقات، تُستخدم طرق متنوعة لمعالجة هذه التحديات باستخدام قيم الدالة فقط.${\displaystyle f}$لكن بدون مشتقات. يمكن إثبات قدرة بعض هذه الطرق على اكتشاف الحلول المثلى، بينما يعتمد بعضها الآخر على أساليب ما وراء الاستدلال نظرًا لصعوبة حل هذه المشكلات عمومًا مقارنةً بالتحسين المحدب . في هذه الحالة، يكمن الهدف في إيجاد قيم معلمات "جيدة" بكفاءة، والتي يمكن أن تكون قريبة من الحل الأمثل في حال توفر موارد كافية، ولكن لا يمكن عادةً تقديم ضمانات للحل الأمثل. يجب الأخذ في الاعتبار أن التحديات متنوعة، لذا لا يمكن عادةً استخدام خوارزمية واحدة لجميع أنواع المشكلات.

تشمل خوارزميات التحسين البارزة الخالية من المشتقات ما يلي:

• التحسين البايزي
• الهبوط الإحداثي والهبوط الإحداثي التكيفي
• طريقة الإنتروبيا المتقاطعة
• التطور التفاضلي ، بما في ذلك المتغيرات متعددة الأهداف
• منتهي
• استراتيجيات التطور ، استراتيجيات التطور الطبيعي ( CMA-ES ، xNES، SNES)
• الخوارزميات الجينية
• خوارزمية MCS
• طريقة نيلدر-ميد
• تحسين سرب الجسيمات
• البحث عن الأنماط
• أساليب باول القائمة على الاستيفاء، على سبيل المثال، COBYLA ( PRIMA )
• بحث عشوائي (بما في ذلك Luus–Jaakola )
• التلدين المحاكي
• التحسين العشوائي
• طريقة التدرج الفرعي
• خوارزميات مختلفة قائمة على النماذج مثل BOBYQA و ORBIT

توجد معايير قياسية لخوارزميات التحسين ذات الصندوق الأسود، انظر على سبيل المثال اختبارات bbob-biobj. ^{[ 2 ]}

• التحسين الرياضي

• أوديت، تشارلز؛ كوكولاراس، مايكل (2016). "التحسين ذو الصندوق الأسود والتحسين الخالي من المشتقات: النظرية والخوارزميات والتطبيقات" . التحسين والهندسة . 17 : 1-2 . doi : 10.1007/s11081-016-9307-4 .