دالة محدبة

دالة محدبة على فترة
تكون الدالة (باللون الأسود) محدبة إذا وفقط إذا كانت المنطقة فوق الرسم البياني الخاص بها (باللون الأخضر) مجموعة محدبة .
رسم بياني للدالة المحدبة ثنائية المتغيرات + xy +
محدب مقابل غير محدب

في الرياضيات ، تُسمى الدالة الحقيقية محدبة إذا كانت القطعة المستقيمة الواصلة بين أي نقطتين مختلفتين على منحنى الدالة تقع فوق أو على منحنى الدالة بين هاتين النقطتين. وبعبارة أخرى، تكون الدالة محدبة إذا كان منحنى الدالة (مجموعة النقاط الواقعة على أو فوق منحنى الدالة) مجموعة محدبة . وبعبارة أبسط، يكون منحنى الدالة المحدبة على شكل كوب.{\displaystyle \cup }(أو خط مستقيم مثل الدالة الخطية)، بينما يكون شكل الرسم البياني للدالة المقعرة مثل غطاء{\displaystyle \cap }.

تكون الدالة القابلة للتفاضل مرتين لمتغير واحد محدبة إذا وفقط إذا كانت مشتقتها الثانية غير سالبة على كامل مجالها . [ 1 ] ومن الأمثلة المعروفة للدوال المحدبة لمتغير واحد الدالة الخطيةو(x)=جx{\displaystyle f(x)=cx}(أينج{\displaystyle c}( عدد حقيقيدالة تربيعيةجx2{\displaystyle cx^{2}}(ج{\displaystyle c}(كعدد حقيقي غير سالب) ودالة أسيةجهـx{\displaystyle ce^{x}}(ج{\displaystyle c}(كعدد حقيقي غير سالب).

تلعب الدوال المحدبة دورًا هامًا في العديد من فروع الرياضيات، لا سيما في دراسة مسائل التحسين ، حيث تتميز بعدد من الخصائص المفيدة. فعلى سبيل المثال، لا تمتلك الدالة المحدبة تمامًا على مجموعة مفتوحة أكثر من قيمة صغرى واحدة . حتى في الفضاءات اللانهائية الأبعاد، وفي ظل فرضيات إضافية مناسبة، تستمر الدوال المحدبة في استيفاء هذه الخصائص، ونتيجة لذلك، تُعدّ من أكثر الدوال فهمًا في حساب التفاضل والتكامل . في نظرية الاحتمالات ، تكون الدالة المحدبة المطبقة على القيمة المتوقعة لمتغير عشوائي محدودة دائمًا من الأعلى بالقيمة المتوقعة للدالة المحدبة للمتغير العشوائي نفسه. تُعرف هذه النتيجة بمتباينة جنسن ، ويمكن استخدامها لاستنتاج متباينات أخرى مثل متباينة المتوسط ​​الحسابي - الهندسي ومتباينة هولدر .

تعريف

تصور دالة محدبة ومتباينة جنسن

يتركX{\displaystyle X}ليكن مجموعة جزئية محدبة من فضاء متجهي حقيقي، وليكنو:XR{\displaystyle f:X\to \mathbb {R} }أن تكون دالة.

ثمو{\displaystyle f}يُطلق عليه اسم محدب إذا وفقط إذا تحققت أي من الشروط المتكافئة التالية:

  1. للجميع0ت1{\displaystyle 0\leq t\leq 1}وكل شيءx1،x2X{\displaystyle x_{1},x_{2}\in X}: و(تx1+(1-ت)x2)تو(x1)+(1-ت)و(x2){\displaystyle f\left(tx_{1}+(1-t)x_{2}\right)\leq tf\left(x_{1}\right)+(1-t)f\left(x_{2}\right)} يمثل الجانب الأيمن الخط المستقيم بين(x1،و(x1)){\displaystyle \left(x_{1},f\left(x_{1}\right)\right)}و(x2،و(x2)){\displaystyle \left(x_{2},f\left(x_{2}\right)\right)}في الرسم البياني لـو{\displaystyle f}كدالة لـت؛{\displaystyle t;}زيادةت{\displaystyle t}من0{\displaystyle 0}ل1{\displaystyle 1}أو تتناقصت{\displaystyle t}من1{\displaystyle 1}ل0{\displaystyle 0}يمسح هذا الخط. وبالمثل، وسيط الدالةو{\displaystyle f}يمثل الجانب الأيسر الخط المستقيم بينx1{\displaystyle x_{1}}وx2{\displaystyle x_{2}}فيX{\displaystyle X}أوx{\displaystyle x}المحور السيني للرسم البياني لـو.{\displaystyle f.}لذا، يتطلب هذا الشرط أن يكون الخط المستقيم بين أي زوج من النقاط على منحنىو{\displaystyle f}أن يكون أعلى من الرسم البياني أو على وشك الوصول إليه. [ 2 ]
  2. للجميع0<ت<1{\displaystyle 0<t<1}وكل شيءx1،x2X{\displaystyle x_{1},x_{2}\in X}بحيثx1x2{\displaystyle x_{1}\neq x_{2}}: و(تx1+(1-ت)x2)تو(x1)+(1-ت)و(x2){\displaystyle f\left(tx_{1}+(1-t)x_{2}\right)\leq tf\left(x_{1}\right)+(1-t)f\left(x_{2}\right)} يتمثل الفرق بين هذا الشرط الثاني والشرط الأول المذكور أعلاه في أن هذا الشرط لا يشمل نقاط التقاطع (على سبيل المثال،(x1،و(x1)){\displaystyle \left(x_{1},f\left(x_{1}\right)\right)}و(x2،و(x2)){\displaystyle \left(x_{2},f\left(x_{2}\right)\right)}) بين الخط المستقيم المار بنقطتين على منحنىو{\displaystyle f}(يمثل الجانب الأيمن من هذه المعادلة الخط المستقيم) ومنحنىو؛{\displaystyle f;}يتضمن الشرط الأول نقاط التقاطع عندما يصبحو(x1)و(x1){\displaystyle f\left(x_{1}\right)\leq f\left(x_{1}\right)}أوو(x2)و(x2){\displaystyle f\left(x_{2}\right)\leq f\left(x_{2}\right)}فيت=0{\displaystyle t=0}أو1،{\displaystyle 1,}أوx1=x2.{\displaystyle x_{1}=x_{2}.}في الواقع، لا يلزم مراعاة نقاط التقاطع في حالة التحدب باستخدامو(تx1+(1-ت)x2)تو(x1)+(1-ت)و(x2){\displaystyle f\left(tx_{1}+(1-t)x_{2}\right)\leq tf\left(x_{1}\right)+(1-t)f\left(x_{2}\right)}لأنو(x1)و(x1){\displaystyle f\left(x_{1}\right)\leq f\left(x_{1}\right)}وو(x2)و(x2){\displaystyle f\left(x_{2}\right)\leq f\left(x_{2}\right)}تكون صحيحة دائمًا (لذا ليس من المفيد أن تكون جزءًا من شرط).

العبارة الثانية التي تصف الدوال المحدبة التي لها قيم في خط الأعداد الحقيقيةR{\displaystyle \mathbb {R} }يُستخدم هذا المصطلح أيضًا لتعريف الدوال المحدبة التي تُقاس قيمها على خط الأعداد الحقيقية الممتد.[-،]=R{±}،{\displaystyle [-\infty ,\infty ]=\mathbb {R} \cup \{\pm \infty \},}حيثما توجد مثل هذه الوظيفةو{\displaystyle f}يُسمح له بأخذ±{\displaystyle \pm \infty }كقيمة. لم يتم استخدام العبارة الأولى لأنها تسمحت{\displaystyle t}لأخذ0{\displaystyle 0}أو1{\displaystyle 1}كقيمة، وفي هذه الحالة، إذاو(x1)=±{\displaystyle f\left(x_{1}\right)=\pm \infty }أوو(x2)=±،{\displaystyle f\left(x_{2}\right)=\pm \infty ,}على التوالي، ثمتو(x1)+(1-ت)و(x2){\displaystyle tf\left(x_{1}\right)+(1-t)f\left(x_{2}\right)}ستكون غير مُعرَّفة (لأن عمليات الضرب0{\displaystyle 0\cdot \infty }و0(-){\displaystyle 0\cdot (-\infty )}(غير مُعرّفة). المجموع-+{\displaystyle -\infty +\infty }كما أنها غير معرفة، لذا يُسمح عادةً للدالة المحدبة الممتدة ذات القيم الحقيقية بأخذ قيمة واحدة فقط من القيم التالية:-{\displaystyle -\infty }و+{\displaystyle +\infty }كقيمة.

يمكن أيضًا تعديل العبارة الثانية للحصول على تعريف التحدب الصارم ، حيث يتم الحصول على الأخير عن طريق استبدال{\displaystyle \,\leq \,}مع عدم المساواة الصارمة<.{\displaystyle \,<.} بشكل صريح، الخريطةو{\displaystyle f}يُطلق عليها اسم محدبة تمامًا إذا وفقط إذا كان لكل عدد حقيقي0<ت<1{\displaystyle 0<t<1}وكل شيءx1،x2X{\displaystyle x_{1},x_{2}\in X}بحيثx1x2{\displaystyle x_{1}\neq x_{2}}: و(تx1+(1-ت)x2)<تو(x1)+(1-ت)و(x2){\displaystyle f\left(tx_{1}+(1-t)x_{2}\right)<tf\left(x_{1}\right)+(1-t)f\left(x_{2}\right)}

دالة محدبة تمامًاو{\displaystyle f}هي دالة بحيث يكون الخط المستقيم بين أي زوج من النقاط على المنحنىو{\displaystyle f}يقع فوق المنحنىو{\displaystyle f}باستثناء نقاط التقاطع بين الخط المستقيم والمنحنى. مثال على دالة محدبة ولكنها ليست محدبة تمامًا هوو(x،y)=x2+y{\displaystyle f(x,y)=x^{2}+y}هذه الدالة ليست محدبة تمامًا لأن أي نقطتين تشتركان في إحداثي x سيكون بينهما خط مستقيم، بينما أي نقطتين لا تشتركان في إحداثي x سيكون لهما قيمة أكبر للدالة من النقاط الواقعة بينهما.

الوظيفةو{\displaystyle f}يُقال إن السطح مقعر (أو مقعر تمامًا ) إذا-و{\displaystyle -f}(و{\displaystyle f}(مضروبًا في -1) يكون محدبًا (على التوالي محدبًا تمامًا).

تسمية بديلة

يُشار غالبًا إلى مصطلح "محدب" بمصطلح "محدب لأسفل" أو "مقعر لأعلى" ، ويُشار غالبًا إلى مصطلح "مقعر " بمصطلح "مقعر لأسفل " أو "محدب لأعلى " . [ 3 ] [ 4 ] [ 5 ] إذا استُخدم مصطلح "محدب" دون كلمة "لأعلى" أو "لأسفل"، فإنه يشير تحديدًا إلى رسم بياني على شكل كوب.{\displaystyle \cup }على سبيل المثال، تشير متباينة جنسن إلى متباينة تتضمن دالة محدبة أو محدبة (لأسفل). [ 6 ]

ملكيات

تتشابه العديد من خصائص الدوال المحدبة في صياغتها البسيطة سواءً للدوال ذات المتغيرات المتعددة أو الدوال ذات المتغير الواحد. انظر أدناه خصائص الدوال ذات المتغيرات المتعددة، حيث لم تُذكر بعض خصائص الدوال ذات المتغير الواحد.

دوال لمتغير واحد

  • يفترضو{\displaystyle f}هي دالة لمتغير حقيقي واحد معرفة على فترة، ولتكنR(x1،x2)=و(x2)-و(x1)x2-x1{\displaystyle R(x_{1},x_{2})={\frac {f(x_{2})-f(x_{1})}{x_{2}-x_{1}}}}(لاحظ أنR(x1،x2){\displaystyle R(x_{1},x_{2})}يمثل ميل الخط البنفسجي في الرسم الأول؛ الدالةR{\displaystyle R}متناظر في(x1،x2)،{\displaystyle (x_{1},x_{2}),}هذا يعني أنR{\displaystyle R}لا يتغير بالتبادلx1{\displaystyle x_{1}}وx2{\displaystyle x_{2}}).و{\displaystyle f}تكون محدبة إذا وفقط إذاR(x1،x2){\displaystyle R(x_{1},x_{2})}وهي دالة غير متناقصة بشكل رتيب فيx1،{\displaystyle x_{1},}لكل ثابتx2{\displaystyle x_{2}}(أو العكس). يُعد هذا التوصيف للتحدب مفيدًا جدًا لإثبات النتائج التالية.
  • دالة محدبةو{\displaystyle f}لمتغير حقيقي واحد معرف على فترة مفتوحة ماج{\displaystyle C}مستمر علىج{\displaystyle C}. علاوة على ذلك،و{\displaystyle f}تقبل الدالة مشتقات من اليسار واليمين ، وهذه المشتقات غير متناقصة بشكل رتيب . بالإضافة إلى ذلك، فإن المشتقة اليسرى متصلة من اليسار والمشتقة اليمنى متصلة من اليمين. ونتيجة لذلك،و{\displaystyle f}قابلة للتفاضل عند جميع النقاط ولكن عند عدد قابل للعد على الأكثر ، وهي المجموعة التيو{\displaystyle f}قد لا تكون قابلة للتفاضل، ولكنها مع ذلك تظل كثيفة.ج{\displaystyle C}مغلق، إذنو{\displaystyle f}قد لا تكون متصلة عند نقاط النهاية لـج{\displaystyle C}(يُعرض مثال في قسم الأمثلة ).
  • تكون الدالة القابلة للاشتقاق لمتغير واحد محدبة على فترة ما إذا وفقط إذا كانت مشتقتها غير متناقصة بشكل رتيب على تلك الفترة. إذا كانت الدالة قابلة للاشتقاق ومحدبة، فإنها تكون أيضًا قابلة للاشتقاق بشكل مستمر .
  • تكون الدالة القابلة للتفاضل لمتغير واحد محدبة على فترة ما إذا وفقط إذا كان رسمها البياني يقع فوق جميع مماساتها : [ 7 ] : 69و(x)و(y)+و(y)(x-y){\displaystyle f(x)\geq f(y)+f'(y)(x-y)}للجميعx{\displaystyle x}وy{\displaystyle y}في الفترة الفاصلة.
  • تكون الدالة القابلة للتفاضل مرتين لمتغير واحد محدبة على فترة ما إذا وفقط إذا كانت مشتقتها الثانية غير سالبة عند تلك الفترة؛ وهذا يوفر اختبارًا عمليًا للتحدب. بصريًا، تنحني الدالة المحدبة القابلة للتفاضل مرتين لأعلى، دون أي انحناءات في الاتجاه المعاكس ( نقاط انعطاف ). إذا كانت مشتقتها الثانية موجبة عند جميع النقاط، فإن الدالة تكون محدبة تمامًا، ولكن العكس غير صحيح. على سبيل المثال، المشتقة الثانية لـو(x)=x4{\displaystyle f(x)=x^{4}}يكونو"(x)=12x2{\displaystyle f''(x)=12x^{2}}، وهو ما يساوي صفرًا بالنسبة لـx=0،{\displaystyle x=0,}لكنx4{\displaystyle x^{4}}محدب تمامًا.
    • هذه الخاصية والخاصية المذكورة أعلاه من حيث "...مشتقتها غير متناقصة بشكل رتيب..." ليستا متساويتين، لأنه إذاو"{\displaystyle f''}غير سالب على فترةX{\displaystyle X}ثمو{\displaystyle f'}دالة غير متناقصة بشكل رتيب علىX{\displaystyle X}بينما لا يكون عكس ذلك صحيحاً، على سبيل المثال،و{\displaystyle f'}دالة غير متناقصة بشكل رتيب علىX{\displaystyle X}بينما مشتقاتهو"{\displaystyle f''}لا يتم تعريفها في بعض النقاط علىX{\displaystyle X}.
  • لوو{\displaystyle f}هي دالة محدبة لمتغير حقيقي واحد، وو(0)0{\displaystyle f(0)\leq 0}، ثمو{\displaystyle f}تكون خاصية الجمع الفائق على الأعداد الحقيقية الموجبة ، أيو(أ+ب)و(أ)+و(ب){\displaystyle f(a+b)\geq f(a)+f(b)}للأعداد الحقيقية الموجبةأ{\displaystyle a}وب{\displaystyle b}.
دليل

منذو{\displaystyle f}تكون محدبة، باستخدام أحد تعريفات الدوال المحدبة المذكورة أعلاه وتعيينx2=0،{\displaystyle x_{2}=0,}ويترتب على ذلك أنه بالنسبة لجميع الأشياء الحقيقية0ت1،{\displaystyle 0\leq t\leq 1,}و(تx1)=و(تx1+(1-ت)0)تو(x1)+(1-ت)و(0)تو(x1).{\displaystyle {\begin{aligned}f(tx_{1})&=f(tx_{1}+(1-t)\cdot 0)\\&\leq tf(x_{1})+(1-t)f(0)\\&\leq tf(x_{1}).\\\end{aligned}}}منو(تx1)تو(x1){\displaystyle f(tx_{1})\leq tf(x_{1})}وبناءً على ذلكو(أ)+و(ب)=و((أ+ب)أأ+ب)+و((أ+ب)بأ+ب)أأ+بو(أ+ب)+بأ+بو(أ+ب)=و(أ+ب).{\displaystyle {\begin{aligned}f(a)+f(b)&=f\left((a+b){\frac {a}{a+b}}\right)+f\left((a+b){\frac {b}{a+b}}\right)\\&\leq {\frac {a}{a+b}}f(a+b)+{\frac {b}{a+b}}f(a+b)\\&=f(a+b).\\\end{aligned}}} أي،و(أ)+و(ب)و(أ+ب){\displaystyle f(a)+f(b)\leq f(a+b)}.

  • وظيفةو{\displaystyle f}هل نقطة المنتصف محدبة على فترةج{\displaystyle C}إن كان ذلك للجميعx1،x2ج{\displaystyle x_{1},x_{2}\in C}و(x1+x22)و(x1)+و(x2)2.{\displaystyle f\!\left({\frac {x_{1}+x_{2}}{2}}\right)\leq {\frac {f(x_{1})+f(x_{2})}{2}}.}هذا الشرط أضعف قليلاً من شرط التحدب. على سبيل المثال، الدالة الحقيقية القابلة للقياس وفقًا لمقياس ليبيغ والمحدبة عند نقطة المنتصف تكون محدبة: هذه نظرية لسيربينسكي . [ 8 ] وعلى وجه الخصوص، الدالة المتصلة والمحدبة عند نقطة المنتصف تكون محدبة.

دوال لعدة متغيرات

  • الدالة التي تكون محدبة هامشياً في كل متغير على حدة ليست بالضرورة محدبة (بشكل مشترك). على سبيل المثال، الدالةو(x،y)=xy{\displaystyle f(x,y)=xy}هي خطية هامشية ، وبالتالي محدبة هامشية، في كل متغير، ولكنها ليست محدبة (بشكل مشترك).
  • وظيفةو:X[-،]{\displaystyle f:X\to [-\infty ,\infty ]}القيم في الأعداد الحقيقية الموسعة[-،]=R{±}{\displaystyle [-\infty ,\infty ]=\mathbb {R} \cup \{\pm \infty \}}يكون محدبًا إذا وفقط إذا كان الرسم البياني الخاص به محدبًا{(x،ر)X×R : رو(x)}{\displaystyle \{(x,r)\in X\times \mathbb {R} ~:~r\geq f(x)\}}هي مجموعة محدبة.
  • دالة قابلة للتفاضلو{\displaystyle f}تكون الدالة المعرفة على مجال محدب محدبة إذا وفقط إذاو(x)و(y)+و(y)تي(x-y){\displaystyle f(x)\geq f(y)+\nabla f(y)^{T}\cdot (x-y)}ينطبق على الجميعx،y{\displaystyle x,y}في المجال.
  • تكون الدالة القابلة للتفاضل مرتين لعدة متغيرات محدبة على مجموعة محدبة إذا وفقط إذا كانت مصفوفة هيسيان للمشتقات الجزئية الثانية شبه موجبة على الجزء الداخلي من المجموعة المحدبة.
  • بالنسبة للدالة المحدبةو،{\displaystyle f,}مجموعات المستويات الفرعية{x:و(x)<أ}{\displaystyle \{x:f(x)<a\}}و{x:و(x)أ}{\displaystyle \{x:f(x)\leq a\}}معأR{\displaystyle a\in \mathbb {R} }هي مجموعات محدبة. تُسمى الدالة التي تحقق هذه الخاصية دالة شبه محدبة، وقد لا تكون دالة محدبة.
  • وبالتالي، فإن مجموعة القيم الصغرى العالمية لدالة محدبةو{\displaystyle f}هي مجموعة محدبة:أرجينينو{\displaystyle {\operatorname {argmin} }\,f}- محدب.
  • أي قيمة صغرى محلية لدالة محدبة هي أيضاً قيمة صغرى عالمية . الدالة المحدبة تماماً سيكون لها قيمة صغرى عالمية واحدة على الأكثر. [ 9 ]
  • تنطبق متباينة جنسن على كل دالة محدبةو{\displaystyle f}. لوX{\displaystyle X}هو متغير عشوائي يأخذ قيمًا في مجالو،{\displaystyle f,}ثمهـ(و(X))و(هـ(X))،{\displaystyle \operatorname {E} (f(X))\geq f(\operatorname {E} (X)),}أينهـ{\displaystyle \operatorname {E} }يشير إلى التوقع الرياضي . في الواقع، الدوال المحدبة هي تحديداً تلك التي تحقق فرضية متباينة جنسن .
  • دالة متجانسة من الدرجة الأولى لمتغيرين موجبينx{\displaystyle x}وy،{\displaystyle y,}(أي دالة تحققو(أx،أy)=أو(x،y){\displaystyle f(ax,ay)=af(x,y)}لكل شيء إيجابي حقيقيأ،x،y>0{\displaystyle a,x,y>0}(الذي يكون محدبًا في أحد المتغيرات يجب أن يكون محدبًا في المتغير الآخر. [ 10 ]

العمليات التي تحافظ على التحدب

  • -و{\displaystyle -f}يكون السطح مقعرًا إذا وفقط إذاو{\displaystyle f}محدب.
  • لور{\displaystyle r}هل أي عدد حقيقي إذنر+و{\displaystyle r+f}تكون محدبة إذا وفقط إذاو{\displaystyle f}محدب.
  • المجاميع المرجحة غير السالبة:
    • لوw1،...،wن0{\displaystyle w_{1},\ldots ,w_{n}\geq 0}وو1،...،ون{\displaystyle f_{1},\ldots ,f_{n}}إذا كانت جميعها محدبة، فإن كذلكw1و1++wنون.{\displaystyle w_{1}f_{1}+\cdots +w_{n}f_{n}.}على وجه الخصوص، فإن مجموع دالتين محدبتين يكون محدباً.
    • تمتد هذه الخاصية إلى المجاميع اللانهائية والتكاملات والقيم المتوقعة أيضًا (بشرط وجودها).
  • الحد الأقصى للعناصر: ليكن{وأنا}أناأنا{\displaystyle \{f_{i}\}_{i\in I}}لتكن مجموعة من الدوال المحدبة. إذنز(x)=رشفةأناأناوأنا(x){\displaystyle g(x)=\sup \nolimits _{i\in I}f_{i}(x)}محدبة. مجالز(x){\displaystyle g(x)}هي مجموعة النقاط التي يكون عندها التعبير منتهيًا. حالات خاصة مهمة:
    • لوو1،...،ون{\displaystyle f_{1},\ldots ,f_{n}}إذا كانت الدوال محدبة، فإن الدوال كذلكز(x)=الأعلى{و1(x)،...،ون(x)}.{\displaystyle g(x)=\max \left\{f_{1}(x),\ldots ,f_{n}(x)\right\}.}
    • نظرية دانسكين : إذاو(x،y){\displaystyle f(x,y)}محدبة فيx{\displaystyle x}ثمز(x)=رشفةyجو(x،y){\displaystyle g(x)=\sup \nolimits _{y\in C}f(x,y)}محدبة فيx{\displaystyle x}حتى لوج{\displaystyle C}ليست مجموعة محدبة.
  • تعبير:
    • لوو{\displaystyle f}وز{\displaystyle g}هي دوال محدبة وز{\displaystyle g}إذا كانت الدالة غير متناقصة على مجال أحادي المتغير،ح(x)=ز(و(x)){\displaystyle h(x)=g(f(x))}محدب. على سبيل المثال إذاو{\displaystyle f}إذا كان محدبًا، فإن كذلكهـو(x){\displaystyle e^{f(x)}}لأنهـx{\displaystyle e^{x}}محدبة ومتزايدة بشكل رتيب.
    • لوو{\displaystyle f}مقعر وز{\displaystyle g}إذا كانت الدالة محدبة وغير متزايدة على مجال أحادي المتغير،ح(x)=ز(و(x)){\displaystyle h(x)=g(f(x))}محدب.
    • التحدب ثابت تحت التحويلات الأفينية: أي، إذاو{\displaystyle f}محدبة ذات مجالدوRم{\displaystyle D_{f}\subseteq \mathbf {R} ^{m}}إذن كذلكز(x)=و(أx+ب){\displaystyle g(x)=f(Ax+b)}، أينأRم×ن،بRم{\displaystyle A\in \mathbf {R} ^{m\times n},b\in \mathbf {R} ^{m}}مع النطاقدزRن.{\displaystyle D_{g}\subseteq \mathbf {R} ^{n}.}
  • التقليل: إذاو(x،y){\displaystyle f(x,y)}محدبة في(x،y){\displaystyle (x,y)}ثمز(x)=معلوماتyجو(x،y){\displaystyle g(x)=\inf \nolimits _{y\in C}f(x,y)}محدبة فيx،{\displaystyle x,}بشرط أنج{\displaystyle C}هي مجموعة محدبة، وز(x)-.{\displaystyle g(x)\neq -\infty .}
  • لوو{\displaystyle f}إذا كان محدبًا، فإن منظورهز(x،ت)=تو(xت){\displaystyle g(x,t)=tf\left({\tfrac {x}{t}}\right)}مع النطاق{(x،ت):xتدوم(و)،ت>0}{\displaystyle \left\{(x,t):{\tfrac {x}{t}}\in \operatorname {Dom} (f),t>0\right\}}محدب.
  • يتركX{\displaystyle X}ليكن فضاءً متجهيًا.و:XR{\displaystyle f:X\to \mathbf {R} }محدبة وتحقق الشرط التالي:و(0)0{\displaystyle f(0)\leq 0}إذا وفقط إذاو(أx+بy)أو(x)+بو(y){\displaystyle f(ax+by)\leq af(x)+bf(y)}لأيx،yX{\displaystyle x,y\in X}وأي أعداد حقيقية غير سالبةأ،ب{\displaystyle a,b}ذلك يرضيأ+ب1.{\displaystyle a+b\leq 1.}

الدوال المحدبة بقوة

يُوسّع مفهوم التحدب القوي مفهوم التحدب الصارم ويُحدّد معالمه. وبشكلٍ بديهي، فإن الدالة المحدبة بقوة هي دالة تنمو بنفس سرعة الدالة التربيعية. [ 11 ] الدالة المحدبة بقوة تكون أيضًا محدبة تمامًا، ولكن ليس العكس. إذا كانت دالة أحادية البعدو{\displaystyle f}إذا كانت الدالة قابلة للتفاضل مرتين بشكل مستمر وكان مجالها هو خط الأعداد الحقيقية، فيمكننا وصفها على النحو التالي:

  • و{\displaystyle f}محدبة إذا وفقط إذاو"(x)0{\displaystyle f''(x)\geq 0}للجميعx.{\displaystyle x.}
  • و{\displaystyle f}محدب تمامًا إذاو"(x)>0{\displaystyle f''(x)>0}للجميعx{\displaystyle x}(ملاحظة: هذا كافٍ، ولكنه ليس ضرورياً).
  • و{\displaystyle f}محدبة بقوة إذا وفقط إذاو"(x)م>0{\displaystyle f''(x)\geq m>0}للجميعx.{\displaystyle x.}

على سبيل المثال، لنفترضو{\displaystyle f}لنفترض أن يكون محدبًا تمامًا، ولنفترض وجود سلسلة من النقاط(xن){\displaystyle (x_{n})}بحيثو"(xن)=1ن{\displaystyle f''(x_{n})={\tfrac {1}{n}}}. بالرغم منو"(xن)>0{\displaystyle f''(x_{n})>0}الدالة ليست محدبة بقوة لأنو"(x){\displaystyle f''(x)}سيصبح صغيراً بشكل تعسفي.

وبشكل أعم، دالة قابلة للتفاضلو{\displaystyle f}يُطلق عليه اسم محدب بقوة مع المعاملم>0{\displaystyle m>0}إذا تحققت المتباينة التالية لجميع النقاطx،y{\displaystyle x,y}في نطاقها: [ 12 ](و(x)-و(y))تي(x-y)مx-y22{\displaystyle (\nabla f(x)-\nabla f(y))^{T}(x-y)\geq m\|x-y\|_{2}^{2}} أو بشكل أعم، و(x)-و(y)،x-yمx-y2{\displaystyle \langle \nabla f(x)-\nabla f(y),x-y\rangle \geq m\|x-y\|^{2}} أين،{\displaystyle \langle \cdot ,\cdot \rangle }أي منتج داخلي ، و{\displaystyle \|\cdot \|}هو المعيار المقابل . يشير بعض المؤلفين، مثل [ 13 إلى الدوال التي تحقق هذه المتباينة باسم الدوال الإهليلجية .

الشرط المكافئ هو التالي: [ 14 ]و(y)و(x)+و(x)تي(y-x)+م2y-x22{\displaystyle f(y)\geq f(x)+\nabla f(x)^{T}(y-x)+{\frac {m}{2}}\|y-x\|_{2}^{2}}

ليس من الضروري أن تكون الدالة قابلة للتفاضل لكي تكون محدبة بقوة. تعريف ثالث [ 14 ] للدالة المحدبة بقوة، مع المعاملم،{\displaystyle m,}هذا هو، بالنسبة للجميعx،y{\displaystyle x,y}في المجال وت[0،1]،{\displaystyle t\in [0,1],}و(تx+(1-ت)y)تو(x)+(1-ت)و(y)-12مت(1-ت)x-y22{\displaystyle f(tx+(1-t)y)\leq tf(x)+(1-t)f(y)-{\frac {1}{2}}mt(1-t)\|x-y\|_{2}^{2}}

لاحظ أن هذا التعريف يقترب من تعريف التحدب الصارم عندمام0،{\displaystyle m\to 0,}وهو مطابق لتعريف الدالة المحدبة عندمام=0.{\displaystyle m=0.}على الرغم من ذلك، توجد دوال محدبة تمامًا ولكنها ليست محدبة بقوة لأيم>0{\displaystyle m>0}(انظر المثال أدناه).

إذا كانت الدالةو{\displaystyle f}إذا كانت الدالة قابلة للتفاضل مرتين بشكل مستمر، فإنها تكون محدبة بقوة ذات معاملم{\displaystyle m}إذا وفقط إذا2و(x)مأنا{\displaystyle \nabla ^{2}f(x)\succeq mI}للجميعx{\displaystyle x}في المجال، حيثأنا{\displaystyle I}هي الهوية و2و{\displaystyle \nabla ^{2}f}هي مصفوفة هيسيان ، والمتباينة{\displaystyle \succeq }هذا يعني أن2و(x)-مأنا{\displaystyle \nabla ^{2}f(x)-mI}هي شبه موجبة . وهذا يكافئ اشتراط أن تكون القيمة الذاتية الدنيا لـ2و(x){\displaystyle \nabla ^{2}f(x)}كن على الأقلم{\displaystyle m}للجميعx.{\displaystyle x.}إذا كان المجال هو خط الأعداد الحقيقية فقط، فإن2و(x){\displaystyle \nabla ^{2}f(x)}هي مجرد المشتقة الثانيةو"(x)،{\displaystyle f''(x),}وهكذا يصبح الشرطو"(x)م{\displaystyle f''(x)\geq m}. لوم=0{\displaystyle m=0}وهذا يعني أن مصفوفة هيسيان موجبة شبه محددة (أو إذا كان المجال هو خط الأعداد الحقيقية، فهذا يعني أنو"(x)0{\displaystyle f''(x)\geq 0})، مما يعني أن الدالة محدبة، وربما محدبة تمامًا، ولكنها ليست محدبة بقوة.

بافتراض أن الدالة قابلة للتفاضل مرتين بشكل مستمر، يمكن إثبات أن الحد الأدنى لـ2و(x){\displaystyle \nabla ^{2}f(x)}وهذا يعني أنها محدبة بشدة. باستخدام نظرية تايلور، يوجد z{تx+(1-ت)y:ت[0،1]}{\displaystyle z\in \{tx+(1-t)y:t\in [0,1]\}} بحيث و(y)=و(x)+و(x)تي(y-x)+12(y-x)تي2و(z)(y-x){\displaystyle f(y)=f(x)+\nabla f(x)^{T}(y-x)+{\frac {1}{2}}(y-x)^{T}\nabla ^{2}f(z)(y-x)} ثم (y-x)تي2و(z)(y-x)م(y-x)تي(y-x){\displaystyle (y-x)^{T}\nabla ^{2}f(z)(y-x)\geq m(y-x)^{T}(y-x)} بناءً على الافتراض المتعلق بالقيم الذاتية، وبالتالي نستعيد معادلة التحدب القوي الثانية المذكورة أعلاه.

وظيفةو{\displaystyle f}تكون الدالة محدبة بقوة ذات المعامل m إذا وفقط إذا كانت الدالة xو(x)-م2x2{\displaystyle x\mapsto f(x)-{\frac {m}{2}}\|x\|^{2}} محدب.

دالة قابلة للتفاضل مرتين بشكل مستمرو{\displaystyle f}في نطاق مضغوطX{\displaystyle X}ذلك يرضيو"(x)>0{\displaystyle f''(x)>0}للجميعxX{\displaystyle x\in X}هي دالة محدبة بقوة. ويستند برهان هذه العبارة إلى نظرية القيمة القصوى ، التي تنص على أن الدالة المتصلة على مجموعة مضغوطة لها قيمة عظمى وقيمة صغرى.

تُعدّ الدوال المحدبة بقوة أسهل في التعامل معها عمومًا من الدوال المحدبة أو المحدبة تمامًا، نظرًا لأنها فئة أصغر. ومثل الدوال المحدبة تمامًا، تمتلك الدوال المحدبة بقوة قيمًا صغرى فريدة على المجموعات المدمجة.

خصائص الدوال المحدبة بقوة

إذا كانت f دالة محدبة بقوة ذات معامل m ، فإن: [ 15 ] : الخاصية 6.1.4

الدوال المحدبة بانتظام

دالة محدبة بانتظام، [ 16 ] [ 17 ] ذات معاملϕ{\displaystyle \phi }، هي دالةو{\displaystyle f}ذلك، للجميعx،y{\displaystyle x,y}في المجال وت[0،1]،{\displaystyle t\in [0,1],}يرضي و(تx+(1-ت)y)تو(x)+(1-ت)و(y)-ت(1-ت)ϕ(x-y){\displaystyle f(tx+(1-t)y)\leq tf(x)+(1-t)f(y)-t(1-t)\phi (\|x-y\|)} أينϕ{\displaystyle \phi }هي دالة غير سالبة ولا تنعدم إلا عند  الصفر. وهذا تعميم لمفهوم الدالة المحدبة بقوة؛ وذلك بأخذϕ(α)=م2α2{\displaystyle \phi (\alpha )={\tfrac {m}{2}}\alpha ^{2}}نستعيد تعريف التحدب القوي.

تجدر الإشارة إلى أن بعض المؤلفين يشترطون استخدام المعامل.ϕ{\displaystyle \phi }أن تكون دالة متزايدة، [ 17 ] ولكن هذا الشرط ليس مطلوبًا من جميع المؤلفين. [ 16 ]

أمثلة

دوال لمتغير واحد

  • الوظيفةو(x)=x2{\displaystyle f(x)=x^{2}}لديهو"(x)=2>0{\displaystyle f''(x)=2>0}إذن، f دالة محدبة. وهي أيضاً محدبة بقوة (وبالتالي محدبة تماماً)، وثابت التحدب القوي فيها هو 2.
  • الوظيفةو(x)=x4{\displaystyle f(x)=x^{4}}لديهو"(x)=12x20{\displaystyle f''(x)=12x^{2}\geq 0}إذن، f دالة محدبة. وهي محدبة تمامًا، على الرغم من أن المشتقة الثانية ليست موجبة تمامًا عند جميع النقاط. وهي ليست محدبة بقوة.
  • دالة القيمة المطلقةو(x)=|x|{\displaystyle f(x)=|x|}هي محدبة (كما يتضح من متباينة المثلث )، على الرغم من أنها لا تملك مشتقة عند تلك النقطة.x=0.{\displaystyle x=0.} إنها ليست محدبة تماماً.
  • الوظيفةو(x)=|x|ص{\displaystyle f(x)=|x|^{p}}لص1{\displaystyle p\geq 1}محدب.
  • الدالة الأسيةو(x)=هـx{\displaystyle f(x)=e^{x}}هو محدب. وهو أيضاً محدب تماماً، لأنو"(x)=هـx>0{\displaystyle f''(x)=e^{x}>0}لكنها ليست محدبة بقوة لأن المشتقة الثانية يمكن أن تكون قريبة من الصفر بشكل تعسفي. وبشكل أعم، الدالةز(x)=هـو(x){\displaystyle g(x)=e^{f(x)}}تكون محدبة لوغاريتميًا إذاو{\displaystyle f}هي دالة محدبة. ويُستخدم مصطلح "محدبة فائقة" أحيانًا بدلاً من ذلك. [ 18 ]
  • الوظيفةو{\displaystyle f}مع تعريف المجال [0,1] بواسطةو(0)=و(1)=1،و(x)=0{\displaystyle f(0)=f(1)=1,f(x)=0}ل0<x<1{\displaystyle 0<x<1}هي محدبة؛ وهي متصلة على الفترة المفتوحة(0،1)،{\displaystyle (0,1),}لكنها ليست متصلة عند 0 و  1.
  • الوظيفةx3{\displaystyle x^{3}}له مشتقة ثانية6x{\displaystyle 6x}وبالتالي فهي محدبة على المجموعة حيثx0{\displaystyle x\geq 0}ومقعر على المجموعة حيثx0.{\displaystyle x\leq 0.}
  • من أمثلة الدوال المتزايدة بشكل رتيب ولكنها ليست محدبة ما يلي:و(x)=x{\displaystyle f(x)={\sqrt {x}}}وز(x)=سجلx{\displaystyle g(x)=\log x}.
  • من أمثلة الدوال المحدبة ولكنها ليست متزايدة بشكل رتيب ما يلي:ح(x)=x2{\displaystyle h(x)=x^{2}}وك(x)=-x{\displaystyle k(x)=-x}.
  • الوظيفةو(x)=1x{\displaystyle f(x)={\tfrac {1}{x}}}لديهو"(x)=2x3{\displaystyle f''(x)={\tfrac {2}{x^{3}}}}وهو أكبر من 0 إذاx>0{\displaystyle x>0}لذاو(x){\displaystyle f(x)}محدبة على الفترة(0،){\displaystyle (0,\infty )}يكون مقعرًا على الفترة(-،0){\displaystyle (-\infty ,0)}.
  • الوظيفةو(x)=1x2{\displaystyle f(x)={\tfrac {1}{x^{2}}}}معو(0)={\displaystyle f(0)=\infty }، محدبة على الفترة(0،){\displaystyle (0,\infty )}ومحدبة على الفترة(-،0){\displaystyle (-\infty ,0)}، ولكن ليس محدبًا على الفترة(-،){\displaystyle (-\infty ,\infty )}بسبب التفرد عندx=0.{\displaystyle x=0.}

دوال لمتغيرات n

  • دالة LogSumExp ، والتي تسمى أيضًا دالة softmax، هي دالة محدبة.
  • الوظيفة-سجلالمحقق(X){\displaystyle -\log \det(X)}تكون الدالة محدبة في مجال المصفوفات الموجبة المحددة . [ 7 ] : 74
  • كل تحويل خطي ذي قيم حقيقية يكون محدبًا ولكنه ليس محدبًا تمامًا، لأنه إذاو{\displaystyle f}إذا كان خطيًا، فإنو(أ+ب)=و(أ)+و(ب){\displaystyle f(a+b)=f(a)+f(b)}. هذا البيان صحيح أيضاً إذا استبدلنا كلمة "محدب" بكلمة "مقعر".
  • كل دالة خطية حقيقية القيمة ، أي كل دالة من الشكلو(x)=أتيx+ب،{\displaystyle f(x)=a^{T}x+b,}يكون محدبًا ومقعرًا في آن واحد.
  • كل معيار هو دالة محدبة، وذلك بحسب متباينة المثلث والتجانس الموجب .
  • نصف القطر الطيفي لمصفوفة غير سالبة هو دالة محدبة لعناصرها القطرية. [ 19 ]

انظر أيضاً

ملحوظات

  1. "ملاحظات المحاضرة 2" (ملف PDF) . www.stat.cmu.edu . تم الاطلاع عليه بتاريخ 3 مارس 2017 .
  2. "مقعر لأعلى ولأسفل" . مؤرشف من الأصل بتاريخ 18-12-2013.
  3. ستيوارت، جيمس (2015). حساب التفاضل والتكامل ( الطبعة الثامنة). سينجايج ليرنينج. الصفحات 223-224 . ISBN   978-1305266643.
  4. و. هامينغ، ريتشارد (2012). أساليب الرياضيات التطبيقية في حساب التفاضل والتكامل، والاحتمالات، والإحصاء ( طبعة مصورة). مؤسسة كورير. ص 227. ISBN   978-0-486-13887-9.مقتطف من الصفحة 227
  5. أوفاروف، فاسيلي بوريسوفيتش (1988). التحليل الرياضي . دار نشر مير. ص 126-127. ISBN  978-5-03-000500-3.
  6. بروجيل-بينيت، آدم (2020). دليل الاحتمالات للهندسة وعلوم الحاسوب ( طبعة مصورة). مطبعة جامعة كامبريدج. ص 160. ISBN   978-1-108-48053-6.مقتطف من الصفحة 160
  7. 1 2 بويد، ستيفن ب.؛ فاندنبيرغ، ليفين (2004). التحسين المحدب (ملف PDF) . مطبعة جامعة كامبريدج. ISBN 978-0-521-83378-3تم الاطلاع عليه بتاريخ 15 أكتوبر 2011 .
  8. دونوهيو، ويليام ف. (1969). التوزيعات وتحويلات فورييه . دار النشر الأكاديمية. ص 12. ISBN  9780122206504تم الاطلاع عليه بتاريخ 29 أغسطس 2012 .
  9. "إذا كانت الدالة f محدبة تمامًا في مجموعة محدبة، فأثبت أنها لا تملك أكثر من قيمة صغرى واحدة" . Math StackExchange. 21 مارس 2013. تم الاطلاع عليه في 14 مايو 2016 .
  10. ألتنبرغ، ل.، 2012. تُظهر المؤثرات الخطية الموجبة للمذيب ظاهرة الاختزال. وقائع الأكاديمية الوطنية للعلوم، 109(10)، ص 3705-3710.
  11. "تحدب قوي · مدونة شينغيو تشو" . xingyuzhou.org . تم الاطلاع عليه بتاريخ 27-09-2023 .
  12. ديمتري بيرتسيكاس (2003). التحليل المحدب والتحسين . المساهمون: أنجيليا نيديتش وأسومان إي. أوزداغلار. أثينا ساينتيفيك. ص 72. ISBN  9781886529458.
  13. فيليب ج. سيارليت (1989). مقدمة في الجبر الخطي العددي والتحسين . مطبعة جامعة كامبريدج. ISBN 9780521339841.
  14. 1 2 يوري نيستيروف (2004). محاضرات تمهيدية في التحسين المحدب: دورة أساسية . دار نشر كلوير الأكاديمية. الصفحات 63-64 . ISBN  9781402075537.
  15. نيميروفسكي وبن-تال (2023). "التحسين الثالث: التحسين المحدب" (PDF) .
  16. 1 2 سي. زالينسكو (2002). التحليل المحدب في الفضاءات المتجهة العامة . وورلد ساينتيفيك. ISBN 9812380671.
  17. 1 2 هـ. باوشكه وب. ل. كومبيتس (2011). التحليل المحدب ونظرية المؤثرات الرتيبة في فضاءات هيلبرت . سبرينغر. ص 144. ISBN  978-1-4419-9467-7.
  18. كينغمان، جيه إف سي (1961). "خاصية التحدب للمصفوفات الموجبة". المجلة الفصلية للرياضيات . 12 : 283-284 . Bibcode : 1961QJMat..12..283K . doi : 10.1093/qmath/12.1.283 .
  19. كوهين، جيه إي، 1981. تحدب القيمة الذاتية المهيمنة لمصفوفة غير سالبة أساسًا . وقائع الجمعية الرياضية الأمريكية، 81(4)، ص 657-658.

مراجع

  • بيرتسيكاس، ديمتري (2003). التحليل المحدب والتحسين . أثينا ساينتيفيك.
  • بورواين، جوناثان ، ولويس، أدريان. (2000). التحليل المحدب والتحسين غير الخطي. سبرينغر.
  • دونوهيو، ويليام ف. (1969). التوزيعات وتحويلات فورييه . دار النشر الأكاديمية.
  • هيريارت أوروتي، جان بابتيست، ولومارشال، كلود . (2004). أساسيات التحليل المحدب. برلين: سبرينغر.
  • Krasnosel'skii MA ، Rutickii Ya.B. (1961). الدوال المحدبة وفضاءات أورليتش . جرونينجن: بي نوردهوف المحدودة.
  • لوريتزن، نيلز (2013). التحدب الجامعي . دار النشر العالمية العلمية.
  • لوينبرغر، ديفيد (1984). البرمجة الخطية وغير الخطية . أديسون-ويسلي.
  • لوينبرغر، ديفيد (1969). التحسين باستخدام طرق الفضاء المتجهي . وايلي وأولاده.
  • روكافيلر، آر تي (1970). التحليل المحدب . برينستون: مطبعة جامعة برينستون.
  • تومسون، برايان (1994). الخصائص المتناظرة للدوال الحقيقية . مطبعة سي آر سي.
  • زالينسكو، سي. (2002). التحليل المحدب في الفضاءات المتجهة العامة . ريفر إيدج، نيوجيرسي: دار  النشر العالمية العلمية . الصفحات: xx+367. ISBN    981-238-067-1MR 1921556 .