عدم المساواة عند جنسن

تعمم متباينة جنسن العبارة القائلة بأن الخط القاطع لدالة محدبة يقع فوق رسمها البياني.
تصور التحدب ومتباينة جنسن

في الرياضيات ، تربط متباينة ينسن ، نسبةً إلى عالم الرياضيات الدنماركي يوهان ينسن ، قيمة دالة محدبة لتكامل ما بتكامل تلك الدالة المحدبة. وقد برهن ينسن هذه المتباينة عام 1906، [ 1 ] مستندًا إلى برهان سابق لنفس المتباينة للدوال القابلة للتفاضل مرتين، والذي قدمه أوتو هولدر عام 1889. [ 2 ] ونظرًا لعموميتها، تظهر المتباينة بأشكال عديدة تبعًا للسياق، بعضها معروض أدناه. في أبسط صورها، تنص المتباينة على أن التحويل المحدب للمتوسط ​​أصغر من أو يساوي المتوسط ​​بعد تطبيق التحويل المحدب (أو بصورة مكافئة، المتباينة المعاكسة للتحويلات المقعرة). [ 3 ]

تُعمم متباينة جنسن العبارة القائلة بأن الخط القاطع لدالة محدبة يقع فوق الرسم البياني للدالة ، وهي متباينة جنسن لنقطتين: يتكون الخط القاطع من المتوسطات المرجحة للدالة المحدبة (لـ t ∈ [0,1]) .  

تو(x1)+(1-ت)و(x2)،{\displaystyle tf(x_{1})+(1-t)f(x_{2}),}

بينما يمثل الرسم البياني للدالة الدالة المحدبة للمتوسطات المرجحة،

و(تx1+(1-ت)x2).{\displaystyle f(tx_{1}+(1-t)x_{2}).}

وبالتالي، فإن متباينة جنسن في هذه الحالة هي

و(تx1+(1-ت)x2)تو(x1)+(1-ت)و(x2).{\displaystyle f(tx_{1}+(1-t)x_{2})\leq tf(x_{1})+(1-t)f(x_{2}).}

في سياق نظرية الاحتمالات ، يُصاغ الأمر عمومًا بالشكل التالي: إذا كان X متغيرًا عشوائيًا و φ دالة محدبة، فإن

φ(هـ[X])هـ[φ(X)].{\displaystyle \varphi (\operatorname {E} [X])\leq \operatorname {E} \left[\varphi (X)\right].}

الفرق بين طرفي المتباينة،هـ[φ(X)]-φ(هـ[X]){\displaystyle \operatorname {E} \left[\varphi (X)\right]-\varphi \left(\operatorname {E} [X]\right)}وتسمى هذه الفجوة بفجوة جنسن . [ 4 ]

البيانات

تتضمن الصيغة الكلاسيكية لمتباينة جنسن عدة أعداد وأوزان. ويمكن صياغة المتباينة بشكل عام باستخدام لغة نظرية القياس أو (بصورة مكافئة) الاحتمال. وفي السياق الاحتمالي، يمكن تعميم المتباينة بشكل أكبر لتشمل جميع جوانبها .

الأشكال المحدودة

بالنسبة لدالة محدبة حقيقيةφ{\displaystyle \varphi }الأرقامx1،x2،...،xن{\displaystyle x_{1},x_{2},\ldots ,x_{n}}في نطاقها، والأوزان الموجبةأأنا{\displaystyle a_{i}}يمكن صياغة متباينة جنسن على النحو التالي:

وتنعكس المتباينة إذاφ{\displaystyle \varphi }مقعر ، وهو

تتحقق المساواة إذا وفقط إذاx1=x2==xن{\displaystyle x_{1}=x_{2}=\cdots =x_{n}}أوφ{\displaystyle \varphi }خطي على نطاق يحتويx1،x2،،xن{\displaystyle x_{1},x_{2},\cdots ,x_{n}}.

كحالة خاصة، إذا كانت الأوزانأأنا{\displaystyle a_{i}}إذا كانت جميعها متساوية، فإن ( 1 ) و( 2 ) تصبحان

على سبيل المثال، الدالة log( x ) مقعرة ، لذا فإن استبدالهاφ(x)=سجل(x){\displaystyle \varphi (x)=\log(x)}في الصيغة السابقة ( 4 ) يتم إثبات متباينة (لوغاريتم) المتوسط ​​الحسابي/المتوسط ​​الهندسي المألوفة :

سجل(أنا=1نxأنان)أنا=1نسجل(xأنا)ن{\displaystyle \log \!\left({\frac {\sum _{i=1}^{n}x_{i}}{n}}\right)\geq {\frac {\sum _{i=1}^{n}\log \!\left(x_{i}\right)}{n}}}خبرة(سجل(أنا=1نxأنان))خبرة(أنا=1نسجل(xأنا)ن){\displaystyle \exp \!\left(\log \!\left({\frac {\sum _{i=1}^{n}x_{i}}{n}}\right)\right)\geq \exp \!\left({\frac {\sum _{i=1}^{n}\log \!\left(x_{i}\right)}{n}}\right)}x1+x2++xننx1x2xنن{\displaystyle {\frac {x_{1}+x_{2}+\cdots +x_{n}}{n}}\geq {\sqrt[{n}]{x_{1}\cdot x_{2}\cdots x_{n}}}}

في أحد التطبيقات الشائعة، يكون x دالةً لمتغير آخر (أو مجموعة من المتغيرات) t ، أيxأنا=ز(تأنا){\displaystyle x_{i}=g(t_{i})}. كل هذا ينتقل مباشرة إلى الحالة العامة المستمرة: يتم استبدال الأوزان a i بدالة قابلة للتكامل غير سالبة f ( x ) ، مثل توزيع احتمالي ، ويتم استبدال المجاميع بالتكاملات.

الشكل النظري للقياس

يترك(Ω،أ،μ){\displaystyle (\Omega ,A,\mu )}ليكن فضاء احتمالي .و:ΩR{\displaystyle f:\Omega \to \mathbb {R} }كنμ{\displaystyle \mu }- وظيفة قابلة للتكامل وφ:RR{\displaystyle \varphi إذا كانت المجموعة {R} محدبة، فإن: [ 5 ]φ(Ωودμ)Ωφودμ{\displaystyle \varphi \left(\int _{\Omega }f\,\mathrm {d} \mu \right)\leq \int _{\Omega }\varphi \circ f\,\mathrm {d} \mu }

في التحليل الحقيقي ، قد نحتاج إلى تقدير لـ

φ(أبو(x)دx){\displaystyle \varphi \left(\int _{a}^{b}f(x)\,dx\right)}

أينأ،بR{\displaystyle a,b\in \mathbb {R} }، وو:[أ،ب]R{\displaystyle f\colon [a,b]\to \mathbb {R} }هي دالة غير سالبة قابلة للتكامل وفقًا لمقياس ليبيغ. في هذه الحالة، يكون مقياس ليبيغ لـ[أ،ب]{\displaystyle [a,b]}ليس بالضرورة أن يكون 1. ومع ذلك، من خلال التكامل بالتعويض، يمكن إعادة قياس الفترة بحيث يكون قياسها 1. ثم يمكن تطبيق متباينة جنسن للحصول على [ 6 ]

φ(1ب-أأبو(x)دx)1ب-أأبφ(و(x))دx.{\displaystyle \varphi \left({\frac {1}{b-a}}\int _{a}^{b}f(x)\,dx\right)\leq {\frac {1}{b-a}}\int _{a}^{b}\varphi (f(x))\,dx.}

الشكل الاحتمالي

يمكن التعبير عن النتيجة نفسها بشكل مكافئ في إطار نظرية الاحتمالات ، من خلال تغيير بسيط في الترميز. ليكن(Ω،F،P){\displaystyle (\Omega ,{\mathfrak {F}},\operatorname {P} )}ليكن فضاء احتمالي ، و X متغيرًا عشوائيًا حقيقيًا قابلًا للتكامل، وφ{\displaystyle \varphi }دالة محدبة . ثم [ 7 ]φ(هـ[X])هـ[φ(X)].{\displaystyle \varphi {\big (}\operatorname {E} [X]{\big )}\leq \operatorname {E} [\varphi (X)].}

في هذا السياق الاحتمالي، يُقصد بالمقياس μ أن يكون احتمالًاP{\displaystyle \operatorname {P} }، التكامل بالنسبة إلى μ كقيمة متوقعةهـ{\displaystyle \operatorname {E} }، والوظيفةو{\displaystyle f}كمتغير عشوائي X.

لاحظ أن المساواة تتحقق إذا وفقط إذاφ{\displaystyle \varphi }هي دالة خطية على مجموعة محدبة ماأ{\displaystyle A}بحيثP(Xأ)=1{\displaystyle P(X\in A)=1}(والذي يتبع ذلك من خلال فحص البرهان النظري للقياس أدناه).

عدم المساواة العامة في إطار احتمالي

بشكل أعم، ليكن T فضاءً متجهيًا طوبولوجيًا حقيقيًا ، و X متغيرًا عشوائيًا قابلًا للتكامل ذو قيم في T. في هذا السياق العام، تعني قابلية التكامل وجود عنصرهـ[X]{\displaystyle \operatorname {E} [X]}في T ، بحيث يكون لأي عنصر z في الفضاء الثنائي لـ T :هـ|z،X|<{\displaystyle \operatorname {E} |\langle z,X\rangle |<\infty }، وz،هـ[X]=هـ[z،X]{\displaystyle \langle z,\operatorname {E} [X]\rangle =\operatorname {E} [\langle z,X\rangle ]}ثم، لأي دالة محدبة قابلة للقياس φ وأي جبر جزئي من نوع σجي{\displaystyle {\mathfrak {G}}}لF{\displaystyle {\mathfrak {F}}}:

φ(هـ[X|جي])هـ[φ(X)|جي].{\displaystyle \varphi \left(\operatorname {E} \left[X\mid {\mathfrak {G}}\right]\right)\leq \operatorname {E} \left[\varphi (X)\mid {\mathfrak {G}}\right].}

هناهـ[|جي]{\displaystyle \operatorname {E} [\cdot \mid {\mathfrak {G}}]}يرمز إلى التوقع المشروط بجبر سيجماجي{\displaystyle {\mathfrak {G}}}يؤول هذا البيان العام إلى البيانات السابقة عندما يكون الفضاء المتجهي الطوبولوجي T هو المحور الحقيقي ، وجي{\displaystyle {\mathfrak {G}}}هي الجبر التافه σ {∅, Ω} (حيث هي المجموعة الفارغة ، و Ω هي فضاء العينة ). [ 8 ]

شكل مُحسَّن ومعمَّم

ليكن X متغيرًا عشوائيًا أحادي البعد بمتوسطμ{\displaystyle \mu }والتباينσ20{\displaystyle \sigma ^{2}\geq 0}. يتركφ(x){\displaystyle \varphi (x)}لتكن دالة قابلة للتفاضل مرتين، ولنعرف الدالة

ح(x)φ(x)-φ(μ)(x-μ)2-φ(μ)x-μ.{\displaystyle h(x)\triangleq {\frac {\varphi \left(x\right)-\varphi \left(\mu \right)}{\left(x-\mu \right)^{2}}}-{\frac {\varphi '\left(\mu \right)}{x-\mu }}.}

ثم [ 9 ]

σ2معلوماتφ"(x)2σ2معلوماتح(x)هـ[φ(X)]-φ(هـ[X])σ2رشفةح(x)σ2رشفةφ"(x)2.{\displaystyle \sigma ^{2}\inf {\frac {\varphi ''(x)}{2}}\leq \sigma ^{2}\inf h(x)\leq E\left[\varphi \left(X\right)\right]-\varphi \left(E[X]\right)\leq \sigma ^{2}\sup h(x)\leq \sigma ^{2}\sup {\frac {\varphi ''(x)}{2}}.}

على وجه الخصوص، عندماφ(x){\displaystyle \varphi (x)}إذا كان محدبًا، فإنφ"(x)0{\displaystyle \varphi ''(x)\geq 0}ويترتب على ذلك مباشرةً الشكل القياسي لمتباينة جنسن في الحالة التي يكون فيهاφ(x){\displaystyle \varphi (x)}ويفترض أيضاً أنها قابلة للتفاضل مرتين.

البراهين

برهان بياني بديهي

برهان بياني لمتباينة جنسن في الحالة الاحتمالية. يمثل المنحنى المتقطع على طول المحور السيني التوزيع الافتراضي لـ X ، بينما يمثل المنحنى المتقطع على طول المحور الصادي التوزيع المقابل لقيم Y. لاحظ أن الدالة المحدبة Y ( X ) تُوسّع التوزيع بشكل متزايد مع ازدياد قيم X.
هذا برهانٌ مُختصرٌ لمتباينة جنسن لـ n متغيرًا. وبدون فقدان للعمومية، فإن مجموع الأوزان الموجبة يساوي 1. ويترتب على ذلك أن النقطة الموزونة تقع ضمن الغلاف المحدب للنقاط الأصلية، والذي يقع فوق الدالة نفسها بحسب تعريف التحدب. ومن ثمّ، نصل إلى النتيجة. [ 10 ]

يمكن إثبات متباينة جنسن بعدة طرق، وسنقدم ثلاثة براهين مختلفة تتوافق مع العبارات المختلفة المذكورة أعلاه. قبل الخوض في هذه الاشتقاقات الرياضية، يجدر تحليل حجة بيانية بديهية تستند إلى الحالة الاحتمالية حيث يكون X عددًا حقيقيًا (انظر الشكل). بافتراض توزيع افتراضي لقيم X ، يمكن تحديد موضعها مباشرةً.هـ[X]{\displaystyle \operatorname {E} [X]}وصورتهاφ(هـ[X]){\displaystyle \varphi (\operatorname {E} [X])}في الرسم البياني. بملاحظة أنه بالنسبة للتطبيقات المحدبة Y = φ ( x ) لبعض قيم x ، فإن التوزيع المقابل لقيم Y يزداد "امتدادًا لأعلى" مع ازدياد قيم X ، فمن السهل أن نرى أن توزيع Y يكون أوسع في الفترة المقابلة لـ X > X₀ وأضيق في X < X₀ لأي قيمة لـ X₀ ؛ وعلى وجه الخصوص، ينطبق هذا أيضًا علىX0=هـ[X]{\displaystyle X_{0}=\operatorname {E} [X]}وبالتالي، في هذه الصورة، ستتحرك القيمة المتوقعة لـ Y دائمًا إلى الأعلى بالنسبة لموقعφ(هـ[X]){\displaystyle \varphi (\operatorname {E} [X])}وينطبق منطق مماثل إذا كان توزيع X يغطي جزءًا متناقصًا من الدالة المحدبة، أو جزءًا متناقصًا وآخر متزايدًا منها. وهذا "يثبت" المتباينة، أي

φ(هـ[X])هـ[φ(X)]=هـ[Y]،{\displaystyle \varphi (\operatorname {E} [X])\leq \operatorname {E} [\varphi (X)]=\operatorname {E} [Y],}

مع المساواة عندما لا يكون φ ( X ) محدبًا تمامًا، على سبيل المثال عندما يكون خطًا مستقيمًا، أو عندما يتبع X توزيعًا منحطًا (أي ثابتًا).

تُضفي البراهين التالية طابعاً رسمياً على هذا المفهوم البديهي.

البرهان 1 (الصيغة المحدودة)

إذا كان λ₁ و λ₂ عددين حقيقيين غير سالبين بحيث يكون λ₁ + λ₂ = 1 ، فإن تحدب φ يستلزم

x1،x2:φ(λ1x1+λ2x2)λ1φ(x1)+λ2φ(x2).{\displaystyle \forall x_{1},x_{2}:\qquad \varphi \left(\lambda _{1}x_{1}+\lambda _{2}x_{2}\right)\leq \lambda _{1}\,\varphi (x_{1})+\lambda _{2}\,\varphi (x_{2}).}

يمكن تعميم ذلك: إذا كانت λ₁ ، ...، λₙ أعدادًا حقيقية غير سالبة بحيث يكون λ₁ + ... + λₙ = 1 ، فإن

φ(λ1x1+λ2x2++λنxن)λ1φ(x1)+λ2φ(x2)++λنφ(xن)،{\displaystyle \varphi (\lambda _{1}x_{1}+\lambda _{2}x_{2}+\cdots +\lambda _{n}x_{n})\leq \lambda _{1}\,\varphi (x_{1})+\lambda _{2}\,\varphi (x_{2})+\cdots +\lambda _{n}\,\varphi (x_{n}),}

لأي x 1 ، ... ، x n .

يمكن إثبات الصيغة المحدودة لمتباينة جنسن بالاستقراء : بناءً على فرضيات التحدب، تكون العبارة صحيحة عندما n  =  2. لنفترض أن العبارة صحيحة لبعض قيم n ، إذن

φ(أنا=1نλأناxأنا)أنا=1نλأناφ(xأنا){\displaystyle \varphi \left(\sum _{i=1}^{n}\lambda _{i}x_{i}\right)\leq \sum _{i=1}^{n}\lambda _{i}\varphi \left(x_{i}\right)}

لأي λ 1 ، ... ، λ n بحيث يكون λ 1 + ... + λ n = 1 .

يجب إثبات ذلك لـ n + 1. على الأقل أحد قيم λ i أصغر تمامًا من1{\displaystyle 1}لنفترض أن λ n +1 ؛ وبالتالي، بحسب متباينة التحدب:

φ(أنا=1ن+1λأناxأنا)=φ((1-λن+1)أنا=1نλأنا1-λن+1xأنا+λن+1xن+1)(1-λن+1)φ(أنا=1نλأنا1-λن+1xأنا)+λن+1φ(xن+1).{\displaystyle {\begin{aligned}\varphi \left(\sum _{i=1}^{n+1}\lambda _{i}x_{i}\right)&=\varphi \left((1-\lambda _{n+1})\sum _{i=1}^{n}{\frac {\lambda _{i}}{1-\lambda _{n+1}}}x_{i}+\lambda _{n+1}x_{n+1}\right)\\&\leq (1-\lambda _{n+1})\varphi \left(\sum _{i=1}^{n}{\frac {\lambda _{i}}{1-\lambda _{n+1}}}x_{i}\right)+\lambda _{n+1}\,\varphi (x_{n+1}).\end{aligned}}}

بما أن lect 1 + ... + lect n + lect n +1 = 1 ,

أنا=1نλأنا1-λن+1=1{\displaystyle \sum _{i=1}^{n}{\frac {\lambda _{i}}{1-\lambda _{n+1}}}=1}،

بتطبيق الفرضية الاستقرائية نحصل على

φ(أنا=1نλأنا1-λن+1xأنا)أنا=1نλأنا1-λن+1φ(xأنا){\displaystyle \varphi \left(\sum _{i=1}^{n}{\frac {\lambda _{i}}{1-\lambda _{n+1}}}x_{i}\right)\leq \sum _{i=1}^{n}{\frac {\lambda _{i}}{1-\lambda _{n+1}}}\varphi (x_{i})}

لذلك

φ(أنا=1ن+1λأناxأنا)(1-λن+1)أنا=1نλأنا1-λن+1φ(xأنا)+λن+1φ(xن+1)=أنا=1ن+1λأناφ(xأنا){\displaystyle {\begin{aligned}\varphi \left(\sum _{i=1}^{n+1}\lambda _{i}x_{i}\right)&\leq (1-\lambda _{n+1})\sum _{i=1}^{n}{\frac {\lambda _{i}}{1-\lambda _{n+1}}}\varphi (x_{i})+\lambda _{n+1}\,\varphi (x_{n+1})=\sum _{i=1}^{n+1}\lambda _{i}\varphi (x_{i})\end{aligned}}}

نستنتج أن المتباينة صحيحة لـ n + 1 ، وبالاستقراء يتبع أن النتيجة صحيحة أيضًا لجميع الأعداد الصحيحة n الأكبر من 2.

للحصول على المتباينة العامة من هذه الصيغة المحدودة، يلزم استخدام حجة الكثافة. ويمكن إعادة كتابة الصيغة المحدودة على النحو التالي:

φ(xدμن(x))φ(x)دμن(x)،{\displaystyle \varphi \left(\int x\,d\mu _{n}(x)\right)\leq \int \varphi (x)\,d\mu _{n}(x),}

حيث μ n هو مقياس معطى بواسطة تركيبة محدبة عشوائية من دلتا ديراك :

μن=أنا=1نλأنادلتاxأنا.{\displaystyle \mu _{n}=\sum _{i=1}^{n}\lambda _{i}\delta _{x_{i}}.}

بما أن الدوال المحدبة متصلة ، وبما أن التركيبات المحدبة لدلتا ديراك كثيفة بشكل ضعيف في مجموعة مقاييس الاحتمال (كما يمكن التحقق منه بسهولة)، فإن البيان العام يتم الحصول عليه ببساطة عن طريق إجراء تقريبي.

البرهان الثاني (بصيغة نظرية القياس)

يتركز{\displaystyle g}كن ذا قيمة حقيقيةμ{\displaystyle \mu }دالة قابلة للتكامل على فضاء احتماليΩ{\displaystyle \Omega }ودعφ{\displaystyle \varphi }لتكن دالة محدبة على الأعداد الحقيقية.φ{\displaystyle \varphi }محدبة، عند كل عدد حقيقيx{\displaystyle x}لدينا مجموعة غير فارغة من المشتقات الفرعية ، والتي يمكن اعتبارها خطوطًا تلامس الرسم البياني لـφ{\displaystyle \varphi }فيx{\displaystyle x}، ولكنها تقع أسفل الرسم البياني لـφ{\displaystyle \varphi }في جميع النقاط (خطوط الدعم في الرسم البياني).

الآن، إذا قمنا بتعريف

x0:=Ωزدμ،{\displaystyle x_{0}:=\int _{\Omega }g\,d\mu ,}

بسبب وجود المشتقات الجزئية للدوال المحدبة، يمكننا اختيارأ{\displaystyle a}وب{\displaystyle b}بحيث

أx+بφ(x)،{\displaystyle ax+b\leq \varphi (x),}

لكل حقيقيx{\displaystyle x}و

أx0+ب=φ(x0).{\displaystyle ax_{0}+b=\varphi (x_{0}).}

لكن لدينا ذلك

φز(ω)أز(ω)+ب{\displaystyle \varphi \circ g(\omega )\geq ag(\omega )+b}

بالنسبة للجميع تقريباًωΩ{\displaystyle \omega \in \Omega }بما أن لدينا مقياس احتمالي، فإن التكامل يكون رتيبًا معμ(Ω)=1{\displaystyle \mu (\Omega )=1}لهذا السبب.

ΩφزدμΩ(أز+ب)دμ=أΩزدμ+بΩدμ=أx0+ب=φ(x0)=φ(Ωزدμ)،{\displaystyle \int _{\Omega }\varphi \circ g\,d\mu \geq \int _{\Omega }(ag+b)\,d\mu =a\int _{\Omega }g\,d\mu +b\int _{\Omega }d\mu =ax_{0}+b=\varphi (x_{0})=\varphi \left(\int _{\Omega }g\,d\mu \right),}

حسب الرغبة.

البرهان الثالث (المتباينة العامة في سياق احتمالي)

ليكن X متغيرًا عشوائيًا قابلًا للتكامل يأخذ قيمًا في فضاء متجهي طوبولوجي حقيقي T. بما أنφ:تيR{\displaystyle \varphi :T\to \mathbb {R} }محدبة، لأيx،yتي{\displaystyle x,y\in T}الكمية

φ(x+θy)-φ(x)θ،{\displaystyle {\frac {\varphi (x+\theta \,y)-\varphi (x)}{\theta }},}

تتناقص القيمة كلما اقتربت θ من 0+ . على وجه الخصوص، التفاضل الجزئي لـφ{\displaystyle \varphi }يتم تعريف الدالة عند النقطة x في الاتجاه y بشكل جيد بواسطة

(دφ)(x)y:=ليمθ0φ(x+θy)-φ(x)θ=معلوماتθ0φ(x+θy)-φ(x)θ.{\displaystyle (D\varphi )(x)\cdot y:=\lim _{\theta \downarrow 0}{\frac {\varphi (x+\theta \,y)-\varphi (x)}{\theta }}=\inf _{\theta \neq 0}{\frac {\varphi (x+\theta \,y)-\varphi (x)}{\theta }}.}

من السهل ملاحظة أن التفاضل الجزئي خطي في y (وهذا خطأ، ويتطلب هذا الادعاء إثبات نظرية هان-باناخ)، وبما أن القيمة الدنيا المأخوذة في الطرف الأيمن من الصيغة السابقة أصغر من قيمة الحد نفسه عندما θ = 1 ، نحصل على

φ(x)φ(x+y)-(دφ)(x)y.{\displaystyle \varphi (x)\leq \varphi (x+y)-(D\varphi )(x)\cdot y.}

على وجه الخصوص، بالنسبة لجبر فرعي عشوائي من نوع σجي{\displaystyle {\mathfrak {G}}}يمكننا تقييم المتباينة الأخيرة عندماx=هـ[X|جي]،y=X-هـ[X|جي]{\displaystyle x=\operatorname {E} [X\mid {\mathfrak {G}}],\,y=X-\operatorname {E} [X\mid {\mathfrak {G}}]}للحصول على

φ(هـ[X|جي])φ(X)-(دφ)(هـ[X|جي])(X-هـ[X|جي]).{\displaystyle \varphi (\operatorname {E} [X\mid {\mathfrak {G}}])\leq \varphi (X)-(D\varphi )(\operatorname {E} [X\mid {\mathfrak {G}}])\cdot (X-\operatorname {E} [X\mid {\mathfrak {G}}]).}

الآن، إذا أخذنا التوقع المشروط بـجي{\displaystyle {\mathfrak {G}}}على جانبي التعبير السابق، نحصل على النتيجة لأن:

هـ[[(دφ)(هـ[X|جي])(X-هـ[X|جي])]|جي]=(دφ)(هـ[X|جي])هـ[(X-هـ[X|جي])|جي]=0،{\displaystyle \operatorname {E} \left[\left[(D\varphi )(\operatorname {E} [X\mid {\mathfrak {G}}])\cdot (X-\operatorname {E} [X\mid {\mathfrak {G}}])\right]\mid {\mathfrak {G}}\right]=(D\varphi )(\operatorname {E} [X\mid {\mathfrak {G}}])\cdot \operatorname {E} [\left(X-\operatorname {E} [X\mid {\mathfrak {G}}]\right)\mid {\mathfrak {G}}]=0,}

وذلك من خلال خطية التفاضل الجزئي في المتغير y ، والخاصية المعروفة التالية للتوقع الشرطي :

هـ[(هـ[X|جي])|جي]=هـ[X|جي].{\displaystyle \operatorname {E} \left[\left(\operatorname {E} [X\mid {\mathfrak {G}}]\right)\mid {\mathfrak {G}}\right]=\operatorname {E} [X\mid {\mathfrak {G}}].}

التطبيقات والحالات الخاصة

صيغة تتضمن دالة كثافة احتمالية

لنفترض أن Ω هي مجموعة جزئية قابلة للقياس من خط الأعداد الحقيقية، وأن f ( x ) دالة غير سالبة بحيث

-و(x)دx=1.{\displaystyle \int _{-\infty }^{\infty }f(x)\,dx=1.}

في لغة الاحتمالات، f هي دالة كثافة الاحتمال .

عندئذٍ تصبح متباينة جنسن العبارة التالية حول التكاملات المحدبة:

إذا كانت g أي دالة قابلة للقياس ذات قيم حقيقية وφ{\textstyle \varphi }إذا كانت الدالة محدبة على مدى الدالة g ، فإن

φ(-ز(x)و(x)دx)-φ(ز(x))و(x)دx.{\displaystyle \varphi \left(\int _{-\infty }^{\infty }g(x)f(x)\,dx\right)\leq \int _{-\infty }^{\infty }\varphi (g(x))f(x)\,dx.}

إذا كانت g ( x ) = x ، فإن هذا الشكل من المتباينة يختزل إلى حالة خاصة شائعة الاستخدام:

φ(-xو(x)دx)-φ(x)و(x)دx.{\displaystyle \varphi \left(\int _{-\infty }^{\infty }x\,f(x)\,dx\right)\leq \int _{-\infty }^{\infty }\varphi (x)\,f(x)\,dx.}

يتم تطبيق هذا في طرق بايز المتغيرة .

مثال: العزوم الزوجية لمتغير عشوائي

إذا كانت g ( x ) = x²ⁿ ، و X متغير عشوائي، فإن g تكون محدبة عندما

د2زدx2(x)=2ن(2ن-1)x2ن-20 xR{\displaystyle {\frac {d^{2}g}{dx^{2}}}(x)=2n(2n-1)x^{2n-2}\geq 0\quad \forall \ x\in \mathbb {R} }

وهكذا

ز(هـ[X])=(هـ[X])2نهـ[X2ن].{\displaystyle g(\operatorname {E} [X])=(\operatorname {E} [X])^{2n}\leq \operatorname {E} [X^{2n}].}

على وجه الخصوص، إذا كان أحد العزوم الزوجية 2n للمتغير العشوائي X محدودًا، فإن X له متوسط ​​محدود. ويُظهر امتداد هذه الحجة أن X له عزوم محدودة من كل رتبة.لشمال{\displaystyle l\in \mathbb {N} }قسمة ن .

صيغة محدودة بديلة

لنفترض أن Ω = { x 1 , ... x n ولنأخذ μ كمقياس العد على Ω ، فإن الشكل العام يختزل إلى عبارة حول المجاميع:

φ(أنا=1نز(xأنا)λأنا)أنا=1نφ(ز(xأنا))λأنا،{\displaystyle \varphi \left(\sum _{i=1}^{n}g(x_{i})\lambda _{i}\right)\leq \sum _{i=1}^{n}\varphi (g(x_{i}))\lambda _{i},}

بشرط أن يكون λ i ≥ 0 و

λ1++λن=1.{\displaystyle \lambda _{1}+\cdots +\lambda _{n}=1.}

يوجد أيضاً شكل منفصل لانهائي.

الفيزياء الإحصائية

تُعدّ متباينة جنسن ذات أهمية خاصة في الفيزياء الإحصائية عندما تكون الدالة المحدبة دالة أسية، مما يُعطي:

هـهـ[X]هـ[هـX]،{\displaystyle e^{\operatorname {E} [X]}\leq \operatorname {E} \left[e^{X}\right],}

حيث تكون القيم المتوقعة بالنسبة لتوزيع احتمالي معين في المتغير العشوائي X.

نظرية المعلومات

إذا كانت p ( x ) هي دالة الكثافة الاحتمالية الحقيقية لـ X ، و q ( x ) هي دالة كثافة أخرى، فإن تطبيق متباينة جنسن للمتغير العشوائي Y ( X ) = q ( X )/ p ( X ) والدالة المحدبة φ ( y ) = −log( y ) يعطي

هـ[φ(Y)]φ(هـ[Y]){\displaystyle \operatorname {E} [\varphi (Y)]\geq \varphi (\operatorname {E} [Y])}

لذلك:

-د(ص(x)q(x))=ص(x)سجل(q(x)ص(x))دxسجل(ص(x)q(x)ص(x)دx)=سجل(q(x)دx)=0{\displaystyle -D(p(x)\|q(x))=\int p(x)\log \left({\frac {q(x)}{p(x)}}\right)\,dx\leq \log \left(\int p(x){\frac {q(x)}{p(x)}}\,dx\right)=\log \left(\int q(x)\,dx\right)=0}

نتيجة تسمى متباينة جيبس .

يُظهر ذلك أن متوسط ​​طول الرسالة يُقلل إلى أدنى حد عند تعيين الرموز بناءً على الاحتمالات الحقيقية p بدلاً من أي توزيع آخر q . تُسمى الكمية غير السالبة تباعد كولباك-لايبير لـ q عن p ، حيثد(ص(x)q(x))=ص(x)سجل(ص(x)q(x))دx{\displaystyle D(p(x)\|q(x))=\int p(x)\log \left({\frac {p(x)}{q(x)}}\right)dx}.

بما أن −log( x ) دالة محدبة تمامًا لـ x > 0 ، فإنه يترتب على ذلك أن المساواة تتحقق عندما يكون p ( x ) مساويًا لـ q ( x ) في كل مكان تقريبًا.

نظرية راو-بلاك ويل

إذا كانت L دالة محدبة وجي{\displaystyle {\mathfrak {G}}}إذن، من خلال الصيغة الشرطية لمتباينة جنسن، نحصل على جبر سيجما الفرعي

ل(هـ[دلتا(X)|جي])هـ[ل(دلتا(X))|جي]هـ[ل(هـ[دلتا(X)|جي])]هـ[ل(دلتا(X))].{\displaystyle L(\operatorname {E} [\delta (X)\mid {\mathfrak {G}}])\leq \operatorname {E} [L(\delta (X))\mid {\mathfrak {G}}]\quad \Longrightarrow \quad \operatorname {E} [L(\operatorname {E} [\delta (X)\mid {\mathfrak {G}}])]\leq \operatorname {E} [L(\delta (X))].}

إذا كان δ( X ) مُقدِّرًا لمعلمة غير مُلاحظة θ مُعطى متجهًا من المُتغيرات المُلاحظة X ؛ وإذا كانت T ( X ) إحصائية كافية لـ θ؛ فإنه يُمكن الحصول على مُقدِّر مُحسَّن، بمعنى أن يكون له خسارة مُتوقعة أقل L ، عن طريق حساب

دلتا1(X)=هـθ[دلتا(X)|تي(X)=تي(X)]،{\displaystyle \delta _{1}(X)=\operatorname {E} _{\theta }[\delta (X')\mid T(X')=T(X)],}

القيمة المتوقعة لـ δ بالنسبة إلى θ، مأخوذة على جميع متجهات المشاهدات X الممكنة المتوافقة مع نفس قيمة T ( X ) التي تمت ملاحظتها. علاوة على ذلك، ولأن T إحصائية كافية،دلتا1(X){\displaystyle \delta _{1}(X)}لا يعتمد على θ، وبالتالي يصبح إحصائية.

تُعرف هذه النتيجة باسم نظرية راو-بلاكويل .

تجنب المخاطرة

يمكن التعبير عن العلاقة بين النفور من المخاطرة وتناقص المنفعة الحدية للنتائج العددية بشكل رسمي باستخدام متباينة جنسن: يمكن تعريف النفور من المخاطرة بأنه تفضيل لنتيجة معينةu(هـ[x]){\displaystyle u(E[x])}إلى مقامرة عادلة ذات نتائج محتملة أكبر ولكنها غير مؤكدةu(x){\displaystyle u(x)}:

u(هـ[x])>هـ[u(x)]{\displaystyle u(E[x])>E[u(x)]}.

لكن هذه ببساطة متباينة جنسن لدالة مقعرةu(x){\displaystyle u(x)}: دالة منفعة تُظهر تناقصًا في المنفعة الحدية. [ 11 ]

التعميمات

إلى جانب صيغتها الكلاسيكية للأعداد الحقيقية والدوال المحدبة، تم توسيع متباينة جنسن لتشمل مجال نظرية المؤثرات . في هذا السياق غير التبادلي، تُعبَّر المتباينة بدلالة الدوال المحدبة للمؤثرات، أي الدوال المعرفة على فترة I والتي تحقق

و(λx+(1-λ)y)λو(x)+(1-λ)و(y){\displaystyle f{\bigl (}\lambda x+(1-\lambda )y{\bigr )}\leq \lambda f(x)+(1-\lambda )f(y)}

لكل زوج من المؤثرات المترافقة ذاتيًا x و y (مع أطياف في I) ولكل كمية قياسيةλ[0،1]{\displaystyle \lambda \in [0,1]}وضع هانسن وبيدرسن [ 12 ] صيغة نهائية لهذه المتباينة من خلال دراسة التراكيب المحدبة غير التبادلية الحقيقية. على وجه الخصوص، إذا كان لدينا مجموعة من n من المؤثرات الذاتية المرافقة المحدودةx1،...،xن{\displaystyle x_{1},\dots ,x_{n}}مع أطياف في I ومجموعة من n من المؤثراتأ1،...،أن{\displaystyle a_{1},\dots ,a_{n}}مُرضٍ

أنا=1نأأنا*أأنا=أنا،{\displaystyle \sum _{i=1}^{n}a_{i}^{*}a_{i}=I,}

عندئذٍ تتحقق متباينة جينسن التالية:

و(أنا=1نأأنا*xأناأأنا)أنا=1نأأنا*و(xأنا)أأنا.{\displaystyle f{\Bigl (}\sum _{i=1}^{n}a_{i}^{*}x_{i}a_{i}{\Bigr )}\leq \sum _{i=1}^{n}a_{i}^{*}f(x_{i})a_{i}.}

تُظهر هذه النتيجة أن التحويل المحدب "يحترم" التراكيب المحدبة غير التبادلية، مما يُوسّع المتباينة الكلاسيكية لتشمل المؤثرات دون الحاجة إلى قيود إضافية على فترة التعريف. [ 12 ] ويُقدّم امتدادٌ وثيق الصلة من خلال متباينة أثر جنسن. بالنسبة لدالة محدبة متصلة f مُعرّفة على I، إذا أخذنا في الاعتبار المصفوفات ذاتية الترافق...x1،...،xن{\displaystyle x_{1},\dots ,x_{n}}(مع الأطياف في I) والمصفوفاتأ1،...،أن{\displaystyle a_{1},\dots ,a_{n}}مُرضٍأنا=1نأأنا*أأنا=أنا{\displaystyle \sum _{i=1}^{n}a_{i}^{*}a_{i}=I}ثم يكون لدى المرء

Tr(و(أنا=1نأأنا*xأناأأنا))Tr(أنا=1نأأنا*و(xأنا)أأنا).{\displaystyle \operatorname {Tr} {\Bigl (}f{\Bigl (}\sum _{i=1}^{n}a_{i}^{*}x_{i}a_{i}{\Bigr )}{\Bigr )}\leq \operatorname {Tr} {\Bigl (}\sum _{i=1}^{n}a_{i}^{*}f(x_{i})a_{i}{\Bigr )}.}

تمتد هذه المتباينة بشكل طبيعي إلى جبر C* المزود بأثر محدود، وهي مفيدة بشكل خاص في تطبيقات تتراوح من ميكانيكا الإحصاء الكمي إلى نظرية المعلومات. علاوة على ذلك، تتوفر صيغ انكماشية لهذه المتباينات المؤثرة عندما نفترض فقطأنا=1نأأناتأأناأنا{\displaystyle \sum _{i=1}^{n}a_{i}^{t}a_{i}\leq I}بشرط استيفاء شروط إضافية مثلو(0)0{\displaystyle f(0)\leq 0}(عندما يكون 0 ∈ I) يتم فرضها. كما توضح التوسعات إلى الحقول المتصلة للمؤثرات وإلى الإعدادات التي تتضمن توقعات شرطية على جبر C مدى قابلية تطبيق هذه التعميمات على نطاق واسع.

انظر أيضاً

ملحوظات

  1. ^ جنسن، JLWV (1906). "Sur les fonctions convexes et les inégalités entre les valeurs moyennes" . اكتا ماثيماتيكا . 30 (1): 175-193 . دوى : 10.1007 / BF02418571 .
  2. ↑ غيساب، أ.؛ شميسر، ج . (2013). "الشروط اللازمة والكافية لصحة متباينة جنسن". أرشيف الرياضيات . 100 (6): 561-570 . doi : 10.1007/s00013-013-0522-3 . MR 3069109. S2CID 56372266 .  
  3. ديكينج، إف إم؛ كرايكامب، سي؛ لوبوها، إتش بي؛ ميستر، إل إي (2005). مقدمة حديثة في الاحتمالات والإحصاء: فهم لماذا وكيف . نصوص سبرينغر في الإحصاء. لندن: سبرينغر. doi : 10.1007/1-84628-168-7 . ISBN 978-1-85233-896-1.
  4. غاو، شيانغ؛ سيثارام، ميرا؛ رويتبرغ، أدريان (2019). "حدود فجوة جنسن، وآثارها على التوزيعات ذات التركيز المتوسط" (ملف PDF) . المجلة الأسترالية للتحليل الرياضي والتطبيقات . 16 (2). arXiv : 1712.05267 .
  5. صفحة ٢٥ من كتاب ريك دوريت (٢٠١٩). الاحتمالات: النظرية والأمثلة ( الطبعة الخامسة). مطبعة جامعة كامبريدج. رقم ISBN  978-1108473682.
  6. ^ نيكوليسكو، قسطنطين ب. “التفاوتات التكاملية” ، ص 12.
  7. ريك دوريت (2019). الاحتمالات: النظرية والأمثلة ( الطبعة الخامسة). مطبعة جامعة كامبريدج. ص 5. ISBN   978-1108473682.
  8. تنبيه: في هذا التعميم، يلزم افتراضات إضافية حول الدالة المحدبة و/أو الفضاء المتجهي الطوبولوجي، انظر المثال (1.3) في الصفحة 53 من كتاب بيرلمان، مايكل د. (1974). "متباينة جنسن لدالة محدبة ذات قيم متجهة على فضاء لانهائي الأبعاد" . مجلة التحليل متعدد المتغيرات . 4 (1): 52-65 . doi : 10.1016/0047-259X(74)90005-0 . hdl : 11299/199167 .
  9. لياو، ج.؛ بيرغ، أ. (2018). "تحسين متباينة جنسن". الإحصائي الأمريكي . 73 (3): 278-281 . arXiv : 1707.08644 . doi : 10.1080/00031305.2017.1419145 . S2CID 88515366 . 
  10. برادلي، سي جيه (2006). مقدمة في المتباينات . ليدز، المملكة المتحدة: مؤسسة الرياضيات في المملكة المتحدة. ص 97. ISBN  978-1-906001-11-7.
  11. باك، كيري (2010). تسعير الأصول ونظرية اختيار المحفظة . مطبعة جامعة أكسفورد. ص 5. ISBN  978-0-19-538061-3.
  12. 1 2 هانسن، فرانك؛ بيدرسن، جيرت ك. (2003). "متباينة جينسن للمؤثر". نشرة جمعية لندن الرياضية . 35 (4). مطبعة جامعة كامبريدج: 553-564 .

مراجع