الاستقلال (نظرية الاحتمالات)

متجهان عشوائيان${\displaystyle \mathbf {X} =(X_{1},\ldots ,X_{m})^{\mathrm {T} }}$و${\displaystyle \mathbf {Y} =(Y_{1},\ldots ,Y_{n})^{\mathrm {T} }}$تُسمى مستقلة إذا ^{[ 5 ] : ص 187}

${\displaystyle F_{\mathbf {X,Y} }(\mathbf {x,y} )=F_{\mathbf {X} }(\mathbf {x} )\cdot F_{\mathbf {Y} }(\mathbf {y} )\quad {\text{for all }}\mathbf {x} ,\mathbf {y} }$

المعادلة 6

أين${\displaystyle F_{\mathbf {X} }(\mathbf {x} )}$و${\displaystyle F_{\mathbf {Y} }(\mathbf {y} )}$تشير إلى دوال التوزيع التراكمي لـ${\displaystyle \mathbf {X} }$و${\displaystyle \mathbf {Y} }$و${\displaystyle F_{\mathbf {X,Y} }(\mathbf {x,y} )}$يرمز إلى دالة التوزيع التراكمي المشتركة بينهما. استقلال${\displaystyle \mathbf {X} }$و${\displaystyle \mathbf {Y} }$يُشار إليه غالبًا بـ${\displaystyle \mathbf {X} \perp \!\!\!\perp \mathbf {Y} }$مكتوبة على أساس المكونات،${\displaystyle \mathbf {X} }$و${\displaystyle \mathbf {Y} }$تُسمى مستقلة إذا

${\displaystyle F_{X_{1},\ldots ,X_{m},Y_{1},\ldots ,Y_{n}}(x_{1},\ldots ,x_{m},y_{1},\ldots ,y_{n})=F_{X_{1},\ldots ,X_{m}}(x_{1},\ldots ,x_{m})\cdot F_{Y_{1},\ldots ,Y_{n}}(y_{1},\ldots ,y_{n})\quad {\text{for all }}x_{1},\ldots ,x_{m},y_{1},\ldots ,y_{n}.}$

يتم تعميم التعريفين أعلاه ( المعادلتان 1 و 2 ) من خلال التعريف التالي للاستقلال في جبر سيجما . ليكن${\displaystyle (\Omega ,\Sigma ,\mathrm {P} )}$ليكن فضاء احتمالي وليكن${\displaystyle {\mathcal {A}}}$و${\displaystyle {\mathcal {B}}}$ليكن اثنان من الجبر الجزئي سيجما من${\displaystyle \Sigma }$.${\displaystyle {\mathcal {A}}}$و${\displaystyle {\mathcal {B}}}$يُقال إنها مستقلة إذا، كلما${\displaystyle A\in {\mathcal {A}}}$و${\displaystyle B\in {\mathcal {B}}}$،

${\displaystyle \mathrm {P} (A\cap B)=\mathrm {P} (A)\mathrm {P} (B).}$

وبالمثل، عائلة منتهية من جبر سيجما${\displaystyle (\tau _{i})_{i\in I}}$، أين${\displaystyle I}$إذا كانت مجموعة فهارس ، يُقال إنها مستقلة إذا وفقط إذا

${\displaystyle \forall \left(A_{i}\right)_{i\in I}\in \prod \nolimits _{i\in I}\tau _{i}\$ :\ \mathrm {P} \left(\bigcap \nolimits _{i\in I}A_{i}\right)=\prod \nolimits _{i\in I}\mathrm {P} \left(A_{i}\right)}

ويُقال إن عائلة لانهائية من جبر سيجما مستقلة إذا كانت جميع عائلاتها الفرعية المحدودة مستقلة.

يرتبط التعريف الجديد بالتعريفات السابقة بشكل مباشر للغاية:

• يكون حدثان مستقلين (بالمعنى القديم) إذا وفقط إذا كانت جبريات سيجما التي يولدانها مستقلة (بالمعنى الجديد). جبر سيجما الناتج عن حدث ما${\displaystyle E\in \Sigma }$هو، بحكم التعريف،

${\displaystyle \sigma (\{E\})=\{\emptyset ,E,\Omega \setminus E,\Omega \}.}$

• متغيران عشوائيان${\displaystyle X}$و${\displaystyle Y}$تم تعريفها على${\displaystyle \Omega }$تكون المتغيرات مستقلة (بالمعنى القديم) إذا وفقط إذا كانت جبريات سيجما التي تولدها مستقلة (بالمعنى الجديد). جبر سيجما الذي يولده متغير عشوائي${\displaystyle X}$أخذ القيم في حيز قابل للقياس${\displaystyle S}$يتألف، بحكم التعريف، من جميع المجموعات الفرعية لـ${\displaystyle \Omega }$من الشكل${\displaystyle X^{-1}(U)}$، أين${\displaystyle U}$هي أي مجموعة فرعية قابلة للقياس من${\displaystyle S}$.

باستخدام هذا التعريف، من السهل إثبات أنه إذا${\displaystyle X}$و${\displaystyle Y}$هي متغيرات عشوائية و${\displaystyle Y}$ثابت، إذن${\displaystyle X}$و${\displaystyle Y}$مستقلة، لأن الجبر سيجما الناتج عن متغير عشوائي ثابت هو الجبر سيجما التافه${\displaystyle \{\varnothing ,\Omega \}}$لا يمكن للأحداث ذات الاحتمالية الصفرية أن تؤثر على الاستقلال، لذا فإن الاستقلال يظل قائماً أيضاً إذا${\displaystyle Y}$Pr- ثابت تقريبًا بشكل مؤكد .

لاحظ أن الحدث يكون مستقلاً عن نفسه إذا وفقط إذا

${\displaystyle \mathrm {P} (A)=\mathrm {P} (A\cap A)=\mathrm {P} (A)\cdot \mathrm {P} (A)\iff \mathrm {P} (A)=0{\text{ or }}\mathrm {P} (A)=1.}$

وبالتالي، يكون الحدث مستقلاً عن نفسه إذا وفقط إذا حدث بشكل شبه مؤكد أو حدث مكمله بشكل شبه مؤكد؛ هذه الحقيقة مفيدة عند إثبات قوانين الصفر والواحد . ^{[ 8 ]}

وبالمثل، يكون المتغير العشوائي مستقلاً عن نفسه إذا وفقط إذا كان ثابتاً بشكل شبه مؤكد .

لو${\displaystyle X}$و${\displaystyle Y}$إذا كانت المتغيرات العشوائية مستقلة إحصائياً، فإن:

- القيمة المتوقعة للمنتج هي حاصل ضرب القيم المتوقعة ^{[ 9 ] : ص 10} :

${\displaystyle \operatorname {E} [X^{n}Y^{m}]=\operatorname {E} [X^{n}]\operatorname {E} [Y^{m}]}$

- التباين المشترك${\displaystyle \operatorname {Cov} [X,Y]}$يساوي صفرًا:

${\displaystyle \operatorname {Cov} [X,Y]=\operatorname {E} [XY]-\operatorname {E} [X]\operatorname {E} [Y]=0}$

- تباين المجموع هو مجموع التباينات:

${\displaystyle \operatorname {V} [X+Y]=\operatorname {V} [X]+\operatorname {V} [Y]+2\operatorname {Cov} [X,Y]=\operatorname {V} [X]+\operatorname {V} [Y]}$

- الارتباط يساوي صفرًا:

${\displaystyle \rho _{X,Y}={\dfrac {\operatorname {Cov} [X,Y]}{\sigma _{X}\sigma _{Y}}}=0}$

لا ينطبق العكس: فكل خاصية من هذه الخصائص لا تعني بالضرورة الاستقلال. على سبيل المثال، إذا كان لمتغيرين عشوائيين تباين مشترك يساوي صفرًا، فقد لا يكونان مستقلين.

وبالمثل بالنسبة لعمليتين عشوائيتين${\displaystyle \left\{X_{t}\right\}_{t\in {\mathcal {T}}}}$و${\displaystyle \left\{Y_{t}\right\}_{t\in {\mathcal {T}}}}$إذا كانت مستقلة، فهي غير مترابطة . ^{[ 10 ] : ص 151}

متغيران عشوائيان${\displaystyle X}$و${\displaystyle Y}$تكون مستقلة إذا وفقط إذا كانت الدالة المميزة للمتجه العشوائي${\displaystyle (X,Y)}$يرضي

${\displaystyle \varphi _{(X,Y)}(t,s)=\varphi _{X}(t)\cdot \varphi _{Y}(s).}$

وعلى وجه الخصوص، فإن الدالة المميزة لمجموعهما هي حاصل ضرب دوالهما المميزة الهامشية:

${\displaystyle \varphi _{X+Y}(t)=\varphi _{X}(t)\cdot \varphi _{Y}(t),}$

مع أن العكس غير صحيح. تُسمى المتغيرات العشوائية التي تحقق الشرط الأخير بالمتغيرات شبه المستقلة .

إن حدث الحصول على الرقم 6 في المرة الأولى التي يُرمى فيها النرد، وحدث الحصول على الرقم 6 في المرة الثانية، حدثان مستقلان . في المقابل، فإن حدث الحصول على الرقم 6 في المرة الأولى التي يُرمى فيها النرد، وحدث أن يكون مجموع الرقمين الظاهرين في المحاولتين الأولى والثانية هو 8، ليسا حدثين مستقلين .

إذا سُحبت ورقتان مع الإعادة من مجموعة أوراق اللعب، فإن حدث سحب ورقة حمراء في المحاولة الأولى وسحب ورقة حمراء في المحاولة الثانية مستقلان . في المقابل، إذا سُحبت ورقتان بدون إعادة من مجموعة أوراق اللعب، فإن حدث سحب ورقة حمراء في المحاولة الأولى وسحب ورقة حمراء في المحاولة الثانية غير مستقلين، لأن المجموعة التي أُزيلت منها ورقة حمراء تحتوي على عدد أقل من الأوراق الحمراء.

لننظر إلى فضاءي الاحتمالات الموضحين. في كلتا الحالتين،${\displaystyle \mathrm {P} (A)=\mathrm {P} (B)=1/2}$و${\displaystyle \mathrm {P} (C)=1/4}$الأحداث في الفضاء الأول مستقلة ثنائياً لأن${\displaystyle \mathrm {P} (A|B)=\mathrm {P} (A|C)=1/2=\mathrm {P} (A)}$،${\displaystyle \mathrm {P} (B|A)=\mathrm {P} (B|C)=1/2=\mathrm {P} (B)}$، و${\displaystyle \mathrm {P} (C|A)=\mathrm {P} (C|B)=1/4=\mathrm {P} (C)}$لكن الأحداث الثلاثة ليست مستقلة عن بعضها البعض. أما الأحداث في الفضاء الثاني فهي مستقلة ثنائياً ومستقلة عن بعضها البعض. ولتوضيح الفرق، لنفترض وجود شرط على حدثين. في حالة الاستقلال الثنائي، على الرغم من أن أي حدث مستقل عن كل من الحدثين الآخرين على حدة، إلا أنه ليس مستقلاً عن تقاطع الحدثين الآخرين.

${\displaystyle \mathrm {P} (A|BC)={\frac {\frac {4}{40}}{{\frac {4}{40}}+{\frac {1}{40}}}}={\tfrac {4}{5}}\neq \mathrm {P} (A)}$

${\displaystyle \mathrm {P} (B|AC)={\frac {\frac {4}{40}}{{\frac {4}{40}}+{\frac {1}{40}}}}={\tfrac {4}{5}}\neq \mathrm {P} (B)}$

${\displaystyle \mathrm {P} (C|AB)={\frac {\frac {4}{40}}{{\frac {4}{40}}+{\frac {6}{40}}}}={\tfrac {2}{5}}\neq \mathrm {P} (C)}$

أما في حالة الاستقلال المتبادل،

${\displaystyle \mathrm {P} (A|BC)={\frac {\frac {1}{16}}{{\frac {1}{16}}+{\frac {1}{16}}}}={\tfrac {1}{2}}=\mathrm {P} (A)}$

${\displaystyle \mathrm {P} (B|AC)={\frac {\frac {1}{16}}{{\frac {1}{16}}+{\frac {1}{16}}}}={\tfrac {1}{2}}=\mathrm {P} (B)}$

${\displaystyle \mathrm {P} (C|AB)={\frac {\frac {1}{16}}{{\frac {1}{16}}+{\frac {3}{16}}}}={\tfrac {1}{4}}=\mathrm {P} (C)}$

من الممكن إنشاء مثال من ثلاثة أحداث حيث

${\displaystyle \mathrm {P} (A\cap B\cap C)=\mathrm {P} (A)\mathrm {P} (B)\mathrm {P} (C),}$

ومع ذلك، لا يوجد حدثان من الأحداث الثلاثة مستقلان ثنائياً (وبالتالي فإن مجموعة الأحداث ليست مستقلة عن بعضها البعض). ^{[ 11 ]} يوضح هذا المثال أن الاستقلال المتبادل يتضمن شروطاً على حاصل ضرب احتمالات جميع تركيبات الأحداث، وليس فقط الأحداث الفردية كما في هذا المثال.

الأحداث${\displaystyle A}$و${\displaystyle B}$مستقلة شرطيًا بالنظر إلى حدث ما${\displaystyle C}$متى

${\displaystyle \mathrm {P} (A\cap B\mid C)=\mathrm {P} (A\mid C)\cdot \mathrm {P} (B\mid C)}$.

بشكل بديهي، متغيران عشوائيان${\displaystyle X}$و${\displaystyle Y}$مستقلة شرطيًا بالنظر إلى${\displaystyle Z}$إذا، مرة واحدة${\displaystyle Z}$إذا عُرفت قيمة${\displaystyle Y}$لا يضيف أي معلومات إضافية حول${\displaystyle X}$على سبيل المثال، قياسان${\displaystyle X}$و${\displaystyle Y}$من نفس الكمية الأساسية${\displaystyle Z}$ليست مستقلة، لكنها مستقلة شرطيًا بالنظر إلى${\displaystyle Z}$(إلا إذا كانت الأخطاء في القياسين مرتبطة بطريقة ما).

يعتمد التعريف الرسمي للاستقلال الشرطي على فكرة التوزيعات الشرطية . إذا${\displaystyle X}$،${\displaystyle Y}$، و${\displaystyle Z}$إذا كانت متغيرات عشوائية منفصلة ، ​​فإننا نُعرّف${\displaystyle X}$و${\displaystyle Y}$أن تكون مستقلة شرطيًا بالنظر إلى${\displaystyle Z}$لو

${\displaystyle \mathrm {P} (X\leq x,Y\leq y\;|\;Z=z)=\mathrm {P} (X\leq x\;|\;Z=z)\cdot \mathrm {P} (Y\leq y\;|\;Z=z)}$

للجميع${\displaystyle x}$،${\displaystyle y}$و${\displaystyle z}$بحيث${\displaystyle \mathrm {P} (Z=z)>0}$من ناحية أخرى، إذا كانت المتغيرات العشوائية متصلة ولها دالة كثافة احتمالية مشتركة${\displaystyle f_{XYZ}(x,y,z)}$، ثم${\displaystyle X}$و${\displaystyle Y}$مستقلة شرطيًا بالنظر إلى${\displaystyle Z}$لو

${\displaystyle f_{XY|Z}(x,y|z)=f_{X|Z}(x|z)\cdot f_{Y|Z}(y|z)}$

لجميع الأعداد الحقيقية${\displaystyle x}$،${\displaystyle y}$و${\displaystyle z}$بحيث${\displaystyle f_{Z}(z)>0}$.

إذا كان منفصلاً${\displaystyle X}$و${\displaystyle Y}$مستقلة شرطيًا بالنظر إلى${\displaystyle Z}$، ثم

${\displaystyle \mathrm {P} (X=x|Y=y,Z=z)=\mathrm {P} (X=x|Z=z)}$

لأي${\displaystyle x}$،${\displaystyle y}$و${\displaystyle z}$مع${\displaystyle \mathrm {P} (Z=z)>0}$أي التوزيع الشرطي لـ${\displaystyle X}$منح${\displaystyle Y}$و${\displaystyle Z}$هو نفسه ما تم تقديمه${\displaystyle Z}$بمفردها. وينطبق معادلة مماثلة على دوال كثافة الاحتمال الشرطي في الحالة المستمرة.

يمكن اعتبار الاستقلال نوعًا خاصًا من الاستقلال المشروط، حيث يمكن اعتبار الاحتمال نوعًا من الاحتمال المشروط في حالة عدم وقوع أحداث.