الاستدلال الإحصائي

نظراً لصعوبة تحديد التوزيعات الدقيقة لإحصاءات العينة، فقد تم تطوير العديد من الطرق لتقريب هذه الإحصاءات.

في حالة العينات المحدودة، تقيس نتائج التقريب مدى قرب التوزيع الحدي من توزيع العينة الإحصائية : على سبيل المثال، مع 10000 عينة مستقلة، يُقارب التوزيع الطبيعي (بدقة رقمين) توزيع متوسط ​​العينة للعديد من توزيعات المجتمع، وفقًا لنظرية بيري-إسين . ^{[ 15 ]} ومع ذلك، ولأغراض عملية كثيرة، يُوفر التقريب الطبيعي تقريبًا جيدًا لتوزيع متوسط ​​العينة عندما يكون هناك 10 عينات مستقلة (أو أكثر)، وفقًا لدراسات المحاكاة وخبرة الإحصائيين. ^{[ 15 ]} بعد عمل كولموغوروف في الخمسينيات، تستخدم الإحصاءات المتقدمة نظرية التقريب والتحليل الوظيفي لتحديد خطأ التقريب كميًا. في هذا النهج، تُدرس الهندسة المترية لتوزيعات الاحتمالات ؛ يُحدد هذا النهج خطأ التقريب كمياً باستخدام، على سبيل المثال، تباعد كولباك-لايبير ، وتباعد بريغمان ، ومسافة هيلينجر . ^{[ 16 ] [ 17 ] [ 18 ]}

مع العينات الكبيرة جدًا، تصف النتائج الحدية ، مثل نظرية النهاية المركزية، التوزيع الحدي لإحصائية العينة، إن وُجد. لا تُعدّ النتائج الحدية عباراتٍ تتعلق بالعينات المحدودة، بل هي في الواقع غير ذات صلة بها. ^{[ 19 ] [ 20 ] [ 21 ]} ومع ذلك، غالبًا ما تُستعان بنظرية التوزيعات الحدية التقاربية في العمل مع العينات المحدودة. على سبيل المثال، تُستخدم النتائج الحدية عادةً لتبرير طريقة العزوم المعممة واستخدام معادلات التقدير المعممة ، الشائعة في الاقتصاد القياسي والإحصاء الحيوي . يمكن تقييم حجم الفرق بين التوزيع الحدي والتوزيع الحقيقي (بشكل رسمي، "خطأ" التقريب) باستخدام المحاكاة . ^{[ 22 ]} يُعدّ التطبيق الاستدلالي للنتائج الحدية على العينات المحدودة ممارسة شائعة في العديد من التطبيقات، لا سيما مع النماذج منخفضة الأبعاد ذات احتمالات لوغاريتمية مقعرة (مثل العائلات الأسية ذات المعلمة الواحدة ).

من الممارسات الشائعة الرجوع إلى نموذج إحصائي، مثل النموذج الخطي أو اللوجستي، عند تحليل بيانات التجارب العشوائية. ^{[ 40 ]} ومع ذلك، فإن آلية العشوائية هي التي تحدد اختيار النموذج الإحصائي. ولا يمكن اختيار نموذج مناسب دون معرفة آلية العشوائية. ^{[ 24 ]} قد تُسفر تحليلات بيانات التجارب العشوائية مع تجاهل البروتوكول التجريبي عن نتائج مضللة للغاية؛ ومن الأخطاء الشائعة نسيان الحجب المستخدم في التجربة، والخلط بين القياسات المتكررة على نفس الوحدة التجريبية وبين التكرارات المستقلة للمعالجة المطبقة على وحدات تجريبية مختلفة. ^{[ 41 ]}

تُكمّل التقنيات غير القائمة على النماذج الأساليب القائمة على النماذج، والتي تستخدم استراتيجيات اختزالية لتبسيط الواقع. تجمع هذه التقنيات بين الخوارزميات وتطورها وتُجمّعها وتُدرّبها، مُتكيفةً ديناميكيًا مع السياقات الخاصة بالعملية، ومتعلمةً الخصائص الجوهرية للملاحظات. ^{[ 42 ] [ 43 ]}

على سبيل المثال، يعتمد الانحدار الخطي البسيط غير المعتمد على النموذج إما على:

• تصميم عشوائي ، حيث أزواج الملاحظات${\displaystyle (X_{1},Y_{1}),(X_{2},Y_{2}),\cdots ,(X_{n},Y_{n})}$مستقلة وموزعة توزيعاً متطابقاً (iid)،
• أو تصميم حتمي ، حيث المتغيرات${\displaystyle X_{1},X_{2},\cdots ,X_{n}}$هي حتمية، لكن متغيرات الاستجابة المقابلة${\displaystyle Y_{1},Y_{2},\cdots ,Y_{n}}$عشوائية ومستقلة ولها توزيع شرطي مشترك، أي${\displaystyle P\left(Y_{j}\leq y|X_{j}=x\right)=D_{x}(y)}$وهو أمر مستقل عن المؤشر${\displaystyle j}$.

في كلتا الحالتين، يكون الاستدلال العشوائي غير المعتمد على النموذج لخصائص التوزيع الشرطي المشترك${\displaystyle D_{x}(.)}$يعتمد على بعض شروط الانتظام، مثل السلاسة الوظيفية. على سبيل المثال، الاستدلال العشوائي غير المعتمد على النموذج لمتوسط ​​الخصائص المشروطة للسكان ،${\displaystyle \mu (x)=E(Y|X=x)}$يمكن تقديرها باستمرار عن طريق المتوسط ​​المحلي أو ملاءمة كثير الحدود المحلي، بافتراض أن${\displaystyle \mu (x)}$سلس. كذلك، بالاعتماد على التوزيع الطبيعي التقاربي أو إعادة التوزيع، يمكننا بناء فترات ثقة لخاصية المجتمع، وفي هذه الحالة، المتوسط ​​الشرطي .${\displaystyle \mu (x)}$[ ^{44 ]​}

• قيمة p
• فاصل الثقة
• اختبار دلالة الفرضية الصفرية

أحد تفسيرات الاستدلال التكراري (أو الاستدلال الكلاسيكي) هو أنه ينطبق فقط على احتمالية التكرار ؛ أي على أخذ عينات متكررة من مجتمع إحصائي. مع ذلك، يطور منهج نيمان ^{[ 46 ]} هذه الإجراءات باستخدام احتمالات ما قبل التجربة. بمعنى آخر، قبل إجراء أي تجربة، يتم تحديد قاعدة للوصول إلى استنتاج بحيث يتم التحكم في احتمالية صحة الاستنتاج بطريقة مناسبة: لا يشترط أن يكون لهذا الاحتمال تفسير تكراري أو تفسير يعتمد على أخذ عينات متكررة. في المقابل، يعمل الاستدلال البايزي باستخدام الاحتمالات الشرطية (أي الاحتمالات المشروطة بالبيانات المرصودة)، مقارنةً بالاحتمالات الهامشية (المشروطة بمعلمات مجهولة) المستخدمة في المنهج التكراري.

يمكن بناء إجراءات الإحصاء التكراري لاختبار الدلالة وفترات الثقة دون النظر إلى دوال المنفعة . مع ذلك، تتضمن بعض عناصر الإحصاء التكراري، مثل نظرية القرار الإحصائي ، دوال المنفعة . على وجه الخصوص، تستخدم التطورات التكرارية للاستدلال الأمثل (مثل المقدرات غير المتحيزة ذات التباين الأدنى ، أو اختبار القوة القصوى الموحدة ) دوال الخسارة ، التي تؤدي دور دوال المنفعة (السلبية). لا يشترط ذكر دوال الخسارة صراحةً ليثبت المنظرون الإحصائيون أن إجراءً إحصائيًا يتمتع بخاصية الأمثلية. ^{[ 47 ]} مع ذلك، غالبًا ما تكون دوال الخسارة مفيدة في تحديد خصائص الأمثلية: على سبيل المثال، تُعد المقدرات غير المتحيزة بالوسيط مثالية في ظل دوال خسارة القيمة المطلقة ، لأنها تقلل الخسارة المتوقعة، وتُعد مقدرات المربعات الصغرى مثالية في ظل دوال خسارة الخطأ التربيعي، لأنها تقلل الخسارة المتوقعة.

بينما يتعين على الإحصائيين الذين يستخدمون الاستدلال التكراري اختيار المعلمات ذات الأهمية، والمقدرات / إحصائية الاختبار التي سيتم استخدامها بأنفسهم ، فإن غياب المنافع الصريحة والتوزيعات المسبقة الواضحة قد ساعد في جعل الإجراءات التكرارية تُعتبر على نطاق واسع "موضوعية". ^{[ 48 ]}

• الفترة الموثوقة لتقدير الفترات
• عوامل بايز لمقارنة النماذج

تعتمد العديد من الاستدلالات البايزية غير الرسمية على ملخصات "معقولة بديهيًا" للتوزيع الاحتمالي اللاحق. على سبيل المثال، يمكن تفسير المتوسط ​​والوسيط والمنوال للتوزيع الاحتمالي اللاحق، وفترات أعلى كثافة احتمالية لاحقة، وعوامل بايز، جميعها بهذه الطريقة. مع أن دالة منفعة المستخدم ليست ضرورية لهذا النوع من الاستدلال، إلا أن هذه الملخصات تعتمد (إلى حد ما) على المعتقدات المسبقة المعلنة، وتُعتبر عمومًا استنتاجات ذاتية. (وقد طُرحت طرق لبناء التوزيعات المسبقة لا تتطلب مدخلات خارجية، ولكنها لم تُطوّر بشكل كامل بعد).

يُعاير الاستدلال البايزي رسميًا بالرجوع إلى دالة منفعة أو خسارة مُحددة بوضوح؛ و"قاعدة بايز" هي التي تُعظّم المنفعة المتوقعة، مُعدّلةً على أساس عدم اليقين اللاحق. ولذلك، يُوفّر الاستدلال البايزي الرسمي قرارات مثلى تلقائيًا من منظور نظرية القرار . وبافتراضات وبيانات ومنفعة مُحددة، يُمكن تطبيق الاستدلال البايزي على أي مشكلة تقريبًا، مع العلم أنه ليس بالضرورة أن يكون لكل استدلال إحصائي تفسير بايزي. قد تكون التحليلات غير البايزية رسميًا غير متسقة (منطقيًا) ؛ ومن سمات الإجراءات البايزية التي تستخدم توزيعات احتمالية مسبقة مناسبة (أي تلك القابلة للتكامل إلى واحد) أنها مضمونة الاتساق . ويؤكد بعض مُؤيدي الاستدلال البايزي على ضرورة إجراء الاستدلال ضمن هذا الإطار النظري للقرار، وأنه لا ينبغي أن ينتهي الاستدلال البايزي بتقييم وتلخيص المعتقدات اللاحقة.

تم تطوير مبدأ الحد الأدنى لطول الوصف (MDL) من أفكار في نظرية المعلومات ^{[ 50 ]} ونظرية تعقيد كولموغوروف ^{[ 51 ]} . يختار مبدأ (MDL) النماذج الإحصائية التي تضغط البيانات إلى أقصى حد؛ ويتم الاستدلال دون افتراض "آليات توليد بيانات" مضادة للواقع أو غير قابلة للتفنيد أو نماذج احتمالية للبيانات، كما هو الحال في المناهج التكرارية أو البايزية.

مع ذلك، إذا وُجدت "آلية لتوليد البيانات" في الواقع، فإنها، وفقًا لنظرية شانون لترميز المصدر، تُقدّم وصفًا للبيانات باستخدام طريقة الحد الأدنى لطول الوصف (MDL)، في المتوسط ​​وبشكل تقاربي. ^{[ 52 ]} في تقليل طول الوصف (أو التعقيد الوصفي)، يُشابه تقدير MDL تقدير الاحتمال الأقصى وتقدير الاحتمال اللاحق الأقصى (باستخدام التوزيعات الاحتمالية المسبقة البايزية ذات الإنتروبيا القصوى ). مع ذلك، يتجنب MDL افتراض معرفة نموذج الاحتمال الأساسي؛ كما يُمكن تطبيق مبدأ MDL دون افتراضات، مثل أن البيانات ناتجة عن أخذ عينات مستقلة. ^{[ 52 ] [ 53 ]}

تم تطبيق مبدأ MDL في نظرية ترميز الاتصالات في نظرية المعلومات ، وفي الانحدار الخطي ، ^{[ 53 ]} وفي استخراج البيانات . ^{[ 51 ]}

غالباً ما تستخدم عملية تقييم الإجراءات الاستدلالية القائمة على MDL تقنيات أو معايير من نظرية التعقيد الحسابي . ^{[ 54 ]}

كان الاستدلال الموثوق به منهجًا للاستدلال الإحصائي قائمًا على الاحتمال الموثوق به ، المعروف أيضًا باسم "التوزيع الموثوق به". في دراسات لاحقة، وُصف هذا المنهج بأنه غير مُحدد بدقة، ومحدود التطبيق للغاية، بل ومغلوط. ^{[ 55 ] [ 56 ]} ومع ذلك، فإن هذه الحجة هي نفسها التي تُبين ^{[ 57 ]} أن ما يُسمى بتوزيع الثقة ليس توزيعًا احتماليًا صالحًا ، ولأن هذا لم يُبطل تطبيق فترات الثقة ، فإنه لا يُبطل بالضرورة الاستنتاجات المستخلصة من الحجج الموثوقة. وقد بُذلت محاولة لإعادة تفسير العمل المبكر لحجة فيشر الموثوقة كحالة خاصة من نظرية الاستدلال التي تستخدم الاحتمالات العليا والدنيا . ^{[ 58 ]}

في الفترة ما بين عامي 1938 و1939، قام جورج أ. بارنارد بتطوير أفكار فيشر وبيتمان ^{[ 59 ]} ، ثم طور "الاستدلال البنيوي" أو "الاستدلال المحوري" ^{[ 60 ]} ، وهو منهج يستخدم الاحتمالات الثابتة على عائلات المجموعات . أعاد بارنارد صياغة الحجج الكامنة وراء الاستدلال الموثوق على فئة محدودة من النماذج التي تكون فيها الإجراءات "الموثوقة" محددة جيدًا ومفيدة. وقد طور دونالد أ. س. فريزر نظرية عامة للاستدلال البنيوي ^{[ 61 ]} استنادًا إلى نظرية المجموعات ، وطبقها على النماذج الخطية ^{[ 62 ]} . ترتبط النظرية التي صاغها فريزر ارتباطًا وثيقًا بنظرية القرار والإحصاء البايزي، ويمكنها توفير قواعد قرار تكرارية مثلى إن وجدت ^{[ 63 ] .}

انظر الاستدلال الكوني