المُقدِّر
في الإحصاء ، يُعدّ المُقدِّر قاعدةً لحساب تقدير لكمية معينة بناءً على البيانات المرصودة ؛ ولذلك، يتم التمييز بين القاعدة (المُقدِّر)، والكمية محل الاهتمام ( المُقدَّر )، ونتيجتها (التقدير). [ 1 ] على سبيل المثال، يُعدّ متوسط العينة مُقدِّراً شائع الاستخدام لمتوسط المجتمع .
توجد مُقدِّرات نقطية ومُقدِّرات فترية . تُعطي المُقدِّرات النقطية نتائج ذات قيمة واحدة، على عكس المُقدِّر الفتري الذي يُعطي نطاقًا من القيم المُحتملة. ولا يعني مصطلح "قيمة واحدة" بالضرورة "رقمًا واحدًا"، بل يشمل المُقدِّرات ذات القيم المتجهة أو الدوال.
تهتم نظرية التقدير بخصائص المُقدِّرات؛ أي بتحديد الخصائص التي يمكن استخدامها لمقارنة مُقدِّرات مختلفة (قواعد مختلفة لإنشاء التقديرات) لنفس الكمية، استنادًا إلى نفس البيانات. ويمكن استخدام هذه الخصائص لتحديد أفضل القواعد التي يجب استخدامها في ظل ظروف معينة. ومع ذلك، في الإحصاءات القوية ، تتناول النظرية الإحصائية التوازن بين امتلاك خصائص جيدة، إذا تحققت افتراضات محددة بدقة، وامتلاك خصائص أسوأ في ظل ظروف أوسع.
مناقشة
المُقدِّر أو التقدير النقطي هو إحصائية (أي دالة للبيانات) تُستخدم لاستنتاج قيمة مُعامل مجهول في نموذج إحصائي . ويُمكن صياغته عادةً بالقول: "المُقدِّر هو الطريقة المُختارة للحصول على تقدير لمُعامل مجهول". ويُطلق على المُعامل الذي يتم تقديره أحيانًا اسم المُقدَّر . ويمكن أن يكون هذا المُعامل محدود الأبعاد (في النماذج البارامترية وشبه البارامترية )، أو غير محدود الأبعاد (في النماذج شبه البارامترية وغير البارامترية ). [ 2 ] إذا تم ترميز المُعامل بـثم يُكتب المُقدِّر تقليديًا بإضافة علامة التشكيل (^) فوق الرمز:بما أن المُقدِّر دالةٌ للبيانات، فهو في حد ذاته متغير عشوائي ؛ ويُطلق على أي تحقق محدد لهذا المتغير العشوائي اسم "التقدير". أحيانًا يُستخدم مصطلحا "المُقدِّر" و"التقدير" بشكل متبادل.
لا يفرض التعريف قيودًا تُذكر على دوال البيانات التي يمكن تسميتها "مُقدِّرات". ويمكن تقييم جاذبية المُقدِّرات المختلفة بالنظر إلى خصائصها، مثل عدم التحيز ، ومتوسط مربع الخطأ ، والاتساق ، والتوزيع التقاربي ، وما إلى ذلك. ويُعد بناء المُقدِّرات ومقارنتها من مواضيع نظرية التقدير . وفي سياق نظرية القرار ، يُعتبر المُقدِّر نوعًا من قواعد القرار ، ويمكن تقييم أدائه باستخدام دوال الخسارة .
عند استخدام كلمة "مُقدِّر" دون تحديد، فإنها تشير عادةً إلى التقدير النقطي. في هذه الحالة، يكون التقدير نقطةً واحدةً في فضاء المعلمات . يوجد أيضًا نوع آخر من المُقدِّرات: مُقدِّرات الفترات ، حيث تكون التقديرات مجموعات جزئية من فضاء المعلمات.
تظهر مشكلة تقدير الكثافة في تطبيقين. أولهما، تقدير دوال كثافة الاحتمال للمتغيرات العشوائية، وثانيهما، تقدير دالة الكثافة الطيفية لسلسلة زمنية . في هاتين المسألتين، تكون التقديرات عبارة عن دوال يمكن اعتبارها تقديرات نقطية في فضاء لا نهائي الأبعاد، وتوجد مسائل تقدير فترات مقابلة.
تعريف
لنفترض وجود معلمة ثابتةيجب تقديرها. عندئذٍ، يكون "المُقدِّر" دالة تربط فضاء العينة بمجموعة من تقديرات العينة . مُقدِّر لـيُشار إليه عادةً بالرمزمن الملائم غالبًا التعبير عن النظرية باستخدام جبر المتغيرات العشوائية : وبالتالي إذايُستخدم للدلالة على متغير عشوائي يتوافق مع البيانات المرصودة، ويتم ترميز المُقدِّر (الذي يُعامل بدوره كمتغير عشوائي) كدالة لهذا المتغير العشوائي.التقدير لقيمة بيانات مُلاحظة مُحددة(أي لـ)) هووهي قيمة ثابتة. غالبًا ما يتم استخدام رمز مختصر حيثيتم تفسيرها مباشرة كمتغير عشوائي ، ولكن هذا قد يسبب ارتباكًا.
الخصائص الكمية
التعريفات والخصائص التالية ذات صلة. [ 3 ]
خطأ
لعينة معينة، " خطأ " المُقدِّريُعرَّف بأنه أينيمثل المعلمة التي يتم تقديرها. يعتمد الخطأ، e ، ليس فقط على المُقدِّر (صيغة التقدير أو الإجراء)، ولكن أيضًا على العينة.
متوسط مربع الخطأ
متوسط مربع الخطأ لـيُعرَّف بأنه القيمة المتوقعة (المتوسط المرجح بالاحتمالية، على جميع العينات) لمربعات الأخطاء؛ أي يُستخدم متوسط مربع الخطأ (MSE) للإشارة إلى مدى بُعد مجموعة التقديرات، في المتوسط، عن المعلمة المُقدَّرة. لنأخذ المثال التالي: لنفترض أن المعلمة هي مركز الهدف ، وأن المُقدِّر هو عملية إطلاق السهام نحو الهدف، وأن كل سهم يُمثِّل التقديرات (العينات). عندئذٍ، يعني ارتفاع متوسط مربع الخطأ أن متوسط بُعد السهام عن مركز الهدف كبير، بينما يعني انخفاضه أن متوسط بُعدها عن مركز الهدف صغير. قد تكون السهام مُتجمعة أو مُتباعدة. على سبيل المثال، حتى لو أصابت جميع السهام النقطة نفسها، ولكنها أخطأت الهدف بشكل كبير، فإن متوسط مربع الخطأ يظل كبيرًا نسبيًا. أما إذا كان متوسط مربع الخطأ منخفضًا نسبيًا، فمن المُرجَّح أن تكون السهام مُتجمعة بشكل أكبر (وليست مُتباعدة) حول الهدف.
انحراف العينة
لعينة معينة، الانحراف المعاينة للمُقدِّريُعرَّف بأنه أينهي القيمة المتوقعة للمُقدِّر. الانحراف المعياري للعينة،، لا يعتمد فقط على المُقدِّر، ولكن أيضًا على العينة.
التباين
تباينهي القيمة المتوقعة لمربعات انحرافات المعاينة؛ أييُستخدم هذا المقياس للإشارة إلى مدى بُعد مجموعة التقديرات، في المتوسط، عن القيمة المتوقعة لها. (لاحظ الفرق بين متوسط مربع الخطأ والتباين). إذا كان المعلم هو مركز الهدف، والأسهم هي التقديرات، فإن التباين المرتفع نسبيًا يعني تشتت الأسهم، بينما يعني التباين المنخفض نسبيًا تجمعها. حتى مع انخفاض التباين، قد يظل تجمع الأسهم بعيدًا عن الهدف، وحتى مع ارتفاع التباين، قد تظل مجموعة الأسهم المتفرقة غير متحيزة. أخيرًا، حتى لو أخطأت جميع الأسهم الهدف بشكل كبير، فإذا أصابت جميعها نفس النقطة، فإن التباين يساوي صفرًا.
تحيز
تحيزيُعرَّف بأنههي المسافة بين متوسط مجموعة التقديرات، والمعلمة الوحيدة التي يتم تقديرها. انحيازهي دالة للقيمة الحقيقية لـوبالتالي فإن التحيزيكونيعني ذلك أنه لكلتحيزيكون.
يوجد نوعان من المُقدِّرات: المُقدِّرات المتحيزة والمُقدِّرات غير المتحيزة. ويمكن تحديد ما إذا كان المُقدِّر متحيزًا أم لا من خلال العلاقة بينو 0:
- لو،متحيز.
- لو،محايد.
الانحياز هو أيضاً القيمة المتوقعة للخطأ، لأنإذا كان المعيار هو مركز الهدف والأسهم تمثل تقديرات، فإن قيمة مطلقة عالية نسبيًا للانحياز تعني أن متوسط موضع الأسهم بعيد عن الهدف، بينما قيمة مطلقة منخفضة نسبيًا للانحياز تعني أن متوسط موضع الأسهم دقيق. قد تكون الأسهم متباعدة أو متقاربة. العلاقة بين الانحياز والتباين مماثلة للعلاقة بين الدقة والضبط .
المُقدِّرهو مُقدِّر غير متحيز لـإذا وفقط إذاالانحياز خاصيةٌ للمُقدِّر، لا للتقدير نفسه. غالبًا ما يُشار إلى "تقدير منحاز" أو "تقدير غير منحاز"، ولكن المقصود في الواقع هو "تقدير من مُقدِّر منحاز" أو "تقدير من مُقدِّر غير منحاز". كما يخلط الكثيرون بين "خطأ" تقدير واحد و"انحياز" المُقدِّر. فكون خطأ أحد التقديرات كبيرًا لا يعني بالضرورة انحياز المُقدِّر. في الواقع، حتى لو كانت جميع التقديرات ذات قيم مطلقة فلكية لأخطائها، فإن القيمة المتوقعة للخطأ تساوي صفرًا، مما يعني أن المُقدِّر غير منحاز. كذلك، لا يمنع انحياز المُقدِّر من أن يكون خطأ التقدير صفرًا في حالة معينة. الوضع الأمثل هو الحصول على مُقدِّر غير منحاز ذي تباين منخفض، مع محاولة الحد من عدد العينات التي يكون فيها الخطأ شديدًا (أي تقليل القيم الشاذة ). ومع ذلك، فإن عدم التحيز ليس شرطاً أساسياً. ففي كثير من الأحيان، إذا سُمح بتحيز طفيف، يمكن إيجاد مُقدِّر ذي متوسط خطأ تربيعي أقل و/أو عدد أقل من تقديرات العينة الشاذة.
يُعدّ "التقدير غير المتحيز بالوسيط" بديلاً عن صيغة "غير المتحيز" المذكورة أعلاه، حيث يتوافق وسيط توزيع التقديرات مع القيمة الحقيقية؛ وبالتالي، على المدى الطويل، سيكون نصف التقديرات أقل من القيمة الحقيقية والنصف الآخر أعلى منها. وبينما ينطبق هذا مباشرةً على التقديرات ذات القيم العددية فقط، يمكن تعميمه على أي مقياس للنزعة المركزية للتوزيع: انظر التقديرات غير المتحيزة بالوسيط .
في مشكلة عملية،يمكن أن تكون هناك دائمًا علاقة وظيفية مععلى سبيل المثال، إذا نصت نظرية وراثية على وجود نوع من الأوراق (الخضراء النشوية) التي تحدث باحتمالية، معثم، من أجلالأوراق، المتغير العشوائيأو عدد الأوراق الخضراء النشوية، يمكن نمذجتها باستخدامالتوزيع. يمكن استخدام هذا الرقم للتعبير عن المُقدِّر التالي لـ:يمكن للمرء أن يثبت ذلكهو مُقدِّر غير متحيز لـ:
الحياد

A desired property for estimators is the unbiased trait where an estimator is shown to have no systematic tendency to produce estimates larger or smaller than the true parameter. Additionally, unbiased estimators with smaller variances are preferred over larger variances because it will be closer to the "true" value of the parameter. The unbiased estimator with the smallest variance is known as the minimum-variance unbiased estimator (MVUE).
To find if an estimator is unbiased, it is easy to follow along the equation . With estimator T with and parameter of interest solving the previous equation so it is shown as the estimator is unbiased. Looking at the figure to the right despite being the only unbiased estimator, if the distributions overlapped and were both centered around then distribution would actually be the preferred unbiased estimator.
Expectation When looking at quantities in the interest of expectation for the model distribution there is an unbiased estimator which should satisfy the two equations below.
| E1 |
| E2 |
Variance Similarly, when looking at quantities in the interest of variance as the model distribution there is also an unbiased estimator that should satisfy the two equations below.
| V1 |
| V2 |
Note we are dividing by n − 1 because if we divided with n we would obtain an estimator with a negative bias which would thus produce estimates that are too small for . It should also be mentioned that even though is unbiased for the reverse is not true.[4]
Relationships among the quantities
- The mean squared error, variance, and bias, are related: i.e. mean squared error = variance + square of bias. In particular, for an unbiased estimator, the variance equals the mean squared error.
- The standard deviation of an estimator of (the square root of the variance), or an estimate of the standard deviation of an estimator of , is called the standard error of .
- The bias-variance tradeoff will be used in model complexity, over-fitting and under-fitting. It is mainly used in the field of supervised learning and predictive modelling to diagnose the performance of algorithms.
Example
Consider a random variable following a normal probability distribution, and a biased estimator of the mean of that distribution where follows a degenerate distribution, i.e. , such that where all the terms are zero except using the Bienaymé formula, and نتحقق من العلاقة بين متوسط مربع الخطأ والتباين والتحيز. فيما يلي توضيح للخصائص الكمية لتقدير متوسط التوزيع الاحتمالي، مع الأخذ في الاعتبار،و.
الخصائص السلوكية
تناسق
المُقدِّر المتسق هو مُقدِّر تتقارب سلسلة تقديراته احتماليًا مع الكمية المُقدَّرة مع ازدياد حجم العينة (عادةً حجم العينة ) بلا حدود. بعبارة أخرى، زيادة حجم العينة تزيد من احتمالية اقتراب المُقدِّر من مُعامل المجتمع.
رياضياً، المُقدِّر هو مُقدِّر متسق للمعلمة، إذا وفقط إذا كان ذلك بالنسبة لتسلسل التقديراتولجميعمهما كان حجمها صغيراً، لدينا يمكن تسمية الاتساق المحدد أعلاه بالاتساق الضعيف. أما المتتالية فتُسمى متسقة بقوة إذا تقاربت بشكل شبه مؤكد إلى القيمة الحقيقية.
يمكن تحويل المُقدِّر الذي يتقارب إلى مُضاعفٍ لمعاملٍ ما إلى مُقدِّرٍ متسقٍ بضرب المُقدِّر بمعامل قياس ، أي القيمة الحقيقية مقسومةً على القيمة التقاربية للمُقدِّر. ويحدث هذا بكثرةٍ في تقدير معاملات القياس باستخدام مقاييس التشتت الإحصائي .
اتساق فيشر
يمكن اعتبار المُقدِّر متسقًا مع معيار فيشر طالما أن دالة المُقدِّر هي نفس دالة التوزيع التجريبي التي تُمثل دالة التوزيع الحقيقي. وفقًا للصيغة التالية: أينويمثلان دالة التوزيع التجريبية ودالة التوزيع النظرية على التوالي. ومن الأمثلة البسيطة للتحقق من اتساق مقدر ما وفقًا لطريقة فيشر، التحقق من اتساق المتوسط والتباين. على سبيل المثال، للتحقق من اتساق المتوسطوللتحقق من التباين، تأكد من أن[ 5 ]
الوضع الطبيعي التقاربي
المقدر الطبيعي التقاربي هو مقدر متسق يكون توزيعه حول المعلمة الحقيقيةيقترب من التوزيع الطبيعي بانحراف معياري يتقلص بما يتناسب معحجم العينةينمو. باستخدامللدلالة على التقارب في التوزيع ، مقدِّريكون التوزيع طبيعيًا تقاربيًا إذا بالنسبة للبعض.
في هذه التركيبةيمكن تسميتها بالتباين التقاربي للمُقدِّر. ومع ذلك، يُطلق عليها بعض المؤلفين أيضًا اسمالتباين التقاربي . [ 6 ] لاحظ أن التقارب لن يحدث بالضرورة لأي قيمة منتهيةلذلك، فإن هذه القيمة ليست سوى تقريب للتباين الحقيقي للمُقدِّر، بينما في النهاية يكون التباين التقاربييساوي صفرًا ببساطة. وعلى وجه الخصوص، فإن توزيع المُقدِّريتقارب بشكل ضعيف إلى دالة ديراك دلتا متمركزة عند.
في ظل شروط معتدلة على توزيع البيانات، تشير نظرية النهاية المركزية إلى التقارب الطبيعي لمتوسط العينة.كمُقدِّر للمتوسط الحقيقي. وبشكلٍ عام، تكون مُقدِّرات الاحتمال الأقصى طبيعية تقاربياً في ظل شروط انتظام ضعيفة نسبياً - انظر قسم التقارب في مقالة الاحتمال الأقصى. مع ذلك، ليست كل المُقدِّرات طبيعية تقاربياً؛ وأبسط الأمثلة نجدها عندما تقع القيمة الحقيقية للمعلمة على حدود منطقة المعلمة المسموح بها.
كفاءة
تُستخدم كفاءة المُقدِّر لتقدير الكمية المطلوبة بأقل خطأ ممكن. في الواقع، لا يوجد مُقدِّر أمثل صريح، بل يوجد فقط مُقدِّر أفضل. وتعتمد كفاءة المُقدِّر على اختيار دالة خسارة مُحددة ، وتنعكس في خاصيتين مرغوبتين طبيعيًا للمُقدِّرات: عدم التحيز.وأن يكون متوسط الخطأ التربيعي (MSE) في حده الأدنى. لا يمكن بشكل عام تحقيق كليهما في وقت واحد: قد يكون للمقدر المتحيز متوسط خطأ تربيعي أقل من أي مقدر غير متحيز (انظر تحيز المقدر ).
تربط هذه المعادلة متوسط مربع الخطأ بانحياز المقدر: [ 4 ]يمثل الحد الأول متوسط مربع الخطأ، ويمثل الحد الثاني مربع انحياز المُقدِّر، ويمثل الحد الثالث تباين المُقدِّر. يمكن تحديد جودة المُقدِّر من خلال المقارنة بين التباين، ومربع انحياز المُقدِّر، أو متوسط مربع الخطأ. يكون تباين المُقدِّر الجيد (ذو الكفاءة العالية) أصغر من تباين المُقدِّر الرديء (ذو الكفاءة المنخفضة). ويكون مربع انحياز المُقدِّر الجيد أصغر من انحياز المُقدِّر الرديء. ويكون متوسط مربع الخطأ للمُقدِّر الجيد أصغر من متوسط مربع الخطأ للمُقدِّر الرديء. لنفترض وجود مُقدِّرين،هو المُقدِّر الجيد وهذا هو التقدير غير الدقيق. يمكن التعبير عن العلاقة المذكورة أعلاه بالصيغ التالية:إلى جانب استخدام الصيغة لتحديد كفاءة المُقدِّر، يمكن أيضًا تحديدها من خلال الرسم البياني. فإذا كان المُقدِّر كفؤًا، سيظهر في الرسم البياني للتكرار مقابل القيمة منحنى ذو تكرار عالٍ في المنتصف وتكرار منخفض على الجانبين. على سبيل المثال:

إذا لم يكن المقدر فعالاً، فسيكون هناك منحنى أكثر انحداراً نسبياً في الرسم البياني للتردد مقابل القيمة.

ببساطة، يتميز المُقدِّر الجيد بمنحنى ضيق، بينما يتميز المُقدِّر السيئ بمنحنى واسع. وعند رسم هذين المنحنيين على رسم بياني واحد بمحور ص مشترك ، يصبح الفرق أكثر وضوحًا.

من بين المُقدِّرات غير المتحيزة، يوجد غالبًا مُقدِّر ذو أقل تباين، يُسمى مُقدِّر التباين الأدنى غير المتحيز ( MVUE ). في بعض الحالات ، يوجد مُقدِّر كفء غير متحيز ، بالإضافة إلى كونه الأقل تباينًا بين المُقدِّرات غير المتحيزة، فإنه يُحقق حد كرامر-راو ، وهو حد أدنى مطلق للتباين لإحصاءات متغير ما.
فيما يتعلق بـ "أفضل المقدرات غير المتحيزة"، انظر أيضًا حد كرامر-راو ، ونظرية جاوس-ماركوف ، ونظرية ليمان-شيفيه ، ونظرية راو-بلاكويل .
المتانة
انظر أيضاً
- أفضل مقدر خطي غير متحيز (BLUE)
- المقياس التجريبي
- نظرية التقدير
- المُقدِّر الثابت
- مرشح كالمان
- سلسلة ماركوف مونت كارلو (MCMC)
- أقصى احتمال لاحق (MAP)
- طريقة العزوم ، طريقة العزوم المعممة
- الحد الأدنى لمتوسط مربع الخطأ (MMSE)
- مرشح الجسيمات
- معيار بيتمان للتقارب
- تقدير النقطة
- الحساسية والنوعية
- مقدر الانكماش
- معالجة الإشارات
- مراقب الدولة
- الشاهد
- فلتر وينر
- إحصائية حسنة السلوك
مراجع
- ↑ موستيلر، ف.؛ توكي، ج. و. (1987) [1968]. "تحليل البيانات، بما في ذلك الإحصاء" . الأعمال الكاملة لجون و. توكي: فلسفة ومبادئ تحليل البيانات 1965-1986 . المجلد 4. مطبعة سي آر سي. الصفحات 601-720 [الصفحة 633]. ISBN 0-534-05101-4– عبر كتب جوجل .
- ^ كوسوروك (2008)، القسم 3.1، ص 35-39.
- ↑ جاينز (2007)، ص 172.
- 1 2 ديكينغ، فريدريك ميشيل؛ كرايكامب، كورنيليس؛ لوبوها، هندريك بول؛ ميستر، لودولف إروين (2005). مقدمة حديثة للاحتمالات والإحصاء . نصوص سبرينغر في الإحصاء. رقم ISBN 978-1-85233-896-1.
- ↑ لوريتزن، ستيفن. "خصائص المقدرات" (ملف PDF) . جامعة أكسفورد . تم الاطلاع عليه بتاريخ 9 ديسمبر 2023 .
- ↑ كاسيلا وبيرغر (2002)، ص 471
للمزيد من القراءة
- بولشيف، لوجين نيكولايفيتش (2001) [1994]، "المُقدِّر الإحصائي" ، موسوعة الرياضيات ، دار نشر EMS.
- كاسيلا، جورج؛ بيرغر، روجر ل. (2002). الاستدلال الإحصائي ( الطبعة الثانية). دوكسبري.
- جاينز، إي تي (2007). نظرية الاحتمالات: منطق العلم ( الطبعة الخامسة). مطبعة جامعة كامبريدج . رقم ISBN 978-0-521-59271-0..
- كوسوروك، مايكل (2008). مقدمة في العمليات التجريبية والاستدلال شبه المعلمي . سلسلة سبرينغر في الإحصاء. سبرينغر . doi : 10.1007/978-0-387-74978-5 . ISBN 978-0-387-74978-5.
- ليمان، إي إل ؛ كاسيلا، جي. (1998). نظرية التقدير النقطي ( الطبعة الثانية). سبرينغر . ISBN 0-387-98502-6.
- شاو، جون (1998)، الإحصاء الرياضي ، سبرينغر ، رقم ISBN 0-387-98674-X
روابط خارجية
- أساسيات نظرية التقدير
- المُقدِّر
