التمهيد الإحصائي

تُعدّ البساطة إحدى أهم مزايا أسلوب إعادة التوزيع (Bootstrap). فهو طريقة مباشرة لاستخلاص تقديرات الأخطاء المعيارية وفترات الثقة لتقديرات التوزيع المعقدة، مثل النقاط المئوية، والنسب، ونسبة الأرجحية ، ومعاملات الارتباط. ومع ذلك، ورغم بساطته، يُمكن تطبيق أسلوب إعادة التوزيع على تصميمات العينات المعقدة (على سبيل المثال، عند تقسيم مجتمع إلى s طبقة، مع n _s مشاهدة لكل طبقة، ومن الأمثلة على ذلك تجربة استجابة الجرعة، حيث يُمكن تطبيق أسلوب إعادة التوزيع على كل طبقة). ^{[ 15 ]} كما يُعدّ أسلوب إعادة التوزيع طريقة مناسبة للتحكم في استقرار النتائج والتحقق منه. فعلى الرغم من أنه من المستحيل معرفة فترة الثقة الحقيقية في معظم المسائل، إلا أن أسلوب إعادة التوزيع أكثر دقة تقاربياً من الفترات المعيارية المُستخلصة باستخدام تباين العينة وافتراضات التوزيع الطبيعي. ^{[ 16 ]} كما يُعدّ أسلوب إعادة التوزيع طريقة ملائمة تُجنّب تكلفة تكرار التجربة للحصول على مجموعات أخرى من بيانات العينة.

تعتمد عملية إعادة التوزيع (Bootstrap) بشكل كبير على المُقدِّر المُستخدم، وعلى الرغم من بساطتها، فإن استخدامها البسيط لا يُؤدي دائمًا إلى نتائج صحيحة تقاربياً، وقد يُفضي إلى عدم اتساق. ^{[ 17 ]} مع أن إعادة التوزيع (Bootstrap) متسقة تقاربياً (في بعض الحالات) ، إلا أنها لا تُقدم ضمانات عامة للعينات المحدودة. قد تعتمد النتيجة على العينة المُمثلة. قد تُخفي البساطة الظاهرية حقيقة وجود افتراضات مهمة عند إجراء تحليل إعادة التوزيع (مثل استقلالية العينات أو حجم العينة الكبير بما فيه الكفاية)، حيث تُذكر هذه الافتراضات بشكل أكثر رسمية في مناهج أخرى. كما أن إعادة التوزيع قد تستغرق وقتًا طويلاً، ولا تتوفر برامج كثيرة لها نظرًا لصعوبة أتمتتها باستخدام حزم البرامج الإحصائية التقليدية. ^{[ 15 ]}

أوصى الباحثون بزيادة عدد عينات إعادة التوزيع (Bootstrap) مع ازدياد القدرة الحاسوبية المتاحة. فإذا كانت النتائج قد تُحدث آثارًا جوهرية في الواقع العملي، فينبغي استخدام أكبر عدد ممكن من العينات، بما يتناسب مع القدرة الحاسوبية والوقت المتاحين. ولا تؤدي زيادة عدد العينات إلى زيادة كمية المعلومات في البيانات الأصلية، بل تُقلل فقط من آثار أخطاء المعاينة العشوائية التي قد تنشأ عن إجراء إعادة التوزيع نفسه. علاوة على ذلك، تشير الأدلة إلى أن زيادة عدد العينات عن 100 لا تُحسّن تقدير الأخطاء المعيارية إلا بشكل طفيف. ^{[ 18 ]} في الواقع، وفقًا لمطور طريقة إعادة التوزيع، فإن تحديد عدد العينات عند 50 يُرجّح أن يُؤدي إلى تقديرات جيدة نسبيًا للأخطاء المعيارية. ^{[ 19 ]}

يوصي أدير وآخرون بإجراء التمهيد في الحالات التالية: ^{[ 20 ]}

• عندما يكون التوزيع النظري لإحصائية معينة معقدًا أو غير معروف، فإن إجراء إعادة التوزيع العشوائي (Bootstrap) مستقل عن التوزيع، مما يوفر طريقة غير مباشرة لتقييم خصائص التوزيع الأساسي للعينة والمعلمات ذات الأهمية المشتقة من هذا التوزيع.

• عندما يكون حجم العينة غير كافٍ لإجراء استدلال إحصائي مباشر، فإن إعادة التوزيع (Bootstrap) توفر طريقةً لمعالجة التشوهات الناتجة عن العينة المحددة التي قد لا تمثل المجتمع تمثيلاً كاملاً.

• عند إجراء حسابات القدرة الإحصائية ، وتوفر عينة تجريبية صغيرة، فإن معظم حسابات القدرة الإحصائية وحجم العينة تعتمد بشكل كبير على الانحراف المعياري للإحصائية محل الاهتمام. إذا كان التقدير المستخدم غير صحيح، فسيكون حجم العينة المطلوب خاطئًا أيضًا. إحدى طرق الحصول على فكرة عن تباين الإحصائية هي استخدام عينة تجريبية صغيرة وإجراء عملية إعادة التوزيع العشوائي (Bootstrap) عليها للحصول على فكرة عن التباين.

مع ذلك، أوضح أثريا ^{[ 21 ]} أنه إذا تم استخدام طريقة إعادة التوزيع العشوائي البسيطة (bootstrap) على متوسط ​​العينة عندما يفتقر التوزيع الأصلي إلى تباين محدود (على سبيل المثال، توزيع قانون القوة )، فإن توزيع إعادة التوزيع العشوائي لن يتقارب إلى نفس الحد الذي يتقارب إليه متوسط ​​العينة. ونتيجة لذلك، قد تكون فترات الثقة المستندة إلى محاكاة مونت كارلو لإعادة التوزيع العشوائي مضللة. ويذكر أثريا أنه "ما لم يكن المرء متأكدًا بشكل معقول من أن التوزيع الأصلي ليس سميك الذيل ، فعليه التريث قبل استخدام طريقة إعادة التوزيع العشوائي البسيطة".

تُعدّ طريقة إعادة التوزيع (Bootstrap) مفيدةً عمومًا لتقدير توزيع إحصائية ما (مثل المتوسط ​​والتباين) دون الحاجة إلى افتراضات التوزيع الطبيعي (كما هو مطلوب، على سبيل المثال، لإحصائية z أو إحصائية t). وتُفيد هذه الطريقة تحديدًا عندما لا يتوفر شكل تحليلي أو نظرية تقارب (مثل نظرية النهاية المركزية المناسبة ) للمساعدة في تقدير توزيع الإحصائيات محل الاهتمام. وذلك لأن طرق إعادة التوزيع قابلة للتطبيق على معظم الكميات العشوائية، مثل نسبة التباين إلى المتوسط. وهناك طريقتان على الأقل لإجراء إعادة التوزيع.

1. تُعدّ خوارزمية مونت كارلو لإعادة أخذ عينات الحالات بسيطة للغاية. أولًا، نعيد أخذ عينات من البيانات مع الإحلال، ويجب أن يكون حجم العينة المعاد أخذها مساويًا لحجم مجموعة البيانات الأصلية. ثم تُحسب الإحصائية المطلوبة من العينة المعاد أخذها في الخطوة الأولى. نكرر هذه العملية عدة مرات للحصول على تقدير أدق لتوزيع بوتستراب للإحصائية. ^{[ 2 ]}
2. النسخة "الدقيقة" لإعادة أخذ عينات الحالات مشابهة، لكننا نحصي بشكل شامل كل عملية إعادة أخذ عينات ممكنة لمجموعة البيانات. قد يكون هذا مكلفًا حسابيًا نظرًا لوجود إجمالي${\displaystyle {\binom {2n-1}{n}}={\frac {(2n-1)!}{n!(n-1)!}}}$عدد العينات المُعاد تشكيلها هو n، حيث n هو حجم مجموعة البيانات. وبالتالي، بالنسبة لـ n  =  5،  10،  20،  30، يوجد 126، 92378، 6.89  ×  10 ^ ^10، و5.91  × ^{10^16}  عينة مُعاد تشكيلها مختلفة على التوالي. ^{[ 22 ]}

يمكن تفسير عملية إعادة التوزيع العشوائي (Bootstrapping) في إطار بايزي باستخدام مخطط يُنشئ مجموعات بيانات جديدة من خلال إعادة ترجيح البيانات الأولية. بالنظر إلى مجموعة من${\displaystyle N}$نقاط البيانات، الوزن المخصص لنقطة البيانات${\displaystyle i}$في مجموعة بيانات جديدة${\displaystyle {\mathcal {D}}^{J}}$يكون${\displaystyle w_{i}^{J}=x_{i}^{J}-x_{i-1}^{J}}$، أين${\displaystyle \mathbf {x} ^{J}}$هي قائمة مرتبة من الأدنى إلى الأعلى لـ${\displaystyle N-1}$أرقام عشوائية موزعة بشكل منتظم على${\displaystyle [0,1]}$، مسبوقة بـ 0 ومتبوعة بـ 1. توزيعات المعلمة المستنتجة من دراسة العديد من مجموعات البيانات هذه${\displaystyle {\mathcal {D}}^{J}}$ويمكن تفسيرها بعد ذلك على أنها توزيعات لاحقة على تلك المعلمة. ^{[ 23 ]}

في هذا المخطط، تُضاف كمية صغيرة من الضوضاء العشوائية (عادةً ما تكون موزعة توزيعًا طبيعيًا) ذات مركز صفري إلى كل مشاهدة مُعاد أخذ عينات منها. وهذا يُعادل أخذ عينات من تقدير كثافة النواة للبيانات. لنفترض أن K دالة كثافة نواة متناظرة ذات تباين يساوي واحدًا. مُقدِّر النواة القياسي${\displaystyle {\hat {f\,}}_{h}(x)}$ل${\displaystyle f(x)}$يكون

${\displaystyle {\hat {f\,}}_{h}(x)={1 \over nh}\sum _{i=1}^{n}K\left({x-X_{i} \over h}\right),}$ ^{[ 24 ]}

أين${\displaystyle h}$يمثل معامل التنعيم. ومُقدِّر دالة التوزيع المقابل.${\displaystyle {\hat {F\,}}_{h}(x)}$يكون

${\displaystyle {\hat {F\,}}_{h}(x)=\int _{-\infty }^{x}{\hat {f}}_{h}(t)\,dt.}$ ^{[ 24 ]}

بناءً على افتراض أن مجموعة البيانات الأصلية هي عينة عشوائية من توزيع ذي نوع بارامتري محدد، يتم في هذه الحالة تركيب نموذج بارامتري باستخدام المعامل θ، غالبًا باستخدام طريقة الاحتمال الأقصى ، ثم تُسحب عينات من الأرقام العشوائية من هذا النموذج المُركّب. عادةً ما يكون حجم العينة المسحوبة مساويًا لحجم عينة البيانات الأصلية. عندئذٍ، يمكن كتابة تقدير الدالة الأصلية F على النحو التالي:${\displaystyle {\hat {F}}=F_{\hat {\theta }}}$تُكرر عملية أخذ العينات هذه عدة مرات كما هو الحال في طرق إعادة التوزيع الأخرى. وبالنظر إلى متوسط ​​العينة المُمركز في هذه الحالة، فإن دالة التوزيع الأصلية للعينة العشوائية${\displaystyle F_{\theta }}$يتم استبدالها بعينة عشوائية بوتستراب باستخدام الدالة${\displaystyle F_{\hat {\theta }}}$، وتوزيع الاحتمالات لـ${\displaystyle {\bar {X_{n}}}-\mu _{\theta }}$يتم تقريبها بواسطة قيمة${\displaystyle {\bar {X}}_{n}^{*}-\mu ^{*}}$، أين${\displaystyle \mu ^{*}=\mu _{\hat {\theta }}}$وهو التوقع المقابل لـ${\displaystyle F_{\hat {\theta }}}$[ ^{25 ] إن استخدام نموذج بارامتري في مرحلة أخذ العينات لمنهجية bootstrap يؤدي إلى إجراءات تختلف عن تلك التي تم الحصول عليها من خلال تطبيق النظرية} الإحصائية الأساسية على الاستدلال لنفس النموذج .

هناك طريقة أخرى لإعادة أخذ عينات من البواقي في مسائل الانحدار . وتتم هذه الطريقة على النحو التالي.

1. قم بملاءمة النموذج واحتفظ بالقيم المُلائمة${\displaystyle {\widehat {y\,}}_{i}}$والبواقي${\displaystyle {\widehat {\varepsilon \,}}_{i}=y_{i}-{\widehat {y\,}}_{i},(i=1,\dots ,n)}$.
2. لكل زوج ( xᵢ _, yᵢ ₎ ، حيث xᵢ هو المتغير التفسيري (الذي قد يكون متعدد المتغيرات)، أضف باقيًا معاد أخذ عينات منه _{عشوائيًا} .${\displaystyle {\widehat {\varepsilon \,}}_{j}}$، إلى القيمة المُقاسة${\displaystyle {\widehat {y\,}}_{i}}$بمعنى آخر، قم بإنشاء متغيرات استجابة اصطناعية${\displaystyle y_{i}^{*}={\widehat {y\,}}_{i}+{\widehat {\varepsilon \,}}_{j}}$حيث يتم اختيار j عشوائياً من القائمة (1، ...، n ) لكل i .
3. أعد ضبط النموذج باستخدام متغيرات الاستجابة الوهمية${\displaystyle y_{i}^{*}}$، والاحتفاظ بالكميات ذات الأهمية (غالباً المعلمات،${\displaystyle {\widehat {\mu }}_{i}^{*}}$، المقدرة من التركيبية${\displaystyle y_{i}^{*}}$).
4. كرر الخطوتين 2 و 3 عددًا كبيرًا من المرات.

تتميز هذه الطريقة بأنها تحافظ على المعلومات الموجودة في المتغيرات التفسيرية. مع ذلك، يثور تساؤل حول أي البواقي يجب إعادة أخذ عينات منها. تُعد البواقي الخام أحد الخيارات، بينما تُعد البواقي المعيارية (في الانحدار الخطي) خيارًا آخر. على الرغم من وجود حجج تدعم استخدام البواقي المعيارية، إلا أنه عمليًا، غالبًا ما يكون الفرق ضئيلًا، ومن السهل مقارنة نتائج الطريقتين.

عندما تكون البيانات مرتبطة زمنيًا، فإن إعادة التوزيع العشوائي المباشر يُزيل الارتباطات الكامنة. تستخدم هذه الطريقة انحدار العمليات الغاوسية (GPR) لتركيب نموذج احتمالي يمكن من خلاله سحب عينات متكررة. انحدار العمليات الغاوسية هو طريقة انحدار غير خطية بايزية. العملية الغاوسية (GP) هي مجموعة من المتغيرات العشوائية، أي عدد محدود منها له توزيع غاوسي (طبيعي) مشترك. تُعرَّف العملية الغاوسية بدالة متوسط ​​ودالة تباين، تُحددان متجهات المتوسط ​​ومصفوفات التباين لكل مجموعة محدودة من المتغيرات العشوائية. ^{[ 26 ]}

نموذج الانحدار:

${\displaystyle y(x)=f(x)+\varepsilon ,\ \ \varepsilon \sim {\mathcal {N}}(0,\sigma ^{2}),}$${\displaystyle \varepsilon }$هو مصطلح متعلق بالضوضاء.

الاحتمال المسبق لعملية غاوس:

بالنسبة لأي مجموعة محدودة من المتغيرات، x1 _،  ...، xn _، فإن الدالة تُخرج ${\displaystyle f(x_{1}),\ldots ,f(x_{n})}$يتم توزيعها بشكل مشترك وفقًا لتوزيع غاوسي متعدد المتغيرات بمتوسط${\displaystyle m=[m(x_{1}),\ldots ,m(x_{n})]^{\intercal }}$ومصفوفة التغاير${\displaystyle (K)_{ij}=k(x_{i},x_{j}).}$

يفترض${\displaystyle f(x)\sim {\mathcal {GP}}(m,k).}$ثم${\displaystyle y(x)\sim {\mathcal {GP}}(m,l)}$،

أين${\displaystyle l(x_{i},x_{j})=k(x_{i},x_{j})+\sigma ^{2}\delta (x_{i},x_{j})}$، و${\displaystyle \delta (x_{i},x_{j})}$هي دالة دلتا كرونكر القياسية. ^{[ 26 ]}

الاحتمال اللاحق لعملية غاوسية:

بحسب الطبيب العام السابق، يمكننا الحصول على

${\displaystyle [y(x_{1}),\ldots ,y(x_{r})]\sim {\mathcal {N}}(m_{0},K_{0})}$،

أين${\displaystyle m_{0}=[m(x_{1}),\ldots ,m(x_{r})]^{\intercal }}$و${\displaystyle (K_{0})_{ij}=k(x_{i},x_{j})+\sigma ^{2}\delta (x_{i},x_{j}).}$

إذا كانت x ₁ ^* ,...,x _s ^* مجموعة منتهية أخرى من المتغيرات، فمن الواضح أن

${\displaystyle [y(x_{1}),\ldots ,y(x_{r}),f(x_{1}^{*}),\ldots ,f(x_{s}^{*})]^{\intercal }\sim {\mathcal {N}}({\binom {m_{0}}{m_{*}}}{\begin{pmatrix}K_{0}&K_{*}\\K_{*}^{\intercal }&K_{**}\end{pmatrix}})}$،

أين${\displaystyle m_{*}=[m(x_{1}^{*}),\ldots ,m(x_{s}^{*})]^{\intercal }}$،${\displaystyle (K_{**})_{ij}=k(x_{i}^{*},x_{j}^{*})}$،${\displaystyle (K_{*})_{ij}=k(x_{i},x_{j}^{*}).}$

وفقًا للمعادلات المذكورة أعلاه، فإن المخرجات y موزعة أيضًا بشكل مشترك وفقًا لتوزيع غاوسي متعدد المتغيرات. وبالتالي،

${\displaystyle [f(x_{1}^{*}),\ldots ,f(x_{s}^{*})]^{\intercal }\mid ([y(x)]^{\intercal }=y)\sim {\mathcal {N}}(m_{\text{post}},K_{\text{post}}),}$

أين${\displaystyle y=[y_{1},...,y_{r}]^{\intercal }}$،${\displaystyle m_{\text{post}}=m_{*}+K_{*}^{\intercal }(K_{O}+\sigma ^{2}I_{r})^{-1}(y-m_{0})}$،${\displaystyle K_{\text{post}}=K_{**}-K_{*}^{\intercal }(K_{O}+\sigma ^{2}I_{r})^{-1}K_{*}}$، و${\displaystyle I_{r}}$يكون${\displaystyle r\times r}$مصفوفة الوحدة. ^{[ 26 ]}

تُعدّ طريقة التمهيد العشوائي، التي اقترحها وو (1986) ^{[ 27 ]،} مناسبةً عندما يُظهر النموذج تباينًا غير متجانس . وتتلخص الفكرة، كما هو الحال في التمهيد المتبقي، في ترك المتغيرات المستقلة عند قيمها الأصلية، ولكن مع إعادة أخذ عينات من المتغير التابع بناءً على قيم البواقي. أي أنه لكل تكرار، يتم حساب قيمة جديدة.${\displaystyle y}$مرتكز على

${\displaystyle y_{i}^{*}={\widehat {y\,}}_{i}+{\widehat {\varepsilon \,}}_{i}v_{i}}$

لذا يتم ضرب البواقي عشوائياً بمتغير عشوائي${\displaystyle v_{i}}$بمتوسط ​​0 وتباين 1. بالنسبة لمعظم توزيعات${\displaystyle v_{i}}$(وليس طريقة مامين)، تفترض هذه الطريقة أن التوزيع المتبقي "الحقيقي" متماثل، ويمكن أن توفر مزايا على أخذ عينات متبقية بسيطة لأحجام العينات الصغيرة. وتُستخدم أشكال مختلفة للمتغير العشوائي${\displaystyle v_{i}}$، مثل

• التوزيع الطبيعي القياسي

• توزيع اقترحه مامين (1993). ^{[ 28 ]}

${\displaystyle v_{i}={\begin{cases}-({\sqrt {5}}-1)/2&{\text{with probability }}({\sqrt {5}}+1)/(2{\sqrt {5}}),\\({\sqrt {5}}+1)/2&{\text{with probability }}({\sqrt {5}}-1)/(2{\sqrt {5}})\end{cases}}}$

توزيع مامين تقريبًا هو:

${\displaystyle v_{i}={\begin{cases}-0.6180\quad {\text{(with a 0 in the units' place)}}&{\text{with probability }}0.7236,\\+1.6180\quad {\text{(with a 1 in the units' place)}}&{\text{with probability }}0.2764.\end{cases}}}$

• أو التوزيع الأبسط، المرتبط بتوزيع رادماخر :

${\displaystyle v_{i}={\begin{cases}-1&{\text{with probability }}1/2,\\+1&{\text{with probability }}1/2.\end{cases}}}$

تُستخدم طريقة إعادة التجميع الكتلي عندما تكون البيانات، أو الأخطاء في النموذج، مترابطة. في هذه الحالة، تفشل طريقة إعادة التجميع البسيطة أو إعادة التجميع المتبقية، لأنها لا تستطيع محاكاة الارتباط في البيانات. تحاول طريقة إعادة التجميع الكتلي محاكاة الارتباط عن طريق إعادة التجميع داخل كتل البيانات (انظر: التجميع (الإحصاء) ). وقد استُخدمت هذه الطريقة بشكل أساسي مع البيانات المترابطة زمنيًا (أي السلاسل الزمنية)، ولكن يمكن استخدامها أيضًا مع البيانات المترابطة مكانيًا، أو بين المجموعات (ما يُسمى ببيانات التجميع).

معظم طرق إعادة التوزيع العشوائي (Bootstrap) عبارة عن خوارزميات متوازية بشكل كبير . بمعنى آخر، لا تعتمد الإحصائية المطلوبة لكل عينة إعادة توزيع عشوائي على عينات أخرى. وبالتالي، يمكن إجراء هذه الحسابات على وحدات معالجة مركزية منفصلة أو عقد حسابية، ثم تُجمع النتائج من هذه العقد المنفصلة في النهاية لإجراء التحليل النهائي.

تقوم طريقة التمهيد غير البارامترية بأخذ عينات من العناصر من قائمة بحجم n، مع سحب عدد مرات التكرار من توزيع متعدد الحدود . إذا${\displaystyle W_{i}}$يشير إلى عدد مرات تضمين العنصر i في عينة bootstrap معينة، ثم كل${\displaystyle W_{i}}$يتم توزيعها كتوزيع ذي الحدين مع n من المحاولات ومتوسط ​​1، ولكن${\displaystyle W_{i}}$ليس مستقلاً عن${\displaystyle W_{j}}$ل${\displaystyle i\neq j}$.

أما طريقة بوتستراب بواسون فتقوم بسحب العينات بافتراض أن جميع${\displaystyle W_{i}}$تتوزع المتغيرات 's بشكل مستقل ومتطابق كمتغيرات بواسون بمتوسط ​​1. والسبب في ذلك هو أن نهاية التوزيع ذي الحدين هي بواسون:

${\displaystyle \lim _{n\to \infty }\operatorname {Binomial} (n,1/n)=\operatorname {Poisson} (1)}$

اقترح هانلي وماكجيبون طريقة بوتستراب بواسون باعتبارها مفيدةً لغير المتخصصين في الإحصاء الذين يستخدمون برامج مثل SAS و SPSS ، والتي تفتقر إلى حزم بوتستراب الموجودة في لغتي البرمجة R و S-Plus . ^{[ 34 ]} ويشير المؤلفان نفساهما إلى أنه بالنسبة لقيم n الكبيرة بما يكفي، تكون النتائج مشابهةً نسبيًا لتقديرات بوتستراب غير البارامترية، لكنهما يلاحظان أن استخدام بوتستراب بواسون في التطبيقات محدود للغاية.

ومن المزايا الأخرى المقترحة لتقنية إعادة التوزيع العشوائي (Boisson bootstrap) استقلالية${\displaystyle W_{i}}$يجعل هذا الأسلوب أسهل في التطبيق على مجموعات البيانات الكبيرة التي يجب معالجتها كتدفقات. ^{[ 35 ]}

إحدى طرق تحسين طريقة إعادة التوزيع العشوائي (Boisson bootstrap)، والتي تُسمى "إعادة التوزيع العشوائي التسلسلي"، هي أخذ العينات الأولى بحيث تكون نسبة القيم الفريدة ≈ 0.632 من حجم العينة الأصلي n. وهذا يُوفر توزيعًا تكون فيه الخصائص التجريبية الرئيسية ضمن مسافة من${\displaystyle O(n^{3/4})}$[ ^{36 ]} أظهرت الدراسات التجريبية أن هذه الطريقة يمكن أن تُحقق نتائج جيدة. ^{[ 37 ] ويرتبط} هذا بطريقة التمهيد المُخفَّضة. ^{[ 38 ]}

بالنسبة لمجموعات البيانات الضخمة، غالبًا ما يكون تخزين جميع بيانات العينة في الذاكرة وإعادة أخذ عينات منها أمرًا مكلفًا للغاية من الناحية الحسابية. توفر طريقة "حقيبة التمهيد الصغيرة" (BLB) ^{[ 39 ]} أسلوبًا لتجميع البيانات مسبقًا قبل عملية التمهيد لتقليل القيود الحسابية. وتعمل هذه الطريقة عن طريق تقسيم مجموعة البيانات إلى${\displaystyle b}$يتم تقسيم البيانات إلى مجموعات متساوية الحجم، ثم تُجمع البيانات داخل كل مجموعة. تُصبح مجموعة البيانات المُجمّعة مسبقًا هي بيانات العينة الجديدة التي تُسحب منها العينات مع الإحلال. تُشبه هذه الطريقة طريقة Block Bootstrap، لكن دوافعها وتعريفات المجموعات تختلف اختلافًا كبيرًا. في ظل افتراضات معينة، يجب أن يُقارب توزيع العينة سيناريو إعادة التوزيع الكامل. أحد القيود هو عدد المجموعات.${\displaystyle b=n^{\gamma }}$أين${\displaystyle \gamma \in [0.5,1]}$ويوصي المؤلفون باستخدام${\displaystyle b=n^{0.7}}$كحل عام.

يسرد استعراض طرق فترات الثقة بوتستراب التي قام بها دي سيكيو وإيفرون والمناقشة اللاحقة العديد من الخصائص المرغوبة لفترات الثقة، والتي لا يتم استيفاؤها جميعًا في وقت واحد بشكل عام.

• ثابت التحويل - فترات الثقة من إعادة التوزيع للبيانات المحولة (على سبيل المثال، عن طريق أخذ اللوغاريتم) ستكون مثالية كما لو تم تحويل فترات الثقة من إعادة التوزيع للبيانات غير المحولة.
• ينبغي أن تكون فترات الثقة صحيحة أو متسقة ، أي احتمال وجود معلمة ما في فترة ثقة ذات مستوى اسمي${\displaystyle 1-\alpha }$ينبغي أن تكون مساوية أو على الأقل تتقارب في الاحتمالية مع${\displaystyle 1-\alpha }$تم تحسين المعيار الأخير وتوسيعه باستخدام إطار عمل هول. ^{[ 41 ]} تهدف التحسينات إلى التمييز بين الطرق بناءً على مدى سرعة اقتراب احتمال التغطية الحقيقي من القيمة الاسمية، حيث تكون الطريقة (باستخدام مصطلحات دي سيكيو وإيفرون) دقيقة من الدرجة الأولى إذا كان حد الخطأ في التقريب${\displaystyle O(1/{\sqrt {n}})}$وتكون دقيقة من الدرجة الثانية إذا كان حد الخطأ${\displaystyle O(n^{-1})}$بالإضافة إلى ذلك، تتميز الطرق بسرعة تقارب النقطة الحرجة المقدرة باستخدام طريقة بوتستراب إلى النقطة الحقيقية (المجهولة)، وتكون الطريقة صحيحة من الدرجة الثانية عندما يكون هذا المعدل${\displaystyle O_{p}(n^{-3/2})}$.
• يجادل غليسر في مناقشة الورقة البحثية بأن أحد أوجه القصور في الأوصاف التقاربية الواردة في النقطة السابقة هو أن${\displaystyle O(\cdot )}$لا تكون المصطلحات بالضرورة موحدة في المعلمات أو التوزيع الحقيقي.

• التحيز : قد يختلف توزيع بوتستراب والعينة بشكل منهجي، وفي هذه الحالة قد يحدث التحيز .

  إذا كان توزيع بوتستراب للمُقدِّر متماثلاً، فغالباً ما تُستخدم فترات الثقة المئوية؛ وتُعدّ هذه الفترات مناسبةً خاصةً للمُقدِّرات غير المتحيزة للوسيط ذات الحد الأدنى من المخاطر (بالنسبة لدالة الخسارة المطلقة ). وسيؤدي التحيز في توزيع بوتستراب إلى تحيز في فترة الثقة.

  وإلا، إذا كان توزيع التمهيد غير متماثل، فإن فترات الثقة المئوية غالباً ما تكون غير مناسبة.

توجد عدة طرق لإنشاء فترات الثقة من توزيع بوتستراب لمعلمة حقيقية :

• التمهيد الأساسي ، ^{[ 40 ]} المعروف أيضًا باسم فاصل النسبة المئوية العكسي . ^{[ 42 ]} التمهيد الأساسي هو مخطط بسيط لإنشاء فاصل الثقة: ببساطة يتم أخذ الكميات التجريبية من توزيع التمهيد للمعلمة (انظر دافيسون وهينكلي 1997، المعادلة 5.6، صفحة  194):

${\displaystyle (2{\widehat {\theta \,}}-\theta _{(1-\alpha /2)}^{*},2{\widehat {\theta \,}}-\theta _{(\alpha /2)}^{*})}$أين${\displaystyle \theta _{(1-\alpha /2)}^{*}}$يشير إلى${\displaystyle 1-\alpha /2}$النسبة المئوية للمعاملات المُعاد حسابها${\displaystyle \theta ^{*}}$.

• إعادة التوزيع المئوية . تعمل إعادة التوزيع المئوية بطريقة مشابهة لإعادة التوزيع الأساسية، باستخدام النسب المئوية لتوزيع إعادة التوزيع، ولكن بصيغة مختلفة (لاحظ انعكاس الكميات اليسرى واليمنى):

${\displaystyle (\theta _{(\alpha /2)}^{*},\theta _{(1-\alpha /2)}^{*})}$أين${\displaystyle \theta _{(1-\alpha /2)}^{*}}$يشير إلى${\displaystyle 1-\alpha /2}$النسبة المئوية للمعاملات المُعاد حسابها${\displaystyle \theta ^{*}}$.

انظر دافيسون وهينكلي (1997، المعادلة 5.18 ص.  203) وإيفرون وتيبشيراني (1993، المعادلة 13.5 ص.  171).

يمكن تطبيق هذه الطريقة على أي إحصائية. وهي فعّالة في الحالات التي يكون فيها توزيع بوتستراب متماثلًا ومتمركزًا حول الإحصائية المرصودة ^{[ 43 ]} ، وعندما تكون إحصائية العينة غير متحيزة للوسيط ولها أعلى تركيز (أو أدنى خطر بالنسبة لدالة خسارة القيمة المطلقة). عند التعامل مع أحجام عينات صغيرة (أي أقل من 50)، ستكون فترات الثقة المئوية الأساسية/المعكوسة وفترات الثقة المئوية (على سبيل المثال) لإحصائية التباين ضيقة جدًا. لذا، مع عينة من 20 نقطة، ستشمل فترة الثقة 90% التباين الحقيقي 78% فقط من الحالات. ^{[ 44 ]} من الأسهل تبرير فترات الثقة المئوية الأساسية/المعكوسة رياضيًا ^{[ 45 ] [ 42 ]} ، لكنها أقل دقة بشكل عام من فترات الثقة المئوية، وبعض الباحثين لا ينصحون باستخدامها. ^{[ 42 ]}

• التمهيد المُعَدَّل . يتم حساب التمهيد المُعَدَّل، والذي يُسمى أيضًا bootstrap-t ، بشكل مشابه لفترة الثقة القياسية، ولكنه يستبدل الكميات من التقريب الطبيعي أو تقريب الطالب بالكميات من توزيع التمهيد لاختبار t للطالب (انظر دافيسون وهينكلي 1997، المعادلة 5.7، صفحة 194 وإيفرون وتيبشيراني 1993، المعادلة 12.22، صفحة 160):

${\displaystyle ({\widehat {\theta \,}}-t_{(1-\alpha /2)}^{*}\cdot {\widehat {\text{se}}}_{\theta },{\widehat {\theta \,}}-t_{(\alpha /2)}^{*}\cdot {\widehat {\text{se}}}_{\theta })}$أين${\displaystyle t_{(1-\alpha /2)}^{*}}$يشير إلى${\displaystyle 1-\alpha /2}$النسبة المئوية لاختبار t للطالب المُعاد حسابه${\displaystyle t^{*}=({\widehat {\theta \,}}^{*}-{\widehat {\theta \,}})/{\widehat {\text{se}}}_{{\widehat {\theta \,}}^{*}}}$، و${\displaystyle {\widehat {\text{se}}}_{\theta }}$يمثل الخطأ المعياري المقدر للمعامل في النموذج الأصلي.

يتمتع الاختبار المعياري بخصائص مثالية لأن الإحصائية التي يتم إعادة تشكيلها محورية (أي أنها لا تعتمد على المعلمات المزعجة لأن اختبار t يتبع بشكل تقاربي توزيع N(0,1))، على عكس إعادة التشكيل المئوية.

• إعادة التوزيع المصححة للتحيز - تعدل التحيز في توزيع إعادة التوزيع.
• إعادة التوزيع المُسرّعة - تُعدّ إعادة التوزيع المُسرّعة والمُصحّحة للانحياز (BCa)، التي وضعها إيفرون (1987)، ^{[ 12 ]،} طريقةً تُعالج كلاً من الانحياز والالتواء في توزيع إعادة التوزيع. تتميّز هذه الطريقة بدقتها في مجموعة واسعة من السياقات، ومتطلباتها الحسابية المعقولة، وإنتاجها لفترات زمنية ضيقة نسبيًا. ^{[ 12 ]}

في عام 1878، أجرى سيمون نيومب قياسات على سرعة الضوء . ^{[ 46 ]} تحتوي مجموعة البيانات على قيمتين متطرفتين ، تؤثران بشكل كبير على متوسط ​​العينة . (لا يشترط أن يكون متوسط ​​العينة مقدراً متسقاً لأي متوسط ​​مجتمع ، لأنه لا يلزم وجود متوسط ​​لتوزيع ذي ذيل سميك ). يُعد وسيط العينة إحصائية محددة جيداً وقوية لقياس النزعة المركزية، وهو متسق وغير متحيز للوسيط بالنسبة لوسيط المجتمع.

يظهر أدناه توزيع بوتستراب لبيانات نيوكومب. يمكننا تقليل تباين توزيع بوتستراب بإضافة كمية صغيرة من الضوضاء العشوائية إلى كل عينة بوتستراب. الخيار التقليدي هو إضافة ضوضاء بانحراف معياري قدره${\displaystyle \sigma /{\sqrt {n}}}$بالنسبة لحجم عينة n ، غالبًا ما تُستمد هذه الضوضاء من توزيع Student-t بدرجات حرية n-1 . ^{[ 47 ]} ينتج عن ذلك مُقدِّر غير متحيز تقريبًا لتباين متوسط ​​العينة. ^{[ 48 ]} وهذا يعني أن العينات المأخوذة من توزيع bootstrap سيكون لها تباين يساوي، في المتوسط، تباين المجتمع الإحصائي الكلي.

تظهر أدناه رسوم بيانية لتوزيع بوتستراب وتوزيع بوتستراب المُنعّم. يحتوي توزيع بوتستراب للوسيط العيني على عدد قليل من القيم، بينما يتميز توزيع بوتستراب المُنعّم بنطاق أوسع . مع ذلك، تجدر الإشارة إلى أن تفضيل إجراء بوتستراب المُنعّم أو القياسي يعتمد على كل حالة على حدة، ويتضح أنه يتوقف على كل من دالة التوزيع الأساسية والكمية المراد تقديرها. ^{[ 49 ]}

في هذا المثال، فإن فترة الثقة 95٪ (النسبة المئوية) لمتوسط ​​السكان هي (26، 28.5)، وهي قريبة من الفترة (25.98، 28.46) لعملية التمهيد المنعم.

يتم تمييز التمهيد عن:

• إجراء جاكنايف ، المستخدم لتقدير انحيازات إحصاءات العينة وتقدير التباينات، و
• التحقق المتبادل ، حيث يتم تطبيق المعلمات (مثل أوزان الانحدار، ومعاملات التحميل) التي يتم تقديرها في عينة فرعية واحدة على عينة فرعية أخرى.

التجميع باستخدام Bootstrap (bagging) هو خوارزمية فوقية تعتمد على حساب متوسط ​​تنبؤات النموذج التي تم الحصول عليها من نماذج تم تدريبها على عينات bootstrap متعددة.

في الحالات التي يمكن فيها ابتكار إحصائية واضحة لقياس خاصية مطلوبة باستخدام عدد صغير فقط، r ، من عناصر البيانات، يمكن صياغة إحصائية مقابلة بناءً على العينة بأكملها. وبمعرفة إحصائية لعينة مكونة من r عنصر، يمكن إنشاء إحصائية لعينة مكونة من n عنصر باستخدام أسلوب مشابه لأسلوب إعادة التوزيع (أخذ متوسط ​​الإحصائية على جميع العينات الفرعية ذات الحجم r ). يُعرف عن هذا الإجراء خصائص جيدة، والنتيجة هي إحصائية U. يكون متوسط ​​العينة وتباينها على هذا الشكل، عندما r = 1 و r = 2.    

تُلخص هذه الفقرة أوصافًا أكثر تفصيلًا للتقارب العشوائي في أعمال فان دير فارت وويلنر ^{[ 50 ]} وكوسوروك ^{[ 51 ]} . تُعرّف عملية التمهيد عملية عشوائية ، وهي عبارة عن مجموعة من المتغيرات العشوائية المفهرسة بمجموعة معينة.${\displaystyle T}$، أين${\displaystyle T}$عادةً ما يكون الخط الحقيقي (${\displaystyle \mathbb {R} }$) أو مجموعة من الدوال. العمليات ذات الأهمية هي تلك التي لها مسارات عينة محدودة، أي مسارات عينة في L-infinity (${\displaystyle \ell ^{\infty }(T)}$) مجموعة جميع الدوال المحدودة بشكل منتظم من${\displaystyle T}$ل${\displaystyle \mathbb {R} }$عند تجهيزها بمسافة موحدة،${\displaystyle \ell ^{\infty }(T)}$هو فضاء متري ، وعندما${\displaystyle T=\mathbb {R} }$فضاءان فرعيان من${\displaystyle \ell ^{\infty }(T)}$وهي ذات أهمية خاصة،${\displaystyle C[0,1]}$، فضاء جميع الدوال المتصلة من${\displaystyle T}$إلى الفترة [0,1]، و${\displaystyle D[0,1]}$، فضاء جميع دوال cadlag من${\displaystyle T}$إلى [0,1]. وذلك لأن${\displaystyle C[0,1]}$تحتوي على دوال التوزيع لجميع المتغيرات العشوائية المستمرة، و${\displaystyle D[0,1]}$يحتوي على دوال التوزيع لجميع المتغيرات العشوائية. أما العبارات المتعلقة باتساق عملية إعادة التوزيع (Bootstrap) فهي عبارات تتعلق بتقارب مسارات العينة لعملية إعادة التوزيع كعناصر عشوائية في الفضاء المتري.${\displaystyle \ell ^{\infty }(T)}$أو بعض الفضاءات الفرعية منها، وخاصة${\displaystyle C[0,1]}$أو${\displaystyle D[0,1]}$.

يُعرّف هورويتز في مراجعة حديثة ^{[ 1 ]} الاتساق على النحو التالي: مُقدِّر بوتستراب${\displaystyle G_{n}(\cdot ,F_{n})}$متسق [للإحصائية]${\displaystyle T_{n}}$إذا، لكل${\displaystyle F_{0}}$،${\displaystyle \sup _{\tau }|G_{n}(\tau ,F_{n})-G_{\infty }(\tau ,F_{0})|}$يتقارب احتماله إلى 0 عندما${\displaystyle n\to \infty }$، أين${\displaystyle F_{n}}$يمثل التوزيع التجريبي للعينة الأصلية،${\displaystyle F_{0}}$هو التوزيع الحقيقي غير المعروف للإحصائية،${\displaystyle G_{\infty }(\tau ,F_{0})}$هي دالة التوزيع التقاربي لـ${\displaystyle T_{n}}$، و${\displaystyle \tau }$هو متغير الفهرسة في دالة التوزيع، أي${\displaystyle P(T_{n}\leq \tau )=G_{n}(\tau ,F_{0})}$ويُطلق على هذا أحيانًا اسم الاتساق بالنسبة لمسافة كولموغوروف-سميرنوف . ^{[ 52 ]}

ويستمر هورويتز في التوصية باستخدام نظرية من مامين ^{[ 53 ]} توفر شروطًا ضرورية وكافية أسهل للتحقق من اتساق الإحصاءات ذات الشكل الشائع. على وجه الخصوص، ليكن${\displaystyle \{X_{i}:i=1,\ldots ,n\}}$لتكن العينة العشوائية. إذا${\displaystyle T_{n}={\frac {\sum _{i=1}^{n}g_{n}(X_{i})-t_{n}}{\sigma _{n}}}}$لتسلسل الأرقام${\displaystyle t_{n}}$و${\displaystyle \sigma _{n}}$إذا كان تقدير بوتستراب لدالة التوزيع التراكمي يُقدّر دالة التوزيع التراكمي التجريبية إذا وفقط إذا${\displaystyle T_{n}}$يتقارب في التوزيع مع التوزيع الطبيعي القياسي .

يُطلق على التقارب في الاحتمال (الخارجي) كما هو موضح أعلاه اسم الاتساق الضعيف . ويمكن إثبات، بافتراضات أقوى قليلاً، أن عملية إعادة التوزيع (Bootstrap) متسقة بقوة ، حيث يُستبدل التقارب في الاحتمال (الخارجي) بالتقارب (الخارجي) شبه المؤكد. وعندما يُوصف نوع واحد فقط من الاتساق، فإنه عادةً ما يكون اتساقًا ضعيفًا. وهذا كافٍ لمعظم التطبيقات الإحصائية لأنه يعني أن نطاقات الثقة المستمدة من إعادة التوزيع (Bootstrap) صالحة تقاربياً. ^{[ 51 ]}

في الحالات الأبسط، من الممكن استخدام نظرية النهاية المركزية مباشرة لإظهار اتساق إجراء التمهيد لتقدير توزيع متوسط ​​العينة.

على وجه التحديد، دعونا ننظر${\displaystyle X_{n1},\ldots ,X_{nn}}$متغيرات عشوائية مستقلة ومتطابقة التوزيع مع${\displaystyle \mathbb {E} [X_{n1}]=\mu }$و${\displaystyle {\text{Var}}[X_{n1}]=\sigma ^{2}<\infty }$لكل${\displaystyle n\geq 1}$. يترك${\displaystyle {\bar {X}}_{n}=n^{-1}(X_{n1}+\cdots +X_{nn})}$بالإضافة إلى ذلك، لكل${\displaystyle n\geq 1}$، بشرط${\displaystyle X_{n1},\ldots ,X_{nn}}$، يترك${\displaystyle X_{n1}^{*},\ldots ,X_{nn}^{*}}$لتكن متغيرات عشوائية مستقلة ذات توزيع يساوي التوزيع التجريبي لـ${\displaystyle X_{n1},\ldots ,X_{nn}}$هذا هو تسلسل عينات التمهيد.

ثم يمكن إثبات ذلك $${\displaystyle \sup _{\tau \in \mathbb {R} }\left|P^{*}\left({\frac {{\sqrt {n}}({\bar {X}}_{n}^{*}-{\bar {X}}_{n})}{{\hat {\sigma }}_{n}}}\leq \tau \right)-P\left({\frac {{\sqrt {n}}({\bar {X}}_{n}-\mu )}{\sigma }}\leq \tau \right)\right|\to 0{\text{ in probability as }}n\to \infty ,}$$ أين${\displaystyle P^{*}}$يمثل الاحتمال المشروط بـ${\displaystyle X_{n1},\ldots ,X_{nn}}$،${\displaystyle n\geq 1}$،${\displaystyle {\bar {X}}_{n}^{*}=n^{-1}(X_{n1}^{*}+\cdots +X_{nn}^{*})}$، و${\displaystyle {\hat {\sigma }}_{n}^{2}=n^{-1}\sum _{i=1}^{n}(X_{ni}-{\bar {X}}_{n})^{2}}$.

لملاحظة ذلك، لاحظ أن${\displaystyle (X_{ni}^{*}-{\bar {X}}_{n})/{\sqrt {n}}{\hat {\sigma }}_{n}}$يحقق شرط ليندبيرغ ، وبالتالي فإن نظرية النهاية المركزية صحيحة. ^{[ 54 ]}

توفر نظرية جليفنكو -كانتيلي خلفية نظرية لطريقة التمهيد.