اختبار أ/ب

مثال على اختبار A/B على موقع إلكتروني. يتم عرض نسخة من الموقع تحتوي على زر أزرق لبعض المستخدمين (يتم اختيارهم عشوائيًا)، بينما يرى آخرون نسخة تحتوي على زر أخضر. ومن خلال ذلك، يمكن قياس فعالية التصميمين.

اختبار A/B (المعروف أيضًا باسم اختبار الدلو ، أو اختبار التشغيل المنفصل، أو اختبار التقسيم ) هو أسلوب بحثي في ​​مجال تجربة المستخدم . [ 1 ] يتكون اختبار A/B من تجربة عشوائية تتضمن عادةً متغيرين (A وB)، [ 2 ] [ 3 ] [ 4 ] مع إمكانية توسيع المفهوم ليشمل متغيرات متعددة لنفس المتغير. وهو يتضمن تطبيق اختبار الفرضيات الإحصائية ، أو " اختبار فرضيات عينتين " كما هو مستخدم في مجال الإحصاء . يُستخدم اختبار A/B لمقارنة نسخ متعددة من متغير واحد ، على سبيل المثال، عن طريق اختبار استجابة شخص ما للمتغير A مقابل المتغير B، وتحديد أي من المتغيرين أكثر فعالية. [ 5 ]

يُشبه الاختبار متعدد المتغيرات أو الاختبار متعدد الحدود اختبار A/B، ولكنه قد يختبر أكثر من نسختين في الوقت نفسه أو يستخدم المزيد من الضوابط. لا تُعدّ اختبارات A/B البسيطة صالحةً للحالات الرصدية أو شبه التجريبية أو غيرها من الحالات غير التجريبية ، وهي شائعة في بيانات المسح والبيانات غير المتصلة بالإنترنت وغيرها من الظواهر الأكثر تعقيدًا.

تعريف

يُعدّ اختبار A/B اختصارًا لتجربة عشوائية مضبوطة بسيطة، حيث تتم مقارنة عدد من العينات (مثل A وB) لمتغير متجه واحد. [ 1 ] تُعتبر اختبارات A/B على نطاق واسع أبسط أشكال التجارب المضبوطة، خاصةً عندما تتضمن متغيرين فقط. ومع ذلك، بإضافة المزيد من المتغيرات إلى الاختبار، يزداد تعقيده. [ 6 ]

يوضح المثال التالي اختبار A/B بمتغير واحد:

تمتلك إحدى الشركات قاعدة بيانات عملاء تضم 2000 شخص، وتطلق حملة بريد إلكتروني تتضمن رمز خصم بهدف زيادة المبيعات عبر موقعها الإلكتروني. تُنشئ الشركة نسختين من البريد الإلكتروني، تتضمن كل منهما عبارات تحث على اتخاذ إجراء (الجزء من النص الذي يشجع العملاء على القيام بشيء ما - في حالة حملة المبيعات، الشراء) ورموزًا ترويجية مختلفة.

  • ترسل الشركة إلى 1000 شخص بريدًا إلكترونيًا يتضمن دعوة لاتخاذ إجراء تنص على أن "العرض ينتهي يوم السبت! استخدم الرمز A1".
  • أما بالنسبة للألف شخص المتبقين، فيتم إرسال بريد إلكتروني يتضمن دعوة لاتخاذ إجراء تنص على "العرض ينتهي قريباً! استخدم الرمز B1".
  • جميع العناصر الأخرى في نص وتصميم رسائل البريد الإلكتروني متطابقة.

تقوم الشركة بعد ذلك بمراقبة أي الحملات التسويقية حققت أعلى معدل نجاح من خلال تحليل استخدام الرموز الترويجية. وقد حقق البريد الإلكتروني الذي استخدم الرمز A1 معدل استجابة بلغ 5% (حيث استخدم 50 شخصًا من أصل 1000 شخص تم إرسال البريد الإلكتروني إليهم الرمز لشراء منتج)، بينما حقق البريد الإلكتروني الذي استخدم الرمز B1 معدل استجابة بلغ 3% (حيث استخدم 30 شخصًا من المستلمين الرمز لشراء منتج). وبناءً على ذلك، قررت الشركة أن دعوة اتخاذ الإجراء الأولى في هذه الحالة أكثر فعالية، وستستخدمها في المبيعات المستقبلية. ويمكن اتباع نهج أكثر دقة يتضمن تطبيق اختبارات إحصائية لتحديد ما إذا كانت الفروقات في معدلات الاستجابة بين A1 وB1 ذات دلالة إحصائية (أي أن هذه الفروقات من المرجح أن تكون حقيقية وقابلة للتكرار وليست نتيجة للصدفة). [ 7 ]

في المثال السابق، كان الهدف من الاختبار تحديد الاستراتيجية الأكثر فعالية لتشجيع العملاء على الشراء. أما لو كان الهدف تحديد أي بريد إلكتروني سيحقق أعلى نسبة نقر (نسبة الأشخاص الذين ينقرون فعلياً على الرابط بعد استلام البريد الإلكتروني)، لكانت النتائج مختلفة.

على سبيل المثال، على الرغم من أن عددًا أكبر من العملاء الذين تلقوا الرمز B1 قد دخلوا إلى الموقع الإلكتروني، إلا أن عدم تحديد تاريخ انتهاء العرض الترويجي في رسالة الدعوة إلى اتخاذ إجراء قد يجعل الكثيرين غير مُلِمّين بضرورة الشراء الفوري. وبالتالي، لو كان الهدف من الاختبار هو تحديد أي بريد إلكتروني سيجلب المزيد من الزيارات إلى الموقع، لكان البريد الإلكتروني الذي يحتوي على الرمز B1 أكثر نجاحًا. يجب أن يكون لاختبار A/B نتيجة محددة وقابلة للقياس، مثل المبيعات المُحَقَّاة، أو نسبة النقر إلى الظهور، أو نسبة التسجيل. [ 8 ]

إحصائيات الاختبار الشائعة

تُعدّ اختبارات الفرضيات لعينتين مناسبة لمقارنة عينتين مقسمتين إلى حالتي تحكم في التجربة. وتُناسب اختبارات Z مقارنة المتوسطات في ظل شروط صارمة تتعلق بالتوزيع الطبيعي وانحراف معياري معروف. أما اختبارات t للطالب فهي مناسبة لمقارنة المتوسطات في ظل شروط أقل صرامة، حيث يُفترض فيها افتراضات أقل. ويُعدّ اختبار t لـ Welch الأقل افتراضًا، ولذلك فهو اختبار الفرضيات الأكثر شيوعًا لعينتين عند الرغبة في تحسين متوسط ​​مقياس ما. وبينما يُعدّ متوسط ​​المتغير المراد تحسينه الخيار الأكثر شيوعًا للتقدير ، إلا أن هناك خيارات أخرى تُستخدم بانتظام.

يمكن استخدام اختبار فيشر الدقيق لمقارنة توزيعين ثنائيين ، مثل معدل النقر .

التوزيع المفترضمثال توضيحياختبار معيارياختبار بديل
التوزيع الغاوسيمتوسط ​​الإيرادات لكل مستخدماختبار ويلش t ( اختبار t غير المقترن )اختبار t للطالب
ذات الحديننسبة النقر إلى الظهوراختبار فيشر الدقيقاختبار بارنارد
بواسونعدد المعاملات لكل مستخدم دافعاختبار E [ 9 ]اختبار C
متعدد الحدودعدد كل منتج تم شراؤهاختبار مربع كاياختبار G
مجهولاختبار مان-ويتني يوأخذ عينات جيبس

التجزئة والاستهداف

تُطبّق اختبارات A/B في أغلب الأحيان نفس المتغير (مثل عنصر واجهة المستخدم) باحتمالية متساوية على جميع المستخدمين. مع ذلك، في بعض الحالات، قد تكون الاستجابات للمتغيرات متباينة. فبينما قد يحقق المتغير A معدل استجابة أعلى إجمالاً، قد يحقق المتغير B معدل استجابة أعلى ضمن شريحة محددة من قاعدة العملاء. [ 10 ]

على سبيل المثال، في المثال أعلاه، كان من الممكن أن يكون توزيع معدلات الاستجابة حسب الجنس كما يلي:

جنسإجماليالرجالنحيف
إجمالي الإرسالات200010001000
إجمالي الاستجابات803545
الخيار أ50 / 1000 ( 5% )10 / 500 ( 2% )40 / 500 ( 8% )
الخيار ب30 / 1000 ( 3% )25 / 500 ( 5% )5 / 500 ( 1% )

في هذه الحالة، بينما اجتذب المتغير أ معدل استجابة أعلى بشكل عام، فإن المتغير ب قد أثار في الواقع معدل استجابة أعلى لدى الرجال.

نتيجةً لذلك، قد تختار الشركة استراتيجيةً مجزأةً بناءً على اختبار A/B، حيث تُرسل النسخة B للرجال والنسخة A للنساء في المستقبل. في هذا المثال، ستؤدي الاستراتيجية المجزأة إلى زيادة بنسبة 30% في معدلات الاستجابة المتوقعة.5%=40+10500+500{\textstyle 5\%={\frac {40+10}{500+500}}} ل6.5%=40+25500+500{\textstyle 6.5\%={\frac {40+25}{500+500}}}.

إذا كانت نتائج اختبار A/B متوقعة، فينبغي تصميم الاختبار بشكل صحيح منذ البداية بحيث يتوزع بالتساوي على سمات العملاء الرئيسية، مثل الجنس. يجب أن يتضمن الاختبار عينة تمثيلية من الرجال مقابل النساء، وأن يتم توزيع الرجال والنساء عشوائيًا على كل "متغير" (المتغير A مقابل المتغير B). قد يؤدي عدم القيام بذلك إلى تحيز التجربة واستنتاجات غير دقيقة. [ 11 ]

يمكن تعميم نهج التجزئة والاستهداف هذا بشكل أكبر ليشمل سمات متعددة للعملاء بدلاً من سمة واحدة فقط - على سبيل المثال، عمر العملاء وجنسهم - لتحديد أنماط أكثر دقة قد تكون موجودة في نتائج الاختبار.

المفاضلات

الإيجابيات

نتائج اختبارات A/B سهلة التفسير، مما يُتيح تكوين صورة واضحة عن تفضيلات المستخدمين الحقيقية، لأنها تختبر خيارًا على آخر بشكل مباشر. كما تُقدم اختبارات A/B إجابات لأسئلة تصميمية دقيقة للغاية. ومن الأمثلة على ذلك اختبار A/B الذي أجرته جوجل على ألوان الروابط التشعبية. ولتحسين الإيرادات، اختبرت جوجل عشرات الألوان لتحديد الألوان التي تجذب أكبر عدد من النقرات. [ 12 ]

السلبيات

تتأثر اختبارات A/B بالتباين ؛ فهي تتطلب حجم عينة كبيرًا لتقليل الخطأ المعياري والحصول على نتيجة ذات دلالة إحصائية. في التطبيقات التي يكثر فيها المستخدمون النشطون، كما هو الحال في منصات التواصل الاجتماعي الشهيرة، يُعدّ الحصول على حجم عينة كبير أمرًا يسيرًا. في حالات أخرى، يُمكن الحصول على أحجام عينات كبيرة عن طريق زيادة فترة تسجيل المشاركين في التجربة. مع ذلك، باستخدام تقنية ابتكرتها مايكروسوفت تُعرف باسم "التجربة المضبوطة باستخدام بيانات ما قبل التجربة" (CUPED)، يُمكن أخذ التباين الموجود قبل بدء التجربة في الاعتبار، مما يُقلل عدد العينات المطلوبة للحصول على نتيجة ذات دلالة إحصائية. [ 13 ] [ 14 ]

بسبب طبيعتها كتجربة، فإن إجراء اختبار A/B ينطوي على خطر إهدار الوقت والموارد إذا أسفر الاختبار عن نتائج غير مرغوب فيها أو غير مفيدة.

في ديسمبر 2018، قام ممثلون ذوو خبرة في اختبارات A/B واسعة النطاق من 13 منظمة ( Airbnb ، Amazon ، Booking.com ، Facebook ، Google ، LinkedIn ، Lyft ، Microsoft ، Netflix ، Twitter ، Uber ، وجامعة ستانفورد ) بتلخيص أبرز التحديات في ورقة بحثية. [ 15 ] تم تجميع التحديات في أربعة مجالات: التحليل، والهندسة والثقافة، والانحرافات عن اختبارات A/B التقليدية، وجودة البيانات.

تاريخ

يصعب تحديد تاريخ استخدام اختبار A/B بدقة. أُجريت أول تجربة عشوائية مزدوجة التعمية لتقييم فعالية دواء مُعالَج بالطب التجانسي عام 1835. [ 16 ] بدأت التجارب على الحملات الإعلانية ، والتي تُقارن باختبار A/B الحديث، في أوائل القرن العشرين. [ 17 ] استخدم رائد الإعلان كلود هوبكنز قسائم ترويجية لاختبار فعالية حملاته. مع ذلك، لم تتضمن هذه العملية، التي وصفها هوبكنز في كتابه " الإعلان العلمي" عام 1923 ، مفاهيم مثل الدلالة الإحصائية والفرضية الصفرية ، المستخدمة في اختبار الفرضيات الإحصائية . [ 18 ] طُوّرت الأساليب الإحصائية الحديثة لتقييم دلالة بيانات العينة بشكل منفصل في الفترة نفسها. أُجري هذا العمل عام 1908 على يد ويليام سيلي جوسيت عندما عدّل اختبار Z ليُنشئ اختبار t للطالب . [ 19 ] [ 20 ]

مع نمو الإنترنت، ظهرت طرق جديدة لأخذ عينات من السكان. أجرى مهندسو جوجل أول اختبار A/B في عام 2000 لتحديد العدد الأمثل للنتائج التي يجب عرضها في نتائج محرك البحث. [ 5 ] لم ينجح الاختبار الأول بسبب أعطال ناتجة عن بطء التحميل. لاحقًا، تطورت أبحاث اختبار A/B، لكن الأسس والمبادئ الأساسية ظلت كما هي عمومًا، وفي عام 2011، أجرت جوجل أكثر من 7000 اختبار A/B مختلف. [ 5 ]

في عام ٢٠١٢، أجرى موظف في مايكروسوفت يعمل على محرك البحث بينغ تجربة لاختبار طرق مختلفة لعرض عناوين الإعلانات. وفي غضون ساعات، حقق الشكل البديل زيادة في الإيرادات بنسبة ١٢٪ دون أي تأثير على مقاييس تجربة المستخدم. [ ٤ ] واليوم، تُجري شركات برمجيات كبرى مثل مايكروسوفت وجوجل أكثر من ١٠٠٠٠ اختبار A/B سنويًا. [ ٤ ]

يزعم البعض أن اختبار A/B يمثل تحولاً في فلسفة واستراتيجية الأعمال في بعض المجالات المتخصصة، على الرغم من أن هذا النهج مطابق لتصميم بين المجموعات ، وهو تصميم شائع الاستخدام في العديد من التقاليد البحثية. [ 21 ] [ 22 ] [ 23 ] ويُسهم اختبار A/B، كفلسفة لتطوير الويب، في مواءمة هذا المجال مع توجه أوسع نحو الممارسة القائمة على الأدلة .

تعتمد العديد من الشركات حاليًا على منهجية "التجربة المصممة" في اتخاذ قراراتها التسويقية، انطلاقًا من توقعها أن تُسهم نتائج العينات ذات الصلة في تحسين معدلات التحويل الإيجابية. [ 24 ] وقد باتت هذه الممارسة شائعة بشكل متزايد مع تطور الأدوات والخبرات في هذا المجال. [ 25 ] ونتيجةً لذلك، تستخدم فرق التسويق بشكل متزايد اختبار A/B لتوجيه قراراتها، حيث تُطابق دقة الاختبار مع الفرضيات المقاسة، وتقيس تأثيره على النتائج، مثل معدلات التحويل والإيرادات ومعدلات التحويل اللاحقة. [ 26 ]

التطبيقات

وسائل التواصل الاجتماعي

استُخدمت اختبارات A/B من قِبل مواقع التواصل الاجتماعي الكبرى مثل لينكدإن وفيسبوك وإنستغرام لفهم تفاعل المستخدمين ورضاهم عن الميزات الإلكترونية ، كالمميزات أو المنتجات الجديدة. كما استُخدمت هذه الاختبارات لإجراء تجارب معقدة حول مواضيع مثل تأثيرات الشبكة عند عدم اتصال المستخدمين بالإنترنت، وكيفية تأثير الخدمات الإلكترونية على سلوك المستخدمين، وكيف يؤثر المستخدمون على بعضهم البعض. [ 27 ]

التجارة الإلكترونية

في مواقع التجارة الإلكترونية، يُعد مسار الشراء عادةً خيارًا مناسبًا لاختبار A/B، إذ يُمكن حتى لانخفاض طفيف في معدلات التخلي عن الشراء أن يُحقق مكاسب كبيرة في المبيعات. ويمكن أحيانًا ملاحظة تحسينات ملحوظة من خلال اختبار عناصر مثل النصوص، والتصميمات، والصور، والألوان. [ 28 ] في هذه الاختبارات، لا يرى المستخدمون سوى نسخة واحدة من نسختين، لأن الهدف هو تحديد النسخة الأفضل. [ 29 ]

أسعار المنتجات

يمكن استخدام اختبار A/B لتحديد السعر الأمثل للمنتج، وهو أحد أصعب التحديات التي تواجه إطلاق منتج أو خدمة جديدة. يُعد اختبار A/B (خاصةً للمنتجات الرقمية) آلية فعّالة لتحديد السعر الذي يحقق أعلى إيرادات ممكنة.

اختبار أ/ب السياسي

استُخدمت اختبارات A/B أيضًا في الحملات السياسية . ففي عام 2007، استخدمت الحملة الرئاسية لباراك أوباما اختبارات A/B لجذب التفاعل عبر الإنترنت وفهم ما يرغب الناخبون برؤيته من أوباما. [ 30 ] على سبيل المثال، اختبر فريق أوباما أربعة أزرار مختلفة على موقعهم الإلكتروني، تُوجّه المستخدمين للتسجيل في النشرات الإخبارية. بالإضافة إلى ذلك، استخدم الفريق ست صور مصاحبة مختلفة لجذب المستخدمين. [ 30 ]

اختبار توجيه HTTP وميزات واجهة برمجة التطبيقات

موجّه HTTP مع اختبار A/B

يُستخدم اختبار A/B عادةً عند نشر إصدار أحدث من واجهة برمجة التطبيقات (API). [ 31 ] لاختبار تجربة المستخدم في الوقت الفعلي، يتم تكوين خادم وكيل عكسي من الطبقة السابعة لبروتوكول HTTP بحيث يتم توجيه نسبة n % من حركة مرور HTTP إلى الإصدار الأحدث من خادم الواجهة الخلفية، بينما تصل النسبة المتبقية (100-n %) من حركة مرور HTTP إلى الإصدار الأقدم (المستقر) من خدمة تطبيق HTTP للواجهة الخلفية. [ 31 ] يُحقق هذا عادةً للحد من تعرض العملاء لخادم الواجهة الخلفية الأحدث، بحيث إذا وُجد خطأ في الإصدار الأحدث، فإن نسبة n % فقط من إجمالي وكلاء المستخدمين أو العملاء تتأثر، بينما يتم توجيه الباقين إلى خادم واجهة خلفية مستقر، وهي آلية شائعة للتحكم في حركة المرور الواردة. [ 31 ]

انظر أيضاً

مراجع

  1. 1 2 يونغ، سكوت دبليو إتش (أغسطس 2014). "تحسين تجربة مستخدمي المكتبة باستخدام اختبار A/B: المبادئ والعملية" . مجلة ويف: مجلة تجربة مستخدمي المكتبة . 1 (1). doi : 10.3998/weave.12535642.0001.101 . hdl : 2027/spo.12535642.0001.101 .
  2. كوهفي، رون؛ شو، يا؛ تانغ، ديان (2000). التجارب الإلكترونية الموثوقة الخاضعة للرقابة: دليل عملي لاختبار A/B . مطبعة جامعة كامبريدج. مؤرشف من الأصل في 22 أكتوبر 2021. تم الاسترجاع في 22 أكتوبر 2021 .
  3. كوهفي، رون؛ لونغبوثام، روجر (2023). "التجارب المضبوطة عبر الإنترنت واختبارات A/B" . في: فونغ، دينه؛ ويب، جيف؛ ساموت، كلود (محررون). موسوعة تعلم الآلة وعلوم البيانات . سبرينغر. ص 891-892 . doi : 10.1007/978-1-4899-7502-7_891-2 . ISBN  978-1-4899-7502-7أُرشف من المصدر الأصلي بتاريخ 21 أبريل 2023. تم الاطلاع عليه بتاريخ 21 أبريل 2023 .
  4. 1 2 3 كوهفي، رون؛ ثومكي، ستيفان (سبتمبر-أكتوبر 2017). "القوة المذهلة للتجارب عبر الإنترنت" . مجلة هارفارد للأعمال . ص 74-82 . مؤرشف من الأصل في 14 أغسطس 2021. تم الاطلاع عليه في 27 يناير 2020 . 
  5. هانينغتون ، جينا ( 12 يوليو 2012). "أساسيات اختبار A/B" . باردوت . مؤرشف من الأصل في 24 ديسمبر 2015. تم الاطلاع عليه في 21 فبراير 2016 .
  6. كوهفي، رون؛ لونغبوثام، روجر (2017). "التجارب المضبوطة عبر الإنترنت واختبار A/B". موسوعة تعلم الآلة واستخراج البيانات . ص 922-929 . doi : 10.1007/978-1-4899-7687-1_891 . ISBN  978-1-4899-7685-7.
  7. "الرياضيات الكامنة وراء اختبار A/B" . developer.amazon.com . مؤرشف من الأصل بتاريخ 21 سبتمبر 2015. تم الاطلاع عليه بتاريخ 12 أبريل 2015 .
  8. كوهفي، رون؛ لونغبوثام، روجر؛ سومرفيلد، دان؛ هين، راندال م. (فبراير 2009). "التجارب المضبوطة على الويب: دراسة استقصائية ودليل عملي" . استخراج البيانات واكتشاف المعرفة . 18 (1): 140-181 . doi : 10.1007/s10618-008-0114-1 . S2CID 17165746 . 
  9. كريشنامورثي، ك.؛ طومسون، جيسيكا (2004). "اختبار أكثر قوة لمقارنة متوسطي توزيع بواسون". مجلة التخطيط والاستدلال الإحصائي . 119 : 23-35 . doi : 10.1016/S0378-3758(02)00408-1 . S2CID 26753532 . 
  10. "أساليب متقدمة لاختبار A/B يجب أن تعرفها | الاختبار وسهولة الاستخدام" . Online-behavior.com . مؤرشف من الأصل بتاريخ 19 مارس 2014. تم الاطلاع عليه بتاريخ 18 مارس 2014 .
  11. "ثماني طرق أخطأت بها في إعداد اختبار A/B" . د. جيسون ديفيس . ١٢ سبتمبر ٢٠١٣. مؤرشف من الأصل في ١٨ مارس ٢٠١٤. تم الاطلاع عليه في ١٨ مارس ٢٠١٤ .
  12. ستات، نيك (9 مايو 2016). "جوجل تُجري تجارب لتحويل نتائج البحث من اللون الأزرق إلى الأسود" . ذا فيرج . تم الاطلاع عليه بتاريخ 25 سبتمبر 2014 .
  13. دينغ، أليكس (فبراير 2013). تحسين حساسية التجارب المضبوطة عبر الإنترنت باستخدام بيانات ما قبل التجربة . WSDM '13: وقائع المؤتمر الدولي السادس لجمعية ACM حول البحث على الويب واستخراج البيانات. doi : 10.1145/2433396.2433413 .
  14. سيكساور، كريغ (18 مايو 2023). "شرح CUPED" . مدونة. مؤرشف من الأصل في 4 سبتمبر 2024. تم الاطلاع عليه في 11 سبتمبر 2024 .
  15. غوبتا، سوميت؛ كوهفي، روني؛ تانغ، ديان؛ شو، يا؛ أندرسن، ريد؛ باكشي، إيتان؛ كاردين، نيال؛ تشاندرا، سوميثا؛ تشين، نانيو؛ كوي، دومينيك؛ كورتيس، مايك؛ دينغ، أليكس؛ دوان، ويتاو؛ فوربس، بيتر؛ فراسكا، برايان؛ غاي، تومي؛ إمبنز، غيدو دبليو؛ سانت جاك، غيوم؛ كانتاوالا، براناف؛ كاتسيف، إيليا؛ كاتزفير، موشيه؛ كونوتغان، ميكائيل؛ كوناكوفا، إيلينا؛ لي، مين يونغ؛ لي، إم جيه؛ ليو، جوزيف؛ ماكوين، جيمس؛ نجمي، أمير؛ سميث، برنت؛ تريان، فيفيك؛ فيرمير، لوكاس؛ ووكر، توبي؛ وونغ، جيفري؛ ياشكوف، إيغور (يونيو 2019). " أهم التحديات من القمة الأولى للتجارب العملية المضبوطة عبر الإنترنت" . مجلة SIGKDD Explorations ، المجلد 21 ، العدد 1، الصفحات 20-35 . doi : 10.1145/3331651.3331655 . S2CID 153314606. مؤرشف من الأصل بتاريخ 13 أكتوبر 2021. تم الاطلاع عليه بتاريخ 24 أكتوبر 2021 . 
  16. ستولبرغ، م (ديسمبر 2006). "ابتكار التجربة العشوائية مزدوجة التعمية: اختبار نورمبرغ للملح عام 1835" . مجلة الجمعية الملكية للطب . 99 (12): 642-643 . doi : 10.1177/014107680609901216 . PMC 1676327. PMID 17139070 .  
  17. "ما هو اختبار A/B؟" . كونفرتيز . مؤرشف من الأصل بتاريخ 17 أغسطس 2020. تم الاطلاع عليه بتاريخ 28 يناير 2020 .
  18. "كلود هوبكنز حوّل الإعلان إلى علم" . صحيفة إنفستورز بيزنس ديلي . 20 ديسمبر 2018. مؤرشف من الأصل في 10 أغسطس 2021. تم الاطلاع عليه في 1 نوفمبر 2019 .
  19. بيريرا، رون (20 يونيو 2007). "كيف أثرت البيرة على الإحصاءات" . مدونة أكاديمية جيمبا . مؤرشف من الأصل في 5 يناير 2015. تم الاطلاع عليه في 22 يوليو 2014 .
  20. بوكس، جوان فيشر (1987). "غينيس، جوسيت، فيشر، والعينات الصغيرة" . العلوم الإحصائية . 2 (1): 45-52 . doi : 10.1214/ss/1177013437 .
  21. كريستيان، برايان (27 فبراير 2000). "اختبار A/B: نظرة على التكنولوجيا التي تُغير قواعد العمل" . وايرد بيزنس . مؤرشف من الأصل في 17 مارس 2014. تم الاطلاع عليه في 18 مارس 2014 .
  22. كريستيان، برايان. "اختبر كل شيء: ملاحظات حول ثورة اختبار A/B | وايرد إنتربرايز" . وايرد . مؤرشف من الأصل في 16 مارس 2014. تم الاطلاع عليه في 18 مارس 2014 .
  23. كوري دكتوروف (26 أبريل 2012). "اختبار A/B: المحرك السري للإبداع والتطوير في القرن الحادي والعشرين" . بوينغ بوينغ. مؤرشف من الأصل في 9 فبراير 2014. تم الاطلاع عليه في 18 مارس 2014 .
  24. "شرح تجارب التسويق: الاستراتيجية وأفضل الممارسات" . مجلة أمبليتيود . تم الاطلاع عليه بتاريخ 6 مارس 2026 .
  25. "اختبار A/B: أساسيات التسويق عبر وسائل التواصل الاجتماعي المدفوعة" . Anyword . ١٧ يناير ٢٠٢٠. مؤرشف من الأصل في ٣١ مارس ٢٠٢٢. تم الاطلاع عليه في ٨ أبريل ٢٠٢٢ .
  26. كرويل، كولين (16 مايو 2025). "التجريب ليس منهجًا واحدًا" . كاميليون . مؤرشف من الأصل في 14 ديسمبر 2025. تم الاطلاع عليه في 6 مارس 2026 .
  27. شو، يا؛ تشين، نانيو؛ فرنانديز، أدريان؛ سينو، عمر؛ بهاسين، أنمول (10 أغسطس 2015). "من البنية التحتية إلى الثقافة: تحديات اختبار A/B في الشبكات الاجتماعية واسعة النطاق". وقائع المؤتمر الدولي الحادي والعشرين لجمعية ACM SIGKDD حول اكتشاف المعرفة واستخراج البيانات . الصفحات 2227-2236 . doi : 10.1145/2783258.2788602 . ISBN  9781450336642. S2CID 15847833 . 
  28. "دليل اختبار A/B للمتاجر الإلكترونية" . webics.com.au. 27 أغسطس 2012. مؤرشف من الأصل في 3 مارس 2021. تم الاطلاع عليه في 28 أغسطس 2012 .
  29. كوفمان، إميلي؛ كابيه، أوليفييه؛ غاريفييه، أوريليان (2014). "حول تعقيد اختبار A/B" (ملف PDF) . وقائع المؤتمر السابع والعشرين لنظرية التعلم . المجلد 35. الصفحات 461-481 . arXiv : 1405.3224 . Bibcode : 2014arXiv1405.3224K . مؤرشف (PDF) من الأصل في 7 يوليو 2021. تم الاطلاع عليه في 27 فبراير 2020 .  
  30. 1 2 سيروكر، دان؛ كومن، بيت (7 أغسطس 2013). اختبار أ/ب: أقوى طريقة لتحويل النقرات إلى عملاء . جون وايلي وأولاده. ISBN 978-1-118-65920-5أُرشف من المصدر الأصلي بتاريخ 17 أغسطس 2021. تم الاطلاع عليه بتاريخ 15 أكتوبر 2020 .
  31. 1 2 3 سزكس، ساندور (2018). توجيه HTTP الحديث (ملف PDF) . مؤتمر LISA 2018. Usenix.org . مؤرشف (ملف PDF) من الأصل في 1 سبتمبر 2021. تم الاطلاع عليه في 1 سبتمبر 2021 .