البحث عن شجرة مونت كارلو

في علوم الحاسوب ، يُعدّ بحث مونت كارلو الشجري ( MCTS ) خوارزمية بحث شجري استدلالية لبعض أنواع عمليات اتخاذ القرار ، وأبرزها تلك المستخدمة في البرامج التي تُشغّل ألعاب الطاولة . في هذا السياق، يُستخدم بحث مونت كارلو الشجري لحل شجرة اللعبة .

تم دمج خوارزمية مونت كارلو للبحث والتحليل (MCTS) مع الشبكات العصبية في عام 2016 [ 1 ] ، وقد استُخدمت في العديد من ألعاب الطاولة مثل الشطرنج ، والشوجي [ 2 ] ، والداما ، والطاولة ، والبريدج التعاقدي ، والجو ، والسكرابل ، وكلوبر [ 3 ] ، بالإضافة إلى ألعاب الفيديو الاستراتيجية القائمة على الأدوار (مثل تطبيق الذكاء الاصطناعي عالي المستوى في حملة لعبة Total War: Rome II [ 4 ] )، وتطبيقات أخرى خارج نطاق الألعاب. [ 5 ]

تاريخ

طريقة مونت كارلو

يعود تاريخ طريقة مونت كارلو ، التي تستخدم أخذ العينات العشوائية لحل المشكلات الحتمية التي يصعب أو يستحيل حلها باستخدام طرق أخرى، إلى أربعينيات القرن العشرين. [ 6 ] في أطروحته للدكتوراه عام 1987، جمع بروس أبرامسون بين بحث المينيماكس ونموذج النتائج المتوقعة القائم على نتائج عشوائية للعبة حتى النهاية، بدلاً من دالة التقييم الثابتة المعتادة . وذكر أبرامسون أن نموذج النتائج المتوقعة "أثبت دقته، وسهولة تقديره، وكفاءة حسابه، واستقلاليته عن المجال". [ 7 ] وقد أجرى تجارب معمقة على لعبة إكس-أو، ثم على دوال تقييم مولدة آليًا للعبتي أوثيلو والشطرنج .

ثم تم استكشاف هذه الأساليب وتطبيقها بنجاح على البحث الاستدلالي في مجال إثبات النظريات الآلي بواسطة W. Ertel و J. Schumann و C. Suttner في عام 1989، [ 8 ] [ 9 ] [ 10 ] مما أدى إلى تحسين أوقات البحث الأسي لخوارزميات البحث غير المستنيرة مثل البحث بالعرض أولاً، أو البحث بالعمق أولاً، أو التعميق التكراري .

في عام 1992، استخدم ب. بروغمان هذه التقنية لأول مرة في برنامج للعب لعبة غو . [ 11 ] وفي عام 2002، اقترح تشانغ وآخرون [ 12 ] فكرة "التكرار والتراجع" مع خيارات أخذ عينات "تكيفية" في خوارزمية أخذ العينات متعددة المراحل التكيفية (AMS) لنموذج عمليات اتخاذ القرار ماركوف . وكانت خوارزمية AMS أول عمل يستكشف فكرة الاستكشاف والاستغلال القائم على UCB في بناء أشجار مونت كارلو المأخوذة عينات منها/المحاكاة، وكانت النواة الرئيسية لأشجار الثقة العليا (UCT). [ 13 ]

البحث عن الأشجار باستخدام طريقة مونت كارلو (MCTS)

تصنيف أفضل برامج لعب لعبة غو على خادم KGS منذ عام 2007. منذ عام 2006، تستخدم جميع أفضل البرامج بحث شجرة مونت كارلو. [ 14 ]

في عام 2006، واستلهامًا من أسلافه، [ 15 ] وصف ريمي كولوم تطبيق طريقة مونت كارلو على البحث في شجرة اللعبة، وأطلق عليها اسم بحث شجرة مونت كارلو، [ 16 ] وطوّر ل. كوتشيس وس. سيبسفاري خوارزمية UCT (حدود الثقة العليا المطبقة على الأشجار)، [ 17 ] وقام س. جيلي وآخرون بتطبيق UCT في برنامجهم MoGo. [ 18 ] في عام 2008، حقق MoGo مستوى دان (الماستر) في لعبة غو 9×9، [ 19 ] وبدأ برنامج Fuego في تحقيق الفوز على لاعبين هواة أقوياء في لعبة غو 9×9. [ 20 ]

في يناير 2012، فاز برنامج زين بنتيجة 3-1 في مباراة غو على رقعة 19×19 ضد لاعب هاوٍ حاصل على الحزام الأسود الثاني . [ 21 ] طوّرت جوجل ديب مايند برنامج ألفا غو ، الذي أصبح في أكتوبر 2015 أول برنامج حاسوبي للعبة غو يهزم لاعب غو بشري محترف دون أي عوائق على رقعة كاملة الحجم 19×19. [ 1 ] [ 22 ] [ 23 ] في مارس 2016، مُنح ألفا غو مستوى 9 دان فخري (مستوى أستاذ) في لعبة غو 19×19 لهزيمته لي سيدول في مباراة من خمس جولات بنتيجة نهائية 4-1. [ 24 ] يُمثل ألفا غو تحسناً ملحوظاً عن برامج غو السابقة، فضلاً عن كونه علامة فارقة في مجال التعلم الآلي ، حيث يستخدم بحث شجرة مونت كارلو مع الشبكات العصبية الاصطناعية (إحدى طرق التعلم العميق ) لتحديد السياسة (اختيار النقلات) والقيمة، مما يمنحه كفاءة تتجاوز بكثير البرامج السابقة. [ 25 ]

كما تم استخدام خوارزمية MCTS في البرامج التي تلعب ألعاب لوحية أخرى (على سبيل المثال Hex ، [ 26 ] Havannah ، [ 27 ] Game of the Amazons ، [ 28 ] و Arimaa [ 29 ] )، وألعاب الفيديو في الوقت الحقيقي (على سبيل المثال Ms. Pac-Man [ 30 ] [ 31 ] و Fable Legends [ 32 ] )، والألعاب غير الحتمية (مثل skat ، [ 33 ] poker ، [ 34 ] Magic: The Gathering ، [ 35 ] أو Settlers of Catan [ 36 ] ).

مبدأ التشغيل

يركز خوارزمية البحث الشجري مونت كارلو (MCTS) على تحليل الحركات الواعدة، وذلك بتوسيع شجرة البحث بناءً على أخذ عينات عشوائية من فضاء البحث. يعتمد تطبيق هذه الخوارزمية في الألعاب على عدة جولات، تُعرف أيضًا باسم "التوزيعات" . في كل جولة، تُستكمل اللعبة حتى النهاية باختيار الحركات عشوائيًا. ثم تُستخدم نتيجة اللعبة النهائية لكل جولة لترجيح العقد في شجرة اللعبة، بحيث تزداد احتمالية اختيار العقد الأفضل في الجولات اللاحقة.

أبسط طريقة لاستخدام عمليات إعادة التوزيع هي تطبيق نفس عدد عمليات إعادة التوزيع بعد كل حركة قانونية للاعب الحالي، ثم اختيار الحركة التي أدت إلى أكبر عدد من الانتصارات. [ 11 ] غالبًا ما تزداد كفاءة هذه الطريقة - المسماة بحث لعبة مونت كارلو النقي - مع مرور الوقت، حيث يتم تخصيص المزيد من عمليات إعادة التوزيع للحركات التي أدت بشكل متكرر إلى فوز اللاعب الحالي وفقًا لعمليات إعادة التوزيع السابقة. تتكون كل جولة من جولات بحث شجرة مونت كارلو من أربع خطوات: [ 37 ]

  • الاختيار : ابدأ من الجذر R واختر العقد الفرعية تباعًا حتى تصل إلى عقدة طرفية L. الجذر هو حالة اللعبة الحالية، والعقدة الطرفية هي أي عقدة لها عقدة فرعية محتملة لم تبدأ منها أي محاكاة (تنفيذ) بعد. يشرح القسم التالي بالتفصيل طريقة لتوجيه اختيار العقد الفرعية، مما يسمح لشجرة اللعبة بالتوسع نحو التحركات الأكثر جدوى، وهو جوهر بحث شجرة مونت كارلو.
  • التوسع : ما لم يُنهِ اللاعب L اللعبة بشكل حاسم (مثل الفوز/الخسارة/التعادل) لأي من اللاعبين، أنشئ عقدة فرعية واحدة (أو أكثر) واختر العقدة C من إحداها. العقد الفرعية هي أي حركات صالحة من وضع اللعبة الذي حدده اللاعب L.
  • المحاكاة : أكمل عملية لعب عشوائية واحدة من العقدة C. تُسمى هذه الخطوة أحيانًا باللعب أو التوزيع. قد يكون اللعب بسيطًا مثل اختيار حركات عشوائية متساوية حتى يتم حسم المباراة (على سبيل المثال، في الشطرنج، يتم الفوز أو الخسارة أو التعادل).
  • الانتشار العكسي : استخدم نتيجة التشغيل لتحديث المعلومات في العقد الموجودة على المسار من C إلى R.
خطوة من خطوات البحث الشجري باستخدام طريقة مونت كارلو.

يُظهر هذا الرسم البياني الخطوات المُتضمنة في اتخاذ قرار واحد، حيث تُشير كل عقدة إلى نسبة مرات الفوز إلى إجمالي مرات اللعب من تلك النقطة في شجرة اللعبة للاعب الذي تُمثله تلك العقدة. [ 38 ] في مخطط الاختيار، يستعد الأسود للتحرك. تُشير العقدة الجذرية إلى وجود 11 فوزًا من أصل 21 مرة لعب للأبيض من هذا الموضع حتى الآن. يُكمل هذا إجمالي 10/21 فوزًا للأسود الموضحة على طول العقد السوداء الثلاث الموجودة أسفلها، والتي تُمثل كل منها حركة مُحتملة للأسود. تجدر الإشارة إلى أن هذا الرسم البياني لا يتبع خوارزمية UCT الموضحة أدناه.

إذا خسر الأبيض في المحاكاة، تزداد قيمة المحاكاة لجميع العقد على طول خط الاختيار (المقام)، ولكن تُحتسب الفوز فقط للعقد السوداء (البسط). أما إذا فاز الأبيض، فستزداد قيمة المحاكاة لجميع العقد على طول خط الاختيار، ولكن تُحتسب الفوز فقط للعقد البيضاء. في الألعاب التي يُمكن فيها التعادل، يؤدي التعادل إلى زيادة بسط كل من الأسود والأبيض بمقدار 0.5 وزيادة المقام بمقدار 1. وهذا يضمن أنه خلال عملية الاختيار، تتوسع خيارات كل لاعب نحو أفضل النقلات المتاحة له، مما يعكس هدف كل لاعب في تعظيم قيمة نقلته.

تُكرر جولات البحث طالما بقي الوقت المخصص لكل حركة. ثم تُختار الحركة التي خضعت لأكبر عدد من المحاكاة (أي ذات المقام الأعلى) كإجابة نهائية.

يمكن تطبيق هذا الإجراء الأساسي على أي لعبة تتضمن مواقعها عددًا محدودًا من الحركات ومدة زمنية محددة. لكل موقع، تُحدد جميع الحركات الممكنة: تُجرى k جولة عشوائية من الألعاب حتى النهاية، وتُسجل النتائج. تُختار الحركة التي تُحقق أفضل نتيجة. في حالة التعادل، يُحسم الأمر برمي عملة معدنية عادلة . تُؤدي خوارزمية بحث مونت كارلو الخالصة إلى أداء قوي في العديد من الألعاب ذات العناصر العشوائية، كما في لعبة EinStein würfelt nicht!. وتتقارب هذه الخوارزمية نحو الأداء الأمثل (عندما يؤول k إلى اللانهاية) في ألعاب ملء اللوحة ذات ترتيب الأدوار العشوائي، على سبيل المثال في لعبة Hex ذات ترتيب الأدوار العشوائي. [ 39 ] يستبدل برنامج AlphaZero من DeepMind خطوة المحاكاة بتقييم يعتمد على شبكة عصبية. [ 2 ]

الاستكشاف والاستغلال

تكمن الصعوبة الرئيسية في اختيار العقد الفرعية في الحفاظ على توازن بين استغلال المتغيرات العميقة بعد التحركات ذات معدل الفوز المتوسط ​​المرتفع، واستكشاف التحركات ذات عدد قليل من المحاكاة. وقدّم ليفينتي كوتشيس وتشابا سزيبسفاري أول صيغة لتحقيق التوازن بين الاستغلال والاستكشاف في الألعاب، والتي تُسمى UCT ( الحد الأعلى للثقة 1 المطبق على الأشجار ) . [ 17 ] وتستند UCT إلى صيغة UCB1 التي اشتقها أوير وسيزا-بيانكي وفيشر [ 40 ] ، وخوارزمية AMS (أخذ العينات التكيفي متعدد المراحل) التي يُحتمل تقاربها، والتي طُبقت لأول مرة على نماذج اتخاذ القرار متعددة المراحل (وتحديدًا عمليات اتخاذ القرار ماركوف ) بواسطة تشانغ وفو وهو وماركوس. [ 12 ] ويوصي كوتشيس وسزيبسفاري باختيار التحرك في كل عقدة من شجرة اللعبة الذي يكون فيه التعبيرwأنانأنا+جlnشمالأنانأنا{\displaystyle {\frac {w_{i}}{n_{i}}}+c{\sqrt {\frac {\ln N_{i}}{n_{i}}}}}له أعلى قيمة. في هذه الصيغة:

  • يمثل w i عدد مرات الفوز للعقدة التي تم النظر فيها بعدالحركة رقم i
  • يمثل n i عدد عمليات المحاكاة للعقدة التي تم أخذها في الاعتبار بعدالحركة رقم i
  • يمثل N i العدد الإجمالي لعمليات المحاكاة التي تتم بعد الحركة رقم i والتي يتم تشغيلها بواسطة العقدة الأصلية للعقدة قيد الدراسة
  • يمثل c معامل الاستكشاف - وهو يساوي نظريًا2{\displaystyle {\sqrt {2}}}; في الممارسة العملية، يتم اختيارها عادةً بشكل تجريبي

يمثل العنصر الأول من الصيغة أعلاه الاستغلال؛ ويكون مرتفعًا بالنسبة للحركات ذات معدل الفوز المتوسط ​​المرتفع. أما العنصر الثاني فيمثل الاستكشاف؛ ويكون مرتفعًا بالنسبة للحركات ذات عدد قليل من المحاكاة.

تعتمد معظم التطبيقات المعاصرة لبحث شجرة مونت كارلو على أحد أشكال خوارزمية UCT التي تعود جذورها إلى خوارزمية التحسين المحاكاة AMS لتقدير دالة القيمة في عمليات اتخاذ القرار ماركوف ذات الأفق الزمني المحدود (MDPs)، والتي قدمها تشانغ وآخرون [ 12 ] (2005) في بحوث العمليات . (كانت AMS أول عمل يستكشف فكرة الاستكشاف والاستغلال القائم على UCB في بناء أشجار مونت كارلو المأخوذة عينات منها/المحاكاة، وكانت النواة الرئيسية لخوارزمية UCT. [ 13 ] )

المزايا والعيوب

على الرغم من ثبوت أن تقييم التحركات في بحث شجرة مونت كارلو يتقارب نحو الحد الأدنى الأقصى عند استخدام UCT، [ 17 ] [ 41 ] فإن النسخة الأساسية من بحث شجرة مونت كارلو تتقارب فقط في ما يُسمى بألعاب "مونت كارلو المثالية". [ 42 ] ومع ذلك، يوفر بحث شجرة مونت كارلو مزايا كبيرة مقارنةً بتقليم ألفا-بيتا والخوارزميات المشابهة التي تُقلل مساحة البحث.

على وجه الخصوص، لا تتطلب خوارزمية البحث الشجري باستخدام طريقة مونت كارلو دالة تقييم صريحة . يكفي ببساطة تطبيق آليات اللعبة لاستكشاف فضاء البحث (أي توليد الحركات المسموح بها في وضع معين وشروط نهاية اللعبة). وبذلك، يمكن استخدام خوارزمية البحث الشجري باستخدام طريقة مونت كارلو في الألعاب التي لا تعتمد على نظرية متطورة أو في اللعب بشكل عام .

تنمو شجرة اللعبة في بحث شجرة مونت كارلو بشكل غير متماثل، حيث تركز الطريقة على الأشجار الفرعية الأكثر جدوى. وبالتالي ، تحقق نتائج أفضل من الخوارزميات التقليدية في الألعاب ذات عامل التفرع العالي .

من عيوب هذه الطريقة أنه في بعض المواقف، قد توجد حركات تبدو قوية ظاهريًا، لكنها في الواقع تؤدي إلى الخسارة عبر مسار لعب دقيق. تتطلب هذه "الحالات الفخية" تحليلًا دقيقًا للتعامل معها بشكل صحيح، خاصةً عند اللعب ضد لاعب خبير؛ ومع ذلك، قد لا "تكتشف" خوارزمية مونت كارلو هذه المسارات بسبب سياستها في التوسع الانتقائي للعقد. [ 43 ] [ 44 ] يُعتقد أن هذا قد يكون جزءًا من سبب خسارة ألفا غو في مباراته الرابعة ضد لي سيدول . باختصار، تحاول عملية البحث استبعاد التسلسلات الأقل أهمية. في بعض الحالات، قد تؤدي حركة ما إلى مسار لعب محدد للغاية وهام، لكن يتم تجاهله عند استبعاد الشجرة، وبالتالي تكون هذه النتيجة "خارج نطاق البحث". [ 45 ]

التحسينات

تم اقتراح تعديلات مختلفة على طريقة البحث الشجري الأساسية باستخدام مونت كارلو لتقصير وقت البحث. بعضها يستخدم معرفة الخبراء في مجال معين، والبعض الآخر لا يستخدمها.

يمكن لخوارزمية البحث الشجري مونت كارلو استخدام أساليب لعب بسيطة أو معقدة . تعتمد الأساليب البسيطة على حركات عشوائية، بينما تُطبّق الأساليب المعقدة خوارزميات استدلالية متنوعة للتأثير على اختيار الحركات. قد تستخدم هذه الخوارزميات نتائج أساليب اللعب السابقة (مثل خوارزمية الرد الجيد الأخير [ 46 ] ) أو خبرة الخبراء في لعبة معينة. على سبيل المثال، في العديد من برامج لعب لعبة غو، تؤثر أنماط معينة من الأحجار في جزء من اللوحة على احتمالية التحرك إلى تلك المنطقة. [ 18 ] ومن المفارقات، أن اللعب دون المستوى الأمثل في عمليات المحاكاة قد يجعل برنامج البحث الشجري مونت كارلو أقوى بشكل عام. [ 47 ]

أنماط الهان (إحاطة أحجار الخصم) المستخدمة في عمليات اللعب بواسطة برنامج MoGo. من المفيد لكل من الأسود والأبيض وضع حجر في المربع الأوسط، باستثناء النمط الموجود في أقصى اليمين حيث يكون ذلك في صالح الأسود فقط. [ 18 ]

يمكن الاستعانة بالمعرفة الخاصة بالمجال عند بناء شجرة اللعبة للمساعدة في استغلال بعض المتغيرات. إحدى هذه الطرق هي تعيين قيم احتمالية مسبقة غير صفرية لعدد عمليات المحاكاة التي تم الفوز بها ولعبها عند إنشاء كل عقدة فرعية، مما يؤدي إلى رفع أو خفض معدلات الفوز المتوسطة بشكل مصطنع، الأمر الذي يتسبب في اختيار العقدة بشكل متكرر أو أقل، على التوالي، في خطوة الاختيار. [ 48 ] وتتمثل طريقة ذات صلة، تسمى التحيز التدريجي ، في إضافة إلى صيغة UCB1بأنانأنا{\displaystyle {\frac {b_{i}}{n_{i}}}}العنصر، حيث يمثل b i درجة استدلالية للحركة رقم i . [ 37 ]

لا تجمع خوارزمية البحث الشجري الأساسية في مونت كارلو معلومات كافية للعثور على أفضل التحركات إلا بعد جولات عديدة؛ وحتى ذلك الحين، تكون تحركاتها عشوائية إلى حد كبير. يمكن تقليص هذه المرحلة الاستكشافية بشكل ملحوظ في فئة معينة من الألعاب باستخدام تقنية RAVE ( التقدير السريع لقيمة الحركة ). [ 48 ] في هذه الألعاب، تؤدي تباديل سلسلة من التحركات إلى نفس الوضع. عادةً ما تكون هذه الألعاب لوحية، حيث تتضمن كل حركة وضع قطعة أو حجر على اللوحة. في مثل هذه الألعاب، غالبًا ما تتأثر قيمة كل حركة بشكل طفيف فقط بالحركات الأخرى.

في خوارزمية RAVE، بالنسبة لعقدة شجرة اللعبة N ، لا تخزن عقدها الفرعية C <sub>i</sub> إحصائيات الفوز في الجولات التي بدأت في العقدة N فحسب ، بل تخزن أيضًا إحصائيات الفوز في جميع الجولات التي بدأت في العقدة N وما يليها، إذا احتوت على النقلة i (حتى لو تم لعب النقلة في الشجرة، بين العقدة N وجولة لعب). وبهذه الطريقة، تتأثر محتويات عقد الشجرة ليس فقط بالنقلات التي تم لعبها مباشرة في وضع معين، ولكن أيضًا بنفس النقلات التي تم لعبها لاحقًا.

RAVE على سبيل المثال لعبة تيك تاك تو. في العقد الحمراء، سيتم تحديث إحصائيات RAVE بعد محاكاة b1-a2-b3.

عند استخدام RAVE، تحدد خطوة التحديد العقدة التي يتم تطبيق صيغة UCB1 المعدلة عليها.(1-β(نأنا،ن~أنا))wأنانأنا+β(نأنا،ن~أنا)w~أنان~أنا+جlnتنأنا{\displaystyle (1-\beta (n_{i},{\tilde {n}}_{i})){\frac {w_{i}}{n_{i}}}+\beta (n_{i},{\tilde {n}}_{i}){\frac {{\tilde {w}}_{i}}{{\tilde {n}}_{i}}}+c{\sqrt {\frac {\ln t}{n_{i}}}}}لها أعلى قيمة. في هذه الصيغة،w~أنا{\displaystyle {\tilde {w}}_{i}}ون~أنا{\displaystyle {\tilde {n}}_{i}}يمثل عدد الجولات الفائزة التي تتضمن النقلة i وعدد جميع الجولات التي تتضمن النقلة i ، وβ(نأنا،ن~أنا){\displaystyle \beta (n_{i},{\tilde {n}}_{i})}ينبغي أن تكون الدالة قريبة من الواحد ومن الصفر بالنسبة لقيم n الصغيرة نسبيًا والكبيرة نسبيًا .ن~أنا{\displaystyle {\tilde {n}}_{i}}على التوالي. إحدى الصيغ العديدة لـβ(نأنا،ن~أنا){\displaystyle \beta (n_{i},{\tilde {n}}_{i})}[ 49 ] تنص على أنه في المواقف المتوازنة يمكن للمرء أن يتخذβ(نأنا،ن~أنا)=ن~أنانأنا+ن~أنا+4ب2نأنان~أنا//، حيث b ثابت يتم اختياره تجريبياً.

تتطلب الطرق الاستدلالية المستخدمة في بحث شجرة مونت كارلو عادةً العديد من المعاملات. توجد طرق آلية لضبط هذه المعاملات لزيادة معدل النجاح إلى أقصى حد. [ 50 ]

يمكن تنفيذ بحث شجرة مونت كارلو بشكل متزامن بواسطة العديد من الخيوط أو العمليات . وهناك عدة طرق مختلفة جذريًا لتنفيذه المتوازي : [ 51 ]

  • التوازي الورقي ، أي التنفيذ المتوازي للعديد من عمليات التشغيل من ورقة واحدة من شجرة اللعبة.
  • التوازي الجذري ، أي بناء أشجار اللعبة المستقلة بالتوازي والقيام بالحركة بناءً على فروع المستوى الجذري لجميع هذه الأشجار.
  • التوازي الشجري ، أي البناء المتوازي لنفس شجرة اللعبة، وحماية البيانات من الكتابة المتزامنة إما باستخدام قفل تبادلي عالمي واحد ، أو باستخدام المزيد من الأقفال التبادلية، أو باستخدام التزامن غير الحظر . [ 52 ]

انظر أيضاً

مراجع

  1. 1 2 فضة, داود ; الأماكن القريبة : ماديسون، كريس J.؛ جويز، آرثر؛ سيفري، لوران؛ دريش، جورج فان دن؛ شريتويزر، جوليان؛ أنتونوغلو، يوانيس؛ بانيرشلفام، فيدا؛ لانكتوت، مارك؛ ديليمان، ساندر؛ غريوي، دومينيك. نهام، جون. كالشبرينر، نال؛ الأماكن القريبة : ليليكراب، تيموثي؛ ليتش، مادلين. كافوكوجلو، كوراي؛ جريبيل، ثور؛ هاسابيس ، ديميس (28 يناير 2016). “إتقان لعبة Go باستخدام الشبكات العصبية العميقة والبحث عن الأشجار”. طبيعة . 529 (7587): 484– 489. بيب كود : 2016Natur.529..484S . doi : 10.1038 / nature16961 . ISSN 0028-0836 . PMID 26819042. S2CID 515925 .   Closed access icon
  2. 1 2 سيلفر، ديفيد (2017). "إتقان الشطرنج والشوجي من خلال اللعب الذاتي باستخدام خوارزمية عامة للتعلم المعزز". arXiv : 1712.01815v1 [ cs.AI ].
  3. راجكومار، براهالاد. "دراسة استقصائية لتقنيات مونت كارلو في الألعاب" (ملف PDF) . cs.umd.edu . مؤرشف (ملف PDF) من الأصل بتاريخ 2023-04-07.
  4. "بحث مونت كارلو الشجري في الذكاء الاصطناعي لحملة لعبة توتال وور: روما 2" . تطوير ألعاب الذكاء الاصطناعي . مؤرشف من الأصل في 13 مارس 2017. تم الاطلاع عليه في 25 فبراير 2017 .
  5. كيمرلينغ، ماركو؛ لوتيك، دانيال؛ شميت، روبرت هـ. (1 يناير 2024). "ما وراء الألعاب: مراجعة منهجية لتطبيقات البحث الشجري باستخدام خوارزمية مونت كارلو العصبية" . الذكاء التطبيقي . 54 (1): 1020-1046 . arXiv : 2303.08060 . doi : 10.1007/s10489-023-05240-w . ISSN 1573-7497 . 
  6. ^ نيكولاس، متروبوليس؛ ستانيسلاف، أولام (1949). “طريقة مونت كارلو”. مجلة الجمعية الإحصائية الأمريكية . 44 (247): 335-341 . دوى : 10.1080 / 01621459.1949.10483310 . بميد 18139350 . 
  7. أبرامسون، بروس (1987). نموذج النتائج المتوقعة لألعاب اللاعبين (ملف PDF) . تقرير فني، قسم علوم الحاسوب، جامعة كولومبيا . تم الاطلاع عليه بتاريخ 23 ديسمبر 2013 .
  8. ^ وولفجانج إرتل. يوهان شومان؛ كريستيان سوتنر (1989). "الاستدلال على التعلم لمبرهنة نظرية باستخدام الانتشار الخلفي." . في جي ريتي؛ ك. ليدلماير (محرران). 5. Österreichische الذكاء الاصطناعي تاغونغ. إنفورماتيك-فاشبريشت 208، ص 87-95 . سبرينغر. مؤرشفة من الأصلي بتاريخ 2021-04-15 . تم الاسترجاع 2016/08/14 .
  9. كريستيان سوتنر؛ وولفغانغ إرتل (1990). "الاكتساب التلقائي لأساليب البحث التوجيهية" . CADE90، المؤتمر الدولي العاشر للاستدلال الآلي. الصفحات 470-484. LNAI 449. سبرينغر. مؤرشف من الأصل بتاريخ 15 أبريل 2021. تم الاطلاع عليه بتاريخ 14 أغسطس 2016 .
  10. كريستيان سوتنر؛ وولفغانغ إرتل (1991). "استخدام شبكات الانتشار العكسي لتوجيه بحث مُثبت النظريات" . مجلة أبحاث وتطبيقات الشبكات العصبية . 2 (1): 3-16 . مؤرشف من الأصل بتاريخ 15 أبريل 2021. تم الاطلاع عليه بتاريخ 14 أغسطس 2016 .
  11. 1 2 بروغمان، بيرند (1993). مونت كارلو جو (PDF) . تقرير فني، قسم الفيزياء، جامعة سيراكيوز.
  12. 1 2 3 تشانغ، هيونغ سو؛ فو، مايكل سي؛ هو، جياكياو؛ ماركوس، ستيفن آي. (2005). "خوارزمية أخذ عينات تكيفية لحل عمليات اتخاذ القرار ماركوف" (ملف PDF) . بحوث العمليات . 53 : 126-139 . doi : 10.1287/opre.1040.0145 . hdl : 1903/6264 . مؤرشف من الأصل (ملف PDF) بتاريخ 20 أبريل 2021. تم الاسترجاع بتاريخ 25 فبراير 2016 .
  13. 1 2 هيونغ سو تشانغ؛ مايكل فو؛ جياكياو هو؛ ستيفن آي. ماركوس (2016). "ألفاغو من جوجل ديب مايند: الدور غير المعلن لبحوث العمليات في هذا الإنجاز الرائد" . مجلة OR/MS Today . 45 (5): 24–29 .
  14. "مكتبة سينسي: تصنيفات KGSBot" (ملف PDF) . مؤرشف من الأصل بتاريخ 25-06-2009 . تم الاطلاع عليه بتاريخ 03-05-2012 .
  15. ريمي كولوم (2008). "ثورة مونت كارلو في لعبة غو" (ملف PDF) . ندوة اليابان وفرنسا حول آفاق العلوم .
  16. ريمي كولوم (2007). "الانتقائية الفعالة وعوامل النسخ الاحتياطي في بحث شجرة مونت كارلو". الحواسيب والألعاب، المؤتمر الدولي الخامس، CG 2006، تورينو، إيطاليا، 29-31 مايو 2006. أوراق منقحة . تحرير: هـ. ياب فان دن هيريك، باولو سيانكاريني، هـ. هـ. ل. م. دونكرز. سبرينغر. ص 72-83 . CiteSeerX 10.1.1.81.6817 . ISBN   978-3-540-75537-1.
  17. 1 2 3 كوتشيس، ليفينتي؛ سيبسفاري، تشابا (2006). "تخطيط مونت كارلو القائم على خوارزمية بانديت". في: فورنكرانز، يوهانس؛ شيفر، توبياس؛ سبيليوبولو، ميرا (محررون). تعلم الآلة: ECML 2006، المؤتمر الأوروبي السابع عشر لتعلم الآلة، برلين، ألمانيا، 18-22 سبتمبر 2006، وقائع المؤتمر . سلسلة محاضرات في علوم الحاسوب. المجلد 4212. سبرينغر. الصفحات 282-293 . CiteSeerX 10.1.1.102.1296 . doi : 10.1007/11871842_29 . ISBN    3-540-45375-X.
  18. 1 2 3 سيلفان جيلي؛ ييزاو وانغ؛ ريمي مونوس؛ أوليفييه تيتاود (نوفمبر 2006). تعديل UCT باستخدام الأنماط في لعبة مونت كارلو غو (ملف PDF) . تقرير فني، INRIA.
  19. تشانغ شينغ لي؛ مي هوي وانغ؛ غيوم شاسلو؛ جان باتيست هوك؛ أرباد ريميل؛ أوليفييه تيتو؛ شانغ رونغ تساي؛ شون تشين هسو؛ تسونغ بي هونغ (2009). "الذكاء الحسابي للعبة موغو كما كُشِف عنه في بطولات غو الحاسوبية في تايوان" (ملف PDF) . مجلة IEEE للمعاملات في الذكاء الحسابي والذكاء الاصطناعي في الألعاب . 1 (1): 73-89 . Bibcode : 2009ITCIA...1...73L . CiteSeerX 10.1.1.470.6018 . doi : 10.1109/tciaig.2009.2018703 . S2CID 15266518 .  
  20. ماركوس إنزنبرغر؛ مارتن مولر (2008). Fuego – إطار عمل مفتوح المصدر لألعاب الطاولة ومحرك لعبة Go يعتمد على بحث شجرة مونت كارلو (ملف PDF) . تقرير فني، جامعة ألبرتا.
  21. "رهان شودان جو" . تم الاطلاع عليه بتاريخ 2012-05-02 .
  22. "مدونة بحثية: ألفا غو: إتقان لعبة غو القديمة باستخدام التعلم الآلي" . مدونة جوجل البحثية . 27 يناير 2016.
  23. "جوجل تحقق "إنجازاً" في مجال الذكاء الاصطناعي بفوزها على بطل لعبة غو" . بي بي سي نيوز . 27 يناير 2016.
  24. "المباراة 1 - مباراة تحدي جوجل ديب مايند: لي سيدول ضد ألفا غو" . يوتيوب . 9 مارس 2016.
  25. "برنامج الذكاء الاصطناعي ألفا غو من جوجل يكتسح بطولة أوروبا للعبة غو" . زد نت . 28 يناير 2016.
  26. برودريك أرنيسون؛ رايان هايوارد؛ فيليب هندرسون (يونيو 2009). "فوز MoHex ببطولة Hex" (ملف PDF) . مجلة ICGA . 32 (2): 114-116 . doi : 10.3233/ICG-2009-32218 .
  27. تيمو إيوالدز (2011). لعب وحل هافانا (ملف PDF) . رسالة ماجستير، جامعة ألبرتا.
  28. ريتشارد ج. لورنتز (2008). "الأمازونيات يكتشفن مونت كارلو". الحواسيب والألعاب، المؤتمر الدولي السادس، CG 2008، بكين، الصين، 29 سبتمبر - 1 أكتوبر 2008. وقائع المؤتمر . تحرير : هـ. ياب فان دن هيريك، شينهي شو، زونغمين ما، مارك هـ. م. ويناندز. سبرينغر. الصفحات 13-24 . ISBN  978-3-540-87607-6.
  29. توماش كوزيلك (2009). أساليب مونت كارلو لألعاب البحث والتحليل ولعبة أريما (ملف PDF) . رسالة ماجستير، جامعة تشارلز في براغ.
  30. ^ شياو كونغ غان؛ يون باو؛ تشانغانغ هان (ديسمبر 2011). “طريقة البحث في الوقت الحقيقي في لعبة غير حتمية – السيدة باك مان”. مجلة ICGA . 34 (4): 209-222 . دوى : 10.3233/ICG-2011-34404 .
  31. توم بيبلز؛ مارك إتش إم ويناندز؛ مارك لانكتوت (سبتمبر 2014). "بحث شجرة مونت كارلو في الوقت الحقيقي في لعبة باك مان" . معاملات IEEE في الذكاء الحسابي والذكاء الاصطناعي في الألعاب . 6 (3): 245-257 . doi : 10.1109/tciaig.2013.2291577 .
  32. ماونتن، جوارد (2015). "التخطيط التكتيكي وخوارزمية مونت كارلو للبحث في الوقت الحقيقي في لعبة Fable Legends" . مؤرشف من الأصل بتاريخ 8 يونيو 2019. تم الاطلاع عليه بتاريخ 8 يونيو 2019. .. لقد طبقنا منهجًا قائمًا على المحاكاة، تضمن نمذجة أسلوب اللعب واستخدام خوارزمية مونت كارلو للبحث في فضاء الخطط المحتملة. وقد نجح هذا النهج بشكل عام، ...  
  33. مايكل بورو؛ جيفري ريتشارد لونغ؛ تيموثي فورتاك؛ ناثان ر. ستورتيفانت (2009). "تحسين تقييم الحالة والاستدلال والبحث في ألعاب الورق القائمة على الخدع". وقائع المؤتمر الدولي المشترك الحادي والعشرين حول الذكاء الاصطناعي IJCAI 2009، باسادينا، كاليفورنيا، الولايات المتحدة الأمريكية، 11-17 يوليو 2009. كريغ بوتيلير (محرر). الصفحات 1407-1413 . CiteSeerX 10.1.1.150.3077 .  
  34. جوناثان روبين؛ إيان واتسون (أبريل 2011). "لعبة البوكر الحاسوبية: مراجعة" . الذكاء الاصطناعي . 175 ( 5-6 ): 958-987 . doi : 10.1016/j.artint.2010.12.005 .
  35. سي دي وارد؛ بي آي كاولينغ (2009). "تطبيق بحث مونت كارلو على اختيار البطاقات في لعبة ماجيك: ذا غاذرينغ" (ملف PDF) . وقائع مؤتمر CIG'09 الدولي الخامس حول الذكاء الحسابي والألعاب . مطبعة IEEE. مؤرشف من النسخة الأصلية (ملف PDF) بتاريخ 28 مايو 2016.
  36. إستفان سزيتا؛ غيوم شاسلوت؛ بيتر سبرونك (2010). "بحث مونت كارلو الشجري في لعبة مستوطنو كاتان" (ملف PDF) . في: ياب فان دين هيريك؛ بيتر سبرونك (محرران). التطورات في ألعاب الحاسوب، المؤتمر الدولي الثاني عشر، ACG 2009، بامبلونا، إسبانيا، 11-13 مايو 2009. أوراق منقحة . سبرينغر. الصفحات 21-32 . ISBN  978-3-642-12992-6أُرشف من النسخة الأصلية (PDF) بتاريخ 4 مارس 2016. تم الاطلاع عليه بتاريخ 30 نوفمبر 2015 .
  37. 1 2 جي إم جي بي تشاسلوت؛ إم إتش إم ويناندز؛ جيه دبليو إم أويترويجك؛ إتش جيه فان دن هيريك؛ ب. بوزي (2008). “استراتيجيات تقدمية للبحث عن شجرة مونت كارلو” (PDF) . الرياضيات الجديدة والحساب الطبيعي . 4 (3): 343-359 . دوى : 10.1142 / s1793005708001094 .
  38. برادبيري، جيف (2015-09-07). "مقدمة في بحث شجرة مونت كارلو" .
  39. بيريز، يوفال؛ شرام، أوديد؛ شيفيلد، سكوت؛ ويلسون، ديفيد ب. (2006). "لعبة سداسية الأدوار العشوائية وألعاب الاختيار الأخرى". arXiv : math/0508580 .
  40. أوير، بيتر؛ سيسا-بيانكي، نيكولو؛ فيشر، بول (2002). "تحليل زمني محدود لمسألة اللص متعدد الأذرع" . تعلم الآلة . 47 (2/3): 235-256 . doi : 10.1023/a:1013689704352 . S2CID 207609497 . 
  41. براون، كاميرون ب.؛ باولي، إدوارد؛ وايت هاوس، دانيال؛ لوكاس، سيمون م.؛ كاولينغ، بيتر آي.؛ رولفشاجن، فيليب؛ تافينر، ستيفن؛ بيريز، دييغو؛ ساموثراكيس، سبيريدون؛ كولتون، سيمون (2012). "دراسة استقصائية لطرق بحث شجرة مونت كارلو" . معاملات IEEE في الذكاء الحسابي والذكاء الاصطناعي في الألعاب . 4 (1): 1-43 . Bibcode : 2012ITCIA...4A6810B . doi : 10.1109/tciaig.2012.2186810 . ISSN 1943-068X . 
  42. ألثوفر، إنجو (2012). "حول ألعاب ملء اللوحة بترتيب أدوار عشوائي وكمال مونت كارلو". التطورات في ألعاب الحاسوب . سلسلة محاضرات في علوم الحاسوب. المجلد 7168. الصفحات 258-269 . doi : 10.1007/978-3-642-31866-5_22 . ISBN   978-3-642-31865-8.
  43. رامانوجان، راغورام؛ سابهاروال، أشيش؛ سلمان، بارت (مايو 2010). "حول مساحات البحث التنافسية والتخطيط القائم على أخذ العينات" . وقائع المؤتمر الدولي العشرين للتخطيط والجدولة الآليين (ICAPS '10). ICAPS'10: 242-245 .
  44. رامانوجان، راغورام؛ سيلمان، بارت (مارس 2011). "المفاضلات في التخطيط التنافسي القائم على أخذ العينات" . وقائع المؤتمر الدولي للتخطيط والجدولة الآليين . 21 (1): 202-209 . doi : 10.1609/icaps.v21i1.13472 . S2CID 45147586 . 
  45. "لي سيدول يهزم ألفا غو في عودة رائعة - المباراة الرابعة" . غو غيم غورو. مؤرشف من الأصل بتاريخ 16 نوفمبر 2016. تم الاطلاع عليه بتاريخ 4 يوليو 2017 .
  46. دريك، بيتر (ديسمبر 2009). "سياسة الرد الأخير الجيد للعبة غو مونت كارلو". مجلة ICGA . 32 (4): 221-227 . doi : 10.3233/ICG-2009-32404 .
  47. ^ سيث بيليجرينو. بيتر دريك (2010). “التحقيق في تأثيرات قوة اللعب في مونتي كارلو جو”. وقائع المؤتمر الدولي للذكاء الاصطناعي لعام 2010، ICAI 2010، 12-15 يوليو 2010، لاس فيجاس نيفادا، الولايات المتحدة الأمريكية . حميد ر. أرابنيا، ديفيد دي لا فوينتي، إيلينا بي. كوزرينكو، خوسيه أنجيل أوليفاس، روي تشانغ، بيتر إم. لامونيكا، ريموند أ. ليوزي، أشو إم جي سولو (محررون). الصحافة CSREA. ص 1015 – 1018. ISBN  978-1-60132-148-0.
  48. 1 2 جيلي، سيلفان؛ سيلفر، ديفيد (2007). "دمج المعرفة عبر الإنترنت وغير المتصلة بالإنترنت في UCT" (ملف PDF) . التعلم الآلي، وقائع المؤتمر الدولي الرابع والعشرين (ICML 2007)، كورفاليس، أوريغون، الولايات المتحدة الأمريكية، 20-24 يونيو 2007. زوبين غهراماني (محرر). ACM. الصفحات 273-280 . ISBN  978-1-59593-793-3تمت أرشفة النسخة الأصلية (PDF) بتاريخ 28-08-2017.
  49. ديفيد سيلفر (2009). التعلم المعزز والبحث القائم على المحاكاة في لعبة غو الحاسوبية (ملف PDF) . أطروحة دكتوراه، جامعة ألبرتا.
  50. ريمي كولوم . "CLOP: التحسين المحلي الواثق لضبط معلمات الصندوق الأسود الضوضائي" . مؤتمر ACG 2011: التطورات في ألعاب الكمبيوتر 13، تيلبورغ، هولندا، 20-22 نوفمبر .
  51. غيوم إم جيه-بي. تشاسلوت، مارك إتش إم ويناندز، ياب فان دن هيريك (2008). "بحث شجرة مونت كارلو المتوازي" (ملف PDF) . الحوسبة والألعاب، المؤتمر الدولي السادس، CG 2008، بكين، الصين، 29 سبتمبر - 1 أكتوبر 2008. وقائع المؤتمر . إتش. ياب فان دن هيريك، شينهي شو، زونغمين ما، مارك إتش إم ويناندز (محررون). سبرينغر. الصفحات 60-71 . ISBN  978-3-540-87607-6.{{cite book}}: صيانة CS1: أسماء متعددة: قائمة المؤلفين ( رابط )
  52. ماركوس إنزنبرغر؛ مارتن مولر (2010). "خوارزمية بحث شجري مونت كارلو متعددة الخيوط بدون قفل". في: ياب فان دين هيريك؛ بيتر سبرونك (محرران). التطورات في ألعاب الحاسوب: المؤتمر الدولي الثاني عشر، ACG 2009، بامبلونا، إسبانيا، 11-13 مايو 2009، أوراق منقحة . سبرينغر. ص 14-20 . CiteSeerX 10.1.1.161.1984 . ISBN   978-3-642-12992-6.

فهرس