الاحتمال الاستقرائي

تحاول الاحتمالية الاستقرائية تحديد احتمالية الأحداث المستقبلية بناءً على الأحداث الماضية. وهي الأساس للاستدلال الاستقرائي ، وتوفر الأساس الرياضي للتعلم وإدراك الأنماط. وهي مصدر للمعرفة حول العالم.

هناك ثلاثة مصادر للمعرفة: الاستدلال ، والتواصل، والاستنباط. ينقل التواصل المعلومات التي تم العثور عليها باستخدام طرق أخرى. يؤسس الاستنباط حقائق جديدة بناءً على الحقائق الموجودة. يؤسس الاستدلال حقائق جديدة من البيانات. أساسه هو نظرية بايز .

تُكتب المعلومات التي تصف العالم بلغة معينة. على سبيل المثال، قد يتم اختيار لغة رياضية بسيطة من القضايا. وقد تُكتب الجمل بهذه اللغة على هيئة سلاسل من الأحرف. ولكن في الكمبيوتر من الممكن ترميز هذه الجمل على هيئة سلاسل من البتات (1 و0). بعد ذلك، قد يتم ترميز اللغة بحيث تكون الجمل الأكثر استخدامًا هي الأقصر. تمثل هذه اللغة الداخلية ضمناً احتمالات العبارات.

تقول شفرة أوكام إن "أبسط نظرية متوافقة مع البيانات هي الأكثر احتمالاً أن تكون صحيحة". يتم تفسير "أبسط نظرية" على أنها تمثيل للنظرية المكتوبة بهذه اللغة الداخلية. النظرية ذات أقصر ترميز بهذه اللغة الداخلية هي الأكثر احتمالاً أن تكون صحيحة.

ركزت الاحتمالات والإحصاء على توزيعات الاحتمالات واختبارات الدلالة. كانت الاحتمالات رسمية ومحددة جيدًا، لكنها محدودة النطاق. وعلى وجه الخصوص، كان تطبيقها يقتصر على المواقف التي يمكن تعريفها على أنها تجربة أو محاولة، مع وجود مجموعة سكانية محددة جيدًا.

سميت نظرية بايز على اسم القس توماس بايز (1701-1761). وقد وسع الاستدلال البايزي نطاق تطبيق الاحتمالية ليشمل العديد من المواقف التي لم يكن فيها السكان محددين بشكل جيد. ولكن نظرية بايز كانت تعتمد دائمًا على الاحتمالات السابقة لتوليد احتمالات جديدة. ولم يكن من الواضح من أين تأتي هذه الاحتمالات السابقة.

قام راي سولومونوف بتطوير الاحتمال الخوارزمي الذي قدم تفسيرًا لما هي العشوائية وكيف يمكن تمثيل الأنماط في البيانات بواسطة برامج الكمبيوتر، والتي تعطي تمثيلات أقصر للبيانات حوالي عام 1964.

قام كريس والاس و دي إم بولتون بتطوير الحد الأدنى لطول الرسالة حوالي عام 1968. وفي وقت لاحق، قام جورما ريسانين بتطوير الحد الأدنى لطول الوصف حوالي عام 1978. تسمح هذه الأساليب بربط نظرية المعلومات بالاحتمالية، بطريقة يمكن مقارنتها بتطبيق نظرية بايز، ولكنها تقدم مصدرًا وتفسيرًا لدور الاحتمالات السابقة.

قام ماركوس هوتر بدمج نظرية القرار مع عمل راي سولومونوف وأندريه كولموجوروف لإعطاء نظرية للسلوك الأمثل لباريتو للوكيل الذكي ، حوالي عام 1998.

إن البرنامج الذي يمتلك أقصر طول يتوافق مع البيانات هو الأكثر احتمالاً للتنبؤ بالبيانات المستقبلية. هذه هي الأطروحة وراء طرق الحد الأدنى لطول الرسالة ^[1] والحد الأدنى لطول الوصف ^[2] .

للوهلة الأولى، تبدو نظرية بايز مختلفة عن مبدأ الحد الأدنى لطول الرسالة/الوصف. وعند الفحص الدقيق يتبين أنها نفس الشيء. تتعلق نظرية بايز بالاحتمالات الشرطية، وتنص على احتمال وقوع الحدث B إذا حدث الحدث A أولاً :

${\displaystyle P(A\و B)=P(B)\cdot P(A|B)=P(A)\cdot P(B|A)}$

يصبح من حيث طول الرسالة L ،

${\displaystyle L(A\و B)=L(B)+L(A|B)=L(A)+L(B|A).}$

هذا يعني أنه إذا تم تقديم جميع المعلومات التي تصف حدثًا ما، فيمكن استخدام طول المعلومات لإعطاء الاحتمالية الأولية للحدث. لذا، إذا تم تقديم المعلومات التي تصف حدوث A ، جنبًا إلى جنب مع المعلومات التي تصف B نظرًا لـ A ، فإن جميع المعلومات التي تصف A و B قد تم تقديمها. ^{[3] [4]}

يحدث الإفراط في التجهيز عندما يتطابق النموذج مع الضوضاء العشوائية وليس النمط الموجود في البيانات. على سبيل المثال، خذ الموقف الذي يتم فيه ملاءمة منحنى لمجموعة من النقاط. إذا تم ملاءمة كثير حدود يحتوي على العديد من الحدود، فيمكنه تمثيل البيانات بشكل أوثق. عندئذٍ سيكون التجهيز أفضل، وستكون المعلومات اللازمة لوصف الانحرافات عن المنحنى الملائم أصغر. يعني طول المعلومات الأصغر احتمالية أعلى.

ومع ذلك، يجب أيضًا مراعاة المعلومات اللازمة لوصف المنحنى. قد تكون المعلومات الإجمالية لمنحنى يحتوي على العديد من الحدود أكبر من المعلومات الإجمالية لمنحنى يحتوي على عدد أقل من الحدود، والذي لا يتوافق مع المنحنى بشكل جيد، ولكنه يحتاج إلى معلومات أقل لوصف كثير الحدود.

نظرية سولومونوف في الاستدلال الاستقرائي هي أيضًا استدلال استقرائي. تتم ملاحظة سلسلة البتات x . ثم ضع في اعتبارك جميع البرامج التي تولد سلاسل تبدأ بـ x . عند صياغة البرامج في شكل استدلال استقرائي، فهي نظريات تتضمن ملاحظة سلسلة البتات x .

الطريقة المستخدمة هنا لإعطاء احتمالات الاستدلال الاستقرائي تعتمد على نظرية سولومونوف في الاستدلال الاستقرائي .

إذا كانت كل البتات تساوي 1، فإن الناس يستنتجون أن هناك تحيزًا في العملة وأن من المرجح أيضًا أن يكون البت التالي 1 أيضًا. ويُطلق على هذا التعلم من نمط في البيانات أو اكتشافه.

يمكن تمثيل مثل هذا النمط بواسطة برنامج كمبيوتر . يمكن كتابة برنامج كمبيوتر قصير ينتج سلسلة من البتات التي تكون جميعها 1. إذا كان طول البرنامج K هو بتات، فإن احتماله المسبق هو، ${\displaystyle L(K)}$

${\displaystyle P(K)=2^{-L(K)}}$

يُطلق على طول أقصر برنامج يمثل سلسلة البتات اسم تعقيد كولموغوروف .

لا يمكن حساب تعقيد كولموغوروف. وهذا مرتبط بمشكلة التوقف . عند البحث عن أقصر برنامج، قد تدخل بعض البرامج في حلقة لا نهائية.

يُقال عن الفيلسوف اليوناني أبيقور قوله "إذا كانت هناك أكثر من نظرية متوافقة مع الملاحظات، فاحتفظ بجميع النظريات". ^[5]

كما هو الحال في رواية الجريمة، يجب أخذ جميع النظريات في الاعتبار عند تحديد القاتل المحتمل، لذلك في الاحتمال الاستقرائي يجب أخذ جميع البرامج في الاعتبار عند تحديد البتات المستقبلية المحتملة الناشئة عن تدفق البتات.

البرامج التي يزيد طولها بالفعل عن n ليس لها قوة تنبؤية. الاحتمال الأولي (أو المسبق) بأن نمط البتات عشوائي (ليس له نمط) هو . ${\displaystyle 2^{-n}}$

كل برنامج ينتج تسلسل من البتات، ولكنه أقصر من n هو نظرية/نمط حول البتات باحتمال حيث k هو طول البرنامج. ${\displaystyle 2^{-k}}$

إن احتمالية تلقي تسلسل من البتات y بعد تلقي سلسلة من البتات x هي الاحتمالية الشرطية لاستلام y معطى x ، وهو احتمالية x مع إضافة y ، مقسومة على احتمالية x . ^{[6] [7] [8]}

تؤثر لغة البرمجة على تنبؤات البت التالي في السلسلة. تعمل اللغة كاحتمالية سابقة . هذه مشكلة خاصة عندما تقوم لغة البرمجة بترميز الأرقام وأنواع البيانات الأخرى. بديهيًا، نعتقد أن 0 و1 أرقام بسيطة، وأن الأعداد الأولية أكثر تعقيدًا بطريقة ما من الأرقام التي قد تكون مركبة.

إن استخدام تعقيد كولموغوروف يعطي تقديرًا غير متحيز (مسبق عالمي) للاحتمال المسبق لرقم ما. وكتجربة فكرية، قد يتم تزويد وكيل ذكي بجهاز إدخال بيانات يعطي سلسلة من الأرقام، بعد تطبيق بعض وظائف التحويل على الأرقام الخام. وقد يكون لدى وكيل آخر نفس جهاز الإدخال مع وظيفة تحويل مختلفة. ولا يرى الوكلاء أو يعرفون عن وظائف التحويل هذه. وبالتالي لا يبدو أن هناك أساسًا منطقيًا لتفضيل وظيفة على أخرى. يضمن المسبق العالمي أنه على الرغم من أن وكيلين قد يكون لديهما توزيعات احتمالية أولية مختلفة لإدخال البيانات، فإن الاختلاف سيكون محدودًا بثابت.

وعلى هذا فإن المقدمات الشاملة لا تلغي التحيز الأولي، بل إنها تقلله وتحد منه. وكلما وصفنا حدثاً ما بلغة ما، سواء باستخدام لغة طبيعية أو غيرها، فإن اللغة تكون قد شفرت فيه توقعاتنا المسبقة. وعلى هذا فإن الاعتماد على الاحتمالات المسبقة أمر لا مفر منه.

تنشأ مشكلة عندما تتفاعل التوقعات المسبقة للوكيل الذكي مع البيئة لتكوين حلقة تغذية مرتدة معززة ذاتيًا. هذه هي مشكلة التحيز أو التحامل. تعمل التوقعات المسبقة الشاملة على تقليل هذه المشكلة ولكنها لا تقضي عليها.

تطبق نظرية الذكاء الاصطناعي الشامل نظرية القرار على الاحتمالات الاستقرائية. وتوضح النظرية كيفية اختيار أفضل الإجراءات لتحسين وظيفة المكافأة. والنتيجة هي نموذج نظري للذكاء. ^[9]

إنها نظرية أساسية في الذكاء، تعمل على تحسين سلوك العملاء في،

• استكشاف البيئة؛ القيام بإجراءات للحصول على استجابات تعمل على توسيع معرفة الوكلاء.
• التنافس أو التعاون مع وكيل آخر؛ الألعاب.
• موازنة المكافآت قصيرة وطويلة المدى.

بشكل عام لن يقدم أي وكيل دائمًا أفضل الإجراءات في جميع المواقف. قد يكون الاختيار الذي يتخذه وكيل معين خاطئًا، وقد لا توفر البيئة أي وسيلة للوكيل للتعافي من اختيار سيئ أولي. ومع ذلك، فإن الوكيل مثالي وفقًا لباريتو بمعنى أنه لن يكون هناك وكيل آخر أفضل منه في هذه البيئة، دون أن يكون أسوأ في بيئة أخرى. لا يمكن القول، بهذا المعنى، إن أي وكيل آخر أفضل.

في الوقت الحاضر، تقتصر النظرية على عدم القدرة على الحساب ( مشكلة التوقف ). ويمكن استخدام التقريبات لتجنب ذلك. وتظل سرعة المعالجة والانفجار التركيبي من العوامل الأساسية التي تحد من الذكاء الاصطناعي .

الاحتمال هو تمثيل المعرفة غير المؤكدة أو الجزئية حول حقيقة البيانات. الاحتمالات هي تقديرات ذاتية وشخصية للنتائج المحتملة بناءً على الخبرة السابقة والاستنتاجات المستخلصة من البيانات.

قد يبدو هذا الوصف للاحتمال غريبًا للوهلة الأولى. ففي اللغة الطبيعية نشير إلى "احتمال" شروق الشمس غدًا. ولا نشير إلى "احتمالك" في شروق الشمس. ولكن لكي تكون الاستدلالات نموذجية بشكل صحيح، فلابد أن تكون الاحتمالية شخصية، ويؤدي فعل الاستدلال إلى توليد احتمالات لاحقة جديدة من الاحتمالات السابقة.

الاحتمالات شخصية لأنها مشروطة بمعرفة الفرد. والاحتمالات ذاتية لأنها تعتمد دائمًا، إلى حد ما، على الاحتمالات السابقة التي يحددها الفرد. ولا ينبغي أن يُفهم من الذاتية هنا أنها غامضة أو غير محددة.

يُستخدم مصطلح العميل الذكي للإشارة إلى حامل الاحتمالات. قد يكون العميل الذكي إنسانًا أو آلة. إذا لم يتفاعل العميل الذكي مع البيئة، فسوف تتقارب الاحتمالية بمرور الوقت مع تردد الحدث.

ولكن إذا استخدم العميل الاحتمالية للتفاعل مع البيئة فقد يكون هناك تغذية راجعة، بحيث ينتهي الأمر بعميلين في نفس البيئة يبدآن بأولويات مختلفة قليلاً إلى احتمالات مختلفة تمامًا. في هذه الحالة، ستمنح نظرية القرار الأمثل كما في الذكاء الاصطناعي العالمي لماركوس هوتر أداءً مثاليًا وفقًا لباريتو للعميل. وهذا يعني أنه لا يمكن لأي عميل ذكي آخر أن يعمل بشكل أفضل في بيئة واحدة دون أن يعمل بشكل أسوأ في بيئة أخرى.

في نظريات الاحتمالات الاستنتاجية، تكون الاحتمالات مطلقة، مستقلة عن الفرد الذي يقوم بالتقييم. لكن الاحتمالات الاستنتاجية تعتمد على:

• المعرفة المشتركة.
• حقائق مفترضة، ينبغي استنتاجها من البيانات.

على سبيل المثال، في إحدى التجارب، يدرك المشاركون نتائج جميع التجارب السابقة. كما يفترضون أن كل نتيجة متساوية الاحتمالية. ويسمح هذا معًا بتحديد قيمة واحدة غير مشروطة للاحتمال.

ولكن في الواقع، لا يحصل كل فرد على نفس المعلومات. وبشكل عام، فإن احتمالات كل نتيجة ليست متساوية. وقد تكون النرد محملة، ولابد من استنتاج هذا التحميل من البيانات.

لعب مبدأ اللامبالاة دورًا رئيسيًا في نظرية الاحتمالات. ينص على أنه إذا كانت N عبارة متماثلة بحيث لا يمكن تفضيل شرط واحد على آخر، فإن جميع العبارات متساوية الاحتمال. [ 10 ^]

إذا أخذنا هذا المبدأ على محمل الجد، فإنه يؤدي في تقييم الاحتمالات إلى تناقضات. لنفترض أن هناك ثلاث أكياس من الذهب على مسافة بعيدة وطُلب من أحدنا اختيار واحدة. إذن بسبب المسافة، لا يستطيع المرء رؤية أحجام الأكياس. يمكنك التقدير باستخدام مبدأ اللامبالاة بأن كل كيس يحتوي على كميات متساوية من الذهب، وأن كل كيس يحتوي على ثلث الذهب.

الآن، بينما لا ينظر أحدنا، يأخذ الآخر أحد الأكياس ويقسمه إلى 3 أكياس. الآن أصبح لدينا 5 أكياس من الذهب. يقول مبدأ اللامبالاة الآن أن كل كيس يحتوي على خمس الذهب. الكيس الذي كان يُقدر أنه يحتوي على ثلث الذهب يُقدر الآن أنه يحتوي على خمس الذهب.

إذا نظرنا إلى القيمتين كقيمة مرتبطة بالحقيبة، فإنهما تكونان مختلفتين وبالتالي متناقضتين. ولكن إذا نظرنا إليهما كتقدير في ظل سيناريو معين، فإن القيمتين عبارة عن تقديرات منفصلة في ظل ظروف مختلفة وليس هناك سبب للاعتقاد بأنهما متساويتان.

إن تقديرات الاحتمالات السابقة مشكوك فيها بشكل خاص. حيث يتم إنشاء تقديرات لا تتبع أي توزيع ترددي ثابت. ولهذا السبب، يتم اعتبار الاحتمالات السابقة تقديرات للاحتمالات وليس مجرد احتمالات.

إن المعالجة النظرية الكاملة سوف ترتبط بكل احتمال،

• البيان
• المعرفة السابقة
• الاحتمالات السابقة
• إجراء التقدير المستخدم لإعطاء الاحتمالية.

الاحتمال الاستقرائي يجمع بين نهجين مختلفين للاحتمال.

• الإحتمالات والمعلومات
• الاحتمالية والتردد

يقدم كل نهج وجهة نظر مختلفة قليلاً. تُستخدم نظرية المعلومات في ربط الاحتمالات بكميات المعلومات. وغالبًا ما يُستخدم هذا النهج في تقديم تقديرات للاحتمالات السابقة.

يحدد الاحتمال التكراري الاحتمالات باعتبارها عبارات موضوعية حول مدى تكرار حدوث حدث ما. يمكن توسيع هذا النهج من خلال تحديد التجارب على العوالم المحتملة . تحدد العبارات حول العوالم المحتملة الأحداث .

في حين أن المنطق يمثل قيمتين فقط؛ true وfalse كقيمتين للعبارة، فإن الاحتمالية تربط رقمًا في [0,1] بكل عبارة. إذا كان احتمال العبارة يساوي 0، فإن العبارة تكون خاطئة. إذا كان احتمال العبارة يساوي 1، فإن العبارة تكون صحيحة.

عند النظر إلى بعض البيانات كسلسلة من البتات، فإن الاحتمالات السابقة لتسلسل من 1 و0 متساوية. وبالتالي، فإن كل بت إضافي يقسم احتمال تسلسل البتات إلى النصف. وهذا يؤدي إلى الاستنتاج بأن:

${\displaystyle P(x)=2^{-L(x)}}$

حيث هو احتمال سلسلة البتات و هو طولها. ${\displaystyle P(x)}$${\displaystyle x}$${\displaystyle L(x)}$

يتم حساب الاحتمال المسبق لأي بيان من خلال عدد البتات اللازمة لبيانه. انظر أيضًا نظرية المعلومات .

يمكن تمثيل بيانين بترميزين منفصلين. عندئذٍ يكون طول الترميز، ${\displaystyle A}$${\displaystyle B}$

${\displaystyle L(A\و B)=L(A)+L(B)}$

أو من حيث الاحتمالية،

${\displaystyle P(A)P(B)=P(A)P(B)}$

لكن هذا القانون ليس صحيحًا دائمًا لأنه قد تكون هناك طريقة أقصر للترميز إذا افترضنا . لذا فإن قانون الاحتمالية أعلاه ينطبق فقط إذا كانت و "مستقلتين". ${\displaystyle B}$${\displaystyle A}$${\displaystyle A}$${\displaystyle B}$

الاستخدام الأساسي لنهج المعلومات في التعامل مع الاحتمالات هو توفير تقديرات لتعقيد البيانات. تذكر أن شفرة أوكام تنص على أنه "في حالة تساوي كل الأشياء، فإن النظرية الأبسط هي الأكثر احتمالاً للصواب". لتطبيق هذه القاعدة، يجب أولاً تحديد ما يعنيه "الأبسط". تُعرِّف نظرية المعلومات الأبسط على أنه يعني وجود أقصر ترميز.

يتم تمثيل المعرفة على هيئة عبارات . كل عبارة عبارة عن تعبير منطقي . يتم ترميز التعبيرات بواسطة دالة تأخذ وصفًا (مقابل القيمة) للتعبير وترميزه كسلسلة بت.

إن طول ترميز العبارة يعطي تقديرًا لاحتمالية العبارة. وغالبًا ما يُستخدم تقدير الاحتمالية هذا كاحتمالية سابقة لعبارات معينة.

من الناحية الفنية، لا يعد هذا التقدير احتمالاً لأنه غير مبني على توزيع ترددي. ولا تلتزم تقديرات الاحتمالات التي يقدمها هذا التقدير دائمًا بقانون إجمالي الاحتمالات. وعادةً ما يؤدي تطبيق قانون إجمالي الاحتمالات على سيناريوهات مختلفة إلى الحصول على تقدير احتمال أكثر دقة للاحتمالية السابقة مقارنة بالتقدير الناتج عن طول العبارة.

يتم إنشاء التعبير من التعبيرات الفرعية،

• الثوابت (بما في ذلك معرف الوظيفة).
• تطبيق الوظائف.
• الكميات .

يجب أن يميز كود هوفمان بين الحالات الثلاث. يعتمد طول كل كود على تكرار كل نوع من التعبيرات الفرعية.

في البداية، يتم تعيين نفس الطول/الاحتمالية لجميع الثوابت. وفي وقت لاحق، قد يتم تعيين احتمالية للثوابت باستخدام كود هوفمان استنادًا إلى عدد مرات استخدام معرف الدالة في جميع التعبيرات المسجلة حتى الآن. وفي استخدام كود هوفمان، يكون الهدف هو تقدير الاحتمالات، وليس ضغط البيانات.

طول تطبيق الوظيفة هو طول ثابت معرف الوظيفة بالإضافة إلى مجموع أحجام التعبيرات لكل معلمة.

طول الكمية هو طول التعبير الذي يتم تحديد كميته.

لا يوجد تمثيل صريح للأعداد الطبيعية. ومع ذلك، يمكن إنشاء الأعداد الطبيعية من خلال تطبيق الدالة اللاحقة على 0، ثم تطبيق دوال حسابية أخرى. وهذا يعني توزيع الأعداد الطبيعية، بناءً على تعقيد إنشاء كل عدد.

يتم إنشاء الأعداد النسبية عن طريق قسمة الأعداد الطبيعية. لا يحتوي أبسط تمثيل على عوامل مشتركة بين البسط والمقام. وهذا يسمح بتوسيع توزيع احتمالات الأعداد الطبيعية ليشمل الأعداد النسبية.

يمكن تفسير احتمال وقوع حدث ما على أنه تكرار النتائج حيث تكون العبارة صحيحة مقسومة على العدد الإجمالي للنتائج. إذا كانت النتائج تشكل استمرارية، فقد يلزم استبدال التكرار بمقياس .

الأحداث عبارة عن مجموعات من النتائج. قد تكون العبارات مرتبطة بأحداث. تحدد العبارة المنطقية B حول النتائج مجموعة من النتائج b،

${\displaystyle b=\{x:B(x)\}}$

ترتبط كل احتمالية دائمًا بحالة المعرفة عند نقطة معينة في الحجة. تُعرف الاحتمالات قبل الاستدلال بالاحتمالات السابقة، وتُعرف الاحتمالات بعد الاستدلال بالاحتمالات اللاحقة.

تعتمد الاحتمالية على الحقائق المعروفة. إن حقيقة الحقيقة تحد من نطاق النتائج إلى النتائج المتسقة مع الحقيقة. الاحتمالات السابقة هي الاحتمالات قبل معرفة الحقيقة. والاحتمالات اللاحقة هي بعد معرفة الحقيقة. ويقال إن الاحتمالات اللاحقة مشروطة بالحقيقة. والاحتمالية التي تكون صحيحة بشرط أن تكون صحيحة تُكتب على النحو التالي:${\displaystyle B}$${\displaystyle A}$${\displaystyle P(B|A).}$

كل الاحتمالات مشروطة إلى حد ما. الاحتمال السابق هو، ${\displaystyle B}$

${\displaystyle P(B)=P(B|\top )}$

في النهج التكراري ، يتم تعريف الاحتمالات على أنها نسبة عدد النتائج ضمن حدث إلى العدد الإجمالي للنتائج. في نموذج العالم الممكن ، كل عالم ممكن هو نتيجة، والعبارات حول العوالم الممكنة تحدد الأحداث. احتمال أن تكون العبارة صحيحة هو عدد العوالم الممكنة حيث تكون العبارة صحيحة مقسومًا على العدد الإجمالي للعوالم الممكنة. إذن، احتمال أن تكون العبارة صحيحة حول العوالم الممكنة هو،${\displaystyle A}$

${\displaystyle P(A)={\frac {|\{x:A(x)\}|}{|x:\top |}}}$

لاحتمالية مشروطة.

${\displaystyle P(B|A)={\frac {|\{x:A(x)\و B(x)\}|}{|x:A(x)|}}}$

ثم

${\displaystyle {\begin{aligned}P(A\land B)&={\frac {|\{x:A(x)\land B(x)\}|}{|x:\top |}}\\[8pt]&={\frac {|\{x:A(x)\land B(x)\}|}{|\{x:A(x)\}|}}{\frac {|\{x:A(x)\}|}{|x:\top |}}\\[8pt]&=P(A)P(B|A)\end{aligned}}}$

باستخدام التناظر، يمكن كتابة هذه المعادلة على هيئة قانون بايز.

${\displaystyle P(A\و B)=P(A)P(B|A)=P(B)P(A|B)}$

يصف هذا القانون العلاقة بين الاحتمالات السابقة واللاحقة عند تعلم حقائق جديدة.

عند كتابتها ككميات من المعلومات تصبح نظرية بايز ،

${\displaystyle L(A\و B)=L(A)+L(B|A)=L(B)+L(A|B)}$

يقال إن العبارتين A وB مستقلتان إذا لم يكن معرفة حقيقة A يغير احتمالية B. رياضيًا، هذا هو:

${\displaystyle P(B)=P(B|A)}$

ثم يتم تقليص نظرية بايز إلى،

${\displaystyle P(A)P(B)=P(A)P(B)}$

بالنسبة لمجموعة من الاحتمالات المتبادلة الحصرية ، يجب أن يكون مجموع الاحتمالات اللاحقة 1. ${\displaystyle A_{i}}$

${\displaystyle \sum _{i}{P(A_{i}|B)}=1}$

يؤدي الاستبدال باستخدام نظرية بايز إلى قانون الاحتمال الكلي

${\displaystyle \sum _{i}{P(B|A_{i})P(A_{i})}=\sum _{i}{P(A_{i}|B)P(B)}}$

${\displaystyle P(B)=\مجموع _{i}{P(B|A_{i})P(A_{i})}}$

يتم استخدام هذه النتيجة لإعطاء الشكل الموسع لنظرية بايز ،

${\displaystyle P(A_{i}|B)={\frac {P(B|A_{i})P(A_{i})}{\sum _{j}{P(B|A_{j})P(A_{j})}}}}$

هذا هو الشكل المعتاد لنظرية بايز المستخدمة في الممارسة العملية، لأنه يضمن أن مجموع كل الاحتمالات الخلفية يساوي 1. ${\displaystyle A_{i}}$

بالنسبة للإمكانيات المتبادلة الحصرية، يتم إضافة الاحتمالات.

${\displaystyle P(A\lor B)=P(A)+P(B),\qquad {\text{إذا}}P(A\lor B)=0}$

استخدام

${\displaystyle A\lor B=(A\land \neg (A\land B))\lor (B\land \neg (A\land B))\lor (A\land B)}$

ثم البدائل

${\displaystyle A\land \neg (A\land B),\quad B\land \neg (A\land B),\quad A\land B}$

كلها متنافية مع بعضها البعض. أيضًا،

${\displaystyle (A\land \neg (A\land B))\lor (A\land B)=A}$

${\displaystyle P(A\land \neg (A\land B))+P(A\land B)=P(A)}$

${\displaystyle P(A\land \neg (A\land B))=P(A)-P(A\land B)}$

لذا، بوضع كل ذلك معًا،

${\displaystyle {\begin{aligned}P(A\lor B)&=P((A\land \neg (A\land B))\lor (B\land \neg (A\land B))\lor (A\land B))\\&=P(A\land \neg (A\land B)+P(B\land \neg (A\land B))+P(A\land B)\\& =P(A)-P(A\land B)+P(B)-P(A\land B)+P(A\land B)\\&=P(A)+P(B)-P(A\land B)\end{محاذاة}} }$

مثل،

${\displaystyle A\lor \neg A=\top }$

ثم

${\displaystyle P(A)+P(\neg A)=1}$

يرتبط الاستدلال بالاحتمال الشرطي بالمعادلة التالية،

${\displaystyle A\to B\iff P(B|A)=1}$

الاشتقاق،

${\displaystyle {\begin{aligned}A\to B&\iff P(A\to B)=1\\&\iff P(A\land B\lor \neg A)=1\\&\iff P(A\land B)+P(\neg A)=1\\&\iff P(A\land B)=P(A)\\&\iff P(A)\cdot P(B|A)=P(A)\\&\iff P(B|A)=1\end{aligned}}}$

يمكن استخدام نظرية بايز لتقدير احتمالية فرضية أو نظرية H، مع الأخذ بعين الاعتبار بعض الحقائق F. وبالتالي فإن الاحتمالية اللاحقة لـ H هي

${\displaystyle P(H|F)={\frac {P(H)P(F|H)}{P(F)}}}$

أو من حيث المعلومات،

${\displaystyle P(H|F)=2^{-(L(H)+L(F|H)-L(F))}}$

بافتراض أن الفرضية صحيحة، يمكن تقديم تمثيل أبسط للعبارة F. طول ترميز هذا التمثيل الأبسط هو${\displaystyle L(F|H).}$

${\displaystyle L(H)+L(F|H)}$يمثل مقدار المعلومات اللازمة لتمثيل الحقائق F، إذا كانت H صحيحة. هو مقدار المعلومات اللازمة لتمثيل F بدون الفرضية H. الفرق هو مقدار ضغط تمثيل الحقائق بافتراض أن H صحيحة. هذا هو الدليل على أن الفرضية H صحيحة. ${\displaystyle L(F)}$

إذا تم تقدير ذلك من طول الترميز، فلن يكون الاحتمال الذي تم الحصول عليه بين 0 و1. القيمة التي تم الحصول عليها تتناسب مع الاحتمال، دون أن تكون تقديرًا جيدًا للاحتمال. يُشار إلى الرقم الذي تم الحصول عليه أحيانًا باسم الاحتمال النسبي، وهو مدى احتمالية تمسك النظرية مقارنة بعدم تمسكها. ${\displaystyle L(F)}$

إذا كانت المجموعة الكاملة من الفرضيات المتبادلة الحصرية التي تقدم أدلة معروفة، فمن الممكن إعطاء تقدير مناسب للاحتمالية السابقة . ${\displaystyle P(F)}$

يمكن حساب الاحتمالات من الشكل الموسع لنظرية بايز. مع الأخذ في الاعتبار جميع الفرضيات المتبادلة الحصرية التي تقدم أدلة، مثل: ${\displaystyle H_{i}}$

${\displaystyle L(H_{i})+L(F|H_{i})<L(F)}$

وأيضًا الفرضية R، والتي تنص على أن أيًا من الفرضيات غير صحيحة، إذن،

${\displaystyle {\begin{aligned}P(H_{i}|F)&={\frac {P(H_{i})P(F|H_{i})}{P(F|R)+\sum _{j}{P(H_{j})P(F|H_{j})}}}\\[8pt]P(R|F)&={\frac {P(F|R)}{P(F|R)+\sum _{j}{P(H_{j})P(F|H_{j})}}}\end{aligned}}}$

من حيث المعلومات،

${\displaystyle {\begin{aligned}P(H_{i}|F)&={\frac {2^{-(L(H_{i})+L(F|H_{i}))}}{2^{-L(F|R)}+\sum _{j}2^{-(L(H_{j})+L(F|H_{j}))}}}\\[8pt]P(R|F)&={\frac {2^{-L(F|R)}}{2^{-L(F|R)}+\sum _{j}{2^{-(L(H_{j})+L(F|H_{j}))}}}}\end{aligned}}}$

في معظم المواقف، من الجيد افتراض أن مستقل عن ، مما يعني إعطاء، ${\displaystyle F}$${\displaystyle R}$${\displaystyle P(F|R)=P(F)}$

${\displaystyle {\begin{aligned}P(H_{i}|F)&\approx {\frac {2^{-(L(H_{i})+L(F|H_{i}))}}{2^{-L(F)}+\sum _{j}{2^{-(L(H_{j})+L(F|H_{j}))}}}}\\[8pt]P(R|F)&\approx {\frac {2^{-L(F)}}{2^{-L(F)}+\sum _{j}{2^{-(L(H_{j})+L(F|H_{j}))}}}}\end{aligned}}}$

يبدأ الاستدلال الاستقرائي ^{[11] [12] [13] [14]} بمجموعة من الحقائق F والتي هي عبارة (تعبير منطقي). يأتي الاستدلال الاستقرائي على الشكل التالي،

تتضمن النظرية T العبارة F. وبما أن النظرية T أبسط من F، فإن الاختطاف يقول إن هناك احتمالية أن تكون النظرية T مستمدة من F.

النظرية T ، والتي تسمى أيضًا تفسيرًا للشرط F ، هي إجابة على سؤال "لماذا" الواقعي الشائع. على سبيل المثال، بالنسبة للشرط F، فإن السؤال هو "لماذا تسقط التفاح؟". والإجابة هي نظرية T التي تعني أن التفاح يسقط؛

${\displaystyle F=G{\frac {m_{1}m_{2}}{r^{2}}}}$

الاستدلال الاستقرائي يكون على الشكل التالي:

جميع الأشياء المرصودة في الفئة C لها الخاصية P. لذلك هناك احتمال أن جميع الأشياء في الفئة C لها الخاصية P.

من حيث الاستدلال الاستقرائي، فإن جميع الأشياء في الفئة C أو المجموعة لها الخاصية P هي نظرية تتضمن الشرط المرصود، جميع الأشياء المرصودة في الفئة C لها الخاصية P.

لذا فإن الاستدلال الاستقرائي هو حالة عامة للاستدلال الاستقرائي. وفي الاستخدام الشائع، غالبًا ما يستخدم مصطلح الاستدلال الاستقرائي للإشارة إلى كل من الاستدلال الاستقرائي والاستدلال الاستقرائي.

الاستدلال الاستقرائي مرتبط بالتعميم . يمكن تكوين التعميمات من البيانات عن طريق استبدال قيمة معينة بعضوية فئة، أو عن طريق استبدال عضوية فئة بعضوية فئة أوسع. في المنطق الاستنتاجي، التعميم هو طريقة قوية لتوليد نظريات جديدة قد تكون صحيحة. في الاستدلال الاستقرائي، يولد التعميم نظريات لها احتمالية أن تكون صحيحة.

إن عكس التعميم هو التخصص. يستخدم التخصص في تطبيق قاعدة عامة على حالة محددة. يتم إنشاء التخصصات من التعميمات عن طريق استبدال عضوية فئة بقيمة محددة، أو عن طريق استبدال فئة بفئة فرعية.

يشكل تصنيف لينين للكائنات الحية والأشياء أساس التعميم والتحديد. والقدرة على تحديد الأشياء والتعرف عليها وتصنيفها هي أساس التعميم. ويبدو أن إدراك العالم كمجموعة من الأشياء يشكل جانبًا رئيسيًا من جوانب الذكاء البشري. وهو النموذج الموجه نحو الأشياء، بالمعنى غير المرتبط بعلوم الكمبيوتر .

يتم إنشاء النموذج الموجه للكائنات من خلال إدراكنا . وبشكل خاص، تعتمد الرؤية على القدرة على مقارنة صورتين وحساب مقدار المعلومات المطلوبة لتحويل صورة إلى أخرى أو تعيينها في خريطة. تستخدم الرؤية الحاسوبية هذا التعيين لإنشاء صور ثلاثية الأبعاد من أزواج الصور المجسمة .

البرمجة المنطقية الاستقرائية هي وسيلة لبناء نظرية تتضمن شرطًا. إن نهج بلوتكين ^{[15] [16]} " التعميم الأقل عمومية النسبي (rlgg) " يبني أبسط تعميم متوافق مع الشرط.

استخدم إسحاق نيوتن الحجج الاستقرائية في بناء قانونه للجاذبية الكونية . ^[17] بدءًا من البيان،

• يقع مركز التفاحة نحو مركز الأرض.

التعميم عن طريق استبدال التفاحة بالجسم والأرض بالجسم يعطي في نظام الجسمين،

• يقع مركز الجسم في اتجاه مركز جسم آخر.

تفسر النظرية سقوط جميع الأجسام، لذا فهناك أدلة قوية على ذلك. الملاحظة الثانية،

• يبدو أن الكواكب تتبع مسارًا بيضاويًا.

بعد بعض الحسابات الرياضية المعقدة ، يمكننا أن نرى أنه إذا كان التسارع يتبع قانون التربيع العكسي، فإن الأجسام تتبع شكلًا بيضاويًا. لذا فإن الاستقراء يقدم دليلاً على قانون التربيع العكسي.

باستخدام ملاحظة جاليليو بأن جميع الأجسام تسقط بنفس السرعة،

${\displaystyle F_{1}=m_{1}a_{1}={\frac {m_{1}k_{1}}{r^{2}}}i_{1}}$

${\displaystyle F_{2}=m_{2}a_{2}={\frac {m_{2}k_{2}}{r^{2}}}i_{2}}$

حيث والمتجهات نحو مركز الجسم الآخر. ثم باستخدام قانون نيوتن الثالث${\displaystyle i_{1}}$${\displaystyle i_{2}}$ ${\displaystyle F_{1}=-F_{2}}$

${\displaystyle F=G{\frac {m_{1}m_{2}}{r^{2}}}}$

يحدد الاستدلال احتمالية الشرط على النحو التالي،

${\displaystyle T\to F\iff P(F|T)=1}$

لذا،

${\displaystyle P(F|T)=1}$

${\displaystyle L(F|T)=0}$

يمكن استخدام هذه النتيجة في الاحتمالات المعطاة لاختبار الفرضيات البايزية. بالنسبة لنظرية واحدة، H = T و،

${\displaystyle P(T|F)={\frac {P(T)}{P(F)}}}$

أو من حيث المعلومات، الاحتمال النسبي هو،

${\displaystyle P(T|F)=2^{-(L(T)-L(F))}}$

لاحظ أن هذا التقدير لـ P(T|F) ليس احتمالًا حقيقيًا. إذا كانت النظرية لديها دليل يدعمها. إذن لمجموعة من النظريات ، بحيث ، ${\displaystyle L(T_{i})<L(F)}$${\displaystyle T_{i}=H_{i}}$${\displaystyle L(T_{i})<L(F)}$

${\displaystyle P(T_{i}|F)={\frac {P(T_{i})}{P(F|R)+\sum _{j}{P(T_{j})}}}}$

${\displaystyle P(R|F)={\frac {P(F|R)}{P(F|R)+\sum _{j}{P(T_{j})}}}}$

العطاء

${\displaystyle P(T_{i}|F)\approx {\frac {2^{-L(T_{i})}}{2^{-L(F)}+\sum _{j}{2^{-L(T_{j})}}}}}$

${\displaystyle P(R|F)\approx {\frac {2^{-L(F)}}{2^{-L(F)}+\sum _{j}{2^{-L(T_{j})}}}}}$

قم بعمل قائمة بكل البرامج الأقصر التي ينتج كل منها سلسلة لا نهائية مميزة من البتات، واستوف العلاقة، ${\displaystyle K_{i}}$

${\displaystyle T_{n}(R(K_{i}))=x}$

أين هي نتيجة تشغيل البرنامج ويقطع السلسلة بعد n بت. ${\displaystyle R(K_{i})}$${\displaystyle K_{i}}$${\displaystyle T_{n}}$

المشكلة هي حساب احتمالية إنتاج المصدر بواسطة البرنامج بشرط أن يكون المصدر المقطوع بعد n بت هو x . يتم تمثيل ذلك بالاحتمال الشرطي، ${\displaystyle K_{i},}$

${\displaystyle P(s=R(K_{i})|T_{n}(s)=x)}$

استخدام الشكل الموسع لنظرية بايز

${\displaystyle P(s=R(K_{i})|T_{n}(s)=x)={\frac {P(T_{n}(s)=x|s=R(K_{i}))P(s=R(K_{i}))}{\sum _{j}P(T_{n}(s)=x|s=R(K_{j}))P(s=R(K_{j}))}}.}$

يعتمد الشكل الممتد على قانون الاحتمال الكلي . وهذا يعني أنه يجب أن تكون هناك احتمالات مميزة، وهو ما يتم تحديده من خلال الشرط الذي ينص على أن كل احتمال ينتج سلسلة لا نهائية مختلفة. كما يجب أن يكون أحد الشروط صحيحًا. ويجب أن يكون هذا صحيحًا، كما هو الحال في الحد حيث يوجد دائمًا برنامج واحد على الأقل ينتج . ${\displaystyle s=R(K_{i})}$${\displaystyle K_{i}}$${\displaystyle s=R(K_{i})}$${\displaystyle n\to \infty ,}$${\displaystyle T_{n}(s)}$

كما يتم اختيارهم بحيث بعد ذلك، ${\displaystyle K_{i}}$${\displaystyle T_{n}(R(K_{i}))=x,}$

${\displaystyle P(T_{n}(s)=x|s=R(K_{i}))=1}$

الاحتمال الأولي لإنتاج السلسلة من البرنامج، مع عدم وجود معلومات حول السلسلة، يعتمد على حجم البرنامج،

${\displaystyle P(s=R(K_{i}))=2^{-I(K_{i})}}$

العطاء

${\displaystyle P(s=R(K_{i})|T_{n}(s)=x)={\frac {2^{-I(K_{i})}}{\sum _{j}2^{-I(K_{j})}}}.}$

لا توفر البرامج التي لها نفس طول x أو أطول منه أي قوة تنبؤية. افصل بينها،

${\displaystyle P(s=R(K_{i})|T_{n}(s)=x)={\frac {2^{-I(K_{i})}}{\sum _{j:I(K_{j})<n}2^{-I(K_{j})}+\sum _{j:I(K_{j})\geqslant n}2^{-I(K_{j})}}}.}$

ثم حدد الاحتمالين على النحو التالي،

${\displaystyle P(x{\text{ has pattern}})=\sum _{j:I(K_{j})<n}2^{-I(K_{j})}}$

${\displaystyle P(x{\text{ is random}})=\sum _{j:I(K_{j})\geqslant n}2^{-I(K_{j})}}$

لكن الاحتمال المسبق بأن x عبارة عن مجموعة عشوائية من البتات هو . لذا، ${\displaystyle 2^{-n}}$

${\displaystyle P(s=R(K_{i})|T_{n}(s)=x)={\frac {2^{-I(K_{i})}}{2^{-n}+\sum _{j:I(K_{j})<n}2^{-I(K_{j})}}}.}$

احتمال أن يكون المصدر عشوائيًا أو غير قابل للتنبؤ هو،

${\displaystyle P(\operatorname {random} (s)|T_{n}(s)=x)={\frac {2^{-n}}{2^{-n}+\sum _{j:I(K_{j})<n}2^{-I(K_{j})}}}.}$

يتم استخدام نموذج لكيفية بناء العوالم في تحديد احتمالات النظريات،

• تم تحديد سلسلة بت عشوائية.
• يتم إنشاء الشرط من سلسلة البت.
• يتم بناء عالم متوافق مع الحالة.

إذا كانت w هي سلسلة البتات، فإن العالم يتم إنشاؤه بحيث يكون ذلك صحيحًا. لدى العميل الذكي بعض الحقائق حول الكلمة، والتي يتم تمثيلها بواسطة سلسلة البتات c ، والتي تعطي الشرط، ${\displaystyle R(w)}$

${\displaystyle C=R(c)}$

مجموعة سلاسل البتات المتطابقة مع أي شرط x هي . ${\displaystyle E(x)}$

${\displaystyle \forall x,E(x)=\{w:R(w)\equiv x\}}$

النظرية هي حالة أبسط تفسر (أو تستلزم) C. مجموعة كل هذه النظريات تسمى T ،

${\displaystyle T(C)=\{t:t\to C\}}$

يمكن تطبيق الشكل الموسع لنظرية بايز

${\displaystyle P(A_{i}|B)={\frac {P(B|A_{i})\,P(A_{i})}{\sum _{j}P(B|A_{j})\,P(A_{j})}},}$

أين،

${\displaystyle B=E(C)}$

${\displaystyle A_{i}=E(t)}$

لتطبيق نظرية بايز يجب أن يتحقق ما يلي: هو قسم من فضاء الحدث. ${\displaystyle A_{i}}$

لكي تكون قسمًا، لا يمكن أن تنتمي سلسلة البتات n إلى نظريتين. لإثبات ذلك، افترض أنهما قادرتان على ذلك واستنبط تناقضًا، ${\displaystyle T(C)}$

${\displaystyle (N\in T)\land (N\in M)\land (N\neq M)\land (n\in E(N)\land n\in E(M))}$

${\displaystyle \implies (N\neq M)\land R(n)\equiv N\land R(n)\equiv M}$

${\displaystyle \implies \bot }$

ثانيًا، أثبت أن T تتضمن جميع النتائج المتسقة مع الشرط. وبما أن جميع النظريات المتسقة مع C متضمنة، فيجب أن تكون في هذه المجموعة. ${\displaystyle R(w)}$

لذا يمكن تطبيق نظرية بايز على النحو المحدد،

${\displaystyle \forall t\in T(C),P(E(t)|E(C))={\frac {P(E(t))\cdot P(E(C)|E(t))}{\sum _{j\in T(C)}P(E(j))\cdot P(E(C)|E(j))}}}$

باستخدام قانون الاحتمالية الضمنية والشرطية، يتم تعريف الاستدلال، ${\displaystyle T(C)}$

${\displaystyle \forall t\in T(C),P(E(C)|E(t))=1}$

احتمال كل نظرية في T يعطى بواسطة،

${\displaystyle \forall t\in T(C),P(E(t))=\sum _{n:R(n)\equiv t}2^{-L(n)}}$

لذا،

${\displaystyle \forall t\in T(C),P(E(t)|E(C))={\frac {\sum _{n:R(n)\equiv t}2^{-L(n)}}{\sum _{j\in T(C)}\sum _{m:R(m)\equiv j}2^{-L(m)}}}}$

وأخيرًا، يمكن تحديد احتمالات الأحداث باحتمالات الشرط الذي تلبيه النتائج في الحدث،

${\displaystyle \forall t\in T(C),P(E(t)|E(C))=P(t|C)}$

اعطاء

${\displaystyle \forall t\in T(C),P(t|C)={\frac {\sum _{n:R(n)\equiv t}2^{-L(n)}}{\sum _{j\in T(C)}\sum _{m:R(m)\equiv j}2^{-L(m)}}}}$

وهذا هو احتمال النظرية t بعد ملاحظة أن الشرط C يتحقق.

إن النظريات الأقل احتمالاً من الحالة C ليس لها قوة تنبؤية. افصل بينها وبين ما يلي:

${\displaystyle \forall t\in T(C),P(t|C)={\frac {P(E(t))}{(\sum _{j:j\in T(C)\land P(E(j))>P(E(C))}P(E(j)))+(\sum _{j:j\in T(C)\land P(E(j))\leq P(E(C))}P(j))}}}$

احتمالية النظريات التي لا تمتلك القدرة التنبؤية على C هي نفس احتمالية C. لذا،

${\displaystyle P(E(C))=\sum _{j:j\in T(C)\land P(E(j))\leq P(E(C))}P(j)}$

لذا فإن الاحتمال

${\displaystyle \forall t\in T(C),P(t|C)={\frac {P(E(t))}{P(E(C))+\sum _{j:j\in T(C)\land P(E(j))>P(E(C))}P(E(j))}}}$

واحتمال عدم التنبؤ لـ C، مكتوبًا على النحو التالي ، ${\displaystyle \operatorname {random} (C)}$

${\displaystyle P({\text{random}}(C)|C)={\frac {P(E(C))}{P(E(C))+\sum _{j:j\in T(C)\land P(E(j))>P(E(C))}P(E(j))}}}$

تم إعطاء احتمال الشرط على النحو التالي،

${\displaystyle \forall t,P(E(t))=\sum _{n:R(n)\equiv t}2^{-L(n)}}$

لا تتمتع سلاسل البتات الخاصة بالنظريات الأكثر تعقيدًا من سلسلة البتات المقدمة للوكيل كمدخلات بقوة تنبؤية. ومن الأفضل تضمين احتمالاتها في الحالة العشوائية . لتنفيذ ذلك، يتم تقديم تعريف جديد على النحو التالي: F في،

${\displaystyle \forall t,P(F(t,c))=\sum _{n:R(n)\equiv t\land L(n)<L(c)}2^{-L(n)}}$

باستخدام F ، فإن النسخة المحسنة من الاحتمالات الاستقرائية هي،

${\displaystyle \forall t\in T(C),P(t|C)={\frac {P(F(t,c))}{P(F(C,c))+\sum _{j:j\in T(C)\land P(F(j,c))>P(F(C,c))}P(E(j,c))}}}$

${\displaystyle P(\operatorname {random} (C)|C)={\frac {P(F(C,c))}{P(F(C,c))+\sum _{j:j\in T(C)\land P(F(j,c))>P(F(C,c))}P(F(j,c))}}}$

• وليام الأوكامي
• توماس بايز
• راي سولومونوف
• أندريه كولموغوروف
• كريس والاس
• دي إم بولتون
• يورما ريسانن
• ماركوس هوتر

• الاستدلال الاستنباطي
• الاحتمالية الخوارزمية
• نظرية المعلومات الخوارزمية
• الاستدلال البايزي
• نظرية المعلومات
• الاستدلال الاستقرائي
• البرمجة المنطقية الاستقرائية
• الاستدلال الاستقرائي
• تعلُّم
• الحد الأدنى لطول الرسالة
• الحد الأدنى لطول الوصف
• شفرة أوكام
• نظرية سولومونوف في الاستدلال الاستقرائي
• الذكاء الاصطناعي العالمي

• راثمانر، س. وهوتر، م.، "رسالة فلسفية في الاستقراء الشامل" في إنتروبيا 2011، 13، 1076-1136: تحليل فلسفي ورياضي واضح للغاية لنظرية الاستدلال الاستقرائي لسولومونوف.
• سي إس والاس ، الاستدلال الإحصائي والاستقرائي من خلال الحد الأدنى لطول الرسالة، دار نشر سبرينغر (علم المعلومات والإحصاء)، رقم ISBN 0-387-23795-X ، مايو 2005 - عناوين الفصول وجدول المحتويات وصفحات العينة.