وارن ستورجيس ماكولوتش

كان وارن ستورجيس ماكولوتش (16 نوفمبر 1898 - 24 سبتمبر 1969) عالمًا أمريكيًا في علم وظائف الأعصاب وعلم التحكم الآلي، اشتهر بعمله في وضع أسس بعض نظريات الدماغ ومساهمته في حركة علم التحكم الآلي . [ 1 ] بالتعاون مع والتر بيتس ، ابتكر ماكولوتش نماذج حسابية قائمة على خوارزميات رياضية تُعرف باسم منطق العتبة ، والتي قسمت البحث إلى منهجين متميزين، أحدهما يركز على العمليات البيولوجية في الدماغ، والآخر يركز على تطبيق الشبكات العصبية في الذكاء الاصطناعي . [ 2 ]

سيرة

وُلد وارن ستورجيس ماكولوتش في أورانج، نيو جيرسي ، عام ١٨٩٨. كان شقيقه مهندسًا كيميائيًا ، وكان وارن يخطط في الأصل للانضمام إلى الخدمة الدينية المسيحية . في فترة مراهقته، ارتبط باللاهوتيين هنري سلون كوفين ، وهاري إيمرسون فوسديك ، وهيرمان كارل فيلهلم كوم، وجوليان إف. هيكر . كما تلقى التوجيه من الكويكر روفوس جونز . [ ٣ ] التحق بكلية هافرفورد، ثم درس الفلسفة وعلم النفس في جامعة ييل ، حيث حصل على درجة البكالوريوس في الآداب عام ١٩٢١. وواصل دراسة علم النفس في جامعة كولومبيا، وحصل على درجة الماجستير في الآداب عام ١٩٢٣. بعد حصوله على شهادة الطب عام ١٩٢٧ من كلية الأطباء والجراحين بجامعة كولومبيا في نيويورك، أجرى فترة تدريب في مستشفى بيلفيو ، نيويورك. ثم عمل تحت إشراف إيلهارد فون دوماروس في مستشفى روكلاند الحكومي للأمراض العقلية . [ 4 ] عاد إلى الأوساط الأكاديمية في عام 1934. عمل في مختبر علم وظائف الأعصاب في جامعة ييل من عام 1934 إلى عام 1941.

في عام ١٩٤١، انتقل إلى شيكاغو وانضم إلى قسم الطب النفسي في جامعة إلينوي بشيكاغو ، حيث شغل منصب أستاذ الطب النفسي، بالإضافة إلى منصب مدير معهد إلينوي للأمراض العصبية والنفسية حتى عام ١٩٥١. [ ٥ ] ومنذ عام ١٩٥٢، عمل في معهد ماساتشوستس للتكنولوجيا في كامبريدج، ماساتشوستس، مع نوربرت وينر . وكان عضوًا مؤسسًا في الجمعية الأمريكية لعلم التحكم الآلي، وشغل منصب رئيسها الثاني خلال الفترة ١٩٦٧-١٩٦٨. كما كان مرشدًا لرائد بحوث العمليات البريطاني ستافورد بير .

كان لدى ماكولوتش مجموعة من الاهتمامات والمواهب. فبالإضافة إلى مساهماته العلمية، كتب الشعر ( السوناتات )، وصمم وهندس المباني وسدًا في مزرعته في أولد لايم ، كونيتيكت.

تزوج ماكولوتش من روث ميتزجر، المعروفة باسم "روك"، عام 1924 وأنجبا ثلاثة أطفال. [ 6 ] توفي في كامبريدج عام 1969.

عمل

يُذكر لعمله مع يوهانس غريغوريوس دوسر دي بارين من جامعة ييل [ 7 ] ، ولاحقًا مع والتر بيتس من جامعة شيكاغو . وقد وضع الأساس لبعض نظريات الدماغ في عدد من الأبحاث الكلاسيكية، بما في ذلك " حساب منطقي للأفكار الكامنة في النشاط العصبي " (1943) و"كيف نعرف الكليات: إدراك الأشكال السمعية والبصرية" (1947)، وكلاهما نُشر في مجلة الفيزياء الحيوية الرياضية . ويُنسب إلى البحث الأول "إسهامٌ رائد في نظرية الشبكات العصبية، ونظرية الأوتوماتا، ونظرية الحوسبة، وعلم التحكم الآلي". [ 1 ]

كان ماكولوتش رئيسًا لسلسلة مؤتمرات مايسي المخصصة لعلم التحكم الآلي. وقد شكلت هذه المؤتمرات، بفضل تنوع خلفيات المشاركين الذين استقطبهم ماكولوتش، الأساس لهذا المجال.

في كتابه "علم التحكم الآلي " (1948)، روى وينر حادثة وقعت في ربيع عام 1947، عندما صمم ماكولوتش آلةً تمكّن المكفوفين من القراءة، وذلك بتحويل الحروف المطبوعة إلى نغمات. وقد صممها بحيث تكون النغمة ثابتةً للحرف نفسه عند النظر إليه من زوايا مختلفة. رأى غيرهاردت فون بونين التصميم، وسأل على الفور: "هل هذا رسم تخطيطي للطبقة الرابعة من القشرة البصرية في الدماغ؟". [ 8 ] : 22، 140

في أيامه الأخيرة في ستينيات القرن العشرين، عمل مع مورينو دياز على الحلقات والتذبذبات والعلاقات الثلاثية؛ ومع كيلمر على التكوين الشبكي؛ ومع دا فونسيكا على النماذج الديناميكية للذاكرة. [ 9 ] وقد لُخِّص عمله في ستينيات القرن العشرين في ورقة بحثية نُشرت عام 1968. [ 10 ]

علم الأعصاب

درس تنشيط الدماغ باستخدام تقنية تخطيط الأعصاب بالستركنين ، وهي طريقة لرسم خرائط الروابط الدماغية. يؤدي حقن الستركنين في نقطة واحدة من الدماغ إلى تنشيط نقاط أخرى فيه. [ 11 ] أجرى بايلي وبونين وماكولوتش سلسلة من الدراسات في أربعينيات القرن العشرين حددت روابط في أدمغة قرود المكاك والشمبانزي تتوافق مع الفهم الحديث لظاهرة VOF . [ 12 ] [ 13 ]

المنطق الرياضي

في عام ١٩١٩، بدأ العمل بشكل أساسي على المنطق الرياضي، وبحلول عام ١٩٢٣ حاول وضع منطق للأفعال المتعدية . هدفه في علم النفس هو ابتكار "السايكون" أو "أصغر حدث نفسي"، وهي أحداث ثنائية ذرية ذات أسباب ضرورية، بحيث يمكن دمجها لإنشاء قضايا منطقية معقدة تتعلق بمقدماتها. لاحظ في عام ١٩٢٩ أن هذه الأحداث قد تتوافق مع إشارات الخلايا العصبية في الدماغ، والتي تعمل بنظام الكل أو لا شيء. [ ٣ ]

في ورقة بحثية نُشرت عام 1943، وصفوا كيف يمكن تكوين الذكريات بواسطة شبكة عصبية تحتوي على حلقات، أو مشابك عصبية قابلة للتغيير. ثم تقوم هذه المشابك بتشفير جمل مثل "كان هناك شيء ما x بحيث كان x هو ψ" أو(x)(ψx){\displaystyle (\exists x)(\psi x)}وأظهرت أن الشبكات العصبية الحلقية يمكنها ترميز جميع منطق الرتبة الأولى مع المساواة ، وعلى العكس من ذلك، فإن أي شبكة عصبية حلقية تعادل جملة في منطق الرتبة الأولى مع المساواة، مما يدل على أنها متكافئة في التعبير المنطقي. [ 3 ]

تصف الورقة البحثية لعام 1943 الشبكات العصبية التي تعمل بمرور الوقت، وتم تطوير الثوابت المنطقية - "يوجد" و"لكل" - للأشياء المكانية، مثل الأشكال الهندسية، بشكل أكبر في ورقتهم البحثية لعام 1947. [ 14 ]

عمل مع مانويل بلوم في دراسة كيفية تحقيق "الاستقرار المنطقي" للشبكة العصبية، أي قدرتها على تنفيذ دالة منطقية حتى مع اختلاف عتبات تنشيط الخلايا العصبية الفردية. [ 15 ] : 64 وقد استلهموا ذلك من مشكلة قدرة الدماغ على أداء الوظائف نفسها، كالتنفس، تحت تأثير الكافيين أو الكحول ، مما يؤدي إلى تغيير عتبة التنشيط في جميع أنحاء الدماغ. [ 3 ]

عمل على العلاقات الثلاثية، وهي امتداد لحساب العلاقات لمعالجة العلاقات التي تربط ثلاثة أشياء، مثل "أ يعطي ب إلى ج" أو "أ يدرك أن ب هو ج". وكان مقتنعًا بأن هذا المنطق ضروري لفهم نشاط الدماغ. [ 10 ] [ 16 ]

كيف نعرف العموميات؟

في ورقة بحثية نُشرت عام ١٩٤٧ بعنوان " كيف نعرف الكليات" ، درسوا مشكلة التعرف على الأشياء رغم تغير تمثيلها. على سبيل المثال، التعرف على مربع من زوايا رؤية وظروف إضاءة مختلفة، أو التعرف على صوت معين من خلال اختلاف شدة الصوت ونغماته. أي التعرف على أشياء ثابتة تحت تأثير مجموعة تناظر معينة . استُلهمت هذه المشكلة جزئيًا من مشكلة عملية في تصميم آلة قراءة للمكفوفين (ذُكرت في كتاب وينر " علم التحكم الآلي" ، انظر سابقًا). [ ١٧ ]

اقترحت الورقة البحثية حلين. الأول هو حساب ثابت عن طريق حساب المتوسط ​​على مجموعة التناظر. ولتكن مجموعة التناظر هيجي{\displaystyle G}والشيء المراد التعرف عليه هوx{\displaystyle x}لنفترض أن شبكة عصبية تنفذ وظيفة ماتي{\displaystyle T}ثم، سيكون التمثيل غير المتأثر بالمجموعة هو1|جي|زجيتي(زx){\displaystyle {\frac {1}{|G|}}\sum _{g\in G}T(gx)}، وهو متوسط ​​فعل المجموعة. أما الحل الثاني فيكمن في دائرة تغذية راجعة سلبية تُحفز تمثيلًا معياريًا. لنأخذ على سبيل المثال مشكلة تحديد ما إذا كان جسم ما مربعًا. تُحرك الدائرة العين بحيث ينتقل "مركز ثقل السطوع" للجسم إلى منتصف المجال البصري. وهذا بدوره يحول كل جسم إلى تمثيل معياري، والذي يمكن مقارنته بعد ذلك بتمثيل موجود في الدماغ. [ 18 ] [ 19 ]

نمذجة الشبكات العصبية

في ورقة بحثية نُشرت عام 1943، حاول ماكولوتش وبيتس إثبات إمكانية تنفيذ برنامج آلة تورينج في شبكة محدودة من الخلايا العصبية الشكلية (في الواقع، تحتوي آلة تورينج على نموذجهما للدماغ، ولكن العكس غير صحيح [ 20 ] )، وأن الخلية العصبية هي وحدة المنطق الأساسية للدماغ. وفي ورقة بحثية نُشرت عام 1947، قدّما مناهج لتصميم "شبكات عصبية" للتعرف على المدخلات البصرية رغم تغيرات الاتجاه أو الحجم.

عمل ماكولوتش منذ عام 1952 في مختبر أبحاث الإلكترونيات في معهد ماساتشوستس للتكنولوجيا، حيث انصبّ تركيزه بشكل أساسي على نمذجة الشبكات العصبية . وقد قام فريقه بدراسة الجهاز البصري للضفدع في ضوء ورقة ماكولوتش البحثية التي نُشرت عام 1947، واكتشفوا أن العين تزود الدماغ بمعلومات مُنظمة ومُفسّرة إلى حد ما، بدلاً من مجرد نقل صورة.

درس مع روبرتو مورينو دياز مشكلةً مُصاغةً رسميًا تتعلق بالذاكرة. ونظرًا لأن الشبكات العصبية تستطيع تخزين الذاكرة بنمط من التذبذبات الدائرية، فقد درسوا عدد أنماط التذبذب الممكنة التي يمكن أن تدعمها شبكة عصبية ما.شمال{\displaystyle N}الخلايا العصبية. وقد تبين أن هذاك(شمال)=(2شمالك)ك=12شمال-1ك!{\displaystyle K(N)={\binom {2^{N}}{k}}\sum _{k=1}^{2^{N}-1}k!}(شنابل، 1966). [ 21 ] كما أثبتوا نظرية الشمولية، حيث أنه لكلشمال{\displaystyle N}توجد شبكة عصبية (ربما بأكثر منشمال{\displaystyle N}الخلايا العصبية) معسجل2ك(شمال){\displaystyle \log _{2}K(N)}المدخلات الثنائية، بحيث يكون لأي نمط تذبذب يمكن تحقيقه بواسطة شبكة عصبية ما معشمال{\displaystyle N}في الخلايا العصبية، يوجد مدخل ثنائي لهذه الشبكة العالمية بحيث تُظهر النمط نفسه. [ 22 ] [ 23 ] [ 24 ]

يتحكم

تناول ماكولوتش مشكلة المعلومات والدوافع المتناقضة، والتي أطلق عليها اسم " التسلسل الهرمي غير المتجانس " للدوافع، بمعنى أن الدوافع ليست مرتبة ترتيبًا خطيًا، ولكن يمكن ترتيبها على النحو التالي:أ>ب>ج>أ{\displaystyle A>B>C>A}[ 25 ] طرح مفهوم التكوينات الشبكية الشبيهة برقائق البوكر لشرح كيفية تعامل الدماغ مع المعلومات المتناقضة في شبكة عصبية ديمقراطية ذات بنية جسدية. وبالتحديد، كيف يمكن للدماغ أن يُلزم الحيوان بمسار عمل واحد عندما يكون الموقف غامضًا.

قاموا بتصميم نموذج أولي لشبكة عصبية تُسمى "RETIC"، تتكون من "12 وحدة متصلة بشكل مترابط ومكدسة في مصفوفة عمودية"، والتي يمكنها التبديل بين أوضاع مستقرة لا لبس فيها بناءً على مدخلات غامضة. [ 26 ] [ 16 ]

وقد طور فون فورستر وباسك مبدأ "تكرار الأوامر المحتملة" [ 26 ] في دراستهما للتنظيم الذاتي [ 27 ] ، وكذلك باسك في نظرية المحادثة ونظرية تفاعلات الفاعلين . [ 28 ]

المنشورات

كتب ماكولوتش كتاباً وعدة مقالات: [ 29 ]

  • 1965، تجسيدات العقل . مطبعة معهد ماساتشوستس للتكنولوجيا، كامبريدج.
  • 1993، الأعمال الكاملة لوارن إس. ماكولوتش . منشورات إنترسيستمز: ساليناس، كاليفورنيا.

مجموعة مختارة من المقالات:

الأوراق المنشورة من قبل نادي شيكاغو الأدبي:

  • 1945، "كلمة تلو الأخرى" .
  • 1959، "ماضي الوهم" .
  • 1959، "الملاءمة الطبيعية" .

انظر أيضاً

مراجع

  1. 1 2 كين أيزاوا (2004)، " مكولوتش، وارن ستورجيس ". في: قاموس فلسفة العقل. تم الاسترجاع في 17 مايو 2008.
  2. ماكولوتش، وارن؛ والتر بيتس (1943). "حساب منطقي للأفكار الكامنة في النشاط العصبي". نشرة الفيزياء الحيوية الرياضية . 5 (4): 115-133 . doi : 10.1007/BF02478259 .
  3. 1 2 3 4 ماكولوتش، وارن (1961). "ما هو العدد، لكي يعرفه الإنسان، وما هو الإنسان، لكي يعرف العدد" (ملف PDF) . نشرة علم الدلالة العامة (26 و27): 7-18 .
  4. أبراهام، تارا هـ. (2002). "الدوائر (الفسيولوجية): الأصول الفكرية لشبكات ماكولوتش-بيتس العصبية" . مجلة تاريخ العلوم السلوكية . 38 (1): 3-25 . doi : 10.1002/jhbs.1094 . ISSN 0022-5061 . PMID 11835218 .  
  5. سمالهايزر، نيل (2000). " والتر بيتس". وجهات نظر في علم الأحياء والطب . 43 (43، 2): 217-226 . doi : 10.1353/pbm.2000.0009 . PMID 10804586. S2CID 8757655 .  
  6. هـ.، أبراهام، تارا (28 أكتوبر 2016). عبقري متمرد : حياة وارن إس. ماكولوتش متعددة التخصصات في العلوم . كامبريدج، ماساتشوستس. ISBN  9780262035095. OCLC 946160418 . {{cite book}}: صيانة CS1: موقع الناشر مفقود ( رابط ) صيانة CS1: أسماء متعددة: قائمة المؤلفين ( رابط )
  7. ^ "جوانيس جريجوريوس دوسر دي بارين" . ييل جي بيول ميد . 12 (6): 742.2–746. 1940. بي إم سي 2602446 . بميد 21433922 .  
  8. وينر، نوربرت. علم التحكم الآلي أو التحكم والاتصال في الحيوان والآلة . (1948)
  9. ^ دي بلاسيو، غابرييل. مورينو دياز، أرميندا؛ مورينو دياز، روبرتو (2018)، “علاقة ماكولوتش بالاتصالية والذكاء الاصطناعي” ، في مورينو دياز، روبرتو؛ بيشلر، فرانز؛ كيسادا-أرنسيبيا، ألكسيس (محرران)، نظرية الأنظمة بمساعدة الكمبيوتر – EUROCAST 2017 ، المجلد. 10671، شام: سبرينغر إنترناشيونال للنشر، الصفحات من 41 إلى 48، دوى : 10.1007/978-3-319-74718-7_6 ، ISBN   978-3-319-74717-0تم الاطلاع عليه بتاريخ 12 أكتوبر 2024
  10. 1 2 ماكولوتش، دبليو إس (1968)، "المنطق والحلقات المغلقة لرحلة حاسوبية إلى المريخ" ، في كايانيلو، إي آر (محرر)، الشبكات العصبية ، برلين، هايدلبرغ: سبرينغر برلين هايدلبرغ، ص 65-91 ، doi : 10.1007/978-3-642-87596-0_7 ، ISBN  978-3-642-87598-4تم الاطلاع عليه بتاريخ 12 أكتوبر 2024
  11. دي بارين، جي جي دوسر؛ ماكولوتش، دبليو إس (31 أكتوبر 1939). "التحديد الفيزيولوجي للخلايا العصبية في الجهاز العصبي المركزي" . المجلة الأمريكية لعلم وظائف الأعضاء. المحتوى التراثي . 127 (4): 620-628 . doi : 10.1152/ajplegacy.1939.127.4.620 . ISSN 0002-9513 . 
  12. القشرة المخية الحديثة للشمبانزي. بقلم بيرسيفال بيلي، وجيرهارد فون بونين، ووارن إس. ماكولوتش. أوربانا، إلينوي، مطبعة جامعة إلينوي، 1950
  13. تاكيمورا، هيروماسا؛ بيستيلي، فرانكو؛ وينر، كيفن س. (1 سبتمبر 2019). "علم التشريح العصبي المقارن: دمج الأساليب الكلاسيكية والحديثة لفهم ألياف الارتباط التي تربط القشرة البصرية الظهرية والبطنية" . أبحاث علم الأعصاب . 146 : 1-12 . doi : 10.1016/j.neures.2018.10.011 . ISSN 0168-0102 . PMC 6491271. PMID 30389574 .   
  14. بيتس، والتر؛ ماكولوتش، وارن س. (1 سبتمبر 1947). "كيف نعرف العموميات: إدراك الأشكال السمعية والبصرية" . نشرة الفيزياء الحيوية الرياضية . 9 (3): 127-147 . doi : 10.1007/BF02478291 . ISSN 1522-9602 . PMID 20262674 .  
  15. بلوم، مانويل. "خصائص العصبون ذي المدخلات المتعددة". ندوة البيونيكس: النماذج الحية الأولية - مفتاح التكنولوجيا الجديدة، 13-14-15 سبتمبر 1960. تقرير فني من WADD، 60-600. (1961)
  16. 1 2 أربيب، مايكل أ. (2000). "بحث وارن ماكولوتش عن منطق الجهاز العصبي" . وجهات نظر في علم الأحياء والطب . 43 (2): 193-216 . doi : 10.1353/pbm.2000.0001 . ISSN 1529-8795 . 
  17. ماساني، بي آر (1990)، "مكولوتش، بيتس وتطور أفكار وينر في علم وظائف الأعصاب" ، نوربرت وينر 1894-1964 ، بازل: بيركهاوزر بازل، ص 218-238 ، doi : 10.1007/978-3-0348-9252-0_16 ، ISBN  978-3-0348-9963-5تم الاطلاع عليه بتاريخ 13 أكتوبر 2024
  18. أيزاوا، كينيث (سبتمبر 2012). "تحوّل وارن ماكولوتش إلى علم التحكم الآلي: إسهامات والتر بيتس" . مراجعات العلوم متعددة التخصصات . 37 (3): 206-217 . Bibcode : 2012ISRv...37..206A . doi : 10.1179/0308018812Z.00000000017 . ISSN 0308-0188 . 
  19. ماساني، بي آر (1990)، "مكولوتش، بيتس وتطور أفكار وينر في علم وظائف الأعصاب" ، نوربرت وينر 1894-1964 ، بازل: بيركهاوزر بازل، ص 218-238 ، doi : 10.1007/978-3-0348-9252-0_16 ، ISBN  978-3-0348-9963-5تم الاطلاع عليه بتاريخ 14 أكتوبر 2024
  20. انظر: إس سي كلين، "تمثيلات الأحداث في الشبكات العصبية والآلات المحدودة"
  21. شنابل، سي بي جيه عدد أنماط تذبذب شبكة من N عصبون . تقرير التقدم الفصلي رقم 80، مختبر أبحاث الإلكترونيات، معهد ماساتشوستس للتكنولوجيا، كامبريدج، ماساتشوستس، 15 يناير 1966. ص 253.
  22. مورينو-دياز، ر. إمكانية تحقيق شبكة عصبية قادرة على جميع أنماط التذبذب الممكنة . تقرير التقدم الفصلي رقم 82، مختبر أبحاث الإلكترونيات، معهد ماساتشوستس للتكنولوجيا، كامبريدج، ماساتشوستس، 15 يوليو 1966. الصفحات 280-285.
  23. مورينو دياز، ر.، و دبليو إس ماكولوتش. " الدوائر في الشبكات ومفهوم المصفوفات الوظيفية ". علم التحكم الحيوي للجهاز العصبي المركزي، ليتل، براون وشركاه، بوسطن (1969): 145-151.
  24. مورينو-دياز، روبرتو؛ مورينو-دياز، أرميندا (1 أبريل 2007). "حول إرث دبليو إس ماكولوتش" . بيوسيستمز . بيوكومب 2005: أوراق مختارة قُدِّمت في المؤتمر الدولي - عمليات الانتشار في علم الأحياء العصبي وعلم الأحياء دون الخلوي. 88 (3): 185-190 . رمز Bibcode : 2007BiSys..88..185M . doi : 10.1016/j.biosystems.2006.08.010 . ISSN 0303-2647 . 
  25. ماكولوتش، وارن س. (يونيو 1945). "تسلسل غير متجانس للقيم تحدده طوبولوجيا الشبكات العصبية" . نشرة الفيزياء الحيوية الرياضية . 7 (2): 89-93 . doi : 10.1007/BF02478457 . ISSN 0007-4985 . PMID 21006853 .  
  26. 1 2 كيلمر، دبليو إل؛ ماكولوتش، دبليو إس؛ بلوم، جيه. (1968)، "بعض آليات نظرية التكوين الشبكي" ، في ميساروفيتش، إم دي (محرر)، نظرية الأنظمة وعلم الأحياء ، برلين، هايدلبرغ: سبرينغر برلين هايدلبرغ، ص 286-375 ، doi : 10.1007/978-3-642-88343-9_14 ، ISBN  978-3-642-88345-3
  27. "نموذج تنبؤي للأنظمة ذاتية التنظيم"، الجزء الأول: سايبرنيتيكا 3، الصفحات 258-300؛ الجزء الثاني: سايبرنيتيكا 4، الصفحات 20-55، 1961، هاينز فون فورستر وغوردون باسك
  28. غوردون باسك (1996). التنظيم الذاتي لهاينز فون فورستر، أصل نظريات المحادثة والتفاعل
  29. توجد أوراقه الآن في مجموعة المخطوطات التابعة للجمعية الفلسفية الأمريكية .

للمزيد من القراءة

  • العبقري المتمرد: حياة وارن إس. ماكولوتش متعددة التخصصات في العلوم (كامبريدج، ماساتشوستس: مطبعة معهد ماساتشوستس للتكنولوجيا، 2016).
  • نيويورك تايمز (1969)، قسم الوفيات، 25 سبتمبر.
  • كريفييه، دانيال (1993)، الذكاء الاصطناعي: البحث المضطرب عن الذكاء الاصطناعي ، بيسيك بوكس، نيويورك، نيويورك.