متوافق مع البشر

الموسوعة الحرة

متوافق مع البشر
طبعة الغلاف المقوى
مؤلفستيوارت جيه راسل
لغةإنجليزي
موضوعمشكلة التحكم بالذكاء الاصطناعي
النوعغير روائي
الناشرالفايكنج
تاريخ النشر
8 أكتوبر 2019
مكان النشرالولايات المتحدة
الصفحات352
رقم الكتاب الدولي المعياري978-0-525-55861-3
أو سي إل سي1083694322

التوافق البشري: الذكاء الاصطناعي ومشكلة التحكم هو كتاب غير خيالي صدر عام 2019 من تأليف عالم الكمبيوتر ستيوارت جيه راسل . ويؤكد الكتاب أن الخطر الذي يهدد البشرية من الذكاء الاصطناعي المتقدم يشكل مصدر قلق خطير على الرغم من عدم اليقين المحيط بالتقدم المستقبلي في الذكاء الاصطناعي. كما يقترح الكتاب نهجًا لمشكلة التحكم في الذكاء الاصطناعي .

ملخص

يبدأ راسل بالتأكيد على أن النموذج القياسي لبحوث الذكاء الاصطناعي، حيث يصبح التعريف الأساسي للنجاح أفضل وأفضل في تحقيق أهداف صارمة محددة من قبل الإنسان، مضلل بشكل خطير. قد لا تعكس مثل هذه الأهداف ما يقصده المصممون البشريون، مثل الفشل في مراعاة أي قيم إنسانية غير مدرجة في الأهداف. إذا أصبح الذكاء الاصطناعي المطوَّر وفقًا للنموذج القياسي فائق الذكاء ، فمن المحتمل ألا يعكس القيم الإنسانية بشكل كامل وقد يكون كارثيًا للبشرية. يؤكد راسل أنه على وجه التحديد لأن الجدول الزمني لتطوير الذكاء الاصطناعي على مستوى الإنسان أو فائق الذكاء غير مؤكد إلى حد كبير، فيجب البدء في أبحاث السلامة في أقرب وقت ممكن، لأنه من غير المؤكد أيضًا المدة التي سيستغرقها إكمال مثل هذا البحث.

يزعم راسل أن التقدم المستمر في قدرات الذكاء الاصطناعي أمر لا مفر منه بسبب الضغوط الاقتصادية. ويمكن رؤية مثل هذه الضغوط بالفعل في تطوير تقنيات الذكاء الاصطناعي الحالية مثل السيارات ذاتية القيادة وبرامج المساعد الشخصي . وعلاوة على ذلك، يمكن أن تبلغ قيمة الذكاء الاصطناعي على مستوى الإنسان تريليونات الدولارات. ثم يفحص راسل المناقشة الحالية المحيطة بمخاطر الذكاء الاصطناعي. ويقدم تفنيدات لعدد من الحجج الشائعة التي ترفض مخاطر الذكاء الاصطناعي ويعزو الكثير من استمرارها إلى القبلية - فقد يرى باحثو الذكاء الاصطناعي مخاوف مخاطر الذكاء الاصطناعي على أنها "هجوم" على مجالهم. ويؤكد راسل أن هناك أسبابًا مشروعة لأخذ مخاوف مخاطر الذكاء الاصطناعي على محمل الجد وأن الضغوط الاقتصادية تجعل الاستمرار في الابتكار في مجال الذكاء الاصطناعي أمرًا لا مفر منه.

ثم يقترح راسل نهجاً لتطوير آلات مفيدة يمكن إثبات فائدتها وتركز على احترام البشر. وعلى النقيض من النموذج القياسي للذكاء الاصطناعي، حيث يكون الهدف صارماً ومؤكداً، فإن هذا النهج من شأنه أن يجعل الهدف الحقيقي للذكاء الاصطناعي غير مؤكد، حيث لا يقترب الذكاء الاصطناعي من اليقين بشأنه إلا مع اكتسابه المزيد من المعلومات حول البشر والعالم. ومن الناحية المثالية، من شأن هذا الشك أن يمنع سوء الفهم الكارثي للتفضيلات البشرية ويشجع التعاون والتواصل مع البشر. ويختتم راسل بالدعوة إلى حوكمة أكثر صرامة لبحوث وتطوير الذكاء الاصطناعي فضلاً عن التأمل الثقافي حول القدر المناسب من الاستقلالية للاحتفاظ به في عالم يهيمن عليه الذكاء الاصطناعي.

مبادئ راسل الثلاثة

يسرد راسل ثلاثة مبادئ لتوجيه تطوير الآلات المفيدة. ويؤكد أن هذه المبادئ ليست مخصصة للترميز صراحةً في الآلات؛ بل إنها مخصصة للمطورين البشريين. والمبادئ هي كما يلي: [1] : 173 

1. الهدف الوحيد للآلة هو تحقيق أقصى قدر من تحقيق التفضيلات البشرية.

2. تكون الآلة في البداية غير متأكدة بشأن ما هي تلك التفضيلات.

3. المصدر النهائي للمعلومات حول التفضيلات البشرية هو السلوك البشري.

إن "التفضيلات" التي يشير إليها راسل "شاملة؛ فهي تغطي كل ما قد تهتم به، في المستقبل البعيد بشكل تعسفي". [1] : 173  وعلى نحو مماثل، يشمل "السلوك" أي اختيار بين الخيارات، [1] : 177  وعدم اليقين هو من النوع الذي يجب أن يُنسب فيه بعض الاحتمال، والذي قد يكون صغيرًا جدًا، إلى كل تفضيل بشري ممكن منطقيًا. [1] : 201 

يستكشف راسل التعلم التعزيزي العكسي ، حيث تستنتج الآلة دالة المكافأة من السلوك المرصود، كأساس محتمل لآلية لتعلم التفضيلات البشرية. [1] : 191–193 

استقبال

اتفق العديد من المراجعين مع حجج الكتاب. فقد وصفه إيان سامبل في صحيفة الجارديان بأنه "مقنع" و"أهم كتاب عن الذكاء الاصطناعي هذا العام". [2] وأشاد ريتشارد ووترز من صحيفة فاينانشال تايمز بـ "الصرامة الفكرية المنعشة للكتاب". [3] وأيدته مجلة كيركس ريفيوز باعتباره "حجة قوية للتخطيط لليوم الذي يمكن فيه للآلات أن تتفوق علينا ذكاءً". [4]

وصف نفس المراجعين الكتاب بأنه "ساخر وذكي" [2] أو "سهل الفهم" [4] بسبب "أسلوبه المقتضب وروح الدعابة الجافة". [3] قال ماثيو هوتسون من صحيفة وول ستريت جورنال "إن كتاب السيد راسل المثير يتعمق في حين يتألق بالفكاهة الجافة". [5] وصفه أحد مراجعي مكتبة جورنال بأنه "الدليل المناسب في الوقت المناسب". [6]

كتب جيمس ماكوناشي من صحيفة التايمز "هذا ليس الكتاب الشعبي الذي يحتاجه الذكاء الاصطناعي بشكل عاجل. أجزاؤه التقنية صعبة للغاية، وأجزاؤه الفلسفية سهلة للغاية. لكنه رائع ومهم." [7]

على النقيض من ذلك، تعرض كتاب Human Compatible لانتقادات في مراجعته لمجلة Nature من قبل ديفيد ليزلي، وهو زميل أخلاقي في معهد آلان تورينج ؛ وبالمثل في مقال رأي في صحيفة نيويورك تايمز بقلم ميلاني ميتشل . كانت إحدى نقاط الخلاف هي ما إذا كان الذكاء الفائق ممكنًا. يقول ليزلي إن راسل "فشل في إقناعنا بأننا سنرى وصول "نوع ذكي ثانٍ " على الإطلاق "، [8] ويشك ميتشل في أن الآلة يمكن أن "تتجاوز عمومية ومرونة الذكاء البشري" دون أن تفقد "سرعة ودقة وقابلية برمجة الكمبيوتر". [9] كان الخلاف الثاني هو ما إذا كانت الآلات الذكية تميل بشكل طبيعي إلى تبني ما يسمى بالقيم الأخلاقية "السليمة". في تجربة راسل الفكرية حول روبوت الهندسة الجيولوجية الذي "يخنق البشرية لإزالة الحموضة من المحيطات"، تكافح ليزلي "لتحديد أي ذكاء". وبالمثل، يعتقد ميتشل أن الروبوت الذكي يميل بشكل طبيعي إلى "الاعتدال من خلال الفطرة السليمة والقيم والحكم الاجتماعي التي بدونها لا يمكن للذكاء العام أن يوجد". [10] [11]

تم إدراج الكتاب في القائمة الطويلة لجائزة فاينانشال تايمز / ماكينزي لعام 2019. [12]

انظر أيضا

مراجع

  1. ^ abcde Russell, Stuart (8 أكتوبر 2019). Human Compatible: Artificial Intelligence and the Problem of Control . الولايات المتحدة: Viking. ISBN 978-0-525-55861-3. OCLC  1083694322.
  2. ^ ab Sample, Ian (24 أكتوبر 2019). "مراجعة كتاب Human Compatible بقلم ستيوارت راسل – الذكاء الاصطناعي ومستقبلنا". The Guardian .
  3. ^ ab Waters, Richard (18 أكتوبر 2019). "Human Compatible — can we keep control over a superintelligence؟". www.ft.com . تم الاسترجاع في 23 فبراير 2020 .
  4. ^ ab "HUMAN COMPATIBLE | Kirkus Reviews". Kirkus Reviews . 2019 . تم الاسترجاع في 23 فبراير 2020 .
  5. ^ هوتسون، ماثيو (19 نوفمبر 2019). "مراجعة "التوافق البشري" و"الذكاء الاصطناعي": تعلم مثل الآلة". وول ستريت جورنال .
  6. ^ هان، جيم (2019). "التوافق البشري: الذكاء الاصطناعي ومشكلة التحكم". مجلة المكتبة . تم الاسترجاع في 23 فبراير 2020 .
  7. ^ McConnachie, James (6 أكتوبر 2019). "مراجعة كتاب Human Compatible بقلم Stuart Russell – تحذير مخيف من خبير الذكاء الاصطناعي". The Times .
  8. ^ ليزلي، ديفيد (2019-10-02). "الروبوتات الهائجة والبشر التعساء: ديستوبيا الذكاء الاصطناعي". نيتشر . 574 (7776): 32-33. رمز Bibcode :2019Natur.574...32L. doi :10.1038/d41586-019-02939-0.
  9. ^ ميتشل، ميلاني (2019-10-31). "رأي | لا ينبغي لنا أن نخاف من "الذكاء الاصطناعي الفائق الذكاء". نيويورك تايمز . ISSN  0362-4331 . تم الاسترجاع في 2023-07-18 .
  10. ^ ليزلي، ديفيد (2 أكتوبر 2019). "الروبوتات الهائجة والبشر التعساء: ديستوبيا الذكاء الاصطناعي". نيتشر . 574 (7776): 32-33. رمز Bibcode :2019Natur.574...32L. doi :10.1038/d41586-019-02939-0.
  11. ^ ميتشل، ميلاني (31 أكتوبر 2019). "لا ينبغي لنا أن نخاف من 'الذكاء الاصطناعي الفائق'". نيويورك تايمز .
  12. ^ هيل، أندرو (11 أغسطس 2019). "جائزة كتاب الأعمال لهذا العام 2019 - القائمة الطويلة". www.ft.com . تم الاسترجاع في 23 فبراير 2020 .
  • مقابلة مع ستيوارت جيه راسل
تم الاسترجاع من "https://en.wikipedia.org/w/index.php?title=متوافق_مع_الإنسان&oldid=1223753191"
Original text
Rate this translation
Your feedback will be used to help improve Google Translate