رسالة مفتوحة حول الذكاء الاصطناعي (2015)

📅 آخر تحديث: ٥ أغسطس ٢٠٢٦
✍️ نُشر في: ٥ أغسطس ٢٠٢٦
📷 يحتوي على 2 صور
الموسوعة الحرة
أولويات البحث من أجل الذكاء الاصطناعي القوي والمفيد: رسالة مفتوحة
مخلوقيناير 2015
المؤلف(ون)ستيفن هوكينج وإيلون ماسك وعشرات خبراء الذكاء الاصطناعي
موضوعالبحث في التأثيرات المجتمعية للذكاء الاصطناعي

في يناير 2015، وقع ستيفن هوكينج وإيلون ماسك وعشرات من خبراء الذكاء الاصطناعي [1] على رسالة مفتوحة حول الذكاء الاصطناعي [2] تدعو إلى إجراء بحوث حول التأثيرات المجتمعية للذكاء الاصطناعي. أكدت الرسالة أن المجتمع يمكن أن يجني فوائد محتملة كبيرة من الذكاء الاصطناعي، لكنها دعت إلى إجراء بحوث ملموسة حول كيفية منع بعض "المزالق" المحتملة: الذكاء الاصطناعي لديه القدرة على القضاء على المرض والفقر، ولكن يجب على الباحثين ألا يخلقوا شيئًا غير آمن أو لا يمكن السيطرة عليه . [1] تحدد الرسالة المكونة من أربع فقرات، بعنوان " أولويات البحث للذكاء الاصطناعي القوي والمفيد: رسالة مفتوحة "، أولويات بحث مفصلة في وثيقة مصاحبة مكونة من اثنتي عشرة صفحة. [3]

خلفية

بحلول عام 2014، أعرب كل من الفيزيائي ستيفن هوكينج وقطب الأعمال إيلون ماسك علنًا عن الرأي القائل بأن الذكاء الاصطناعي الخارق يمكن أن يوفر فوائد لا يمكن حسابها، ولكن يمكن أن ينهي الجنس البشري أيضًا إذا تم نشره دون حذر. في ذلك الوقت، كان هوكينج وماسك عضوين في المجلس الاستشاري العلمي لمعهد مستقبل الحياة ، وهي منظمة تعمل على "تخفيف المخاطر الوجودية التي تواجه البشرية". صاغ المعهد خطابًا مفتوحًا موجهًا إلى مجتمع أبحاث الذكاء الاصطناعي الأوسع، [4] ووزعه على الحاضرين في مؤتمره الأول في بورتوريكو خلال عطلة نهاية الأسبوع الأولى من عام 2015. [5] تم نشر الرسالة في 12 يناير. [6]

غاية

تسلط الرسالة الضوء على التأثيرات الإيجابية والسلبية للذكاء الاصطناعي. [7] وفقًا لبلومبرج بيزنس ، قام البروفيسور ماكس تيجمارك من معهد ماساتشوستس للتكنولوجيا بتوزيع الرسالة من أجل إيجاد أرضية مشتركة بين الموقعين الذين يعتبرون الذكاء الاصطناعي الفائق الذكاء يشكل خطرًا وجوديًا كبيرًا ، والموقعين مثل البروفيسور أورين إيتزيوني ، الذين يعتقدون أن مجال الذكاء الاصطناعي كان "مُطعنًا فيه" من خلال التركيز الإعلامي أحادي الجانب على المخاطر المزعومة. [6] تزعم الرسالة أن:

إن الفوائد المحتملة (للذكاء الاصطناعي) هائلة، لأن كل ما تقدمه الحضارة هو نتاج للذكاء البشري؛ ولا يمكننا التنبؤ بما قد نحققه عندما يتم تضخيم هذا الذكاء بالأدوات التي قد يوفرها الذكاء الاصطناعي، ولكن القضاء على المرض والفقر ليس بالأمر المستحيل. وبسبب الإمكانات العظيمة للذكاء الاصطناعي، فمن المهم البحث في كيفية جني فوائده مع تجنب المزالق المحتملة. [8]

قال أحد الموقعين، البروفيسور بارت سلمان من جامعة كورنيل ، إن الغرض هو جعل الباحثين والمطورين في مجال الذكاء الاصطناعي ينتبهون أكثر لسلامة الذكاء الاصطناعي. بالإضافة إلى ذلك، بالنسبة لصناع السياسات وعامة الناس، فإن الرسالة تهدف إلى أن تكون إعلامية ولكن ليست مثيرة للقلق. [4] صرحت إحدى الموقعات، البروفيسور فرانسيسكا روسي ، قائلة: "أعتقد أنه من المهم جدًا أن يعلم الجميع أن باحثي الذكاء الاصطناعي يفكرون بجدية في هذه المخاوف والقضايا الأخلاقية". [9]

المخاوف التي أثارتها الرسالة

يتساءل الموقعون: كيف يمكن للمهندسين إنشاء أنظمة ذكاء اصطناعي مفيدة للمجتمع، وقوية؟ يحتاج البشر إلى البقاء مسيطرين على الذكاء الاصطناعي ؛ يجب أن "تفعل أنظمة الذكاء الاصطناعي لدينا ما نريدها أن تفعله". [1] البحث المطلوب متعدد التخصصات، مستمد من مجالات تتراوح من الاقتصاد والقانون إلى فروع مختلفة من علوم الكمبيوتر ، مثل أمن الكمبيوتر والتحقق الرسمي . تنقسم التحديات التي تنشأ إلى التحقق ("هل بنيت النظام بشكل صحيح؟")، والصلاحية ("هل بنيت النظام الصحيح؟")، والأمن، والتحكم ("حسنًا، لقد بنيت النظام بشكل خاطئ، هل يمكنني إصلاحه؟"). [10]

المخاوف قصيرة المدى

وتتعلق بعض المخاوف في الأمد القريب بالمركبات ذاتية القيادة، من الطائرات بدون طيار المدنية والسيارات ذاتية القيادة . على سبيل المثال، قد يتعين على السيارة ذاتية القيادة، في حالة الطوارئ، أن تقرر بين خطر صغير لحادث كبير واحتمال كبير لحادث صغير. وتتعلق مخاوف أخرى بالأسلحة الذكية ذاتية القيادة القاتلة: هل يجب حظرها؟ وإذا كان الأمر كذلك، فكيف ينبغي تعريف "الاستقلالية" بدقة؟ وإذا لم يكن الأمر كذلك، فكيف ينبغي توزيع المسؤولية عن أي سوء استخدام أو عطل؟

وتشمل القضايا الأخرى مخاوف الخصوصية مع تزايد قدرة الذكاء الاصطناعي على تفسير مجموعات بيانات المراقبة الضخمة، وكيفية إدارة التأثير الاقتصادي للوظائف التي حلت محلها الذكاء الاصطناعي على النحو الأمثل. [4]

المخاوف طويلة المدى

ويختتم المستند بترديد مخاوف مدير الأبحاث في مايكروسوفت إريك هورفيتز بشأن:

إننا قد نفقد السيطرة على أنظمة الذكاء الاصطناعي ذات يوم بسبب صعود الذكاء الخارق الذي لا يتصرف وفقًا لرغبات الإنسان ــ وأن مثل هذه الأنظمة القوية من شأنها أن تهدد البشرية. فهل من الممكن أن نصل إلى مثل هذه النتائج المرعبة؟ وإذا كان الأمر كذلك، فكيف قد تنشأ مثل هذه المواقف؟ ... ما نوع الاستثمارات في البحوث التي ينبغي أن تُبذَل لفهم ومعالجة احتمالات صعود الذكاء الخارق الخطير أو حدوث "انفجار الذكاء" على نحو أفضل؟

إن الأدوات الحالية لتسخير الذكاء الاصطناعي، مثل التعلم المعزز ووظائف المرافق البسيطة، غير كافية لحل هذه المشكلة؛ وبالتالي فإن المزيد من البحث ضروري لإيجاد حل قوي لمشكلة التحكم والتحقق من صحتها. [10]

الموقعون

من بين الموقعين على الرسالة الفيزيائي ستيفن هوكينج ، ورجل الأعمال إيلون ماسك ، ورواد الأعمال وراء ديب مايند وفيكاريوس ، ومدير الأبحاث في جوجل بيتر نورفيج ، [1] والأستاذ ستيوارت جيه راسل من جامعة كاليفورنيا، بيركلي ، [11] وخبراء الذكاء الاصطناعي الآخرين، وصانعي الروبوتات، والمبرمجين، وخبراء الأخلاق. [12] كان عدد الموقعين الأصليين أكثر من 150 شخصًا، [13] بما في ذلك الأكاديميون من كامبريدج وأكسفورد وستانفورد وهارفارد ومعهد ماساتشوستس للتكنولوجيا. [14]

ملحوظات

  1. ^ abcd Sparkes, Matthew (13 January 2015). "Top scientist call for warn over artificial intelligence". The Telegraph (UK) . تم الاسترجاع في 24 أبريل 2015 .
  2. ^ "FLI - Future of Life Institute | AI Open Letter". 2015-11-02. مؤرشف من الأصل في 2015-11-02 . تم الاسترجاع 2024-07-09 .
  3. ^ راسل، ستيوارت؛ ديوي، دانييل؛ تيجمار، ماكس (2015-01-23). ​​"أولويات البحث من أجل الذكاء الاصطناعي القوي والمفيد" (PDF) . مؤرشف (PDF) من الأصل في 2015-12-01.
  4. ^ abc Chung, Emily (13 January 2015). "يجب على الذكاء الاصطناعي أن يركز على السلامة، كما يقول ستيفن هوكينج وباحثون آخرون". هيئة الإذاعة الكندية . تم الاسترجاع في 24 أبريل 2015 .
  5. ^ ماكميلان، روبرت (16 يناير 2015). "الذكاء الاصطناعي وصل، وهذا يقلق حقًا ألمع العقول في العالم". Wired . تم الاسترجاع في 24 أبريل 2015 .
  6. ^ من قبل دينا باس؛ جاك كلارك (4 فبراير 2015). "هل إيلون ماسك محق بشأن الذكاء الاصطناعي؟ الباحثون لا يعتقدون ذلك". بلومبرج بيزنس . تم الاسترجاع في 24 أبريل 2015 .
  7. ^ برادشو، تيم (12 يناير 2015). "علماء ومستثمرون يحذرون من الذكاء الاصطناعي". فاينانشال تايمز . تم الاسترجاع في 24 أبريل 2015. بدلاً من إثارة الخوف، حرصت الرسالة على تسليط الضوء على التأثيرات الإيجابية والسلبية للذكاء الاصطناعي .
  8. ^ "أولويات البحث من أجل الذكاء الاصطناعي القوي والمفيد: رسالة مفتوحة". معهد مستقبل الحياة . تم الاسترجاع في 24 أبريل 2015 .
  9. ^ "أسماء علمية كبيرة توقع رسالة مفتوحة توضح خطورة الذكاء الاصطناعي". مجلة نيو ساينتست . 14 يناير 2015. تم الاسترجاع في 24 أبريل 2015 .
  10. ^ "أولويات البحث من أجل الذكاء الاصطناعي القوي والمفيد" (PDF) . معهد مستقبل الحياة . 23 يناير 2015. تم الاسترجاع في 24 أبريل 2015 .
  11. ^ Wolchover, Natalie (21 April 2015). "مخاوف رائد الذكاء الاصطناعي". مجلة Quanta . تم الاسترجاع في 24 أبريل 2015 .
  12. ^ "خبراء يتعهدون بكبح جماح أبحاث الذكاء الاصطناعي". بي بي سي نيوز . 12 يناير 2015. تم استرجاعه في 24 أبريل 2015 .
  13. ^ هيرن، أليكس (12 يناير 2015). "خبراء من بينهم إيلون ماسك يدعون إلى إجراء أبحاث لتجنب "مصائد" الذكاء الاصطناعي". الجارديان . تم الاسترجاع في 24 أبريل 2015 .
  14. ^ جريفين، أندرو (12 يناير 2015). "ستيفن هوكينج وإيلون ماسك وآخرون يدعون إلى إجراء أبحاث لتجنب مخاطر الذكاء الاصطناعي" . الإندبندنت . مؤرشف من الأصل في 2022-05-24 . استرجاع 24 أبريل 2015 .
  • أولويات البحث من أجل الذكاء الاصطناعي القوي والمفيد: رسالة مفتوحة
تم الاسترجاع من "https://en.wikipedia.org/w/index.php?title=رسالة_مفتوحة_حول_الذكاء_الاصطناعي_(2015)&oldid=1243749613"
Original text
Rate this translation
Your feedback will be used to help improve Google Translate