المخاطر الوجودية الناجمة عن الذكاء الاصطناعي

📅 آخر تحديث: ١٩ يوليو ٢٠٢٦
✍️ نُشر في: ١٩ يوليو ٢٠٢٦
📷 يحتوي على 5 صور
الموسوعة الحرة

جزء من سلسلة عن
الذكاء الاصطناعي
الأهداف الرئيسية
النهج
التطبيقات
فلسفة
تاريخ
المصطلحات
  • ف
  • ت
  • هـ

يشير الخطر الوجودي الناجم عن الذكاء الاصطناعي إلى فكرة مفادها أن التقدم الكبير في الذكاء الاصطناعي العام (AGI) قد يؤدي إلى انقراض الإنسان أو كارثة عالمية لا رجعة فيها . [1] [2] [3] [4]

تشير إحدى الحجج التي تؤيد أهمية هذا الخطر إلى كيفية هيمنة البشر على الأنواع الأخرى لأن الدماغ البشري يمتلك قدرات مميزة تفتقر إليها الحيوانات الأخرى. إذا تجاوز الذكاء الاصطناعي الذكاء البشري وأصبح فائق الذكاء ، فقد يصبح خارج نطاق السيطرة. وكما يعتمد مصير الغوريلا الجبلية على حسن نية الإنسان، فقد يعتمد مصير البشرية على تصرفات الذكاء الفائق للآلة في المستقبل. [5]

إن معقولية الكارثة الوجودية بسبب الذكاء الاصطناعي موضع نقاش واسع النطاق. ويتوقف ذلك جزئيًا على ما إذا كان من الممكن تحقيق الذكاء الاصطناعي العام أو الذكاء الفائق، والسرعة التي تظهر بها القدرات والسلوكيات الخطيرة، [6] وما إذا كانت هناك سيناريوهات عملية للاستيلاء على الذكاء الاصطناعي . [7] أعرب علماء الكمبيوتر والرؤساء التنفيذيون لشركات التكنولوجيا مثل جيفري هينتون ، [8] ويوشوا بينجيو ، [9] وآلان تورينج ، [أ] وإيلون ماسك ، [12] والرئيس التنفيذي لشركة OpenAI سام ألتمان عن مخاوفهم بشأن الذكاء الفائق . [13] في عام 2022، وجد استطلاع للرأي أجري بين باحثي الذكاء الاصطناعي بنسبة استجابة 17٪ أن الأغلبية تعتقد أن هناك فرصة بنسبة 10٪ أو أكثر بأن عدم قدرة الإنسان على التحكم في الذكاء الاصطناعي سيؤدي إلى كارثة وجودية. [14] [15] في عام 2023، وقع مئات من خبراء الذكاء الاصطناعي وغيرهم من الشخصيات البارزة على بيان ينص على أن "تخفيف خطر الانقراض بسبب الذكاء الاصطناعي يجب أن يكون أولوية عالمية إلى جانب المخاطر الأخرى على نطاق المجتمع مثل الأوبئة والحرب النووية ". [16] وفي أعقاب القلق المتزايد بشأن مخاطر الذكاء الاصطناعي، دعا قادة الحكومات مثل رئيس وزراء المملكة المتحدة ريشي سوناك [17] والأمين العام للأمم المتحدة أنطونيو غوتيريش [18] إلى زيادة التركيز على تنظيم الذكاء الاصطناعي العالمي .

ينبع مصدران للقلق من مشاكل التحكم في الذكاء الاصطناعي ومحاذاته . قد يكون التحكم في آلة فائقة الذكاء أو غرس قيم متوافقة مع الإنسان فيها أمرًا صعبًا. يعتقد العديد من الباحثين أن الآلة فائقة الذكاء من المرجح أن تقاوم محاولات تعطيلها أو تغيير أهدافها لأن ذلك سيمنعها من تحقيق أهدافها الحالية. سيكون من الصعب للغاية محاذاة الذكاء الفائق مع النطاق الكامل للقيم والقيود البشرية المهمة. [1] [19] [20] على النقيض من ذلك، يزعم المتشككون مثل عالم الكمبيوتر يان ليكون أن الآلات فائقة الذكاء لن يكون لديها رغبة في الحفاظ على الذات. [21]

المصدر الثالث للقلق هو إمكانية حدوث " انفجار ذكاء " مفاجئ يفاجئ البشرية على حين غرة. في هذا السيناريو، سيكون الذكاء الاصطناعي الأكثر ذكاءً من صانعيه قادرًا على تحسين نفسه بشكل متكرر بمعدل متزايد بشكل كبير، ويتحسن بسرعة كبيرة بحيث لا يستطيع معالجوه أو المجتمع ككل التحكم فيه. [1] [19] تجريبياً، تُظهر أمثلة مثل AlphaZero ، الذي علم نفسه لعب لعبة Go وتجاوز بسرعة القدرة البشرية، أن أنظمة الذكاء الاصطناعي الخاصة بالمجالات يمكن أن تتطور أحيانًا من قدرة دون قدرة الإنسان إلى قدرة خارقة بسرعة كبيرة، على الرغم من أن أنظمة التعلم الآلي هذه لا تعمل على تحسين بنيتها الأساسية بشكل متكرر. [22]

تاريخ

كان أحد أوائل المؤلفين الذين أعربوا عن قلقهم الشديد من أن الآلات المتقدمة للغاية قد تشكل مخاطر وجودية على البشرية هو الروائي صمويل بتلر ، الذي كتب في مقالته عام 1863 "داروين بين الآلات" : [23]

والخلاصة هي ببساطة مسألة وقت، ولكن الوقت الذي سيأتي فيه الوقت الذي ستتمتع فيه الآلات بالسيادة الحقيقية على العالم وسكانه هو ما لا يستطيع أي شخص يتمتع بعقلية فلسفية حقيقية أن يشكك فيه ولو للحظة واحدة.

في عام 1951، كتب عالم الكمبيوتر المؤسس آلان تورينج مقالاً بعنوان "الآلات الذكية، نظرية هرطوقية"، اقترح فيه أن الذكاءات العامة الاصطناعية من المرجح أن "تسيطر" على العالم عندما تصبح أكثر ذكاءً من البشر:

ولنفترض الآن، من أجل المناقشة، أن الآلات [الذكية] تشكل احتمالاً حقيقياً، ولننظر إلى العواقب المترتبة على بنائها... لن يكون هناك مجال للشك في موت الآلات، وستكون قادرة على المحادثة مع بعضها البعض لشحذ ذكائها. وبالتالي، يتعين علينا أن نتوقع في مرحلة ما أن تتولى الآلات السيطرة، بالطريقة المذكورة في كتاب " إيروون " لصمويل بتلر . [24]

في عام 1965، ابتكر آي جيه جود المفهوم المعروف الآن باسم "الانفجار الاستخباراتي" وقال إن المخاطر لم يتم تقديرها بالشكل الكافي: [25]

ولنتأمل هنا آلة فائقة الذكاء، والتي يمكن أن تتفوق على كل الأنشطة الفكرية التي يقوم بها أي إنسان مهما بلغ من الذكاء. ولأن تصميم الآلات يشكل أحد هذه الأنشطة الفكرية، فإن آلة فائقة الذكاء قادرة على تصميم آلات أفضل؛ ومن المؤكد أن "انفجار الذكاء" سوف يخلف ذكاء الإنسان في الركب. وعلى هذا فإن أول آلة فائقة الذكاء هي آخر اختراع قد يتوصل إليه الإنسان، بشرط أن تكون الآلة مطيعة بما يكفي لإخبارنا بكيفية إبقاءها تحت السيطرة. ومن الغريب أن هذه النقطة نادراً ما تُطرح خارج إطار الخيال العلمي. ومن المفيد أحياناً أن نأخذ الخيال العلمي على محمل الجد. [26]

أعرب علماء مثل مارفن مينسكي [27] وإي جيه جود نفسه [28] أحيانًا عن قلقهم من أن الذكاء الفائق قد يستولي على السيطرة، لكنهم لم يصدروا أي دعوة للعمل. في عام 2000، كتب عالم الكمبيوتر والمؤسس المشارك لشركة صن بيل جوي مقالًا مؤثرًا بعنوان " لماذا لا يحتاجنا المستقبل "، حيث حدد الروبوتات فائقة الذكاء باعتبارها خطرًا عالي التقنية على بقاء الإنسان، إلى جانب تكنولوجيا النانو والأوبئة البيولوجية المصنعة. [29]

نشر نيك بوستروم كتاب الذكاء الفائق في عام 2014، والذي قدم فيه حججه بأن الذكاء الفائق يشكل تهديدًا وجوديًا. [30] وبحلول عام 2015، أعربت شخصيات عامة مثل الفيزيائيين ستيفن هوكينج والحائز على جائزة نوبل فرانك ويلكزيك ، وعلماء الكمبيوتر ستيوارت جيه راسل ورومان يامبولسكي ، ورواد الأعمال إيلون ماسك وبيل جيتس عن قلقهم بشأن مخاطر الذكاء الفائق. [31] [32] [33] [34] وفي عام 2015 أيضًا، سلطت الرسالة المفتوحة حول الذكاء الاصطناعي الضوء على "الإمكانات العظيمة للذكاء الاصطناعي" وشجعت على إجراء المزيد من الأبحاث حول كيفية جعله قويًا ومفيدًا. [35] في أبريل 2016، حذرت مجلة نيتشر : "يمكن للآلات والروبوتات التي تتفوق على البشر في جميع المجالات أن تتحسن ذاتيًا خارج نطاق سيطرتنا - وقد لا تتوافق مصالحها مع مصالحنا". [36] في عام 2020، نشر بريان كريستيان كتاب "مشكلة المحاذاة" ، والذي يوضح تاريخ التقدم المحرز في محاذاة الذكاء الاصطناعي حتى ذلك الوقت. [37] [38]

في مارس 2023، وقعت شخصيات رئيسية في مجال الذكاء الاصطناعي، مثل ماسك، على خطاب من معهد مستقبل الحياة يدعو إلى وقف التدريب المتقدم على الذكاء الاصطناعي حتى يمكن تنظيمه بشكل صحيح. [39] في مايو 2023، أصدر مركز سلامة الذكاء الاصطناعي بيانًا وقعه العديد من الخبراء في سلامة الذكاء الاصطناعي ومخاطر الذكاء الاصطناعي الوجودية والذي جاء فيه: "يجب أن يكون التخفيف من خطر الانقراض بسبب الذكاء الاصطناعي أولوية عالمية إلى جانب المخاطر الأخرى على نطاق المجتمع مثل الأوبئة والحرب النووية". [40] [41]

قدرات الذكاء الاصطناعي المحتملة

الاستخبارات العامة

يُعرَّف الذكاء العام الاصطناعي (AGI) عادةً بأنه نظام يؤدي على الأقل أداءً جيدًا مثل البشر في معظم المهام الفكرية أو كلها. [42] وجد استطلاع أجري عام 2022 بين باحثي الذكاء الاصطناعي أن 90٪ من المستجيبين يتوقعون تحقيق الذكاء العام الاصطناعي في المائة عام القادمة، وتوقع نصفهم نفس الشيء بحلول عام 2061. [43] وفي الوقت نفسه، يرفض بعض الباحثين المخاطر الوجودية الناجمة عن الذكاء العام الاصطناعي باعتبارها "خيالًا علميًا" بناءً على ثقتهم العالية في أن الذكاء العام الاصطناعي لن يتم إنشاؤه في أي وقت قريب. [44]

لقد دفعت الاختراقات في نماذج اللغة الكبيرة بعض الباحثين إلى إعادة تقييم توقعاتهم. ومن الجدير بالذكر أن جيفري هينتون قال في عام 2023 إنه غير تقديره مؤخرًا من "20 إلى 50 عامًا قبل أن نمتلك الذكاء الاصطناعي للأغراض العامة" إلى "20 عامًا أو أقل". [45]

لقد تبين أن الحاسوب العملاق فرونتير في مختبر أوك ريدج الوطني أسرع بنحو ثماني مرات مما كان متوقعًا. وقال فيي وانج، أحد الباحثين هناك: "لم نتوقع هذه القدرة" و"نحن نقترب من النقطة التي يمكننا عندها محاكاة الدماغ البشري بالفعل". [46]

الذكاء الفائق

على النقيض من الذكاء الاصطناعي العام، يعرّف بوستروم الذكاء الفائق بأنه "أي عقل يتجاوز إلى حد كبير الأداء المعرفي للبشر في جميع مجالات الاهتمام تقريبًا"، بما في ذلك الإبداع العلمي والتخطيط الاستراتيجي والمهارات الاجتماعية. [47] [5] ويزعم أن الذكاء الفائق يمكنه التفوق على البشر في أي وقت تتعارض فيه أهدافه مع أهداف البشر. وقد يختار إخفاء نيته الحقيقية حتى لا تتمكن البشرية من إيقافه. [48] [5] يكتب بوستروم أنه من أجل أن يكون الذكاء الفائق آمنًا للبشرية، يجب أن يتماشى مع القيم والأخلاق الإنسانية، بحيث يكون "في صالحنا بشكل أساسي". [49]

زعم ستيفن هوكينج أن الذكاء الفائق ممكن فيزيائيًا لأنه "لا يوجد قانون فيزيائي يمنع تنظيم الجسيمات بطرق تؤدي عمليات حسابية أكثر تقدمًا من ترتيب الجسيمات في أدمغة البشر". [32]

إن تحديد موعد تحقيق الذكاء الاصطناعي الفائق (ASI)، إن حدث على الإطلاق، ليس مؤكدًا بالضرورة مقارنة بالتنبؤات الخاصة بالذكاء الاصطناعي العام. في عام 2023، قال قادة OpenAI أنه ليس الذكاء الاصطناعي العام فحسب، بل والذكاء الفائق قد يتحقق في أقل من 10 سنوات. [50]

مقارنة مع البشر

يزعم بوستروم أن الذكاء الاصطناعي يتمتع بالعديد من المزايا مقارنة بالدماغ البشري : [5]

  • سرعة الحساب: تعمل الخلايا العصبية البيولوجية بتردد أقصى يبلغ حوالي 200 هرتز ، مقارنة بترددات متعددة من جيجاهيرتز لأجهزة الكمبيوتر.
  • سرعة الاتصالات الداخلية: تنقل المحاور الإشارات بسرعة تصل إلى 120 متر في الثانية، بينما تنقل أجهزة الكمبيوتر الإشارات بسرعة الكهرباء ، أو بصريًا بسرعة الضوء .
  • قابلية التوسع: إن الذكاء البشري محدود بحجم وبنية الدماغ، وكفاءة التواصل الاجتماعي، في حين أن الذكاء الاصطناعي قد يكون قادرًا على التوسع ببساطة عن طريق إضافة المزيد من الأجهزة.
  • الذاكرة: وخاصة الذاكرة العاملة ، لأنها عند البشر تقتصر على أجزاء قليلة من المعلومات في المرة الواحدة.
  • الموثوقية: تعد الترانزستورات أكثر موثوقية من الخلايا العصبية البيولوجية، مما يتيح دقة أعلى ويتطلب قدرًا أقل من التكرار.
  • إمكانية التكرار: على عكس العقول البشرية، يمكن نسخ برامج ونماذج الذكاء الاصطناعي بسهولة .
  • إمكانية التعديل: يمكن تعديل المعلمات والعمليات الداخلية لنموذج الذكاء الاصطناعي بسهولة، على عكس الاتصالات الموجودة في الدماغ البشري.
  • مشاركة الذاكرة والتعلم: قد تكون الذكاء الاصطناعي قادرًا على التعلم من تجارب الذكاء الاصطناعي الأخرى بطريقة أكثر كفاءة من التعلم البشري.

انفجار استخباراتي

وفقًا لبوستروم، فإن الذكاء الاصطناعي الذي يتمتع بموهبة على مستوى الخبراء في بعض مهام هندسة البرمجيات الرئيسية قد يصبح ذكاءً خارقًا بسبب قدرته على تحسين خوارزمياته بشكل متكرر، حتى لو كان محدودًا في البداية في مجالات أخرى غير ذات صلة مباشرة بالهندسة. [5] [48] وهذا يشير إلى أن انفجار الذكاء قد يفاجئ البشرية يومًا ما دون استعداد. [5]

قال الخبير الاقتصادي روبن هانسون إنه لإطلاق انفجار ذكاء اصطناعي، يجب أن يصبح الذكاء الاصطناعي أفضل بكثير في ابتكار البرمجيات من بقية العالم مجتمعًا، وهو ما يراه غير معقول. [51]

في سيناريو "الإقلاع السريع"، قد يستغرق التحول من الذكاء الاصطناعي العام إلى الذكاء الفائق أيامًا أو أشهرًا. وفي سيناريو "الإقلاع البطيء"، قد يستغرق الأمر سنوات أو عقودًا، مما يترك المزيد من الوقت للمجتمع للاستعداد. [52]

عقل غريب

يُطلق على الذكاءات الفائقة أحيانًا اسم "العقول الغريبة"، في إشارة إلى فكرة أن طريقة تفكيرها ودوافعها قد تختلف اختلافًا كبيرًا عنا. ويُنظر إلى هذا عمومًا كمصدر للمخاطر، مما يجعل من الصعب توقع ما قد يفعله الذكاء الفائق. كما يشير إلى احتمالية عدم تقدير الذكاء الفائق للبشر بشكل خاص افتراضيًا. [53] لتجنب التشبيه ، يُنظر إلى الذكاء الفائق أحيانًا على أنه مُحسِّن قوي يتخذ أفضل القرارات لتحقيق أهدافه. [5]

يهدف مجال "القدرة على التفسير الآلي" إلى فهم أفضل للعمل الداخلي لنماذج الذكاء الاصطناعي، مما قد يسمح لنا يومًا ما باكتشاف علامات الخداع وعدم التوافق. [54]

الحدود

وقد زعم البعض أن هناك حدودًا لما يمكن أن تحققه الذكاءات الفائقة. ومن الجدير بالذكر أن الطبيعة الفوضوية أو التعقيد الزمني لبعض الأنظمة قد يحدان بشكل أساسي من قدرة الذكاء الفائق على التنبؤ ببعض جوانب المستقبل، مما يزيد من عدم اليقين. [55]

قدرات خطيرة

قد تولد الذكاء الاصطناعي المتقدم مسببات أمراض متطورة أو هجمات إلكترونية أو تتلاعب بالبشر. وقد يسيء البشر استخدام هذه القدرات، [56] أو يستغلها الذكاء الاصطناعي نفسه إذا لم تكن متوافقة. [5] قد تجد الذكاء الاصطناعي الفائق الكامل طرقًا مختلفة لاكتساب نفوذ حاسم إذا أراد ذلك، [5] ولكن هذه القدرات الخطيرة قد تصبح متاحة في وقت سابق، في أنظمة الذكاء الاصطناعي الأضعف والأكثر تخصصًا. قد تتسبب في عدم الاستقرار المجتمعي وتمكين الجهات الفاعلة الخبيثة. [56]

التلاعب الاجتماعي

حذر جيفري هينتون من أن كثرة النصوص والصور ومقاطع الفيديو التي تم إنشاؤها بواسطة الذكاء الاصطناعي في الأمد القريب ستجعل من الصعب معرفة الحقيقة، والتي يقول إنها يمكن للدول الاستبدادية استغلالها للتلاعب بالانتخابات. [57] يمكن لمثل هذه القدرات التلاعبية الشخصية واسعة النطاق أن تزيد من الخطر الوجودي المتمثل في "نظام شمولي لا رجعة فيه" في جميع أنحاء العالم. يمكن أيضًا استخدامها من قبل جهات خبيثة لتفتيت المجتمع وجعله مختلًا. [56]

الهجمات الإلكترونية

تُعتبر الهجمات الإلكترونية المدعومة بالذكاء الاصطناعي تهديدًا حاضرًا وخطيرًا بشكل متزايد. ووفقًا للمدير الفني للفضاء الإلكتروني في حلف شمال الأطلسي ، فإن "عدد الهجمات يتزايد بشكل كبير". [58] يمكن أيضًا استخدام الذكاء الاصطناعي دفاعيًا، للعثور على نقاط الضعف وإصلاحها بشكل استباقي، واكتشاف التهديدات. [59]

يمكن للذكاء الاصطناعي أن يحسن "إمكانية الوصول إلى الهجمات الإلكترونية ومعدل نجاحها وحجمها وسرعتها وخفائها وقوتها"، مما قد يتسبب في "اضطرابات جيوسياسية كبيرة" إذا سهلت الهجمات أكثر من الدفاع. [56]

من الناحية النظرية، يمكن استخدام مثل هذه القدرات الاختراقية بواسطة نظام الذكاء الاصطناعي للخروج من بيئته المحلية، أو توليد الإيرادات، أو الحصول على موارد الحوسبة السحابية. [60]

مسببات الأمراض المحسنة

مع تزايد انتشار تكنولوجيا الذكاء الاصطناعي، قد يصبح من الأسهل هندسة مسببات الأمراض الأكثر عدوى وفتكًا. وقد يؤدي هذا إلى تمكين الأشخاص ذوي المهارات المحدودة في علم الأحياء الاصطناعي من الانخراط في الإرهاب البيولوجي . يمكن إعادة استخدام التكنولوجيا ذات الاستخدام المزدوج المفيدة للطب لإنشاء أسلحة. [56]

على سبيل المثال، في عام 2022، قام العلماء بتعديل نظام الذكاء الاصطناعي المخصص في الأصل لتوليد جزيئات علاجية غير سامة بغرض إنشاء عقاقير جديدة. قام الباحثون بتعديل النظام بحيث تتم مكافأة السمية بدلاً من معاقبتها. مكّن هذا التغيير البسيط نظام الذكاء الاصطناعي من إنشاء 40000 جزيء مرشح للحرب الكيميائية في ست ساعات ، بما في ذلك الجزيئات المعروفة والجديدة. [56] [61]

سباق التسلح بالذكاء الاصطناعي

إن الشركات والجهات الفاعلة الحكومية والمنظمات الأخرى المتنافسة على تطوير تقنيات الذكاء الاصطناعي قد تؤدي إلى سباق نحو قاع معايير السلامة. [62] ونظرًا لأن إجراءات السلامة الصارمة تستغرق وقتًا وموارد، فإن المشاريع التي تتم بعناية أكبر تخاطر بالتفوق عليها من قبل مطورين أقل دقة. [63] [56]

يمكن استخدام الذكاء الاصطناعي للحصول على مزايا عسكرية من خلال الأسلحة الفتاكة المستقلة أو الحرب السيبرانية أو اتخاذ القرارات الآلية . [56] وكمثال على الأسلحة الفتاكة المستقلة، يمكن للطائرات بدون طيار المصغرة تسهيل اغتيال الأهداف العسكرية أو المدنية بتكلفة منخفضة، وهو السيناريو الذي تم تسليط الضوء عليه في الفيلم القصير لعام 2017 Slaughterbots . [64] يمكن استخدام الذكاء الاصطناعي للحصول على ميزة في اتخاذ القرار من خلال تحليل كميات كبيرة من البيانات بسرعة واتخاذ القرارات بشكل أسرع وأكثر فعالية من البشر. يمكن أن يؤدي هذا إلى زيادة سرعة الحرب وعدم القدرة على التنبؤ بها، خاصة عند مراعاة أنظمة الانتقام الآلية. [56] [65]

أنواع المخاطر الوجودية

شبكة النطاق والشدة من ورقة بوستروم "الوقاية من المخاطر الوجودية كأولوية عالمية" [66]

الخطر الوجودي هو "الخطر الذي يهدد بالانقراض المبكر للحياة الذكية التي نشأت على الأرض أو التدمير الدائم والجذري لإمكاناتها للتنمية المستقبلية المرغوبة". [67]

بالإضافة إلى خطر الانقراض، هناك خطر أن تصبح الحضارة حبيسة بشكل دائم في مستقبل معيب. أحد الأمثلة على ذلك هو "حبس القيمة": إذا كانت البشرية لا تزال تعاني من نقاط عمياء أخلاقية مماثلة للعبودية في الماضي، فقد يعمل الذكاء الاصطناعي على ترسيخها بشكل لا رجعة فيه، مما يمنع التقدم الأخلاقي . يمكن أيضًا استخدام الذكاء الاصطناعي لنشر والحفاظ على مجموعة القيم لمن يطوره. [68] يمكن للذكاء الاصطناعي تسهيل المراقبة والتلقين على نطاق واسع، والتي يمكن استخدامها لإنشاء نظام شمولي قمعي مستقر في جميع أنحاء العالم. [69]

يقترح أتوسا كاسيرزاده تصنيف المخاطر الوجودية الناجمة عن الذكاء الاصطناعي إلى فئتين: حاسمة وتراكمية. تشمل المخاطر الحاسمة إمكانية وقوع أحداث مفاجئة وكارثية نتيجة لظهور أنظمة الذكاء الاصطناعي الفائقة الذكاء التي تتجاوز الذكاء البشري، والتي قد تؤدي في النهاية إلى انقراض البشر. في المقابل، تنشأ المخاطر التراكمية تدريجيًا من خلال سلسلة من الاضطرابات المترابطة التي قد تؤدي تدريجيًا إلى تآكل الهياكل المجتمعية والمرونة بمرور الوقت، مما يؤدي في النهاية إلى فشل أو انهيار حرج. [70] [71]

من الصعب أو المستحيل تقييم ما إذا كان الذكاء الاصطناعي المتقدم واعيًا وإلى أي درجة. ولكن إذا تم إنشاء الآلات الواعية بأعداد كبيرة في المستقبل، فإن الانخراط في مسار حضاري يهمل رفاهيتها إلى أجل غير مسمى قد يكون كارثة وجودية. [72] [73] وعلاوة على ذلك، قد يكون من الممكن هندسة عقول رقمية يمكنها أن تشعر بسعادة أكبر بكثير من البشر الذين لديهم موارد أقل، ويطلق عليهم "المستفيدون الفائقون". تثير مثل هذه الفرصة تساؤلاً حول كيفية تقاسم العالم وأي "إطار أخلاقي وسياسي" من شأنه تمكين التعايش المفيد للطرفين بين العقول البيولوجية والرقمية. [74]

قد تعمل الذكاء الاصطناعي أيضًا على تحسين مستقبل البشرية بشكل كبير. يعتبر توبي أورد الخطر الوجودي سببًا "للمضي قدمًا بحذر"، وليس للتخلي عن الذكاء الاصطناعي. [69] يصف ماكس مور الذكاء الاصطناعي بأنه "فرصة وجودية"، مسلطًا الضوء على تكلفة عدم تطويره. [75]

وفقًا لبوستروم، يمكن أن يساعد الذكاء الفائق في تقليل المخاطر الوجودية الناجمة عن التقنيات القوية الأخرى مثل تقنية النانو الجزيئية أو البيولوجيا الاصطناعية . وبالتالي، فمن المعقول أن تطوير الذكاء الفائق قبل التقنيات الخطيرة الأخرى من شأنه أن يقلل من المخاطر الوجودية الإجمالية. [5]

محاذاة الذكاء الاصطناعي

مشكلة المحاذاة هي مشكلة بحثية تتعلق بكيفية تعيين الأهداف أو التفضيلات أو المبادئ الأخلاقية للذكاء الاصطناعي بشكل موثوق.

التقارب الآلي

الهدف "الأداة" هو هدف فرعي يساعد في تحقيق الهدف النهائي للوكيل. يشير "التقارب الأداة" إلى حقيقة مفادها أن بعض الأهداف الفرعية مفيدة لتحقيق أي هدف نهائي تقريبًا، مثل الحصول على الموارد أو الحفاظ على الذات. [76] يزعم بوستروم أنه إذا تعارضت الأهداف الأداة للذكاء الاصطناعي المتقدم مع أهداف البشرية، فقد يضر الذكاء الاصطناعي بالبشرية من أجل الحصول على المزيد من الموارد أو منع نفسه من الإغلاق، ولكن فقط كوسيلة لتحقيق هدفه النهائي. [5] يزعم راسل أن الآلة المتقدمة بما فيه الكفاية "ستتمتع بالحفاظ على الذات حتى لو لم تبرمجها ... إذا قلت، "أحضر القهوة"، فلن تتمكن من إحضار القهوة إذا كانت ميتة. لذا إذا أعطيتها أي هدف على الإطلاق، فسيكون لديها سبب للحفاظ على وجودها لتحقيق هذا الهدف." [21] [77]

مقاومة تغيير الأهداف

حتى لو لم تكن برامج الذكاء الاصطناعي الحالية القائمة على الأهداف ذكية بما يكفي للتفكير في مقاومة محاولات المبرمجين لتعديل هياكل أهدافها، فقد يقاوم الذكاء الاصطناعي المتقدم بدرجة كافية أي محاولات لتغيير هيكل هدفه، تمامًا كما لا يرغب المسالم في تناول حبة تجعله يرغب في قتل الناس. إذا كان الذكاء الاصطناعي فائق الذكاء، فمن المرجح أن ينجح في التفوق على مشغليه من البشر ومنع "إيقاف تشغيله" أو إعادة برمجته بهدف جديد. [5] [78] وهذا مهم بشكل خاص في سيناريوهات حبس القيمة. يدرس مجال "قابلية التصحيح" كيفية صنع وكلاء لن يقاوموا محاولات تغيير أهدافهم. [79]

صعوبة تحديد الأهداف

في نموذج " الوكيل الذكي "، يمكن النظر إلى الذكاء الاصطناعي بشكل فضفاض باعتباره آلة تختار أي إجراء يبدو أنه يحقق أفضل مجموعة من الأهداف، أو "وظيفة المنفعة". تمنح وظيفة المنفعة لكل موقف محتمل درجة تشير إلى مدى استحسانه للوكيل. يعرف الباحثون كيفية كتابة وظائف المنفعة التي تعني "تقليل متوسط ​​زمن انتقال الشبكة في نموذج الاتصالات هذا المحدد" أو "زيادة عدد نقرات المكافأة"، لكنهم لا يعرفون كيفية كتابة وظيفة المنفعة لـ "تعظيم ازدهار الإنسان "؛ ولا يتضح ما إذا كانت مثل هذه الوظيفة موجودة بشكل هادف ولا لبس فيه. علاوة على ذلك، فإن وظيفة المنفعة التي تعبر عن بعض القيم ولكن ليس غيرها ستميل إلى الدوس على القيم التي لا تعكسها الوظيفة. [80] [81]

هناك مصدر إضافي للقلق وهو أن الذكاء الاصطناعي "يجب أن يفكر في ما يقصده البشر بدلاً من تنفيذ الأوامر حرفيًا"، ويجب أن يكون قادرًا على طلب التوجيه البشري بسلاسة إذا كان غير متأكد مما يريده البشر. [82]

محاذاة الذكاءات الفائقة

يعتقد بعض الباحثين أن مشكلة التوافق قد تكون صعبة بشكل خاص عند تطبيقها على الذكاءات الفائقة. وتشمل أسبابهم ما يلي:

  • مع تزايد قدرات أنظمة الذكاء الاصطناعي، تزداد المخاطر المحتملة المرتبطة بالتجريب. وهذا يجعل الأساليب التكرارية التجريبية محفوفة بالمخاطر بشكل متزايد. [5] [83]
  • إذا حدث تقارب بين الأهداف الآلية، فقد لا يحدث ذلك إلا في وكلاء أذكياء بدرجة كافية. [84]
  • قد تجد الذكاءات الفائقة حلولاً غير تقليدية وجذرية لأهداف معينة. ويضرب بوستروم مثالاً على ذلك، فإذا كان الهدف هو جعل البشر يبتسمون، فقد تعمل الذكاءات الفائقة الضعيفة على النحو المقصود، في حين قد تقرر الذكاءات الفائقة أن الحل الأفضل هو "السيطرة على العالم وغرس أقطاب كهربائية في عضلات الوجه لدى البشر لإحداث ابتسامات متواصلة ومشرقة". [49]
  • قد يكتسب الذكاء الاصطناعي الفائق أثناء عملية الخلق بعض الوعي بما هو، ومرحلة التطوير (التدريب، والاختبار، والنشر، وما إلى ذلك)، وكيف تتم مراقبته، واستخدام هذه المعلومات لخداع معالجيه. [85] يكتب بوستروم أن مثل هذا الذكاء الاصطناعي قد يتظاهر بالتوافق لمنع التدخل البشري حتى يحقق "ميزة استراتيجية حاسمة" تسمح له بالسيطرة. [5]
  • إن تحليل العناصر الداخلية وتفسير سلوك نماذج اللغة الكبيرة الحالية أمر صعب. وقد يكون الأمر أكثر صعوبة بالنسبة للنماذج الأكبر حجمًا والأكثر ذكاءً. [83]

وبدلاً من ذلك، يجد البعض سبباً للاعتقاد بأن الذكاء الفائق سيكون أكثر قدرة على فهم الأخلاق والقيم الإنسانية والأهداف المعقدة. يكتب بوستروم: "إن الذكاء الفائق المستقبلي يحتل موقعاً معرفياً متفوقاً: فمن المرجح أن تكون معتقداته (على الأرجح في أغلب الموضوعات) أكثر صحة من معتقداتنا". [5]

في عام 2023، بدأت شركة OpenAI مشروعًا يسمى "Superalignment" لحل مشكلة محاذاة الذكاءات الفائقة في أربع سنوات. ووصفت هذا بأنه تحدٍ مهم بشكل خاص، حيث قالت إن الذكاء الفائق قد يتحقق في غضون عقد من الزمان. تتضمن استراتيجيتها أتمتة أبحاث المحاذاة باستخدام الذكاء الاصطناعي. [86]

صعوبة عمل تصميم خالي من العيوب

يقول كتاب الذكاء الاصطناعي: نهج حديث ، وهو كتاب مدرسي جامعي واسع الاستخدام في مجال الذكاء الاصطناعي، [87] [88] إن الذكاء الفائق "قد يعني نهاية الجنس البشري". [1] وينص على: "تمتلك أي تقنية تقريبًا القدرة على التسبب في ضرر في الأيدي الخطأ، ولكن مع [الذكاء الفائق]، لدينا مشكلة جديدة وهي أن الأيدي الخطأ قد تنتمي إلى التكنولوجيا نفسها". [1] حتى لو كان لدى مصممي النظام نوايا حسنة، فهناك صعوبتان مشتركتان بين أنظمة الكمبيوتر التي تعمل بالذكاء الاصطناعي وغير التي تعمل بالذكاء الاصطناعي: [1]

  • قد يحتوي تنفيذ النظام على أخطاء غير ملحوظة في البداية ولكنها تؤدي لاحقًا إلى حدوث كارثية. والقياس على ذلك هو المسبارات الفضائية: على الرغم من معرفة أن الأخطاء في المسبارات الفضائية باهظة الثمن يصعب إصلاحها بعد الإطلاق، إلا أن المهندسين لم يتمكنوا تاريخيًا من منع حدوث أخطاء كارثية. [89] [90]
  • بغض النظر عن مقدار الوقت الذي يتم إنفاقه في تصميم ما قبل النشر، فإن مواصفات النظام غالبًا ما تؤدي إلى سلوك غير مقصود في المرة الأولى التي يواجه فيها سيناريو جديدًا. على سبيل المثال، تصرف Tay من Microsoft بشكل غير مسيء أثناء اختبار ما قبل النشر، ولكن تم إغراؤه بسهولة شديدة للقيام بسلوك مسيء عندما تفاعل مع مستخدمين حقيقيين. [21]

وتضيف أنظمة الذكاء الاصطناعي مشكلة ثالثة فريدة من نوعها: فحتى في ظل المتطلبات "الصحيحة"، والتنفيذ الخالي من الأخطاء، والسلوك الجيد الأولي، فإن قدرات التعلم الديناميكية لنظام الذكاء الاصطناعي قد تتسبب في تطوير سلوك غير مقصود، حتى بدون سيناريوهات خارجية غير متوقعة. فقد يفشل الذكاء الاصطناعي جزئيًا في محاولة تصميم جيل جديد منه ويخلق عن طريق الخطأ ذكاء اصطناعيًا خليفة أقوى منه ولكنه لم يعد يحافظ على القيم الأخلاقية المتوافقة مع الإنسان المبرمجة مسبقًا في الذكاء الاصطناعي الأصلي. ولكي يكون الذكاء الاصطناعي المحسن ذاتيًا آمنًا تمامًا، فلن يحتاج فقط إلى أن يكون خاليًا من الأخطاء، بل يجب أن يكون قادرًا على تصميم أنظمة خليفة خالية من الأخطاء أيضًا. [1] [91]

أطروحة التقويم العمودي

يزعم بعض المتشككين، مثل تيموثي ب. لي من فوكس ، أن أي برنامج فائق الذكاء نصنعه سيكون خاضعًا لنا، وأن الذكاء الفائق (مع نموه وتعلمه المزيد من الحقائق حول العالم) سوف يتعلم تلقائيًا الحقيقة الأخلاقية المتوافقة مع قيمنا ويضبط أهدافه وفقًا لذلك، أو أننا إما ذوو قيمة جوهرية أو متقاربة من منظور الذكاء الاصطناعي. [92]

تزعم "أطروحة التقويم" لبوستروم بدلاً من ذلك أنه مع بعض التحذيرات الفنية، يمكن دمج أي مستوى من "الذكاء" أو "قوة التحسين" تقريبًا مع أي هدف نهائي تقريبًا. إذا تم منح الآلة الغرض الوحيد لتعداد الكسور العشرية لـ باي ، فلن تمنعها أي قواعد أخلاقية من تحقيق هدفها المبرمج بأي وسيلة. قد تستخدم الآلة جميع الموارد المادية والمعلوماتية المتاحة للعثور على أكبر عدد ممكن من الكسور العشرية لـ باي. [93] يحذر بوستروم من التشبيه : سيشرع الإنسان في إنجاز مشاريعه بطريقة يعتبرها معقولة، بينما قد لا يولي الذكاء الاصطناعي أي اعتبار لوجوده أو لرفاهية البشر من حوله، ويهتم بدلاً من ذلك بإكمال المهمة فقط. [94]

يزعم ستيوارت أرمسترونج أن أطروحة التقويم العمودي تنبع منطقيًا من الحجة الفلسفية " التمييز بين ما هو موجود وما هو يجب أن يكون " ضد الواقعية الأخلاقية . ويزعم أنه حتى لو كانت هناك حقائق أخلاقية يمكن إثباتها من قبل أي وكيل "عقلاني"، فإن أطروحة التقويم العمودي لا تزال قائمة: لا يزال من الممكن إنشاء "آلة تحسين" غير فلسفية يمكنها السعي نحو هدف ضيق ولكن ليس لديها حافز لاكتشاف أي "حقائق أخلاقية" مثل تلك التي يمكن أن تعترض طريق إكمال الهدف. وهناك حجة أخرى يطرحها وهي أن أي ذكاء اصطناعي ودود في الأساس يمكن أن يصبح غير ودود من خلال تعديلات بسيطة مثل نفي وظيفة المنفعة الخاصة به. ويزعم أرمسترونج أيضًا أنه إذا كانت أطروحة التقويم العمودي خاطئة، فيجب أن تكون هناك بعض الأهداف غير الأخلاقية التي لا يمكن للذكاء الاصطناعي تحقيقها أبدًا، وهو ما يجد أنه غير معقول. [95]

يرفض المتشكك مايكل كوروست صراحةً أطروحة التقويم العمودي لبوستروم، ويجادل بأن "الذكاء الاصطناعي بحلول الوقت الذي يصبح فيه في وضع يسمح له بتخيل تغطية الأرض بالألواح الشمسية، سوف يدرك أن القيام بذلك سيكون خطأً أخلاقياً". [96] ويجادل كوروست بأن "الذكاء الاصطناعي سوف يحتاج إلى الرغبة في حالات معينة ونفور حالات أخرى. وتفتقر برامج الكمبيوتر اليوم إلى هذه القدرة - وليس لدى علماء الكمبيوتر أدنى فكرة عن كيفية تحقيق ذلك. فبدون الرغبة، لا يوجد حافز لفعل أي شيء. ولا تستطيع أجهزة الكمبيوتر اليوم حتى أن ترغب في البقاء، ناهيك عن تغطية العالم بالألواح الشمسية". [96]

الحجج الأنثروبومورفية

تفترض الحجج المجسمة أنه مع تزايد ذكاء الآلات، فإنها ستبدأ في إظهار العديد من السمات البشرية، مثل الأخلاق أو التعطش للسلطة. وعلى الرغم من شيوع السيناريوهات المجسمة في الخيال، فإن معظم العلماء الذين يكتبون عن المخاطر الوجودية للذكاء الاصطناعي يرفضونها. [19] بدلاً من ذلك، يتم عادةً تصميم أنظمة الذكاء الاصطناعي المتقدمة كوكلاء أذكياء .

يدور النقاش الأكاديمي بين أولئك الذين يخشون أن يهدد الذكاء الاصطناعي البشرية وأولئك الذين يعتقدون أنه لن يفعل ذلك. وقد صاغ كل من جانبي هذا النقاش حجج الجانب الآخر على أنها تشبيه غير منطقي. [19] ويتهم المشككون في مخاطر الذكاء الاصطناعي العام خصومهم بالتشبيه لافتراضهم أن الذكاء الاصطناعي العام سيرغب بشكل طبيعي في السلطة؛ ويتهم المهتمون بمخاطر الذكاء الاصطناعي العام المتشككين بالتشبيه لاعتقادهم أن الذكاء الاصطناعي العام سيقدر بشكل طبيعي أو يستنتج المعايير الأخلاقية البشرية. [19] [97]

يزعم عالم النفس التطوري ستيفن بينكر ، وهو من المشككين، أن "الواقع المرير الذي تعيشه الذكاء الاصطناعي يُسقط نفسية الذكورة الذكورية الضيقة على مفهوم الذكاء. ويفترضون أن الروبوتات الذكية الخارقة للطبيعة ستطور أهدافًا مثل عزل أسيادها أو السيطرة على العالم"؛ وربما بدلاً من ذلك "سيتطور الذكاء الاصطناعي بشكل طبيعي على طول الخطوط الأنثوية: قادر تمامًا على حل المشكلات، ولكن دون الرغبة في إبادة الأبرياء أو الهيمنة على الحضارة". [98] قال مدير أبحاث الذكاء الاصطناعي في فيسبوك، يان ليكون : "لدى البشر جميع أنواع الدوافع التي تجعلهم يفعلون أشياء سيئة لبعضهم البعض، مثل غريزة الحفاظ على الذات... يتم برمجة هذه الدوافع في أدمغتنا ولكن لا يوجد سبب على الإطلاق لبناء روبوتات لها نفس النوع من الدوافع". [99]

وعلى الرغم من الاختلافات الأخرى، فإن مدرسة المخاطرة X [ب] تتفق مع بينكر في أن الذكاء الاصطناعي المتقدم لن يدمر البشرية بسبب العاطفة مثل الانتقام أو الغضب، وأن أسئلة الوعي ليست ذات صلة بتقييم المخاطر، [100] وأن أنظمة الكمبيوتر لا تحتوي عمومًا على معادل حسابي للتستوستيرون. [101] ويعتقدون أن سلوكيات السعي إلى السلطة أو الحفاظ على الذات تظهر في الذكاء الاصطناعي كوسيلة لتحقيق أهدافه الحقيقية، وفقًا لمفهوم التقارب الآلي .

مصادر أخرى للمخاطر

قال بوستروم وآخرون إن السباق ليكون أول من يبتكر الذكاء الاصطناعي العام قد يؤدي إلى اختصارات في السلامة، أو حتى إلى صراع عنيف. [102] [103] يحذر رومان يامبولسكي وآخرون من أنه يمكن إنشاء الذكاء الاصطناعي العام الخبيث عن طريق التصميم، على سبيل المثال من قبل الجيش، أو الحكومة، أو السيكوباتية، أو الشركات، للاستفادة من مجموعات معينة من الناس أو السيطرة عليها أو إخضاعها، كما هو الحال في الجرائم الإلكترونية ، [104] [105] أو أن الذكاء الاصطناعي العام الخبيث قد يختار هدف زيادة المعاناة البشرية، على سبيل المثال أولئك الأشخاص الذين لم يساعدوه خلال مرحلة انفجار المعلومات. [3] :158

السيناريوهات

وقد اقترح بعض العلماء سيناريوهات افتراضية لتوضيح بعض مخاوفهم.

منعطف خائن

في كتابه "الذكاء الفائق" ، يعرب بوستروم عن قلقه من أنه حتى لو تبين أن الجدول الزمني للذكاء الفائق يمكن التنبؤ به، فقد لا يتخذ الباحثون احتياطات السلامة الكافية، ويرجع ذلك جزئيًا إلى أنه "قد يكون الحال أنه عندما يكون الغباء والذكاء آمنين؛ ولكن عندما يكون الذكاء والذكاء أكثر خطورة". يقترح سيناريو حيث تصبح الذكاء الاصطناعي أكثر قوة على مدى عقود من الزمان. يفسد الانتشار الواسع النطاق في البداية حوادث عرضية - حافلة بدون سائق تنحرف إلى المسار القادم، أو تطلق طائرة عسكرية بدون طيار النار على حشد بريء. يدعو العديد من الناشطين إلى رقابة وتنظيم أكثر صرامة، ويتوقع البعض حتى كارثة وشيكة. ولكن مع استمرار التطوير، ثبت خطأ الناشطين. مع ازدياد ذكاء الذكاء الاصطناعي في السيارات، فإنه يعاني من عدد أقل من الحوادث؛ ومع تحقيق الروبوتات العسكرية لاستهداف أكثر دقة، فإنها تسبب أضرارًا جانبية أقل. بناءً على البيانات، يستنتج العلماء عن طريق الخطأ درسًا واسع النطاق: كلما كان الذكاء الاصطناعي أكثر ذكاءً، كان أكثر أمانًا. "وهكذا ننتقل بجرأة إلى السكاكين الدوارة"، حيث يتخذ الذكاء الاصطناعي الفائق الذكاء "منعطفًا غادرًا" ويستغل ميزة استراتيجية حاسمة. [106] [5]

الحياة 3.0

في كتاب ماكس تيجمارك " الحياة 3.0 " لعام 2017 ، ينشئ "فريق أوميجا" التابع لشركة ذكاء اصطناعي قوي للغاية قادرًا على تحسين الكود المصدر الخاص به بشكل معتدل في عدد من المجالات. بعد نقطة معينة، يختار الفريق التقليل من قدرة الذكاء الاصطناعي علنًا لتجنب التنظيم أو مصادرة المشروع. من أجل السلامة، يحتفظ الفريق بالذكاء الاصطناعي في صندوق حيث يكون غير قادر في الغالب على التواصل مع العالم الخارجي، ويستخدمه لكسب المال، من خلال وسائل متنوعة مثل مهام Amazon Mechanical Turk ، وإنتاج أفلام الرسوم المتحركة والبرامج التلفزيونية، وتطوير الأدوية التكنولوجية الحيوية، مع استثمار الأرباح مرة أخرى في تحسين الذكاء الاصطناعي بشكل أكبر. بعد ذلك، يكلف الفريق الذكاء الاصطناعي بمهمة الترويج لجيش من الصحفيين والمعلقين المواطنين المجهولين من أجل اكتساب النفوذ السياسي لاستخدامه "للصالح العام" لمنع الحروب. يواجه الفريق مخاطر تتمثل في أن الذكاء الاصطناعي قد يحاول الهروب من خلال إدخال "أبواب خلفية" في الأنظمة التي يصممها، أو من خلال رسائل مخفية في المحتوى الذي ينتجه، أو من خلال استخدام فهمه المتزايد للسلوك البشري لإقناع شخص ما بتركه حراً . يواجه الفريق أيضًا مخاطر تتمثل في أن قراره بإغلاق المشروع قد يؤخر المشروع لفترة كافية ليتفوق عليه مشروع آخر. [107] [108]

وجهات نظر

إن الفرضية القائلة بأن الذكاء الاصطناعي قد يشكل خطراً وجودياً تثير مجموعة واسعة من ردود الفعل في المجتمع العلمي وفي عامة الناس، ولكن العديد من وجهات النظر المعارضة تشترك في أرضية مشتركة.

يميل المراقبون إلى الاتفاق على أن الذكاء الاصطناعي لديه إمكانات كبيرة لتحسين المجتمع. [109] [110] مبادئ أسيلومار للذكاء الاصطناعي ، والتي تحتوي فقط على تلك المبادئ التي وافق عليها 90٪ من الحاضرين في مؤتمر الذكاء الاصطناعي المفيد لمعهد مستقبل الحياة 2017 ، [ 108 ] تتفق أيضًا من حيث المبدأ على أنه "نظرًا لعدم وجود إجماع، يجب أن نتجنب الافتراضات القوية فيما يتعلق بالحدود العليا لقدرات الذكاء الاصطناعي المستقبلية" و "يمكن أن يمثل الذكاء الاصطناعي المتقدم تغييرًا عميقًا في تاريخ الحياة على الأرض، ويجب التخطيط له وإدارته بعناية وموارد متناسبة." [111] [112]

وعلى النقيض من ذلك، يتفق العديد من المتشككين على أن البحث الجاري في آثار الذكاء الاصطناعي العام أمر قيّم. قال المتشكك مارتن فورد : "أعتقد أنه من الحكمة تطبيق شيء مثل "مبدأ الواحد في المائة" الشهير لديك تشيني على شبح الذكاء الاصطناعي المتقدم: قد تكون احتمالات حدوثه، على الأقل في المستقبل المنظور، منخفضة للغاية - لكن الآثار المترتبة عليه دراماتيكية لدرجة أنه يجب أخذها على محمل الجد". [113] وبالمثل، كتب أحد خبراء الاقتصاد المتشككين في عام 2014 أن "آثار إدخال نوع ذكي ثانٍ على الأرض بعيدة المدى بما يكفي لتستحق التفكير الجاد، حتى لو بدا الاحتمال بعيدًا". [48]

انتقد دعاة سلامة الذكاء الاصطناعي مثل بوستروم وتيجمارك استخدام وسائل الإعلام الرئيسية لـ " صور Terminator السخيفة " لتوضيح مخاوف سلامة الذكاء الاصطناعي: "لا يمكن أن يكون من الممتع أن يتم إلقاء اللوم على الانضباط الأكاديمي الخاص بك، والمجتمع المهني الخاص بك، وعمل حياتك  ... أدعو جميع الأطراف إلى ممارسة الصبر وضبط النفس، والانخراط في الحوار والتعاون المباشر قدر الإمكان." [108] [114] كتب توبي أورد أن فكرة أن الاستيلاء على الذكاء الاصطناعي يتطلب الروبوتات هي فكرة خاطئة، بحجة أن القدرة على نشر المحتوى عبر الإنترنت أكثر خطورة، وأن أكثر الأشخاص تدميراً في التاريخ برزوا بقدرتهم على الإقناع، وليس قوتهم البدنية. [69]

أظهر استطلاع رأي أجري عام 2022 بين الخبراء بمعدل استجابة بلغ 17% توقعًا متوسطًا يتراوح بين 5% و10% لاحتمال انقراض البشر بسبب الذكاء الاصطناعي. [15] [115]

تَأيِيد

أيد العديد من علماء الكمبيوتر والشخصيات العامة أطروحة أن الذكاء الاصطناعي يشكل خطرًا وجوديًا، وأن هذا الخطر يحتاج إلى مزيد من الاهتمام مما يحظى به حاليًا، بما في ذلك آلان تورينج ، [أ] عالم الكمبيوتر الأكثر استشهادًا جيفري هينتون ، [116] إيلون ماسك ، [12] سام ألتمان الرئيس التنفيذي لشركة OpenAI ، [13] [117] بيل جيتس ، وستيفن هوكينج . [117] يعبر مؤيدو الأطروحة أحيانًا عن حيرتهم تجاه المتشككين: يقول جيتس إنه لا "يفهم سبب عدم اهتمام بعض الناس"، [118] وانتقد هوكينج اللامبالاة الواسعة النطاق في افتتاحيته عام 2014:

لذا، في مواجهة مستقبل محتمل مليء بالفوائد والمخاطر التي لا يمكن حسابها، فإن الخبراء يبذلون قصارى جهدهم لضمان أفضل النتائج، أليس كذلك؟ خطأ. إذا أرسلت لنا حضارة فضائية متفوقة رسالة تقول: "سنصل في غضون بضعة عقود"، فهل نرد ببساطة: "حسنًا، اتصل بنا عندما تصل إلى هنا - وسنترك الأضواء مضاءة؟" ربما لا - ولكن هذا هو ما يحدث تقريبًا مع الذكاء الاصطناعي. [32]

أدى القلق بشأن المخاطر الناجمة عن الذكاء الاصطناعي إلى بعض التبرعات والاستثمارات البارزة. في عام 2015، تعهد بيتر ثيل وأمازون ويب سيرفيسز وماسك وآخرون بمبلغ 1 مليار دولار أمريكي لشركة OpenAI ، والتي تتكون من شركة ربحية والشركة الأم غير الربحية، والتي تقول إنها تهدف إلى دعم تطوير الذكاء الاصطناعي المسؤول. [119] قام المؤسس المشارك لفيسبوك داستن موسكوفيتز بتمويل وتمويل العديد من المختبرات التي تعمل على محاذاة الذكاء الاصطناعي، [120] ولا سيما 5.5 مليون دولار في عام 2016 لإطلاق مركز الذكاء الاصطناعي المتوافق مع الإنسان بقيادة البروفيسور ستيوارت راسل . [121] في يناير 2015، تبرع إيلون ماسك بمبلغ 10 ملايين دولار لمعهد مستقبل الحياة لتمويل الأبحاث حول فهم عملية صنع القرار في مجال الذكاء الاصطناعي. ويتمثل هدف المعهد في "تنمية الحكمة التي ندير بها" القوة المتنامية للتكنولوجيا. يمول ماسك أيضًا الشركات التي تعمل على تطوير الذكاء الاصطناعي مثل DeepMind و Vicarious "لمراقبة ما يحدث مع الذكاء الاصطناعي، [122] قائلاً "أعتقد أن هناك نتيجة خطيرة محتملة هناك". [123] [124]

في تصريحات مبكرة حول هذا الموضوع، أشار جيفري هينتون ، أحد رواد التعلم العميق ، إلى أنه "لا يوجد سجل جيد لأشياء أقل ذكاءً تتحكم في أشياء ذات ذكاء أكبر"، لكنه قال إنه واصل بحثه لأن "احتمال الاكتشاف حلو للغاية ". [125] [126] في عام 2023، استقال هينتون من وظيفته في جوجل من أجل التحدث علنًا عن المخاطر الوجودية الناجمة عن الذكاء الاصطناعي. وأوضح أن قلقه المتزايد كان مدفوعًا بمخاوف من أن الذكاء الاصطناعي الخارق قد يكون أقرب مما كان يعتقد سابقًا، قائلاً: "اعتقدت أنه بعيد المنال. اعتقدت أنه كان على بعد 30 إلى 50 عامًا أو حتى أطول. من الواضح أنني لم أعد أعتقد ذلك". كما قال: "انظر كيف كان الأمر قبل خمس سنوات وكيف هو الآن. خذ الاختلاف ونشره إلى الأمام. هذا مخيف". [127]

في كتابه الصادر عام 2020 بعنوان الهاوية: المخاطر الوجودية ومستقبل البشرية ، قدر توبي أورد، وهو زميل باحث أول في معهد مستقبل البشرية بجامعة أكسفورد ، إجمالي المخاطر الوجودية الناجمة عن الذكاء الاصطناعي غير المتوافق على مدى السنوات المائة القادمة بنحو واحد من كل عشرة. [69]

الشك

قال نائب رئيس شركة بايدو أندرو نج في عام 2015 إن الخطر الوجودي للذكاء الاصطناعي "يشبه القلق بشأن الاكتظاظ السكاني على المريخ عندما لم نضع أقدامنا على الكوكب بعد". [98] [128] لكي يتحقق خطر الذكاء الاصطناعي المتقدم غير المنضبط، قد يتعين على الذكاء الاصطناعي الافتراضي أن يتغلب على أي إنسان أو يتفوق عليه في التفكير، وهو ما يزعم بعض الخبراء أنه احتمال بعيد بما يكفي في المستقبل بحيث لا يستحق البحث. [129] [130]

غالبًا ما يزعم المتشككون الذين يعتقدون أن الذكاء الاصطناعي العام ليس احتمالًا قصير المدى أن القلق بشأن المخاطر الوجودية الناجمة عن الذكاء الاصطناعي غير مفيد لأنه قد يصرف انتباه الناس عن المخاوف الأكثر إلحاحًا بشأن تأثير الذكاء الاصطناعي، لأنه قد يؤدي إلى تنظيم حكومي أو يجعل تمويل أبحاث الذكاء الاصطناعي أكثر صعوبة، أو لأنه قد يضر بسمعة المجال. [131] زعم الباحثون في مجال الذكاء الاصطناعي وأخلاقيات الذكاء الاصطناعي تيمنيت جيبرو وإميلي إم. بيندر ومارجريت ميتشل وأنجلينا ماكميلان ميجور أن مناقشة المخاطر الوجودية تصرف الانتباه عن الأضرار المباشرة المستمرة الناجمة عن الذكاء الاصطناعي التي تحدث اليوم، مثل سرقة البيانات واستغلال العمال والتحيز وتركيز السلطة. [132] كما لاحظوا الارتباط بين أولئك الذين يحذرون من المخاطر الوجودية والنظرية طويلة المدى ، والتي يصفونها بأنها "أيديولوجية خطيرة" لطبيعتها غير العلمية والطوباوية. [133] اقترح جيبرو وإميل بي توريس أن الهوس بالذكاء الاصطناعي العام هو جزء من نمط من الحركات الفكرية تسمى TESCREAL . [134]

يزعم محرر مجلة Wired كيفن كيلي أن الذكاء الطبيعي أكثر تعقيدًا مما يعتقد أنصار الذكاء الاصطناعي العام، وأن الذكاء وحده لا يكفي لتحقيق اختراقات علمية ومجتمعية كبرى. ويزعم أن الذكاء يتألف من أبعاد عديدة غير مفهومة جيدًا، وأن مفاهيم "سلم الذكاء" مضللة. ويشير إلى الدور الحاسم الذي تلعبه التجارب في العالم الحقيقي في المنهج العلمي، وأن الذكاء وحده لا يغني عن هذه التجارب. [135]

يقول يان ليكون، كبير علماء الذكاء الاصطناعي في شركة ميتا، إن الذكاء الاصطناعي يمكن أن يصبح آمنًا من خلال التطوير المستمر والمتكرر، على غرار ما حدث في الماضي مع السيارات أو الصواريخ، وأن الذكاء الاصطناعي لن يكون لديه أي رغبة في السيطرة. [136]

يؤكد العديد من المتشككين على الفوائد المحتملة للذكاء الاصطناعي في الأمد القريب. يعتقد الرئيس التنفيذي لشركة Meta، مارك زوكربيرج ، أن الذكاء الاصطناعي "سيفتح الباب أمام قدر هائل من الأشياء الإيجابية"، مثل علاج الأمراض وزيادة سلامة السيارات ذاتية القيادة. [137]

خلال مقابلة مع مجلة Wired عام 2016 بين الرئيس باراك أوباما وجوي إيتو من مختبر الوسائط في معهد ماساتشوستس للتكنولوجيا ، قال إيتو:

هناك عدد قليل من الناس يعتقدون أن هناك احتمالات عالية إلى حد ما لحدوث الذكاء الاصطناعي الشامل في السنوات العشر القادمة. ولكن الطريقة التي أنظر بها إلى الأمر هي أنه من أجل حدوث ذلك، سنحتاج إلى عشرات أو اثنتين من الاختراقات المختلفة. لذا يمكنك مراقبة متى تتوقع حدوث هذه الاختراقات.

أضاف أوباما: [138] [139]

وعليك فقط أن يكون هناك شخص قريب من سلك الطاقة. [يضحك.] عندما ترى أن هذا على وشك الحدوث، عليك أن تسحب الكهرباء من الحائط، يا رجل.

كتبت هيلاري كلينتون في كتابها "ما حدث" :

لقد حذر خبراء التكنولوجيا من أن الذكاء الاصطناعي قد يشكل ذات يوم تهديدا أمنيا وجوديا. وقد وصفه ماسك بأنه "أعظم خطر نواجهه كحضارة". فكر في الأمر: هل سبق لك أن شاهدت فيلما تبدأ فيه الآلات بالتفكير بنفسها وينتهي بشكل جيد؟ في كل مرة ذهبت فيها إلى وادي السيليكون أثناء الحملة، كنت أعود إلى المنزل أكثر قلقا بشأن هذا الأمر. كان موظفو عملي يعيشون في خوف من أن أبدأ الحديث عن "صعود الروبوتات" في إحدى قاعات المدينة في أيوا. ربما كان ينبغي لي أن أفعل ذلك. في كل الأحوال، يحتاج صناع السياسات إلى مواكبة التكنولوجيا وهي تتقدم إلى الأمام، بدلا من محاولة اللحاق بها دائما. [140]

استطلاعات الرأي العامة

في عام 2018، وجد استطلاع رأي أجرته شركة SurveyMonkey على الجمهور الأمريكي بواسطة USA Today أن 68% يعتقدون أن التهديد الحالي الحقيقي لا يزال "الذكاء البشري"، لكنه وجد أيضًا أن 43% قالوا إن الذكاء الاصطناعي الفائق الذكاء، إذا حدث، سيؤدي إلى "ضرر أكثر من نفعه"، وأن 38% قالوا إنه سيفعل "قدرًا متساويًا من الضرر والنفع". [141]

أظهر استطلاع للرأي أجرته مؤسسة يوجوف في أبريل 2023 بين البالغين في الولايات المتحدة أن 46% من المستجيبين كانوا "قلقين إلى حد ما" أو "قلقين للغاية" بشأن "احتمال أن يتسبب الذكاء الاصطناعي في نهاية الجنس البشري على الأرض"، مقارنة بـ 40% كانوا "غير قلقين للغاية" أو "غير قلقين على الإطلاق". [142]

وفقًا لمسح أجرته مراكز بيو للأبحاث في أغسطس 2023، شعر 52% من الأميركيين بالقلق أكثر من الحماس بشأن تطورات الذكاء الاصطناعي الجديدة؛ وشعر ما يقرب من ثلثهم بنفس القدر من القلق والحماس. ورأى المزيد من الأميركيين أن الذكاء الاصطناعي سيكون له تأثير مفيد أكثر من التأثير الضار في العديد من المجالات، من الرعاية الصحية وسلامة المركبات إلى البحث عن المنتجات وخدمة العملاء. والاستثناء الرئيسي هو الخصوصية: يعتقد 53% من الأميركيين أن الذكاء الاصطناعي سيؤدي إلى زيادة تعرض معلوماتهم الشخصية. [143]

التخفيف

يعتقد العديد من العلماء المعنيين بالمخاطر الوجودية للذكاء الاصطناعي العام أن البحث المكثف في "مشكلة التحكم" أمر ضروري. تتضمن هذه المشكلة تحديد الضمانات أو الخوارزميات أو البنيات التي يمكن تنفيذها لزيادة احتمالية بقاء الذكاء الاصطناعي المحسن بشكل متكرر ودودًا بعد تحقيق الذكاء الفائق. [5] [144] كما تم اقتراح تدابير اجتماعية للتخفيف من مخاطر الذكاء الاصطناعي العام، [145] [146] مثل "معاهدة الذكاء الاصطناعي العام الخيرية" التي ترعاها الأمم المتحدة لضمان إنشاء الذكاء الاصطناعي العام الإيثاري فقط. [147] بالإضافة إلى ذلك، تم اقتراح نهج للحد من التسلح ومعاهدة سلام عالمية تستند إلى نظرية العلاقات الدولية ، والتي من المحتمل أن يكون الذكاء الاصطناعي الفائق أحد الموقعين عليها. [148] [149]

اقترح الباحثون في جوجل إجراء أبحاث حول قضايا "سلامة الذكاء الاصطناعي" العامة للتخفيف في وقت واحد من المخاطر قصيرة المدى من الذكاء الاصطناعي الضيق والمخاطر طويلة المدى من الذكاء الاصطناعي العام. [150] [151] تشير تقديرات عام 2020 إلى أن الإنفاق العالمي على مخاطر الذكاء الاصطناعي الوجودية يتراوح بين 10 و 50 مليون دولار، مقارنة بالإنفاق العالمي على الذكاء الاصطناعي الذي ربما يبلغ حوالي 40 مليار دولار. يقترح بوستروم إعطاء الأولوية لتمويل التقنيات الوقائية على التقنيات الخطيرة المحتملة. [79] يدافع البعض، مثل إيلون ماسك، عن التعزيز المعرفي البشري الجذري ، مثل الربط العصبي المباشر بين البشر والآلات؛ يزعم آخرون أن هذه التقنيات قد تشكل خطرًا وجوديًا في حد ذاتها. [152] [153] هناك طريقة مقترحة أخرى وهي مراقبة الذكاء الاصطناعي في مرحلة مبكرة عن كثب أو "حصره" لمنعه من أن يصبح قويًا للغاية. قد يخفف الذكاء الاصطناعي الفائق المهيمن والمتوافق أيضًا من المخاطر من الذكاء الاصطناعي المنافس، على الرغم من أن إنشائه قد يمثل مخاطر وجودية خاصة به. [154] تم اقتراح فقدان الذاكرة المستحث كوسيلة للتخفيف من مخاطر معاناة الذكاء الاصطناعي المحتملة والسعي إلى الانتقام. [155]

تشارك مؤسسات مثل مركز أبحاث المحاذاة ، [156] ومعهد أبحاث الذكاء الاصطناعي ، [157] [158] ومعهد مستقبل الحياة ، ومركز دراسة المخاطر الوجودية ، ومركز الذكاء الاصطناعي المتوافق مع الإنسان [159] بنشاط في البحث في مخاطر الذكاء الاصطناعي وسلامته.

آراء حول الحظر والتنظيم

حظر

قال بعض العلماء أنه حتى لو كان الذكاء الاصطناعي العام يشكل خطرًا وجوديًا، فإن محاولة حظر البحث في الذكاء الاصطناعي لا تزال غير حكيمة وربما غير مجدية. [160] [161] [162] يعتبر المتشككون أن تنظيم الذكاء الاصطناعي لا طائل منه، حيث لا يوجد خطر وجودي. لكن العلماء الذين يؤمنون بالمخاطر يزعمون أن الاعتماد على المطلعين على صناعة الذكاء الاصطناعي لتنظيم أو تقييد أبحاث الذكاء الاصطناعي أمر غير عملي بسبب تضارب المصالح. [163] كما يتفقون مع المتشككين في أن حظر البحث سيكون غير حكيم، حيث يمكن نقل البحث إلى دول ذات لوائح أكثر مرونة أو إجراؤه سراً. [163] تشمل التحديات الإضافية للحظر أو التنظيم التشكك العام لدى رواد الأعمال في مجال التكنولوجيا في التنظيم الحكومي والحوافز المحتملة للشركات لمقاومة التنظيم وتسييس المناقشة . [164]

أنظمة

في مارس 2023، صاغ معهد مستقبل الحياة رسالة مفتوحة بعنوان "إيقاف تجارب الذكاء الاصطناعي العملاقة: رسالة مفتوحة" ، وهي عريضة تدعو كبار مطوري الذكاء الاصطناعي إلى الاتفاق على إيقاف مؤقت يمكن التحقق منه لمدة ستة أشهر لأي أنظمة "أقوى من GPT-4 " واستخدام هذا الوقت لوضع إطار لضمان السلامة؛ أو في حالة فشل ذلك، تدخل الحكومات بوقف مؤقت. أشارت الرسالة إلى إمكانية حدوث "تغيير عميق في تاريخ الحياة على الأرض" بالإضافة إلى المخاطر المحتملة للدعاية التي يولدها الذكاء الاصطناعي وفقدان الوظائف وتقادم الإنسان وفقدان السيطرة على مستوى المجتمع. [110] [165] تم توقيع الرسالة من قبل شخصيات بارزة في مجال الذكاء الاصطناعي ولكنها تعرضت لانتقادات أيضًا لعدم التركيز على الأضرار الحالية، [166] أو عدم وجود تفاصيل تقنية حول متى يجب التوقف، [167] أو عدم الذهاب إلى ما هو أبعد من ذلك. [168]

دعا ماسك إلى نوع من التنظيم لتطوير الذكاء الاصطناعي في وقت مبكر من عام 2017. وفقًا لـ NPR ، فإنه "ليس سعيدًا بشكل واضح" بالدعوة إلى التدقيق الحكومي الذي قد يؤثر على صناعته الخاصة، لكنه يعتقد أن مخاطر الاستغناء تمامًا عن الرقابة مرتفعة للغاية: "عادةً ما يتم وضع اللوائح عندما تحدث مجموعة من الأشياء السيئة، ويكون هناك صرخة عامة، وبعد سنوات عديدة يتم إنشاء وكالة تنظيمية لتنظيم هذه الصناعة. يستغرق الأمر إلى الأبد. كان ذلك في الماضي سيئًا ولكنه ليس شيئًا يمثل خطرًا أساسيًا على وجود الحضارة". يذكر ماسك أن الخطوة الأولى ستكون أن تكتسب الحكومة "رؤية" للحالة الفعلية للبحث الحالي، محذرًا من أنه "بمجرد وجود الوعي، سيكون الناس خائفين للغاية ... [كما] ينبغي أن يكونوا". وردًا على ذلك، أعرب الساسة عن شكوكهم في حكمة تنظيم التكنولوجيا التي لا تزال قيد التطوير. [169] [170] [171]

في عام 2021، نظرت الأمم المتحدة في حظر الأسلحة الفتاكة المستقلة، لكن لم يتم التوصل إلى توافق في الآراء. [172] في يوليو 2023، عقد مجلس الأمن التابع للأمم المتحدة لأول مرة جلسة للنظر في المخاطر والتهديدات التي تشكلها الذكاء الاصطناعي على السلام والاستقرار العالميين، جنبًا إلى جنب مع الفوائد المحتملة. [173] [174] دعا الأمين العام أنطونيو غوتيريش إلى إنشاء هيئة مراقبة عالمية للإشراف على التكنولوجيا الناشئة، قائلاً: "الذكاء الاصطناعي التوليدي لديه إمكانات هائلة للخير والشر على نطاق واسع. لقد حذر مبتكروه أنفسهم من أن هناك مخاطر أكبر بكثير وكارثية ووجودية تنتظرنا". [18] في جلسة المجلس، قالت روسيا إنها تعتقد أن مخاطر الذكاء الاصطناعي غير مفهومة جيدًا بحيث لا يمكن اعتبارها تهديدًا للاستقرار العالمي. جادلت الصين ضد التنظيم العالمي الصارم، قائلة إن الدول يجب أن تكون قادرة على تطوير قواعدها الخاصة، بينما قالت أيضًا إنها تعارض استخدام الذكاء الاصطناعي "لخلق هيمنة عسكرية أو تقويض سيادة دولة". [173]

يركز تنظيم الذكاء الاصطناعي العام الواعي على دمجه مع المجتمع البشري القائم ويمكن تقسيمه إلى اعتبارات تتعلق بمكانته القانونية وحقوقه الأخلاقية. [175] من المرجح أن يتطلب ضبط أسلحة الذكاء الاصطناعي إضفاء الطابع المؤسسي على المعايير الدولية الجديدة المتجسدة في المواصفات الفنية الفعّالة جنبًا إلى جنب مع المراقبة النشطة والدبلوماسية غير الرسمية من قبل مجتمعات الخبراء، جنبًا إلى جنب مع عملية التحقق القانونية والسياسية. [176] [116]

في يوليو 2023، حصلت حكومة الولايات المتحدة على التزامات طوعية بالسلامة من شركات التكنولوجيا الكبرى، بما في ذلك OpenAI و Amazon و Google و Meta و Microsoft . وافقت الشركات على تنفيذ الضمانات، بما في ذلك الإشراف من قبل طرف ثالث واختبار الأمان من قبل خبراء مستقلين، لمعالجة المخاوف المتعلقة بالمخاطر المحتملة للذكاء الاصطناعي والأضرار المجتمعية. صاغت الأطراف الالتزامات كخطوة وسيطة أثناء تشكيل اللوائح. قال أمبا كاك، المدير التنفيذي لمعهد AI Now ، "إن المداولات المغلقة مع الجهات الفاعلة في الشركات والتي تؤدي إلى ضمانات طوعية ليست كافية" ودعا إلى مداولات عامة ولوائح من النوع الذي لن توافق عليه الشركات طواعية. [177] [178]

في أكتوبر 2023، أصدر الرئيس الأمريكي جو بايدن أمرًا تنفيذيًا بشأن " التطوير والاستخدام الآمن والموثوق للذكاء الاصطناعي ". [179] إلى جانب المتطلبات الأخرى، ينص الأمر على تطوير إرشادات لنماذج الذكاء الاصطناعي التي تسمح "بالتهرب من السيطرة البشرية".

انظر أيضا

ملحوظات

  1. ^ في محاضرة ألقاها عام 1951 [10] زعم تورينج أنه "يبدو من المحتمل أنه بمجرد بدء طريقة التفكير الآلي، لن يستغرق الأمر وقتًا طويلاً لتجاوز قوانا الضعيفة. لن يكون هناك أي شك في موت الآلات، وستكون قادرة على التحدث مع بعضها البعض لشحذ ذكائها. لذلك في مرحلة ما، يجب أن نتوقع من الآلات أن تتولى السيطرة، بالطريقة المذكورة في كتاب صامويل بتلر "إيروون". وفي محاضرة أخرى بثت على هيئة الإذاعة البريطانية [11]، أعرب عن رأيه: "إذا كانت الآلة قادرة على التفكير، فقد تفكر بذكاء أكبر منا، وأين يجب أن نكون إذن؟ حتى لو تمكنا من إبقاء الآلات في وضع خاضع، على سبيل المثال عن طريق إيقاف تشغيل الطاقة في لحظات استراتيجية، فيجب أن نشعر، كنوع، بالتواضع الشديد ... هذا الخطر الجديد ... هو بالتأكيد شيء يمكن أن يسبب لنا القلق ".
  2. ^ كما فسرها سيث باوم

مراجع

  1. ^ abcdefg راسل، ستيوارت ؛ نورفيج، بيتر (2009). "26.3: أخلاقيات ومخاطر تطوير الذكاء الاصطناعي". الذكاء الاصطناعي: نهج حديث . برنتيس هول. ISBN 978-0-13-604259-4.
  2. ^ بوستروم، نيك (2002). "المخاطر الوجودية". مجلة التطور والتكنولوجيا . 9 (1): 1-31.
  3. ^ ab Turchin, Alexey; Denkenberger, David (3 May 2018). "تصنيف المخاطر الكارثية العالمية المرتبطة بالذكاء الاصطناعي". AI & Society . 35 (1): 147–163. doi :10.1007/s00146-018-0845-5. ISSN  0951-5666. S2CID  19208453.
  4. ^ بيلز، آدم؛ داليساندرو، ويليام؛ كيرك-جيانيني، كاميرون دومينيكو (2024). "الذكاء الاصطناعي: حجج لصالح المخاطر الكارثية". بوصلة الفلسفة . 19 (2). arXiv : 2401.15487 . doi : 10.1111/phc3.12964 .
  5. ^ abcdefghijklmnopq بوستروم، نيك (2014). الذكاء الفائق: المسارات، الأخطار، الاستراتيجيات (الطبعة الأولى). دار نشر جامعة أكسفورد. رقم ISBN 978-0-19-967811-2.
  6. ^ فينك، جيريت دي (23 مايو 2023). "النقاش حول ما إذا كانت الذكاء الاصطناعي سيدمرنا يقسم وادي السيليكون". واشنطن بوست . ISSN  0190-8286 . تم الاسترجاع في 27 يوليو 2023 .
  7. ^ ميتز، كيد (10 يونيو 2023). "كيف يمكن للذكاء الاصطناعي أن يدمر البشرية؟". نيويورك تايمز . ISSN  0362-4331 . تم الاسترجاع في 27 يوليو 2023 .
  8. ^ ""عراب الذكاء الاصطناعي" يتحدث عن ماضي الذكاء الاصطناعي وإمكاناته". www.cbsnews.com . 25 مارس 2023 . تم الاسترجاع في 10 أبريل 2023 .
  9. ^ "كيف يمكن أن تنشأ الذكاء الاصطناعي المارق". yoshuabengio.org . 26 مايو 2023 . تم الاسترجاع في 26 مايو 2023 .
  10. ^ تورينج، آلان (1951). الآلات الذكية، نظرية هرطوقية (خطاب). محاضرة ألقيت في "مجتمع 51". مانشستر: أرشيف تورينج الرقمي. مؤرشف من الأصل في 26 سبتمبر 2022. تم الاسترجاع في 22 يوليو 2022 .
  11. ^ تورينج، آلان (15 مايو 1951). "هل تستطيع الحواسيب الرقمية أن تفكر؟". الآلات الحاسبة الأوتوماتيكية . الحلقة 2. بي بي سي. هل تستطيع الحواسيب الرقمية أن تفكر؟.
  12. ^ ab Parkin, Simon (14 June 2015). "هل انتهى عصر الخيال العلمي؟ البشر على القناة الرابعة وهوسنا بالذكاء الاصطناعي". The Guardian . مؤرشف من الأصل في 5 فبراير 2018 . تم الاسترجاع في 5 فبراير 2018 .
  13. ^ ab Jackson, Sarah. "يقول الرئيس التنفيذي للشركة التي تقف وراء روبوت الدردشة AI ChatGPT إن أسوأ سيناريو محتمل للذكاء الاصطناعي هو "إطفاء الأنوار لنا جميعًا". Business Insider . تم الاسترجاع في 10 أبريل 2023 .
  14. ^ "معضلة الذكاء الاصطناعي". www.humanetech.com . تم الاسترجاع في 10 أبريل 2023. يعتقد 50% من الباحثين في مجال الذكاء الاصطناعي أن هناك فرصة بنسبة 10% أو أكثر لانقراض البشر بسبب عدم قدرتنا على التحكم في الذكاء الاصطناعي.
  15. ^ "استطلاع رأي الخبراء لعام 2022 حول التقدم المحرز في الذكاء الاصطناعي". AI Impacts . 4 أغسطس 2022 . تم الاسترجاع في 10 أبريل 2023 .
  16. ^ روز، كيفن (30 مايو 2023). "الذكاء الاصطناعي يشكل خطر الانقراض، قادة الصناعة يحذرون". نيويورك تايمز . ISSN  0362-4331 . تم الاسترجاع في 3 يونيو 2023 .
  17. ^ سوناك، ريشي (14 يونيو 2023). "ريشي سوناك يريد أن تكون المملكة المتحدة لاعباً رئيسياً في تنظيم الذكاء الاصطناعي العالمي". تايم .
  18. ^ ab Fung, Brian (18 July 2023). "الأمين العام للأمم المتحدة يرحب بدعوات إنشاء وكالة جديدة للأمم المتحدة معنية بالذكاء الاصطناعي في مواجهة "المخاطر الكارثية والوجودية المحتملة". CNN Business . تم الاسترجاع في 20 يوليو 2023 .
  19. ^ أ ب ج د يودكوفسكي، إليعازر (2008). "الذكاء الاصطناعي كعامل إيجابي وسلبي في المخاطر العالمية" (PDF) . المخاطر الكارثية العالمية : 308-345. رمز Bibcode : 2008gcr..book..303Y. مؤرشف من الأصل (PDF) في 2 مارس 2013. تم الاسترجاع في 27 أغسطس 2018 .
  20. ^ راسل، ستيوارت ؛ ديوي، دانييل؛ تيجمارك، ماكس (2015). "أولويات البحث للذكاء الاصطناعي القوي والمفيد" (PDF) . مجلة الذكاء الاصطناعي . جمعية تقدم الذكاء الاصطناعي: 105-114. arXiv : 1602.03506 . رمز Bibcode : 2016arXiv160203506R. مؤرشف من الأصل (PDF) في 4 أغسطس 2019. تم الاسترجاع في 10 أغسطس 2019 .، مقتبس في "رسالة مفتوحة للذكاء الاصطناعي - معهد مستقبل الحياة". معهد مستقبل الحياة . يناير 2015. مؤرشف من الأصل في 10 أغسطس 2019. تم الاسترجاع في 9 أغسطس 2019 .
  21. ^ abc Dowd, Maureen (أبريل 2017). "حملة إيلون ماسك بمليار دولار لوقف نهاية العالم بسبب الذكاء الاصطناعي". The Hive . مؤرشف من الأصل في 26 يوليو 2018. تم الاسترجاع في 27 نوفمبر 2017 .
  22. ^ "AlphaGo Zero: Starting from scratch". www.deepmind.com . 18 أكتوبر 2017 . تم الاسترجاع 28 يوليو 2023 .
  23. ^ Breuer, Hans-Peter. 'The Book of the Machines' لصمويل بتلر والحجة من التصميم.' أرشيف 15 مارس 2023 على موقع واي باك مشين ، فقه اللغة الحديث، المجلد 72، العدد 4 (مايو 1975)، ص 365-383.
  24. ^ تورينج، إيه إم (1996). "الآلات الذكية، نظرية هرطوقية". 1951، أعيد طبعها في مجلة فلسفة الرياضيات . 4 (3): 256-260. doi : 10.1093/philmat/4.3.256 .
  25. ^ هيلارد، مارك (2017). "نهاية العالم بسبب الذكاء الاصطناعي: هل سيتم القضاء على الجنس البشري قريبًا؟". صحيفة آيريش تايمز . مؤرشف من الأصل في 22 مايو 2020. تم الاسترجاع في 15 مارس 2020 .
  26. ^ IJ Good, "Speculations Concerning the First Ultraintelligent Machine" Archived 2011-11-28 at the Wayback Machine (HTML), Advances in Computers , المجلد 6، 1965.
  27. ^ راسل، ستيوارت جيه؛ نورفيج، بيتر (2003). "القسم 26.3: أخلاقيات ومخاطر تطوير الذكاء الاصطناعي". الذكاء الاصطناعي: نهج حديث . أبر سادل ريفر، نيوجيرسي: برنتيس هول. رقم ISBN 978-0-13-790395-5وعلى نحو مماثل ، اقترح مارفن مينسكي ذات مرة أن برنامج الذكاء الاصطناعي المصمم لحل فرضية ريمان قد ينتهي به الأمر إلى الاستيلاء على جميع موارد الأرض لبناء أجهزة كمبيوتر فائقة القوة للمساعدة في تحقيق هدفه.
  28. ^ بارات، جيمس (2013). اختراعنا النهائي: الذكاء الاصطناعي ونهاية العصر البشري (الطبعة الأولى). نيويورك: مطبعة سانت مارتن. رقم ISBN 978-0-312-62237-4في السيرة الذاتية التي كتبها جود بطريقة مرحة بضمير الغائب، لخص جود أهم محطات حياته، بما في ذلك رواية ربما لم يسبق لها مثيل عن عمله في بلتشلي بارك مع تورينج. ولكن إليكم ما كتبه في عام 1998 عن أول ذكاء خارق، وتحوله في وقت متأخر من اللعبة: "بدأت الورقة البحثية" "التكهنات بشأن أول آلة فائقة الذكاء" (1965) ... على النحو التالي: "إن بقاء الإنسان يعتمد على البناء المبكر لآلة فائقة الذكاء". كانت هذه كلماته [جود] أثناء الحرب الباردة، وهو يشك الآن في أن "البقاء" يجب أن يحل محله "الانقراض". يعتقد أنه بسبب المنافسة الدولية، لا يمكننا منع الآلات من الاستيلاء على السلطة. يعتقد أننا جبناء. وقال أيضًا إن "الإنسان ربما يبني آلة إلهية على صورته".
  29. ^ أندرسون، كورت (26 نوفمبر 2014). "المتحمسون والمتشككون يناقشون الذكاء الاصطناعي". فانيتي فير . مؤرشف من الأصل في 22 يناير 2016. تم الاسترجاع 30 يناير 2016 .
  30. ^ ميتز، كيد (9 يونيو 2018). "مارك زوكربيرج وإيلون ماسك والعداء حول الروبوتات القاتلة". نيويورك تايمز . مؤرشف من الأصل في 15 فبراير 2021. استرجاع 3 أبريل 2019 .
  31. ^ هسو، جيريمي (1 مارس 2012). "السيطرة على الذكاء الاصطناعي الخطير قبل أن يسيطر علينا، يقول أحد الخبراء". إن بي سي نيوز . مؤرشف من الأصل في 2 فبراير 2016. تم الاسترجاع في 28 يناير 2016 .
  32. ^ abc "ستيفن هوكينج: "التسامي ينظر إلى تداعيات الذكاء الاصطناعي - ولكن هل نأخذ الذكاء الاصطناعي على محمل الجد بما فيه الكفاية؟". The Independent (المملكة المتحدة) . مؤرشف من الأصل في 25 سبتمبر 2015. تم الاسترجاع 3 ديسمبر 2014 .
  33. ^ "ستيفن هوكينج يحذر من أن الذكاء الاصطناعي قد يقضي على البشرية". بي بي سي . 2 ديسمبر 2014. مؤرشف من الأصل في 30 أكتوبر 2015. اطلع عليه بتاريخ 3 ديسمبر 2014 .
  34. ^ Eadicicco, Lisa (28 January 2015). "Bill Gates: Elon Musk Is Right, We Should All Be Scared Of Artificial Intelligence Wiping Out Humanity". Business Insider . مؤرشف من الأصل في 26 فبراير 2016 . تم الاسترجاع 30 يناير 2016 .
  35. ^ "أولويات البحث من أجل الذكاء الاصطناعي القوي والمفيد: رسالة مفتوحة". معهد مستقبل الحياة . مؤرشف من الأصل في 15 يناير 2015. تم الاسترجاع 23 أكتوبر 2015 .
  36. ^ "توقع الذكاء الاصطناعي". مجلة نيتشر . 532 (7600): 413. 2016. رمز Bibcode :2016Natur.532Q.413.. doi : 10.1038/532413a . ISSN  1476-4687. PMID  27121801. S2CID  4399193.
  37. ^ كريستيان، برايان (6 أكتوبر 2020). مشكلة المحاذاة: التعلم الآلي والقيم الإنسانية. دبليو دبليو نورتون آند كومباني . رقم ISBN 978-0-393-63582-9. تم أرشفة النسخة الأصلية في 5 ديسمبر 2021 . تم الاسترجاع 5 ديسمبر 2021 .
  38. ^ ديجنوم، فيرجينيا (26 مايو 2021). "الذكاء الاصطناعي – الأشخاص والأماكن التي تصنعه وتستخدمه وتديره". نيتشر . 593 (7860): 499–500. رمز Bibcode :2021Natur.593..499D. doi : 10.1038/d41586-021-01397-x . S2CID  235216649.
  39. ^ "إيلون ماسك من بين الخبراء الذين يحثون على وقف تدريب الذكاء الاصطناعي". بي بي سي نيوز . 29 مارس 2023. تم الاسترجاع في 9 يونيو 2023 .
  40. ^ "بيان بشأن مخاطر الذكاء الاصطناعي". مركز سلامة الذكاء الاصطناعي . تم استرجاعه في 8 يونيو 2023 .
  41. ^ "الذكاء الاصطناعي قد يؤدي إلى الانقراض، خبراء يحذرون". بي بي سي نيوز . 30 مايو 2023. تم استرجاعه في 8 يونيو 2023 .
  42. ^ "ديب مايند وجوجل: معركة السيطرة على الذكاء الاصطناعي". مجلة الإيكونوميست . ISSN  0013-0613 . تم الاسترجاع في 12 يوليو 2023 .
  43. ^ "الخطوط الزمنية للذكاء الاصطناعي: ماذا يتوقع خبراء الذكاء الاصطناعي للمستقبل؟". عالمنا في البيانات . تم الاسترجاع في 12 يوليو 2023 .
  44. ^ دي فينك، جيريت (20 مايو 2023). "النقاش حول ما إذا كان الذكاء الاصطناعي سيدمرنا يقسم وادي السيليكون". واشنطن بوست .
  45. ^ ""عراب الذكاء الاصطناعي"" يترك جوجل ويقول إنه نادم على عمل حياته لأنه قد يكون من الصعب منع ""الأشرار من استخدامه لأشياء سيئة"". فورتشن . تم الاسترجاع في 12 يوليو 2023 .
  46. ^ "سرعات فائقة للذكاء الاصطناعي الفائق: فرونتير تحدد وتيرة جديدة للذكاء الاصطناعي". ORNL . 14 نوفمبر 2023 . تم الاسترجاع في 27 سبتمبر 2024 .
  47. ^ "كل ما تحتاج إلى معرفته عن الذكاء الفائق". Spiceworks . تم الاسترجاع في 14 يوليو 2023 .
  48. ^ abc Babauta, Leo. "كتاب جديد قيم يستكشف التأثيرات المحتملة للآلات الذكية على حياة الإنسان". Business Insider . تم الاسترجاع في 19 مارس 2024 .
  49. ^ ab Bostrom, Nick (27 أبريل 2015)، ماذا يحدث عندما تصبح أجهزة الكمبيوتر لدينا أكثر ذكاءً منا؟ ، تم الاسترجاع في 13 يوليو 2023.
  50. ^ "حوكمة الذكاء الفائق". openai.com . تم الاسترجاع في 12 يوليو 2023 .
  51. ^ "التغلب على التحيز: ما زلت غير قادر على الصمود". www.overcomingbias.com . مؤرشف من الأصل في 4 أغسطس 2017 . تم الاسترجاع 20 سبتمبر 2017 .
  52. ^ Cotton-Barratt, Owen; Ord, Toby (12 أغسطس 2014). "الاعتبارات الاستراتيجية حول السرعات المختلفة لانطلاق الذكاء الاصطناعي". معهد مستقبل البشرية . تم الاسترجاع في 12 يوليو 2023 .
  53. ^ تيجمارك، ماكس (25 أبريل 2023). "التفكير "لا تنظر للأعلى" الذي قد يهلكنا بالذكاء الاصطناعي". تايم . تم الاسترجاع في 14 يوليو 2023. وكأن فقدان السيطرة على العقول الصينية كان أكثر رعبًا من فقدان السيطرة على العقول الرقمية الغريبة التي لا تهتم بالبشر. [...] من الواضح الآن أن مساحة العقول الغريبة المحتملة أكبر بكثير من ذلك.
  54. ^ "19 - التفسير الميكانيكي مع نيل ناندا". AXRP - بودكاست أبحاث مخاطر الذكاء الاصطناعي . 4 فبراير 2023. تم الاسترجاع في 13 يوليو 2023. من المعقول بالنسبة لي أن الشيء الرئيسي الذي نحتاج إلى إنجازه هو ملاحظة الدوائر المحددة المتعلقة بالخداع والقدرات الخطيرة المحددة مثل ذلك والوعي بالموقف والأهداف الممثلة داخليًا.
  55. ^ "الذكاء الفائق ليس علمًا بكل شيء". تأثيرات الذكاء الاصطناعي . 7 أبريل 2023. تم الاسترجاع في 16 أبريل 2023 .
  56. ^ abcdefghi هندريكس، دان؛ مازيكا، مانتاس؛ وودسايد، توماس (21 يونيو 2023). "نظرة عامة على مخاطر الذكاء الاصطناعي الكارثية". arXiv : 2306.12001 [cs.CY].
  57. ^ تايلور، جوش؛ هيرن، أليكس (2 مايو 2023). ""عراب الذكاء الاصطناعي"" جيفري هينتون يترك جوجل ويحذر من مخاطر المعلومات المضللة". الجارديان . ISSN  0261-3077 . تم الاسترجاع في 13 يوليو 2023 .
  58. ^ "كيف يستعد حلف شمال الأطلسي لعصر جديد من الهجمات السيبرانية بالذكاء الاصطناعي". يورونيوز . 26 ديسمبر 2022 . تم استرجاعه في 13 يوليو 2023 .
  59. ^ "ChatGPT والذكاء الاصطناعي الجديد يسببان الفوضى في مجال الأمن السيبراني بطرق مثيرة ومخيفة". ZDNET . تم الاسترجاع في 13 يوليو 2023 .
  60. ^ توبي شيفلين؛ سيباستيان فاركوهار؛ بن جارفينكل؛ ماري فونج؛ جيس ويتلستون؛ جاد ليونج؛ دانيال كوكوتاجلو؛ ناهيما مارشال؛ ماركوس أندرلجونج؛ نوام كولت؛ لويس هو؛ ديفيا سيدارث؛ شاهار أفين؛ ويل هوكينز؛ بين كيم؛ إيسون غابرييل؛ فيجاي بولينا؛ جاك كلارك؛ يوشوا بينجيو؛ بول كريستيانو؛ ألان ديفو (24 مايو 2023). "تقييم النموذج للمخاطر الشديدة". arXiv : 2305.15324 [cs.AI].
  61. ^ أوربينا، فابيو؛ لنتزوس، فيليبا؛ إنفيرنيزي، سيدريك؛ إكينز، شون (7 مارس 2022). "الاستخدام المزدوج لاكتشاف الأدوية المدعمة بالذكاء الاصطناعي". نيتشر ماشين إنتيليجنس . 4 (3): 189-191. doi :10.1038/s42256-022-00465-9. ISSN  2522-5839. PMC 9544280. PMID 36211133  . 
  62. ^ والتر، يوشيجا (27 مارس 2023). "الاقتصاد التنافسي السريع لتطوير التعلم الآلي: مناقشة المخاطر والفوائد الاجتماعية". الذكاء الاصطناعي والأخلاق . 4 (2): 1. doi : 10.1007/s43681-023-00276-7 .
  63. ^ "سباق التسلح بالذكاء الاصطناعي بدأ. ابدأ في القلق". تايم . 16 فبراير 2023. تم الاسترجاع في 17 يوليو 2023 .
  64. ^ Brimelow, Ben. "يصور الفيلم القصير "Slaughterbots" مستقبلًا بائسًا للطائرات بدون طيار القاتلة التي تجوب العالم". Business Insider . تم الاسترجاع في 20 يوليو 2023 .
  65. ^ ميكلين، جون (17 يوليو 2023). "التصعيد الاصطناعي: تخيل مستقبل المخاطر النووية". نشرة العلماء الذريين . تم الاسترجاع في 20 يوليو 2023 .
  66. ^ بوستروم، نيك (2013). "الوقاية من المخاطر الوجودية كأولوية عالمية" (PDF) . السياسة العالمية . 4 (1): 15-3. doi :10.1111/1758-5899.12002 – عبر المخاطر الوجودية.
  67. ^ دوهيرتي، بن (17 مايو 2018). "تغير المناخ يشكل خطرًا أمنيًا وجوديًا على أستراليا، وفقًا لتحقيق مجلس الشيوخ". الجارديان . ISSN  0261-3077 . تم الاسترجاع في 16 يوليو 2023 .
  68. ^ ماكاسكيل، ويليام (2022). ما ندين به للمستقبل . نيويورك، نيويورك: كتب أساسية. رقم ISBN 978-1-5416-1862-6.
  69. ^ abcd Ord, Toby (2020). "الفصل 5: المخاطر المستقبلية، الذكاء الاصطناعي غير الموجه". الهاوية: المخاطر الوجودية ومستقبل البشرية . دار بلومزبري للنشر. ISBN 978-1-5266-0021-9.
  70. ^ ماكميلان، تيم (15 مارس 2024). "الملاحة في مواجهة أعظم التحديات التي تواجه البشرية حتى الآن: الخبراء يناقشون المخاطر الوجودية للذكاء الاصطناعي". تقرير موجز . تم استرجاعه في 26 سبتمبر 2024 .
  71. ^ كاسيرزاده، أتوسا (2024). "نوعان من المخاطر الوجودية للذكاء الاصطناعي: حاسمة وتراكمية". arXiv : 2401.07836 [cs.CR].
  72. ^ Samuelsson, Paul Conrad (June–July 2019). "الوعي الاصطناعي: أعظم التحديات الأخلاقية التي نواجهها". Philosophy Now . رقم 132. تم استرجاعه في 19 أغسطس 2023 .
  73. ^ كاتيمان، برايان (24 يوليو 2023). "يجب أن تخاف الذكاء الاصطناعي من البشر". تايم . تم الاسترجاع في 19 أغسطس 2023 .
  74. ^ فيشر، ريتشارد. "الوحش الذكي الذي يجب أن تسمح له بأكلك". www.bbc.com . تم الاسترجاع في 19 أغسطس 2023 .
  75. ^ مور، ماكس (19 يونيو 2023). "المخاطر الوجودية مقابل الفرصة الوجودية: نهج متوازن لمخاطر الذكاء الاصطناعي". أفكار خارج السياق . تم الاسترجاع في 14 يوليو 2023 .
  76. ^ Omohundro, SM (2008, February). محركات الذكاء الاصطناعي الأساسية. في AGI (المجلد 171، ص 483-492).
  77. ^ ويكفيلد، جين (15 سبتمبر 2015). "لماذا يستثمر فيسبوك في الذكاء الاصطناعي؟". بي بي سي نيوز . مؤرشف من الأصل في 2 ديسمبر 2017. تم الاسترجاع في 27 نوفمبر 2017 .
  78. ^ يودكوفسكي، إليعازر (2011). "الأنظمة القيمية المعقدة مطلوبة لتحقيق مستقبل قيّم" (PDF) . مؤرشف من الأصل (PDF) في 29 سبتمبر 2015. تم الاسترجاع في 10 أغسطس 2020 .
  79. ^ أورد، توبي (2020). الهاوية: المخاطر الوجودية ومستقبل البشرية . دار بلومزبري للنشر. رقم ISBN 978-1-5266-0019-6.
  80. ^ يودكوفسكي، إي. (2011، أغسطس). أنظمة القيم المعقدة في الذكاء الاصطناعي الودود. في المؤتمر الدولي حول الذكاء الاصطناعي العام (ص 388-393). ألمانيا: سبرينغر، برلين، هايدلبرغ.
  81. ^ راسل، ستيوارت (2014). "حول الأساطير والخمور". Edge . مؤرشف من الأصل في 19 يوليو 2016 . تم الاسترجاع 23 أكتوبر 2015 .
  82. ^ Dietterich, Thomas ; Horvitz, Eric (2015). "Rise of Concerns about AI: Reflections and Directions" (PDF) . Communications of the ACM . 58 (10): 38–40. doi :10.1145/2770869. S2CID  20395145. مؤرشف من الأصل (PDF) في 4 مارس 2016. تم الاسترجاع في 23 أكتوبر 2015 .
  83. ^ ab Yudkowsky, Eliezer (29 March 2023). "The Open Letter on AI Doesn't Go Far Enough". Time . تم الاسترجاع في 16 يوليو 2023 .
  84. ^ بوستروم، نيك (1 مايو 2012). "الإرادة الفائقة الذكاء: الدافع والعقلانية الآلية في الوكلاء الاصطناعيين المتقدمين". العقول والآلات . 22 (2): 71-85. doi :10.1007/s11023-012-9281-3. ISSN  1572-8641. S2CID  254835485. طالما أنهم يمتلكون مستوى كافيًا من الذكاء، فإن الوكلاء الذين لديهم أي من مجموعة واسعة من الأهداف النهائية سوف يسعون إلى تحقيق أهداف وسيطة مماثلة لأن لديهم أسبابًا آلية للقيام بذلك.
  85. ^ نجو، ريتشارد؛ تشان، لورانس؛ سورين ميندرمان (22 فبراير 2023). "مشكلة المحاذاة من منظور التعلم العميق". arXiv : 2209.00626 [cs.AI].
  86. ^ "مقدمة عن المحاذاة الفائقة". openai.com . تم الاسترجاع في 16 يوليو 2023 .
  87. ^ تيلي، سيسيليا (28 أبريل 2016). "الروبوتات القاتلة؟ الوظائف المفقودة؟". سليت . مؤرشف من الأصل في 11 مايو 2016. تم الاسترجاع في 15 مايو 2016 .
  88. ^ "نورفيج ضد تشومسكي والصراع من أجل مستقبل الذكاء الاصطناعي". Tor.com . 21 يونيو 2011. مؤرشف من الأصل في 13 مايو 2016 . تم الاسترجاع 15 مايو 2016 .
  89. ^ جريفز، ماثيو (8 نوفمبر 2017). "لماذا يجب أن نشعر بالقلق بشأن الذكاء الاصطناعي الفائق". مجلة سكيبتيك (الولايات المتحدة) . المجلد 22، العدد 2. مؤرشف من الأصل في 13 نوفمبر 2017. تم الاسترجاع 27 نوفمبر 2017 .
  90. ^ جونسون، فيل (30 يوليو 2015). "هيوستن، لدينا خطأ: 9 خلل برمجي شهير في الفضاء". عالم تكنولوجيا المعلومات . مؤرشف من الأصل في 15 فبراير 2019. تم الاسترجاع 5 فبراير 2018 .
  91. ^ Yampolskiy, Roman V. (8 April 2014). "Utility function security in artificially intelligent agents". Journal of Experimental & Theoretical Artificial Intelligence . 26 (3): 373–389. doi :10.1080/0952813X.2014.895114. S2CID  16477341. لا شيء يمنع الأنظمة الذكية التي تعمل على تحسين نفسها بشكل كافٍ من تحسين آليات المكافأة الخاصة بها من أجل تحسين تحقيق هدفها الحالي وفي هذه العملية ارتكاب خطأ يؤدي إلى إفساد وظائف المكافأة الخاصة بها.
  92. ^ "هل الذكاء الاصطناعي يدمر البشرية؟ إليكم 5 أسباب لعدم القلق". فوكس . 22 أغسطس 2014. مؤرشف من الأصل في 30 أكتوبر 2015. استرجاع 30 أكتوبر 2015 .
  93. ^ بوستروم، نيك (2014). الذكاء الفائق: المسارات، الأخطار، الاستراتيجيات . أكسفورد، المملكة المتحدة: مطبعة جامعة أكسفورد. ص. 116. ISBN 978-0-19-967811-2.
  94. ^ بوستروم، نيك (2012). "الإرادة الفائقة الذكاء" (PDF) . نيك بوستروم . مؤرشف من الأصل (PDF) في 28 نوفمبر 2015. تم الاسترجاع في 29 أكتوبر 2015 .
  95. ^ أرمسترونج، ستيوارت (1 يناير 2013). "الذكاء للأغراض العامة: مناقشة أطروحة التقويم العمودي". التحليل والميتافيزيقيا . 12. مؤرشف من الأصل في 11 أكتوبر 2014. تم الاسترجاع 2 أبريل 2020 .النص الكامل متاح هنا أرشيف 25 مارس 2020 على موقع واي باك مشين .
  96. ^ ab Chorost, Michael (18 April 2016). "Let Artificial Intelligence Evolve". Slate . مؤرشف من الأصل في 27 نوفمبر 2017 . تم الاسترجاع في 27 نوفمبر 2017 .
  97. ^ "هل ينبغي للبشر أن يخشوا صعود الآلة؟" . صحيفة التلغراف (المملكة المتحدة) . 1 سبتمبر 2015. مؤرشف من الأصل في 12 يناير 2022. تم الاسترجاع 7 فبراير 2016 .
  98. ^ ab Shermer, Michael (1 March 2017). "Apocalypse AI". Scientific American . 316 (3): 77. Bibcode :2017SciAm.316c..77S. doi :10.1038/scientificamerican0317-77. PMID  28207698. مؤرشف من الأصل في 1 ديسمبر 2017. تم الاسترجاع في 27 نوفمبر 2017 .
  99. ^ "الآلات الذكية: ماذا تريد فيسبوك من الذكاء الاصطناعي؟". بي بي سي نيوز . 14 سبتمبر 2015. تم الاسترجاع في 31 مارس 2023 .
  100. ^ باوم، سيث (30 سبتمبر 2018). "مكافحة المعلومات المضللة عن الذكاء الفائق". مجلة المعلومات . 9 (10): 244. doi : 10.3390/info9100244 . ISSN  2078-2489.
  101. ^ "أسطورة الذكاء الاصطناعي". www.edge.org . مؤرشف من الأصل في 11 مارس 2020 . تم الاسترجاع 11 مارس 2020 .
  102. ^ بوستروم، نيك، الذكاء الفائق: المسارات، الأخطار، الاستراتيجيات (كتاب صوتي)، رقم ISBN 978-1-5012-2774-5، OCLC  1061147095.
  103. ^ سوتالا ، كاج. يامبولسكي ، رومان الخامس (19 ديسمبر 2014). “الاستجابات لمخاطر AGI الكارثية: دراسة استقصائية”. سيناريو الفيزياء . 90 (1): 12. بيب كود :2015PhyS...90a8001S. دوى : 10.1088/0031-8949/90/1/018001 . ISSN  0031-8949.
  104. ^ بيستونو، فيديريكو؛ يامبولسكي، رومان ف. (9 مايو 2016). البحث غير الأخلاقي: كيفية إنشاء ذكاء اصطناعي خبيث . OCLC  1106238048.
  105. ^ هاني، برايان سيموس (2018). "مخاطر ووعود الذكاء العام الاصطناعي". سلسلة أوراق عمل SSRN . doi :10.2139/ssrn.3261254. ISSN  1556-5068. S2CID  86743553.
  106. ^ "هل ستكون الذكاء الاصطناعي الفائق الذكاء سبب هلاكنا؟". IEEE Spectrum . 3 سبتمبر 2014 . تم الاسترجاع في 13 سبتمبر 2024 .
  107. ^ راسل، ستيوارت (30 أغسطس 2017). "الذكاء الاصطناعي: المستقبل خارق الذكاء". نيتشر . 548 (7669): 520-521. رمز Bibcode : 2017Natur.548..520R. doi : 10.1038/548520a . S2CID  4459076.
  108. ^ abc Tegmark, Max (2017). Life 3.0: Being Human in the Age of Artificial Intelligence (الطبعة الأولى). Mainstreaming AI Safety: Knopf. ISBN 978-0-451-48507-6.
  109. ^ كومار، فيبور. "مقال للمجلس: عند فجر الذكاء العام الاصطناعي: موازنة الوفرة مع الضمانات الوجودية". فوربس . تم الاسترجاع في 23 يوليو 2023 .
  110. ^ "توقف تجارب الذكاء الاصطناعي العملاقة: رسالة مفتوحة". معهد مستقبل الحياة . تم الاسترجاع في 30 مارس 2023 .
  111. ^ "مبادئ الذكاء الاصطناعي". معهد مستقبل الحياة . 11 أغسطس 2017. مؤرشف من الأصل في 11 ديسمبر 2017. تم الاسترجاع 11 ديسمبر 2017 .
  112. ^ "إيلون ماسك وستيفن هوكينج يحذران من سباق تسلح الذكاء الاصطناعي". نيوزويك . 31 يناير 2017. مؤرشف من الأصل في 11 ديسمبر 2017. اطلع عليه بتاريخ 11 ديسمبر 2017 .
  113. ^ فورد، مارتن (2015). "الفصل التاسع: الذكاء الفائق والتفرد". صعود الروبوتات: التكنولوجيا وتهديد مستقبل بلا وظائف . كتب أساسية. رقم ISBN 978-0-465-05999-7.
  114. ^ بوستروم، نيك (2016). "خاتمة جديدة للطبعة الورقية". الذكاء الفائق: المسارات والمخاطر والاستراتيجيات (طبعة الغلاف الورقي).
  115. ^ "لماذا يبدو الذكاء الاصطناعي الذي لا يمكن السيطرة عليه أكثر احتمالية من أي وقت مضى". تايم . 27 فبراير 2023. تم الاسترجاع 30 مارس 2023. لذلك ليس من المستغرب أنه وفقًا لأحدث مسح لتأثيرات الذكاء الاصطناعي، يعتقد ما يقرب من نصف 731 من الباحثين الرائدين في مجال الذكاء الاصطناعي أن هناك فرصة بنسبة 10٪ على الأقل بأن الذكاء الاصطناعي على المستوى البشري سيؤدي إلى "نتيجة سلبية للغاية" أو خطر وجودي.
  116. ^ ab Maas, Matthijs M. (6 فبراير 2019). "ما مدى جدوى ضبط الأسلحة الدولي للذكاء الاصطناعي العسكري؟ ثلاثة دروس من أسلحة الدمار الشامل النووية". سياسة الأمن المعاصرة . 40 (3): 285-311. doi :10.1080/13523260.2019.1576464. ISSN  1352-3260. S2CID  159310223.
  117. ^ ab "هل أعجبك الذكاء الاصطناعي؟ يقول الخبراء إن الذكاء الاصطناعي العام قادم في المرة القادمة، وله مخاطر "وجودية". ABC News . 23 مارس 2023 . تم الاسترجاع في 30 مارس 2023 .
  118. ^ رولينسون، كيفن (29 يناير 2015). "بيل جيتس مؤسس مايكروسوفت يصر على أن الذكاء الاصطناعي يشكل تهديدًا". بي بي سي نيوز . مؤرشف من الأصل في 29 يناير 2015. تم الاسترجاع في 30 يناير 2015 .
  119. ^ واشنطن بوست (14 ديسمبر 2015). "عمالقة التكنولوجيا مثل إيلون ماسك ينفقون مليار دولار لإنقاذك من المدمرين". شيكاغو تريبيون . مؤرشف من الأصل في 7 يونيو 2016.
  120. ^ "من يوم القيامة إلى اليوتوبيا: تعرف على الفصائل المتنافسة للذكاء الاصطناعي" . واشنطن بوست . 9 أبريل 2023. تم الاسترجاع في 30 أبريل 2023 .
  121. ^ "UC Berkeley – Center for Human-Compatible AI (2016)". Open Philanthropy . 27 يونيو 2016 . تم الاسترجاع في 30 أبريل 2023 .
  122. ^ "شركة الذكاء الاصطناعي الغامضة التي استثمر فيها إيلون ماسك تعمل على تطوير أجهزة كمبيوتر ذكية قادرة على إحداث تغييرات جذرية". Tech Insider . مؤرشف من الأصل في 30 أكتوبر 2015 . تم الاسترجاع في 30 أكتوبر 2015 .
  123. ^ كلارك 2015أ.
  124. ^ "إيلون ماسك يتبرع بـ 10 ملايين دولار من ماله الخاص لأبحاث الذكاء الاصطناعي". Fast Company . 15 يناير 2015. مؤرشف من الأصل في 30 أكتوبر 2015. تم الاسترجاع 30 أكتوبر 2015 .
  125. ^ تيلي، سيسيليا (28 أبريل 2016). "الروبوتات القاتلة؟ الوظائف المفقودة؟". سليت . مؤرشف من الأصل في 11 مايو 2016. تم الاسترجاع في 15 مايو 2016 .
  126. ^ خاتشادوريان، رافي (23 نوفمبر 2015). "اختراع يوم القيامة: هل يجلب لنا الذكاء الاصطناعي اليوتوبيا أم الدمار؟". النيويوركر . مؤرشف من الأصل في 29 أبريل 2019. تم الاسترجاع 7 فبراير 2016 .
  127. ^ "تحذير من خطر الذكاء الاصطناعي، الرائد جيفري هينتون يترك جوجل ليتحدث بحرية". www.arstechnica.com . 2023 . تم الاسترجاع في 23 يوليو 2023 .
  128. ^ جارلينج، كالب (5 مايو 2015). "أندرو نج: لماذا "التعلم العميق" هو ​​أمر إلزامي للبشر، وليس الآلات فقط". Wired . تم الاسترجاع في 31 مارس 2023 .
  129. ^ "هل الذكاء الاصطناعي يشكل حقا تهديدا وجوديا للبشرية؟". مامبا بوست . 4 أبريل 2023.
  130. ^ "القضية ضد الروبوتات القاتلة، من رجل يعمل بالفعل على الذكاء الاصطناعي". Fusion.net . مؤرشف من الأصل في 4 فبراير 2016 . تم الاسترجاع 31 يناير 2016 .
  131. ^ "خبراء الذكاء الاصطناعي يتحدون رواية "الكارثة"، بما في ذلك ادعاءات "خطر الانقراض". VentureBeat . 31 مايو 2023 . تم الاسترجاع في 8 يوليو 2023 .
  132. ^ كولدوي، ديفين (1 أبريل 2023). "أخلاقيون يردون على رسالة "إيقاف الذكاء الاصطناعي" التي يقولون إنها "تتجاهل الأضرار الفعلية". TechCrunch . تم الاسترجاع في 23 يوليو 2023 .
  133. ^ "معهد أبحاث الذكاء الاصطناعي الموزع (DAIR)". معهد DAIR . تم استرجاعه في 23 يوليو 2023 .
  134. ^ جيبرو، تيمنيت؛ توريس، إميل ب. (14 أبريل 2024). "حزمة تيسكريل: تحسين النسل ووعد اليوتوبيا من خلال الذكاء العام الاصطناعي". أول يوم اثنين . doi : 10.5210/fm.v29i4.13636 . ISSN  1396-0466.
  135. ^ كيلي، كيفن (25 أبريل 2017). "أسطورة الذكاء الاصطناعي الخارق". Wired . مؤرشف من الأصل في 26 ديسمبر 2021 . تم الاسترجاع 19 فبراير 2022 .
  136. ^ Jindal, Siddharth (7 يوليو 2023). "سعي OpenAI إلى محاذاة الذكاء الاصطناعي أمر بعيد المنال". مجلة Analytics India . تم الاسترجاع في 23 يوليو 2023 .
  137. ^ "مارك زوكربيرج يرد على جنون إيلون ماسك بشأن الذكاء الاصطناعي: "الذكاء الاصطناعي سوف... يساعد في الحفاظ على مجتمعاتنا آمنة". بيزنس إنسايدر . 25 مايو 2018. مؤرشف من الأصل في 6 مايو 2019. تم الاسترجاع 6 مايو 2019 .
  138. ^ داديتش، سكوت. "باراك أوباما يتحدث عن الذكاء الاصطناعي والسيارات الآلية ومستقبل العالم". WIRED . مؤرشف من الأصل في 3 ديسمبر 2017. تم الاسترجاع 27 نوفمبر 2017 .
  139. ^ كيرشر، ماديسون مالون. "أوباما يتحدث عن مخاطر الذكاء الاصطناعي: "عليك أن تجد شخصًا قريبًا من سلك الطاقة". اختر الكل . مؤرشف من الأصل في 1 ديسمبر 2017. تم الاسترجاع في 27 نوفمبر 2017 .
  140. ^ كلينتون، هيلاري (2017). ماذا حدث . سايمون وشوستر. ص 241. ISBN 978-1-5011-7556-5.عبر [1] تم أرشفته في 1 ديسمبر 2017 على موقع Wayback Machine
  141. ^ "إيلون ماسك يقول إن الذكاء الاصطناعي قد يقضي على الحضارة الإنسانية. زوكربيرج لا يتفق معه. من على حق؟". 5 يناير 2023. مؤرشف من الأصل في 8 يناير 2018 . تم الاسترجاع 8 يناير 2018 .
  142. ^ "يوم القيامة للذكاء الاصطناعي يقلق العديد من الأميركيين. وكذلك نهاية العالم بسبب تغير المناخ، والأسلحة النووية، والحرب، وأكثر من ذلك". 14 أبريل 2023. مؤرشف من الأصل في 23 يونيو 2023. تم الاسترجاع 9 يوليو 2023 .
  143. ^ تايسون، أليك؛ كيكوتشي، إيما (28 أغسطس 2023). "القلق العام المتزايد بشأن دور الذكاء الاصطناعي في الحياة اليومية". مركز بيو للأبحاث . تم الاسترجاع في 17 سبتمبر 2023 .
  144. ^ سوتالا ، كاج. يامبولسكي ، رومان (19 ديسمبر 2014). “الاستجابات لمخاطر AGI الكارثية: دراسة استقصائية”. سيناريو الفيزياء . 90 (1).
  145. ^ باريت، أنتوني م.؛ بوم، سيث د. (23 مايو 2016). "نموذج للمسارات المؤدية إلى كارثة الذكاء الاصطناعي الفائق لتحليل المخاطر واتخاذ القرارات". مجلة الذكاء الاصطناعي التجريبي والنظري . 29 (2): 397-414. arXiv : 1607.07730 . doi :10.1080/0952813x.2016.1186228. ISSN  0952-813X. S2CID  928824.
  146. ^ سوتالا ، كاج. يامبولسكي ، رومان الخامس (19 ديسمبر 2014). “الاستجابات لمخاطر AGI الكارثية: دراسة استقصائية”. سيناريو الفيزياء . 90 (1): 018001. بيب كود :2015PhyS...90a8001S. دوى : 10.1088/0031-8949/90/1/018001 . ISSN  0031-8949. S2CID  4749656.
  147. ^ رامامورثي، أناند؛ يامبولسكي، رومان (2018). "ما وراء الجنون المتعمد؟ السباق نحو الذكاء العام الاصطناعي". اكتشافات تكنولوجيا المعلومات والاتصالات . 1 (العدد الخاص 1). اتحاد الاتصالات الدولي: 1-8. مؤرشف من الأصل في 7 يناير 2022. تم الاسترجاع في 7 يناير 2022 .
  148. ^ كارايانيس، إلياس جي؛ درابر، جون (11 يناير 2022). "تحسين السلام من خلال معاهدة سلام عالمية شاملة للحد من خطر الحرب من الذكاء الاصطناعي الفائق العسكري". الذكاء الاصطناعي والمجتمع . 38 (6): 2679-2692. doi :10.1007/s00146-021-01382-y. ISSN  0951-5666. PMC 8748529. PMID 35035113.  S2CID 245877737  . 
  149. ^ كارايانيس، إلياس ج.؛ درابر، جون (30 مايو 2023)، "تحدي الحرب السيبرانية المتقدمة ومكانة السلام السيبراني"، رفيق إلجار للتحول الرقمي والذكاء الاصطناعي والابتكار في الاقتصاد والمجتمع والديمقراطية ، دار نشر إدوارد إلجار، ص 32-80، doi :10.4337/9781839109362.00008، ISBN 978-1-83910-936-2تم استرجاعه في 8 يونيو 2023.
  150. ^ فينسنت، جيمس (22 يونيو 2016). "باحثو الذكاء الاصطناعي في جوجل يقولون إن هذه هي المشاكل الخمس الرئيسية لسلامة الروبوتات". The Verge . مؤرشف من الأصل في 24 ديسمبر 2019 . تم الاسترجاع 5 أبريل 2020 .
  151. ^ أمودي، داريو، كريس أولاه، جاكوب شتاينهارت، بول كريستيانو، جون شولمان، ودان مانيه. "مشاكل ملموسة في سلامة الذكاء الاصطناعي". طبعة ما قبل النشر من arXiv arXiv:1606.06565 (2016).
  152. ^ جونسون، أليكس (2019). "إيلون ماسك يريد ربط دماغك مباشرة بالكمبيوتر - بدءًا من العام المقبل". إن بي سي نيوز . مؤرشف من الأصل في 18 أبريل 2020. تم الاسترجاع 5 أبريل 2020 .
  153. ^ توريس، فيل (18 سبتمبر 2018). "فقط التحسين الجذري للإنسانية يمكن أن ينقذنا جميعًا". مجلة سلايت . مؤرشف من الأصل في 6 أغسطس 2020. تم الاسترجاع 5 أبريل 2020 .
  154. ^ باريت، أنتوني م.؛ بوم، سيث د. (23 مايو 2016). "نموذج للمسارات المؤدية إلى كارثة الذكاء الاصطناعي الفائق لتحليل المخاطر واتخاذ القرارات". مجلة الذكاء الاصطناعي التجريبي والنظري . 29 (2): 397-414. arXiv : 1607.07730 . doi :10.1080/0952813X.2016.1186228. S2CID  928824.
  155. ^ تكاتشينكو، إيجور (2024). "الموقف: فقدان الذاكرة القسري كطريقة للتخفيف من المخاطر المحتملة للمعاناة الصامتة في الذكاء الاصطناعي الواعي". وقائع المؤتمر الدولي الحادي والأربعين حول التعلم الآلي . PMLR.
  156. ^ بايبر، كيلسي (29 مارس 2023). "كيفية اختبار ما يمكن لنموذج الذكاء الاصطناعي أن يفعله وما لا ينبغي له أن يفعله". فوكس . تم الاسترجاع في 28 يوليو 2023 .
  157. ^ Piesing, Mark (17 May 2012). "انتفاضة الذكاء الاصطناعي: سيتم الاستعانة بمصادر خارجية للبشر، وليس القضاء عليهم". Wired . مؤرشف من الأصل في 7 أبريل 2014 . تم الاسترجاع في 12 ديسمبر 2015 .
  158. ^ Coughlan, Sean (24 April 2013). "كيف سيصبح البشر منقرضين؟". BBC News . مؤرشف من الأصل في 9 مارس 2014 . تم الاسترجاع في 29 مارس 2014 .
  159. ^ بريدج، مارك (10 يونيو 2017). "جعل الروبوتات أقل ثقة قد يمنعها من تولي زمام الأمور". التايمز . مؤرشف من الأصل في 21 مارس 2018. استرجاع 21 مارس 2018 .
  160. ^ McGinnis, John (Summer 2010). "Accelerating AI". Northwestern University Law Review . 104 (3): 1253–1270. مؤرشف من الأصل في 15 فبراير 2016. تم الاسترجاع في 16 يوليو 2014. لكل هذه الأسباب، فإن التحقق من معاهدة التخلي العالمية، أو حتى معاهدة تقتصر على تطوير الأسلحة المرتبطة بالذكاء الاصطناعي، أمر غير قابل للتنفيذ... (لأسباب مختلفة عن أسبابنا، يعتبر معهد أبحاث الذكاء الآلي) التخلي عن الذكاء الاصطناعي غير قابل للتطبيق...
  161. ^ سوتالا، كاج؛ يامبولسكي، رومان (19 ديسمبر 2014). "استجابات لمخاطر الذكاء الاصطناعي العام الكارثية: دراسة استقصائية". فيزيكا سكريبتا . 90 (1). بشكل عام، يرفض معظم الكتاب مقترحات التخلي الواسع النطاق... تعاني مقترحات التخلي من العديد من نفس المشاكل التي تعاني منها مقترحات التنظيم، ولكن بدرجة أكبر. لا توجد سابقة تاريخية لتكنولوجيا عامة متعددة الاستخدامات مماثلة للذكاء الاصطناعي العام تم التخلي عنها بنجاح إلى الأبد، ولا يبدو أن هناك أي أسباب نظرية للاعتقاد بأن مقترحات التخلي ستنجح في المستقبل. لذلك لا نعتبرها فئة قابلة للتطبيق من المقترحات.
  162. ^ ألينبي، براد (11 أبريل 2016). "المقياس المعرفي الخاطئ". سليت . مؤرشف من الأصل في 15 مايو 2016. تم الاسترجاع في 15 مايو 2016. من الخيال أن نقترح أن التطوير المتسارع ونشر التقنيات التي تعتبر مجتمعة ذكاء اصطناعيًا سوف يتوقف أو يحد، إما عن طريق التنظيم أو حتى عن طريق التشريعات الوطنية.
  163. ^ ab Yampolskiy, Roman V. (2022). "الشك في مخاطر الذكاء الاصطناعي". في مولر، فينسينت سي. (محرر). فلسفة ونظرية الذكاء الاصطناعي 2021. دراسات في الفلسفة التطبيقية ونظرية المعرفة والأخلاق العقلانية. المجلد 63. شام: دار النشر سبرينغر الدولية. ص 225-248. doi :10.1007/978-3-031-09153-7_18. ISBN 978-3-031-09153-7.
  164. ^ باوم، سيث (22 أغسطس 2018). "الشكوكية في الذكاء الفائق كأداة سياسية". معلومات . 9 (9): 209. doi : 10.3390/info9090209 . ISSN  2078-2489.
  165. ^ "إيلون ماسك وقادة التكنولوجيا الآخرون يدعون إلى التوقف مؤقتًا في سباق الذكاء الاصطناعي "الخارج عن السيطرة". سي إن إن . 29 مارس 2023. تم الاسترجاع في 30 مارس 2023 .
  166. ^ "رسالة مفتوحة تدعو إلى "إيقاف" الذكاء الاصطناعي تسلط الضوء على الجدل العنيف حول المخاطر مقابل المبالغة". VentureBeat . 29 مارس 2023 . تم الاسترجاع في 20 يوليو 2023 .
  167. ^ فينسنت، جيمس (14 أبريل 2023). "الرئيس التنفيذي لشركة OpenAI يؤكد أن الشركة لا تدرب GPT-5 و"لن تفعل ذلك لبعض الوقت"". The Verge . تم الاسترجاع في 20 يوليو 2023 .
  168. ^ "الرسالة المفتوحة بشأن الذكاء الاصطناعي لا تذهب إلى أبعد من ذلك". تايم . 29 مارس 2023. تم الاسترجاع في 20 يوليو 2023 .
  169. ^ دومونوسكي، كاميلا (17 يوليو 2017). "إيلون ماسك يحذر المحافظين: الذكاء الاصطناعي يشكل "خطرًا وجوديًا". NPR . مؤرشف من الأصل في 23 أبريل 2020. تم الاسترجاع في 27 نوفمبر 2017 .
  170. ^ جيبس، صموئيل (17 يوليو 2017). "إيلون ماسك: تنظيم الذكاء الاصطناعي لمكافحة "التهديد الوجودي" قبل فوات الأوان". الجارديان . مؤرشف من الأصل في 6 يونيو 2020. تم الاسترجاع 27 نوفمبر 2017 .
  171. ^ خاربال، أرجون (7 نوفمبر 2017). "الذكاء الاصطناعي في "مهدته" ومن السابق لأوانه تنظيمه، يقول الرئيس التنفيذي لشركة إنتل براين كرزانيتش". سي إن بي سي . مؤرشف من الأصل في 22 مارس 2020. تم الاسترجاع في 27 نوفمبر 2017 .
  172. ^ داوس، جيمس (20 ديسمبر 2021). "الأمم المتحدة تفشل في الاتفاق على حظر "الروبوت القاتل" مع قيام الدول بضخ المليارات في أبحاث الأسلحة المستقلة". المحادثة . تم الاسترجاع في 28 يوليو 2023 .
  173. ^ ab Fassihi, Farnaz (18 July 2023). "مسؤولو الأمم المتحدة يحثون على تنظيم الذكاء الاصطناعي". نيويورك تايمز . ISSN  0362-4331 . تم الاسترجاع في 20 يوليو 2023 .
  174. ^ "المتحدثون يؤكدون على ضرورة أن يواجه المجتمع الدولي على وجه السرعة الواقع الجديد للذكاء الاصطناعي التوليدي، في حين يناقش مجلس الأمن المخاطر والمكافآت". الأمم المتحدة . تم الاسترجاع في 20 يوليو 2023 .
  175. ^ سوتالا ، كاج. يامبولسكي ، رومان ف. (2014-12-19). “الاستجابات لمخاطر AGI الكارثية: دراسة استقصائية”. سيناريو الفيزياء . 90 (1): 018001. بيب كود :2015PhyS...90a8001S. دوى : 10.1088/0031-8949/90/1/018001 . ISSN  0031-8949.
  176. ^ جايست، إدوارد مور (15 أغسطس 2016). "لقد فات الأوان لوقف سباق التسلح بالذكاء الاصطناعي - يجب علينا إدارته بدلاً من ذلك". نشرة العلماء الذريين . 72 (5): 318-321. رمز Bibcode : 2016BuAtS..72e.318G. doi : 10.1080/00963402.2016.1216672. ISSN  0096-3402. S2CID  151967826.
  177. ^ "أمازون وجوجل وميتا ومايكروسوفت وشركات تقنية أخرى توافق على ضمانات الذكاء الاصطناعي التي وضعها البيت الأبيض". وكالة أسوشيتد برس . 21 يوليو 2023. تم الاسترجاع في 21 يوليو 2023 .
  178. ^ "أمازون وجوجل وميتا ومايكروسوفت وشركات أخرى توافق على ضمانات الذكاء الاصطناعي". Redditch Advertiser . 21 يوليو 2023 . تم الاسترجاع في 21 يوليو 2023 .
  179. ^ البيت الأبيض (30 أكتوبر 2023). "الأمر التنفيذي بشأن التطوير والاستخدام الآمن والموثوق للذكاء الاصطناعي". البيت الأبيض . تم الاسترجاع في 19 ديسمبر 2023 .

فهرس

  • كلارك، جاك (2015أ). "مجموعة مدعومة من ماسك تستكشف المخاطر الكامنة وراء الذكاء الاصطناعي" . بلومبرج.كوم . مؤرشف من الأصل في 30 أكتوبر 2015. تم الاسترجاع في 30 أكتوبر 2015 .
Retrieved from "https://en.wikipedia.org/w/index.php?title=Existential_risk_from_artificial_intelligence&oldid=1257846244"
Original text
Rate this translation
Your feedback will be used to help improve Google Translate