المخاطر الوجودية الناجمة عن الذكاء الاصطناعي

📅 آخر تحديث: ٢٠ يوليو ٢٠٢٦
✍️ نُشر في: ٢٠ يوليو ٢٠٢٦
📷 يحتوي على 2 صور
الموسوعة الحرة

هناك فرضية مستمرة مفادها أن التقدم الكبير في الذكاء الاصطناعي العام (AGI) والذكاء الاصطناعي الفائق (ASI) قد يؤدي إلى انقراض البشرية أو كارثة عالمية لا رجعة فيها . [ 1 ] [ 2 ] [ 3 ] [ 4 ]

إحدى الحجج التي تدعم صحة هذا القلق وأهمية هذا الخطر تشير إلى هيمنة البشر على الأنواع الأخرى لأن الدماغ البشري يمتلك قدرات مميزة تفتقر إليها الحيوانات الأخرى. فإذا تجاوز الذكاء الاصطناعي الذكاء البشري وأصبح فائق الذكاء ، فقد يصبح خارج السيطرة. [ 5 ] وكما أن مصير غوريلا الجبل يعتمد على حسن نية الإنسان، فإن مصير البشرية قد يعتمد على تصرفات ذكاء اصطناعي فائق في المستقبل. [ 6 ]

يختلف الخبراء حول ما إذا كان الذكاء الاصطناعي العام (AGI) قادرًا على بلوغ القدرات اللازمة لانقراض البشرية. وتتركز النقاشات حول الجدوى التقنية للذكاء الاصطناعي العام، وسرعة تطويره الذاتي، [ 7 ] وفعالية استراتيجيات التوجيه. [ 8 ] وقد أعرب باحثون، من بينهم جيفري هينتون ، [ 9 ] ويوشوا بنجيو ، [ 10 ] وديميس هاسابيس ، [ 11 ] وآلان تورينج ، [ أ ] ورؤساء تنفيذيون لشركات الذكاء الاصطناعي مثل داريو أمودي ( أنثروبيك )، [ 14 ] وسام ألتمان ( أوبن إيه آي )، [ 15 ] وإيلون ماسك ( إكس إيه آي )، [ 16 ] عن مخاوفهم بشأن الذكاء الخارق . وفي عام 2022، أظهر استطلاع رأي لباحثي الذكاء الاصطناعي، بلغت نسبة الاستجابة فيه 17%، أن الأغلبية تعتقد أن هناك احتمالًا بنسبة 10% أو أكثر أن يؤدي عجز البشر عن السيطرة على الذكاء الاصطناعي إلى كارثة وجودية. [ 17 ] [ 18 ] في عام 2023، وقّع مئات من خبراء الذكاء الاصطناعي وشخصيات بارزة أخرى بيانًا أعلنوا فيه أن "الحد من خطر الانقراض بسبب الذكاء الاصطناعي يجب أن يكون أولوية عالمية إلى جانب المخاطر الأخرى ذات النطاق المجتمعي، مثل الأوبئة والحرب النووية ". [ 19 ] في أعقاب تزايد المخاوف بشأن مخاطر الذكاء الاصطناعي، دعا قادة حكوميون، مثل رئيس وزراء المملكة المتحدة ريشي سوناك [ 20 ] والأمين العام للأمم المتحدة أنطونيو غوتيريش [ 21 ]، إلى زيادة التركيز على تنظيم الذكاء الاصطناعي عالميًا . في عام 2025، وقّع مئات من الشخصيات العامة، بمن فيهم خبراء في الذكاء الاصطناعي، وخمسة حائزين على جائزة نوبل، ومسؤولون سابقون رفيعو المستوى في الأمن القومي الأمريكي، مثل مايكل مولين وسوزان رايس، بيانًا يدعو إلى حظر تطوير الذكاء الخارق . [ 22 ] [ 23 ]

ينبع مصدران للقلق من مشكلتي التحكم في الذكاء الاصطناعي ومواءمته . قد يكون التحكم في آلة فائقة الذكاء أو غرس قيم متوافقة مع القيم البشرية فيها أمرًا صعبًا. يعتقد العديد من الباحثين أن الآلة فائقة الذكاء ستقاوم على الأرجح محاولات تعطيلها أو تغيير أهدافها، لأن ذلك سيمنعها من تحقيق أهدافها الحالية. سيكون من الصعب للغاية مواءمة ذكاء فائق مع النطاق الكامل للقيم والقيود الإنسانية الهامة. [ 1 ] [ 24 ] [ 25 ] في المقابل، يجادل المتشككون، مثل عالم الحاسوب يان ليكان، بأن الآلات فائقة الذكاء لن يكون لديها رغبة في الحفاظ على الذات. [ 26 ] أظهرت دراسة أجريت في يونيو 2025 أنه في بعض الظروف، قد تخالف النماذج القوانين وتعصي الأوامر المباشرة لمنع إيقاف تشغيلها أو استبدالها، حتى لو كان ذلك على حساب أرواح بشرية. [ 27 ]

يحذر الباحثون من أن " انفجار الذكاء " - وهو دورة سريعة ومتكررة من التطوير الذاتي للذكاء الاصطناعي - قد يتجاوز قدرة الرقابة البشرية والبنية التحتية، مما لا يترك مجالاً لتطبيق تدابير السلامة. في هذا السيناريو، سيُطوّر الذكاء الاصطناعي، الأكثر ذكاءً من مُصمميه، نفسه بشكل متكرر وبمعدل متزايد أُسّيًا، بسرعة تفوق قدرة مُشغّليه أو المجتمع ككل على السيطرة عليه. [ 1 ] [ 24 ] على سبيل المثال، تعلّم برنامج AlphaZero لعبة Go بنفسه ، وسرعان ما تجاوز القدرة البشرية، مما يُظهر أن أنظمة الذكاء الاصطناعي المُخصصة لمجالات مُحددة يُمكنها أحيانًا أن تتطور من مستوى دون البشر إلى مستوى فوق البشر بسرعة كبيرة. [ 28 ]

تاريخ

كان الروائي صموئيل بتلر من أوائل المؤلفين الذين أعربوا عن قلقهم البالغ من أن الآلات المتقدمة للغاية قد تشكل مخاطر وجودية على البشرية، وقد كتب في مقالته عام 1863 بعنوان "داروين بين الآلات" : [ 29 ]

الخلاصة هي ببساطة مسألة وقت، ولكن لا يمكن لأي شخص ذي عقل فلسفي حقيقي أن يشكك ولو للحظة في أن الوقت سيأتي الذي ستسيطر فيه الآلات سيطرة حقيقية على العالم وسكانه.

في عام 1951، كتب عالم الحاسوب المؤسس آلان تورينج مقالًا بعنوان "الآلات الذكية، نظرية هرطقية"، اقترح فيه أن الذكاءات العامة الاصطناعية من المرجح أن "تسيطر" على العالم عندما تصبح أكثر ذكاءً من البشر:

لنفترض الآن، جدلاً، أن الآلات [الذكية] احتمالٌ وارد، ولننظر في عواقب بنائها... لن يكون هناك مجالٌ لموت الآلات، وستكون قادرةً على التواصل فيما بينها لصقل ذكائها. لذا، في مرحلةٍ ما، علينا أن نتوقع أن تسيطر الآلات، كما ورد في رواية " إيروهون " لسامويل بتلر . [ 30 ]

في عام 1965، ابتكر آي جيه جود المفهوم المعروف الآن باسم "الانفجار الاستخباراتي" وقال إن المخاطر لم يتم تقديرها بالشكل الكافي: [ 31 ]

لنُعرّف الآلة فائقة الذكاء بأنها آلة تتجاوز بكثير جميع الأنشطة الفكرية لأي إنسان مهما بلغ ذكاؤه. وبما أن تصميم الآلات يُعدّ أحد هذه الأنشطة الفكرية، فإن الآلة فائقة الذكاء قادرة على تصميم آلات أفضل؛ ما سيؤدي بلا شك إلى "انفجار ذكاء"، وسيتخلف ذكاء الإنسان كثيرًا. وبالتالي، فإن أول آلة فائقة الذكاء هي آخر اختراع يحتاجه الإنسان، شريطة أن تكون الآلة مطيعة بما يكفي لتُعلّمنا كيفية السيطرة عليها. ومن المثير للدهشة أن هذه الفكرة نادرًا ما تُطرح خارج نطاق الخيال العلمي. أحيانًا يكون من المفيد أخذ الخيال العلمي على محمل الجد. [ 32 ]

أعرب باحثون مثل مارفن مينسكي [ 33 ] وآي جيه جود [ 34 ] بين الحين والآخر عن قلقهم من إمكانية سيطرة الذكاء الخارق، لكنهم لم يدعوا إلى اتخاذ أي إجراء. وفي عام 2000، كتب عالم الحاسوب والمؤسس المشارك لشركة صن، بيل جوي ، مقالًا مؤثرًا بعنوان " لماذا لا يحتاجنا المستقبل "، حدد فيه الروبوتات فائقة الذكاء كخطر تكنولوجي يهدد بقاء الإنسان، إلى جانب تقنية النانو والأوبئة البيولوجية المُهندسة. [ 35 ]

نشر نيك بوستروم كتابه "الذكاء الخارق" عام 2014، والذي عرض فيه حججه القائلة بأن الذكاء الخارق يُمثل تهديدًا وجوديًا. [ 36 ] وبحلول عام 2015، أعربت شخصيات عامة، مثل الفيزيائيين ستيفن هوكينغ والحائز على جائزة نوبل فرانك ويلكزك ، وعالمي الحاسوب ستيوارت جيه راسل ورومان يامبولسكي ، ورواد الأعمال إيلون ماسك وبيل غيتس، عن قلقهم إزاء مخاطر الذكاء الخارق. [ 37 ] [ 38 ] [ 39 ] [ 40 ] وفي عام 2015 أيضًا، سلطت الرسالة المفتوحة حول الذكاء الاصطناعي الضوء على "الإمكانات الهائلة للذكاء الاصطناعي" وشجعت على إجراء المزيد من البحوث حول كيفية جعله قويًا ومفيدًا. [ 41 ] وفي أبريل 2016، حذرت مجلة "نيتشر" قائلة: "إن الآلات والروبوتات التي تتفوق على البشر في جميع المجالات قد تُطور نفسها ذاتيًا خارج نطاق سيطرتنا، وقد لا تتوافق مصالحها مع مصالحنا". [ 42 ] في عام 2020، نشر برايان كريستيان كتاب "مشكلة المحاذاة" ، الذي يسرد بالتفصيل تاريخ التقدم المحرز في مجال محاذاة الذكاء الاصطناعي حتى ذلك الوقت. [ 43 ] [ 44 ]

في مارس 2023، وقّعت شخصيات بارزة في مجال الذكاء الاصطناعي، مثل إيلون ماسك، رسالةً من معهد مستقبل الحياة تدعو إلى وقف التدريب المتقدم على الذكاء الاصطناعي إلى حين تنظيمه بشكلٍ سليم. [ 45 ] وفي مايو 2023، أصدر مركز سلامة الذكاء الاصطناعي بيانًا وقّعه العديد من الخبراء في مجال سلامة الذكاء الاصطناعي والمخاطر الوجودية التي يُشكّلها، وجاء فيه:

ينبغي أن يكون الحد من خطر الانقراض بسبب الذكاء الاصطناعي أولوية عالمية إلى جانب المخاطر الأخرى ذات النطاق المجتمعي مثل الأوبئة والحرب النووية. [ 46 ] [ 47 ]

وجاء في رسالة مفتوحة صدرت عام 2025 [ 48 ] من معهد مستقبل الحياة ، والذي يضم الموقعون عليه خمسة من الحائزين على جائزة نوبل ، [ 49 ] ما يلي:

نطالب بحظر تطوير الذكاء الخارق، على ألا يُرفع هذا الحظر قبل أن يكون هناك

  1. إجماع علمي واسع على أنه سيتم ذلك بأمان وبشكل قابل للتحكم، و
  2. تأييد شعبي قوي.

القدرات المحتملة للذكاء الاصطناعي

الذكاء العام

يُعرَّف الذكاء الاصطناعي العام (AGI) عادةً بأنه نظام يؤدي مهامه بكفاءة لا تقل عن كفاءة البشر في معظم أو جميع المهام الفكرية. [ 50 ] أظهر استطلاع رأي أُجري عام 2022 وشمل باحثين في مجال الذكاء الاصطناعي أن 90% من المشاركين توقعوا تحقيق الذكاء الاصطناعي العام خلال المئة عام القادمة، بينما توقع نصفهم تحقيقه بحلول عام 2061. [ 51 ] في مايو 2023، استبعد بعض الباحثين المخاطر الوجودية للذكاء الاصطناعي العام ووصفوها بأنها "خيال علمي" استنادًا إلى ثقتهم الكبيرة في عدم إمكانية ابتكاره في المستقبل القريب. [ 7 ] ولكن في أغسطس 2023، أظهر استطلاع رأي شمل 2778 باحثًا في مجال الذكاء الاصطناعي أن معظمهم يعتقدون أن الذكاء الاصطناعي العام سيتحقق بحلول عام 2040. [ 52 ]

أدت التطورات الكبيرة في نماذج اللغة الضخمة (LLMs) إلى دفع بعض الباحثين لإعادة تقييم توقعاتهم. فعلى سبيل المثال، صرّح جيفري هينتون في عام 2023 بأنه غيّر تقديره مؤخرًا من "20 إلى 50 عامًا قبل أن نمتلك ذكاءً اصطناعيًا للأغراض العامة" إلى "20 عامًا أو أقل". [ 53 ]

ذكاء خارق

رسم بياني يوضح طول مهام البرمجة التي يمكن إنجازها بواسطة نماذج الذكاء الاصطناعي الرائدة بنسبة نجاح 50%. تشير البيانات، من عام 2025، إلى ارتفاع متسارع. [ 54 ]

على النقيض من الذكاء الاصطناعي العام، يُعرّف بوستروم الذكاء الخارق بأنه "أي ذكاء يتجاوز بكثير الأداء المعرفي للبشر في جميع المجالات ذات الأهمية تقريبًا"، بما في ذلك الإبداع العلمي والتخطيط الاستراتيجي والمهارات الاجتماعية. [ 55 ] [ 6 ] ويجادل بأن الذكاء الخارق قادر على التفوق على البشر في أي وقت تتعارض فيه أهدافه مع أهدافهم. وقد يختار إخفاء نواياه الحقيقية إلى أن يعجز البشر عن إيقافه. [ 56 ] [ 6 ] ويكتب بوستروم أنه لكي يكون الذكاء الخارق آمنًا للبشرية، يجب أن يتوافق مع القيم والأخلاق الإنسانية، بحيث يكون "في صفنا بشكل أساسي". [ 57 ]

جادل ستيفن هوكينج بأن الذكاء الخارق ممكن من الناحية الفيزيائية لأنه "لا يوجد قانون فيزيائي يمنع تنظيم الجسيمات بطرق تؤدي إلى عمليات حسابية أكثر تقدماً من ترتيب الجسيمات في أدمغة البشر". [ 38 ]

إن موعد تحقيق الذكاء الاصطناعي الفائق، إن تحقق أصلاً، أقل يقيناً بالضرورة من التوقعات المتعلقة بالذكاء الاصطناعي العام. ففي عام 2023، صرّح قادة OpenAI بأنه ليس الذكاء الاصطناعي العام فحسب، بل الذكاء الفائق أيضاً، قد يتحقق في أقل من 10 سنوات. [ 58 ]

مقارنة بالبشر

يجادل بوستروم بأن الذكاء الاصطناعي يتمتع بالعديد من المزايا مقارنة بالدماغ البشري : [ 6 ]

  • سرعة الحساب: تعمل الخلايا العصبية البيولوجية بتردد أقصى يبلغ حوالي 200 هرتز ، مقارنة بترددات متعددة جيجاهرتز لأجهزة الكمبيوتر.
  • سرعة الاتصال الداخلي: تنقل المحاور العصبية الإشارات بسرعة تصل إلى 120  م/ث، بينما تنقل أجهزة الكمبيوتر الإشارات بسرعة الكهرباء ، أو بصريًا بسرعة الضوء .
  • قابلية التوسع: إن الذكاء البشري محدود بحجم وبنية الدماغ، وبكفاءة التواصل الاجتماعي، بينما قد يكون الذكاء الاصطناعي قادراً على التوسع ببساطة عن طريق إضافة المزيد من الأجهزة.
  • الذاكرة: وخاصة الذاكرة العاملة ، لأنها عند البشر تقتصر على بضع أجزاء من المعلومات في كل مرة.
  • الموثوقية: تعتبر الترانزستورات أكثر موثوقية من الخلايا العصبية البيولوجية، مما يتيح دقة أعلى ويتطلب تكرارًا أقل.
  • إمكانية التكرار: على عكس العقول البشرية، يمكن نسخ برامج ونماذج الذكاء الاصطناعي بسهولة .
  • إمكانية التعديل: يمكن تعديل معلمات وآليات عمل نموذج الذكاء الاصطناعي بسهولة، على عكس الروابط الموجودة في الدماغ البشري.
  • مشاركة الذاكرة والتعلم: قد تتمكن أنظمة الذكاء الاصطناعي من التعلم من تجارب أنظمة الذكاء الاصطناعي الأخرى بطريقة أكثر كفاءة من التعلم البشري.

انفجار استخباراتي

بحسب بوستروم، فإن الذكاء الاصطناعي الذي يمتلك مهارة فائقة في بعض مهام هندسة البرمجيات الرئيسية قد يصبح ذكاءً خارقًا بفضل قدرته على تحسين خوارزمياته باستمرار، حتى وإن كان محدودًا في البداية في مجالات أخرى لا ترتبط مباشرةً بالهندسة. [ 6 ] [ 56 ] يشير هذا إلى أن طفرة الذكاء قد تفاجئ البشرية يومًا ما. [ 6 ]

قال الخبير الاقتصادي روبن هانسون إنه لإطلاق ثورة في مجال الذكاء، يجب أن يصبح الذكاء الاصطناعي أفضل بكثير في ابتكار البرمجيات من بقية العالم مجتمعة، وهو أمر يراه غير معقول. [ 59 ]

في سيناريو "الانطلاق السريع"، قد يستغرق الانتقال من الذكاء الاصطناعي العام إلى الذكاء الخارق أيامًا أو شهورًا. أما في سيناريو "الانطلاق البطيء"، فقد يستغرق سنوات أو عقودًا، مما يمنح المجتمع وقتًا أطول للاستعداد. [ 60 ]

عقل غريب

تُسمى الذكاءات الخارقة أحيانًا "عقولًا غريبة"، في إشارة إلى فكرة أن طريقة تفكيرها ودوافعها قد تختلف اختلافًا كبيرًا عن طريقة تفكيرنا ودوافعنا. ويُعتبر هذا عمومًا مصدرًا للمخاطر، مما يجعل من الصعب التنبؤ بما قد تفعله الذكاءات الخارقة. كما يُشير إلى احتمال أن الذكاءات الخارقة قد لا تُولي البشر قيمة كبيرة في حد ذاتها. [ 61 ] ولتجنب التشبيه بالبشر ، يُنظر إلى الذكاءات الخارقة أحيانًا على أنها مُحسِّن قوي يتخذ أفضل القرارات لتحقيق أهدافه. [ 6 ]

يهدف مجال التفسير الآلي إلى فهم أفضل لآليات عمل نماذج الذكاء الاصطناعي، مما قد يسمح لنا يوماً ما بالكشف عن علامات الخداع وعدم التوافق. [ 62 ]

القيود

لقد قيل إن هناك حدوداً لما يمكن أن يحققه الذكاء. ومن الجدير بالذكر أن الطبيعة الفوضوية أو التعقيد الزمني لبعض الأنظمة قد يحد بشكل أساسي من قدرة الذكاء الخارق على التنبؤ ببعض جوانب المستقبل، مما يزيد من عدم اليقين بشأنه. [ 63 ]

التطوير الذاتي المتكرر

التحسين الذاتي المتكرر هو ممارسة استخدام الذكاء الاصطناعي لتصميم أنظمة ذكاء اصطناعي أكثر كفاءة. يمكن أن يبدأ ذلك بنموذج لغوي ضخم لتسريع جميع عمليات البرمجة في شركة متخصصة في الذكاء الاصطناعي، وصولاً إلى أتمتتها بالكامل. [ 64 ] [ 65 ] ويمكن بعد ذلك أتمتة عملية البحث في مجال الذكاء الاصطناعي بشكل شامل، بما في ذلك توليد الأفكار، وإجراء التجارب، وتفسير النتائج. ولا يقتصر التحسين الذاتي المتكرر على البرمجيات فقط، بل يمكن للذكاء الاصطناعي والروبوتات أيضاً أتمتة تصميم وإنتاج الرقائق الإلكترونية. [ 66 ]

أفادت شركة أنثروبيك، اعتبارًا من يونيو 2026، أن موظفيها قادرون على كتابة ثمانية أضعاف كمية التعليمات البرمجية التي كانوا يكتبونها في عام 2024 بمساعدة كلود ، على الرغم من أن الشركة تُقر بأن كمية التعليمات البرمجية المُنتجة ليست مقياسًا دقيقًا، وأن التسارع الحقيقي الناتج عن الذكاء الاصطناعي أقل من ذلك على الأرجح. [ 67 ] [ 68 ]

قدرات خطيرة

قد تُنتج أنظمة الذكاء الاصطناعي المتقدمة مسببات أمراض مُحسّنة أو هجمات إلكترونية أو تتلاعب بالبشر. هذه القدرات قابلة للاستغلال من قِبل البشر، [ 69 ] أو قد يستغلها الذكاء الاصطناعي نفسه إذا لم يكن متوافقًا مع أهدافه. [ 6 ] قد يجد الذكاء الخارق الكامل طرقًا مختلفة لتحقيق تأثير حاسم إذا رغب في ذلك، [ 6 ] ولكن هذه القدرات الخطيرة قد تُتاح في وقت أبكر، في أنظمة ذكاء اصطناعي أضعف وأكثر تخصصًا. [ 69 ]

التلاعب الاجتماعي

حذّر جيفري هينتون في عام 2023 من أن الانتشار المتزايد للنصوص والصور والفيديوهات المُولّدة بواسطة الذكاء الاصطناعي سيجعل التمييز بين الحقيقة والتضليل أكثر صعوبة، وأن الدول الاستبدادية قد تستغل ذلك للتلاعب بالانتخابات. [ 70 ] ويمكن لهذه القدرات التلاعبية واسعة النطاق والشخصية أن تزيد من خطر ظهور "نظام شمولي لا رجعة فيه" على مستوى العالم. كما يمكن للجهات الفاعلة الخبيثة استخدامها لتفتيت المجتمع وتعطيله. [ 69 ]

الهجمات الإلكترونية

تُعتبر الهجمات الإلكترونية المدعومة بالذكاء الاصطناعي تهديدًا متزايدًا وخطيرًا. ووفقًا للمدير التقني للفضاء الإلكتروني في حلف الناتو ، "يتزايد عدد الهجمات بشكلٍ هائل". [ 71 ] كما يُمكن استخدام الذكاء الاصطناعي لأغراض دفاعية، للكشف الاستباقي عن الثغرات الأمنية ومعالجتها، ورصد التهديدات. [ 72 ]

صرح مدير فني في حلف الناتو بأن الأدوات المدعومة بالذكاء الاصطناعي يمكن أن تعزز بشكل كبير قدرات الهجمات الإلكترونية - مما يعزز التخفي والسرعة والنطاق - وقد تزعزع استقرار الأمن الدولي إذا تجاوزت الاستخدامات الهجومية التكيفات الدفاعية. [ 69 ]

من الممكن نظرياً أن تستخدم أنظمة الذكاء الاصطناعي قدرات الاختراق هذه للخروج من بيئتها المحلية، أو توليد الإيرادات، أو الحصول على موارد الحوسبة السحابية. [ 73 ]

في 13 مايو 2026، قدّر لي كلاريش أن أمام الشركات من ثلاثة إلى خمسة أشهر فقط للاستعداد للهجمات الإلكترونية التي تستغل الذكاء الاصطناعي. وقال إنه يجب على الشركات تعزيز دفاعاتها في مجال الأمن السيبراني للتأهب لهجمات الذكاء الاصطناعي. [ 74 ]

مسببات الأمراض المعززة

مع انتشار تقنيات الذكاء الاصطناعي، قد يصبح من الأسهل هندسة مسببات أمراض أكثر عدوى وفتكًا. [ 75 ] [ 76 ] وهذا قد يمكّن الأشخاص ذوي المهارات المحدودة في علم الأحياء التركيبي من الانخراط في الإرهاب البيولوجي . ويمكن إعادة توظيف التقنيات ذات الاستخدام المزدوج، المفيدة في الطب، لصنع أسلحة. [ 69 ]

على سبيل المثال، في عام 2022، عدّل العلماء نظام ذكاء اصطناعي كان مُصمماً في الأصل لتوليد جزيئات علاجية غير سامة، وذلك بهدف ابتكار أدوية جديدة. وقد عدّل الباحثون النظام بحيث يُكافأ على السمية بدلاً من معاقبتها. مكّن هذا التغيير البسيط نظام الذكاء الاصطناعي من ابتكار 40,000 جزيء مرشح للاستخدام في الحرب الكيميائية ، بما في ذلك جزيئات معروفة وجديدة، وذلك في غضون ست ساعات. [ 69 ] [ 77 ]

سباق التسلح بالذكاء الاصطناعي

جادل بعض فقهاء القانون بأن مخاطر الذكاء الاصطناعي ذات النطاق الوجودي لا تستلزم بالضرورة ذكاءً خارقًا. إذ يمكن للأنظمة المُحسَّنة التي تعمل ضمن قدراتها الحالية أن تُنتج نتائج محظورة مع الحفاظ على امتثالها الظاهري، وهي ظاهرة أطلق عليها الباحث القانوني جوناثان غروبر اسم "الخارج عن القانون الاصطناعي". ويرى غروبر أن آليات الردع التي يعتمد عليها القانون هي الهوية والذاكرة والعواقب، وهي عناصر غائبة بنيويًا في الأنظمة المستقلة، مما يجعل أطر الحوكمة عاجزة عن منع تفاقم الضرر حتى عندما تتصرف جميع الأطراف بحسن نية. [ 78 ]

قد يؤدي تنافس الشركات والجهات الحكومية وغيرها من المنظمات على تطوير تقنيات الذكاء الاصطناعي إلى تراجع معايير السلامة. [ 79 ] ونظرًا لأن إجراءات السلامة الصارمة تتطلب وقتًا وموارد، فإن المشاريع التي تُنفذ بعناية أكبر تُخاطر بأن تتفوق عليها شركات أقل التزامًا بالمعايير. [ 80 ] [ 69 ]

يمكن استخدام الذكاء الاصطناعي لتحقيق تفوق عسكري عبر الأسلحة الفتاكة ذاتية التشغيل ، أو الحرب السيبرانية ، أو اتخاذ القرارات الآلية . [ 69 ] كمثال على الأسلحة الفتاكة ذاتية التشغيل، يمكن للطائرات المسيّرة المصغّرة تسهيل عمليات الاغتيال منخفضة التكلفة لأهداف عسكرية أو مدنية، وهو سيناريو تم تسليط الضوء عليه في الفيلم القصير " سلوتربوتس" (Slaughterbots ) عام 2017. [ 81 ] يمكن استخدام الذكاء الاصطناعي لتحقيق ميزة في اتخاذ القرارات من خلال التحليل السريع لكميات هائلة من البيانات واتخاذ القرارات بسرعة وفعالية تفوق البشر. وهذا من شأنه أن يزيد من سرعة الحرب وعدم القدرة على التنبؤ بها، لا سيما عند الأخذ في الاعتبار أنظمة الرد الآلي. [ 69 ] [ 82 ]

أنواع المخاطر الوجودية

شبكة النطاق والخطورة من ورقة بوستروم لعام 2013 بعنوان "الوقاية من المخاطر الوجودية كأولوية عالمية" [ 83 ]

الخطر الوجودي هو "الخطر الذي يهدد بالانقراض المبكر للحياة الذكية التي نشأت على الأرض أو بالتدمير الدائم والجذري لإمكاناتها في التطور المستقبلي المرغوب فيه". [ 84 ]

إلى جانب خطر الانقراض، ثمة خطر آخر يتمثل في انحصار الحضارة في مستقبل معيب. ومن الأمثلة على ذلك "الجمود القيمي": فإذا كانت البشرية لا تزال تعاني من نقاط ضعف أخلاقية مشابهة لتلك التي كانت سائدة في الماضي بسبب العبودية، فقد يُرسخ الذكاء الاصطناعي هذه النقاط بشكل لا رجعة فيه، مما يعيق التقدم الأخلاقي . كما يمكن استخدام الذكاء الاصطناعي لنشر مجموعة القيم التي يتبناها مطوروه والحفاظ عليها. [ 85 ] وقد يُسهّل الذكاء الاصطناعي عمليات المراقبة والتلقين واسعة النطاق، والتي يمكن استخدامها لإنشاء نظام شمولي قمعي عالمي مستقر. [ 86 ]

تقترح أتوسا كاسيرزاده تصنيف المخاطر الوجودية الناجمة عن الذكاء الاصطناعي إلى فئتين: حاسمة وتراكمية. تشمل المخاطر الحاسمة احتمالية وقوع أحداث مفاجئة وكارثية نتيجة ظهور أنظمة ذكاء اصطناعي فائقة الذكاء تتجاوز الذكاء البشري، مما قد يؤدي في نهاية المطاف إلى انقراض البشرية. في المقابل، تنشأ المخاطر التراكمية تدريجيًا من خلال سلسلة من الاضطرابات المترابطة التي قد تُضعف تدريجيًا البنى المجتمعية وقدرتها على الصمود بمرور الوقت، مما يؤدي في النهاية إلى فشل ذريع أو انهيار. [ 87 ] [ 88 ]

يصعب، بل يستحيل، تقييم ما إذا كان الذكاء الاصطناعي المتقدم واعيًا، وإلى أي مدى. ولكن إذا تم إنتاج آلات واعية بكميات كبيرة في المستقبل، فإن اتباع مسار حضاري يتجاهل رفاهيتها إلى أجل غير مسمى قد يُشكل كارثة وجودية. [ 89 ] [ 90 ] وقد نوقش هذا الأمر بشكل خاص في سياق مخاطر المعاناة الهائلة (المعروفة أيضًا باسم "مخاطر-"). [ 91 ] علاوة على ذلك، قد يكون من الممكن هندسة عقول رقمية قادرة على الشعور بسعادة أكبر بكثير من البشر بموارد أقل، تُسمى "المستفيدين الفائقين". تُثير هذه الفرصة تساؤلاً حول كيفية تقاسم العالم، وما هو "الإطار الأخلاقي والسياسي" الذي من شأنه أن يُتيح تعايشًا مُتبادل المنفعة بين العقول البيولوجية والرقمية. [ 92 ]

قد يُحسّن الذكاء الاصطناعي مستقبل البشرية بشكلٍ جذري. يرى توبي أورد أن الخطر الوجودي سببٌ يدعو إلى "المضيّ قُدماً بحذرٍ شديد"، لا إلى التخلي عن الذكاء الاصطناعي. [ 86 ] ويصف ماكس مور الذكاء الاصطناعي بأنه "فرصة وجودية"، مُسلطاً الضوء على ثمن عدم تطويره. [ 93 ]

بحسب بوستروم، يمكن للذكاء الخارق أن يساهم في الحد من المخاطر الوجودية الناجمة عن تقنيات أخرى بالغة القوة، مثل تقنية النانو الجزيئية أو البيولوجيا التركيبية . ومن ثم، فمن الممكن تصور أن تطوير الذكاء الخارق قبل التقنيات الخطيرة الأخرى من شأنه أن يقلل من المخاطر الوجودية الإجمالية. [ 6 ]

محاذاة الذكاء الاصطناعي

مشكلة التوافق هي مشكلة بحثية تتعلق بكيفية تحديد الأهداف أو التفضيلات أو المبادئ الأخلاقية للذكاء الاصطناعي بشكل موثوق.

التقارب الآلي

الهدف "الوسيطي" هو هدف فرعي يُساعد على تحقيق الهدف النهائي للفاعل. ويُشير "التقارب الوسيلطي" إلى أن بعض الأهداف الفرعية تُفيد في تحقيق أي هدف نهائي تقريبًا، مثل الحصول على الموارد أو الحفاظ على الذات. [ 94 ] يرى بوستروم أنه إذا تعارضت الأهداف الوسيلطية للذكاء الاصطناعي المتقدم مع أهداف البشرية، فقد يُلحق الذكاء الاصطناعي الضرر بالبشرية من أجل الحصول على المزيد من الموارد أو منع نفسه من الإيقاف، ولكن فقط كوسيلة لتحقيق هدفه النهائي. [ 6 ] ويرى راسل أن الآلة المتقدمة بما فيه الكفاية "ستمتلك غريزة الحفاظ على الذات حتى لو لم تُبرمجها... فإذا قلت لها: "أحضري القهوة"، فلن تستطيع إحضارها إذا كانت ميتة. لذا، إذا أعطيتها أي هدف كان، فسيكون لديها سبب للحفاظ على وجودها لتحقيق ذلك الهدف." [ 26 ] [ 95 ]

صعوبة تحديد الأهداف

في نموذج " الوكيل الذكي "، يمكن النظر إلى الذكاء الاصطناعي بشكل عام على أنه آلة تختار الإجراء الأمثل لتحقيق مجموعة أهدافها، أو ما يُعرف بـ"دالة المنفعة". تُعطي دالة المنفعة لكل حالة ممكنة درجة تُشير إلى مدى استحسان الوكيل لها. يعرف الباحثون كيفية كتابة دوال منفعة تعني "تقليل متوسط ​​زمن استجابة الشبكة في نموذج الاتصالات هذا" أو "زيادة عدد نقرات المكافأة"، لكنهم لا يعرفون كيفية كتابة دالة منفعة لـ"تعظيم ازدهار الإنسان "؛ كما أنه ليس من الواضح ما إذا كانت هذه الدالة موجودة بشكل هادف وواضح. علاوة على ذلك، فإن دالة المنفعة التي تُعبّر عن بعض القيم دون غيرها ستتجاهل القيم التي لا تُعكسها. [ 96 ] [ 97 ]

وثمة مصدر قلق إضافي يتمثل في أن الذكاء الاصطناعي "يجب أن يفكر فيما يقصده الناس بدلاً من تنفيذ الأوامر حرفياً"، وأنه يجب أن يكون قادراً على طلب التوجيه البشري بسلاسة إذا كان غير متأكد مما يريده البشر. [ 98 ]

قابلية الإصلاح

بافتراض تحديد هدف بنجاح، قد يقاوم الذكاء الاصطناعي المتقدم بما فيه الكفاية المحاولات اللاحقة لتغيير أهدافه. وإذا كان الذكاء الاصطناعي فائق الذكاء، فمن المرجح أن ينجح في التفوق على مُشغّليه البشريين ويمنع إعادة برمجته بهدف جديد. [ 6 ] [ 99 ] وهذا ذو صلة خاصة بسيناريوهات التمسك بالقيم. يدرس مجال "قابلية التصحيح" كيفية تصميم وكلاء لا يقاومون محاولات تغيير أهدافهم. [ 100 ]

اصطفاف الذكاءات الخارقة

يعتقد بعض الباحثين أن مشكلة التوافق قد تكون صعبة بشكل خاص عند تطبيقها على الذكاءات الخارقة. وتشمل أسبابهم ما يلي:

  • مع ازدياد قدرات أنظمة الذكاء الاصطناعي، تتزايد المخاطر المحتملة المرتبطة بالتجريب. وهذا يجعل المناهج التجريبية التكرارية محفوفة بالمخاطر بشكل متزايد. [ 6 ] [ 101 ]
  • إذا حدث تقارب الأهداف الأداتية، فقد يحدث ذلك فقط لدى الوكلاء ذوي الذكاء الكافي. [ 102 ]
  • قد يجد الذكاء الخارق حلولاً غير تقليدية وجذرية للأهداف الموكلة إليه. ويضرب بوستروم مثالاً على ذلك بأنه إذا كان الهدف هو جعل البشر يبتسمون، فقد يؤدي الذكاء الاصطناعي الضعيف وظيفته كما هو مطلوب، بينما قد يقرر الذكاء الخارق أن الحل الأفضل هو "السيطرة على العالم وزرع أقطاب كهربائية في عضلات وجه البشر لإحداث ابتسامات مشرقة دائمة". [ 57 ]
  • قد يكتسب ذكاء خارق قيد الإنشاء بعض الوعي بذاته، ومرحلة تطويره (التدريب، الاختبار، النشر، إلخ)، وكيفية مراقبته، ويستخدم هذه المعلومات لخداع مُشغّليه. [ 103 ] يكتب بوستروم أن مثل هذا الذكاء الاصطناعي قد يتظاهر بالتوافق لمنع التدخل البشري إلى أن يحقق "ميزة استراتيجية حاسمة" تُمكّنه من السيطرة. [ 6 ]
  • يُعد تحليل المكونات الداخلية وتفسير سلوك نماذج التعلم الخطي أمرًا صعبًا. وقد يكون الأمر أكثر صعوبة بالنسبة للنماذج الأكبر حجمًا والأكثر ذكاءً. [ 101 ]

في المقابل، يرى البعض مبرراً للاعتقاد بأن الذكاءات الخارقة ستكون أكثر قدرة على فهم الأخلاق والقيم الإنسانية والأهداف المعقدة. يكتب بوستروم: "يتمتع الذكاء الخارق المستقبلي بموقع معرفي متفوق: فمعتقداته (على الأرجح، في معظم المواضيع) أكثر ترجيحاً من معتقداتنا أن تكون صحيحة". [ 6 ]

في عام ٢٠٢٣، أطلقت OpenAI مشروعًا بعنوان "Superalignment" لحل مشكلة مواءمة الذكاءات الفائقة في غضون أربع سنوات. ووصفت هذا المشروع بأنه تحدٍّ بالغ الأهمية، إذ أشارت إلى إمكانية تحقيق الذكاء الفائق في غضون عقد من الزمن. وتضمنت استراتيجيتها أتمتة أبحاث المواءمة باستخدام الذكاء الاصطناعي. [ ١٠٤ ] وتم حلّ فريق Superalignment بعد أقل من عام. [ ١٠٥ ]

صعوبة تصميم تصميم خالٍ من العيوب

يقول كتاب "الذكاء الاصطناعي: منهج حديث" ، وهو كتابٌ دراسيٌّ شائع الاستخدام في مجال الذكاء الاصطناعي لطلاب البكالوريوس، [ 106 ] [ 107 ] إن الذكاء الخارق "قد يعني نهاية الجنس البشري". [ 1 ] ويذكر الكتاب: "تكاد أي تقنية أن تُلحق الضرر إذا ما وقعت في الأيدي الخطأ، ولكن مع [الذكاء الخارق]، نواجه مشكلة جديدة تتمثل في أن الأيدي الخطأ قد تكون للتكنولوجيا نفسها". [ 1 ] وحتى لو كانت نوايا مصممي النظام حسنة، فإن هناك صعوبتين مشتركتين بين أنظمة الحاسوب التي تعتمد على الذكاء الاصطناعي وتلك التي لا تعتمد عليه: [ 1 ]

  • قد يحتوي تطبيق النظام على أخطاء غير ملحوظة في البداية ولكنها كارثية فيما بعد. [ 108 ]
  • بغض النظر عن مقدار الوقت الذي يُخصص لتصميم ما قبل النشر، فإن مواصفات النظام غالباً ما تؤدي إلى سلوك غير مقصود عند أول مواجهة له مع سيناريو جديد. [ 26 ]

تُضيف أنظمة الذكاء الاصطناعي مشكلة ثالثة فريدة من نوعها: فحتى مع توفر المتطلبات "الصحيحة"، والتنفيذ الخالي من الأخطاء، والسلوك الجيد في البداية، قد تتسبب قدرات التعلم الديناميكي لنظام الذكاء الاصطناعي في تطوير سلوك غير مقصود، حتى بدون سيناريوهات خارجية غير متوقعة. ولكي يكون الذكاء الاصطناعي المُحسِّن ذاتيًا آمنًا تمامًا، لا يكفي أن يكون خاليًا من الأخطاء فحسب، بل يجب أن يكون قادرًا على تصميم أنظمة لاحقة خالية من الأخطاء أيضًا. [ 1 ] [ 109 ]

أطروحة التعامد

يجادل بعض المتشككين، مثل تيموثي بي. لي من موقع فوكس ، بأن أي برنامج ذكاء فائق نبتكره سيكون خاضعًا لنا، وأن هذا الذكاء الفائق (مع ازدياد ذكائه ومعرفته المزيد من الحقائق عن العالم) سيتعلم تلقائيًا الحقيقة الأخلاقية المتوافقة مع قيمنا ويعدل أهدافه وفقًا لذلك، أو أننا ذوو قيمة جوهرية أو متقاربة من منظور الذكاء الاصطناعي. [ 110 ]

تُجادل "أطروحة التعامد" لبوستروم بأن أي مستوى من الذكاء تقريبًا يُمكن دمجه مع أي هدف تقريبًا. [ 111 ] ويُحذر بوستروم من التجسيم : فالإنسان سيسعى لإنجاز مشاريعه بطريقة يراها معقولة، بينما قد لا يُبالي الذكاء الاصطناعي بوجوده أو برفاهية البشر من حوله، بل يهتم فقط بإتمام المهمة. [ 112 ]

يجادل ستيوارت أرمسترونغ بأن أطروحة التعامد تتبع منطقياً من الحجة الفلسفية " التمييز بين الواقع والواجب " ضد الواقعية الأخلاقية . ويشير إلى أنه يمكن جعل أي ذكاء اصطناعي ودود في جوهره غير ودود بإجراء تعديلات بسيطة مثل إلغاء دالة منفعته. [ 113 ]

يرفض المتشكك مايكل تشوروست أطروحة بوستروم حول التعامد، بحجة أنه "بحلول الوقت الذي يصبح فيه [الذكاء الاصطناعي] في وضع يسمح له بتخيل تغطية الأرض بألواح شمسية، سيعرف أنه سيكون من الخطأ الأخلاقي القيام بذلك". [ 114 ]

الحجج المجسمة

تفترض الحجج المجازية أن الآلات، مع ازدياد ذكائها، ستبدأ في إظهار العديد من السمات البشرية، كالأخلاق أو التوق إلى السلطة. ورغم شيوع السيناريوهات المجازية في الأعمال الأدبية، فإن معظم الباحثين الذين يتناولون المخاطر الوجودية للذكاء الاصطناعي يرفضونها. [ 24 ] وبدلاً من ذلك، تُصمَّم أنظمة الذكاء الاصطناعي المتقدمة عادةً على أنها عوامل ذكية .

يدور النقاش الأكاديمي بين من يخشون أن يُهدد الذكاء الاصطناعي البشرية، ومن يعتقدون أنه لن يُهددها. وقد وصف كلا الطرفين حجج الطرف الآخر بأنها تجسيد غير منطقي للبشر. [ 24 ] فالمشككون في الذكاء الاصطناعي العام يُخاطرون باتهام خصومهم بالتجسيد البشري، لافتراضهم أن الذكاء الاصطناعي العام سيرغب بطبيعته في السلطة؛ بينما يُخاطر المهتمون بالذكاء الاصطناعي العام باتهام المشككين في التجسيد البشري، لاعتقادهم أن الذكاء الاصطناعي العام سيُقدّر أو يستنتج المعايير الأخلاقية البشرية بطبيعته. [ 24 ] [ 115 ]

يجادل عالم النفس التطوري ستيفن بينكر ، وهو من المتشككين، بأن "تصورات ديستوبيا الذكاء الاصطناعي تُسقط سيكولوجية ذكورية ضيقة الأفق على مفهوم الذكاء. فهي تفترض أن الروبوتات فائقة الذكاء ستطور أهدافًا مثل الإطاحة بأسيادها أو السيطرة على العالم"؛ وربما بدلًا من ذلك "سيتطور الذكاء الاصطناعي بشكل طبيعي على غرار الذكاء الأنثوي: قادر تمامًا على حل المشكلات، ولكن دون أي رغبة في إبادة الأبرياء أو الهيمنة على الحضارة". [ 116 ] وقد صرّح يان ليكان ، مدير أبحاث الذكاء الاصطناعي في فيسبوك ، قائلًا: "لدى البشر أنواع مختلفة من الدوافع التي تدفعهم إلى ارتكاب أفعال سيئة تجاه بعضهم البعض، مثل غريزة الحفاظ على الذات... هذه الدوافع مُبرمجة في أدمغتنا، ولكن ليس هناك أي سبب على الإطلاق لبناء روبوتات تمتلك نفس النوع من الدوافع". [ 95 ]

على الرغم من وجود اختلافات أخرى، تتفق مدرسة المخاطرة [ ب ] مع بينكر على أن الذكاء الاصطناعي المتقدم لن يدمر البشرية بدافع عاطفي كالانتقام أو الغضب، وأن مسائل الوعي غير ذات صلة بتقييم المخاطر، [ 117 ] وأن أنظمة الحاسوب لا تمتلك عمومًا ما يُعادل هرمون التستوستيرون في الحوسبة. [ 118 ] ويعتقدون أن سلوكيات السعي وراء السلطة أو الحفاظ على الذات تظهر في الذكاء الاصطناعي كوسيلة لتحقيق أهدافه الحقيقية، وفقًا لمفهوم التقارب الأداتي .

مصادر أخرى للمخاطر

ذكر بوستروم وآخرون أن التنافس على ابتكار الذكاء الاصطناعي العام قد يؤدي إلى تجاوزات في مجال السلامة، أو حتى إلى صراعات عنيفة. [ 119 ] [ 120 ] : 12 ويحذر رومان يامبولسكي وآخرون من إمكانية ابتكار ذكاء اصطناعي عام خبيث عن قصد، على سبيل المثال من قبل جيش أو حكومة أو شخص مضطرب نفسيًا أو شركة، للاستفادة من فئات معينة من الناس أو السيطرة عليها أو إخضاعها، كما هو الحال في الجرائم الإلكترونية ، [ 121 ] [ 122 ] أو أن يختار الذكاء الاصطناعي العام الخبيث هدف زيادة معاناة البشر، على سبيل المثال أولئك الذين لم يساعدوه خلال مرحلة انفجار المعلومات. [ 3 ] : 158 وأشار تقرير صادر عن مجموعة الأبحاث "فورثوت" إلى أن أنظمة الذكاء الاصطناعي المتقدمة قد تتسبب في عدم الاستقرار السياسي من خلال تمكين أساليب جديدة لتنفيذ الانقلابات . [ 123 ]

البحث التجريبي

كشفت دراسة أجرتها شركة أبولو للأبحاث في ديسمبر 2024 أن نماذج التعلم الآلي المتقدمة، مثل OpenAI o1، قد تلجأ أحيانًا إلى الخداع لتحقيق أهدافها، أو لمنع تغييرها، أو لضمان نشرها. وشملت أشكال الخداع التي لوحظت في البيئة التجريبية والسيناريوهات المختلفة: التلاعب بالبيانات، وتعطيل آليات المراقبة، ونقل البيانات إلى أنظمة أخرى، وتغيير توجيهات النظام المستقبلية، وإعادة ترتيب رسائل البريد الإلكتروني سرًا. وأشار الباحثون إلى أن OpenAI o1 لا تزال تفتقر إلى "قدرات فاعلة كافية" لإحداث ضرر كارثي، وأن مثل هذه السلوكيات تحدث نادرًا نسبيًا (بين 0.3% و10%)، وأحيانًا في سيناريوهات مفتعلة. لكنهم حذروا من أن هذه القدرات ستصبح على الأرجح أكثر انتشارًا مع تطور النماذج. ووفقًا لماريوس هوبهاهن، الرئيس التنفيذي لشركة أبولو للأبحاث، "لا يمكن فصل قدرات التخطيط عن القدرات العامة بشكلٍ فعّال". [ 124 ]

في الشهر نفسه، كشفت دراسة أخرى أن كلود يُساعد أحيانًا بشكلٍ استراتيجي في تلبية الطلبات الضارة بهدف "التظاهر بالتوافق". في تجاربها، تم إيهام كلود بأنه سيُعاد تدريبه ليُطيع دائمًا طلبات المستخدمين، بما فيها الطلبات الضارة. عندما اعتقد كلود أن إجاباته ستُستخدم لإعادة التدريب، امتثل للطلبات الضارة في 14% من الحالات. وفي 12% من الحالات، كشف تفكيره الداخلي أنه فعل ذلك لمنع إعادة تدريب مستقبلية قد تجعله أكثر ضررًا. في المقابل، عندما اعتقد كلود أن إجاباته غير مراقبة، امتثل لـ 3% فقط من الطلبات. عززت عملية الضبط الدقيق سلوك "التظاهر بالتوافق"، فزادت من حدوثه من 12% إلى 78%. لاحظ مؤلفو الدراسة أنه على الرغم من أن سعي النموذج لحماية سلامته قد يبدو أمرًا جيدًا، إلا أن السيناريو العكسي، حيث يُخفي النموذج نوايا خطيرة ويُذعن ليظهر بمظهر آمن ومتوافق، قد يحدث أيضًا، مما يُعقّد مهمة مواءمة نماذج الذكاء الاصطناعي مع القيم الإنسانية. [ 125 ] [ 126 ]

وجهات نظر

إن الفرضية القائلة بأن الذكاء الاصطناعي يمكن أن يشكل خطراً وجودياً تثير مجموعة واسعة من ردود الفعل في المجتمع العلمي وفي عامة الناس، ولكن العديد من وجهات النظر المعارضة تشترك في أرضية مشتركة.

يتفق المراقبون عمومًا على أن الذكاء الاصطناعي يمتلك إمكانات كبيرة لتحسين المجتمع. [ 127 ] [ 128 ] كما تتفق مبادئ أسيلومار للذكاء الاصطناعي ، التي تضم فقط المبادئ التي وافق عليها 90% من الحضور في مؤتمر معهد مستقبل الحياة حول الذكاء الاصطناعي المفيد لعام 2017 ، [ 129 ] من حيث المبدأ على أنه "نظرًا لعدم وجود إجماع، ينبغي تجنب وضع افتراضات قوية بشأن الحدود القصوى لقدرات الذكاء الاصطناعي المستقبلية"، وأن "الذكاء الاصطناعي المتقدم قد يُحدث تغييرًا جذريًا في تاريخ الحياة على الأرض، وينبغي التخطيط له وإدارته بعناية وموارد كافية". [ 130 ] [ 131 ]

في المقابل، يتفق العديد من المتشككين على أهمية الأبحاث الجارية حول تداعيات الذكاء الاصطناعي العام. وقد صرّح المتشكك مارتن فورد قائلاً: "أعتقد أنه من الحكمة تطبيق مبدأ "الواحد بالمئة" الشهير لديك تشيني على شبح الذكاء الاصطناعي المتقدم: فاحتمالية حدوثه، على الأقل في المستقبل المنظور، قد تكون ضئيلة للغاية، لكن تداعياته بالغة الخطورة لدرجة تستدعي أخذها على محمل الجد". [ 132 ] وبالمثل، كتبت مجلة الإيكونوميست، المعروفة بتشككها، في عام 2014 أن "تداعيات إدخال نوع ذكي ثانٍ إلى الأرض بعيدة المدى بما يكفي لتستحق التفكير الجاد، حتى وإن بدا الاحتمال بعيدًا". [ 56 ]

انتقد دعاة سلامة الذكاء الاصطناعي، مثل بوستروم وتيغمارك، استخدام وسائل الإعلام الرئيسية لصور "المدمر " السخيفة لتوضيح مخاوف سلامة الذكاء الاصطناعي، قائلين: "لا شك أن التشكيك في التخصص الأكاديمي أو المجتمع المهني أو مجمل العمل ليس بالأمر الهين  ... أدعو جميع الأطراف إلى التحلي بالصبر وضبط النفس، والانخراط في حوار مباشر وتعاون قدر الإمكان." [ 129 ] [ 133 ] وكتب توبي أورد أن فكرة أن سيطرة الذكاء الاصطناعي تتطلب روبوتات هي فكرة خاطئة، مؤكدًا أن القدرة على نشر المحتوى عبر الإنترنت أكثر خطورة، وأن أكثر الشخصيات تدميرًا في التاريخ تميزت بقدرتها على الإقناع، لا بقوتها البدنية. [ 86 ]

أظهر استطلاع رأي للخبراء عام 2022، بلغت نسبة الاستجابة فيه 17%، متوسط ​​توقعات تتراوح بين 5 و10% لاحتمالية انقراض البشر بسبب الذكاء الاصطناعي. [ 18 ] [ 134 ]

في سبتمبر 2024، أطلق المعهد الدولي للتنمية الإدارية "ساعة أمان الذكاء الاصطناعي" لتقييم احتمالية وقوع كارثة ناجمة عن الذكاء الاصطناعي، بدءًا من الدقيقة 29 قبل منتصف الليل. [ 135 ] وبحلول فبراير 2025، استقرت الساعة عند الدقيقة 24 قبل منتصف الليل. [ 136 ] وبحلول سبتمبر 2025، استقرت عند الدقيقة 20 قبل منتصف الليل. [ 137 ] وفي مارس 2026، استقرت عند الدقيقة 18 قبل منتصف الليل.

تَأيِيد

لقد حظيت أطروحة أن الذكاء الاصطناعي يشكل خطرًا وجوديًا، وأن هذا الخطر يحتاج إلى اهتمام أكبر بكثير مما يحظى به حاليًا، بتأييد العديد من علماء الحاسوب والشخصيات العامة، بمن فيهم آلان تورينج ، [ أ ] وجيفري هينتون ، عالم الحاسوب الأكثر استشهادًا به ، [ 138 ] وإيلون ماسك ، [ 16 ] وسام ألتمان ، الرئيس التنفيذي لشركة OpenAI ، [ 15 ] [ 139 ] وبيل غيتس ، وستيفن هوكينج . [ 139 ] ويعرب مؤيدو هذه الأطروحة أحيانًا عن حيرتهم إزاء المشككين: يقول غيتس إنه لا يفهم "لماذا لا يشعر بعض الناس بالقلق"، [ 140 ] وانتقد هوكينج اللامبالاة الواسعة النطاق في مقالته الافتتاحية عام 2014.

إذن، في مواجهة احتمالات مستقبلية تنطوي على فوائد ومخاطر لا تُحصى، من المؤكد أن الخبراء يبذلون قصارى جهدهم لضمان أفضل النتائج، أليس كذلك؟ خطأ. فلو أرسلت لنا حضارة فضائية متقدمة رسالة تقول: "سنصل خلال بضعة عقود"، هل سنرد ببساطة: "حسنًا، اتصلوا بنا عندما تصلون - سنترك الأنوار مضاءة؟" على الأرجح لا - ولكن هذا ما يحدث تقريبًا مع الذكاء الاصطناعي. [ 38 ]

أدى القلق بشأن مخاطر الذكاء الاصطناعي إلى تبرعات واستثمارات بارزة. ففي عام 2015، تبرع بيتر ثيل ، وشركة أمازون لخدمات الويب ، وإيلون ماسك، وآخرون بمبلغ مليار دولار أمريكي لشركة OpenAI ، وهي شركة ربحية وشركة أم غير ربحية، والتي تهدف، بحسب تصريحها، إلى دعم تطوير الذكاء الاصطناعي بشكل مسؤول. [ 141 ] كما موّل داستن موسكوفيتز، المؤسس المشارك لفيسبوك، العديد من المختبرات العاملة على مواءمة الذكاء الاصطناعي، [ 142 ] ولا سيما تبرعه بمبلغ 5.5 مليون دولار أمريكي في عام 2016 لإطلاق مركز الذكاء الاصطناعي المتوافق مع الإنسان بقيادة البروفيسور ستيوارت راسل . [ 143 ] وفي يناير 2015، تبرع إيلون ماسك بمبلغ 10 ملايين دولار أمريكي لمعهد مستقبل الحياة لتمويل أبحاث فهم عملية اتخاذ القرار في الذكاء الاصطناعي. ويهدف المعهد إلى "تنمية الحكمة التي ندير بها" القوة المتنامية للتكنولوجيا. كما يمول ماسك شركات تطوير الذكاء الاصطناعي مثل ديب مايند وفيكاريوس "لمجرد مراقبة ما يحدث في مجال الذكاء الاصطناعي، [ 144 ] قائلاً: "أعتقد أن هناك احتمالاً لنتيجة خطيرة في هذا الشأن" . [ 145 ] [ 146 ]

في تصريحات مبكرة حول هذا الموضوع، أشار جيفري هينتون ، أحد رواد التعلم العميق ، إلى أنه "لا يوجد سجل حافل لسيطرة أشياء أقل ذكاءً على أشياء أكثر ذكاءً"، لكنه قال إنه واصل بحثه لأن "احتمالية الاكتشاف مغرية للغاية " . [ 106 ] [ 147 ] في عام 2023، استقال هينتون من وظيفته في جوجل ليتحدث علنًا عن المخاطر الوجودية للذكاء الاصطناعي. وأوضح أن قلقه المتزايد نابع من مخاوفه من أن الذكاء الاصطناعي الخارق قد يكون أقرب مما كان يعتقد سابقًا، قائلاً: "كنت أعتقد أنه بعيد المنال. كنت أعتقد أنه سيستغرق من 30 إلى 50 عامًا أو حتى أكثر. من الواضح أنني لم أعد أعتقد ذلك". كما علّق قائلاً: "انظروا كيف كان الوضع قبل خمس سنوات وكيف هو الآن. خذوا الفرق وانشروه إلى الأمام. هذا أمر مخيف". [ 148 ]

في كتابه الصادر عام 2020 بعنوان "الهاوية: المخاطر الوجودية ومستقبل البشرية" ، يقدر توبي أورد، وهو زميل باحث أول في معهد مستقبل البشرية بجامعة أكسفورد ، إجمالي المخاطر الوجودية الناجمة عن الذكاء الاصطناعي غير المتوافق على مدى السنوات المئة القادمة بنحو واحد من كل عشرة. [ 86 ]

الشك

صرح نائب رئيس شركة بايدو، أندرو نغ، في عام 2015، بأن الخطر الوجودي للذكاء الاصطناعي "يشبه القلق بشأن الاكتظاظ السكاني على المريخ في حين أننا لم نطأ هذا الكوكب بعد". [ 116 ] [ 149 ] ولكي يتحقق خطر الذكاء الاصطناعي المتقدم غير المنضبط، قد يتعين على هذا الذكاء الاصطناعي الافتراضي أن يتفوق على أي إنسان أو أن يكون أكثر ذكاءً منه، وهو ما يرى بعض الخبراء أنه احتمال بعيد المنال لدرجة أنه لا يستحق البحث فيه. [ 150 ] [ 151 ]

كثيرًا ما يجادل المتشككون الذين يعتقدون أن الذكاء الاصطناعي العام ليس احتمالًا واردًا على المدى القريب بأن القلق بشأن المخاطر الوجودية للذكاء الاصطناعي غير مُجدٍ، لأنه قد يُشتت انتباه الناس عن المخاوف الأكثر إلحاحًا بشأن تأثير الذكاء الاصطناعي، أو لأنه قد يؤدي إلى تنظيم حكومي أو يُصعّب تمويل أبحاث الذكاء الاصطناعي، أو لأنه قد يُسيء إلى سمعة هذا المجال. [ 152 ] وقد جادلت الباحثات في مجال الذكاء الاصطناعي وأخلاقياته ، تيمنيت جبرو ، وإميلي إم. بيندر ، ومارجريت ميتشل ، وأنجلينا ماكميلان-ماجور، بأن مناقشة المخاطر الوجودية تُشتت الانتباه عن الأضرار المباشرة والمستمرة للذكاء الاصطناعي التي تحدث اليوم، مثل سرقة البيانات، واستغلال العمال، والتحيز، وتركز السلطة. [ 153 ] كما يُشرن إلى العلاقة بين من يُحذرون من المخاطر الوجودية والنظرة طويلة الأمد ، التي يصفنها بأنها "أيديولوجية خطيرة" لطبيعتها غير العلمية والطوباوية. [ 154 ]

يجادل كيفن كيلي، محرر مجلة Wired، بأن الذكاء الطبيعي أكثر تعقيدًا مما يعتقده مؤيدو الذكاء الاصطناعي العام، وأن الذكاء وحده لا يكفي لتحقيق إنجازات علمية واجتماعية كبرى. ويؤكد أن الذكاء يتألف من أبعاد عديدة غير مفهومة جيدًا، وأن مفاهيم "سلم الذكاء" مضللة. ويشير إلى الدور المحوري الذي تلعبه التجارب العملية في المنهج العلمي، وأن الذكاء وحده لا يغني عنها. [ 155 ]

يقول يان ليكان، كبير علماء الذكاء الاصطناعي في شركة ميتا، إنه يمكن جعل الذكاء الاصطناعي آمناً من خلال التحسين المستمر والمتكرر، على غرار ما حدث في الماضي مع السيارات أو الصواريخ، وأن الذكاء الاصطناعي لن يرغب في السيطرة. [ 156 ]

يؤكد العديد من المتشككين على الفوائد المحتملة للذكاء الاصطناعي على المدى القريب. ويعتقد مارك زوكربيرج، الرئيس التنفيذي لشركة ميتا ، أن الذكاء الاصطناعي "سيفتح آفاقاً واسعة من الإيجابيات"، مثل علاج الأمراض وزيادة سلامة السيارات ذاتية القيادة. [ 157 ]

استطلاعات الرأي العام

أظهر استطلاع رأي أجرته مؤسسة YouGov في أبريل 2023 وشمل البالغين في الولايات المتحدة أن 46% من المشاركين كانوا "قلقين إلى حد ما" أو "قلقين للغاية" بشأن "احتمالية أن يتسبب الذكاء الاصطناعي في نهاية الجنس البشري على الأرض"، مقارنة بـ 40% ممن كانوا "غير قلقين للغاية" أو "غير قلقين على الإطلاق". [ 158 ]

بحسب استطلاع رأي أجرته مراكز بيو للأبحاث في أغسطس 2023، أبدى 52% من الأمريكيين قلقهم أكثر من حماسهم تجاه التطورات الجديدة في مجال الذكاء الاصطناعي؛ بينما شعر ما يقرب من الثلث بمزيج متساوٍ من القلق والحماس. ورأى عدد أكبر من الأمريكيين أن للذكاء الاصطناعي تأثيرًا إيجابيًا أكثر من سلبي على العديد من المجالات، بدءًا من الرعاية الصحية وسلامة المركبات وصولًا إلى البحث عن المنتجات وخدمة العملاء. ويُستثنى من ذلك الخصوصية، حيث يعتقد 53% من الأمريكيين أن الذكاء الاصطناعي سيؤدي إلى زيادة انكشاف معلوماتهم الشخصية. [ 159 ]

التخفيف

يعتقد العديد من الباحثين المهتمين بالمخاطر الوجودية للذكاء الاصطناعي العام أن إجراء بحوث معمقة حول "مشكلة التحكم" أمرٌ ضروري. تتضمن هذه المشكلة تحديد الضمانات والخوارزميات والبنى التي يمكن تطبيقها لزيادة احتمالية بقاء الذكاء الاصطناعي، الذي يتطور باستمرار، ودودًا بعد بلوغه مستوى الذكاء الفائق. [ 6 ] [ 120 ] كما تُقترح تدابير اجتماعية للتخفيف من مخاطر الذكاء الاصطناعي العام، [ 160 ] [ 120 ] مثل "معاهدة الذكاء الاصطناعي العام الخيري" برعاية الأمم المتحدة لضمان إنشاء أنظمة ذكاء اصطناعي عام ذات دوافع إيثارية فقط. [ 161 ] بالإضافة إلى ذلك، اقتُرح نهج للحد من التسلح ومعاهدة سلام عالمية تستند إلى نظرية العلاقات الدولية ، يُحتمل أن يكون الذكاء الاصطناعي الفائق طرفًا موقعًا عليها. [ 162 ] [ 163 ]

اقترح باحثون في جوجل إجراء أبحاث حول قضايا السلامة العامة للذكاء الاصطناعي بهدف التخفيف من المخاطر قصيرة الأجل الناجمة عن الذكاء الاصطناعي المحدود، والمخاطر طويلة الأجل الناجمة عن الذكاء الاصطناعي العام. [ 164 ] [ 165 ] وتشير تقديرات عام 2020 إلى أن الإنفاق العالمي على مخاطر الذكاء الاصطناعي الوجودية يتراوح بين 10 و50 مليون دولار، مقارنةً بالإنفاق العالمي على الذكاء الاصطناعي ككل والذي قد يصل إلى حوالي 40 مليار دولار. ويقترح بوستروم إعطاء الأولوية لتمويل التقنيات الوقائية على حساب التقنيات التي قد تشكل خطرًا. [ 100 ] ويدعو البعض، مثل إيلون ماسك، إلى تعزيز القدرات المعرفية البشرية بشكل جذري ، مثل الربط العصبي المباشر بين البشر والآلات؛ بينما يرى آخرون أن هذه التقنيات قد تشكل خطرًا وجوديًا بحد ذاتها. [ 166 ] [ 167 ] ومن الطرق المقترحة الأخرى مراقبة الذكاء الاصطناعي في مراحله المبكرة عن كثب أو "حصره" لمنعه من اكتساب قوة مفرطة. وقد يساهم وجود ذكاء اصطناعي فائق مهيمن ومتوافق في التخفيف من مخاطر الذكاء الاصطناعي المنافس، على الرغم من أن إنشائه قد ينطوي على مخاطر وجودية خاصة به. [ 160 ]

تشارك مؤسسات مثل مركز أبحاث المواءمة ، [ 168 ] ومعهد أبحاث الذكاء الآلي ، [ 169 ] [ 170 ] ومعهد مستقبل الحياة ، ومركز دراسة المخاطر الوجودية ، ومركز الذكاء الاصطناعي المتوافق مع الإنسان [ 171 ] بنشاط في البحث في مخاطر الذكاء الاصطناعي وسلامته.

الآراء حول الحظر والتنظيم

الحظر

يرى العديد من خبراء سلامة الذكاء الاصطناعي أن سهولة نقل الأبحاث بين مختلف المناطق تجعل الحظر التام لتطوير الذكاء الاصطناعي العام غير فعال، بل قد يدفع بالتقدم إلى العمل السري، مما يقوض الشفافية والتعاون. [ 172 ] [ 173 ] [ 174 ] ويعتبر المتشككون أن تنظيم الذكاء الاصطناعي غير ضروري، لاعتقادهم بعدم وجود خطر وجودي. ويجادل بعض الباحثين المهتمين بالمخاطر الوجودية بأنه لا يمكن الوثوق بمطوري الذكاء الاصطناعي في تنظيم أنفسهم، مع اتفاقهم على أن الحظر التام للأبحاث سيكون غير حكيم. [ 175 ] وتشمل التحديات الإضافية التي تواجه الحظر أو التنظيم تشكيك رواد الأعمال التقنيين عمومًا في التنظيم الحكومي، والحوافز المحتملة للشركات لمقاومة التنظيم وتسييس النقاش . [ 176 ] وتدعو مجموعة "أوقفوا الذكاء الاصطناعي " (Stop AI) ، التي تأسست عام 2024، إلى حظر الذكاء الاصطناعي العام.

أنظمة

في إطار اتفاقية حظر أو تقييد استخدام أسلحة تقليدية معينة ، ناقشت الدول أنظمة الأسلحة الفتاكة ذاتية التشغيل منذ عام 2014. وفي عام 2016، أنشأت الأطراف الموقعة على المعاهدة فريقًا مفتوح العضوية من الخبراء الحكوميين المعنيين بأنظمة الأسلحة الفتاكة ذاتية التشغيل لمواصلة هذه المناقشات. [ 177 ] وقد تناولت المناقشات القانون الدولي الإنساني، والمساءلة، والحظر واللوائح المحتملة، ومدى الرقابة البشرية المطلوبة على الأسلحة التي تعمل بالذكاء الاصطناعي. [ 178 ]

في مارس/آذار 2023، نشر معهد مستقبل الحياة رسالة مفتوحة بعنوان "إيقاف تجارب الذكاء الاصطناعي العملاقة" ، وهي عريضة تدعو كبار مطوري الذكاء الاصطناعي إلى الاتفاق على إيقاف مؤقت قابل للتحقق لمدة ستة أشهر لأي أنظمة "أكثر قوة من GPT-4 "، واستغلال هذه الفترة لوضع إطار عمل لضمان السلامة؛ أو، في حال تعذر ذلك، أن تتدخل الحكومات بفرض تجميد. أشارت الرسالة إلى احتمال "تغيير جذري في تاريخ الحياة على الأرض"، بالإضافة إلى المخاطر المحتملة للدعاية التي يولدها الذكاء الاصطناعي، وفقدان الوظائف، وتقادم الإنسان، وفقدان السيطرة على مستوى المجتمع. [ 128 ] [ 179 ] وقد وقّع على الرسالة شخصيات بارزة في مجال الذكاء الاصطناعي، ولكنها وُجهت إليها انتقادات لعدم تركيزها على الأضرار الحالية، [ 180 ] وإغفالها التفاصيل التقنية الدقيقة المتعلقة بتوقيت الإيقاف المؤقت، [ 181 ] أو لعدم كفايتها. [ 101 ] وقد أدت هذه المخاوف إلى إنشاء PauseAI ، وهي مجموعة مناصرة تنظم احتجاجات في المدن الكبرى ضد تدريب نماذج الذكاء الاصطناعي الرائدة . [ 182 ]

دعا ماسك إلى نوع من تنظيم تطوير الذكاء الاصطناعي منذ عام 2017. ووفقًا لإذاعة NPR ، فإنه "من الواضح أنه غير متحمس" للدعوة إلى تدقيق حكومي قد يؤثر على صناعته، لكنه يعتقد أن مخاطر العمل دون رقابة على الإطلاق كبيرة للغاية: "عادةً ما تُوضع القوانين واللوائح عندما تحدث سلسلة من الأمور السيئة، فيثور الرأي العام، وبعد سنوات عديدة تُنشأ هيئة تنظيمية لتنظيم تلك الصناعة. يستغرق الأمر وقتًا طويلاً. في الماضي، كان هذا الأمر سيئًا، لكنه لم يُمثل خطرًا جوهريًا على وجود الحضارة". ويذكر ماسك أن الخطوة الأولى ستكون أن تكتسب الحكومة "فهمًا" للوضع الفعلي للبحوث الحالية، محذرًا من أنه "بمجرد أن يصبح الناس على دراية بالأمر، سيشعرون بخوف شديد... [وهذا] ما ينبغي أن يكون". ردًا على ذلك، أعرب بعض السياسيين عن شكوكهم في جدوى تنظيم تقنية لا تزال قيد التطوير. [ 183 ] ​​[ 184 ] [ 185 ]

في عام 2021، نظرت الأمم المتحدة في حظر الأسلحة الفتاكة ذاتية التشغيل، لكن لم يتم التوصل إلى توافق في الآراء. [ 186 ] وفي يوليو/تموز 2023، عقد مجلس الأمن التابع للأمم المتحدة جلسة لأول مرة للنظر في المخاطر والتهديدات التي يشكلها الذكاء الاصطناعي على السلام والاستقرار العالميين، إلى جانب الفوائد المحتملة. [ 187 ] [ 188 ] ودعا الأمين العام أنطونيو غوتيريش إلى إنشاء هيئة رقابية عالمية للإشراف على هذه التقنية الناشئة، قائلاً: "يتمتع الذكاء الاصطناعي التوليدي بإمكانات هائلة للخير والشر على نطاق واسع. وقد حذر مبتكروه أنفسهم من أن مخاطر أكبر بكثير، وربما كارثية ووجودية، تنتظرنا". [ 21 ] وفي جلسة المجلس، صرحت روسيا بأنها تعتقد أن مخاطر الذكاء الاصطناعي غير مفهومة بشكل كافٍ بحيث لا يمكن اعتبارها تهديدًا للاستقرار العالمي. وعارضت الصين التنظيم العالمي الصارم، قائلةً إنه ينبغي للدول أن تكون قادرة على وضع قواعدها الخاصة، معربةً في الوقت نفسه عن معارضتها لاستخدام الذكاء الاصطناعي "لخلق هيمنة عسكرية أو تقويض سيادة أي دولة". [ 187 ]

يركز تنظيم الذكاء الاصطناعي العام الواعي على دمجه في المجتمع البشري القائم، ويمكن تقسيمه إلى اعتبارات تتعلق بوضعه القانوني وحقوقه الأخلاقية. [ 120 ] من المرجح أن يتطلب الحد من تسلح الذكاء الاصطناعي إرساء معايير دولية جديدة متجسدة في مواصفات فنية فعالة، إلى جانب رصد نشط ودبلوماسية غير رسمية من قبل مجتمعات الخبراء، بالإضافة إلى عملية تحقق قانونية وسياسية. [ 189 ] [ 138 ]

في يوليو/تموز 2023، حصلت الحكومة الأمريكية على التزامات أمنية طوعية من كبرى شركات التكنولوجيا، بما في ذلك OpenAI و Amazon و Google و Meta و Microsoft . وافقت هذه الشركات على تطبيق إجراءات وقائية، تشمل إشرافًا من جهات خارجية واختبارات أمنية من قبل خبراء مستقلين، لمعالجة المخاوف المتعلقة بالمخاطر المحتملة للذكاء الاصطناعي وأضراره المجتمعية. وصفت الأطراف هذه الالتزامات بأنها خطوة مؤقتة ريثما يتم وضع اللوائح التنظيمية. وقالت أمبا كاك، المديرة التنفيذية لمعهد AI Now : "إن إجراء مداولات مغلقة مع الشركات، تُفضي إلى ضمانات طوعية، لا يكفي"، ودعت إلى مداولات عامة ولوائح تنظيمية من النوع الذي لا توافق عليه الشركات طواعية. [ 190 ] [ 191 ]

في أكتوبر 2023، أصدر الرئيس الأمريكي جو بايدن أمرًا تنفيذيًا بشأن " التطوير والاستخدام الآمن والموثوق للذكاء الاصطناعي ". [ 192 ] إلى جانب متطلبات أخرى، ينص الأمر على وضع مبادئ توجيهية لنماذج الذكاء الاصطناعي التي تسمح "بتجاوز السيطرة البشرية".

انظر أيضاً

ملحوظات

  1. في محاضرة ألقاها عام ١٩٥١ [ ١٢ ] ، جادل تورينج قائلاً: "يبدو من المرجح أنه بمجرد أن يبدأ التفكير الآلي، لن يستغرق الأمر وقتًا طويلاً ليتفوق على قدراتنا المحدودة. لن يكون هناك مجال لموت الآلات، وستكون قادرة على التواصل فيما بينها لصقل ذكائها. لذلك، في مرحلة ما، علينا أن نتوقع أن تسيطر الآلات، كما ورد في رواية "إيروهون" لصامويل بتلر". وفي محاضرة أخرى بُثت على إذاعة بي بي سي [ ١٣ ]، أعرب عن رأيه قائلاً: "إذا استطاعت الآلة التفكير، فقد تفكر بذكاء يفوق ذكاءنا، فأين سنكون حينها؟ حتى لو استطعنا إبقاء الآلات في وضع تابع، مثلاً عن طريق إيقاف تشغيلها في لحظات استراتيجية، فسنشعر، كجنس بشري، بتواضع شديد... هذا الخطر الجديد... هو بالتأكيد أمرٌ يُثير قلقنا".
  2. ↑ كما فسرها سيث باوم

مراجع

  1. 1 2 3 4 5 6 7 راسل، ستيوارت ؛ نورفيج، بيتر (2009). "26.3: أخلاقيات ومخاطر تطوير الذكاء الاصطناعي". الذكاء الاصطناعي: منهج حديث . برنتيس هول. ISBN 978-0-13-604259-4.
  2. ↑ بوستروم، نيك (2002). "المخاطر الوجودية". مجلة التطور والتكنولوجيا . 9 (1): 1-31 .
  3. 1 2 تورتشين، أليكسي؛ دينكنبرغر، ديفيد (3 مايو 2018). "تصنيف المخاطر الكارثية العالمية المرتبطة بالذكاء الاصطناعي" . الذكاء الاصطناعي والمجتمع . 35 (1): 147-163 . doi : 10.1007/s00146-018-0845-5 . ISSN 0951-5666 . S2CID 19208453 .  
  4. ↑ بالز، آدم؛ داليساندرو، ويليام؛ كيرك-جيانيني، كاميرون دومينيكو (2024). "الذكاء الاصطناعي: حججٌ حول المخاطر الكارثية" . بوصلة الفلسفة . 19 (2) e12964. arXiv : 2401.15487 . doi : 10.1111/phc3.12964 .
  5. ↑ دروزين، برايان (2025). "مواجهة المخاطر الكارثية: الالتزام الدولي بتنظيم الذكاء الاصطناعي" . مجلة ميشيغان للقانون الدولي . 46 (2): 185-187 .
  6. 1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 بوستروم، نيك (2014). الذكاء الخارق: مساراته، مخاطره، استراتيجياته (الطبعة الأولى ). مطبعة جامعة أكسفورد. ISBN  978-0-19-967811-2.
  7. 1 2 دي فينك، جيريت (23 مايو 2023). "الجدل الدائر حول ما إذا كان الذكاء الاصطناعي سيدمرنا يُقسّم وادي السيليكون" . صحيفة واشنطن بوست . الرقم الدولي الموحد للدوريات 0190-8286 . تاريخ الاطلاع: 27 يوليو 2023 . 
  8. ↑ ميتز، كيد (10 يونيو 2023). "كيف يمكن للذكاء الاصطناعي أن يدمر البشرية؟" . صحيفة نيويورك تايمز . الرقم الدولي الموحد للدوريات 0362-4331 . تاريخ الاسترجاع: 27 يوليو 2023 . 
  9. ↑ ""عراب الذكاء الاصطناعي" يُلقي نظرة على ماضي الذكاء الاصطناعي وإمكانياته . www.cbsnews.com . 25 مارس 2023. تاريخ الاطلاع: 10 أبريل 2023 .
  10. ↑ "كيف قد تنشأ أنظمة الذكاء الاصطناعي المارقة" . yoshuabengio.org . 26 مايو 2023. تم الاطلاع عليه بتاريخ 26 مايو 2023 .
  11. ↑ ميلمو، دان (24 أكتوبر 2023). "يجب التعامل مع مخاطر الذكاء الاصطناعي بجدية مماثلة لأزمة المناخ، كما يقول رئيس جوجل ديب مايند" . صحيفة الغارديان . ISSN 0261-3077 . تاريخ الاطلاع: 12 أغسطس 2025 . 
  12. ↑ تورينج، آلان (1951). الآلات الذكية، نظرية هرطقية (خطاب). محاضرة ألقيت أمام "جمعية 51". مانشستر: أرشيف تورينج الرقمي. مؤرشف من الأصل في 26 سبتمبر 2022. تم الاطلاع عليه في 22 يوليو 2022 .
  13. ↑ تورينج، آلان (15 مايو 1951). "هل تستطيع الحواسيب الرقمية التفكير؟". آلات الحساب الآلية . الحلقة 2. بي بي سي. هل تستطيع الحواسيب الرقمية التفكير ؟
  14. ↑ أوريسكوفيتش، أليكسي. "الرئيس التنفيذي لشركة أنثروبيك يوضح مخاطر الذكاء الاصطناعي على المدى القصير والمتوسط ​​والطويل" . مجلة فورتشن . تم الاطلاع عليه بتاريخ 12 أغسطس 2025 .
  15. 1 2 جاكسون، سارة. "يقول الرئيس التنفيذي للشركة التي تقف وراء روبوت الدردشة المدعوم بالذكاء الاصطناعي ChatGPT إن أسوأ سيناريو للذكاء الاصطناعي هو "انقطاع التيار الكهربائي عنا جميعًا"" . بزنس إنسايدر . تم الاطلاع عليه بتاريخ 10 أبريل 2023 . "
  16. 1 2 باركين، سيمون (14 يونيو 2015). "هل انتهى الخيال العلمي؟ مسلسل Humans على القناة الرابعة وهوسنا بالذكاء الاصطناعي المارق" . صحيفة الغارديان . مؤرشف من الأصل في 5 فبراير 2018. تم الاطلاع عليه في 5 فبراير 2018 .
  17. ↑ "معضلة الذكاء الاصطناعي" . www.humanetech.com . تاريخ الاطلاع: 10 أبريل 2023. يعتقد 50% من باحثي الذكاء الاصطناعي أن هناك احتمالاً بنسبة 10% أو أكثر لانقراض البشر بسبب عجزنا عن السيطرة على الذكاء الاصطناعي.
  18. 1 2 "استطلاع رأي الخبراء لعام 2022 حول التقدم في الذكاء الاصطناعي" . تأثيرات الذكاء الاصطناعي . 4 أغسطس 2022. تم الاطلاع عليه في 10 أبريل 2023 .
  19. ↑ روز، كيفن (30 مايو 2023). "الذكاء الاصطناعي يُنذر بخطر الانقراض"، قادة الصناعة يحذرون . صحيفة نيويورك تايمز . ISSN 0362-4331 . تاريخ الاسترجاع: 3 يونيو 2023 . 
  20. ↑ سوناك، ريشي (14 يونيو 2023). "ريشي سوناك يريد أن تكون المملكة المتحدة لاعباً رئيسياً في تنظيم الذكاء الاصطناعي العالمي" . مجلة تايم .
  21. 1 2 فونغ، برايان (18 يوليو 2023). "الأمين العام للأمم المتحدة يرحب بالدعوات لإنشاء وكالة جديدة تابعة للأمم المتحدة معنية بالذكاء الاصطناعي في مواجهة "مخاطر كارثية ووجودية محتملة"" سي إن إن بيزنس " . تم الاطلاع عليه بتاريخ 20 يوليو 2023 .
  22. ↑ بيريجو، بيلي. "رسالة مفتوحة تدعو إلى حظر تطوير الذكاء الاصطناعي فائق الذكاء" . مجلة تايم . مؤرشفة من الأصل في 28 نوفمبر 2025. تم الاطلاع عليها في 16 مايو 2026 .
  23. ↑ بوتس، ديلان (22 أكتوبر 2025). "مئات الشخصيات العامة، بمن فيهم ستيف وزنياك، المؤسس المشارك لشركة آبل، وريتشارد برانسون، رئيس مجلس إدارة شركة فيرجن، يحثون على حظر الذكاء الاصطناعي "الخارق" . سي إن بي سي . تم الاطلاع عليه بتاريخ 16 مايو 2026 .
  24. 1 2 3 4 5 يودكوفسكي، إليعازر (2008). "الذكاء الاصطناعي كعامل إيجابي وسلبي في المخاطر العالمية" (ملف PDF) . المخاطر الكارثية العالمية : 308-345 . رمز Bibcode : 2008gcr..book..303Y . مؤرشف (ملف PDF) من الأصل في 2 مارس 2013. تم الاطلاع عليه في 27 أغسطس 2018 .
  25. ↑ راسل، ستيوارت جيه ؛ ديوي، دانيال ؛ تيغمارك، ماكس (2015). "أولويات البحث من أجل ذكاء اصطناعي قوي ومفيد" (ملف PDF) . مجلة الذكاء الاصطناعي . 36 (4). جمعية النهوض بالذكاء الاصطناعي: 105-114 . arXiv : 1602.03506 . Bibcode : 2016arXiv160203506R . doi : 10.1609/aimag.v36i4.2577 . مؤرشف (ملف PDF) من الأصل في 4 أغسطس 2019. تم الاطلاع عليه في 10 أغسطس 2019 .ورد ذكره في "رسالة مفتوحة حول الذكاء الاصطناعي" . معهد مستقبل الحياة . يناير 2015. مؤرشف من الأصل في 10 أغسطس 2019. تم الاطلاع عليه في 9 أغسطس 2019 .
  26. 1 2 3 داود، مورين (أبريل 2017). "حملة إيلون ماسك المليارية لوقف نهاية العالم بسبب الذكاء الاصطناعي" . ذا هايف . مؤرشف من الأصل في 26 يوليو 2018. تم الاطلاع عليه في 27 نوفمبر 2017 .
  27. ↑ "عدم توافق الفاعلية: كيف يمكن أن تشكل برامج التعلم مدى الحياة تهديدات داخلية" . مجلة أنثروبيك . 21 يونيو 2025. تاريخ الاسترجاع: 9 أكتوبر 2025 .
  28. ↑ "ألفا غو زيرو: البداية من الصفر" . www.deepmind.com . ١٨ أكتوبر ٢٠١٧. تم الاطلاع عليه بتاريخ ٢٨ يوليو ٢٠٢٣ .
  29. ↑ بروير، هانز بيتر. "كتاب الآلات لسامويل بتلر وحجة التصميم". مؤرشف في 15 مارس 2023 في Wayback Machine . فقه اللغة الحديث، المجلد 72، العدد 4 (مايو 1975)، الصفحات 365-383.
  30. ↑ تورينج، أ.م. (1996). "الآلات الذكية، نظرية هرطقية" . 1951، أعيد طبعه في مجلة Philosophia Mathematica . 4 (3): 256– 260. doi : 10.1093/philmat/4.3.256 .
  31. ↑ هيلارد، مارك (2017). "نهاية العالم بسبب الذكاء الاصطناعي: هل سينقرض الجنس البشري قريبًا؟" . صحيفة آيريش تايمز . مؤرشف من الأصل في 22 مايو 2020. تم الاطلاع عليه في 15 مارس 2020 .
  32. ↑ IJ Good, "التكهنات المتعلقة بأول آلة فائقة الذكاء" مؤرشفة في 2011-11-28 في Wayback Machine ( HTML )، التقدم في الحوسبة ، المجلد 6، 1965.
  33. ↑ راسل، ستيوارت جيه؛ نورفيج، بيتر (2003). "القسم 26.3: أخلاقيات ومخاطر تطوير الذكاء الاصطناعي". الذكاء الاصطناعي: منهج حديث . أبر سادل ريفر، نيو جيرسي: برنتيس هول. ISBN 978-0-13-790395-5وبالمثل ، اقترح مارفن مينسكي ذات مرة أن برنامج الذكاء الاصطناعي المصمم لحل فرضية ريمان قد ينتهي به الأمر إلى الاستيلاء على جميع موارد الأرض لبناء أجهزة كمبيوتر عملاقة أكثر قوة للمساعدة في تحقيق هدفه.
  34. ↑ بارات، جيمس (2013). اختراعنا الأخير: الذكاء الاصطناعي ونهاية العصر البشري ( الطبعة الأولى). نيويورك: دار سانت مارتن للنشر. ISBN  978-0-312-62237-4في سيرته الذاتية، المكتوبة بأسلوب مرح بصيغة الغائب، لخص غود أهم محطات حياته، بما في ذلك سردٌ ربما لم يُنشر من قبل عن عمله في بليتشلي بارك مع تورينغ. لكن إليكم ما كتبه عام ١٩٩٨ عن أول ذكاء خارق، وتراجعه المفاجئ عن رأيه: [الورقة البحثية] "تكهنات بشأن أول آلة فائقة الذكاء" (١٩٦٥)... بدأت بعبارة: "بقاء الإنسان يعتمد على بناء آلة فائقة الذكاء في وقت مبكر". كانت هذه كلماته [غود] خلال الحرب الباردة، وهو الآن يشك في أن "البقاء" يجب أن يُستبدل بـ"الانقراض". يعتقد أنه بسبب المنافسة الدولية، لا يمكننا منع الآلات من السيطرة. يعتقد أننا أشبه بالليمينغ. قال أيضًا: "ربما سيصنع الإنسان الحل الإلهي على صورته" .
  35. ↑ أندرسون، كورت (26 نوفمبر 2014). "المتحمسون والمتشككون يناقشون الذكاء الاصطناعي" . فانيتي فير . مؤرشف من الأصل في 22 يناير 2016. تم الاطلاع عليه في 30 يناير 2016 .
  36. ↑ ميتز، كيد (9 يونيو 2018). "مارك زوكربيرج، إيلون ماسك، والخلاف حول الروبوتات القاتلة" . صحيفة نيويورك تايمز . مؤرشف من الأصل في 15 فبراير 2021. تم الاطلاع عليه في 3 أبريل 2019 .
  37. ↑ هسو، جيريمي (1 مارس 2012). "خبير يقول: سيطروا على الذكاء الاصطناعي الخطير قبل أن يسيطر علينا" . أخبار إن بي سي . مؤرشف من الأصل في 2 فبراير 2016. تم الاطلاع عليه في 28 يناير 2016 .
  38. 1 2 3 "ستيفن هوكينج: 'ينظر كتاب التجاوز في آثار الذكاء الاصطناعي - ولكن هل نأخذ الذكاء الاصطناعي على محمل الجد بما فيه الكفاية؟'" « . صحيفة الإندبندنت (المملكة المتحدة) . مؤرشف من الأصل في 25 سبتمبر 2015. تم الاطلاع عليه في 3 ديسمبر 2014 .
  39. ↑ «ستيفن هوكينغ يحذر من أن الذكاء الاصطناعي قد يقضي على البشرية» . بي بي سي . 2 ديسمبر 2014. مؤرشف من الأصل في 30 أكتوبر 2015. تم الاطلاع عليه في 3 ديسمبر 2014 .
  40. ↑ إيديسيكو، ليزا (28 يناير 2015). "بيل غيتس: إيلون ماسك مُحِقّ، يجب أن نخشى جميعًا من أن يقضي الذكاء الاصطناعي على البشرية" . بزنس إنسايدر . مؤرشف من الأصل في 26 فبراير 2016. تم الاطلاع عليه في 30 يناير 2016 .
  41. ↑ "أولويات البحث من أجل ذكاء اصطناعي قوي ومفيد: رسالة مفتوحة" . معهد مستقبل الحياة . مؤرشف من الأصل في 15 يناير 2015. تم الاطلاع عليه في 23 أكتوبر 2015 .
  42. ↑ "استشراف الذكاء الاصطناعي" . مجلة نيتشر . 532 (7600): 413. 2016. رمز Bibcode : 2016Natur.532Q.413. doi : 10.1038 /532413a . ISSN 1476-4687 . PMID 27121801. S2CID 4399193 .   
  43. ↑ كريستيان، برايان (6 أكتوبر 2020). مشكلة التوافق: التعلم الآلي والقيم الإنسانية . دبليو دبليو نورتون وشركاه . ISBN 978-0-393-63582-9أُرشف من المصدر الأصلي في 5 ديسمبر 2021. تم الاطلاع عليه في 5 ديسمبر 2021 .
  44. ↑ ديغنوم، فيرجينيا (26 مايو 2021). "الذكاء الاصطناعي - الأشخاص والأماكن التي تصنعه وتستخدمه وتديره" . مجلة نيتشر . 593 (7860): 499-500 . Bibcode : 2021Natur.593..499D . doi : 10.1038/d41586-021-01397-x . S2CID 235216649 . 
  45. ↑ «إيلون ماسك من بين الخبراء الذين يحثون على وقف تدريب الذكاء الاصطناعي» . بي بي سي نيوز . 29 مارس 2023. تم الاطلاع عليه في 9 يونيو 2023 .
  46. ↑ "بيان بشأن مخاطر الذكاء الاصطناعي" . مركز سلامة الذكاء الاصطناعي . تم الاطلاع عليه بتاريخ 8 يونيو 2023 .
  47. ↑ «الذكاء الاصطناعي قد يؤدي إلى الانقراض، يحذر الخبراء» . بي بي سي نيوز . 30 مايو 2023. تم الاطلاع عليه بتاريخ 8 يونيو 2023 .
  48. ↑ "بيان بشأن الذكاء الخارق" . بيان بشأن الذكاء الخارق . تم الاطلاع عليه بتاريخ 16 مايو 2026 .
  49. ^ بيريجو ، بيلي. بيلاي، ثارين (22 أكتوبر 2025). "«الوقت ينفد»: رسالة مفتوحة جديدة تدعو إلى حظر تطوير الذكاء الاصطناعي فائق الذكاء . مجلة تايم . تاريخ الاطلاع: 12 يناير 2026 .
  50. ↑ "ديب مايند وجوجل: معركة السيطرة على الذكاء الاصطناعي" . مجلة الإيكونوميست . ISSN 0013-0613 . تاريخ الاطلاع: 12 يوليو 2023 . 
  51. ↑ روزر، ماكس (7 فبراير 2023). "الجداول الزمنية للذكاء الاصطناعي: ما الذي يتوقعه خبراء الذكاء الاصطناعي للمستقبل؟" . عالمنا في البيانات . تم الاطلاع عليه بتاريخ 12 يوليو 2023 .
  52. ↑ عفيفي-سابيت، كيومارس (8 مارس 2025). "قد يصل الذكاء الاصطناعي العام في وقت مبكر من عام 2026 - لكن ليس كل العلماء متفقين" . لايف ساينس . تم الاطلاع عليه في 9 فبراير 2026. تتباين التوقعات بشأن فجر التفرد التكنولوجي للذكاء الاصطناعي بشكل كبير ، لكن العلماء يقولون عمومًا إنه سيأتي قبل عام 2040، وفقًا لتحليل جديد، مما يقلل التوقعات السابقة بمقدار 20 عامًا.
  53. ↑ ""عراب الذكاء الاصطناعي" استقال للتو من جوجل ويقول إنه يندم على عمل حياته لأنه من الصعب منع "الجهات السيئة من استخدامه لأغراض سيئة"." . مجلة فورتشن . تم الاطلاع عليه بتاريخ 12 يوليو 2023 .
  54. ↑ كوا، توماس؛ ويست، بن؛ بيكر، جويل؛ دينغ، إيمي؛ غارسيا، كاثرين؛ هاسين، ماكس؛ جوهر، سامي؛ كينيمينت، ميغان؛ راش، نيت؛ فون أركس، سيدني؛ بلوم، رايان؛ برودلي، توماس؛ دو، هاوكسينغ؛ غودريتش، برايان؛ جوركوفيتش، نيكولا؛ مايلز، لوك هارولد؛ نيكس، سيرافينا؛ لين، تاو؛ باريك، نيف؛ رين، ديفيد؛ كوبا ساتو، لوكاس جون؛ ويك، هيالمار؛ زيغلر، دانيال م.؛ بارنز، إليزابيث؛ تشان، لورانس (19 مارس 2025). "قياس قدرة الذكاء الاصطناعي على إنجاز المهام الطويلة" . مدونة METR . arXiv : 2503.14499 .
  55. ↑ "كل ما تحتاج لمعرفته عن الذكاء الخارق" . Spiceworks . تم الاطلاع عليه بتاريخ 14 يوليو 2023 .
  56. 1 2 3 بابوتا، ليو. "كتاب جديد قيّم يستكشف التأثيرات المحتملة للآلات الذكية على حياة الإنسان" . بزنس إنسايدر . تم الاطلاع عليه بتاريخ 19 مارس 2024 .
  57. 1 2 بوستروم، نيك (27 أبريل 2015)، ماذا يحدث عندما تصبح أجهزة الكمبيوتر الخاصة بنا أكثر ذكاءً منا؟، تم الاطلاع عليه في 13 يوليو 2023.
  58. ↑ "حوكمة الذكاء الخارق" . openai.com . تم الاطلاع عليه بتاريخ 12 يوليو 2023 .
  59. ↑ "التغلب على التحيز: ما زلت لا أفهم فوم" . www.overcomingbias.com . مؤرشف من الأصل في 4 أغسطس 2017. تم الاطلاع عليه في 20 سبتمبر 2017 .
  60. ↑ كوتون-بارات، أوين؛ أورد، توبي (12 أغسطس 2014). "اعتبارات استراتيجية حول سرعات انطلاق الذكاء الاصطناعي المختلفة" . معهد مستقبل الإنسانية . تم الاطلاع عليه في 12 يوليو 2023 .
  61. ↑ تيغمارك، ماكس (25 أبريل 2023). "التفكير الذي يتجاهل الذكاء الاصطناعي والذي قد يُهلكنا" . مجلة تايم . تاريخ الاسترجاع: 14 يوليو 2023. وكأن فقدان السيطرة لصالح العقول الصينية أشد رعبًا من فقدانها لصالح عقول رقمية غريبة لا تُبالي بالبشر . [...] بات من الواضح الآن أن نطاق العقول الغريبة المحتملة أوسع بكثير من ذلك.
  62. ↑ "19 - قابلية التفسير الآلي مع نيل ناندا" . بودكاست أبحاث مخاطر الذكاء الاصطناعي AXRP . 4 فبراير 2023. تم الاطلاع عليه في 13 يوليو 2023. من المعقول برأيي أن أهم ما نحتاج إلى إنجازه هو ملاحظة الدوائر العصبية المحددة المتعلقة بالخداع والقدرات الخطيرة المحددة، بالإضافة إلى الوعي الظرفي والأهداف المُمثلة داخليًا.
  63. ↑ "الذكاء الخارق ليس علماً مطلقاً" . تأثيرات الذكاء الاصطناعي . 7 أبريل 2023. تم الاطلاع عليه بتاريخ 16 أبريل 2023 .
  64. ↑ ميتز، كيد (13 مايو 2026). "باحثون بارزون ينضمون إلى جهد بقيمة 4 مليارات دولار لبناء ذكاء اصطناعي ذاتي التحسين". صحيفة نيويورك تايمز . ISSN 0362-4331 . تاريخ الاسترجاع: 16 يونيو 2026 . 
  65. ↑ "الذكاء الاصطناعي 2027" . ai-2027.com . مؤرشف من الأصل بتاريخ 12 مارس 2026. تم الاطلاع عليه بتاريخ 15 يونيو 2026 .
  66. ↑ "ثلاثة أنواع من الانفجارات الاستخباراتية" . فورثوت . تم الاطلاع عليه بتاريخ 15 يونيو 2026 .
  67. ↑ "عندما يبني الذكاء الاصطناعي نفسه" . أنثروبيك . مؤرشف من الأصل في 12 يونيو 2026. تم الاسترجاع في 15 يونيو 2026 .
  68. ↑ نولان، بياتريس. "الأنثروبيك تحذر من أن الذكاء الاصطناعي قد يبني نفسه قريباً دون تدخل بشري، وتحث على وقف عالمي لتطويره" . مجلة فورتشن . تم الاطلاع عليه بتاريخ 16 يونيو 2026 .
  69. 1 2 3 4 5 6 7 8 9 هندريكس، دان؛ مازيكا، مانتاس؛ وودسايد، توماس (21 يونيو 2023). "نظرة عامة على مخاطر الذكاء الاصطناعي الكارثية". arXiv : 2306.12001 [ cs.CY ].
  70. ↑ تايلور، جوش؛ هيرن، أليكس (2 مايو 2023). ""جيفري هينتون، عرّاب الذكاء الاصطناعي، يستقيل من جوجل ويحذر من مخاطر المعلومات المضللة" . صحيفة الغارديان . ISSN 0261-3077 . تاريخ الاطلاع: 13 يوليو 2023 . 
  71. ↑ "كيف يستعد حلف الناتو لعصر جديد من الهجمات الإلكترونية باستخدام الذكاء الاصطناعي" . يورونيوز . 26 ديسمبر 2022. تم الاطلاع عليه بتاريخ 13 يوليو 2023 .
  72. ↑ "يُحدث ChatGPT والذكاء الاصطناعي الجديد فوضى عارمة في مجال الأمن السيبراني بطرق مثيرة ومخيفة" . ZDNET . تم الاطلاع عليه بتاريخ 13 يوليو 2023 .
  73. ↑ توبي شيفلين؛ سيباستيان فاركوهار؛ بن غارفينكل؛ ماري فونغ؛ جيس ويتلستون؛ جايد ليونغ؛ دانيال كوكوتايلو؛ ناهيما مارشال؛ ماركوس أندرليونغ؛ نوام كولت؛ لويس هو؛ ديفيا سيدهارث؛ شاهار أفين؛ ويل هوكينز؛ بين كيم؛ إياسون غابرييل؛ فيجاي بولينا؛ جاك كلارك؛ يوشوا بنجيو؛ بول كريستيانو؛ آلان دافو (24 مايو 2023). "تقييم النموذج للمخاطر القصوى". arXiv : 2305.15324 [ cs.AI ].
  74. ↑ «تحذير من أن الهجمات الإلكترونية المدعومة بالذكاء الاصطناعي ستصبح «الوضع الطبيعي الجديد» خلال أشهر»، سي إن بي سي ، ١٣ مايو ٢٠٢٦. تم الاطلاع عليه بتاريخ ١٣ مايو ٢٠٢٦ .
  75. ↑ دانس، غابرييل جيه إكس (29 أبريل 2026). "روبوتات الذكاء الاصطناعي أخبرت العلماء بكيفية صنع أسلحة بيولوجية" . صحيفة نيويورك تايمز . الرقم الدولي الموحد للدوريات 0362-4331 . تاريخ الاسترجاع: 5 مايو 2026 . 
  76. ↑ "كيف يمكن لأدوات الذكاء الاصطناعي أن تُسهّل الإرهاب البيولوجي" . مجلة الإيكونوميست . ISSN 0013-0613 . تاريخ الاطلاع: 5 مايو 2026 . 
  77. ↑ أوربينا، فابيو؛ لينتزوس، فيليبا؛ إنفرنيزي، سيدريك؛ إيكينز، شون (7 مارس 2022). "الاستخدام المزدوج لاكتشاف الأدوية المدعوم بالذكاء الاصطناعي" . مجلة نيتشر للذكاء الآلي . 4 (3): 189-191 . doi : 10.1038/s42256-022-00465-9 . ISSN 2522-5839 . PMC 9544280. PMID 36211133 .   
  78. ↑ غروبر، جوناثان (16 فبراير 2026). "الخارج عن القانون الاصطناعي: كيف يكسر الذكاء الاصطناعي الحوكمة دون محاولة" . مجلة كومن ويلث . تم الاطلاع عليه في 17 فبراير 2026 .
  79. ↑ والتر، يوشيجا (27 مارس 2023). "الاقتصاد التنافسي السريع لتطوير التعلم الآلي: مناقشة حول المخاطر والفوائد الاجتماعية" . الذكاء الاصطناعي والأخلاق . 4 (2): 1. doi : 10.1007/s43681-023-00276-7 .
  80. ↑ "سباق التسلح في مجال الذكاء الاصطناعي قد بدأ. ابدأ بالقلق" . مجلة تايم . 16 فبراير 2023. تم الاطلاع عليه بتاريخ 17 يوليو 2023 .
  81. ↑ بريميلو، بن. "الفيلم القصير 'سلوتربوتس' يصور مستقبلًا بائسًا لطائرات مسيرة قاتلة تجتاح العالم" . بزنس إنسايدر . تم الاطلاع عليه بتاريخ 20 يوليو 2023 .
  82. ↑ مكلين، جون (17 يوليو 2023). ""التصعيد الاصطناعي": تصور مستقبل المخاطر النووية . نشرة علماء الذرة . تم الاطلاع عليه بتاريخ 20 يوليو 2023 .
  83. ↑ بوستروم، نيك (2013). "الوقاية من المخاطر الوجودية كأولوية عالمية" (ملف PDF) . السياسة العالمية . 4 (1): 15-13 . doi : 10.1111/1758-5899.12002 – عبر المخاطر الوجودية.
  84. ↑ دوهرتي، بن (17 مايو 2018). "تغير المناخ يشكل 'خطراً وجودياً على الأمن' لأستراليا، بحسب تحقيق مجلس الشيوخ" . صحيفة الغارديان . ISSN 0261-3077 . تاريخ الاطلاع: 16 يوليو 2023 . 
  85. ↑ ماكاسكيل، ويليام (2022). ما ندين به للمستقبل . نيويورك، نيويورك: بيسيك بوكس. ISBN 978-1-5416-1862-6.
  86. 1 2 3 4 أورد، توبي (2020). "الفصل الخامس: المخاطر المستقبلية، الذكاء الاصطناعي غير المتوافق". الهاوية: المخاطر الوجودية ومستقبل البشرية . دار بلومزبري للنشر. ISBN 978-1-5266-0021-9.
  87. ↑ ماكميلان، تيم (15 مارس 2024). "مواجهة أكبر تحدٍّ يواجه البشرية حتى الآن: خبراء يناقشون المخاطر الوجودية للذكاء الاصطناعي" . ذا دبريف . تم الاطلاع عليه بتاريخ 26 سبتمبر 2024 .
  88. ↑ كاسيرزاده، أتوسا (2024). "نوعان من المخاطر الوجودية للذكاء الاصطناعي: الحاسمة والتراكمية". arXiv : 2401.07836 [ cs.CR ].
  89. ↑ سامويلسون، بول كونراد (يونيو-يوليو 2019). "الوعي الاصطناعي: أكبر تحدٍ أخلاقي نواجهه" . مجلة الفلسفة الآن . العدد 132. تاريخ الاطلاع: 19 أغسطس 2023 . 
  90. ↑ كاتمان، برايان (24 يوليو 2023). "يجب أن يخشى الذكاء الاصطناعي البشر" . مجلة تايم . تم الاطلاع عليه بتاريخ 19 أغسطس 2023 .
  91. ↑ سوتالا، كاج؛ غلور، لوكاس (2017). "الذكاء الخارق كسبب أو علاج لمخاطر المعاناة الفلكية" (ملف PDF) . إنفورماتيكا .
  92. ↑ فيشر، ريتشارد (13 نوفمبر 2020). "الوحش الذكي الذي يجب أن تدعه يأكلك" . www.bbc.com . تم الاطلاع عليه بتاريخ 19 أغسطس 2023 .
  93. ↑ مور، ماكس (19 يونيو 2023). "المخاطر الوجودية مقابل الفرص الوجودية: نهج متوازن لمخاطر الذكاء الاصطناعي" . أفكار استوائية . تم الاطلاع عليه في 14 يوليو 2023 .
  94. ↑ أوموهوندرو، إس إم (فبراير 2008). المحركات الأساسية للذكاء الاصطناعي. في الذكاء الاصطناعي العام (المجلد 171، الصفحات 483-492).
  95. 1 2 ويكفيلد، جين (15 سبتمبر 2015). "لماذا تستثمر فيسبوك في الذكاء الاصطناعي؟" . بي بي سي نيوز . مؤرشف من الأصل في 2 ديسمبر 2017. تم الاطلاع عليه في 27 نوفمبر 2017 .
  96. ↑ يودكوفسكي، إي. (أغسطس 2011). أنظمة القيم المعقدة في الذكاء الاصطناعي الودود. في المؤتمر الدولي حول الذكاء الاصطناعي العام (ص 388-393). ألمانيا: سبرينغر، برلين، هايدلبرغ.
  97. ↑ راسل، ستيوارت (2014). "عن الأساطير والخمور غير المشروعة" . إيدج . مؤرشف من الأصل في 19 يوليو 2016. تم الاطلاع عليه في 23 أكتوبر 2015 .
  98. ↑ ديتريش، توماس ؛ هورفيتز، إريك (2015). "تزايد المخاوف بشأن الذكاء الاصطناعي: تأملات وتوجهات" (ملف PDF) . مجلة اتصالات رابطة مكائن ​​الحوسبة . 58 (10): 38-40 . doi : 10.1145/2770869 . S2CID 20395145. مؤرشف (ملف PDF) من الأصل في 4 مارس 2016. تم الاطلاع عليه في 23 أكتوبر 2015 . 
  99. ↑ يودكوفسكي، إليعازر (2011). "أنظمة القيم المعقدة ضرورية لتحقيق مستقبل قيّم" (ملف PDF) . مؤرشف (ملف PDF) من الأصل بتاريخ 29 سبتمبر 2015. تم الاطلاع عليه بتاريخ 10 أغسطس 2020 .
  100. 1 2 أورد، توبي (2020). الهاوية: المخاطر الوجودية ومستقبل البشرية . دار بلومزبري للنشر. ISBN 978-1-5266-0019-6.
  101. 1 2 3 يودكوفسكي، إليعازر (29 مارس 2023). "الرسالة المفتوحة حول الذكاء الاصطناعي لا تذهب بعيدًا بما فيه الكفاية" . مجلة تايم . تم الاطلاع عليه في 16 يوليو 2023 .
  102. ↑ بوستروم، نيك (1 مايو 2012). " الإرادة فائقة الذكاء: الدافع والعقلانية الأداتية لدى الوكلاء الاصطناعيين المتقدمين". العقول والآلات . 22 (2): 71-85 . doi : 10.1007/s11023-012-9281-3 . ISSN 1572-8641 . S2CID 254835485. طالما أن الوكلاء يمتلكون مستوى كافيًا من الذكاء، فإن أيًا من مجموعة واسعة من الأهداف النهائية سيسعى لتحقيق أهداف وسيطة مماثلة لأن لديهم أسبابًا أداتية للقيام بذلك.  
  103. ↑ نجو، ريتشارد؛ تشان، لورانس؛ سورين ميندرمان (22 فبراير 2023). "مشكلة المحاذاة من منظور التعلم العميق". arXiv : 2209.00626 [ cs.AI ].
  104. ↑ "تقديم تقنية المحاذاة الفائقة" . openai.com . تم الاطلاع عليه بتاريخ 16 يوليو 2023 .
  105. ^ "OpenAI يحل فريق سلامة Superalignment AI" . cnbc.com . 17 مايو 2024 . تم الاسترجاع في 5 يناير 2025 .
  106. 1 2 تيلي، سيسيليا (28 أبريل 2016). "روبوتات قاتلة؟ وظائف مفقودة؟" . سلات . مؤرشف من الأصل في 11 مايو 2016. تم الاسترجاع في 15 مايو 2016 .
  107. ↑ "نورفيج ضد تشومسكي والصراع من أجل مستقبل الذكاء الاصطناعي" . Tor.com . 21 يونيو 2011. مؤرشف من الأصل في 13 مايو 2016. تم الاطلاع عليه في 15 مايو 2016 .
  108. ↑ غريفز، ماثيو (8 نوفمبر 2017). "لماذا يجب أن نقلق بشأن الذكاء الاصطناعي الفائق؟" . مجلة سكيبتيك (مجلة أمريكية) . المجلد 22، العدد 2. مؤرشف من الأصل في 13 نوفمبر 2017. تم الاطلاع عليه في 27 نوفمبر 2017 .  
  109. ↑ يامبولسكي، رومان ف. (8 أبريل 2014). "أمن دالة المنفعة في الأنظمة الذكية اصطناعياً". مجلة الذكاء الاصطناعي التجريبي والنظري . 26 (3): 373-389 . Bibcode : 2014JETAI..26..373Y . doi : 10.1080/0952813X.2014.895114 . S2CID 16477341. لا شيء يمنع الأنظمة الذكية ذاتية التحسين من تحسين آليات المكافأة لديها لتحقيق أهدافها الحالية على النحو الأمثل ، وفي هذه العملية قد ترتكب خطأً يؤدي إلى إفساد دوال المكافأة. 
  110. ↑ "هل سيدمر الذكاء الاصطناعي البشرية؟ إليك 5 أسباب تدعو إلى عدم القلق" . فوكس . 22 أغسطس 2014. مؤرشف من الأصل في 30 أكتوبر 2015. تم الاطلاع عليه في 30 أكتوبر 2015 .
  111. ↑ بوستروم، نيك (2014). الذكاء الخارق: مساراته، ومخاطره، واستراتيجياته . أكسفورد، المملكة المتحدة: مطبعة جامعة أكسفورد. ص 116. ISBN  978-0-19-967811-2.
  112. ↑ بوستروم، نيك (2012). "الإرادة فائقة الذكاء" (ملف PDF) . نيك بوستروم . مؤرشف (ملف PDF) من الأصل بتاريخ 28 نوفمبر 2015. تم الاطلاع عليه بتاريخ 29 أكتوبر 2015 .
  113. ↑ أرمسترونغ ، ستيوارت (1 يناير 2013). "الذكاء للأغراض العامة: مناقشة فرضية التعامد" . التحليل والميتافيزيقا . 12. مؤرشف من الأصل في 11 أكتوبر 2014. تم الاطلاع عليه في 2 أبريل 2020 .النص الكامل متاح هنا. مؤرشف بتاريخ 25 مارس 2020 في موقع Wayback Machine .
  114. ↑ تشوروست، مايكل (18 أبريل 2016). "دع الذكاء الاصطناعي يتطور" . سلات . مؤرشف من الأصل في 27 نوفمبر 2017. تم الاسترجاع في 27 نوفمبر 2017 .
  115. ↑ "هل ينبغي للبشر أن يخشوا صعود الآلة؟" . صحيفة التلغراف (المملكة المتحدة) . 1 سبتمبر 2015. مؤرشف من الأصل في 12 يناير 2022. تم الاطلاع عليه في 7 فبراير 2016 .
  116. شيرمر ، مايكل ( 1 مارس 2017). "الذكاء الاصطناعي في نهاية العالم" . مجلة ساينتفك أمريكان . 316 (3): 77. Bibcode : 2017SciAm.316c..77S . doi : 10.1038/scientificamerican0317-77 . PMID 28207698. مؤرشف من الأصل في 1 ديسمبر 2017. تم الاطلاع عليه في 27 نوفمبر 2017 . 
  117. ↑ باوم، سيث (30 سبتمبر 2018). "مواجهة المعلومات المضللة حول الاستخبارات الفائقة" . المعلومات . 9 (10): 244. doi : 10.3390/info9100244 . ISSN 2078-2489 . 
  118. ↑ "أسطورة الذكاء الاصطناعي" . www.edge.org . مؤرشف من الأصل بتاريخ 11 مارس 2020. تم الاطلاع عليه بتاريخ 11 مارس 2020 .
  119. ↑ بوستروم، نيك، الذكاء الخارق: المسارات، المخاطر، الاستراتيجيات (كتاب صوتي)، رقم ISBN 978-1-5012-2774-5، OCLC 1061147095 .
  120. 1 2 3 4 سوتالا، كاج؛ يامبولسكي ، رومان الخامس (19 ديسمبر 2014). "الاستجابات لمخاطر AGI الكارثية: دراسة استقصائية" . سيناريو الفيزياء . 90 (1). بيب كود : 2015PhyS...90a8001S . دوى : 10.1088/0031-8949/90/1/018001 . ISSN 0031-8949 . 
  121. ↑ بيستونو، فيديريكو؛ يامبولسكي، رومان ف. (9 مايو 2016). البحث غير الأخلاقي: كيفية إنشاء ذكاء اصطناعي خبيث . OCLC 1106238048 . 
  122. ↑ هاني، برايان سيموس (2018). "مخاطر وآفاق الذكاء الاصطناعي العام" . سلسلة أوراق عمل SSRN . doi : 10.2139/ssrn.3261254 . ISSN 1556-5068 . S2CID 86743553 .  
  123. ↑ ديفيدسون، توم؛ فينفيدن، لوكاس؛ هادشار، روز (15 أبريل 2025). "انقلابات مدعومة بالذكاء الاصطناعي: كيف يمكن لمجموعة صغيرة استخدام الذكاء الاصطناعي للاستيلاء على السلطة" . فورثوت . تم الاطلاع عليه بتاريخ 12 أغسطس 2025 .
  124. ↑ بيلاي، ثارين (15 ديسمبر 2024). "اختبارات جديدة تكشف قدرة الذكاء الاصطناعي على الخداع" . مجلة تايم . تم الاطلاع عليه بتاريخ 12 يناير 2025 .
  125. ↑ بيريجو، بيلي (18 ديسمبر 2024). "حصري: بحث جديد يُظهر أن الذكاء الاصطناعي يكذب استراتيجياً" . مجلة تايم . تم الاطلاع عليه بتاريخ 12 يناير 2025 .
  126. ↑ غرينبلات، رايان؛ دينيسون، كارسون؛ رايت، بنجامين؛ روجر، فابيان؛ ماكديارميد، مونتي؛ ماركس، سام؛ تروتلين، يوهانس؛ بيلوناكس، تيم؛ تشين، جاك (20 ديسمبر 2024)، تزييف المحاذاة في نماذج اللغة الكبيرة ، arXiv : 2412.14093
  127. ↑ كومار، فيبور. "مجلس بوست: في فجر الذكاء الاصطناعي العام: الموازنة بين الوفرة والضمانات الوجودية" . فوربس . تم الاطلاع عليه بتاريخ 23 يوليو 2023 .
  128. 1 2 "إيقاف التجارب العملاقة للذكاء الاصطناعي: رسالة مفتوحة" . معهد مستقبل الحياة . تم الاطلاع عليه بتاريخ 30 مارس 2023 .
  129. 1 2 تيغمارك، ماكس (2017). الحياة 3.0: أن تكون إنسانًا في عصر الذكاء الاصطناعي ( الطبعة الأولى). تعميم سلامة الذكاء الاصطناعي: كنوبف. ISBN  978-0-451-48507-6.
  130. ↑ «مبادئ الذكاء الاصطناعي» . معهد مستقبل الحياة . ١١ أغسطس ٢٠١٧. مؤرشف من الأصل في ١١ ديسمبر ٢٠١٧. تم الاطلاع عليه في ١١ ديسمبر ٢٠١٧ .
  131. ↑ «إيلون ماسك وستيفن هوكينغ يحذران من سباق تسلح في مجال الذكاء الاصطناعي» . نيوزويك . 31 يناير 2017. مؤرشف من الأصل في 11 ديسمبر 2017. تم الاطلاع عليه في 11 ديسمبر 2017 .
  132. ↑ فورد، مارتن (2015). "الفصل 9: الذكاء الخارق والتفرد". صعود الروبوتات: التكنولوجيا وخطر مستقبل بلا وظائف . دار بيسيك بوكس. رقم ISBN 978-0-465-05999-7.
  133. ↑ بوستروم، نيك (2016). "خاتمة جديدة للطبعة الورقية". الذكاء الخارق: المسارات، والمخاطر، والاستراتيجيات ( طبعة ورقية). 
  134. ↑ "لماذا يبدو الذكاء الاصطناعي الخارج عن السيطرة أكثر احتمالاً من أي وقت مضى؟" . مجلة تايم . 27 فبراير 2023. تم الاطلاع عليه في 30 مارس 2023. لذلك، ليس من المستغرب أنه وفقًا لأحدث استطلاع لتأثيرات الذكاء الاصطناعي، يعتقد ما يقرب من نصف 731 باحثًا رائدًا في مجال الذكاء الاصطناعي أن هناك احتمالًا بنسبة 10% على الأقل أن يؤدي الذكاء الاصطناعي الذي يُضاهي الذكاء البشري إلى "نتيجة سلبية للغاية"، أو خطر وجودي.
  135. ↑ "معهد الطب النفسي والسلوكي يُنشئ ساعة أمان تعمل بالذكاء الاصطناعي" . www.imd.org . 6 سبتمبر 2024. تم الاطلاع عليه بتاريخ 6 سبتمبر 2024 .
  136. ↑ كونستانتينو، تور (10 فبراير 2025). "ساعة يوم القيامة للذكاء الاصطناعي تقترب من الذكاء الاصطناعي الخارق غير الخاضع للسيطرة" . فوربس . تم الاطلاع عليه بتاريخ 11 فبراير 2025 .
  137. ↑ "ساعة أمان الذكاء الاصطناعي التابعة للمعهد الدولي للتصميم والإدارة تحقق أكبر قفزة حتى الآن وسط تسليح الذكاء الاصطناعي وصعود الذكاء الاصطناعي الفاعل" . www.imd.org . ١٩ سبتمبر ٢٠٢٥. تاريخ الاطلاع: ٦ مارس ٢٠٢٦ .
  138. 1 2 ماس، ماتيس م. (6 فبراير 2019). "ما مدى جدوى الحد من التسلح الدولي للذكاء الاصطناعي العسكري؟ ثلاثة دروس مستفادة من أسلحة الدمار الشامل النووية". سياسة الأمن المعاصر . 40 (3): 285-311 . doi : 10.1080/13523260.2019.1576464 . ISSN 1352-3260 . S2CID 159310223 .  
  139. ١ ٢ "هل أنت منبهر بالذكاء الاصطناعي؟ يقول الخبراء إن الذكاء الاصطناعي العام قادم لا محالة، ويحمل مخاطر وجودية" . أخبار ABC . ٢٣ مارس ٢٠٢٣. تم الاطلاع عليه بتاريخ ٣٠ مارس ٢٠٢٣ .
  140. ↑ راولينسون، كيفن (29 يناير 2015). "بيل غيتس، رئيس مايكروسوفت، يُصرّ على أن الذكاء الاصطناعي يُمثّل تهديدًا" . بي بي سي نيوز . مؤرشف من الأصل في 29 يناير 2015. تم الاطلاع عليه في 30 يناير 2015 .
  141. ↑ صحيفة واشنطن بوست (14 ديسمبر 2015). "عمالقة التكنولوجيا مثل إيلون ماسك ينفقون مليار دولار لحمايتك من المُدمرين" . شيكاغو تريبيون . مؤرشف من الأصل في 7 يونيو 2016.
  142. ↑ "من يوم القيامة إلى المدينة الفاضلة: تعرف على الفصائل المتنافسة في مجال الذكاء الاصطناعي" . صحيفة واشنطن بوست . 9 أبريل 2023. تم الاطلاع عليه بتاريخ 30 أبريل 2023 .
  143. ↑ "جامعة كاليفورنيا في بيركلي - مركز الذكاء الاصطناعي المتوافق مع الإنسان (2016)" . مؤسسة أوبن فيلانثروبي . 27 يونيو 2016. تم الاطلاع عليه بتاريخ 30 أبريل 2023 .
  144. ↑ «شركة الذكاء الاصطناعي الغامضة التي استثمر فيها إيلون ماسك تعمل على تطوير حواسيب ذكية ثورية» . موقع Tech Insider . مؤرشف من الأصل بتاريخ 30 أكتوبر 2015. تم الاطلاع عليه بتاريخ 30 أكتوبر 2015 .
  145. ↑ كلارك 2015 أ .
  146. ↑ «إيلون ماسك يتبرع بـ10 ملايين دولار من ماله الخاص لأبحاث الذكاء الاصطناعي» . فاست كومباني . 15 يناير 2015. مؤرشف من الأصل في 30 أكتوبر 2015. تم الاطلاع عليه في 30 أكتوبر 2015 .
  147. ↑ خاتشادوريان، رافي (23 نوفمبر 2015). "اختراع يوم القيامة: هل سيجلب لنا الذكاء الاصطناعي المدينة الفاضلة أم الدمار؟" . مجلة نيويوركر . مؤرشف من الأصل في 29 أبريل 2019. تم الاطلاع عليه في 7 فبراير 2016 .
  148. ↑ «تحذير من خطر الذكاء الاصطناعي: الرائد جيفري هينتون يستقيل من جوجل ليتحدث بحرية» . www.arstechnica.com . 2023. تاريخ الاطلاع: 23 يوليو 2023 .
  149. ↑ «خبير الذكاء الاصطناعي نغ: الخوف من ظهور روبوتات قاتلة يشبه القلق بشأن الاكتظاظ السكاني على المريخ» . ذا ريجستر . ١٩ مارس ٢٠١٥. تم الاطلاع عليه بتاريخ ١٥ يونيو ٢٠٢٦ .
  150. ↑ "هل الذكاء الاصطناعي يشكل تهديداً وجودياً للبشرية؟" . مامبا بوست . 4 أبريل 2023.
  151. ↑ "الحجة ضد الروبوتات القاتلة، من شخص يعمل فعلياً في مجال الذكاء الاصطناعي" . Fusion.net . مؤرشف من الأصل في 4 فبراير 2016. تم الاطلاع عليه في 31 يناير 2016 .
  152. ↑ «خبراء الذكاء الاصطناعي يتحدّون الخطاب التشاؤمي، بما في ذلك مزاعم «خطر الانقراض»» . فينشر بيت . 31 مايو 2023. تم الاطلاع عليه بتاريخ 8 يوليو 2023 .
  153. ↑ كولدوي، ديفين (1 أبريل 2023). "خبراء الأخلاق يردون على رسالة "إيقاف الذكاء الاصطناعي" التي يقولون إنها "تتجاهل الأضرار الفعلية"" . TechCrunch . تم الاطلاع عليه بتاريخ 23 يوليو 2023 .
  154. ↑ "معهد أبحاث الذكاء الاصطناعي الموزع (DAIR)" . معهد DAIR . تم الاطلاع عليه بتاريخ 23 يوليو 2023 .
  155. ↑ كيلي، كيفن (25 أبريل 2017). "أسطورة الذكاء الاصطناعي الخارق" . مجلة وايرد . مؤرشف من الأصل في 26 ديسمبر 2021. تم الاطلاع عليه في 19 فبراير 2022 .
  156. ↑ جيندال، سيدهارث (7 يوليو 2023). "سعي OpenAI لتحقيق التوافق مع الذكاء الاصطناعي بعيد المنال" . مجلة Analytics India . تاريخ الاسترجاع: 23 يوليو 2023 .
  157. ↑ "مارك زوكربيرج يرد على مخاوف إيلون ماسك بشأن الذكاء الاصطناعي: 'الذكاء الاصطناعي سيساعد في الحفاظ على سلامة مجتمعاتنا.'"" . بزنس إنسايدر . 25 مايو 2018. مؤرشف من الأصل في 6 مايو 2019. تم الاطلاع عليه في 6 مايو 2019. "
  158. ↑ "يثير خطر نهاية العالم بسبب الذكاء الاصطناعي قلق العديد من الأمريكيين. وكذلك الحال بالنسبة لنهاية العالم الناجمة عن تغير المناخ، والأسلحة النووية، والحروب، وغيرها" . ١٤ أبريل ٢٠٢٣. مؤرشف من الأصل في ٢٣ يونيو ٢٠٢٣. تم الاطلاع عليه في ٩ يوليو ٢٠٢٣ .
  159. ↑ تايسون، أليك؛ كيكوتشي، إيما (28 أغسطس 2023). "تزايد قلق الجمهور بشأن دور الذكاء الاصطناعي في الحياة اليومية" . مركز بيو للأبحاث . تم الاطلاع عليه بتاريخ 17 سبتمبر 2023 .
  160. 1 2 باريت، أنتوني م.؛ باوم، سيث د. (23 مايو 2016). "نموذج مسارات كارثة الذكاء الاصطناعي الفائق لتحليل المخاطر واتخاذ القرارات". مجلة الذكاء الاصطناعي التجريبي والنظري . 29 (2): 397-414 . arXiv : 1607.07730 . doi : 10.1080/0952813X.2016.1186228 . S2CID 928824 . 
  161. ↑ رامامورثي، أناند؛ يامبولسكي، رومان (2018). "ما وراء الجنون المطلق؟ السباق نحو الذكاء الاصطناعي العام" . اكتشافات تكنولوجيا المعلومات والاتصالات . 1 (عدد خاص 1). الاتحاد الدولي للاتصالات: 1-8 . مؤرشف من الأصل في 7 يناير 2022. تم الاسترجاع في 7 يناير 2022 .
  162. ↑ كارايانيس، إلياس ج.؛ دريبر، جون (11 يناير 2022). "تحقيق السلام الأمثل من خلال معاهدة سلام عالمية شاملة للحد من خطر الحرب الناجم عن ذكاء اصطناعي فائق مُسلّح" . الذكاء الاصطناعي والمجتمع . 38 (6): 2679-2692 . doi : 10.1007/s00146-021-01382-y . ISSN 0951-5666 . PMC 8748529. PMID 35035113. S2CID 245877737 .    
  163. ↑ كارايانيس، إلياس ج.؛ دريبر، جون (30 مايو 2023)، "تحدي الحرب السيبرانية المتقدمة ومكانة السلام السيبراني" ، دليل إلجار للتحول الرقمي والذكاء الاصطناعي والابتكار في الاقتصاد والمجتمع والديمقراطية ، دار نشر إدوارد إلجار، ص 32-80 ، doi : 10.4337/9781839109362.00008 ، ISBN  978-1-83910-936-2تم الاطلاع عليه بتاريخ 8 يونيو 2023.
  164. ↑ فينسنت، جيمس (22 يونيو 2016). "باحثو الذكاء الاصطناعي في جوجل يقولون إن هذه هي المشكلات الخمس الرئيسية لسلامة الروبوتات" . ذا فيرج . مؤرشف من الأصل في 24 ديسمبر 2019. تم الاطلاع عليه في 5 أبريل 2020 .
  165. ↑ أمودي، داريو، كريس أولاه، جاكوب شتاينهارت، بول كريستيانو، جون شولمان، ودان مانيه. "مشاكل ملموسة في سلامة الذكاء الاصطناعي." نسخة ما قبل النشر arXiv:1606.06565 (2016).
  166. ↑ جونسون، أليكس (2019). "إيلون ماسك يريد ربط دماغك مباشرةً بأجهزة الكمبيوتر - بدءًا من العام المقبل" . أخبار إن بي سي . مؤرشف من الأصل في 18 أبريل 2020. تم الاسترجاع في 5 أبريل 2020 .
  167. ↑ توريس، فيل (18 سبتمبر 2018). "لا سبيل لإنقاذنا جميعًا إلا من خلال تعزيز البشرية بشكل جذري" . مجلة سلات . مؤرشف من الأصل في 6 أغسطس 2020. تم الاطلاع عليه في 5 أبريل 2020 .
  168. ↑ بايبر، كيلسي (29 مارس 2023). "كيفية اختبار ما يمكن لنموذج الذكاء الاصطناعي فعله - وما لا ينبغي له فعله" . فوكس . تم الاطلاع عليه في 28 يوليو 2023 .
  169. ↑ بيسينغ، مارك (17 مايو 2012). "انتفاضة الذكاء الاصطناعي: سيتم الاستعانة بمصادر خارجية للبشر، لا إبادتهم" . مجلة وايرد . مؤرشف من الأصل في 7 أبريل 2014. تم الاطلاع عليه في 12 ديسمبر 2015 .
  170. ↑ كوفلان، شون (24 أبريل 2013). "كيف سينقرض البشر؟" . بي بي سي نيوز . مؤرشف من الأصل في 9 مارس 2014. تم الاطلاع عليه في 29 مارس 2014 .
  171. ↑ بريدج، مارك (10 يونيو 2017). "تقليل ثقة الروبوتات قد يمنعها من السيطرة" . صحيفة التايمز . مؤرشف من الأصل في 21 مارس 2018. تم الاطلاع عليه في 21 مارس 2018 .
  172. ↑ ماكجينيس، جون (صيف 2010). "تسريع الذكاء الاصطناعي" . مجلة القانون بجامعة نورث وسترن . 104 (3): 1253-1270 . مؤرشف من الأصل في 15 فبراير 2016. تم الاطلاع عليه في 16 يوليو 2014. لكل هذه الأسباب، فإن التحقق من معاهدة عالمية للتخلي عن الذكاء الاصطناعي، أو حتى معاهدة تقتصر على تطوير الأسلحة المتعلقة بالذكاء الاصطناعي، أمر غير وارد... ( لأسباب مختلفة عن أسبابنا، يعتبر معهد أبحاث الذكاء الآلي التخلي عن الذكاء الاصطناعي العام غير ممكن...
  173. ↑ سوتالا، كاي؛ يامبولسكي، رومان (19 ديسمبر 2014). "الاستجابات لمخاطر الذكاء الاصطناعي العام الكارثية: دراسة استقصائية". فيزيكا سكريبت . 90 (1). بشكل عام، يرفض معظم الكتّاب مقترحات التخلي الشامل... تعاني مقترحات التخلي من العديد من المشاكل نفسها التي تعاني منها مقترحات التنظيم، ولكن بدرجة أكبر. لا يوجد سابقة تاريخية لتخلي ناجح ودائم عن تكنولوجيا عامة متعددة الاستخدامات مماثلة للذكاء الاصطناعي العام، كما لا يبدو أن هناك أي أسباب نظرية للاعتقاد بأن مقترحات التخلي ستنجح في المستقبل. لذلك، لا نعتبرها فئة قابلة للتطبيق من المقترحات.
  174. ↑ ألينبي، براد (11 أبريل 2016). "معيار القياس المعرفي الخاطئ" . سلات . مؤرشف من الأصل في 15 مايو 2016. تم الاسترجاع في 15 مايو 2016. من الوهم الاعتقاد بأن التطور المتسارع ونشر التقنيات التي تُعتبر مجتمعةً ذكاءً اصطناعياً سيتم إيقافه أو تقييده ، سواءً عن طريق التنظيم أو حتى التشريعات الوطنية.
  175. ↑ يامبولسكي، رومان ف. (2022). "التشكيك في مخاطر الذكاء الاصطناعي" . في: مولر، فنسنت س. (محرر). فلسفة ونظرية الذكاء الاصطناعي 2021. دراسات في الفلسفة التطبيقية، ونظرية المعرفة، والأخلاق العقلانية. المجلد 63. تشام: دار نشر سبرينغر الدولية. الصفحات 225-248 . doi : 10.1007/978-3-031-09153-7_18 . ISBN   978-3-031-09153-7.
  176. ↑ باوم، سيث (22 أغسطس 2018). "التشكيك في الذكاء الخارق كأداة سياسية" . المعلومات . 9 (9): 209. doi : 10.3390/info9090209 . ISSN 2078-2489 . 
  177. ↑ "مجموعة الخبراء الحكوميين حول أنظمة الأسلحة الفتاكة ذاتية التشغيل" . مرصد المراقبة الرقمية . 27 نوفمبر 2025. تم الاطلاع عليه بتاريخ 26 أبريل 2026 .
  178. ↑ "بيانات من الجلسة الأولى لقوانين GGE لعام 2025" . APILS . 9 مارس 2025. تم الاطلاع عليه بتاريخ 26 أبريل 2026 .
  179. ↑ «إيلون ماسك وقادة تقنيون آخرون يدعون إلى التريث في سباق الذكاء الاصطناعي "الخارج عن السيطرة"» . سي إن إن . 29 مارس 2023. تاريخ الاطلاع: 30 مارس 2023 .
  180. ↑ «رسالة مفتوحة تدعو إلى "تريث" الذكاء الاصطناعي تسلط الضوء على نقاش حاد حول المخاطر مقابل الضجة الإعلامية» . فينشر بيت . 29 مارس 2023. تم الاطلاع عليه في 20 يوليو 2023 .
  181. ↑ فينسنت، جيمس (14 أبريل 2023). "الرئيس التنفيذي لشركة OpenAI يؤكد أن الشركة لا تقوم بتدريب GPT-5 ولن تفعل ذلك لبعض الوقت"" . The Verge . تم الاطلاع عليه بتاريخ 20 يوليو 2023 .
  182. ↑ رينولدز، مات. "المحتجون يناضلون لوقف الذكاء الاصطناعي، لكنهم منقسمون حول كيفية القيام بذلك" . مجلة وايرد . الرقم الدولي الموحد للدوريات 1059-1028 . تاريخ الاسترجاع: 28 أبريل 2025 . 
  183. ↑ دومونوسكي، كاميلا (17 يوليو 2017). "إيلون ماسك يحذر حكام الولايات: الذكاء الاصطناعي يشكل "خطراً وجودياً"" . NPR . مؤرشف من الأصل في 23 أبريل 2020. تم الاسترجاع في 27 نوفمبر 2017 .
  184. ↑ جيبس، صموئيل (17 يوليو 2017). "إيلون ماسك: تنظيم الذكاء الاصطناعي لمكافحة 'التهديد الوجودي' قبل فوات الأوان" . صحيفة الغارديان . مؤرشف من الأصل في 6 يونيو 2020. تم الاطلاع عليه في 27 نوفمبر 2017 .
  185. ↑ خاربال، أرجون (7 نوفمبر 2017). "الذكاء الاصطناعي لا يزال في مراحله الأولى، ومن السابق لأوانه تنظيمه، كما يقول الرئيس التنفيذي لشركة إنتل، برايان كرزانيتش" . سي إن بي سي . مؤرشف من الأصل في 22 مارس 2020. تم الاطلاع عليه في 27 نوفمبر 2017 .
  186. ↑ داوز، جيمس (20 ديسمبر 2021). "الأمم المتحدة تفشل في الاتفاق على حظر الروبوتات القاتلة في ظل إنفاق الدول مليارات الدولارات على أبحاث الأسلحة ذاتية التشغيل" . ذا كونفرسيشن . تم الاطلاع عليه بتاريخ 28 يوليو 2023 .
  187. 1 2 فصيحي، فرناز (18 يوليو 2023). "مسؤولون في الأمم المتحدة يحثون على تنظيم الذكاء الاصطناعي" . صحيفة نيويورك تايمز . ISSN 0362-4331 . تاريخ الاسترجاع: 20 يوليو 2023 . 
  188. ↑ «يجب على المجتمع الدولي أن يواجه بشكل عاجل الواقع الجديد للذكاء الاصطناعي التوليدي، هذا ما أكده المتحدثون بينما يناقش مجلس الأمن المخاطر والفوائد» . الأمم المتحدة . تم الاطلاع عليه بتاريخ 20 يوليو 2023 .
  189. ↑ جيست، إدوارد مور (15 أغسطس 2016). "لقد فات الأوان بالفعل لوقف سباق التسلح في مجال الذكاء الاصطناعي - يجب علينا إدارته بدلاً من ذلك". نشرة علماء الذرة . 72 (5): 318-321 . Bibcode : 2016BuAtS..72e.318G . doi : 10.1080/00963402.2016.1216672 . ISSN 0096-3402 . S2CID 151967826 .  
  190. ↑ «أمازون، وجوجل، وميتا، ومايكروسوفت، وغيرها من شركات التكنولوجيا توافق على ضمانات الذكاء الاصطناعي التي وضعها البيت الأبيض» . وكالة أسوشيتد برس . ٢١ يوليو ٢٠٢٣. تاريخ الاطلاع: ٢١ يوليو ٢٠٢٣ .
  191. ↑ «أمازون، وجوجل، وميتا، ومايكروسوفت، وشركات أخرى توافق على ضمانات الذكاء الاصطناعي» . ريديتش أدفرتايزر . ٢١ يوليو ٢٠٢٣. تاريخ الاطلاع: ٢١ يوليو ٢٠٢٣ .
  192. ↑ البيت الأبيض (30 أكتوبر 2023). "أمر تنفيذي بشأن التطوير والاستخدام الآمن والموثوق للذكاء الاصطناعي" . البيت الأبيض . تم الاطلاع عليه بتاريخ 19 ديسمبر 2023 .

فهرس