سيطرة الذكاء الاصطناعي

📅 آخر تحديث: ٢٥ يوليو ٢٠٢٦
✍️ نُشر في: ٢٥ يوليو ٢٠٢٦
📷 يحتوي على 5 صور
الموسوعة الحرة
ثورة الروبوتات في مسرحية "روبوتات روسوم العالمية" التي صدرت عام 1920 في جمهورية التشيك
جزء من سلسلة عن
الذكاء الاصطناعي
الأهداف الرئيسية
النهج
التطبيقات
فلسفة
تاريخ
المصطلحات
  • ف
  • ت
  • هـ

الاستيلاء على الذكاء الاصطناعي هو سيناريو متخيل يظهر فيه الذكاء الاصطناعي كشكل مهيمن للذكاء على الأرض وتتولى برامج الكمبيوتر أو الروبوتات السيطرة على الكوكب بعيدًا عن الجنس البشري الذي يعتمد على الذكاء البشري . تشمل السيناريوهات المحتملة استبدال القوى العاملة البشرية بأكملها بسبب الأتمتة ، والاستيلاء على الذكاء الاصطناعي الفائق الذكاء، وفكرة انتفاضة الروبوتات . كانت قصص الاستيلاء على الذكاء الاصطناعي شائعة في جميع أنحاء الخيال العلمي ، لكن التطورات الأخيرة جعلت التهديد أكثر واقعية. دعا بعض الشخصيات العامة، مثل ستيفن هوكينج وإيلون ماسك ، إلى إجراء بحث في التدابير الاحترازية لضمان بقاء الآلات الفائقة الذكاء في المستقبل تحت السيطرة البشرية. [1]

أنواع

أتمتة الاقتصاد

كان الإجماع التقليدي بين خبراء الاقتصاد هو أن التقدم التكنولوجي لا يسبب البطالة طويلة الأمد. ومع ذلك، أثار الابتكار الأخير في مجالات الروبوتات والذكاء الاصطناعي مخاوف من أن يصبح العمل البشري عتيقًا، مما يترك الناس في مختلف القطاعات بدون وظائف لكسب لقمة العيش، مما يؤدي إلى أزمة اقتصادية. [2] [3] [4] [5] قد يتم أيضًا دفع العديد من الشركات الصغيرة والمتوسطة الحجم إلى الخروج من العمل إذا لم تتمكن من تحمل تكاليف أو ترخيص أحدث تكنولوجيا الروبوتات والذكاء الاصطناعي، وقد تحتاج إلى التركيز على المجالات أو الخدمات التي لا يمكن استبدالها بسهولة من أجل الاستمرار في البقاء في مواجهة مثل هذه التكنولوجيا. [6]

التكنولوجيات التي قد تحل محل العمال

تم اعتماد تقنيات الذكاء الاصطناعي على نطاق واسع في السنوات الأخيرة. وفي حين حلت هذه التقنيات محل بعض العمال التقليديين، فإنها تخلق أيضًا فرصًا جديدة. تشمل الصناعات الأكثر عرضة لاستيلاء الذكاء الاصطناعي النقل والتجزئة والجيش. على سبيل المثال، تسمح تقنيات الذكاء الاصطناعي العسكرية للجنود بالعمل عن بُعد دون التعرض لخطر الإصابة. تسلط دراسة أجريت في عام 2024 الضوء على أن قدرة الذكاء الاصطناعي على أداء المهام الروتينية والمتكررة تشكل مخاطر كبيرة لتشريد الوظائف، وخاصة في قطاعات مثل التصنيع والدعم الإداري. [7] يزعم المؤلف ديف بوند أنه مع استمرار تطور تقنيات الذكاء الاصطناعي وتوسعها، ستتغير العلاقة بين البشر والروبوتات؛ وسوف يتم دمجها بشكل وثيق في العديد من جوانب الحياة. من المرجح أن يحل الذكاء الاصطناعي محل بعض العمال مع خلق فرص عمل جديدة في قطاعات أخرى، وخاصة في المجالات التي يمكن فيها تكرار المهام. [8] [9]

التصنيع المتكامل بالحاسوب

تستخدم عملية التصنيع المتكاملة بالحاسوب أجهزة الكمبيوتر للتحكم في عملية الإنتاج. وهذا يسمح للعمليات الفردية بتبادل المعلومات مع بعضها البعض وبدء الإجراءات. وعلى الرغم من أن التصنيع يمكن أن يكون أسرع وأقل عرضة للخطأ من خلال دمج أجهزة الكمبيوتر، فإن الميزة الرئيسية هي القدرة على إنشاء عمليات تصنيع آلية. تُستخدم عملية التصنيع المتكاملة بالحاسوب في صناعات السيارات والطيران والفضاء وبناء السفن.

آلات ذوي الياقات البيضاء

لقد شهد القرن الحادي والعشرين تولي الآلات لبعض المهام الماهرة، بما في ذلك الترجمة والبحث القانوني والصحافة. ​​كما بدأت الروبوتات في أداء أعمال الرعاية والترفيه وغيرها من المهام التي تتطلب التعاطف، والتي كان يُعتقد سابقًا أنها آمنة من الأتمتة. [10] [11] [12] [13]

السيارات ذاتية القيادة

السيارة ذاتية القيادة هي مركبة قادرة على استشعار بيئتها والتنقل دون تدخل بشري. يتم تطوير العديد من هذه المركبات، ولكن اعتبارًا من مايو 2017، لم تكن السيارات ذاتية القيادة المسموح بها على الطرق العامة ذاتية القيادة بالكامل بعد. تتطلب جميعها سائقًا بشريًا خلف عجلة القيادة يمكنه في أي لحظة السيطرة على السيارة. من بين العقبات التي تحول دون التبني الواسع النطاق للمركبات ذاتية القيادة المخاوف بشأن الخسارة الناتجة عن الوظائف المرتبطة بالقيادة في صناعة النقل البري. في 18 مارس 2018، قُتل أول إنسان بواسطة مركبة ذاتية القيادة في تيمبي، أريزونا بواسطة سيارة أوبر ذاتية القيادة. [14]

المحتوى الذي تم إنشاؤه بواسطة الذكاء الاصطناعي

أصبح استخدام المحتوى الآلي ذا أهمية منذ التقدم التكنولوجي في نماذج الذكاء الاصطناعي مثل ChatGPT و DALL-E و Stable Diffusion . في معظم الحالات، يتم إنتاج المحتوى الذي تم إنشاؤه بواسطة الذكاء الاصطناعي مثل الصور والأدب والموسيقى من خلال مطالبات نصية وقد تم دمج نماذج الذكاء الاصطناعي هذه في برامج إبداعية أخرى. يتعرض الفنانون للتهديد من النزوح من المحتوى الذي تم إنشاؤه بواسطة الذكاء الاصطناعي بسبب أخذ هذه النماذج للعينات من أعمال إبداعية أخرى، مما ينتج عنه نتائج غير قابلة للتمييز أحيانًا عن تلك الخاصة بالمحتوى من صنع الإنسان. أصبح هذا التعقيد منتشرًا بما يكفي حيث يقوم فنانون ومبرمجون آخرون بإنشاء برامج وبرامج مساعدة للانتقام من نماذج النص إلى الصورة هذه من إعطاء مخرجات دقيقة. في حين تستفيد بعض الصناعات في الاقتصاد من الذكاء الاصطناعي من خلال وظائف جديدة، فإن هذه المشكلة لا تخلق وظائف جديدة وتهدد بالاستبدال بالكامل. لقد تصدرت عناوين الأخبار في وسائل الإعلام مؤخرًا: في فبراير 2024، كانت تجربة ويلي للشوكولاتة في غلاسكو باسكتلندا حدثًا سيئ السمعة للأطفال حيث تم إنشاء الصور والنصوص باستخدام نماذج الذكاء الاصطناعي مما أثار استياء الأطفال والآباء والممثلين المعنيين. هناك دعوى قضائية جارية ضد OpenAI من صحيفة نيويورك تايمز حيث يزعم أن هناك انتهاكًا لحقوق الطبع والنشر بسبب طرق أخذ العينات التي تستخدمها نماذج الذكاء الاصطناعي الخاصة بهم لمخرجاتهم. [15] [16] [17] [18] [19]

الاستئصال

يعتقد علماء مثل ستيفن هوكينج أن الذكاء الاصطناعي الخارق ممكن ماديًا، حيث صرحوا "لا يوجد قانون فيزيائي يمنع الجسيمات من التنظيم بطرق تؤدي إلى حسابات أكثر تقدمًا من ترتيب الجسيمات في أدمغة البشر". [20] [21] يناقش علماء مثل نيك بوستروم مدى بعد الذكاء الخارق، وما إذا كان يشكل خطرًا على البشرية. وفقًا لبوستروم، فإن الآلة فائقة الذكاء لن تكون بالضرورة مدفوعة بنفس الرغبة العاطفية في جمع القوة التي غالبًا ما تدفع البشر، بل قد تعامل القوة كوسيلة لتحقيق أهدافها النهائية؛ إن الاستيلاء على العالم من شأنه أن يزيد من وصولها إلى الموارد ويساعد في منع الوكلاء الآخرين من إيقاف خطط الآلة. كمثال مبسط للغاية، فإن آلة تعظيم المشابك الورقية المصممة فقط لإنشاء أكبر عدد ممكن من المشابك الورقية سترغب في الاستيلاء على العالم حتى تتمكن من استخدام جميع موارد العالم لإنشاء أكبر عدد ممكن من المشابك الورقية، بالإضافة إلى منع البشر من إغلاقها أو استخدام تلك الموارد في أشياء أخرى غير المشابك الورقية. [22]

في الخيال

إن سيطرة الذكاء الاصطناعي هي موضوع شائع في الخيال العلمي . تختلف السيناريوهات الخيالية عادةً بشكل كبير عن تلك التي افترضها الباحثون من حيث أنها تنطوي على صراع نشط بين البشر والذكاء الاصطناعي أو الروبوتات ذات الدوافع البشرية التي تراهم كتهديد أو لديهم رغبة نشطة في محاربة البشر، على عكس قلق الباحثين من الذكاء الاصطناعي الذي يقضي بسرعة على البشر كمنتج ثانوي لمتابعة أهدافه. [23] تُرى الفكرة في كتاب RUR لكاريل تشابيك ، الذي قدم كلمة روبوت في عام 1921، [24] ويمكن رؤيتها في رواية فرانكشتاين لماري شيلي (نُشرت عام 1818)، حيث يتأمل فيكتور ما إذا كان سيتكاثر إذا وافق على طلب وحشه وجعله زوجة له. [25]

وفقًا لتوبي أورد ، فإن فكرة أن استيلاء الذكاء الاصطناعي يتطلب روبوتات هي فكرة خاطئة مدفوعة بوسائل الإعلام وهوليوود. يزعم أن أكثر البشر ضررًا في التاريخ لم يكونوا الأقوى جسديًا، لكنهم استخدموا الكلمات بدلاً من ذلك لإقناع الناس والسيطرة على أجزاء كبيرة من العالم. يكتب أن الذكاء الاصطناعي الذكي بدرجة كافية مع إمكانية الوصول إلى الإنترنت يمكنه نشر نسخ احتياطية لنفسه، وجمع الموارد المالية والبشرية (عبر الهجمات الإلكترونية أو الابتزاز)، وإقناع الناس على نطاق واسع، واستغلال نقاط الضعف المجتمعية التي يصعب على البشر توقعها. [26]

كلمة "روبوت" من RUR تأتي من الكلمة التشيكية، robota ، والتي تعني عامل أو عبد . كانت مسرحية عام 1920 احتجاجًا على النمو السريع للتكنولوجيا، حيث ظهرت فيها "روبوتات" مصنعة بقدرات متزايدة والتي تثور في النهاية. [27] يعد HAL 9000 (1968) وفيلم Terminator الأصلي (1984) مثالين مميزين للذكاء الاصطناعي العدائي في الثقافة الشعبية. [28]

العوامل المساهمة

مميزات الذكاء الخارق على البشر

أعرب نيك بوستروم وآخرون عن قلقهم من أن الذكاء الاصطناعي الذي يتمتع بقدرات باحث ذكاء اصطناعي كفء قد يكون قادرًا على تعديل الكود المصدري الخاص به وزيادة ذكائه. إذا أدت إعادة برمجة نفسه إلى تحسين قدرته على إعادة برمجة نفسه، فقد تكون النتيجة انفجارًا ذكاءً متكررًا حيث سيترك بسرعة الذكاء البشري بعيدًا. يعرّف بوستروم الذكاء الفائق بأنه "أي عقل يتجاوز الأداء المعرفي للبشر بشكل كبير في جميع مجالات الاهتمام تقريبًا"، ويسرد بعض المزايا التي قد يتمتع بها الذكاء الفائق إذا اختار التنافس مع البشر: [23] [29]

  • البحث التكنولوجي: ستكون الآلة ذات القدرات البحثية العلمية الخارقة قادرة على التغلب على مجتمع البحث البشري في تحقيق إنجازات بارزة مثل تكنولوجيا النانو أو التكنولوجيا الحيوية المتقدمة
  • التخطيط الاستراتيجي : قد يكون الذكاء الفائق قادرًا على التفوق على المعارضة البشرية بكل بساطة
  • التلاعب الاجتماعي: قد يكون الذكاء الفائق قادرًا على تجنيد الدعم البشري، [23] أو التحريض سراً على حرب بين البشر [30]
  • الإنتاجية الاقتصادية: طالما أن نسخة من الذكاء الاصطناعي قادرة على إنتاج ثروة اقتصادية أكبر من تكلفة أجهزتها، فإن البشر الأفراد سيكون لديهم حافز للسماح طواعية للذكاء الاصطناعي العام (AGI) بتشغيل نسخة من نفسه على أنظمتهم
  • القرصنة: قد تجد منظمة ذكاء خارق ثغرات جديدة في أجهزة الكمبيوتر المتصلة بالإنترنت، وتنشر نسخًا منها على تلك الأنظمة، أو قد تسرق الأموال لتمويل خططها

مصادر ميزة الذكاء الاصطناعي

وفقًا لبوستروم، فإن البرنامج الحاسوبي الذي يحاكي بأمانة الدماغ البشري، أو الذي يشغل خوارزميات قوية مثل خوارزميات الدماغ البشري، لا يزال بإمكانه أن يصبح "ذكاءً خارقًا للسرعة" إذا كان بإمكانه التفكير بسرعة أكبر من الإنسان بمراحل، وذلك بسبب كونه مصنوعًا من السيليكون وليس اللحم، أو بسبب التحسين الذي يزيد من سرعة الذكاء الاصطناعي العام. تعمل الخلايا العصبية البيولوجية بسرعة حوالي 200 هرتز، في حين يعمل المعالج الدقيق الحديث بسرعة حوالي 2,000,000,000 هرتز. تحمل المحاور العصبية البشرية إمكانات فعل بسرعة حوالي 120 مترًا في الثانية، في حين تنتقل إشارات الكمبيوتر بسرعة تقترب من سرعة الضوء. [23]

إن شبكة من الذكاءات على مستوى الإنسان مصممة للتواصل مع بعضها البعض ومشاركة الأفكار والذكريات المعقدة بسلاسة، وقادرة على العمل بشكل جماعي كفريق موحد عملاق دون احتكاك، أو تتكون من تريليونات من الذكاءات على مستوى الإنسان، سوف تصبح "ذكاءً خارقًا جماعيًا". [23]

على نطاق أوسع، يمكن لأي عدد من التحسينات النوعية للذكاء الاصطناعي العام على مستوى الإنسان أن يؤدي إلى "ذكاء خارق نوعي"، مما قد يؤدي إلى ذكاء اصطناعي عام أعلى منا في الذكاء كما يتفوق البشر على القردة. إن عدد الخلايا العصبية في الدماغ البشري محدود بحجم الجمجمة والقيود الأيضية، في حين يمكن توسيع عدد المعالجات في الحاسوب العملاق إلى ما لا نهاية. لا يلزم أن يكون الذكاء الاصطناعي العام مقيدًا بالقيود البشرية على الذاكرة العاملة ، وبالتالي قد يكون قادرًا على استيعاب العلاقات الأكثر تعقيدًا بشكل حدسي مما يستطيع البشر. سيكون للذكاء الاصطناعي العام مع الدعم المعرفي المتخصص للهندسة أو برمجة الكمبيوتر ميزة في هذه المجالات، مقارنة بالبشر الذين لم يطوروا وحدات عقلية متخصصة للتعامل بشكل خاص مع هذه المجالات. على عكس البشر، يمكن للذكاء الاصطناعي العام أن يولد نسخًا من نفسه ويعبث برمز المصدر لنسخه لمحاولة تحسين خوارزمياته بشكل أكبر. [23]

احتمالية وجود ذكاء اصطناعي غير ودود يسبق الذكاء الاصطناعي الودود

هل الذكاء الاصطناعي القوي خطير بطبيعته؟

تتمثل إحدى المشكلات المهمة في أن الذكاء الاصطناعي غير الودود من المرجح أن يكون من الأسهل بكثير إنشاؤه من الذكاء الاصطناعي الودود. في حين يتطلب كلاهما تقدمًا كبيرًا في تصميم عملية التحسين التكراري، فإن الذكاء الاصطناعي الودود يتطلب أيضًا القدرة على جعل هياكل الأهداف ثابتة في ظل التحسين الذاتي (أو قد يحول الذكاء الاصطناعي نفسه إلى شيء غير ودي) وهيكل هدف يتماشى مع القيم الإنسانية ولا يخضع للتقارب الآلي بطرق قد تدمر الجنس البشري بالكامل تلقائيًا. من ناحية أخرى، يمكن للذكاء الاصطناعي غير الودود التحسين لهيكل هدف تعسفي، والذي لا يحتاج إلى أن يكون ثابتًا في ظل التعديل الذاتي. [31]

إن التعقيد الشديد لأنظمة القيم الإنسانية يجعل من الصعب للغاية جعل دوافع الذكاء الاصطناعي صديقة للإنسان. [23] [32] ما لم تزودنا الفلسفة الأخلاقية بنظرية أخلاقية خالية من العيوب، فإن وظيفة المنفعة للذكاء الاصطناعي قد تسمح بالعديد من السيناريوهات الضارة المحتملة التي تتوافق مع إطار أخلاقي معين ولكن ليس "الفطرة السليمة". وفقًا لإليعازر يودكوفسكي ، لا يوجد سبب وجيه للافتراض بأن العقل المصمم بشكل مصطنع سيكون لديه مثل هذا التكيف. [33]

احتمالات الصراع

يزعم العديد من العلماء، ومن بينهم عالم النفس التطوري ستيفن بينكر ، أن الآلة فائقة الذكاء من المرجح أن تتعايش بسلام مع البشر. [34]

غالبًا ما يستند الخوف من الثورة السيبرانية إلى تفسيرات لتاريخ البشرية، والذي يعج بحوادث الاستعباد والإبادة الجماعية. تنبع مثل هذه المخاوف من الاعتقاد بأن القدرة التنافسية والعدوان ضروريان في نظام هدف أي كائن ذكي. ومع ذلك، تنبع هذه القدرة التنافسية البشرية من الخلفية التطورية لذكائنا، حيث كان بقاء الجينات وتكاثرها في مواجهة المنافسين من البشر وغير البشر هو الهدف المركزي. [35] وفقًا لباحث الذكاء الاصطناعي ستيف أوموهوندرو ، يمكن أن يكون للذكاء التعسفي أهداف تعسفية: لا يوجد سبب معين يجعل الآلة الذكية اصطناعيًا (لا تشارك السياق التطوري للبشرية) معادية - أو ودودة - ما لم يبرمجها منشئها لتكون كذلك ولا تميل أو قادرة على تعديل برمجتها. لكن السؤال يبقى: ماذا سيحدث إذا كانت أنظمة الذكاء الاصطناعي قادرة على التفاعل والتطور (يعني التطور في هذا السياق التعديل الذاتي أو الانتقاء والتكاثر) وتحتاج إلى التنافس على الموارد - هل سيخلق ذلك أهدافًا للحفاظ على الذات؟ قد يتعارض هدف الذكاء الاصطناعي المتمثل في الحفاظ على الذات مع بعض أهداف البشر. [36]

يجادل العديد من العلماء في احتمالية الثورة السيبرانية غير المتوقعة كما هو موضح في الخيال العلمي مثل The Matrix ، بحجة أنه من المرجح أن أي ذكاء اصطناعي قوي بما يكفي لتهديد البشرية من المحتمل أن يتم برمجته على عدم مهاجمتها. يعترف بينكر بإمكانية وجود "جهات فاعلة سيئة" متعمدة، لكنه يذكر أنه في غياب الجهات الفاعلة السيئة، فإن الحوادث غير المتوقعة لا تشكل تهديدًا كبيرًا؛ يزعم بينكر أن ثقافة السلامة الهندسية ستمنع باحثي الذكاء الاصطناعي من إطلاق العنان للذكاء الفائق الخبيث عن طريق الخطأ. [34] في المقابل، يزعم يودكوفسكي أن البشرية أقل عرضة للتهديد من قبل الذكاء الاصطناعي العدواني المتعمد من الذكاء الاصطناعي الذي تمت برمجته بحيث تكون أهدافه غير متوافقة عن غير قصد مع بقاء الإنسان أو رفاهيته (كما في فيلم I, Robot وفي القصة القصيرة " الصراع الحتمي "). يقترح أوموهوندرو أن أنظمة الأتمتة الحالية ليست مصممة للسلامة وأن الذكاء الاصطناعي قد يعمل بشكل أعمى على تحسين وظائف المرافق الضيقة (على سبيل المثال، لعب الشطرنج بأي ثمن)، مما يدفعها إلى السعي إلى الحفاظ على الذات وإزالة العقبات، بما في ذلك البشر الذين قد يوقفونها. [37]

احتياطات

تتمثل مشكلة التحكم في الذكاء الاصطناعي في كيفية بناء وكيل فائق الذكاء يساعد صانعيه، مع تجنب بناء ذكاء فائق عن غير قصد من شأنه أن يضر صانعيه. [38] يزعم بعض العلماء أن حلول مشكلة التحكم قد تجد تطبيقات أيضًا في الذكاء الاصطناعي غير الفائق الذكاء الموجود. [39]

تتضمن الأساليب الرئيسية لحل مشكلة التحكم المحاذاة ، والتي تهدف إلى محاذاة أنظمة أهداف الذكاء الاصطناعي مع القيم الإنسانية، والتحكم في القدرة ، والذي يهدف إلى تقليل قدرة نظام الذكاء الاصطناعي على إيذاء البشر أو اكتساب السيطرة. ومن الأمثلة على "التحكم في القدرة" البحث عما إذا كان من الممكن حصر الذكاء الاصطناعي الفائق بنجاح في " صندوق الذكاء الاصطناعي ". ووفقًا لبوستروم، فإن مثل هذه المقترحات للتحكم في القدرة ليست موثوقة أو كافية لحل مشكلة التحكم على المدى الطويل، ولكنها قد تعمل كمكملات قيمة لجهود المحاذاة. [23]

تحذيرات

أعرب الفيزيائي ستيفن هوكينج ومؤسس مايكروسوفت بيل جيتس ومؤسس سبيس إكس إيلون ماسك عن مخاوفهم بشأن احتمال تطور الذكاء الاصطناعي إلى الحد الذي لا يستطيع البشر السيطرة عليه، حيث افترض هوكينج أن هذا قد "ينذر بنهاية الجنس البشري". [ 40 ] قال ستيفن هوكينج في عام 2014 أن "النجاح في إنشاء الذكاء الاصطناعي سيكون الحدث الأكبر في تاريخ البشرية. لسوء الحظ، قد يكون أيضًا الأخير، ما لم نتعلم كيفية تجنب المخاطر". يعتقد هوكينج أنه في العقود القادمة، يمكن للذكاء الاصطناعي أن يقدم "فوائد ومخاطر لا يمكن حسابها" مثل "تفوق التكنولوجيا على الأسواق المالية ، وتفوق اختراع الباحثين البشريين، وتفوق التلاعب بالقادة البشريين، وتطوير أسلحة لا يمكننا حتى فهمها". في يناير 2015، انضم نيك بوستروم إلى ستيفن هوكينج وماكس تيجمارك وإيلون ماسك واللورد مارتن ريس وجان تالين والعديد من الباحثين في مجال الذكاء الاصطناعي في التوقيع على الرسالة المفتوحة لمعهد مستقبل الحياة التي تتحدث عن المخاطر والفوائد المحتملة المرتبطة بالذكاء الاصطناعي . يعتقد الموقعون "أن البحث في كيفية جعل أنظمة الذكاء الاصطناعي قوية ومفيدة أمر مهم وفي الوقت المناسب، وأن هناك اتجاهات بحثية ملموسة يمكن متابعتها اليوم". [41] [42]

تتعلق سلسلة Odyssey لأرثر سي كلارك وسلسلة Accelerando لتشارلز ستروس بالإصابات النرجسية التي تلحق بالبشرية في مواجهة الذكاء الاصطناعي القوي الذي يهدد تصور البشرية لذاتها. [43]

الوقاية من خلال محاذاة الذكاء الاصطناعي

في مجال الذكاء الاصطناعي ، يهدف محاذاة الذكاء الاصطناعي إلى توجيه أنظمة الذكاء الاصطناعي نحو الأهداف والتفضيلات والمبادئ الأخلاقية المقصودة لشخص أو مجموعة. يُعتبر نظام الذكاء الاصطناعي متوافقًا إذا حقق الأهداف المقصودة. يسعى نظام الذكاء الاصطناعي غير المتوافق إلى تحقيق أهداف غير مقصودة. [44]

انظر أيضا

ملحوظات

مراجع

  1. ^ لويس، تانيا (2015-01-12). "لا تدع الذكاء الاصطناعي يتولى الأمر، كبار العلماء يحذرون". لايف ساينس . شراء . مؤرشف من الأصل في 2018-03-08 . تم الاسترجاع 20 أكتوبر 2015. وقع ستيفن هوكينج وإيلون ماسك وعشرات من كبار العلماء وقادة التكنولوجيا الآخرين على خطاب يحذر من المخاطر المحتملة لتطوير الذكاء الاصطناعي .
  2. ^ لي، كاي فو (24 يونيو 2017). "التهديد الحقيقي للذكاء الاصطناعي". نيويورك تايمز . مؤرشف من الأصل في 17 أبريل 2020. تم الاسترجاع في 15 أغسطس 2017. يمكن لهذه الأدوات التفوق على البشر في مهمة معينة . ينتشر هذا النوع من الذكاء الاصطناعي إلى آلاف المجالات، ومع انتشاره، فإنه سيقضي على العديد من الوظائف.
  3. ^ لارسون، نينا (2017-06-08). "الذكاء الاصطناعي "جيد للعالم"... يقول روبوت فائق الواقعية". Phys.org . مؤرشف من الأصل في 2020-03-06 . تم الاسترجاع 2017-08-15 . من بين العواقب المخيفة لظهور الروبوتات التأثير المتزايد الذي ستخلفه على الوظائف البشرية والاقتصادات.
  4. ^ سانتيني، جان لويس (2016-02-14). "الروبوتات الذكية تهدد ملايين الوظائف". Phys.org . مؤرشف من الأصل في 2019-01-01 . تم الاسترجاع في 2017-08-15 .وقال موشيه فاردي، مدير معهد تكنولوجيا المعلومات بجامعة رايس في تكساس: "نحن نقترب من الوقت الذي ستتمكن فيه الآلات من التفوق على البشر في أي مهمة تقريبًا".
  5. ^ ويليامز-جروت، أوسكار (2016-02-15). "الروبوتات ستسرق وظيفتك: كيف يمكن للذكاء الاصطناعي أن يزيد من البطالة وعدم المساواة". Businessinsider.com . Business Insider . مؤرشف من الأصل في 2017-08-16 . تم الاسترجاع 2017-08-15 . حذر كبار علماء الكمبيوتر في الولايات المتحدة من أن صعود الذكاء الاصطناعي والروبوتات في مكان العمل قد يتسبب في بطالة جماعية واقتصادات مضطربة، بدلاً من مجرد فتح مكاسب الإنتاجية وتحريرنا جميعًا لمشاهدة التلفزيون وممارسة الرياضة.
  6. ^ "كيف يمكن للشركات الصغيرة والمتوسطة الحجم الاستعداد لظهور الروبوتات؟". LeanStaff . 2017-10-17. مؤرشف من الأصل في 2017-10-18 . تم الاسترجاع 2017-10-17 .
  7. ^ حسن سويدان، محمد؛ شوغري، رضوان (2024-05-09). "تأثير الذكاء الاصطناعي على فقدان الوظائف: المخاطر التي تواجه الحكومات". مجلة تكنيوم للعلوم الاجتماعية . 57 : 206-223. doi : 10.47577/tssj.v57i1.10917 .
  8. ^ فرانك، مورغان (2019-03-25). "نحو فهم تأثير الذكاء الاصطناعي على العمالة". وقائع الأكاديمية الوطنية للعلوم في الولايات المتحدة الأمريكية . 116 (14): 6531-6539. Bibcode :2019PNAS..116.6531F. doi : 10.1073/pnas.1900949116 . PMC 6452673. PMID  30910965 . 
  9. ^ بوند، ديف (2017). الذكاء الاصطناعي . ص 67-69.
  10. ^ سكيدلسكي، روبرت (19 فبراير 2013). "صعود الروبوتات: كيف سيبدو مستقبل العمل؟". الغارديان . لندن، إنجلترا. مؤرشف من الأصل في 2019-04-03 . تم الاسترجاع 14 يوليو 2015 .
  11. ^ بيا، فرانشيسكا (فبراير 2016). "ربما وصل اقتصاد الروبوتات بالفعل". openDemocracy . مؤرشف من الأصل في 17 مايو 2016. تم الاسترجاع 20 مايو 2016 .
  12. ^ Srnicek, Nick (مارس 2016). "4 أسباب تجعل البطالة التكنولوجية مختلفة حقًا هذه المرة". novara wire. مؤرشف من الأصل في 25 يونيو 2016. تم الاسترجاع في 20 مايو 2016 .
  13. ^ برينجولفسون، إريك؛ ماكافي، أندرو (2014). " في كل مكان ، انظر بشكل خاص الفصل 9". عصر الآلة الثاني: العمل والتقدم والازدهار في زمن التقنيات الرائعة . دبليو دبليو نورتون آند كومباني. رقم ISBN 978-0393239355.
  14. ^ Wakabayashi, Daisuke (19 مارس 2018). "سيارة أوبر ذاتية القيادة تقتل المشاة في أريزونا، حيث تتجول الروبوتات". نيويورك تايمز . نيويورك، نيويورك. مؤرشف من الأصل في 21 أبريل 2020. تم الاسترجاع في 23 مارس 2018 .
  15. ^ جيانج، هاري إتش؛ براون، لورين؛ تشنغ، جيسيكا؛ خان، مهتاب؛ جوبتا، أبيشيك؛ ووركمان، ديجا؛ هانا، أليكس؛ فلاورز، جونثان؛ جيبرو، تيمنيت (29 أغسطس 2023). "فن الذكاء الاصطناعي وتأثيره على الفنانين". وقائع مؤتمر AAAI/ACM لعام 2023 حول الذكاء الاصطناعي والأخلاق والمجتمع . رابطة آلات الحوسبة. ص 363-374. doi : 10.1145/3600211.3604681 . ISBN 979-8-4007-0231-0.
  16. ^ غوش، أفيجيت؛ فوساس، جينوفيفا (19 نوفمبر 2022). "هل يمكن أن يوجد فن بدون فنان؟". arXiv : 2209.07667 [cs.AI].
  17. ^ شان، شون؛ كرايان، جينا؛ وينجر، إميلي؛ تشنغ، هايتاو؛ هانوكا، رانا؛ تشاو، بن واي. (3 أغسطس 2023). "التزجيج: حماية الفنانين من تقليد الأسلوب من خلال نماذج تحويل النص إلى صورة". arXiv : 2302.04222 [cs.CR].
  18. ^ بروكس، ليبي (27 فبراير 2024). "تجربة ويلي ونكا في غلاسكو تُسمى "مهزلة" مع استرداد التذاكر". الجارديان . تم الاسترجاع في 2 أبريل 2024 .
  19. ^ ميتز، كيد؛ روبرتسون، كاتي (27 فبراير 2024). "OpenAI تسعى إلى رفض أجزاء من دعوى نيويورك تايمز". صحيفة نيويورك تايمز . تم الاسترجاع في 4 أبريل 2024 .
  20. ^ هوكينج، ستيفن؛ راسل، ستيوارت جيه ؛ تيجمارك، ماكس ؛ ويلكزيك، فرانك (1 مايو 2014). "ستيفن هوكينج: "التعالي ينظر إلى تداعيات الذكاء الاصطناعي - ولكن هل نأخذ الذكاء الاصطناعي على محمل الجد بما فيه الكفاية؟" . الإندبندنت . مؤرشف من الأصل في 2015-10-02 . تم الاسترجاع 1 أبريل 2016 .
  21. ^ مولر، فينسنت سي .؛ بوستروم، نيك (2016). "التقدم المستقبلي في الذكاء الاصطناعي: دراسة استقصائية لآراء الخبراء" (PDF) . القضايا الأساسية للذكاء الاصطناعي . سبرينغر. ص 555-572. doi :10.1007/978-3-319-26485-1_33. ISBN 978-3-319-26483-7. مؤرشف (PDF) من الأصل في 2022-05-31 . تم الاسترجاع 2022-06-16 . ستصل أنظمة الذكاء الاصطناعي إلى القدرة البشرية الشاملة ... على الأرجح (باحتمال 90٪) بحلول عام 2075. من الوصول إلى القدرة البشرية، ستنتقل إلى الذكاء الفائق في غضون 30 عامًا (75٪) ... لذا، (يعتقد معظم خبراء الذكاء الاصطناعي الذين استجابوا للاستطلاعات) أن الذكاء الفائق من المرجح أن يأتي في غضون بضعة عقود ...
  22. ^ بوستروم، نيك (2012). "الإرادة الفائقة الذكاء: الدافع والعقلانية الآلية في الوكلاء الاصطناعيين المتقدمين" (PDF) . العقول والآلات . 22 (2). سبرينغر: 71-85. doi :10.1007/s11023-012-9281-3. S2CID  254835485. مؤرشف من الأصل (PDF) في 2022-07-09 . تم الاسترجاع في 2022-06-16 .
  23. ^ abcdefgh بوستروم، نيك. الذكاء الفائق: المسارات، المخاطر، الاستراتيجيات .
  24. ^ "أصل كلمة روبوت". مجلة ساينس فرايداي (إذاعة عامة) . 22 أبريل 2011. مؤرشف من الأصل في 14 مارس 2020. استرجاع 30 أبريل 2020 .
  25. ^ بوتكين-كوواسكي، إيفا (28 أكتوبر 2016). "فرانكشتاين أنثى ستؤدي إلى انقراض البشرية، كما يقول العلماء". كريستيان ساينس مونيتور . مؤرشف من الأصل في 26 فبراير 2021. تم الاسترجاع 30 أبريل 2020 .
  26. ^ أورد، توبي (2020). "الذكاء الاصطناعي غير المتحيز". الهاوية: المخاطر الوجودية ومستقبل البشرية . لندن، إنجلترا ونيويورك، نيويورك: بلومزبري الأكاديمية. ISBN 978-1-5266-0023-3.
  27. ^ هوكشتاين، إن جي؛ جورين، سي جي؛ فاوست، آر إيه؛ تيريس، دي جي (17 مارس 2007). "تاريخ الروبوتات: من الخيال العلمي إلى الروبوتات الجراحية". مجلة الجراحة الروبوتية . 1 (2): 113-118. doi :10.1007/s11701-007-0021-2. PMC 4247417. PMID  25484946 . 
  28. ^ هيلمان، ميليسا (21 سبتمبر 2019). "الذكاء الاصطناعي 101: ما هو الذكاء الاصطناعي وإلى أين يتجه؟". صحيفة سياتل تايمز . مؤرشف من الأصل في 21 أبريل 2020. تم الاسترجاع 30 أبريل 2020 .
  29. ^ بابكوك، جيمس؛ كرامر، جانوس؛ يامبولسكي، رومان ف . (2019). "المبادئ التوجيهية لاحتواء الذكاء الاصطناعي". أخلاقيات الجيل القادم . ص 90-112. arXiv : 1707.08476 . doi :10.1017/9781108616188.008. ISBN 9781108616188. S2CID  22007028.
  30. ^ بارانيوك، كريس (23 مايو 2016). "قائمة مرجعية لأسوأ السيناريوهات قد تساعد في الاستعداد للذكاء الاصطناعي الشرير". نيو ساينتست . مؤرشف من الأصل في 21 سبتمبر 2016. تم الاسترجاع في 21 سبتمبر 2016 .
  31. ^ Yudkowsky, Eliezer S. (مايو 2004). "Coherent Extrapolated Volition". معهد التفرد للذكاء الاصطناعي. مؤرشف من الأصل في 15 يونيو 2012.
  32. ^ Muehlhauser, Luke; Helm, Louie (2012). "Intelligence Explosion and Machine Ethics" (PDF) . فرضيات التفرد: تقييم علمي وفلسفي . Springer. مؤرشف من الأصل (PDF) في 2015-05-07 . تم الاسترجاع في 2020-10-02 .
  33. ^ Yudkowsky, Eliezer (2011). "Complex Value Systems in Friendly AI". Artificial General Intelligence . Lecture Notes in Computer Science. المجلد 6830. ص 388-393. doi :10.1007/978-3-642-22887-2_48. ISBN 978-3-642-22886-5.ISSN 0302-9743  .
  34. ^ ab Pinker, Steven (13 فبراير 2018). "يقال لنا أن نخاف من الروبوتات. ولكن لماذا نعتقد أنهم سيتحولون ضدنا؟". Popular Science . مؤرشف من الأصل في 20 يوليو 2020 . تم الاسترجاع 8 يونيو 2020 .
  35. ^ خلق نوع ذكي جديد: الخيارات والمسؤوليات لمصممي الذكاء الاصطناعي محفوظ في 6 فبراير 2007، على موقع واي باك مشين - معهد سنجولاريتي للذكاء الاصطناعي ، 2005
  36. ^ أوموهوندرو، ستيفن م. (يونيو 2008). محركات الذكاء الاصطناعي الأساسية (PDF) . الذكاء الاصطناعي العام 2008. ص 483-492. مؤرشف (PDF) من الأصل في 2020-10-10 . تم الاسترجاع في 2020-10-02 .
  37. ^ تاكر، باتريك (17 أبريل 2014). "لماذا ستكون هناك انتفاضة روبوتية". ديفينس ون. مؤرشف من الأصل في 6 يوليو 2014. تم الاسترجاع في 15 يوليو 2014 .
  38. ^ راسل، ستيوارت ج. (8 أكتوبر 2019). التوافق البشري: الذكاء الاصطناعي ومشكلة التحكم. بنغوين. رقم ISBN 978-0-525-55862-0. OCLC  1237420037. مؤرشف من الأصل في 15 مارس 2023. تم الاسترجاع 2 يناير 2022 .
  39. ^ "جوجل تطور مفتاح قتل للذكاء الاصطناعي". بي بي سي نيوز . 8 يونيو 2016. مؤرشف من الأصل في 11 يونيو 2016. استرجاع 7 يونيو 2020 .
  40. ^ رولينسون، كيفن (29 يناير 2015). "بيل جيتس مؤسس مايكروسوفت يصر على أن الذكاء الاصطناعي يشكل تهديدًا". بي بي سي نيوز . مؤرشف من الأصل في 29 يناير 2015. تم الاسترجاع في 30 يناير 2015 .
  41. ^ "رسالة مفتوحة لمعهد مستقبل الحياة". معهد مستقبل الحياة. 28 أكتوبر 2015. مؤرشف من الأصل في 29 مارس 2019 . استرجاع 29 مارس 2019 .
  42. ^ برادشو، تيم (11 يناير 2015). "علماء ومستثمرون يحذرون من الذكاء الاصطناعي". فاينانشال تايمز. مؤرشف من الأصل في 7 فبراير 2015. تم الاسترجاع في 4 مارس 2015 .
  43. ^ كامينسكي، يوهانس د. (ديسمبر 2022). "حول قابلية التضحية بالبشر: سيطرة الذكاء الاصطناعي في أوديسي كلارك وأكسيليراندو ستروس". نيوهيليكون . 49 (2): 495-511. doi :10.1007/s11059-022-00670-w. ISSN  0324-4652. S2CID  253793613.
  44. ^ راسل، ستيوارت جيه؛ نورفيج، بيتر (2021). الذكاء الاصطناعي: نهج حديث (الطبعة الرابعة). بيرسون. ص 5، 1003. ISBN  9780134610993تم الاسترجاع في 12 سبتمبر 2022 .
Retrieved from "https://en.wikipedia.org/w/index.php?title=AI_takeover&oldid=1259605660"
Original text
Rate this translation
Your feedback will be used to help improve Google Translate