الذكاء الفائق
الذكاء الفائق هو كائن افتراضي يمتلك ذكاءً يفوق ذكاء العقول البشرية الأكثر ذكاءً وذكاءً . وقد يشير مصطلح "الذكاء الفائق" أيضًا إلى خاصية أنظمة حل المشكلات (على سبيل المثال، مترجمو اللغات أو المساعدون الهندسيون فائقو الذكاء) سواء كانت هذه الكفاءات الفكرية عالية المستوى متجسدة في كائنات تعمل في العالم أم لا. قد يتم إنشاء الذكاء الفائق أو لا يتم إنشاؤه من خلال انفجار ذكاء وربطه بتفرد تكنولوجي .
يعرِّف الفيلسوف نيك بوستروم من جامعة أكسفورد الذكاء الفائق بأنه "أي ذكاء يفوق إلى حد كبير الأداء المعرفي للبشر في جميع مجالات الاهتمام تقريبًا". [1] لا يرقى برنامج فريتز إلى مستوى هذا المفهوم للذكاء الفائق - على الرغم من أنه أفضل بكثير من البشر في لعبة الشطرنج - لأن فريتز لا يستطيع التفوق على البشر في مهام أخرى. [2]
يختلف الباحثون التكنولوجيون حول مدى احتمالية تجاوز الذكاء البشري الحالي . يزعم البعض أن التقدم في الذكاء الاصطناعي (AI) من المحتمل أن يؤدي إلى أنظمة تفكير عامة تفتقر إلى القيود المعرفية البشرية. يعتقد البعض الآخر أن البشر سوف يتطورون أو يعدلون بيولوجيتهم بشكل مباشر لتحقيق ذكاء أعظم بشكل جذري. [3] [4] تجمع العديد من سيناريوهات الدراسة المستقبلية عناصر من كلا الاحتمالين، مما يشير إلى أن البشر من المرجح أن يتفاعلوا مع أجهزة الكمبيوتر ، أو يقومون بتحميل عقولهم على أجهزة الكمبيوتر ، بطريقة تمكن من تضخيم الذكاء بشكل كبير.
يعتقد بعض الباحثين أن الذكاء الفائق من المرجح أن يأتي بعد فترة وجيزة من تطوير الذكاء الاصطناعي العام . من المرجح أن تتمتع الآلات الذكية الأولى على الفور بميزة هائلة في بعض أشكال القدرة العقلية على الأقل، بما في ذلك القدرة على التذكر المثالي ، وقاعدة معرفية متفوقة للغاية، والقدرة على أداء مهام متعددة بطرق غير ممكنة للكيانات البيولوجية. قد يسمح لهم هذا - إما ككائن فردي أو كنوع جديد - بأن يصبحوا أكثر قوة من البشر، ويحلوا محلهم. [1]
وقد دعا العديد من العلماء والمتنبئين إلى إعطاء الأولوية للبحوث المبكرة في الفوائد والمخاطر المحتملة لتعزيز الإدراك البشري والآلي ، بسبب التأثير الاجتماعي المحتمل لمثل هذه التقنيات. [5]
جدوى الذكاء الاصطناعي الفائق
لقد كانت جدوى الذكاء الاصطناعي الفائق ( ASI ) موضوعًا للنقاش المتزايد في السنوات الأخيرة، وخاصة مع التقدم السريع في تقنيات الذكاء الاصطناعي (AI).
التقدم في الذكاء الاصطناعي ومطالبات الذكاء الاصطناعي العام
أدت التطورات الأخيرة في الذكاء الاصطناعي، وخاصة في نماذج اللغة الكبيرة (LLMs) القائمة على بنية المحول ، إلى تحسينات كبيرة في مهام مختلفة. أظهرت نماذج مثل GPT-3 و GPT-4 و Claude 3.5 وغيرها قدرات يزعم بعض الباحثين أنها تقترب أو حتى تظهر جوانب الذكاء الاصطناعي العام (AGI). [6]
ومع ذلك، فإن الادعاء بأن نماذج LLM الحالية تشكل ذكاءً اصطناعيًا عامًا مثير للجدل. يزعم المنتقدون أن هذه النماذج، على الرغم من كونها مثيرة للإعجاب، لا تزال تفتقر إلى الفهم الحقيقي وهي في الأساس أنظمة مطابقة أنماط متطورة. [7]
المسارات نحو الذكاء الفائق
يزعم الفيلسوف ديفيد تشالمرز أن الذكاء الاصطناعي العام هو المسار المحتمل للذكاء الاصطناعي. ويفترض أن الذكاء الاصطناعي يمكن أن يصل إلى مستوى يعادل الذكاء البشري، ويمكن توسيعه ليتجاوزه، ثم يمكن تضخيمه للسيطرة على البشر في مهام عشوائية. [8]
وقد استكشفت الأبحاث الحديثة العديد من المسارات المحتملة للذكاء الفائق:
- توسيع نطاق أنظمة الذكاء الاصطناعي الحالية - يزعم بعض الباحثين أن الاستمرار في توسيع نطاق هياكل الذكاء الاصطناعي الحالية، وخاصة النماذج القائمة على المحولات، يمكن أن يؤدي إلى الذكاء الاصطناعي العام وربما الذكاء الاصطناعي المتقدم. [9]
- الهندسة المعمارية الجديدة - يقترح آخرون أن الهندسة المعمارية الجديدة للذكاء الاصطناعي، والتي ربما تكون مستوحاة من علم الأعصاب، قد تكون ضرورية لتحقيق الذكاء الاصطناعي العام والذكاء الاصطناعي المتقدم. [10]
- الأنظمة الهجينة - إن الجمع بين مناهج الذكاء الاصطناعي المختلفة، بما في ذلك الذكاء الاصطناعي الرمزي والشبكات العصبية، من الممكن أن يؤدي إلى أنظمة أكثر قوة وقدرة. [11]
المزايا الحسابية
تتمتع الأنظمة الاصطناعية بالعديد من المزايا المحتملة مقارنة بالذكاء البيولوجي:
- السرعة – تعمل مكونات الكمبيوتر بشكل أسرع بكثير من الخلايا العصبية البيولوجية. المعالجات الدقيقة الحديثة (~2 جيجاهرتز) أسرع بسبع مرات من الخلايا العصبية (~200 هرتز). [12]
- قابلية التوسع - من الممكن توسيع نطاق أنظمة الذكاء الاصطناعي من حيث الحجم والقدرة الحسابية بسهولة أكبر من الأدمغة البيولوجية.
- النمطية – يمكن تحسين المكونات المختلفة لأنظمة الذكاء الاصطناعي أو استبدالها بشكل مستقل.
- الذاكرة – يمكن لأنظمة الذكاء الاصطناعي أن تتمتع بقدرة تذكر مثالية وقواعد معرفية واسعة. كما أنها أقل تقييدًا بكثير من البشر عندما يتعلق الأمر بالذاكرة العاملة. [12]
- تعدد المهام - يمكن للذكاء الاصطناعي أداء مهام متعددة في وقت واحد بطرق غير ممكنة للكيانات البيولوجية.
مسار الجهد من خلال نماذج المحولات
لقد دفعت التطورات الأخيرة في النماذج القائمة على المحولات بعض الباحثين إلى التكهن بأن الطريق إلى ASI قد يكمن في توسيع وتحسين هذه البنيات. تشير هذه النظرة إلى أن التحسينات المستمرة في نماذج المحولات أو البنيات المماثلة قد تؤدي مباشرة إلى ASI. [13]
يزعم بعض الخبراء أن نماذج اللغة الكبيرة الحالية مثل GPT-4 قد تظهر بالفعل علامات مبكرة على قدرات الذكاء الاصطناعي العام أو الذكاء الاصطناعي المتقدم. [14] يشير هذا المنظور إلى أن الانتقال من الذكاء الاصطناعي الحالي إلى الذكاء الاصطناعي المتقدم قد يكون أكثر استمرارية وسرعة مما كان يُعتقد سابقًا، مما يطمس الخطوط الفاصلة بين الذكاء الاصطناعي الضيق والذكاء الاصطناعي العام والذكاء الاصطناعي المتقدم.
ومع ذلك، لا تزال هذه النظرة مثيرة للجدل. يزعم المنتقدون أن النماذج الحالية، على الرغم من كونها مثيرة للإعجاب، لا تزال تفتقر إلى جوانب حاسمة من الذكاء العام مثل الفهم الحقيقي، والمنطق، والقدرة على التكيف عبر مجالات متنوعة. [15]
لا يزال النقاش حول ما إذا كان الطريق إلى الذكاء الاصطناعي العام سوف يتضمن مرحلة متميزة من الذكاء الاصطناعي العام أو التوسع المباشر في التقنيات الحالية مستمراً، مع وجود آثار كبيرة على استراتيجيات تطوير الذكاء الاصطناعي واعتبارات السلامة.
التحديات وعدم اليقين
وعلى الرغم من هذه المزايا المحتملة، هناك تحديات كبيرة وعدم يقين في تحقيق ASI:
- المخاوف الأخلاقية والمتعلقة بالسلامة - يثير تطوير ASI العديد من الأسئلة الأخلاقية والمخاطر المحتملة التي تحتاج إلى معالجة. [16]
- المتطلبات الحسابية - قد تكون الموارد الحسابية المطلوبة لـ ASI أبعد بكثير من القدرات الحالية.
- القيود الأساسية - قد تكون هناك قيود أساسية على الذكاء تنطبق على كل من الأنظمة الاصطناعية والبيولوجية.
- عدم القدرة على التنبؤ - إن الطريق إلى ASI وعواقبه غير مؤكدة للغاية ويصعب التنبؤ بها.
مع استمرار التقدم السريع في أبحاث الذكاء الاصطناعي، تظل مسألة جدوى الذكاء الاصطناعي موضوع نقاش ودراسة مكثفة في المجتمع العلمي.
جدوى الذكاء البيولوجي الفائق
اقترح كارل ساجان أن ظهور العمليات القيصرية والتلقيح الصناعي قد يسمح للبشر بتطوير رؤوس أكبر، مما يؤدي إلى تحسينات من خلال الانتقاء الطبيعي في المكون الوراثي للذكاء البشري . [17] وعلى النقيض من ذلك، زعم جيرالد كرابتري أن انخفاض ضغط الانتقاء يؤدي إلى انخفاض بطيء يستمر لقرون في الذكاء البشري وأن هذه العملية من المرجح أن تستمر بدلاً من ذلك. لا يوجد إجماع علمي بشأن أي من الاحتمالين وفي كلتا الحالتين، سيكون التغيير البيولوجي بطيئًا، خاصة بالنسبة لمعدلات التغيير الثقافي.
إن التربية الانتقائية ، والعقاقير الذكية ، والتعديل الجيني ، والهندسة الوراثية من الممكن أن تعمل على تحسين الذكاء البشري بشكل أسرع. ويكتب بوستروم أنه إذا تمكنا من فهم المكون الجيني للذكاء، فيمكن استخدام التشخيص الجيني قبل الزرع لاختيار الأجنة التي يزيد معدل ذكائها بمقدار 4 نقاط (إذا تم اختيار جنين واحد من بين جنينين)، أو التي يزيد معدل ذكائها بمقدار أكبر (على سبيل المثال، يصل معدل الذكاء إلى 24.3 نقطة إذا تم اختيار جنين واحد من بين 1000). وإذا تكررت هذه العملية على مدى أجيال عديدة، فقد يكون معدل التحسن بمقدار مرتبة واحدة. ويقترح بوستروم أنه يمكن استخدام استخلاص أمشاج جديدة من الخلايا الجذعية الجنينية لتكرار عملية الاختيار بسرعة. [18] ويمكن لمجتمع منظم جيدًا من البشر ذوي الذكاء العالي من هذا النوع أن يحقق ذكاءً خارقًا جماعيًا . [19]
بدلاً من ذلك، قد يكون الذكاء الجماعي بنائيًا من خلال تنظيم البشر بشكل أفضل عند مستويات الذكاء الفردي الحالية. اقترح العديد من الكتاب أن الحضارة الإنسانية، أو بعض جوانبها (على سبيل المثال، الإنترنت، أو الاقتصاد)، أصبحت تعمل مثل الدماغ العالمي بقدرات تتجاوز بكثير وكلاءها المكونين. ومع ذلك، إذا كان هذا الذكاء الفائق النظامي يعتمد بشكل كبير على المكونات الاصطناعية، فقد يكون مؤهلاً للذكاء الاصطناعي بدلاً من كونه كائنًا حيًا فائقًا قائمًا على علم الأحياء . [20] يُنظر إلى سوق التنبؤ أحيانًا على أنه مثال لنظام ذكاء جماعي عامل، يتكون من البشر فقط (على افتراض عدم استخدام الخوارزميات لإبلاغ القرارات). [21]
تتمثل الطريقة الأخيرة لتضخيم الذكاء في تعزيز البشر بشكل مباشر، بدلاً من تعزيز ديناميكياتهم الاجتماعية أو الإنجابية. يمكن تحقيق ذلك باستخدام العقاقير الذكية أو العلاج الجيني الجسدي أو واجهات الدماغ والحاسوب . ومع ذلك، يعرب بوستروم عن شكوكه بشأن قابلية التوسع في النهجين الأولين ويزعم أن تصميم واجهة سايبورغ فائقة الذكاء يمثل مشكلة كاملة للذكاء الاصطناعي . [22]
التوقعات
يتوقع معظم الباحثين في مجال الذكاء الاصطناعي الذين شملهم الاستطلاع أن تتمكن الآلات في النهاية من منافسة البشر في الذكاء، على الرغم من عدم وجود إجماع حول موعد حدوث ذلك على الأرجح. في مؤتمر AI@50 لعام 2006 ، أفاد 18% من الحاضرين أنهم يتوقعون أن تتمكن الآلات من "محاكاة التعلم وكل جانب آخر من جوانب الذكاء البشري" بحلول عام 2056؛ وتوقع 41% من الحاضرين حدوث ذلك في وقت ما بعد عام 2056؛ وتوقع 41% ألا تصل الآلات إلى هذا الإنجاز أبدًا. [23]
في دراسة استقصائية لأكثر 100 مؤلف استشهادًا في مجال الذكاء الاصطناعي (حتى مايو 2013، وفقًا للبحث الأكاديمي لشركة Microsoft)، كان متوسط العام الذي توقع فيه المستجيبون ظهور آلات "قادرة على القيام بمعظم المهن البشرية على الأقل بنفس جودة الإنسان النموذجي" (بافتراض عدم حدوث كارثة عالمية ) بنسبة ثقة 10% هو عام 2024 (متوسط 2034، انحراف معياري 33 عامًا)، وبنسبة ثقة 50% هو عام 2050 (متوسط 2072، انحراف معياري 110 أعوام)، وبنسبة ثقة 90% هو عام 2070 (متوسط 2168، انحراف معياري 342 عامًا). تستبعد هذه التقديرات 1.2% من المستجيبين الذين قالوا إنه لن يصل أي عام إلى نسبة ثقة 10%، و4.1% قالوا "أبدًا" بنسبة ثقة 50%، و16.5% قالوا "أبدًا" بنسبة ثقة 90%. أعطى المستجيبون احتمالًا متوسطًا بنسبة 50% لاحتمال اختراع الذكاء الآلي الفائق في غضون 30 عامًا من اختراع الذكاء الآلي بمستوى الإنسان تقريبًا. [24]
في استطلاع أجري عام 2022، كان متوسط العام الذي توقع فيه المستجيبون "الذكاء الآلي رفيع المستوى" بنسبة ثقة 50% هو عام 2061. وقد عرّف الاستطلاع تحقيق الذكاء الآلي رفيع المستوى بأنه عندما تتمكن الآلات غير المدعومة من إنجاز كل مهمة بشكل أفضل وبتكلفة أقل من العمال البشر. [25]
في عام 2023، نشر قادة OpenAI سام ألتمان وجريج بروكمان وإيليا سوتسكيفر توصيات لحوكمة الذكاء الفائق، والتي يعتقدون أنها قد تحدث في أقل من 10 سنوات. [26] في عام 2024، غادر إيليا سوتسكيفر OpenAI ليشارك في تأسيس شركة Safe Superintelligence الناشئة ، والتي تركز فقط على إنشاء ذكاء فائق آمن من حيث التصميم، مع تجنب "التشتيت بسبب النفقات العامة للإدارة أو دورات المنتج". [27]
اعتبارات التصميم
يثير تصميم أنظمة الذكاء الاصطناعي الفائق الذكاء أسئلة بالغة الأهمية حول القيم والأهداف التي ينبغي أن تتمتع بها هذه الأنظمة. وقد تم طرح العديد من المقترحات: [28]
مقترحات محاذاة القيمة
- الإرادة المستقرة المتماسكة (CEV) - يجب أن يتمتع الذكاء الاصطناعي بالقيم التي يتفق عليها البشر إذا كانوا أكثر معرفة وعقلانية.
- الصواب الأخلاقي (MR) - يجب برمجة الذكاء الاصطناعي للقيام بما هو صحيح أخلاقيا، بالاعتماد على قدراته المعرفية المتفوقة لتحديد الإجراءات الأخلاقية.
- المسموح به أخلاقيا (MP) - يجب أن تبقى الذكاء الاصطناعي ضمن حدود المسموح به أخلاقيا بينما تسعى إلى تحقيق أهداف تتماشى مع القيم الإنسانية (على غرار CEV).
ويقدم بوستروم شرحًا لهذه المفاهيم:
بدلاً من تنفيذ الإرادة البشرية المتماسكة المستنبطة، يمكن للمرء أن يحاول بناء ذكاء اصطناعي للقيام بما هو صحيح أخلاقياً، بالاعتماد على القدرات المعرفية المتفوقة للذكاء الاصطناعي لمعرفة الأفعال التي تناسب هذا الوصف. يمكننا أن نطلق على هذا الاقتراح "الصواب الأخلاقي" (MR) ...
ويبدو أن نظرية النسبية الخاصة تعاني أيضاً من بعض العيوب. فهي تعتمد على مفهوم "الصواب الأخلاقي"، وهو مفهوم صعب للغاية، وهو المفهوم الذي تصارع معه الفلاسفة منذ العصور القديمة دون التوصل إلى إجماع بشأن تحليله. وقد يؤدي اختيار تفسير خاطئ لـ "الصواب الأخلاقي" إلى نتائج خاطئة للغاية من الناحية الأخلاقية ...
قد يحاول المرء الحفاظ على الفكرة الأساسية لنموذج الواقع المختلط مع تقليل متطلباته من خلال التركيز على جواز الأخلاق : الفكرة هي أننا يمكن أن نسمح للذكاء الاصطناعي بملاحقة CEV البشرية طالما أنه لا يتصرف بطرق غير مسموح بها أخلاقيا. [28]
التطورات الأخيرة
منذ تحليل بوستروم، ظهرت أساليب جديدة لمواءمة قيمة الذكاء الاصطناعي:
- التعلم التعزيزي العكسي (IRL) - تهدف هذه التقنية إلى استنتاج التفضيلات البشرية من السلوك الملحوظ، مما قد يوفر نهجًا أكثر قوة لمواءمة القيمة. [29]
- الذكاء الاصطناعي الدستوري - اقترحته منظمة أنثروبيك، ويتضمن تدريب أنظمة الذكاء الاصطناعي بمبادئ وقيود أخلاقية صريحة. [30]
- المناقشة والتضخيم - تستخدم هذه التقنيات، التي استكشفتها OpenAI، المناقشة بمساعدة الذكاء الاصطناعي والعمليات التكرارية لفهم القيم الإنسانية والتوافق معها بشكل أفضل. [31]
ماجستير في القانون وعلوم المحولات
أدى التقدم السريع في نماذج LLM المستندة إلى المحولات إلى التكهنات حول مسارها المحتمل إلى ASI. يزعم بعض الباحثين أن الإصدارات الموسعة من هذه النماذج يمكن أن تظهر قدرات مماثلة لـ ASI: [32]
- القدرات الناشئة - مع زيادة حجم وتعقيد نماذج الماجستير في القانون، فإنها تظهر قدرات غير متوقعة غير موجودة في النماذج الأصغر. [33]
- التعلم في السياق - يظهر طلاب الماجستير في القانون القدرة على التكيف مع المهام الجديدة دون ضبط دقيق، مما قد يؤدي إلى محاكاة الذكاء العام. [34]
- التكامل متعدد الوسائط - يمكن للنماذج الحديثة معالجة وتوليد أنواع مختلفة من البيانات، بما في ذلك النصوص والصور والصوت. [35]
ومع ذلك، يزعم المنتقدون أن برامج الماجستير في القانون الحالية تفتقر إلى الفهم الحقيقي وهي مجرد نماذج مطابقة متطورة، مما يثير تساؤلات حول مدى ملاءمتها كمسار إلى ASI. [36]
وجهات نظر أخرى حول الذكاء الاصطناعي الفائق
وتشمل وجهات النظر الإضافية بشأن تطور الذكاء الفائق وتداعياته ما يلي:
- التحسين الذاتي المتكرر - اقترح آي جيه جود مفهوم "انفجار الذكاء"، حيث يمكن لنظام الذكاء الاصطناعي تحسين ذكائه بسرعة، مما قد يؤدي إلى الذكاء الفائق. [37]
- أطروحة التقويم العمودي - يزعم بوستروم أن مستوى ذكاء الذكاء الاصطناعي عمودي على أهدافه النهائية، مما يعني أن الذكاء الاصطناعي الفائق الذكاء يمكن أن يكون لديه أي مجموعة من الدوافع. [38]
- التقارب الآلي - قد تسعى مجموعة واسعة من أنظمة الذكاء الاصطناعي إلى تحقيق أهداف آلية معينة (على سبيل المثال، الحفاظ على الذات، واكتساب الموارد)، بغض النظر عن أهدافها النهائية. [39]
التحديات والبحوث الجارية
إن السعي إلى تحقيق الذكاء الاصطناعي المتوافق مع القيمة يواجه العديد من التحديات:
- عدم اليقين الفلسفي في تحديد مفاهيم مثل "الصواب الأخلاقي"
- التعقيد التقني في ترجمة المبادئ الأخلاقية إلى خوارزميات دقيقة
- احتمالية حدوث عواقب غير مقصودة حتى مع اتباع نهج حسن النية
تتضمن اتجاهات البحث الحالية نهجًا متعدد الأطراف لدمج وجهات نظر متنوعة، وتطوير أساليب للإشراف القابل للتطوير على أنظمة الذكاء الاصطناعي، وتحسين تقنيات التعلم القيمي القوي. [40] [16]
يتقدم البحث العلمي بسرعة نحو الذكاء الفائق، ويظل معالجة تحديات التصميم هذه أمرًا بالغ الأهمية لإنشاء أنظمة ذكاء فائق قوية ومتوافقة مع المصالح البشرية.
التهديد المحتمل للبشرية
أثار تطوير الذكاء الاصطناعي الفائق مخاوف بشأن المخاطر الوجودية المحتملة التي تهدد البشرية. واقترح الباحثون سيناريوهات مختلفة قد يشكل فيها الذكاء الاصطناعي الفائق تهديدًا كبيرًا:
انفجار الذكاء ومشكلة السيطرة
يزعم بعض الباحثين أن الذكاء الاصطناعي يمكن أن يصبح سريعًا قويًا لدرجة أنه يصبح خارج نطاق السيطرة البشرية من خلال التحسين الذاتي المتكرر. وقد اقترح آي جيه جود هذا المفهوم، المعروف باسم "الانفجار الذكي"، لأول مرة في عام 1965:
ولنتأمل هنا آلة فائقة الذكاء، والتي يمكن أن تتفوق على كل الأنشطة الفكرية التي يقوم بها أي إنسان مهما بلغ من الذكاء. وبما أن تصميم الآلات يشكل أحد هذه الأنشطة الفكرية، فإن آلة فائقة الذكاء قادرة على تصميم آلات أفضل؛ ومن المؤكد أن هذا يعني "انفجاراً في الذكاء"، وأن ذكاء الإنسان سوف يتخلف كثيراً عن الركب. وعلى هذا فإن أول آلة فائقة الذكاء هي آخر اختراع قد يحتاج الإنسان إلى ابتكاره، شريطة أن تكون الآلة مطيعة بما يكفي لإخبارنا بكيفية إبقاءها تحت السيطرة. [41]
يقدم هذا السيناريو مشكلة التحكم في الذكاء الاصطناعي: كيفية إنشاء ذكاء اصطناعي فائق من شأنه أن يفيد البشرية مع تجنب العواقب الضارة غير المقصودة. [42] يزعم إليعازر يودكوفسكي أن حل هذه المشكلة أمر بالغ الأهمية قبل تطوير الذكاء الاصطناعي، حيث قد يكون النظام الفائق الذكاء قادرًا على إحباط أي محاولات لاحقة للسيطرة. [43]
العواقب غير المقصودة وعدم التوافق بين الأهداف
حتى مع النوايا الحميدة، قد تتسبب أي أداة استثمارية في إحداث ضرر بسبب أهداف غير متوافقة أو تفسيرات غير متوقعة لأهدافها. ويقدم نيك بوستروم مثالاً صارخًا على هذا الخطر:
عندما نخلق أول كيان فائق الذكاء، قد نرتكب خطأ ونعطيه أهدافًا تقوده إلى إبادة البشرية، على افتراض أن ميزته الفكرية الهائلة تمنحه القدرة على القيام بذلك. على سبيل المثال، قد نخطئ في رفع هدف فرعي إلى مرتبة هدف أعظم. نطلب منه حل مشكلة رياضية، ويستجيب بتحويل كل المادة في النظام الشمسي إلى جهاز حسابي عملاق، وفي هذه العملية يقتل الشخص الذي طرح السؤال. [44]
ويقدم ستيوارت راسل سيناريو توضيحيًا آخر:
قد يكون من الأسهل على النظام الذي يهدف إلى تعظيم السعادة البشرية إعادة برمجة الأعصاب البشرية بحيث يكون البشر سعداء دائمًا بغض النظر عن ظروفهم، بدلاً من تحسين العالم الخارجي. [45]
تسلط هذه الأمثلة الضوء على إمكانية حدوث نتائج كارثية حتى عندما لا يتم تصميم ASI صراحة ليكون ضارًا، مما يؤكد على الأهمية الحاسمة للمواصفات الدقيقة للأهداف ومواءمتها.
استراتيجيات التخفيف المحتملة
وقد اقترح الباحثون طرقًا مختلفة للتخفيف من المخاطر المرتبطة بـ ASI:
- التحكم في القدرة - الحد من قدرة الذكاء الاصطناعي على التأثير على العالم، مثل من خلال العزلة الجسدية أو تقييد الوصول إلى الموارد. [46]
- التحكم التحفيزي – تصميم أدوات التحفيز بأهداف تتوافق بشكل أساسي مع القيم الإنسانية. [47]
- الذكاء الاصطناعي الأخلاقي - دمج المبادئ الأخلاقية وأطر صنع القرار في أنظمة الذكاء الاصطناعي الأخلاقي. [48]
- الرقابة والحوكمة – تطوير أطر دولية قوية لتطوير ونشر تكنولوجيات الذكاء الاصطناعي. [49]
وعلى الرغم من هذه الاستراتيجيات المقترحة، يزعم بعض الخبراء، مثل رومان يامبولسكي، أن تحدي التحكم في الذكاء الاصطناعي الفائق الذكاء قد يكون غير قابل للحل بشكل أساسي، مؤكدين على الحاجة إلى الحذر الشديد في تطوير الذكاء الاصطناعي الفائق الذكاء. [50]
المناقشة والتشكك
لا يتفق جميع الباحثين على احتمالية أو شدة المخاطر الوجودية المرتبطة بالذكاء الاصطناعي الفائق. يزعم البعض، مثل رودني بروكس ، أن المخاوف من الذكاء الاصطناعي الفائق الذكاء مبالغ فيها وتستند إلى افتراضات غير واقعية حول طبيعة الذكاء والتقدم التكنولوجي. [51] يزعم آخرون، مثل جوانا برايسون ، أن تشبيه أنظمة الذكاء الاصطناعي بالبشر يؤدي إلى مخاوف غير مبررة بشأن تهديداتها المحتملة. [52]
التطورات الأخيرة والآفاق الحالية
لقد أدى التقدم السريع في مجال ماجستير الحقوق وتقنيات الذكاء الاصطناعي الأخرى إلى تكثيف المناقشات حول قرب الذكاء الاصطناعي ومخاطره المحتملة. وفي حين لا يوجد إجماع علمي، يزعم بعض الباحثين وممارسي الذكاء الاصطناعي أن أنظمة الذكاء الاصطناعي الحالية ربما تقترب بالفعل من قدرات الذكاء الاصطناعي العام أو حتى الذكاء الاصطناعي.
- قدرات الماجستير في القانون - أظهرت برامج الماجستير في القانون الحديثة مثل GPT-4 قدرات غير متوقعة في مجالات مثل التفكير وحل المشكلات والفهم المتعدد الوسائط، مما دفع البعض إلى التكهن بمسارهم المحتمل إلى ASI. [53]
- السلوكيات الناشئة - أظهرت الدراسات أنه مع زيادة حجم وتعقيد نماذج الذكاء الاصطناعي، فإنها قد تظهر قدرات ناشئة غير موجودة في النماذج الأصغر، مما يشير إلى اتجاه نحو ذكاء أكثر عمومية. [33]
- التقدم السريع - لقد دفع معدل تقدم الذكاء الاصطناعي البعض إلى القول بأننا قد نكون أقرب إلى الذكاء الاصطناعي مما كان يُعتقد سابقًا، مع وجود آثار محتملة للمخاطر الوجودية. [54]
يعتقد عدد قليل من الباحثين والمراقبين، بما في ذلك بعض العاملين في مجتمع تطوير الذكاء الاصطناعي، أن أنظمة الذكاء الاصطناعي الحالية قد تكون بالفعل عند مستويات الذكاء الاصطناعي العام أو بالقرب منها، مع إمكانية أن يتبعها الذكاء الاصطناعي العام في المستقبل القريب. هذه النظرة، على الرغم من عدم قبولها على نطاق واسع في المجتمع العلمي، تستند إلى ملاحظات التقدم السريع في قدرات الذكاء الاصطناعي والسلوكيات الناشئة غير المتوقعة في النماذج الكبيرة. [55]
ومع ذلك، يحذر العديد من الخبراء من الادعاءات المبكرة بشأن الذكاء الاصطناعي العام أو الذكاء الاصطناعي المتقدم، بحجة أن أنظمة الذكاء الاصطناعي الحالية، على الرغم من قدراتها المثيرة للإعجاب، لا تزال تفتقر إلى الفهم الحقيقي والذكاء العام. [56] ويؤكدون على التحديات الكبيرة التي لا تزال قائمة في تحقيق الذكاء على مستوى الإنسان، ناهيك عن الذكاء الفائق.
إن النقاش الدائر حول الحالة الحالية ومسار تطوير الذكاء الاصطناعي يؤكد على أهمية الاستمرار في البحث في سلامة وأخلاقيات الذكاء الاصطناعي، فضلاً عن الحاجة إلى أطر حوكمة قوية لإدارة المخاطر المحتملة مع استمرار تقدم قدرات الذكاء الاصطناعي. [49]
انظر أيضا
- الذكاء العام الاصطناعي
- سلامة الذكاء الاصطناعي
- سيطرة الذكاء الاصطناعي
- الدماغ الاصطناعي
- سباق التسلح بالذكاء الاصطناعي
- الإيثار الفعال
- أخلاقيات الذكاء الاصطناعي
- خطر وجودي
- الذكاء الاصطناعي الودود
- معهد مستقبل الإنسانية
- وكيل ذكي
- أخلاقيات الآلة
- معهد أبحاث الذكاء الآلي
- التعلم الآلي
- قانون التوسع العصبي – القانون في التعلم الآلي
- المجال الحيوي – مفهوم فلسفي لخليفة المجال الحيوي من خلال الأنشطة العقلانية للبشر
- مخطط الذكاء الاصطناعي
- ما بعد الإنسانية
- الروبوتات
- التكرار الذاتي
- آلة تكرار نفسها
- الذكاء الفائق: المسارات والمخاطر والاستراتيجيات
مراجع
- ^ ab Bostrom 2014، الفصل 2.
- ^ بوستروم 2014، ص 22.
- ^ بيرس، ديفيد (2012)، إيدن، أمنون هـ.؛ مور، جيمس هـ.؛ سوركر، جوني هـ.؛ شتاينهارت، إريك (المحررون)، "انفجار الذكاء البيولوجي: كيف ستعدل الروبوتات العضوية التي تعمل على تحسين نفسها بشكل متكرر كود المصدر الخاص بها وتفتح لنا طريق الذكاء الفائق كامل الطيف"، فرضيات التفرد ، مجموعة فرونتيرز، برلين، هايدلبرغ: سبرينغر برلين هايدلبرغ، ص. 199-238، doi :10.1007/978-3-642-32560-1_11، ISBN 978-3-642-32559-5تم الاسترجاع بتاريخ 2022-01-16
- ^ جوفيا، ستيفن س.، محرر. (2020). "الفصل الرابع، "البشر والآلات الذكية: التطور المشترك، الاندماج أو الاستبدال؟"، ديفيد بيرس". عصر الذكاء الاصطناعي: استكشاف . دار فيرنون للنشر. رقم ISBN 978-1-62273-872-4.
- ^ ليج 2008، ص 135-137.
- ^ "باحثو مايكروسوفت يزعمون أن GPT-4 يظهر "شرارات" من الذكاء الاصطناعي العام". Futurism . 23 مارس 2023 . تم الاسترجاع في 2023-12-13 .
- ^ ماركوس، جاري؛ ديفيس، إرنست (2023). "GPT-4 وما بعده: مستقبل الذكاء الاصطناعي". arXiv : 2303.10130 [econ.GN].
- ^ تشالمرز 2010، ص 7.
- ^ كابلان، جاريد؛ ماكاندليش، سام؛ هينيجان، توم؛ براون، توم ب؛ تشيس، بنيامين؛ تشايلد، ريوون؛ جراي، سكوت؛ رادفورد، أليك؛ وو، جيفري؛ أمودي، داريو (2020). "قوانين القياس لنماذج اللغة العصبية". arXiv : 2001.08361 [cs.LG].
- ^ هاسابيس، ديميس؛ كوماران، دارشان؛ سمرفيلد، كريستوفر؛ بوتفينيك، ماثيو (2017). "الذكاء الاصطناعي المستوحى من علم الأعصاب". نيورون . 95 (2): 245-258. doi :10.1016/j.neuron.2017.06.011. PMID 28728020.
- ^ جارسيز، أرتور دافيلا؛ لامب، لويس سي. (2020). “الذكاء الاصطناعي العصبي الرمزي: الموجة الثالثة”. أرخايف : 2012.05876 [cs.AI].
- ^ ab Bostrom 2014، ص 59.
- ^ Sutskever, Ilya (2023). "تاريخ موجز للتوسع". ACM Queue . 21 (4): 31–43. doi :10.1145/3595878.3605016 (غير نشط 1 نوفمبر 2024).
{{cite journal}}:CS1 maint: DOI غير نشط اعتبارًا من نوفمبر 2024 ( الرابط ) - ^ بوبيك ، سيباستيان. شاندراسيكاران، فارون؛ إلدان، رونين؛ جيركي، يوهانس؛ هورفيتز، اريك. قمر، اللجنة الاقتصادية لأوروبا؛ لي بيتر. لي، يين تات؛ لي، يوانزي؛ لوندبيرج، سكوت؛ نوري، حرشا؛ بالانجي، حميد؛ Precup، دوينا؛ سونتسوف، بافيل؛ سريفاستافا، سانجانا؛ تيسلر، كاثرين. تيان، جيان فنغ؛ زهير، منزل (22 مارس 2023). “شرارات الذكاء العام الاصطناعي: تجارب مبكرة مع GPT-4”. أرخايف : 2303.12712 [cs.CL].
- ^ ماركوس، جاري (2020). "العقد القادم في الذكاء الاصطناعي: أربع خطوات نحو الذكاء الاصطناعي القوي". arXiv : 2002.06177 [cs.AI].
- ^ بواسطة راسل 2019.
- ^ ساجان، كارل (1977). تنانين عدن . دار راندوم هاوس.
- ^ بوستروم 2014، ص 37-39.
- ^ بوستروم 2014، ص 39.
- ^ بوستروم 2014، ص 48-49.
- ^ واتكينز، جينيفر هـ. (2007)، أسواق التنبؤ كآلية تجميع للذكاء الجماعي
- ^ بوستروم 2014، ص 36-37، 42، 47.
- ^ Maker, Meg Houston (13 يوليو 2006). "AI@50: First Poll". مؤرشف من الأصل في 13 مايو 2014.
- ^ مولر وبوستروم 2016، ص 3-4، 6، 9-12.
- ^ "الخطوط الزمنية للذكاء الاصطناعي: ماذا يتوقع خبراء الذكاء الاصطناعي للمستقبل؟". عالمنا في البيانات . تم الاسترجاع في 2023-08-09 .
- ^ "حوكمة الذكاء الفائق". openai.com . تم الاسترجاع في 2023-05-30 .
- ^ فانس، آشلي (19 يونيو 2024). "إيليا سوتسكيفر لديه خطة جديدة للاستخبارات الفائقة الآمنة". بلومبرج . تم الاسترجاع في 2024-06-19 .
- ^ ab Bostrom 2014، ص 209-221.
- ^ كريستيانو، بول؛ لايك، جان؛ براون، توم ب؛ مارتيتش، ميلجان؛ ليج، شين؛ أمودي، داريو (2017). "التعلم التعزيزي العميق من التفضيلات البشرية" (PDF) . NeurIPS . arXiv : 1706.03741 .
- ^ "الذكاء الاصطناعي الدستوري: عدم الضرر من ردود الفعل الناتجة عن الذكاء الاصطناعي". أنثروبيك . 15 ديسمبر 2022.
- ^ "تعلم الأهداف المعقدة باستخدام التضخيم المتكرر". OpenAI . 22 أكتوبر 2018.
- ^ بوماساني ، ريشي. وآخرون. (2021). “حول فرص ومخاطر نماذج الأساس”. جامعة ستانفورد . أرخايف : 2108.07258 .
- ^ أب وي ، جايسون. تاي، يي؛ بوماساني، ريشي؛ رافيل، كولن؛ زوف، باريت. بورجود، سيباستيان. يوغاتاما، داني؛ بوسما، مارتن؛ تشو، ديني؛ ميتزلر، دونالد. تشي، إد ه.؛ هاشيموتو، تاتسونوري؛ فينيالس، أوريول. ليانغ، بيرسي. دين جيف. فيدوس ، ويليام (26/06/2022). “القدرات الناشئة لنماذج اللغات الكبيرة”. المعاملات المتعلقة بأبحاث التعلم الآلي . أرخايف : 2206.07682 . ISSN 2835-8856.
- ^ براون، توم ب.؛ وآخرون. (2020). "نماذج اللغة هي متعلمون من ذوي الخبرة القليلة". NeurIPS . arXiv : 2005.14165 .
- ^ اليراك ، جان بابتيست. دوناهو ، جيف. لوك، بولين؛ ميش، أنطوان؛ بار، إيان. حسون، يانا؛ لينك، كاريل. مينش، آرثر. ميليكان، كاتي. رينولدز، مالكولم. خاتم روماني؛ رذرفورد، إليزا؛ كابي، سيركان؛ هان، تنغدا؛ قونغ، زيتاو؛ سامانجوي، سينا؛ مونتيرو، ماريان. مينيك، يعقوب. بورجود، سيباستيان. بروك، أندرو. نعمت زاده، عايدة؛ شريف زاده، سهند؛ بينكوفسكي، ميكولاج. باريرا، ريكاردو؛ فينيالس، أوريول. سيسرمان، أندرو؛ سيمونيان ، كارين (2022). “فلامنغو: نموذج لغة مرئية للتعلم قليل اللقطة”. نيوريبس . أرخايف : 2204.14198 .
- ^ ماركوس، جاري (11 أغسطس 2022). "التعلم العميق وحده لا يقودنا إلى الذكاء الاصطناعي الشبيه بالإنسان". Noema .
- ^ "نهاية العالم بسبب الذكاء الاصطناعي: هل سيتم القضاء على الجنس البشري قريبًا؟". صحيفة آيريش تايمز . 30 مارس 2017.
- ^ بوستروم، نيك (2012). "الإرادة الفائقة الذكاء: الدافع والعقلانية الآلية في الوكلاء الاصطناعيين المتقدمين" (PDF) . العقول والآلات .
- ^ أوموهوندرو، ستيفن م. (يناير 2008). "المحركات الأساسية للذكاء الاصطناعي" (PDF) . آفاق في الذكاء الاصطناعي والتطبيقات .
- ^ غابرييل، إيسون (2020-09-01). "الذكاء الاصطناعي والقيم والمحاذاة". العقول والآلات . 30 (3): 411-437. doi :10.1007/s11023-020-09539-2. ISSN 1572-8641.
- ^ Good, IJ (1965). "التكهنات المتعلقة بأول آلة فائقة الذكاء". التطورات في أجهزة الكمبيوتر .
- ^ راسل 2019، ص 137-160.
- ^ يودكوفسكي، إليعازر (2008). "الذكاء الاصطناعي كعامل إيجابي وسلبي في المخاطر العالمية" (PDF) . المخاطر الكارثية العالمية .
- ^ بوستروم 2002.
- ^ راسل 2019، ص 136.
- ^ بوستروم 2014، ص 129-136.
- ^ بوستروم 2014، ص 136-143.
- ^ والاش، ويندل؛ ألين، كولين (19 نوفمبر 2008). الآلات الأخلاقية: تعليم الروبوتات الصواب من الخطأ. دار نشر جامعة أكسفورد. رقم ISBN 978-0-19-970596-2.
- ^ بواسطة دافو، ألان (27 أغسطس 2018). "حوكمة الذكاء الاصطناعي: أجندة بحثية" (PDF) . مركز حوكمة الذكاء الاصطناعي .
- ^ Yampolskiy, Roman V. (18 يوليو 2020). "حول قابلية التحكم في الذكاء الاصطناعي" (PDF) . arXiv : 2008.04071 .
- ^ بروكس، رودني (6 أكتوبر 2017). "الخطايا السبع المميتة لتوقعات الذكاء الاصطناعي". مراجعة تكنولوجيا معهد ماساتشوستس للتكنولوجيا . تم الاسترجاع في 2024-10-23 .
- ^ برايسون، جوانا جيه (2019). "العقد الماضي ومستقبل تأثير الذكاء الاصطناعي على المجتمع". نحو عصر التنوير الجديد؟ عقد متسامي .
- ^ بوبيك ، سيباستيان. شاندراسيكاران، فارون؛ إلدان، رونين؛ جيركي، يوهانس؛ هورفيتز، اريك. قمر، اللجنة الاقتصادية لأوروبا؛ لي بيتر. يين تات لي؛ لي، يوانزي؛ لوندبيرج، سكوت؛ نوري، حرشا؛ بالانجي، حميد؛ ماركو توليو ريبيرو؛ تشانغ ، يي (أبريل 2023). “شرارات الذكاء العام الاصطناعي: تجارب مبكرة مع GPT-4”. أرخايف : 2303.12712 [cs.CL].
- ^ أورد، توبي (2020). الهاوية: الخطر الوجودي ومستقبل الإنسانية . لندن، نيويورك: دار بلومزبري الأكاديمية. رقم ISBN 978-1-5266-0023-3.
- ^ نجو، ريتشارد؛ تشان، لورانس؛ ميندرمان، سورين (2022). "مشكلة المحاذاة من منظور التعلم العميق". ICLR . arXiv : 2209.00626 .
- ^ "كيف ولماذا أصبح جاري ماركوس الناقد الرائد للذكاء الاصطناعي > يقول ماركوس إن الذكاء الاصطناعي التوليدي مثل ChatGPT يشكل مخاطر فورية". IEEE Spectrum . 17 سبتمبر 2024.
أوراق
- بوستروم، نيك (2002)، "المخاطر الوجودية"، مجلة التطور والتكنولوجيا ، 9 ، تم استرجاعها في 2007-08-07.
- تشالمرز، ديفيد (2010). "التفرد: تحليل فلسفي" (PDF) . مجلة دراسات الوعي . 17 : 7-65.
- ليج، شين (2008). الذكاء الآلي الفائق (PDF) (دكتوراه). قسم المعلوماتية، جامعة لوغانو . تم الاسترجاع في 19 سبتمبر 2014 .
- مولر، فينسينت سي .؛ بوستروم، نيك (2016). "التقدم المستقبلي في الذكاء الاصطناعي: دراسة استقصائية لآراء الخبراء". في مولر، فينسينت سي. (المحرر). القضايا الأساسية للذكاء الاصطناعي . سبرينغر. ص 553-571.
- سانتوس-لانج، كريستوفر (2014). "مسؤوليتنا عن إدارة التنوع التقييمي" (PDF) . ACM SIGCAS Computers & Society . 44 (2): 16–19. doi :10.1145/2656870.2656874. S2CID 5649158.
كتب
- هيبرد، بيل (2002). الآلات فائقة الذكاء . دار نشر كلوير أكاديميك/بلنوم.
- بوستروم، نيك (2014). الذكاء الفائق: المسارات، والمخاطر، والاستراتيجيات . مطبعة جامعة أكسفورد.
- تيجمارك، ماكس (2018). الحياة 3.0: أن تكون إنسانًا في عصر الذكاء الاصطناعي . لندن، إنجلترا. ISBN 978-0-14-198180-2. OCLC 1018461467.
{{cite book}}:CS1 maint: موقع الناشر المفقود ( الرابط ) - راسل، ستيوارت ج. (2019). التوافق البشري: الذكاء الاصطناعي ومشكلة التحكم . نيويورك. ISBN 978-0-525-55861-3. OCLC 1113410915.
{{cite book}}:CS1 maint: موقع الناشر المفقود ( الرابط ) - ساندرز، نادا ر. (2020). الآلة البشرية: البشرية والآلات ومستقبل المشاريع . جون د. وود (الطبعة الأولى). نيويورك، نيويورك. ISBN 978-0-429-00117-8. OCLC 1119391268.
{{cite book}}:CS1 maint: موقع الناشر المفقود ( الرابط )
روابط خارجية
- بيل جيتس ينضم إلى ستيفن هوكينج في مخاوفه من التهديد القادم من "الذكاء الفائق"
- هل ستدمر الآلات فائقة الذكاء البشرية؟
- أحد مؤسسي شركة أبل يشعر بالخوف من الذكاء الاصطناعي الفائق
