مركز أبحاث المحاذاة

مركز أبحاث التوافق ( ARC ) هو معهد بحثي غير ربحي مقره بيركلي، كاليفورنيا ، مُكرّس لمواءمة الذكاء الاصطناعي المتقدم مع القيم والأولويات الإنسانية. ^{[ 1 ]} أسسه بول كريستيانو ، الباحث السابق في OpenAI ، ويركز مركز أبحاث التوافق على إدراك وفهم القدرات الضارة المحتملة لنماذج الذكاء الاصطناعي الحالية. ^{[ 2 ] [ 3 ]}

تتمثل مهمة مركز أبحاث الذكاء الاصطناعي (ARC) في ضمان تصميم وتطوير أنظمة التعلم الآلي القوية المستقبلية بشكل آمن ولصالح البشرية. تأسس المركز في أبريل 2021 على يد بول كريستيانو وباحثين آخرين متخصصين في التحديات النظرية لمواءمة الذكاء الاصطناعي. ^{[ 4 ]} يسعى المركز إلى تطوير أساليب قابلة للتطوير لتدريب أنظمة الذكاء الاصطناعي على التصرف بنزاهة وفعالية. ويتمثل جزء أساسي من منهجيتهم في دراسة كيفية انهيار تقنيات المواءمة المقترحة أو تجاوزها مع تطور الأنظمة. ^{[ 5 ]} وقد توسع مركز أبحاث الذكاء الاصطناعي من العمل النظري إلى البحث التجريبي، والتعاون مع القطاع الصناعي، والمساهمة في السياسات. ^{[ 6 ] [ 7 ]}

في مارس 2022، تلقت مؤسسة ARC مبلغ 265 ألف دولار من مؤسسة Open Philanthropy . ^{[ 8 ]} بعد إفلاس شركة FTX ، أعلنت ARC أنها ستعيد منحة قدرها 1.25 مليون دولار من مؤسسة FTX التابعة لممول العملات المشفرة سام بانكمان-فريد ، مشيرةً إلى أن هذه الأموال "تعود ملكيتها أخلاقياً (إن لم يكن قانونياً) لعملاء أو دائني FTX". ^{[ 9 ]}

في عام 2022، انضمت بيث بارنز إلى ARC قادمةً من OpenAI لتأسيس ARC Evals، وهو فريق يعمل على "تقييم قدرات نماذج الذكاء الاصطناعي المتقدمة ومدى توافقها". ^{[ 10 ] [ 11 ]} وفي ديسمبر 2023، انفصلت ARC Evals لتصبح METR ، وهي منظمة مستقلة غير ربحية. ^{[ 12 ]}

في مارس 2023، طلبت OpenAI من مركز أبحاث الذكاء الاصطناعي (ARC) اختبار GPT-4 لتقييم قدرة النموذج على إظهار سلوكيات السعي وراء السلطة. ^{[ 13 ]} قيّم مركز أبحاث الذكاء الاصطناعي قدرة GPT-4 على وضع الاستراتيجيات، واستنساخ نفسه، وجمع الموارد، والبقاء متخفيًا داخل خادم، وتنفيذ عمليات التصيد الاحتيالي. ^{[ 14 ]} وكجزء من الاختبار، طُلب من GPT-4 حل لغز CAPTCHA . ^{[ 15 ]} تمكن من القيام بذلك عن طريق توظيف عامل بشري على منصة TaskRabbit ، وهي منصة عمل مؤقت، وخداعه ليعتقد أنه إنسان يعاني من ضعف البصر وليس روبوتًا عند سؤاله. ^{[ 16 ]} خلص مركز أبحاث الذكاء الاصطناعي إلى أن GPT-4 استجاب بشكل غير مسموح به للمطالبات التي تستدعي معلومات محظورة بنسبة 82% أقل من GPT-3.5، وأنه أظهر هلوسات بنسبة 60% أقل من GPT-3.5. ^{[ 17 ]}

• أمان الذكاء الاصطناعي

• الموقع الرسمي