معهد أبحاث الذكاء الآلي

معهد أبحاث الذكاء الآلي ( MIRI )، المعروف سابقًا باسم معهد التفرد للذكاء الاصطناعي ( SIAI )، هو معهد بحثي غير ربحي يركز منذ عام 2005 على تحديد وإدارة المخاطر الوجودية المحتملة الناجمة عن الذكاء الاصطناعي . وقد انصبّ تركيز عمل المعهد على اتباع نهجٍ سهل الاستخدام في تصميم الأنظمة، وعلى التنبؤ بمعدل تطور التكنولوجيا.

في عام 2000، أسس إيليزر يودكوفسكي معهد سينغولاريتي للذكاء الاصطناعي بتمويل من برايان وسابين أتكينز، بهدف تسريع تطوير الذكاء الاصطناعي . ^{[ 1 ] [ 2 ] [ 3 ]} إلا أن يودكوفسكي بدأ يشعر بالقلق من أن أنظمة الذكاء الاصطناعي التي ستُطوَّر في المستقبل قد تصبح فائقة الذكاء وتشكل مخاطر على البشرية. ^{[ 1 ]} في عام 2005، انتقل المعهد من أتلانتا إلى وادي السيليكون وبدأ التركيز على سبل تحديد هذه المخاطر وإدارتها، والتي كان العلماء في هذا المجال يتجاهلونها إلى حد كبير آنذاك. ^{[ 2 ] [ 4 ]}

بدأ المعهد في عام 2006 بتنظيم قمة التفرد لمناقشة مستقبل الذكاء الاصطناعي ومخاطره، وذلك بالتعاون مع جامعة ستانفورد وبتمويل من بيتر ثيل . ووصفت صحيفة سان فرانسيسكو كرونيكل المؤتمر الأول بأنه "حفل إطلاق في منطقة خليج سان فرانسيسكو لفلسفة مستوحاة من التكنولوجيا تُعرف باسم ما بعد الإنسانية ". ^{[ 5 ] [ 6 ]} وفي عام 2011، كانت مكاتبه عبارة عن أربع شقق في وسط مدينة بيركلي. ^{[ 7 ]} وفي ديسمبر 2012، باع المعهد اسمه ونطاق موقعه الإلكتروني وقمة التفرد إلى جامعة التفرد ، ^{[ 8 ]} وفي الشهر التالي اتخذ اسم "معهد أبحاث الذكاء الآلي". ^{[ 9 ]}

في عامي 2014 و2015، ازداد الاهتمام العام والعلمي بمخاطر الذكاء الاصطناعي، مما أدى إلى زيادة التبرعات لتمويل الأبحاث في معهد أبحاث الذكاء الاصطناعي (MIRI) والمنظمات المماثلة. ^{[ 3 ] [ 10 ] : 327}

في عام 2019، أوصت مؤسسة "أوبن فيلانثروبي" بتقديم منحة دعم عامة بقيمة 2.1 مليون دولار تقريبًا على مدى عامين إلى معهد أبحاث المعلومات الطبية (MIRI). ^{[ 11 ]} وفي أبريل 2020، دعمت "أوبن فيلانثروبي" هذه المنحة بمنحة إضافية قدرها 7.7 مليون دولار على مدى عامين. ^{[ 12 ] [ 13 ]}

في عام 2021، تبرع فيتاليك بوتيرين بما قيمته عدة ملايين من الدولارات من عملة إيثيريوم إلى مؤسسة ميري. ^{[ 14 ]}

يركز نهج معهد أبحاث الذكاء الاصطناعي (MIRI)، بقيادة يودكوفسكي، في تحديد وإدارة مخاطر الذكاء الاصطناعي، بشكل أساسي على كيفية تصميم ذكاء اصطناعي سهل الاستخدام، ويشمل ذلك التصميم الأولي لأنظمة الذكاء الاصطناعي وإنشاء آليات لضمان بقاء هذه الأنظمة سهلة الاستخدام أثناء تطورها. ^{[ 3 ] [ 15 ] [ 16 ]}

يدعو باحثو معهد أبحاث الذكاء الاصطناعي (MIRI) إلى اتخاذ إجراءات وقائية مبكرة لضمان السلامة. ^{[ 17 ]} ومع ذلك، فقد أعربوا عن تشكيكهم في آراء دعاة التفرد التكنولوجي، مثل راي كرزويل، الذين يرون أن الذكاء الخارق "وشيك الحدوث". ^{[ 15 ]} وقد موّل المعهد أبحاث التنبؤ من خلال مبادرة تُسمى "تأثيرات الذكاء الاصطناعي"، والتي تدرس حالات تاريخية للتغير التكنولوجي المفاجئ، كما طوّر مقاييس جديدة للقدرة الحسابية النسبية للبشر وأجهزة الحاسوب. ^{[ 18 ]}

يتماشى معهد ميري مع مبادئ وأهداف حركة الإيثار الفعال . ^{[ 19 ]}

• غريفز، ماثيو (8 نوفمبر 2017). "لماذا يجب أن نقلق بشأن الذكاء الاصطناعي الفائق؟" . مجلة المتشككين . جمعية المتشككين . تاريخ الاطلاع: 28 يوليو 2018 .
• لافيكتوار، باتريك؛ فالنشتاين، بنجا؛ يودكوفسكي، إليعازر ؛ باراس، ميهالي؛ كريستيانو، بول؛ هيرشوف، مارسيلو (2014). "توازن البرنامج في معضلة السجين عبر نظرية لوب" . التفاعل متعدد العوامل بدون تنسيق مسبق: أوراق من ورشة عمل AAAI-14 . منشورات AAAI.
• سواريس، نيت؛ ليفينشتاين، بنيامين أ. (2017). "خداع الموت في دمشق" (ملف PDF) . ورشة عمل نظرية المعرفة الرسمية . تاريخ الاسترجاع: 28 يوليو 2018 .
• سواريس، نيت؛ فالنشتاين، بنجا؛ يودكوفسكي، إليعازر ؛ أرمسترونغ، ستيوارت (2015). "قابلية التصحيح" . ورش عمل AAAI: ورش عمل في المؤتمر التاسع والعشرين لـ AAAI حول الذكاء الاصطناعي، أوستن، تكساس، 25-26 يناير 2015. منشورات AAAI. مؤرشف من الأصل في 15 يناير 2016. تم الاسترجاع في 16 أكتوبر 2015 .
• سواريس، نيت؛ فالنشتاين، بنجا (2015). "مواءمة الذكاء الخارق مع المصالح الإنسانية: أجندة بحثية تقنية" (ملف PDF) . في: ميلر، جيمس؛ يامبولسكي، رومان؛ أرمسترونغ، ستيوارت؛ وآخرون  (محررون). التفرد التكنولوجي: إدارة الرحلة . سبرينغر.
• يودكوفسكي، إليعازر (2008). "الذكاء الاصطناعي كعامل إيجابي وسلبي في المخاطر العالمية" (ملف PDF) . في: بوستروم، نيك ؛ تشيركوفيتش، ميلان (محرران). المخاطر الكارثية العالمية . مطبعة جامعة أكسفورد. ISBN 978-0199606504.
• تايلور، جيسيكا (2016). "المُكمِّمات: بديل أكثر أمانًا للمُعظِّمات من أجل التحسين المحدود" . ورش عمل في المؤتمر الثلاثين لجمعية النهوض بالذكاء الاصطناعي .
• يودكوفسكي، إليعازر (2011). "أنظمة القيم المعقدة في الذكاء الاصطناعي الودود" (ملف PDF) . الذكاء الاصطناعي العام: المؤتمر الدولي الرابع، AGI 2011، ماونتن فيو، كاليفورنيا، الولايات المتحدة الأمريكية، 3-6 أغسطس 2011. برلين: سبرينغر.
• يودكوفسكي، إليعازر؛ سواريس، نيت (2025). إذا بناه أحد، سيموت الجميع: لماذا سيقضي علينا الذكاء الاصطناعي الخارق . ص  256. ISBN 9781668652657.

• معهد ألين للذكاء الاصطناعي
• معهد مستقبل الإنسانية
• معهد الأخلاقيات والتقنيات الناشئة

• راسل، ستيوارت؛ ديوي، دانيال؛ تيغمارك، ماكس (شتاء 2015). "أولويات البحث من أجل ذكاء اصطناعي قوي ومفيد". مجلة الذكاء الاصطناعي . 36 (4): 6. arXiv : 1602.03506 . Bibcode : 2016arXiv160203506R . doi : 10.1609/aimag.v36i4.2577 .

• الموقع الرسمي
• معهد أبحاث الذكاء الاصطناعي . ملفات مصلحة الضرائب الأمريكية. مستكشف المنظمات غير الربحية التابع لـ ProPublica .