بيان بشأن مخاطر الذكاء الاصطناعي

في 30 مايو 2023، وقع المئات من خبراء الذكاء الاصطناعي وغيرهم من الشخصيات البارزة على البيان الموجز التالي بشأن مخاطر الذكاء الاصطناعي : ^{[ 1 ] [ 2 ] [ 3 ]}

ينبغي أن يكون الحد من خطر الانقراض بسبب الذكاء الاصطناعي أولوية عالمية إلى جانب المخاطر الأخرى ذات النطاق المجتمعي مثل الأوبئة والحرب النووية.

عند صدور البيان، ضمّت قائمة الموقعين عليه أكثر من مئة أستاذ في مجال الذكاء الاصطناعي ، من بينهم عالما الحاسوب الأكثر استشهادًا بهما والحائزان على جائزة تورينج ، جيفري هينتون ويوشوا بنجيو ، بالإضافة إلى القادة العلميين والتنفيذيين لعدد من شركات الذكاء الاصطناعي الكبرى (بما في ذلك OpenAI و Google DeepMind و Anthropic )، وخبراء في مجالات الأوبئة والمناخ ونزع السلاح النووي والفلسفة والعلوم الاجتماعية وغيرها. ^{[ 4 ]} وقد ركّزت التغطية الإعلامية على توقيعات عدد من رواد التكنولوجيا، ما أثار مخاوف في صحف أخرى من أن يكون البيان مدفوعًا بعلاقات عامة أو رغبة في السيطرة على الجهات التنظيمية. ^{[ 5 ]} صدر البيان بعد فترة وجيزة من رسالة مفتوحة تدعو إلى وقف تجارب الذكاء الاصطناعي . ^{[ 6 ] [ 7 ]}

نُشر البيان على موقع مركز سلامة الذكاء الاصطناعي، وهو منظمة غير ربحية تُعنى بأبحاث الذكاء الاصطناعي والدفاع عنه . وقد اقترح فكرة هذا البيان الموجز، المكون من جملة واحدة، الباحث في مجال الذكاء الاصطناعي ديفيد كروجر ، الذي كان آنذاك أستاذًا في جامعة كامبريدج . ^{[ 8 ]} وقد صدر البيان مصحوبًا بنص يُشير إلى صعوبة التحدث علنًا عن المخاطر الجسيمة للذكاء الاصطناعي، وأن البيان يهدف إلى تجاوز هذه العقبة. وصرح دان هندريكس، الرئيس التنفيذي للمركز، بأن "التحيز المنهجي، والمعلومات المضللة، والاستخدام الخبيث، والهجمات الإلكترونية، والتسليح" كلها أمثلة على "مخاطر هامة وملحة من الذكاء الاصطناعي... وليس فقط خطر الانقراض"، وأضاف: "بإمكان المجتمعات إدارة مخاطر متعددة في آن واحد؛ فالأمر ليس خيارًا بين أمرين، بل هو الجمع بينهما " . ^{[ 9 ]}

ومن بين الموقعين المعروفين على البيان: سام ألتمان ، وبيل غيتس ، وداريو أمودي ، وبيتر سينغر ، ودانيال دينيت ، وسام هاريس ، وغرايمز ، وستيوارت جيه راسل ، وجان تالين ، وفيتاليك بوتيرين ، وديفيد تشالمرز ، وراي كورزويل ، وماكس تيغمارك ، وليكس فريدمان ، ومارتن ريس ، وديميس هاسابيس ، وداون سونغ ، وتيد ليو ، وإيليا سوتسكيفر ، ومارتن هيلمان ، وبيل ماكيبين ، وأنجيلا كين ، وأودري تانغ ، وديفيد سيلفر ، وأندرو بارتو ، وميرا موراتي ، وباتي مايس ، وإريك هورفيتز ، وبيتر نورفيغ ، وجوزيف سيفاكيس ، وإريك برينجولفسون ، وإيان غودفيلو ، وبابورام بهاتاراي ، وكيرستي كاليولايد ، وروستي شويكارت . نيكولاس فيرفاكس ، ديفيد هاوسلر ، بيتر ريلتون ، بارت سيلمان ، داستن موسكوفيتز ، سكوت آرونسون ، بروس شناير ، مارثا مينو ، أندرو ريفكين ، روب بايك ، جاكوب تسيمرمان ، رامي يوسف ، جيمس بينيباكر ، ورونالد سي. أركين . ^{[ 10 ]}

أعاد ريشي سوناك ، رئيس الوزراء البريطاني آنذاك ، نشر البيان وكتب: "تدرس الحكومة هذا الأمر بعناية فائقة". ^{[ 11 ]} وعند سؤالها عن البيان، علّقت كارين جان بيير ، المتحدثة باسم البيت الأبيض ، قائلةً إن الذكاء الاصطناعي "يُعدّ من أقوى التقنيات التي نشهدها حاليًا. ولكن للاستفادة من الفرص التي يتيحها، يجب علينا أولًا الحدّ من مخاطره". ^{[ 12 ]}

يشير المشككون في الرسالة إلى أن الذكاء الاصطناعي لم يحقق إنجازاتٍ بارزة، مثل التنبؤات المتعلقة بالسيارات ذاتية القيادة . كما يجادل المشككون بأن الموقعين على الرسالة يواصلون تمويل أبحاث الذكاء الاصطناعي. ستستفيد الشركات من الانطباع العام بأن خوارزميات الذكاء الاصطناعي أكثر تطورًا بكثير مما هو ممكن حاليًا. وقد جادل المشككون، بمن فيهم أعضاء من منظمة هيومن رايتس ووتش ، بأن على العلماء التركيز على المخاطر المعروفة للذكاء الاصطناعي بدلًا من تشتيت الانتباه بمخاطر مستقبلية تخمينية. ^{[ 13 ]} انتقدت تيميت جبرو تضخيم مخاطر سيطرة الذكاء الاصطناعي، لا سيما من قِبل "نفس الأشخاص الذين ضخوا مليارات الدولارات في هذه الشركات". ^{[ 13 ]} يعارض كل من إميل ب. توريس وجبرو هذا البيان، مشيرين إلى أنه قد يكون مدفوعًا بأيديولوجيات TESCREAL . ^{[ 14 ]}

• الجدل الدائر حول الذكاء الاصطناعي
• محاذاة الذكاء الاصطناعي
• خطر وجودي من الذكاء الاصطناعي العام
• أوقفوا تجارب الذكاء الاصطناعي العملاقة: رسالة مفتوحة