رسالة مفتوحة حول الذكاء الاصطناعي

في يناير/كانون الثاني 2015، وقّع ستيفن هوكينغ وإيلون ماسك وعشرات من خبراء الذكاء الاصطناعي ^{[ 1 ]} رسالة مفتوحة حول الذكاء الاصطناعي ^{[ 2 ]} تدعو إلى إجراء بحوث حول تأثيراته المجتمعية. وأكدت الرسالة أن المجتمع يمكنه جني فوائد جمة من الذكاء الاصطناعي، لكنها دعت إلى إجراء بحوث عملية حول كيفية تجنب بعض "المخاطر" المحتملة: فالذكاء الاصطناعي لديه القدرة على القضاء على الأمراض والفقر، ولكن يجب ألا يُنشئ الباحثون شيئًا غير آمن أو خارج عن السيطرة . ^{[ 1 ]} وتُفصّل الرسالة، المكونة من أربع فقرات بعنوان " أولويات البحث من أجل ذكاء اصطناعي قوي ومفيد: رسالة مفتوحة "، أولويات البحث في وثيقة مُرفقة من اثنتي عشرة صفحة. ^{[ 3 ]}

بحلول عام ٢٠١٤، أعرب كل من الفيزيائي ستيفن هوكينغ ورجل الأعمال إيلون ماسك علنًا عن رأيهما بأن الذكاء الاصطناعي الخارق قد يُقدم فوائد لا تُحصى، ولكنه قد يُؤدي أيضًا إلى فناء الجنس البشري إذا استُخدم بإهمال. في ذلك الوقت، كان هوكينغ وماسك عضوين في المجلس الاستشاري العلمي لمعهد مستقبل الحياة ، وهي منظمة تعمل على "التخفيف من المخاطر الوجودية التي تواجه البشرية". صاغ المعهد رسالة مفتوحة موجهة إلى مجتمع أبحاث الذكاء الاصطناعي الأوسع، ^{[ ٤ ]} ووزعها على الحضور في مؤتمره الأول في بورتوريكو خلال عطلة نهاية الأسبوع الأولى من عام ٢٠١٥. ^{[ ٥ ]} نُشرت الرسالة رسميًا في ١٢ يناير. ^{[ ٦ ]}

تُسلّط الرسالة الضوء على الآثار الإيجابية والسلبية للذكاء الاصطناعي. ^{[ 7 ]} ووفقًا لبلومبيرغ بيزنس ، قام البروفيسور ماكس تيغمارك من معهد ماساتشوستس للتكنولوجيا بتعميم الرسالة بهدف إيجاد أرضية مشتركة بين الموقعين الذين يعتبرون الذكاء الاصطناعي فائق الذكاء خطرًا وجوديًا كبيرًا ، وموقعين آخرين مثل البروفيسور أورين إتزيوني ، الذين يعتقدون أن مجال الذكاء الاصطناعي يتعرض لتشويه سمعة بسبب تركيز إعلامي أحادي الجانب على المخاطر المزعومة. ^{[ 6 ]} وتؤكد الرسالة ما يلي:

إن الفوائد المحتملة للذكاء الاصطناعي هائلة، فكل ما تقدمه الحضارة هو نتاج الذكاء البشري؛ ولا يمكننا التنبؤ بما قد نحققه عندما يُعزز هذا الذكاء بالأدوات التي قد يوفرها الذكاء الاصطناعي، لكن القضاء على الأمراض والفقر ليس بالأمر المستحيل. ونظرًا للإمكانات الهائلة للذكاء الاصطناعي، فمن المهم البحث في كيفية جني فوائده مع تجنب المخاطر المحتملة. ^{[ 8 ]}

قال أحد الموقعين، البروفيسور بارت سيلمان من جامعة كورنيل ، إن الهدف هو حثّ باحثي ومطوري الذكاء الاصطناعي على إيلاء المزيد من الاهتمام لسلامة الذكاء الاصطناعي. إضافةً إلى ذلك، تهدف الرسالة إلى توعية صانعي السياسات وعامة الجمهور، دون إثارة الذعر. ^{[ 4 ]} وذكرت موقعة أخرى، البروفيسورة فرانشيسكا روسي ، قائلةً: "أعتقد أنه من المهم للغاية أن يعلم الجميع أن باحثي الذكاء الاصطناعي يفكرون بجدية في هذه المخاوف والقضايا الأخلاقية". ^{[ 9 ]}

يتساءل الموقعون: كيف يمكن للمهندسين ابتكار أنظمة ذكاء اصطناعي تُفيد المجتمع وتتسم بالمتانة؟ يجب أن يبقى الإنسان متحكمًا في الذكاء الاصطناعي ؛ إذ يجب أن "تؤدي أنظمة الذكاء الاصطناعي ما نريده منها". ^{[ 1 ]} يتطلب البحث المطلوب منهجًا متعدد التخصصات، يستمد من مجالات تتراوح بين الاقتصاد والقانون وفروع مختلفة من علوم الحاسوب ، مثل أمن الحاسوب والتحقق الرسمي . وتنقسم التحديات الناشئة إلى التحقق ("هل بنيت النظام بشكل صحيح؟")، والصحة ("هل بنيت النظام الصحيح؟")، والأمن، والتحكم ("حسنًا، لقد بنيت النظام بشكل خاطئ، هل يمكنني إصلاحه؟"). ^{[ 10 ]}

من بين الموقعين الفيزيائي ستيفن هوكينغ ، ورجل الأعمال إيلون ماسك ، ورواد الأعمال المؤسسين لشركتي ديب مايند وفيكاريوس ، ومدير الأبحاث في جوجل بيتر نورفيج ، [ ^{1 ] والبروفيسور} ستيوارت ج. راسل من جامعة كاليفورنيا، بيركلي ، ^{[ 11 ]} وغيرهم من خبراء الذكاء الاصطناعي، وصانعي الروبوتات، والمبرمجين، وعلماء الأخلاق. ^{[ 12 ]} بلغ عدد الموقعين الأصليين أكثر من 150 شخصًا، ^{[ 13 ]} بمن فيهم أكاديميون من جامعات كامبريدج، وأكسفورد، وستانفورد، وهارفارد، ومعهد ماساتشوستس للتكنولوجيا. ^{[ 14 ]}

• أولويات البحث من أجل ذكاء اصطناعي قوي ومفيد: رسالة مفتوحة