اتخاذ القرارات الآلي

تُعدّ جودة البيانات المتاحة وإمكانية استخدامها في أنظمة إدارة البيانات المتقدمة أساسيةً للنتائج. وغالبًا ما تُشكّل هذه الجودة تحديًا كبيرًا لأسباب عديدة. فمجموعات البيانات غالبًا ما تكون شديدة التباين؛ وقد تتحكّم الشركات أو الحكومات في بيانات واسعة النطاق، أو تكون مقيّدة لأسباب تتعلق بالخصوصية أو الأمن، أو غير مكتملة، أو متحيزة، أو محدودة من حيث الوقت أو التغطية، أو تقيس المصطلحات وتصفها بطرق مختلفة، وغيرها الكثير من المشكلات.

لكي تتعلم الآلات من البيانات، غالباً ما تكون هناك حاجة إلى مجموعات بيانات كبيرة، والتي قد يكون من الصعب الحصول عليها أو حسابها؛ ومع ذلك، عندما تكون متاحة، فقد حققت اختراقات كبيرة، على سبيل المثال، في تشخيص صور الأشعة السينية للصدر. ^{[ 8 ]}

يتضمن التعلم الآلي تدريب برامج الحاسوب من خلال تعريضها لمجموعات بيانات وأمثلة ضخمة للتعلم من التجربة وحل المشكلات. ^{[ 2 ]} يمكن استخدام التعلم الآلي لتوليد البيانات وتحليلها، بالإضافة إلى إجراء العمليات الحسابية الخوارزمية، وقد طُبِّق في مجالات التعرف على الصور والكلام، والترجمة، والنصوص، والبيانات، والمحاكاة. على الرغم من أن التعلم الآلي موجود منذ فترة، إلا أنه يكتسب قوة متزايدة بفضل التطورات الحديثة في تدريب الشبكات العصبية العميقة، والزيادة الهائلة في سعة تخزين البيانات وقوة الحوسبة مع معالجات الرسومات المساعدة والحوسبة السحابية . ^{[ 2 ]}

تعتمد أنظمة التعلم الآلي على نماذج أساسية تعمل على شبكات عصبية عميقة ، وتستخدم مطابقة الأنماط لتدريب نظام ضخم واحد على كميات هائلة من البيانات العامة، مثل النصوص والصور. كانت النماذج الأولى تبدأ من الصفر لكل مشكلة جديدة، ولكن منذ أوائل العقد الثاني من القرن الحادي والعشرين، أصبح بالإمكان تكييف العديد منها مع المشكلات الجديدة. ^{[ 9 ]} ومن أمثلة هذه التقنيات برنامج DALL-E من OpenAI (برنامج إنشاء الصور) ونماذج اللغة GPT المختلفة التابعة له ، وبرنامج PaLM من جوجل لنمذجة اللغة .

تُجرى حاليًا أبحاث وتطويرات في مجال استخدام التكنولوجيا لتقييم جودة الحجج، ^{[ 11 ] [ 12 ] [ 13 ]} وتقييم المقالات الجدلية ^{، [ 14 ] [ 15 ]} والحكم في المناظرات. ^{[ 16 ] [ 17 ] [ 18 ] [ 19 ]} وتشمل التطبيقات المحتملة لهذه التقنيات التعليمية والمجتمعية مجالاتٍ عديدة. ومن بين السيناريوهات التي ينبغي مراعاتها في هذا الصدد، تلك المتعلقة بتقييم الحجج والمناظرات في مجالات الحوار ، والرياضيات ، والعلوم ، والتفسير ، والقانون ، والسياسة .

في الأنظمة القانونية حول العالم، تُستخدم أدوات خوارزمية، مثل أدوات تقييم المخاطر (RAI)، لتكملة أو استبدال التقدير البشري للقضاة والموظفين المدنيين وضباط الشرطة في العديد من السياقات. ^{[ 20 ]} في الولايات المتحدة، تُستخدم أدوات تقييم المخاطر (RAI) لإنشاء درجات للتنبؤ بخطر العودة إلى الإجرام في قرارات الحبس الاحتياطي قبل المحاكمة وإصدار الأحكام، ^{[ 21 ]} وتقييم الإفراج المشروط عن السجناء، والتنبؤ بـ"بؤر" الجريمة المستقبلية. ^{[ 22 ] [ 23 ] [ 24 ]} قد تُسفر هذه الدرجات عن آثار تلقائية، أو قد تُستخدم لإرشاد القرارات التي يتخذها المسؤولون داخل النظام القضائي. ^{[ 20 ]} في كندا، يُستخدم نظام إدارة البيانات الآلية (ADM) منذ عام 2014 لأتمتة بعض الأنشطة التي يقوم بها مسؤولو الهجرة، ولدعم تقييم بعض طلبات الهجرة والزيارة. ^{[ 25 ]}

تُستخدم أنظمة اتخاذ القرارات الآلية في بعض برامج الحاسوب لإنشاء أوامر بيع وشراء مرتبطة بمعاملات مالية محددة، وإرسال هذه الأوامر تلقائيًا إلى الأسواق الدولية. ويمكن لبرامج الحاسوب توليد الأوامر تلقائيًا بناءً على مجموعة محددة مسبقًا من القواعد، باستخدام استراتيجيات تداول تعتمد على التحليلات الفنية، والحسابات الإحصائية والرياضية المتقدمة، أو مدخلات من مصادر إلكترونية أخرى.

تُقدّم وسائل الإعلام الرقمية ومنصات الترفيه وخدمات المعلومات بشكل متزايد محتوىً للجمهور عبر أنظمة توصية آلية تعتمد على المعلومات الديموغرافية، والاختيارات السابقة، والتصفية التعاونية ، أو التصفية القائمة على المحتوى. ^{[ 27 ]} ويشمل ذلك منصات الموسيقى والفيديو، والنشر، والمعلومات الصحية، وقواعد بيانات المنتجات، ومحركات البحث. كما تُتيح العديد من أنظمة التوصية للمستخدمين بعض التحكم في قبول التوصيات، وتُدمج حلقات تغذية راجعة خوارزمية قائمة على البيانات، استنادًا إلى تصرفات مستخدم النظام. ^{[ 6 ]}

على الرغم من أن نماذج تعلم الآلة واسعة النطاق وبرامج إنشاء الصور التي طورتها شركات مثل OpenAI وجوجل في العقد الثاني من القرن الحادي والعشرين تتمتع بإمكانية وصول محدودة، إلا أنه من المرجح أن يكون لها تطبيقات واسعة النطاق في مجالات مثل الإعلان وكتابة النصوص الإعلانية والصور المخزنة والتصميم الجرافيكي، فضلاً عن مجالات أخرى مثل الصحافة والقانون. ^{[ 9 ]}

يتكامل الإعلان عبر الإنترنت بشكل وثيق مع العديد من منصات الوسائط الرقمية والمواقع الإلكترونية ومحركات البحث، وغالبًا ما يتضمن عرض الإعلانات تلقائيًا بتنسيقات متنوعة. يشمل الإعلان "البرمجي" عبر الإنترنت أتمتة بيع وعرض الإعلانات الرقمية على المواقع الإلكترونية والمنصات عبر برامج حاسوبية، بدلًا من اتخاذ القرارات البشرية المباشرة. ^{[ 27 ]} يُعرف هذا أحيانًا بنموذج الشلال ، الذي يتضمن سلسلة من الخطوات عبر أنظمة وجهات فاعلة مختلفة: الناشرون ومنصات إدارة البيانات، وبيانات المستخدمين، وخوادم الإعلانات وبيانات عرضها، وأنظمة إدارة المخزون، وتجار الإعلانات، ومنصات تبادل الإعلانات. ^{[ 27 ]} يُعاني هذا النظام من عدة مشكلات، منها نقص الشفافية بالنسبة للمعلنين، وعدم إمكانية التحقق من المقاييس، ونقص التحكم في أماكن عرض الإعلانات، وتتبع الجمهور، ومخاوف تتعلق بالخصوصية. ^{[ 27 ]} وقد لجأ مستخدمو الإنترنت الذين لا يفضلون الإعلانات إلى تدابير مضادة، مثل تقنيات حجب الإعلانات ، التي تسمح لهم بتصفية الإعلانات غير المرغوب فيها تلقائيًا من المواقع الإلكترونية وبعض تطبيقات الإنترنت. في عام 2017، كان لدى 24% من مستخدمي الإنترنت الأستراليين برامج حجب الإعلانات. ^{[ 28 ]}

تُستخدم نماذج الصور القائمة على الذكاء الاصطناعي والتعلم العميق لمراجعة صور الأشعة السينية والكشف عن حالة التنكس البقعي في العين.

بدأت الحكومات بتطبيق التقنيات الرقمية منذ مطلع الألفية الثانية لتحسين كفاءة الإدارة والخدمات الاجتماعية ، وهو ما يُعرف غالبًا بالحكومة الإلكترونية . وتستخدم العديد من الحكومات حول العالم أنظمة آلية وخوارزمية لتصنيف وتوجيه السياسات والخدمات، بما في ذلك تطبيق الخوارزميات الشرطية بناءً على المخاطر، وفرز الأشخاص للمراقبة كما في إجراءات التفتيش في المطارات، وتقديم الخدمات بناءً على ملفات تعريف المخاطر في مجال حماية الطفل، وتوفير خدمات التوظيف، وإدارة شؤون العاطلين عن العمل. ^{[ 29 ]} ومن أبرز تطبيقات الخوارزميات في الخدمات الاجتماعية استخدام التحليلات التنبؤية ، مثل التنبؤ بمخاطر تعرض الأطفال للإيذاء أو الإهمال في مجال حماية الطفل ، والتنبؤ بالعودة إلى الإجرام أو الجريمة في مجال الشرطة والعدالة الجنائية، والتنبؤ بالتهرب الضريبي/الرعاية الاجتماعية في أنظمة الامتثال، والتنبؤ بالبطالة طويلة الأجل في خدمات التوظيف. تاريخيًا، كانت هذه الأنظمة تعتمد على التحليلات الإحصائية التقليدية، إلا أنه منذ مطلع الألفية الثانية، تزايد تطوير ونشر تقنيات التعلم الآلي. تشمل المشكلات الرئيسية المتعلقة باستخدام أنظمة اتخاذ القرارات الآلية في الخدمات الاجتماعية التحيز والإنصاف والمساءلة وقابلية التفسير ، والتي تشير إلى الشفافية حول أسباب القرار والقدرة على شرح الأساس الذي استند إليه النظام في اتخاذ القرار. ^{[ 29 ]} فعلى سبيل المثال، قامت وكالة الضمان الاجتماعي الفيدرالية الأسترالية، سنترلينك، بتطوير وتنفيذ عمليات آلية للكشف عن الديون وتحصيلها، مما أدى إلى العديد من حالات تحصيل الديون غير المشروعة فيما عُرف لاحقًا باسم مخطط روبوديبت . ^{[ 30 ]}

يشمل مفهوم التنقل المتصل والآلي (CAM) المركبات ذاتية القيادة، مثل السيارات ذاتية القيادة وغيرها من وسائل النقل، التي تستخدم أنظمة اتخاذ قرارات آلية لتحل محل جوانب مختلفة من التحكم البشري في المركبة. ^{[ 31 ]} ويتراوح هذا المستوى من 0 (قيادة بشرية كاملة) إلى 5 (قيادة ذاتية كاملة). ^{[ 2 ]} في المستوى 5، يكون النظام قادرًا على اتخاذ قرارات للتحكم في المركبة بناءً على نماذج البيانات والخرائط الجغرافية المكانية، بالإضافة إلى أجهزة الاستشعار ومعالجة البيئة في الوقت الفعلي. وتتوفر السيارات من المستويات 1 إلى 3 في الأسواق منذ عام 2021. في عام 2016، أنشأت الحكومة الألمانية "لجنة أخلاقيات القيادة الآلية والمتصلة"، التي أوصت بتطوير المركبات المتصلة والآلية (CAVs) إذا كانت أنظمتها تتسبب في حوادث أقل من السائقين البشريين (توازن إيجابي للمخاطر). كما قدمت اللجنة 20 قاعدة أخلاقية لتكييف القيادة الآلية والمتصلة. ^{[ 32 ]} في عام 2020، أوصت استراتيجية المفوضية الأوروبية بشأن وسائل النقل المساعدة (CAMs) باعتمادها في أوروبا للحد من وفيات الطرق وخفض الانبعاثات، إلا أن السيارات ذاتية القيادة تثير أيضاً العديد من القضايا المتعلقة بالسياسات والأمن والقانون فيما يخص المسؤولية واتخاذ القرارات الأخلاقية في حالة وقوع الحوادث، فضلاً عن قضايا الخصوصية. ^{[ 31 ]} تُعد قضايا الثقة في المركبات ذاتية القيادة ومخاوف المجتمع بشأن سلامتها من العوامل الرئيسية التي يجب معالجتها لضمان اعتمادها على نطاق واسع. ^{[ 33 ]}

أدى جمع البيانات الرقمية المؤتمت عبر أجهزة الاستشعار والكاميرات والمعاملات الإلكترونية ووسائل التواصل الاجتماعي إلى توسيع نطاق وحجم وأهداف ممارسات ومؤسسات المراقبة في القطاعين الحكومي والتجاري بشكل كبير. ^{[ 34 ]} ونتيجة لذلك، حدث تحول جذري من المراقبة الموجهة للمشتبه بهم إلى القدرة على مراقبة السكان بأكملهم. ^{[ 35 ]} وقد وُصف مستوى المراقبة المتاح حاليًا بفضل جمع البيانات المؤتمت بـ "رأسمالية المراقبة" أو "اقتصاد المراقبة"، للدلالة على كيفية استخدام الوسائط الرقمية لتتبع وتجميع البيانات على نطاق واسع حول كل تفاعل.

قد تتضمن عملية إدارة البيانات الآلية تحيزًا خوارزميًا ناتجًا عن:

• مصادر البيانات، حيث تكون مدخلات البيانات متحيزة في جمعها أو اختيارها ^{[ 37 ]}
• التصميم التقني للخوارزمية، على سبيل المثال حيث تم وضع افتراضات حول كيفية تصرف الشخص ^{[ 46 ]}
• التحيز الناشئ، حيث يؤدي تطبيق ADM في ظروف غير متوقعة إلى نتيجة متحيزة ^{[ 46 ].}

أثارت التساؤلات حول البيانات أو الخوارزميات المتحيزة أو غير الصحيحة، والمخاوف من أن بعض أنظمة اتخاذ القرارات الآلية (ADMs) عبارة عن تقنيات مبهمة، غير قابلة للفحص أو التدقيق البشري، ما يُعرف بمسألة قابلية التفسير، أو الحق في فهم القرارات الآلية والذكاء الاصطناعي. ويُعرف هذا أيضًا بالذكاء الاصطناعي القابل للتفسير (XAI)، حيث يمكن تحليل نتائج الحل وفهمها من قِبل البشر. وتُعتبر خوارزميات الذكاء الاصطناعي القابل للتفسير مُلتزمة بثلاثة مبادئ: الشفافية، وقابلية التفسير، وقابلية الشرح.

قد يؤدي اتخاذ القرارات الآلي إلى زيادة عدم تماثل المعلومات بين الأفراد الذين تُغذّي بياناتهم النظام، وبين المنصات وأنظمة اتخاذ القرار القادرة على استنتاج المعلومات من تلك البيانات. من جهة أخرى، لوحظ في التداول المالي أن عدم تماثل المعلومات بين وكيلين للذكاء الاصطناعي قد يكون أقل بكثير من عدم تماثل المعلومات بين وكيلين بشريين أو بين البشر والآلات. ^{[ 47 ]} وقد أكدت دراسة صحة نظرية دانيال كانيمان حول القرارات المشوشة التي يتخذها الخبراء البشريون في مجال التمويل. ^{[ 48 ]} وتُظهر هذه الدراسة التناقضات الكامنة في الأحكام البشرية، والتي تؤثر بالتالي على نتائج القرارات الآلية التي تتخذها أنظمة دعم القرار المدعومة بالذكاء الاصطناعي.