إدارة المحتوى

تُقدّر قيمة صناعة مراقبة المحتوى بـ 9 مليارات دولار أمريكي. ورغم عدم وجود أرقام رسمية، تشير التقديرات إلى وجود 10,000 مراقب محتوى على منصة تيك توك ، و15,000 على فيسبوك، و1,500 على تويتر، وذلك حتى عام 2022. ^{[ 7 ]}

تشمل سلسلة القيمة العالمية لإدارة المحتوى عادةً منصات التواصل الاجتماعي، والشركات متعددة الجنسيات الكبرى ، وموردي خدمات إدارة المحتوى. وتتركز منصات التواصل الاجتماعي (مثل فيسبوك وجوجل) في الولايات المتحدة وأوروبا والصين. أما الشركات متعددة الجنسيات (مثل أكسنتشر وفويوي ) فتقع مقارها الرئيسية عادةً في دول الشمال العالمي أو الهند، بينما يتواجد موردو خدمات إدارة المحتوى في الغالب في دول الجنوب العالمي مثل الهند والفلبين. ^{[ 8 ] : 79-81}

بينما كان هذا العمل يُنجز في السابق بواسطة متطوعين من داخل مجتمع الإنترنت ، أصبح يُنجز في المواقع التجارية في الغالب من خلال الاستعانة بمصادر خارجية لشركات متخصصة، غالبًا في مناطق ذات أجور منخفضة مثل الهند والفلبين. وقد ازداد الاستعانة بمصادر خارجية لوظائف إدارة المحتوى نتيجةً لازدهار وسائل التواصل الاجتماعي . ومع النمو الهائل في عدد المستخدمين والمحتوى الذي ينشئه المستخدمون، احتاجت الشركات إلى عدد أكبر بكثير من الموظفين لإدارة المحتوى. في أواخر الثمانينيات وأوائل التسعينيات، بدأت شركات التكنولوجيا بالاستعانة بمصادر خارجية في دول أجنبية تمتلك قوة عاملة متعلمة ولكنها مستعدة للعمل بأجور زهيدة. ^{[ 9 ]}

تُمنح تصنيفات المحتوى ^{[ 10 ]} للمحتوى الذي ينشئه المستخدمون كوسيلة لإضافة المزيد من المعلومات، مما يُتيح لهم معرفة كيفية تصفح واستخدام مساهماتهم، ويُمكّن المشرفين من تنظيم وإدارة أي محتوى يُعتبر غير لائق. من أمثلة تصنيفات المحتوى: التحقق من الحقائق، وعبارات "انقر للمشاهدة"، وتحذيرات الحساسية، أو ببساطة معلومات إضافية. على الرغم من أن تصنيفات المحتوى لم تُصبح مفهومًا مُعترفًا به إلا في السنوات الأخيرة، مع قلة الأبحاث في هذا المجال، إلا أن مفهوم تصنيف المعلومات، بشكل عام، موجود منذ عقود. ومع استغلال منصات التواصل الاجتماعي لتصنيفات المحتوى، قد يُثار جدل حول ما إذا كان ينبغي إعطاء الأولوية لحق المستخدم في حرية التعبير أم تعريض صحة وسلامة مستخدم آخر للخطر.

يعمل الموظفون من خلال مشاهدة المحتوى المزعج وتقييمه وحذفه. ^{[ 11 ]} وذكرت مجلة Wired في عام 2014 أنهم قد يعانون من أضرار نفسية. ^{[ 12 ] [ 13 ] [ 14 ] [ 5 ] [ 15 ]} وفي عام 2017، ذكرت صحيفة الغارديان أن الصدمة الثانوية قد تنشأ، بأعراض مشابهة لاضطراب ما بعد الصدمة . ^{[ 16 ]} تقدم بعض الشركات الكبرى، مثل فيسبوك، دعمًا نفسيًا ^{[ 16 ]} وتعتمد بشكل متزايد على استخدام الذكاء الاصطناعي لفرز المحتوى الأكثر بشاعة وغير لائق، لكن النقاد يرون أن هذا غير كافٍ. ^{[ 17 ]} وفي عام 2019، وصفت الإذاعة الوطنية العامة (NPR) ذلك بأنه خطر وظيفي. ^{[ 18 ]} تُعد اتفاقيات عدم الإفصاح هي القاعدة عند تعيين مشرفي المحتوى. وهذا يجعل المشرفين أكثر ترددًا في التحدث عن ظروف العمل أو تنظيم أنفسهم. ^{[ 7 ]}

تُشكل المخاطر النفسية، بما في ذلك التوتر واضطراب ما بعد الصدمة ، بالإضافة إلى هشاشة إدارة الخوارزميات وانخفاض الأجور، تحديًا كبيرًا لعملية مراقبة المحتوى. ^{[ 19 ] [ 20 ] : 123} ويتم قياس عدد المهام المنجزة، مثل تصنيف المحتوى على أنه انتهاك لحقوق النشر، أو حذف منشور يحتوي على خطاب كراهية، أو مراجعة المحتوى المصور، وذلك لضمان الأداء والجودة . ^{[ 7 ]}

في فبراير 2019، كشف تقرير استقصائي نشرته صحيفة "ذا فيرج" عن ظروف عمل سيئة في مكتب شركة "كوجنيزانت " بمدينة فينيكس بولاية أريزونا . ^{[ 21 ]} عانى موظفو "كوجنيزانت" المكلفون بمراقبة المحتوى على فيسبوك من مشاكل نفسية ، بما في ذلك اضطراب ما بعد الصدمة ، نتيجة تعرضهم لمشاهد عنف صريحة وخطاب كراهية ونظريات مؤامرة في مقاطع الفيديو التي كُلِّفوا بتقييمها. ^{[ 21 ] [ 22 ]} وأبلغ المراقبون في مكتب فينيكس عن تعاطي المخدرات والكحول، وممارسة الجنس في مكان العمل، وخافوا من انتقام العمال المفصولين الذين هددوا بإيذائهم. ^{[ 21 ] [ 23 ]} ردًا على ذلك، صرح ممثل عن "كوجنيزانت" بأن الشركة ستدرس القضايا الواردة في التقرير. ^{[ 21 ]}

نشر موقع The Verge تحقيقًا تكميليًا حول مكتب شركة Cognizant في تامبا، فلوريدا ، في يونيو 2019. ^{[ 24 ] [ 25 ]} وصف الموظفون في موقع تامبا ظروف عمل أسوأ من تلك الموجودة في مكتب فينيكس. ^{[ 24 ] [ 26 ] [ 27 ]} وبالمثل، أفادت شركة Meta، وهي شركة خارجية لإدارة المحتوى في كينيا وغانا، عن حالات مرض نفسي، وإيذاء النفس، ومحاولات انتحار، وظروف عمل سيئة، وأجور منخفضة، وتعرض الموظفين للانتقام بسبب مطالبتهم بتحسين ظروف العمل. ^{[ 28 ]}

كان على المشرفين توقيع اتفاقيات عدم إفصاح مع شركة كوجنيزانت للحصول على الوظيفة، إلا أن ثلاثة موظفين سابقين خرقوا هذه الاتفاقيات وقدموا معلومات لموقع ذا فيرج . ^{[ 24 ] [ 29 ]} وفي مكتب تامبا، أفاد الموظفون بنقص موارد الصحة النفسية. ^{[ 24 ] [ 30 ]} ونتيجةً للتعرض لمقاطع فيديو تُظهر عنفًا شديدًا، وإساءة معاملة الحيوانات ، واعتداءً جنسيًا على الأطفال ، أصيب بعض الموظفين بصدمة نفسية واضطراب ما بعد الصدمة. ^{[ 24 ] [ 31 ]} ورداً على التغطية الإعلامية السلبية المتعلقة بعقود الإشراف على المحتوى، أشار أحد مديري فيسبوك إلى أن الشركة بصدد إنشاء "فريق عالمي للمرونة" لمساعدة المتعاقدين معها. ^{[ 24 ]}

رفعت فيسبوك عدد مشرفي المحتوى من 4500 إلى 7500 في عام 2017 بسبب متطلبات قانونية وجدالات أخرى . في ألمانيا، كانت فيسبوك مسؤولة عن إزالة خطاب الكراهية في غضون 24 ساعة من نشره. ^{[ 32 ]} وفي أواخر عام 2018، أنشأت فيسبوك مجلسًا رقابيًا أو "محكمة عليا" داخلية لتحديد المحتوى الذي يبقى والمحتوى الذي يُزال. ^{[ 18 ]}

وفقًا لفرانسيس هوجن ، كان عدد موظفي فيسبوك المسؤولين عن مراقبة المحتوى أقل بكثير اعتبارًا من عام 2021. ^{[ 33 ]}

يتبنى موقع تويتر سياسة تعليق الحسابات . فبين أغسطس/آب 2015 وديسمبر/كانون الأول 2017، علّق الموقع أكثر من 1.2 مليون حساب بسبب محتواها الإرهابي، وذلك للحد من عدد المتابعين وكمية المحتوى المرتبط بتنظيم الدولة الإسلامية. ^{[ 34 ]} وبعد استحواذ إيلون ماسك على تويتر في أكتوبر/تشرين الأول 2022، تم تخفيف قواعد المحتوى على المنصة في محاولة لإعطاء الأولوية لحرية التعبير. ^{[ 35 ]} ومع ذلك، فقد أُثيرت تساؤلات حول جدوى هذه الحملة. ^{[ 36 ] [ 37 ]}

تتيح خاصية الإشراف على المستخدمين لأي مستخدم الإشراف على مشاركات أي مستخدم آخر. يتخذ مليارات الأشخاص حاليًا قرارات يومية بشأن ما يشاركونه أو يعيدون توجيهه أو يمنحونه الظهور. ^{[ 45 ]} في المواقع الكبيرة ذات الكثافة السكانية النشطة العالية، عادةً ما يكون هذا النظام فعالًا، حيث يتم استبعاد عدد قليل نسبيًا من مثيري المشاكل من خلال تصويت بقية أعضاء المجتمع.

يمكن أيضًا وصف الإشراف من قِبل المستخدمين بالإشراف التفاعلي. يعتمد هذا النوع من الإشراف على قيام مستخدمي المنصة أو الموقع بالإبلاغ عن المحتوى غير اللائق والمخالف لمعايير المجتمع . في هذه العملية، عندما يواجه المستخدمون صورة أو مقطع فيديو يرونه غير مناسب، يمكنهم النقر على زر الإبلاغ. يتم تسجيل الشكوى ووضعها في قائمة انتظار المشرفين لمراجعتها. ^{[ 46 ]}