تعمل فرق الثقة والسلامة (Trust & Safety) بصمت خلف الكواليس في كبرى المنصات الرقمية مثل Meta وGoogle وAmazon وTwitter (X) لحماية المستخدمين من المحتوى الضار والخطير مثل الأخبار الكاذبة وخطاب الكراهية والانتهاكات الرقمية. لكن بين عامي 2021 و2023، واجه هذا النظام تحديات كبرى، منها تقليص الوظائف، والضغوط السياسية، وتزايد الشك العام، والإرهاق النفسي للعاملين. ومع ذلك، لا يزال الأمل قائماً في بناء مستقبل رقمي أكثر أماناً وشمولية ووعياً.
BulletsIn
-
دور فرق الثقة والسلامة: لا يقتصر عملهم على حذف المحتوى المخالف فقط، بل يشمل وضع السياسات، التعاون مع السلطات، منع الاحتيال والاستغلال، وضمان أمان المستخدمين في جميع خصائص المنصة.
-
أنواع الإشراف على المحتوى: تشمل ثلاث مستويات رئيسية — إشراف يدوي داخلي (Artisanal)، إشراف مجتمعي تطوعي (مثل Reddit وWikipedia)، وإشراف صناعي واسع النطاق (يُدار عبر الذكاء الاصطناعي أو أطراف خارجية).
-
أزمة التسريحات والضغوط السياسية: بين 2021 و2023، سُرّحت نسب كبيرة من موظفي T&S في شركات كبرى مثل Twitter بعد استحواذ إيلون ماسك، لأسباب مالية وسياسية مرتبطة باتهامات “الرقابة”.
-
الإرهاق النفسي والمشاكل الصحية: يتعرض الموظفون لمحتوى عنيف وصادم يومياً دون دعم نفسي كافٍ، مما يؤدي إلى القلق، الاكتئاب، وحتى اضطرابات ما بعد الصدمة.
-
سوء الفهم من الجمهور: يُساء فهم دور فرق T&S أحياناً على أنهم يفرضون رقابة على حرية التعبير، مما يؤدي إلى تشويه صورتهم وازدياد الضغوط عليهم.
-
التحديات الخاصة بالهند: لا توجد أطر تنظيمية واضحة، وغالبية أعمال الإشراف يتم الاستعانة بها خارجياً (Outsourced) عبر شركات لا توفر تدريباً كافياً أو دعم نفسي للموظفين.
-
التنوع اللغوي والثقافي: في بلد مثل الهند الذي يتحدث أكثر من 20 لغة رئيسية، تفشل الخوارزميات الموحدة في فهم السياقات والمعاني الدقيقة للمحتوى.
-
دور الذكاء الاصطناعي: يساعد AI في فحص ملايين المنشورات بسرعة، ويقلل تعرض البشر للمحتوى المؤذي، كما يساعد في اكتشاف الأنماط الخطرة مسبقاً.
-
قيود الذكاء الاصطناعي: AI يواجه صعوبة في فهم السخرية واللهجات والسياقات الثقافية، كما يمكن أن يعزز الانحياز إذا تم تدريبه على بيانات غير متوازنة.
-
فرص للشباب في الهند والعالم: يمكن للجيل الجديد أن يساهم في هذا المجال من خلال أدوار مثل: محلل محتوى، باحث سياسات، مصمم تجربة مستخدم آمن، أو مهندس سلامة AI. المهارات الأساسية تشمل التفكير النقدي، الأخلاقيات، إتقان التكنولوجيا واللغات.
