كيف يصل المحتوى الإباحي والعنيف للمراهقين رغم سياسات منصات وسائل التواصل؟

نون - تسمح شركات ومنصات التواصل الاجتماعي للمحتوى الإباحي والعنيف بالوصول إلى الأطفال واليافعين والمراهقين، وذلك بسبب عدم كفاءة وسائل الحماية المتعبة حاليا، بحسب تقرير لموقع "بي بي سي".

ونقل الموقع عن هيئة تنظيم الاتصالات في المملكة المتحدة "أوفكوم" أن خوارزميات جميع شركات وسائل التواصل الاجتماعي البارزة غالبًا ما توصي بمحتويات ضارة للأطفال، حتى وإن كان ذلك بدون قصد.

ووفقا للتقرير تعتمد شركات التواصل الاجتماعي على تقنيات الذكاء الاصطناعي لحجب الجزء الأكبر من المحتويات الضارة، أو إحالتها للمراجعة من قبل مشرفين بشريين، بغض النظر عن حجم المشاهدات.

ومع ذلك، فإن أدوات الذكاء الاصطناعي ليست قادرة على اكتشاف جميع أنواع المحتوى الضار بشكل كامل.

وتقول مديرة تطوير سياسة السلامة على الإنترنت، في"أوفكوم" ألمودينا لارا إن الشركات تجاهلت المخاطر وتعاملت مع الأطفال كما لو كانوا بالغين.

وفي ردها على الانتقادات، أفادت شركة تيك توك بأنها توفر إعدادات أمان متقدمة للمراهقين، وتوظف أكثر من 40 ألف شخص في مجال الحفاظ على سلامة المستخدمين.

كما أضافت أنها تخطط لاستثمار أكثر من ملياري دولار في مجال السلامة هذا العام، وتوضح أنها تحدد 98 بالمئة من المحتوى الذي تحجبه بسبب انتهاك قواعدها بشكل مسبق.

أما شركة ميتا، المالكة لإنستغرام وفيسبوك، فتقول إنها تقدم أكثر من 50 أداة وميزة مصممة لضمان "تجارب إيجابية ومناسبة للعمر" للمراهقين.

تؤكد تيك توك أنها تعتمد على "تكنولوجيا مبتكرة" لتوفير إعدادات أمان وخصوصية "رائدة في القطاع" للمراهقين، بما في ذلك أنظمة مخصصة لحظر المحتوى غير المناسب، مع تأكيدها على حظر المحتويات التي تشجع على العنف أو كراهية النساء.

من جهتها، تقول شركة ميتا، إنها توفر أكثر من "50 أداة وخاصية" تضمن للمراهقين تجربة آمنة ومناسبة لأعمارهم، كما تسعى ميتا بشكل مستمر للحصول على ملاحظات من فرقها المتخصصة وتبحث إدخال تغييرات على سياساتها لتعزيز الحماية.

وبحسب التقرير تعتزم المملكة المتحدة إصدار قانون جديد يلزم شركات وسائل التواصل الاجتماعي بالتحقق من أعمار المستخدمين الصغار ومنع المواقع من التوصية بالمواد الإباحية أو المحتوى الضار للشباب.

وستشرف هيئة تنظيم الاتصالات البريطانية "أوفكوم" على تنفيذ هذا القانون.

وأشارت ألمودينا٬ إلى أن التركيز الإعلامي غالباً ما يكون على المحتوى الضار بالفتيات، مثل مقاطع الفيديو التي تروج لاضطرابات الأكل وإيذاء النفس، في حين أن التوصيات الخوارزمية التي تشجع على الكراهية والعنف بين الفتيان المراهقين لم تلقَ الاهتمام الكافي.

وأضافت لارا: "رغم أن الخوارزميات تسعى إلى جعل الأطفال أقلية بين مشاهدي المحتوى الضار، إلا أنه بمجرد تعرضهم له يصبح من الصعب تجنبه".

وأكدت "أوفكوم" أنها تمتلك صلاحيات لتغريم الشركات ورفع دعاوى جنائية ضدها إذا لم تتخذ الإجراءات اللازمة، لكن تطبيق هذه التدابير لن يبدأ قبل عام 2025.