أكدت دراسة علمية جديدة أن شركة «ميتا» تساعد بشكل ملحوظ في انتشار محتوى إيذاء النفس بين المراهقين على موقع «إنستغرام»، من خلال الفشل في إزالة الصور الصريحة التي تظهر هذا المحتوى، وتشجيع أولئك الذين يتفاعلون معها على تكوين صداقات مع بعضهم.
وبحسب صحيفة «الغارديان» البريطانية، فقد قام فريق الدراسة الدنماركي بإنشاء شبكة خاصة لإيذاء النفس على منصة التواصل الاجتماعي، تضمنت حسابات مزيفة لأشخاص لا تتجاوز أعمارهم 13 عاماً. وقد شاركت هذه الحسابات 85 قطعة من المحتوى المتعلق بإيذاء النفس، ازدادت شدتها تدريجياً.
وكان الهدف من الدراسة اختبار ادعاء «ميتا»؛ بأنها حسَّنت بشكل كبير عملياتها لإزالة المحتوى الضار؛ حيث تقول إنها تستعين الآن بالذكاء الاصطناعي لهذا الغرض، وتزعم أنها تزيل نحو 99 في المائة من المحتوى الضار قبل الإبلاغ عنه.
إلا أن الدراسة التي استمرت شهراً وجدت أن الموقع لم يقم بإزالة صورة واحدة من المحتوى الضار الذي تم نشره.
وعندما أنشأ فريق الدراسة أداة ذكاء اصطناعي بسيطة خاصة به لتحليل المحتوى، تمكن من تحديد 88 في المائة من الصور الخطيرة الخاصة بإيذاء النفس.
وقال الباحثون إن هذا أظهر أن «إنستغرام» كانت لديه إمكانية الوصول إلى التكنولوجيا القادرة على معالجة المشكلة والتصدي لها، ولكنه «اختار عدم تنفيذها بشكل فعال».
وأكد الفريق أن عدم كفاية الإشراف من جانب المنصة يشير إلى أنها لم تكن تمتثل لقانون الخدمات الرقمية الخاص بالاتحاد الأوروبي.
ويتطلب القانون من المنصات الرقمية الكبيرة تحديد المخاطر والعواقب السلبية المتوقعة للمحتوى المنشور على الصحة البدنية والعقلية.
ورداً على ذلك، قال متحدث باسم «ميتا»: «المحتوى الذي يشجع على إيذاء النفس يتعارض مع سياساتنا، ونقوم بإزالته عندما نكتشفه».
وأضاف أنه في النصف الأول من عام 2024، قامت الشركة بإزالة أكثر من 12 مليون قطعة متعلقة بالانتحار وإيذاء النفس على «إنستغرام»، 99 في المائة منها تمت إزالتها بشكل استباقي.
