«يوتيوب» تحذف خطأ آلاف العروض التي توثق لانتهاكات الإنسانية في سوريا

خطأ تقني أدى إلى حذفها بعد تصنيفها على أنها غير ملائمة... وإعادة العروض بعد تدارك المسألة

حذفت شبكة «يوتيوب» يوم الخميس الماضي آلاف العروض التي توثق العنف والانتهاكات الإنسانية في سوريا، وذلك بعد تصنيفها على أنها غير ملائمة من خلال نظام آلي يعمل على التعرف على المحتوى المتطرف. وأعادت الشبكة تلك العروض بعد حذفها وتيقنها بأن عملية الحذف قد حدثت دون قصد. ويمكن استخدام هذه المقاطع التي توثق الحرب في سوريا أدلةً في جرائم الحرب.
وتقوم عملية الحذف بناء على خوارزمية (نهج عمل برنامج ما لتحقيق الهدف المرغوب) تقوم بتحليل محتوى العروض وتصنيفها وفقا للمحتوى الموجودة فيها، على أن يقوم مراقبون بشر بمعاينة تلك العروض، عند القدرة على ذلك، وتأكيد حذفها. وتستخدم هذه الميزة تقنيات تعلم الآلات والذكاء الاصطناعي لتحديث كلمات البحث المحورية التي تعيد توجيه المستخدم نحو محتوى ضد الإرهاب، تم تطويره في السابق من قبل منظمات غير حكومية. وتدعم الميزة حاليا كلمات البحث المحورية باللغة الإنجليزية، لكن الشركة ستوسع ذلك خلال الأسابيع المقبلة لتدعم مجموعة من اللغات إضافية، من بينها اللغة العربية، وذلك في محاولة لمنع استخدام الإرهابيين لـ«يوتيوب» لنشر فكرهم المتطرف أو محاولة تجنيد الشباب رقميا. كما وستمنع «يوتيوب» مشاركة التعليقات في العروض التي تم تعريفها من خلال النظام على أنها إرهابية، وتوقف جميع أنواع الإعلانات للحد من العوائد المالية لأصحاب الفكر المتطرف، مع عرض تحذيرات في الفيديوهات التي تروج للتشهير بدين ما أو لسيادة مجموعة ما.
ويمكن لأي نظام آلي أن يخطئ بتقييم تعذيب الأبرياء على أنه محتوى عنيف ويشابه المحتوى الإرهابي التي تبثه بعض التنظيمات الإرهابية. وتجدر الإشارة إلى أن «حذف» العروض لا يكون مباشرا، حيث يتم تصنيف العرض بأنه يفترض حذفه، وبذلك لا يظهر أمام المستخدمين، لتتم العملية في وقت لاحق. ولدى تدارك المشكلة، بإمكان تعديل التصنيف لتعود الأمور إلى ما كانت عليه سابقا.
وكانت «غوغل» المالكة لـ«يوتيوب» قد كشفت عن مكافحة الإرهاب بطريقة جديدة في شبكة «يوتيوب» تتمثل على شكل إعادة توجيه من يبحث عن محتوى يحث على العنف نحو محتوى مناهض، وذلك لدى استخدام كلمات رئيسية مرتبطة بالفكر المتطرف. وتعتبر هذه الميزة جزءا من استراتيجية متعددة المحاور وضعتها «غوغل» الشهر الماضي بهدف هدم الفكر الإرهابي في منصتها. وتم بدء تطبيق هذه الميزة على البحث عن عروض تنظيم داعش، ليعرض أمام المستخدمين عروضا أخرى من أشخاص كانوا قد انضموا إلى التنظيم في السابق وانسحبوا منه، يروون قصصهم المروعة لتوعية الآخرين بما يحدث في الخفاء، إضافة إلى عرض نقاشات رجال الدين ترفض الفكر المتطرف.
وطورت «غوغل» آلية البحث عن المفاهيم المرتبطة بالإسلام لتزيل النتائج السلبية التي تروج للعنف والكراهية وتصور الدين بشكل مسيء؛ الأمر الذي من شأنه خفض قراءة تفاسير خاطئة عنه، مثل مفردات الجهاد والشريعة. وطورت الشركة برمجياتها الداخلية لتقييم نتائج البحث وحذف النتائج المسيئة. وليس معروفا كيفية تقييم ماهية المواقع التي تقدم محتوى سلبيا وتلك الموضوعية؛ ذلك أن هذا الأمر يتطلب دراسة الدين الإسلامي وطوائفه ومذاهبه للتمييز بين الصفحات الموضوعية وتلك المسيئة.
وتعيد حادثة الحذف هذه النقاش حول شفافية الإنترنت والمحتوى؛ ذلك أنه وعلى الرغم من أن الشركة تهدف إلى مكافحة الإرهاب ونشر الفكر المتطرف، فإنها تستطيع عدم عرض المحتوى الذي لا يناسبها وعرض محتوى بديل؛ الأمر الذي يؤثر على شفافية ما يُعرض أمام المستخدم وقدرة الشركات على التلاعب بنتائج البحث لعرض محتوى مغاير لما طلبه المستخدم. وكثيرا ما قال البعض إن نتائج البحث في العديد من محركات البحث تعكس أجندات حكومية، وقد تخفي بعض النتائج التي تخالف توجهات بعض الحكومات في الصفحات البعيدة التي غالبا ما لا يصلها المستخدمون، لتصبح الإنترنت عبارة عن واجهة إعلامية ترضي أجندات بعض الحكومات أو الشركات المالكة للمنصة، أو حتى من يدفع أكثر لعرض محتوى مرتبط بأجندته قبل غيره، ليتغير مفهوم «حرية الكلام» إلى «حرية الكلام الذي يناسب توجهات صاحب المنصة».
واستهجن الكثير من المستخدمين هذه الآلية في منتديات الإنترنت، معربين عن استغرابهم حول عدم رفض «يوتيوب» البحث عن الكلمات المحورية الإرهابية عوضا عن عرض محتوى معاكس، وأن هذا الأمر قد يتوسع في المستقبل ليشمل المستخدمين الذي يبحثون عن معلومات حول بعض الديانات لتظهر لهم نتائج تخدم أجندة محددة، أو من يبحث عن معلومات حول مرشح انتخابي أو شخصية حكومية لتظهر له المعلومات التي ترغب بعض الجهات في عرضها عوضا عن الحقيقة. ويشكل هذا التوجه عائقا أمام الباحثين والصحافيين الذين يبحثون عن الحقيقة، لتظهر لهم الحقيقة البديلة التي تدعهما الشركات المالكة للمنصات العديدة. ويرى البعض، أن نتائج البحث المناهضة للعديد من الموضوعات قد تختفي في المستقبل إذا ما اتبعت الشركات المالكة للمنصات الكبيرة هذه المنهجية، على الرغم من أن مكافحة الإرهاب والفكر المتطرف ضرورية للحد من أي انتشار محتمل له، فإن شفافية البحث وعرض النتائج أمر له أهميته الكبيرة كذلك.
الأمر الطريف هو أن هذه الميزة من تطوير شركة «جيغسو» Jigsaw التي تملكها شركة «ألفابيت» المالكة لشركة «غوغل»، حيث تهدف «جيغسو» إلى مكافحة التطرف والرقابة والهجمات الإلكترونية. لكن مكافحة الرقابة برقابة أخرى يتناقض مع أهداف الشركة، عوضا عن وضع أساليب أخرى لمكافحة الإرهاب والفكر المتطرف؛ الأمر الذي يؤكد بعض المستخدمين أن الشركات الكبيرة تستخدم فكرة مكافحة الإرهاب عذراً لقمع الفكر والمحتوى المناهض لتوجهاتها أو لتوجهات الحكومات أو من يدفع أكثر من غيره. ووفقا لموقع StatisticBrain، يتم رفع نحو 300 ساعة من المحتوى إلى «يوتيوب» في كل دقيقة، ويتم مشاهدة 4.9 مليار فيديو في «يوتيوب» كل يوم، مع وجود 1.3 مليار مستخدم للمنصة يقضون ما معدله 40 دقيقة يوميا في مشاهدة العروض المختلفة.