«غوغل» تستعين بالذكاء الصناعي لمحاربة المحتوى السيئ للأطفال

برنامج مجاني يقدم إلى الشركات والمؤسسات

أعلنت شركة «غوغل»، أمس، عن برنامج جديد يعتمد على الذكاء الصناعي، مصمم خصيصاً لكشف المحتوى المسيء للأطفال؛ في خطوة منها لتجنت الضغوط المتزايدة من الحكومات لمعالجة محتوى الويب التي كان آخرها خطاب وزير داخلية بريطانيا ساجد جاويد، الذي طالب جميع شركات التقنية للعمل أكثر للحد من انتشار المحتوى السيئ على منصاتهم.
ورغم أن إزالة المواد المسيئة للأطفال يعتبر أولوية بالنسبة للشركات الكبرى، فإن هذه العملية ليست سهلة التطبيق؛ فهي تعتمد في الأساس على البلاغات التي تستقبلها المواقع من المستخدمين العاديين أو على بعض الحلول التقنية كبرنامج «فوتو دي إن إيه» PhotoDNA من «مايكروسوفت»، الذي يقوم بفرز الصور التي تم وضع علامة عليها بأنها مسيئة.
وستوفر «غوغل» هذه الأداة الجديدة مجاناً للشركات والمؤسسات المتخصصة في مراقبة المواد المسيئة الأطفال لتساعد المشرفين البشر في عملية فرز الصور ومقاطع الفيديو، بحيث تقوم الأداة بتحديد أولويات المحتوى الأكثر احتمالاً في هذه الفئة لتسريع عملية المراجعة؛ مما يؤدي في النهاية إلى إزالة الصور بشكل أسرع. وقد نشرت «غوغل» نتائج تجربتها مع إحدى هذه الشركات، حيث استطاع مشرفوها إزالة المحتوى المسيء بشكل أسرع بنسبة 700 في المائة، مقارنة بالاعتماد فقط على العنصر البشري لفرز المحتوى.
ووفقاً لمنظمة «كوميتي فور تشيلدرين» الأميركية، فإن المحتوى المسيء للأطفال يؤثر على واحدة من كل أربع فتيات وواحد من كل 20 صبياً في الولايات المتحدة، كما أفادت وكالة الجريمة الوطنية البريطانية أخيراً بأن عدد حالات الإبلاغ عن المحتوى السيئ كان أكثر بـ7 مرات في عام 2017 مقارنة بعام 2012.
وأكدت «غوغل»، أنها استثمرت كثيراً في مجال تكنولوجيا الكشف عن المحتوى المسيء، وستواصل القيام بذلك من أجل جعل الإنترنت أكثر أماناً للناس في جميع أنحاء العالم. كما ستعمل الشركة على تحسين تقنيات الذكاء الصناعي التي تستخدم الشبكات العصبية العميقة لمعالجة الصور ومقاطع الفيديو دون الاعتماد على قواعد بيانات قديمة لكي تزيل العبء من كاهل المشرفين، وتوكل هذه المهمة إلى أجهزة الكومبيوتر القادرة على فرز المحتوى بطريقة أسرع وأكثر فاعلية.