دراسة: أنظمة التعرف على الوجه رقمياً «عنصرية»

نظام التعرف على الوجه في مطار دالاس بولاية فيرجينا الأميركية (إ.ب.أ)

ذكرت دراسة للمعهد الوطني للمعايير والتكنولوجيا الأميركي، أن كثيراً من أنظمة التعرف على ملامح الوجه رقمياً، تجد صعوبة في تحديد هوية الأميركيين من أصول أفريقية أو آسيوية أو السكان الأصليين، مقارنة بتحديد هوية الأميركيين من أصول أوروبية.
وأشارت الدراسة إلى ارتفاع نسبة الإجابة الخطأ، عندما تتم مطابقة صورة وجه من ذوي الأصول الأفريقية أو الآسيوية أو من السكان الأصليين بصورة للشخص نفسه على قاعدة بيانات. وتستخدم هذه التقنية المعروفة باسم مطابقة واحد بواحد في بعض الأعمال، مثل فتح شاشة هاتف ذكي، أو فحص كلمة مرور.
شملت الدراسة 189 لوغاريتماً (برنامج تحليل بيانات) للتعرف على ملامح الوجه من 99 شركة تكنولوجيا كبرى، مثل «مايكروسوفت» و«إنتل» و«باناسونيك»، حسبما نقلت وكالة الأنباء الألمانية.
وذكر المعهد أن شركة «أمازون» للتجارة الإلكترونية لم تقدم لوغاريتماً لاختباره، في حين يواجه اللوغاريتم الخاص بها واسمه «ريكوجنيشن» للتعرف على ملامح الوجه انتقادات بسبب تحيزاته المرتبطة بالعرق ونوع الجنس.
وأشار موقع «سي نت دوت كوم» المتخصص في موضوعات التكنولوجيا، إلى أن الردود الإيجابية الخطأ تزداد في حالة مطابقة صورة سيدة مقارنة بصورة الرجل؛ حيث اكتشف المعهد هذه المشكلة تتكرر باستمرار في كل البرامج والأنظمة التي فحصتها. كما أن الردود الإيجابية الخطأ تزداد في حالة كبار السن والأطفال.
وقال باتريك جوتر، خبير الكومبيوتر في المعهد وأحد معدي الدراسة، في بيان: «في حين أنه من الخطأ عادة الإدلاء ببيانات عن اللوغاريتمات، فإننا وجدنا بالفعل تحيزات ديموغرافية في أغلب هذه اللوغاريتمات... وفي حين أننا لا نبحث عن السبب المحتمل وراء هذا التباين، فإن نتائج الدراسة يمكن أن تكون مفيدة لصناعة السياسة والمطورين والمستخدمين، للتفكير في المحددات والاستخدام المناسب لهذه اللوغاريتمات».
وأشار المعهد إلى أنه عند دراسة البرمجيات التي تستخدم في مطابقة صورة واحدة بعدة صور، اكتشف أن احتمالات النتيجة الإيجابية الخطأ تزداد في حال السيدة الأميركية من أصل أفريقي. وهذه النتيجة مهمة للغاية؛ لأن الخطأ في مطابقة صورة مع صورة أخرى يمكن أن يؤدي إلى اتهام شخص ما بريء بارتكاب جريمة على سبيل المثال.