تحذير أممي من تنامي التنميط العرقي بسبب الذكاء الصناعي

اللجنة الأممية أعربت عن قلقها من الاستخدام المتزايد لتقنية التعرّف على الوجوه وغيرها من التقنيات المعتمدة في المهمّات الأمنية (أرشيفية - رويترز)
اللجنة الأممية أعربت عن قلقها من الاستخدام المتزايد لتقنية التعرّف على الوجوه وغيرها من التقنيات المعتمدة في المهمّات الأمنية (أرشيفية - رويترز)
TT

تحذير أممي من تنامي التنميط العرقي بسبب الذكاء الصناعي

اللجنة الأممية أعربت عن قلقها من الاستخدام المتزايد لتقنية التعرّف على الوجوه وغيرها من التقنيات المعتمدة في المهمّات الأمنية (أرشيفية - رويترز)
اللجنة الأممية أعربت عن قلقها من الاستخدام المتزايد لتقنية التعرّف على الوجوه وغيرها من التقنيات المعتمدة في المهمّات الأمنية (أرشيفية - رويترز)

شدد خبراء في الأمم المتحدة على ضرورة تعزيز الجهود العالمية لمكافحة التنميط العرقي، في ظل خطر تنامي هذا المنحى بفعل تقنيات الذكاء الصناعي المستخدمة للتعرف على الوجوه أو تحديد مصادر الخطر المحتملة من جانب الشرطة.
وتقول فيرين شيبيرد، الخبيرة في حقوق الإنسان، في تصريحات لوكالة الصحافة الفرنسية: «يتعاظم خطر استنساخ هذه الأنماط الانحيازية وتفاقمها أو بروز ممارسات تمييزية» بفعل الذكاء الصناعي.
وتنتمي هذه الجامايكية إلى «لجنة الأمم المتحدة للقضاء على العنف العنصري» المؤلّفة من 18 خبيراً والتي أصدرت تقريراً عن السبل المتاحة للسلطات للتصدّي للتنميط العرقي الممارَس من قوى الأمن.
ولفتت اللجنة خصوصاً إلى خطورة الخوارزميات (وهي سلاسل طويلة من التعليمات) المستخدمة في أدوات «التنبؤ» أو تلك الخاصة بـ«تقدير المخاطر» المعتمدة في أجهزة الشرطة، كما في محرّكات البحث ومواقع التواصل الاجتماعي لتوجيه إعلانات موجهة الهدف مثلاً.
وكانت هذه الأنظمة للمساعدة في الحفاظ على الأمن والتي من المفترض أن تسهم في الحدّ من الجرائم قد انتشرت بدايةً في الولايات المتحدة في حدود العقد الثاني من القرن الحادي والعشرين. وهي غالباً ما تتعرّض للانتقاد باعتبار أنها تفاقم الأحكام المسبقة إزاء بعض الفئات.
وتشير شيبيرد إلى أن «البيانات التاريخية حول عمليات التوقيف في حيٍّ ما قد تعكس ممارسات انحياز من الشرطة»، ما قد ينعكس بدوره في أنظمة الذكاء الصناعي.
وتُردف بأن «هذه المعطيات قد تزيد من خطر انتشار الشرطة في موقعٍ ما بأعداد مبالغ بها، ما قد يؤدّي إلى مزيد من عمليات التوقيف ويُحدث من ثمّ حلقة مفرغة».
وأعربت اللجنة في توصياتها عن قلقها من الاستخدام المتزايد لتقنية التعرّف على الوجوه وغيرها من التقنيات المعتمدة في المهمّات الأمنية.
ففي هذه الحالة أيضاً، تكون تحاليل الذكاء الصناعي مرتبطة بشكل وثيق بالبيانات المستخدمة لتغذية النظام.
وقد أظهرت دراسات صعوبة هذه الأنظمة في التعرّف على الوجوه الداكنة البشرة أو حتّى النسائية.
ومن بين الأمثلة المقدّمة في هذا الصدد، توقيف الأميركي من أصل أفريقي روبرت ويليامز هذه السنة في ديترويت بالاستناد إلى تحاليل معادلة خوارزمية ركيكة خلصت إلى أنه أحد المشتبه بهم في حادثة سرقة.
وتقول شيبيرد: «تلقّينا شكاوى من هذا النوع بسبب أصل التكنولوجيا والجهات المشرفة على تطويرها والعيّنات المستخدمة في هذه الأنظمة»، مشدّدة على أن الوضع «يبعث فعلاً على القلق».
وتوصي اللجنةُ الدولَ خصوصاً بتنظيم الشركات العاملة في هذا المجال لضمان تماشي هذه الأنظمة مع القوانين الدولية لحقوق الإنسان، وتشدّد على أهمية الشفافية من ناحية التصميم والتطبيق لا سيّما إزاء الرأي العام.
وتذكّر شيبيرد بأن «التنميط العرقي لم يبدأ مع هذه التقنيات»، لكنها تعرب عن أملها في أن يساعد «اتّساع نطاق حركة (بلاك لايفز ماتر) أي (حياة السود مهمة)... وغيرها من الحملات المندّدة بالتمييز الذي يطال بعض الفئات الضعيفة على إبراز أهمية هذه التوصيات».


مقالات ذات صلة

دراسة: أساليب الشرطة الألمانية تعزز التحيز والتمييز على أساس عنصري

أوروبا الشرطة الألمانية تستهدف في عملها الروتيني الأقليات العرقية وخاصة أولئك الذين يُعتقد أنهم مهاجرون (إ.ب.أ)

دراسة: أساليب الشرطة الألمانية تعزز التحيز والتمييز على أساس عنصري

أظهرت دراسة نشرتها اليوم الاثنين بوابة إلكترونية تتعقب البيانات المتعلقة بالهجرة واللجوء أن إجراءات وسلوكيات الشرطة الألمانية تعزز التمييز الممنهج.

«الشرق الأوسط» (برلين)
رياضة عالمية فينيسيوس جونيور (أ.ف.ب)

فينيسيوس يطالب بسحب استضافة مونديال 2030 من إسبانيا بسبب العنصرية

طالب البرازيلي فينيسيوس جونيور، مهاجم ريال مدريد حامل لقب الدوري الإسباني لكرة القدم، بسحب حق استضافة إسبانيا لنهائيات كأس العالم 2030.

«الشرق الأوسط» (مدريد)
أوروبا  شخص يحرس مسجداً في بريطانيا (أ.ف.ب)

تصاعد العنف اليميني المتطرف يثير مخاوف المسلمين في المملكة المتحدة

تشهد المملكة المتحدة تصاعداً ملحوظاً في أعمال العنف اليميني المتطرف ضد المسلمين، ما أثار مخاوف كبيرة داخل المجتمع الإسلامي.

«الشرق الأوسط» (لندن)
الولايات المتحدة​ اعتقال رجل يهودي بعد سلسلة اعتداءات على جاره المسلم  في نيويورك

اعتقال رجل يهودي بعد سلسلة اعتداءات على جاره المسلم في نيويورك

اعتقل رجل يهودي في حي بروكلين ووجهت له تهمة محاولة القتل وارتكاب جرائم كراهية ضد جاره المسلم.

«الشرق الأوسط» (نيويورك)
أوروبا جانب من المظاهرات المناهضة للعنصرية في شرق لندن 7 أغسطس (إ.ب.أ) play-circle 00:55

بريطانيا: ستارمر يتعهد تكثيف جهود مكافحة عنف اليمين المتطرف

وضعت الحكومة خلال الأسبوع الراهن ستة آلاف عنصر من الوحدات الخاصة في الشرطة في جهوزية للتعامل مع نحو مائة مظاهرة لناشطين اليمين المتطرف ومظاهرات مضادة.

«الشرق الأوسط» (لندن)

«كرسي اليونسكو لترجمة الثقافات» يبدأ أعماله في الرياض

جانب من حفل تدشين كرسي اليونسكو لترجمة الثقافات في الرياض (هيئة الأدب)
جانب من حفل تدشين كرسي اليونسكو لترجمة الثقافات في الرياض (هيئة الأدب)
TT

«كرسي اليونسكو لترجمة الثقافات» يبدأ أعماله في الرياض

جانب من حفل تدشين كرسي اليونسكو لترجمة الثقافات في الرياض (هيئة الأدب)
جانب من حفل تدشين كرسي اليونسكو لترجمة الثقافات في الرياض (هيئة الأدب)

دشّن مركز الملك فيصل للبحوث والدراسات الإسلامية، الثلاثاء، كرسي اليونسكو لترجمة الثقافات، الذي بدأ أعماله من الرياض؛ بدعم من هيئة الأدب والنشر والترجمة السعودية، لتشجيع الأبحاث والشراكات الداعمة لترجمة الثقافات والنصوص الثقافية، ومد الجسور بين الحضارات التي تخلق حوارات ثقافية متنوعة.

وقال الدكتور محمد علوان الرئيس التنفيذي للهيئة، خلال كلمته في الحفل، إن «الهيئة تسعد بأن تكون جزءًا من هذا الإنجاز المتمثل في تدشين الكرسي»، مؤكداً أنه «يجسد جانباً مهماً من التطلعات الثقافية لـ(رؤية السعودية 2030)، والمساهمة في تعزيز وتشجيع التعاون الدولي بمجال البحث والتطوير».

الدكتور محمد علوان خلال حفل التدشين (هيئة الأدب)

وأضاف علوان، خلال الحفل، أن الكرسي «يُقدِّم فرصة ذهبية لتحقيق الأهداف المتكاملة لتعميق فهم تراث السعودية العريق وإيصاله إلى العالم»، مبيناً أن «فكرة إنشائه جاءت في إطار الاهتمام اللافت لوزارة الثقافة، والدور المحوري للبحث العلمي في صياغة واقع ومستقبل ثقافي مشرق للمملكة».

واختتم الرئيس التنفيذي للهيئة كلمته بالإشارة إلى أن الكرسي «سيُقدِّم إسهامات علمية رصينة في مجال ترجمة الثقافات، وسيكون منصة رائدة لتبادل الخبرات والمعارف بين الباحثين من مختلف أنحاء العالم».

الكرسي جاء بدعم من هيئة الأدب في السعودية (الهيئة)

من جهتها، قالت الدكتورة منيرة الغدير رئيس الكرسي، أن «الترجمة من عوامل ازدهار الحضارة الإنسانية، وترتكز في جوهرها على ترجمة الثقافات نفسها»، موضحة أن «هذا الفهم للترجمة كتجربة ثقافية تحولية، أساسي لاكتشاف السبل التي يمكن من خلالها تعزيز الحوار الثقافي بين الأمم، ومواجهة الأسئلة النظرية والفلسفية حول ما هية العلاقة بين اللغات والثقافات».

وأكدت الغدير أن الكرسي «ينطلق من هذا الإطار المفاهيمي، والإشراقات الحضارية، وبناء الثقافات، بدءاً من الثقافة العربية التي أثرت الحضارة الغربية، لتعود مرة أخرى في مسارات فكرية تجمع دول الشمال والجنوب».

الدكتورة منيرة الغدير تلقي كلمتها أمام الحضور (هيئة الأدب)

وبيّنت أن «الكرسي يسعى لإعادة تصور تاريخ الترجمة، بدءاً من اللغة العربية والعالم العربي، ويهدف من خلال هذا النهج إلى تجاوز هيمنة نموذج الدراسات المتمركزة حول الغرب، ليساهم في تطوير المعرفة بين وعن دول الجنوب، ويكشف عن المفاهيم والأطروحات التي تم التغاضي عنها سابقاً في دراسات الترجمة والعلوم الإنسانية».

وتحتضن مدينة الرياض كرسي اليونسكو لترجمة الثقافات؛ لتعزيز العمل الترجمي حول العالم، وتلبية حاجة القطاع الثقافي إلى البحوث المتخصصة في العلوم الإنسانية والاجتماعية والتعليم الشامل والتنوع، وتشجيع الشراكات التي تجمع ممثلي القطاعات الأكاديمية لتعزيز البحوث العلمية، بالإضافة لتقديم المنح الدراسية، وتنظيم الندوات، وإثراء الأطروحات الأكاديمية الحالية، لتطوير مفهوم الثقافة العربية والتنوع الثقافي.