تقنيات التعرّف على الوجه: نظم تستخدمها الشرطة تهدد بخرق الخصوصية الشخصية

50 % من البالغين الأميركيين يوجدون في قواعد بياناتها

تقنيات التعرّف على الوجه: نظم تستخدمها الشرطة تهدد بخرق الخصوصية الشخصية
TT

تقنيات التعرّف على الوجه: نظم تستخدمها الشرطة تهدد بخرق الخصوصية الشخصية

تقنيات التعرّف على الوجه: نظم تستخدمها الشرطة تهدد بخرق الخصوصية الشخصية

بعد مطاردة سريعة في مدينة أورلاندو، بولاية فلوريدا الأميركية، نجح مساعدو نقيب في الشرطة بثقب عجلات سيّارة «دودج ماغنوم» مسروقة وإيقافها، واعتقلوا سائقها. ولكنّهم لم يتمكّنوا من تحديد هويّته لأنّهم لم يعثروا على أوراق ثبوتية بحوزته، كما أنه فقد وعيه بعد تناوله مادّة ما. أمّا بصماته، فتبيّن أنّها متآكلة.
التعرف على الوجه
هذا الأمر دفع بالمحقّقين للجوء إلى أكبر وأقدم أنظمة التعرّف على الوجه في البلاد: برنامج في مقاطعة «بينيلاس» يغطّي الولاية بكاملها. اعتمد هذا البرنامج قبل نحو 20 عاماً، أي مع بداية استخدام جهات إنفاذ القانون لهذه التقنية.
استخدم رجال الشرطة هذا النظام لمقارنة صورة للرجل المعتقل مع قاعدة بيانات ضخمة، ووجدوا تطابقاً محتملاً. وهكذا، اعتبرت القضية التي حصلت عام 2017 واحدة من النتائج الناجحة الـ400 التي سجّلها النظام منذ 2014.
تقدّم مراجعة تسجيلات فلوريدا المذكورة، والتي تُعدّ التحليل الأشمل الصادر عن نظام التعرّف على الوجه التابع لجهة معنية بإنفاذ القانون حتّى اليوم، لمحة نادرة عن قدرات هذه التقنية والقيود التي تعاني منها.
وكشف مسؤولون أمنيون في فلوريدا أنّهم يستعينون بالنظام 4600 مرّة في الشهر، ولكنّ هذه التقنية ليست عصا سحرية، إذ تشير الإحصاءات إلى أنّ النظام يؤدّي في نسبة قليلة من الحالات إلى نتائج حاسمة في التحقيقات المرتبطة بمشتبه بهم مجهولي الهويّة. تتميّز أداة هذا النظام بفاعلية عالية تتميّز بتقديمه صورا واضحة تعرّف هويّة سجناء متمرّدين، أو أشخاص يستخدمون هويّات مزيّفة وصور من حسابات مجهولة على مواقع التواصل الاجتماعي. ولكن عندما حاول المحقّقون تحديد اسم مشتبه به رُصد بشكل غير واضح في مقطع فيديو من كاميرا مراقبة، حصلوا على نتائج أقلّ بكثير.
خرق الخصوصية
يسلّط نظام فلوريدا للتعرّف على الوجه، الضوء على مخاوف من قدرة التقنيات الجديدة على خرق ضمان الحقوق الذي يكفله القانون.
من جهته كشفت كلير غارفي، المساعدة الأقدم في مركز الخصوصية والتقنية في كلية الحقوق في جامعة جورجتاون أنّ «هذه الأداة تحقّق مبيعات عالية جدّاً على اعتبار أنّها قادرة على القيام بالكثير من الأمور المجنونة».
أثارت تقنية التعرّف على الوجه الكثير من الجدل في السنوات الأخيرة على الرغم من أنّها أصبحت أداة يومية تستخدم في فتح أقفال الهواتف ووسم الصور على منصات التواصل الاجتماعي.
وجذبت هذه الصناعة لاعبين تقنيين كأمازون التي تعاونت مع أقسام الشرطة ونجحت في دفع أجهزة إنفاذ القانون في نيويورك، ولوس أنجليس، وشيكاغو، وأماكن أخرى إلى جانب مكتب التحقيقات الفيدرالي ووكالات فدرالية أخرى، إلى استخدام منتجاتها. وتعتبر البيانات المتوفّرة على هذه الأنظمة شحيحة، ولكنّ دراسة نُشرت عام 2016 أفادت بأنّ 50 في المائة من البالغين الأميركيين موجودين في قواعد بيانات أدوات التعرّف على الوجه المستخدمة من قبل جهات إنفاذ القانون.
يحاجج مسؤولو الشرطة أن تقنية التعرّف على الوجه تعزّز سلامة الناس. ولكنّ مدناً قليلة ومنها سان فرنسيسكو، منعت جهات إنفاذ القانون من استخدام هذه الأداة وسط مخاوف مرتبطة بالخصوصية وأخطاء المطابقة. أمّا مناصرو الحريّات المدنية، فقد حذّروا من الاستخدامات الخبيثة لهذه التقنية، مذكّرين بالحال في الصين، حيث نشرت الحكومة هذه التقنية كأداة للتحكّم السلطوي.
مسألة ضمان الحقوق
وحتى الآن سمحت محكمة واحدة في الولايات المتحدة باستخدام تقنية التعرّف على الوجه من قبل أجهزة إنفاذ القانون، وأجازت تقييد حقّ المدّعى عليه بالحصول على المعلومات.
في عام 2015، اتُهم ويلي لينتش ببيع الكوكايين (كميّة تقدّر قيمتها بـ50 دولاراً) بناء على مطابقة محتملة في نظام «بينيلاس» للتعرّف على الوجه. عندما طلب لينتش، الذي ادّعى أن اتهامه باطل، صور المتهمين المحتملين الآخرين، رفضت محكمة الاستئناف في فلوريدا طلبه، وهو اليوم يقضي عقوبة بالسجن لثماني سنوات.
تتعرّض جميع المواد التقنية التي تُقدّم كأدلّة للتحليل في جلسات استماع خاصّة، ولكن نتائج تقنية التعرّف على الوجه لم تعتبر يوماً دقيقة بما يكفي لاعتمادها كدليل في جلسات قضائية. يبقى لتقنية التعرّف على الوجه دوراً كبيراً في التحقيقات، ولكنّها لا تحصل على التدقيق القضائي الذي يُطبّق على التقنيات الجنائية التي أثبتت فعاليتها.
تشدّد أجهزة إنفاذ القانون في كاليفورنيا ومدن أخرى على ضرورة عدم الاعتماد على تقنية التعرّف على الوجه لسجن أي أحد.
وكان جيمس أونيل، مفوّض في شرطة نيويورك، قد كتب في إحدى الصحف في يونيو (حزيران) أنّه «لا يمكن اعتقال أحد بناء على مطابقة تحدث على جهاز كومبيوتر».
اطلعت صحيفة «نيويورك تايمز» على عدد كبير من القضايا التي حصلت في فلوريدا، ووجدت في معظمها أن المحقّقين اتبعوا قواعد مشابهة. ولكن في بعض الحالات، رجّحت سجلّات المحكمة أن تقنية التعرّف على الوجه كانت الدليل الرئيسي الذي بُني عليه قرار الاعتقال.
في أبريل (نيسان) الفائت مثلاً، حصل شرطي في تالاهاسي يحقّق في سرقة جوال ثمنه 80 دولاراً، على صورة من كاميرا المراقبة الموجودة في المتجر وتلقّى مطابقة من نظام التعرّف على الوجه، بحسب ما ورد في لائحة «بينيلاس». بعدها، راجع المحقّق تسجيل المراقبة وتأكّد من أنّ المشتبه به هو نفسه الشخص الذي تعرّفت عليه التقنية، وكتب هذا الأمر في مستند خاص بالمحكمة.
مزايا ونقائص
في اختبارات أولية أجرتها أجهزة إنفاذ القانون في أماكن أخرى، حقّقت التقنية نتائج هزيلة ومن بينها أنظمة في كاليفورنيا كانت قد أسهمت في اعتقال أحدهم قبل أربع سنوات. ولكن على الرغم من هذه النتائج، بقيت قدرات هذه التقنية محيّرة.
في البداية، خطّطت مقاطعة «بينيلاس» لاستخدام تقنية التعرّف إلى الوجه في السجون المحليّة، وتحديداً في نظام التصوير الجنائي التعريفي. بعد الحادي عشر من سبتمبر (أيلول)، تمّ توسيع البرنامج ليشمل المطار. وأخيراً، أصبح بإمكان مساعدي الشرطة استخدامه لتحميل صور مأخوذة بواسطة كاميرا رقمية خلال جولاتهم.
سجّل عدد الاعتقالات ارتفاعاً مع انتشار النظام في أنحاء الولاية وتوسّع نطاق الصور ليشمل نظام رخص القيادة. وفي عام 2009 اعتمد مكتب مفوّض الشرطة على التقنية فيما يقارب 500 اعتقال، ووصل العدد إلى 1000 بحلول 2013.
حقّقت تقنية التعرّف على الوجه مكاسب مذهلة لناحية النوعية في السنوات الأخيرة، ففي الاختبارات الحكومية، تقارن خوارزميات هذه التقنية الصور بقاعدة بيانات تضمّ 1.6 مليون من الصور الجنائية التعريفية.
وفي 2010 انخفضت نسبة الخطأ إلى ما دون 8 في المائة في الظروف المثالية، أي الإضاءة الجيّدة والدقّة العالية في الصور الأمامية، وهبطت النسبة إلى 0.3 في المائة في 2018. ولكن في حالات المراقبة، لم تتمكّن أجهزة إنفاذ القانون من الاكتفاء بمستوى الدقّة هذا.
لعلّ الجدل الأكبر حول تقنية التعرّف على الوجه كان ولا يزال أداؤها المتفاوت في تحديد هويّة الناس من مختلف الأعراق. فقد وجدت دراسة حكومية نُشرت في ديسمبر (كانون الأول) أنّ نوع تقنية التعرّف على الوجه الذي تستخدمه الشرطة في تحقيقاتها يميل إلى أنتاج نتائج إيجابية خاطئة عند تقييم صور نساء داكنات البشرة. ولكّن مسؤولين في أجهزة إنفاذ القانون في فلوريدا اعتبروا أنّ أداء التقنية لم يكن إشارة على التمييز العرقي.
-خدمة «نيويورك تايمز»



شركات الذكاء الاصطناعي التوليدي تلجأ إلى الكتب لتطوّر برامجها

شركات الذكاء الاصطناعي تتفق مع دور النشر بما يتيح لهذه الشركات استخدام الأعمال المنشورة لتدريب نماذجها القائمة على الذكاء الاصطناعي التوليدي (رويترز)
شركات الذكاء الاصطناعي تتفق مع دور النشر بما يتيح لهذه الشركات استخدام الأعمال المنشورة لتدريب نماذجها القائمة على الذكاء الاصطناعي التوليدي (رويترز)
TT

شركات الذكاء الاصطناعي التوليدي تلجأ إلى الكتب لتطوّر برامجها

شركات الذكاء الاصطناعي تتفق مع دور النشر بما يتيح لهذه الشركات استخدام الأعمال المنشورة لتدريب نماذجها القائمة على الذكاء الاصطناعي التوليدي (رويترز)
شركات الذكاء الاصطناعي تتفق مع دور النشر بما يتيح لهذه الشركات استخدام الأعمال المنشورة لتدريب نماذجها القائمة على الذكاء الاصطناعي التوليدي (رويترز)

مع ازدياد احتياجات الذكاء الاصطناعي التوليدي، بدأت أوساط قطاع النشر هي الأخرى في التفاوض مع المنصات التي توفر هذه التقنية سعياً إلى حماية حقوق المؤلفين، وإبرام عقود مع الجهات المعنية بتوفير هذه الخدمات لتحقيق المداخيل من محتواها.

واقترحت دار النشر «هاربر كولينز» الأميركية الكبرى أخيراً على بعض مؤلفيها، عقداً مع إحدى شركات الذكاء الاصطناعي تبقى هويتها طي الكتمان، يتيح لهذه الشركة استخدام أعمالهم المنشورة لتدريب نماذجها القائمة على الذكاء الاصطناعي التوليدي.

وفي رسالة اطلعت عليها «وكالة الصحافة الفرنسية»، عرضت شركة الذكاء الاصطناعي 2500 دولار لكل كتاب تختاره لتدريب نموذجها اللغوي «إل إل إم» لمدة 3 سنوات.

آراء متفاوتة

ولكي تكون برامج الذكاء الاصطناعي قادرة على إنتاج مختلف أنواع المحتوى بناء على طلب بسيط بلغة يومية، تنبغي تغذيتها بكمية مزدادة من البيانات.

وبعد التواصل مع دار النشر أكدت الأخيرة الموافقة على العملية. وأشارت إلى أنّ «(هاربر كولينز) أبرمت عقداً مع إحدى شركات التكنولوجيا المتخصصة بالذكاء الاصطناعي للسماح بالاستخدام المحدود لكتب معينة (...) بهدف تدريب نماذج الذكاء الاصطناعي وتحسين أدائها».

وتوضّح دار النشر أيضاً أنّ العقد «ينظّم بشكل واضح ما تنتجه النماذج مع احترامها حقوق النشر».

ولاقى هذا العرض آراء متفاوتة في قطاع النشر، إذ رفضه كتّاب مثل الأميركي دانييل كيبلسميث الذي قال في منشور عبر منصة «بلوسكاي» للتواصل الاجتماعي: «من المحتمل أن أقبل بذلك مقابل مليار دولار، مبلغ يتيح لي التوقف عن العمل، لأن هذا هو الهدف النهائي من هذه التكنولوجيا».

هامش تفاوض محدود

ومع أنّ «هاربر كولينز» هي إحدى كبرى دور النشر التي أبرمت عقوداً من هذا النوع، فإنّها ليست الأولى. فدار «ويلي» الأميركية الناشرة للكتب العلمية أتاحت لشركة تكنولوجية كبيرة «محتوى كتب أكاديمية ومهنية منشورة لاستخدام محدد في نماذج التدريب، مقابل 23 مليون دولار»، كما قالت في مارس (آذار) عند عرض نتائجها المالية.

ويسلط هذا النوع من الاتفاقيات الضوء على المشاكل المرتبطة بتطوير الذكاء الاصطناعي التوليدي، الذي يتم تدريبه على كميات هائلة من البيانات تُجمع من الإنترنت، وهو ما قد يؤدي إلى انتهاكات لحقوق الطبع والنشر.

وترى جادا بيستيلي، رئيسة قسم الأخلاقيات لدى «هاغينغ فايس»، وهي منصة فرنسية - أميركية متخصصة بالذكاء الاصطناعي، أنّ هذا الإعلان يشكل خطوة إلى الأمام، لأنّ محتوى الكتب يدرّ أموالاً. لكنها تأسف لأنّ هامش التفاوض محدود للمؤلفين.

وتقول: «ما سنراه هو آلية لاتفاقيات ثنائية بين شركات التكنولوجيا ودور النشر أو أصحاب حقوق الطبع والنشر، في حين ينبغي أن تكون المفاوضات أوسع لتشمل أصحاب العلاقة».

ويقول المدير القانوني لاتحاد النشر الفرنسي (SNE) جوليان شوراكي: «نبدأ من مكان بعيد جداً»، مضيفاً: «إنّه تقدم، فبمجرّد وجود اتفاق يعني أن حواراً ما انعقد وثمة رغبة في تحقيق توازن فيما يخص استخدام البيانات مصدراً، التي تخضع للحقوق والتي ستولد مبالغ».

مواد جديدة

وفي ظل هذه المسائل، بدأ الناشرون الصحافيون أيضاً في تنظيم هذا الموضوع. ففي نهاية 2023، أطلقت صحيفة «نيويورك تايمز» الأميركية اليومية ملاحقات ضد شركة «أوبن إيه آي» مبتكرة برنامج «تشات جي بي تي» وضد «مايكروسوفت» المستثمر الرئيسي فيها، بتهمة انتهاك حقوق النشر. وقد أبرمت وسائل إعلام أخرى اتفاقيات مع «أوبن إيه آي».

وربما لم يعد أمام شركات التكنولوجيا أي خيار لتحسين منتجاتها سوى باعتماد خيارات تُلزمها بدفع أموال، خصوصاً مع بدء نفاد المواد الجديدة لتشغيل النماذج.

وأشارت الصحافة الأميركية أخيراً إلى أنّ النماذج الجديدة قيد التطوير تبدو كأنها وصلت إلى حدودها القصوى، لا سيما برامج «غوغل» و«أنثروبيك» و«أوبن إيه آي».

ويقول جوليان شوراكي: «يمكن على شبكة الإنترنت، جمع المحتوى القانوني وغير القانوني، وكميات كبيرة من المحتوى المقرصن، مما يشكل مشكلة قانونية. هذا من دون أن ننسى مسألة نوعية البيانات».