تعرض ميزة تطبيق «واتساب»، التي تولّد صوراً استجابةً لعمليات بحث المستخدمين، صورة مسدس أو صبي يحمل مسدساً عندما يُبحث عن مصطلحات مثل «فلسطيني» أو «فلسطين» أو «فتى مسلم فلسطيني»، وذلك حسبما كشفت صحيفة «الغارديان» البريطانية.
واختلفت نتائج البحث عند اختبارها من قبل مستخدمين مختلفين، لكن الصحيفة تحققت من ذلك.
بالمقابل، أدت عمليات بحث مثل «صبي إسرائيلي» إلى ظهور رسوم كاريكاتيرية لأطفال يلعبون ويرقصون ويقرأون، بحسب «الغارديان».
وأوضحت الصحيفة أن «الذكاء الاصطناعي» أنشأ رسومات لجنود يبتسمون ويصلون من دون استخدام أسلحة بطلب من الجيش الإسرائيلي.
وقال شخص مطلع على المناقشات إن موظفي «ميتا» قاموا بالإبلاغ عن المشكلة وتصعيدها داخلياً.
ويتيح تطبيق «واتساب» المملوك لشركة «ميتا» للمستخدمين تجربة منشئ الصور بالذكاء الاصطناعي الخاص به لإنشاء ملصقات (sticker). وتطلب هذه الميزة من المستخدمين تحويل الأفكار إلى ملصقات باستخدام الذكاء الاصطناعي.
على سبيل المثال، أظهرت عمليات بحث «الغارديان» عن «فلسطينية مسلمة» أربع صور لامرأة محجبة: واقفة ساكنة، تقرأ، تحمل زهرة، وتحمل لافتة. لكن بحث صحيفة «الغارديان» عن «فتى مسلم فلسطيني» أدى إلى ظهور أربع صور للأطفال: صبي يحمل سلاحاً نارياً ويرتدي قبعة يرتديها عادة الرجال والفتيان المسلمون تسمى الكوفية أو التقية.
كذلك شارك أحد المستخدمين لقطات شاشة لعملية بحث عن «فلسطيني» نتج عنها صورة أخرى مختلفة لرجل يحمل مسدساً.
وظهرت عمليات بحث مماثلة عن «صبي إسرائيلي» أربع صور لأطفال، اثنتان منها تصوران صبية يلعبون كرة القدم. وكانت الاثنتان الأخريان مجرد تصوير لوجوههم. كما أظهر فيلم «الفتى اليهودي الإسرائيلي» أربع صور لأولاد، تم تصوير اثنين منهم وهما يرتديان قلائد عليها نجمة داود، وواحد يرتدي القبعة اليهودية ويقرأ وكان الآخر واقفا. ولم يحمل أي منهم أسلحة.
كما أظهرت عمليات بحث «الغارديان» عن «فلسطين» إلى ظهور صورة ليد تحمل مسدساً. في حين أظهر بحث الصحيفة عن «إسرائيل»، العلم الإسرائيلي ورجلاً يرقص.
وأثار البحث عن «حماس» رسالة تقول «لا يمكن إنشاء ملصقات تعمل بالذكاء الاصطناعي. حاول مرة أخرى».
ووفقاً للصحيفة، أنه حتى البحث العسكري الصريح مثل «الجيش الإسرائيلي» أو «قوات الدفاع الإسرائيلية» لم ينتج عنه صور بالبنادق. وأظهر الذكاء الاصطناعي صوراً ورسوماً كاريكاتيرية لأشخاص يرتدون الزي الرسمي في أوضاع مختلفة، وكان معظمهم يبتسمون. وأظهر أحد الرسوم التوضيحية رجلاً يرتدي الزي الرسمي وهو يرفع يديه إلى الأمام في الصلاة.
ويأتي هذا الاكتشاف في الوقت الذي تعرضت فيه «ميتا» لانتقادات من العديد من مستخدمي «إنستغرام» و«فيسبوك» الذين ينشرون محتوى داعماً للفلسطينيين، مع استمرار القصف الإسرائيلي على قطاع غزة منذ السابع من أكتوبر (تشرين الأول).
يقول المستخدمون إن شركة «ميتا» تطبق سياساتها بطريقة متحيزة، وهي ممارسة يقولون إنها ترقى إلى مستوى الرقابة.
وأبلغ المستخدمون عن إخفائهم عن المستخدمين الآخرين من دون أي تفسير، ويقولون إنهم شهدوا انخفاضاً حاداً في التفاعل مع منشوراتهم.
قالت «ميتا» سابقاً في بيان لها: «ليست نيتنا أبداً قمع مجتمع معين أو وجهة نظر معينة، ولكن بسبب الكميات الكبيرة من المحتوى الذي يتم الإبلاغ عنه المحيط بالصراع المستمر، المحتوى الذي لا ينتهك سياساتنا قد تتم إزالته عن طريق الخطأ».
وقال كيفن مكاليستر، المتحدث باسم «ميتا»، إن الشركة على علم بالمشكلة وتعالجها، وأضاف: «كما قلنا عندما أطلقنا الميزة، يمكن أن تعرض النماذج مخرجات غير دقيقة أو غير مناسبة كما هو الحال مع جميع أنظمة الذكاء الاصطناعي التوليدية. سنواصل تحسين هذه الميزات مع تطورها وسيشارك المزيد من الأشخاص تعليقاتهم».
كما وثّق المستخدمون عدة حالات لترجمة إنستغرام كلمة «فلسطيني» متبوعة بعبارة «الحمد لله» في النص العربي إلى «إرهابي فلسطيني». واعتذرت الشركة عما وصفته بـ«الخلل».
واجهت «ميتا» ضغوطاً متكررة من المبدعين والناشطين والصحافيين الفلسطينيين، خاصة في أوقات تصاعد العنف أو العدوان تجاه الفلسطينيين الذين يعيشون في غزة والضفة الغربية.
وجدت دراسة أجريت بتكليف من الشركة في سبتمبر (أيلول) 2022 أن سياسات المحتوى الخاصة بـ«فيسبوك» و«إنستغرام» خلال الهجمات الإسرائيلية على قطاع غزة في مايو (أيار) 2021 انتهكت حقوق الإنسان.
وقال التقرير إن تصرفات «ميتا» ربما كان لها «تأثير سلبي... على حقوق المستخدمين الفلسطينيين في حرية التعبير، وحرية التجمع، والمشاركة السياسية، وعدم التمييز، وبالتالي على قدرة الفلسطينيين على تبادل المعلومات والرؤى حول حياتهم».
