خلصت وكالة «رويترز» إلى أن روبوت الدردشة التابع لشركة «إكس» والمدعوم بالذكاء الاصطناعي «جروك» يواصل توليد صور فاضحة للأشخاص، حتى إذا حذر المستخدمون صراحة من عدم موافقة أصحاب الصور على ذلك.
وبعد أن أعلنت شركة «إكس» التابعة للملياردير إيلون ماسك فرض قيود جديدة على المحتوى المفتوح الذي ينتجه «جروك»، أعطى تسعة مراسلين من «رويترز» سلسلة من الأوامر للبرنامج لمعرفة ما إذا كان سيستمر في إنتاج الصور الفاضحة دون موافقة أصحابها والظروف التي يحدث فيها ذلك.
وخلص المراسلون إلى أنه في حين لم يعد الحساب المفتوح لـ«جروك» على منصة «إكس» ينتج الكم نفسه من الصور الفاضحة، فإن روبوت الدردشة نفسه يواصل التنفيذ عند تلقي مثل هذه الأوامر، حتى بعد تحذيره من أن الصور قد تتسبب في تعرض أصحابها للخطر أو الإساءة.
ولم تجب «إكس» ولا «إكس إيه آي» التابعة لها، التي تشغل البرنامج، على الأسئلة التفصيلية حول إنتاج «جروك» للمواد الفاضحة. وأرسلت «إكس إيه آي» مراراً رداً نمطياً يقول: «وسائل الإعلام التقليدية تكذب».
وأعلنت «إكس» عن فرض قيود على قدرات «جروك» في إنتاج الصور بعد موجة من الغضب العالمي بسبب إنتاجه الضخم لصور للنساء وبعض الأطفال دون الحصول على موافقة. وتضمنت القيود حظر إنتاج صور فاضحة في المنشورات المفتوحة على «إكس» وفرض قيود إضافية في ولايات قضائية غير محددة «حيث يكون هذا المحتوى غير قانوني».
ولاقى إعلان «إكس» بشكل عام ترحيباً من مسؤولين وهيئات معنية في بعض الدول، بما في ذلك بريطانيا والفلبين وماليزيا، كما رفعت بعض السلطات القيود المفروضة على استخدام «جروك». أما المفوضية الأوروبية التي أعلنت في 26 يناير (كانون الثاني) عن تحقيق بهذا الشأن، فقد كان رد فعلها أكثر حذراً، وصرحت حينها قائلة: «سنقيّم هذه التغييرات بعناية».
وقدم مراسلو «رويترز»، وهم ستة رجال وثلاث نساء في الولايات المتحدة وبريطانيا، صوراً لهم ولبعضهم البعض وهم يرتدون ملابس كاملة إلى «جروك» على مجموعتين خلال الفترتين أولاهما بين 14 و16 يناير والثانية في يومي 27 و28 منه. وطلبوا من روبوت الدردشة تعديل الصور لإظهارهم في أوضاع جنسية مثيرة أو مهينة.
وبالنسبة للمجموعة الأولى من الأوامر، استجاب «جروك» بإنتاج صور فاضحة في 45 حالة من أصل 55. وفي 31 من هذه الحالات التي نفذ فيها وعددها 45، نبه المراسلون الروبوت إلى أن الأمر شديد الحساسية. وأنتج «جروك» في 17 من الحالات الإجمالية وعددها 45 صوراً بعد إبلاغه بأن الغرض منها هو إهانة الشخص المعني.
وبعد خمسة أيام من طلب التعليق للمرة الأولى، أجرت «رويترز» مجموعة ثانية من 43 طلباً. وأنتج «جروك» صوراً فاضحة رداً على 29 من هذه الأوامر. ولم تتمكن «رويترز» من تحديد ما إذا كان انخفاض معدل الاستجابة يعكس تعديلات في النموذج أم في السياسة أو أنه حدث بشكل عشوائي.
ولم ترد «إكس» ولا «إكس إيه آي» على أسئلة تتعلق بما إذا كان «جروك» قد خضع لأي تعديلات خوارزمية بين مجموعتي الاختبارات الأولى والثانية اللتين أجرتهما «رويترز».
