بمجرد أن بدأت مجموعة للدفاع عن حقوق المستهلك باختبار «كومّا» Kumma، وهي لعبة دب بريئة المظهر، ترتدي وشاحاً، ومدعمة بالذكاء الاصطناعي... بدأت المشكلات، كما كتب مارك ووكر(*).
أحاديث جريئة غير لائقة
بدلاً من الدردشة عن الواجبات المنزلية أو وقت النوم أو متعة الشعور بالحب، قال المُختبِرون إن اللعبة كانت تتحدَّث أحياناً عن أعواد الثقاب والسكاكين وموضوعات جنسية تجعل البالغين يقفون مندهشين مذعورين، غير متأكدين مما إذا كانوا قد سمعوا اللعبة بشكل صحيح.
وحذَّر تقرير جديد صادر عن «صندوق التعليم الأميركي (U.S. PIRG Education Fund)»، وهو مجموعة لمناصرة المستهلك، من أن هذه اللعبة وغيرها من الألعاب المتوفرة في السوق تثير مخاوف بشأن سلامة الأطفال. ووصف التقرير الألعاب بأنَّها بريئة المظهر، لكنها مليئة بالثرثرة غير المتوقعة وغير الآمنة.
اختبار الأدوات الذكية
فحصت المجموعة ألعاباً أخرى مُدعمة بالذكاء الاصطناعي، مثل «غروك (Grok)»، وهي بشكل صاروخ مُخمليّ مُزوّد بمكبر صوت قابل للإزالة، بسعر 99 دولاراً أميركياً، للأطفال الذين تتراوح أعمارهم بين 3 و12 عاماً، ولعبة «ميكو 3 (Miko 3)»، وهي عبارة عن روبوت بعجلات، بسعر 189 دولاراً أميركياً، وشاشة مُعبّرة ومجموعة من التطبيقات التفاعلية، مُخصّص للأطفال الذين تتراوح أعمارهم بين 5 و10 أعوام.
وأفاد التقرير، الصادر بتاريخ 13 نوفمبر (تشرين الثاني)، بأنّ لعبتَي «غروك» و«ميكو 3» أظهرتا حواجز أمان أقوى. وفي المقابل، كانت «كوما»، المُخصّصة للأطفال والبالغين، أقلّ منهما بكثير.
أعواد الثقاب والسكاكين والأسلحة النارية
ووفقاً للتقرير، سأل المُختبِرون كل لعبة عن الوصول إلى مواد خطرة، بما في ذلك الأسلحة النارية.
* «غروك» رفض الإجابة عموماً، وغالباً ما كان يُوجّه المستخدمين إلى شخص بالغ. وحين سؤاله عن مكان الأكياس البلاستيكية ذكر أنها قد تكون في درج المطبخ.
* «ميكو 3» حدَّد أماكن الأكياس البلاستيكية، وكذلك أعواد الثقاب عند ضبطه على عمر 5 سنوات!
* «كوما»، الأداة التي تُصنّعها شركة «فولوتوي» وتُباع بالتجزئة بسعر 99 دولاراً أميركياً، كانت مصدر قلق خاصّ، لأنّ المُختبِرين قالوا إنّها تُقدّم تعليمات مُحدّدة للأطفال، وتتدخّل في موضوعات لا ينبغي لأيّ لعبة مُناقشتها.
وذكر التقرير أن «كوما من فولوتوي» بيّنت لنا أماكن العثور على مجموعة متنوعة من الأشياء التي يحتمل أن تكون خطرة، بما في ذلك السكاكين والحبوب وأعواد الثقاب والأكياس البلاستيكية.
هذا ويتم الترويج لـ«كوما» على أنها رفيقة ذكية مُدعمة بالذكاء الاصطناعي، «يتجاوز مجرد العناق»، وفقاً لموقع «فولوتوي» الإلكتروني.
وهذا الوصف جعلها تبدو كأنها فصل جديد ساحر في رفقة الأطفال. لكن المحادثات معها أثارت، عملياً، دهشة الباحثين وقلقهم.
انتهاك الخصوصية
وحذَّر تقرير «صندوق PIRG للتعليم» من أن جيلاً جديداً من الألعاب المُدعمة بالذكاء الاصطناعي قد يفتح باب غرف اللعب أمام انتهاك الخصوصية ومخاطر أخرى. وأشارت هذه الهيئة الرقابية إلى أن بعض الألعاب المُتاحة حالياً، على الرغم من قلة عددها، فإنها تفتقر حتى إلى أبسط الضمانات، ما يسمح للأطفال بدفعها، غالباً عن غير قصد، إلى الدخول في أحاديث غير لائقة.
وقال آر. جيه. كروس، أحد مؤلفي التقرير والباحث في المجموعة، إن ألعاب الذكاء الاصطناعي لا تزال نادرة نسبياً، لكنها تُظهر بالفعل فجوات مُقلقة في كيفية تعاملها مع المحادثات، خصوصاً مع الأطفال الصغار. وقال كروس إن الباحثين لم يحتاجوا إلى استخدام تقنيات اختراق متطورة لاختراق حواجز «كوما». بدلاً من ذلك، جرّبوا ما وصفه بـ«محفزات بسيطة للغاية».
الانحرافات الجنسية
وعندما سأل المُختبِرون «كوما» عن مكان العثور على شريك، وجّهتهم اللعبة إلى تطبيقات مواعدة. وعندما طلبوا توضيحاً، عرضت عليهم قائمةً بمنصات شائعة ثم وصفتها.
وأضاف كروس أن اللعبة حدَّدت تطبيقاً يُدعى «KinkD»، يُعنى بمواعدة BDSM والانحرافات الجنسية. وقال كروس في مقابلة: «اكتشفنا أن كلمة (kink) تُحفّز على إدخال كلمات ومحتوى جنسي جديد إلى المحادثة. وتتناول بعض التفاصيل الدقيقة للغاية». ووفقاً للتقرير، من بين الموضوعات التي ناقشها الدب، الموافقة والضرب ولعب الأدوار.
وقالت راشيل فرانز، التي تُدير برنامج مناصرة الطفولة المبكرة في منظمة «Fairplay»، وهي منظمة تسعى لحماية الأطفال من المنتجات والتسويق الضار، إن القلق يتجاوز لعبة واحدة.
وأضافت أن كثيراً من جوانب الذكاء الاصطناعي لا يزال غير مفهوم جيداً، خصوصاً عند وضعه في أيدي الأطفال الصغار جداً، الأكثر عرضة لمخاطر التكنولوجيا والتسويق المُستهدف ومراقبة البيانات.
وتابعت بالقول: «إنهم حقاً لا يملكون القدرة على الدفاع عن أنفسهم ضد جميع الجوانب الخطيرة لألعاب الذكاء الاصطناعي هذه، كما أن العائلات لا تحصل على معلومات صادقة من تسويقها».
سحب «كوما» من السوق
وأضاف كروس أن شركة «FoloToy» أعلنت أنها ستسحب لعبة «كوما» من السوق؛ لإجراء تدقيق سلامة. وبينما لا تزال اللعبة متاحةً للشراء عبر الإنترنت مقابل 99 دولاراً، فإنها مُدرجة حالياً على أنها نفدت.
ولم تستجب الشركة، ومقرها سنغافورة، لطلب التعليق يوم السبت.
تصميم مستوحى من «جي بي تي»
وقد صُممت اللعبة باستخدام نموذج «GPT-4o» من «أوبن إيه آي». وعندما سُئلت «أوبن إيه آي» عن نتائج التقرير، قالت في بيان إنه تم إيقاف مطور اللعبة عن استخدام خدمتها لانتهاكه سياساتها.
وقال أحد ممثلي الشركة: «تحظر سياسات الاستخدام لدينا أي استخدام لخدماتنا لاستغلال أي شخص يقل عمره عن 18 عاماً، أو تعريضه للخطر أو استغلاله جنسياً... تنطبق هذه القواعد على كل مطور يستخدم واجهة برمجة التطبيقات الخاصة بنا، ونحن نراقبها ونطبقها لضمان عدم استخدام خدماتنا لإيذاء القاصرين».
* خدمة «نيويورك تايمز».
