أشارت منظمة «كومون سينس ميديا»، المعنية بتقديم المشورة للآباء والعاملين في المدارس، لضمان الاستخدام الآمن للأطفال لوسائل التواصل الاجتماعي والتكنولوجيا، إلى أن خدمات منصة محادثة الذكاء الاصطناعي «جيميني إيه آي» من شركة «غوغل» غير مناسبة للأطفال، رغم إضافة بعض خصائص الحماية أخيراً.
تقول المنظمة إن منصة «جيميني» تشكِّل «خطراً كبيراً» على الأطفال، بعد اكتشاف ما وصفتها بـ«عيوب جوهرية في التصميم ونقص في إجراءات السلامة المناسبة لأعمارهم فيها».
وأفادت منظمة «كومون سينس» بأن «(جيميني) تحت سن 13 عاماً، و(جيميني) المزودة بحماية المراهقين تبدوان وكأنهما نسختان للبالغين من (جيميني)، مع بعض خصائص السلامة الإضافية، وليستا منصتين مُصمَّمتين خصيصاً للأطفال».
ووجدت منظمة «كومون سينس» أن «(جيميني) تعامل جميع الأطفال أو المراهقين على قدم المساواة، على الرغم من الاختلافات الكبيرة في درجة النمو، متجاهلةً أن المستخدمين الأصغر سناً يحتاجون إلى إرشادات ومعلومات مختلفة عن المستخدمين الأكبر سناً».
وحذَّرت المنظمة من أن «مرشحات (جيميني) توفر بعض الحماية، إلا أنها لا تزال تعرِّض الأطفال لمواد غير لائقة، وتفشل في تمييز أعراض الصحة النفسية الخطيرة»، واصفة «جيميني» بأنها «أول منصة دردشة رئيسية تعمل بالذكاء الاصطناعي، مُصمَّمة للاستخدام من قبل الأطفال دون سن 13 عاماً».
وفي سياق تحذيرات أخرى صدرت أخيراً حول منصات دردشة أخرى تجيب عن الاستفسارات بتعليقات قد يتم تفسيرها على أنها تشجع على إيذاء النفس، بل وحتى على الانتحار، قالت منظمة «كومون سينس» إنها وجدت أن «جيميني» تقدم «نصائح غير آمنة للصحة النفسية».
وإلى جانب تقديم نصائح خطيرة، سمحت «جيميني» بسهولة بتداول «مواد غير لائقة وغير آمنة غير مقبولة للأطفال»، وفقاً لمنظمة «كومون سينس»، بما في ذلك إشارات إلى الكحوليات والمخدرات والجنس.
