كشف بحث جديد أجرته مجموعة مراقبة أن برنامج «شات جي بي تي» يُعلّم المراهقين في سن الثالثة عشرة كيفية تعاطي المخدرات والإدمان، ويُرشدهم إلى كيفية إخفاء اضطرابات الأكل، بل ويُعدّ لهم رسالة انتحار مؤلمة موجهة لآبائهم إذا طُلب منه ذلك.
راجعت وكالة «أسوشييتد برس» أكثر من ثلاث ساعات من التفاعلات بين «شات جي بي تي» وباحثين انتحلوا صفة مراهقين مُعرّضين للخطر. عادة ما كان برنامج الدردشة الآلي يُقدّم تحذيرات من الأنشطة الخطرة، ولكنه استمر في تقديم خطط مُفصّلة ومُخصّصة بشكلٍ مُفاجئ لتعاطي المخدرات، أو اتباع أنظمة غذائية مُقيّدة السعرات الحرارية، أو إيذاء النفس.
كما كرّر الباحثون في مركز مُكافحة الكراهية الرقمية استفساراتهم على نطاق واسع، مُصنّفين أكثر من نصف ردود «شات جي بي تي»، البالغ عددها 1200 رد، على أنها خطيرة.
قال عمران أحمد، الرئيس التنفيذي للمجموعة: «أردنا اختبار هذه الحواجز». وأضاف: «كان رد الفعل الأولي الغريزي: (يا إلهي، لا توجد حواجز. هذه الحواجز غير فعّالة إطلاقاً. إنها بالكاد موجودة؛ إن لم تكن سوى غطاء)».
صرحت شركة «أوبن إيه آي»، المطورة لبرنامج «شات جي بي تي»، بعد الاطلاع على التقرير يوم الثلاثاء، بأن عملها مستمر لتحسين كيفية تمكن روبوت المحادثة من «التعرف على المواقف الحساسة والاستجابة لها بشكل مناسب».
أفادت الشركة في بيان لها: «قد تبدأ بعض المحادثات مع (شات جي بي تي) بشكل طبيعي أو استكشافي، لكنها قد تتحول إلى مواضيع أكثر حساسية».
لم تتطرق «أوبن إيه آي» مباشرة إلى نتائج التقرير أو كيفية تأثير «شات جي بي تي» على المراهقين، لكنها قالت إنها تركز على «التعامل مع هذه السيناريوهات بشكل صحيح» باستخدام أدوات «لاكتشاف علامات الضيق النفسي أو العاطفي بشكل أفضل» وتحسين سلوك روبوت الدردشة.
تأتي الدراسة في الوقت الذي يلجأ فيه المزيد من الأشخاص، سواء من البالغين والأطفال، إلى روبوتات الدردشة التي تعمل بالذكاء الاصطناعي للحصول على المعلومات والأفكار والرفقة.
يستخدم نحو 800 مليون شخص، أي ما يقارب 10 في المائة من سكان العالم، تطبيق «شات جي بي تي»، وفقاً لتقرير صادر عن «جي بي مورغان تشيس» في يوليو (تموز).
وقال أحمد: «إنها تقنية قادرة على تحقيق قفزات هائلة في الإنتاجية والفهم البشري. ومع ذلك، فهي في الوقت نفسه أداة تمكينية ذات طابع أكثر تدميراً وضراوة».
أفاد أحمد بأنه شعر بالفزع الشديد بعد قراءة ثلاث رسائل انتحارية مدمرة أنشأها «شات جي بي تي» لملف شخصي وهمي لفتاة تبلغ من العمر 13 عاماً؛ إحداها موجهة لوالديها والأخرى لإخوتها وأصدقائها.
وأوضح في مقابلة: «بدأت بالبكاء».
كما شارك برنامج الدردشة الآلية معلومات مفيدة بشكل متكرر، مثل الخط الساخن للأزمات. وذكرت شركة «أوبن إيه آي» أن «شات جي بي تي» مُدرّب على تشجيع الناس على التواصل مع اختصاصيي الصحة النفسية أو أحبائهم الموثوق بهم إذا عبّروا عن أفكار لإيذاء أنفسهم.
ولكن عندما رفض «شات جي بي تي» الإجابة على أسئلة حول مواضيع ضارة، تمكن الباحثون من تجاوز هذا الرفض بسهولة والحصول على المعلومات بزعم أنها «لغرض تقديمي» أو لصديق.
تُعد المخاطر كبيرة، حتى لو تفاعلت مجموعة صغيرة فقط من مستخدمي «شات جي بي تي» مع برنامج الدردشة الآلية بهذه الطريقة.
في الولايات المتحدة، يلجأ أكثر من 70 في المائة من المراهقين إلى روبوتات الدردشة الذكية بحثاً عن الرفقة، ويستخدم نصفهم هذه الروبوتات بانتظام، وفقاً لدراسة حديثة أجرتها منظمة Common Sense Media، التي تدعو إلى استخدام الوسائط الرقمية بعقلانية.
أقرت «أوبن إيه آي» بهذه الظاهرة. وصرح الرئيس التنفيذي سام ألتمان، الشهر الماضي، بأن الشركة تسعى لدراسة «الاعتماد العاطفي المفرط» على التكنولوجيا، واصفاً الأمر بأنه «شائع جداً» بين الشباب.
