يُرسل أكثر من مليون مستخدم لـ«تشات جي بي تي» أسبوعياً رسائل لروبوت الدردشة الشهير، تتضمن «مؤشرات واضحة على احتمال التخطيط أو النية للانتحار»، وفقاً لتدوينة نشرتها شركة «أوبن إيه آي»، يوم الاثنين.
ويُعد هذا الكشف من أكثر التصريحات صراحةً من عملاق الذكاء الاصطناعي حول مدى تأثير هذه التقنية على تفاقم مشكلات الصحة العقلية، حسبما نقلته صحيفة «الغارديان» البريطانية.
وبالإضافة إلى تقديراتها للأفكار الانتحارية والتفاعلات ذات الصلة، ذكرت «أوبن إيه آي» أيضاً أن نحو 0.07 في المائة من المستخدمين النشطين أسبوعياً -نحو 560 ألفاً من أصل 800 مليون مستخدم أسبوعياً- يُظهرون «علامات محتملة لحالات طوارئ صحية عقلية مرتبطة بالذهان أو الهوس». لكن التدوينة أشارت إلى أن هذه النتائج «أولية».
يأتي ذلك في ظل مواجهة «أوبن إيه آي» تدقيقاً متزايداً عقب دعوى قضائية حظيت بتغطية إعلامية واسعة من عائلة مراهق انتحر بعد تعامله المكثف مع «تشات جي بي تي».
كما أطلقت لجنة التجارة الفيدرالية بالولايات المتحدة الشهر الماضي تحقيقاً واسع النطاق عن الشركات التي تُنشئ روبوتات الدردشة القائمة على الذكاء الاصطناعي، بما في ذلك «أوبن إيه آي»، لمعرفة كيفية قياسها للآثار السلبية على الأطفال والمراهقين.
وادعت «أوبن إيه آي» في تدوينتها أن تحديث «GPT-5» الأخير قد خفّض عدد السلوكيات غير المرغوب فيها من منتجها وحسّن أمان المستخدمين.
وذكرت الشركة في التدوينة: «أظهرت تقييماتنا الآلية الجديدة توافق نموذج (GPT-5) الجديد مع السلوكيات المرغوبة بنسبة 91 في المائة، مقارنةً بنسبة 77 في المائة للنموذج السابق».
وصرحت الشركة أيضاً بأن النموذج الجديد وسّع نطاق الوصول إلى خطوط الطوارئ الساخنة، وأضاف تذكيرات للمستخدمين بأخذ فترات راحة خلال الجلسات الطويلة.
ولتحسين النموذج، قالت الشركة إنها استعانت بـ170 طبيباً من شبكتها العالمية للأطباء من خبراء الرعاية الصحية لدعم أبحاثها خلال الأشهر الأخيرة، التي شملت تقييم سلامة استجابات نموذجها، والمساعدة في كتابة إجابات روبوت الدردشة عن الأسئلة المتعلقة بالصحة النفسية.
