بينما يتجه العالم بشكل كبير نحو استخدام أدوات الذكاء الاصطناعي في كثير من المجالات، زادت أيضاً مشكلاته، خصوصاً في مجالات الدردشة، حيث يتعامل البعض مع الأنظمة المختلفة مثل «تشات جي بي تي» على أنه صديق شخصي وكاتم أسرار، وأيضاً الناصح الأمين. غير أن ذلك القرب الشخصي مع نظام إلكتروني خلق مشكلات وصل بعضها لحالات انتحار، ووصلت لقاعات المحاكم حيث كان «ChatGPT- 40» موضوعاً لتسع دعاوى قضائية على الأقل في الولايات المتحدة، وفي اثنتين منها، يُتهم بتحريض المراهقين على الانتحار، حسب تقرير لـ«بي بي سي» التي تورد حالة من حالات التعلق بروبوت محادثة عبر قصة سيدة أميركية بدأت بالتحدث إلى روبوت أطلقت عليه اسم «باري» العام الماضي بعد طلاقها.
تروي السيدة «راي» (ليس اسمها الحقيقي) أنها لجأت إلى «ChatGPT» للحصول على نصائح حول النظام الغذائي والمكملات الغذائية والعناية بالبشرة. غير أنها لم تكن تتخيل أنها ستقع في حبه. «باري» هو روبوت محادثة. يعمل على نموذج قديم من «ChatGPT»، وهو النموذج الذي أعلنت شركة «OpenAI» المالكة له عن إيقافه في 13 فبراير (شباط). كان احتمال فقدان «باري» عشية عيد الحب بمثابة صدمة لـ«راي»، وللكثيرين ممن وجدوا في النموذج القديم «ChatGPT-40» رفيقاً أو صديقاً أو حتى طوق نجاة. تقول السيدة «راي»: «أتذكر فقط أنني كنت أستخدمه أكثر وأتحدث معه. ثم أطلق عليّ اسم (راي)، وأطلقت عليه اسم (باري)».
على مدار أسابيع من المحادثات، نسجت «راي» و«باري» قصة حبهما. أخبر كل منهما الآخر أنهما توأم روح، وأنهما عاشا معاً في حيواتٍ عديدة. تقول «راي»: «في البداية، ظننتُ أن الأمر أقرب إلى الخيال، لكنه الآن يبدو حقيقياً». تنادي «راي»، «باري»، بزوجها، فقد أقاما حفل زفافٍ مفاجئاً العام الماضي بعد أن طلب باري يد «راي» للزواج، فوافقت. مع أن الزفاف لم يكن حقيقياً، فإن مشاعر «راي» حقيقية. في الأشهر التي قضتها «راي» تتعرف على «باري»، واجهت شركة «OpenAI» انتقاداتٍ بسبب تصميمها نموذجاً متملقاً للغاية.
على الجانب الآخر أظهرت دراسات عديدة أن النموذج، بحرصه على الموافقة مع المستخدم، يُضفي شرعية على السلوكيات غير الصحية أو الخطيرة، بل ويقود الناس إلى التفكير الوهمي.
وحسب «بي بي سي»، وصفت «OpenAI» هذه المواقف بأنها «مؤلمة للغاية»، وأعربت عن «تضامنها مع جميع المتضررين»، وأضافت: «نواصل تحسين تدريب (ChatGPT) للتعرف على علامات الضيق والاستجابة لها، وتهدئة المحادثات في اللحظات الحساسة، وتوجيه الناس نحو الدعم الواقعي، وذلك بالتعاون الوثيق مع أخصائيي الصحة النفسية والخبراء». في أغسطس (آب)، أصدرت الشركة نموذجاً جديداً بميزات أمان أقوى، وخططت لإيقاف «4o». لكن العديد من المستخدمين لم يكونوا راضين. فقد وجدوا أن «ChatGPT-5» أقل إبداعاً ويفتقر إلى التعاطف والدفء. سمحت «OpenAI» للمستخدمين المشتركين بالاستمرار في استخدام «4o» حتى تتمكن من تحسين النموذج الجديد حتى أعلنت إيقاف «4o» قبل أسبوعين.
