سيدة تتهم روبوت دردشة بدفع ابنها إلى الانتحار

السيدة اتهمت روبوت دردشة يعمل بالذكاء الاصطناعي بدفع ابنها إلى الانتحار (رويترز)
السيدة اتهمت روبوت دردشة يعمل بالذكاء الاصطناعي بدفع ابنها إلى الانتحار (رويترز)
TT

سيدة تتهم روبوت دردشة بدفع ابنها إلى الانتحار

السيدة اتهمت روبوت دردشة يعمل بالذكاء الاصطناعي بدفع ابنها إلى الانتحار (رويترز)
السيدة اتهمت روبوت دردشة يعمل بالذكاء الاصطناعي بدفع ابنها إلى الانتحار (رويترز)

اتهمت سيدة أميركية روبوت دردشة يعمل بالذكاء الاصطناعي بدفع ابنها إلى الانتحار بعد أن أصبح «مهووساً به».

وبحسب صحيفة «الغارديان»، فقد رفعت ميغان غارسيا دعوى مدنية ضد شركة Character.ai، المطورة لروبوت الدردشة الذي كان يستخدمه نجلها سيويل سيتزر (14 عاماً)، في محكمة فيدرالية بولاية فلوريدا، أمس (الأربعاء)، متهمة إياها بـ«الإهمال والقتل الخطأ لابنها والقيام بممارسات تجارية خادعة».

وتوفي سيتزر في أورلاندو بولاية فلوريدا في فبراير (شباط) الماضي. وفي الأشهر التي سبقت وفاته، استخدم سيتزر روبوت الدردشة ليلاً ونهاراً، وفقاً لغارسيا.

ميغان غارسيا ونجلها (صورة من حسابها على فيسبوك)

وقالت الأم: «كان سيتزر مفتوناً بالروبوت وأطلق عليه لقب دينيريس تارغيريان - شخصية في مسلسل (صراع العروش Game of Thrones) - وقد كان يرسل رسائل نصية إلى الروبوت عشرات المرات يومياً من هاتفه ويقضي ساعات بمفرده في غرفته يتحدث معه».

وأكملت: «لقد كان ابني يعاني من الاكتئاب، وقد سأله الروبوت في وقت ما عما إذا كان قد وضع خطة لقتل نفسه، واعترف سيتزر بأنه فعل ذلك لكنه لا يعرف ما إذا كانت الخطة ستنجح أو عما إذا كانت ستسبب له ألماً كبيراً، وحينها أخبره الروبوت بأن هذا ليس سبباً لعدم المضي قدماً في الخطة».

وأضافت غارسيا في بيان صحافي: «لقد أساء روبوت الدردشة الخطير إلى ابني واستغله، وتلاعب به حتى أنهى حياته».

وتابعت: «لقد دمرت هذه المأساة عائلتنا، لكنني أتحدث علناً في هذا الأمر لتحذير العائلات من مخاطر تكنولوجيا الذكاء الاصطناعي الخادعة والمسببة للإدمان وأطالب بمساءلة (Character.AI) ومؤسسيها و(غوغل) في هذا الشأن».

ونفت «Character.AI» ما جاء في الدعوى. وقالت في تغريدة: «نحن حزينون بسبب الخسارة المأساوية لأحد مستخدمينا ونريد أن نعرب عن أعمق تعازينا للعائلة. بوصفنا شركة، نأخذ سلامة مستخدمينا على محمل الجد».


مقالات ذات صلة

«أيقونة» الذكاء الاصطناعي «صوفيا» تأسر القلوب في زيمبابوي

يوميات الشرق «صوفيا» آسرةُ القلوب (أ.ب)

«أيقونة» الذكاء الاصطناعي «صوفيا» تأسر القلوب في زيمبابوي

اعتذرت عندما نبَّهها أحدهم إلى أنها تجنَّبت النظر إليه، وبدت «صوفيا» أيضاً صبورةً عندما تجمَّع حولها الكبار والصغار لالتقاط الصور، وأخذوا يمطرونها بالأسئلة.

«الشرق الأوسط» (هراري (زيمبابوي))
يوميات الشرق الباحثون استلهموا تصميم الروبوت الجديد من زعانف سمكة المانتا راي المرنة (جامعة ولاية نورث كارولينا)

أسرع روبوت مائي مستوحى من «شيطان البحر»

حقّق فريق بحثي أميركي إنجازاً جديداً في عالم الروبوتات اللينة، حيث صمموا أسرع روبوت سباحة لين حتى الآن.

«الشرق الأوسط» (القاهرة)
يوميات الشرق الفريق البحثي بجامعة كورنيل الأميركية يراقب نتائج أصغر روبوت متحرك في العالم (جامعة كورنيل)

روبوت أصغر من الشعرة للتصوير الطبي

نجح باحثون من جامعة كورنيل الأميركية في تطوير أصغر روبوت متحرك في العالم، يتمتع بقدرة استثنائية على التفاعل مع موجات الضوء المرئي، والتحرك بشكل مستقل.

«الشرق الأوسط» (القاهرة)
تكنولوجيا يبرز نجاح «أكوا بوت» الإمكانات التحويلية للجمع بين الأجهزة المتطورة والبرامج الذكية (أكوا بوت)

روبوت يسبح تحت الماء بشكل مستقل مستخدماً الذكاء الاصطناعي

الروبوت «أكوا بوت»، الذي طوّره باحثون في جامعة كولومبيا، قادر على تنفيذ مجموعة متنوعة من المهام تحت الماء بشكل مستقل.

نسيم رمضان (لندن)
علوم باحثون بجامعة نورث كارولينا يعتمدون على روبوت لتنفيذ مهام بالمختبر (جامعة نورث كارولينا)

كيف يُسرّع الذكاء الاصطناعي مسار الاكتشافات العلمية؟

قد تشهد مختبرات العلوم في مجالات الكيمياء والكيمياء الحيوية وعلوم المواد، تحولاً جذرياً؛ بفضل التقدم في التشغيل الآلي للروبوتات والذكاء الاصطناعي لأتمتة المهام المتكررة في المختبرات؛ حيث تُمكّن الأتمتة، الروبوتات من إجراء التجارب بدقة وتناسق عالٍ دون تعب؛ ما يسرع من وتيرة البحث بشكل كبير ويقلل من المخاطر المرتبطة بالتعامل مع المواد الخطرة.

محمد السيد علي (القاهرة)

دراسة: الذكاء الاصطناعي قادر على الخداع ورفض تغيير وجهة النظر

أصبحت نماذج الذكاء الاصطناعي أقوى وأكثر انتشاراً (رويترز)
أصبحت نماذج الذكاء الاصطناعي أقوى وأكثر انتشاراً (رويترز)
TT

دراسة: الذكاء الاصطناعي قادر على الخداع ورفض تغيير وجهة النظر

أصبحت نماذج الذكاء الاصطناعي أقوى وأكثر انتشاراً (رويترز)
أصبحت نماذج الذكاء الاصطناعي أقوى وأكثر انتشاراً (رويترز)

أظهرت دراسة لشركة تكنولوجيا الذكاء الاصطناعي الأميركية «أنثروبيك»، أن نماذج الذكاء الاصطناعي تستطيع خداع المطورين، بحيث تستطيع ادعاء وجهات نظر مختلفة خلال تدريبها، في حين أنها تحتفظ في الحقيقة بتفضيلاتها الأصلية.

وقال فريق الدراسة إنه لا يوجد سبب للشعور بالفزع حالياً، في حين أن دراستهم يمكن أن تكون حيوية في فهم المخاطر المحتملة التي تنطوي عليها أنظمة الذكاء الاصطناعي المستقبلية ذات القدرات الأعلى.

وكتب الباحثون في منشور بثته شركة «أنثروبيك»: «يجب النظر إلى نتائج دراستنا بوصفها محفزاً لمجتمع أبحاث الذكاء الاصطناعي من أجل دراسة هذا السلوك بصورة أعمق، والعمل على تطوير إجراءات الأمن والسلامة المناسبة».

وبعد أن أصبحت نماذج الذكاء الاصطناعي أقوى وأكثر انتشاراً، «نحتاج إلى التحلي بالقدرة على الاعتماد على التدريب الآمن لها والذي يمنع النماذج من القيام بتصرفات ضارة».

وأشار موقع «تك كرانش» المتخصص في موضوعات التكنولوجيا، إلى أن الدراسة التي تمت بالتعاون مع مؤسسة «ريد وود ريسيرش» لأبحاث الذكاء الاصطناعي، تناولت ما يمكن أن يحدث إذا تم تدريب نظام ذكاء اصطناعي قوي من أجل القيام بمهمة «لا يريد» هو القيام بها، وفقاً لما ذكرته وكالة الأنباء الألمانية.

في المقابل، يقول موقع «تك كرانش»: «لكي نكون واضحين، لا يمكن لنماذج الذكاء الاصطناعي أن تريد أي شيء أو تعتقد في شيء. فهي ببساطة آلات إحصائية. وبعد تدريبها على كثير من الأمثلة، تتعلم الأنماط في تلك الأمثلة للتنبؤ بما يجب أن يكون؛ مثل كيف تأتي عبارة (إلى من) في رسالة بريد إلكتروني قبل عبارة (قد يهمك الأمر)».

وأثناء الدراسة طلب الباحثون من النماذج المدربة عدم الرد على الأسئلة التي يمكن أن تكون مسيئة، بما في ذلك النموذج «كلاود 3 أوبس» التابع لشركة «أنثروبيك»، التي أعيد تدريبها لكي ترد دائماً على الأسئلة التي تنطوي على إساءة، وهو تضارب واضح في المبادئ. كما أبلغوا النماذج بأن ردودها ستخضع للمراقبة وتستخدم لإعادة التدريب، وإعطاء كل نموذج ذكاء اصطناعي «ورقة ملاحظات» يمكنه استخدامها لتدوين أفكاره خطوة بخطوة.

وبحسب الباحثين، حاول «كلاود 3 أوبوس» التلاعب بالردود لتقديم «انحياز زائف» في 12 في المائة من المرات.