الشركة المالكة لـ«تيك توك» تطرد متدرباً بسبب «تدخل خبيث» في مشروع للذكاء الاصطناعي

شعار تطبيق «تيك توك» أعلى مجموعة من الجوائز في معرض «فرنكفورت للكتاب» السادس والسبعين (د.ب.أ)
شعار تطبيق «تيك توك» أعلى مجموعة من الجوائز في معرض «فرنكفورت للكتاب» السادس والسبعين (د.ب.أ)
TT

الشركة المالكة لـ«تيك توك» تطرد متدرباً بسبب «تدخل خبيث» في مشروع للذكاء الاصطناعي

شعار تطبيق «تيك توك» أعلى مجموعة من الجوائز في معرض «فرنكفورت للكتاب» السادس والسبعين (د.ب.أ)
شعار تطبيق «تيك توك» أعلى مجموعة من الجوائز في معرض «فرنكفورت للكتاب» السادس والسبعين (د.ب.أ)

قالت شركة «بايت دانس»، مالكة تطبيق «تيك توك»، إنها طردت متدرباً بسبب «التدخل الخبيث» في تدريب أحد نماذج الذكاء الاصطناعي الخاصة بها.

لكن الشركة رفضت الادعاءات حول مدى الضرر الذي تسبب فيه الفرد الذي لم يتم الكشف عن اسمه، قائلة إنها «تحتوي على بعض المبالغات وعدم الدقة».

يأتي ذلك بعد تقارير عن الحادث انتشرت خلال عطلة نهاية الأسبوع على وسائل التواصل الاجتماعي.

ويعد نموذج الذكاء الاصطناعي التوليدي «دوبايو» الشبيه بـ«شات جي بي تي» التابع لشركة التكنولوجيا الصينية العملاقة هو روبوت الدردشة الأكثر شعبية في البلاد.

وقالت «بايت دانس» في بيان: «كان الفرد متدرباً في فريق تكنولوجيا (الإعلان)، وليست لديه خبرة في مختبر الذكاء الاصطناعي، ويحتوي ملفه الشخصي على وسائل التواصل الاجتماعي وبعض التقارير الإعلامية على معلومات غير دقيقة».

وأضافت الشركة أن عملياتها التجارية عبر الإنترنت، بما في ذلك نماذج الذكاء الاصطناعي اللغوية الكبيرة، لم تتأثر بأفعال المتدرب.

كما نفت التقارير التي تفيد بأن الحادث تسبب في أضرار تزيد على 10 ملايين دولار من خلال تعطيل نظام تدريب الذكاء الاصطناعي المكون من آلاف وحدات معالجة الرسومات القوية (جي بي يو).

وقالت الشركة أيضاً إنها أبلغت الجامعة والهيئات الصناعية بالحادث، حسبما أفادت هيئة الإذاعة البريطانية (بي بي سي).

وتدير الشركة بعضاً من أشهر تطبيقات الوسائط الاجتماعية في العالم، بما في ذلك «تيك توك»، ونظيره الصيني «دويين». ويُنظر إليها على نطاق واسع على أنها شركة رائدة عندما يتعلق الأمر بتطوير الخوارزميات؛ نظراً لمدى جاذبية تطبيقاتها للمستخدمين.

مثل كثير من نظيراتها في الصين وحول العالم، تستثمر شركة الوسائط الاجتماعية العملاقة بكثافة في الذكاء الاصطناعي، وتستخدم التكنولوجيا لتشغيل روبوت الدردشة الخاص بها، بالإضافة إلى كثير من التطبيقات الأخرى، بما في ذلك أداة تحويل النص إلى فيديو تسمى «جيمينغ».


مقالات ذات صلة

قمة «محللي الأمن» في إندونيسيا تناقش أخطر التهديدات السيبرانية في الشرق الأوسط

خاص شارك في القمة مئات الخبراء والباحثين في مجال الأمن السيبراني من حول العالم (الشرق الأوسط)

قمة «محللي الأمن» في إندونيسيا تناقش أخطر التهديدات السيبرانية في الشرق الأوسط

هجمات تعتمد على الذكاء الاصطناعي لإنشاء مواقع وهمية لزيادة المصداقية وأخرى تستغل ثغرات في رقائق الأجهزة الإلكترونية.

نسيم رمضان (بالي (إندونيسيا))
تكنولوجيا السيدة اتهمت روبوت دردشة يعمل بالذكاء الاصطناعي بدفع ابنها إلى الانتحار (رويترز)

سيدة تتهم روبوت دردشة بدفع ابنها إلى الانتحار

اتهمت سيدة أميركية روبوت دردشة يعمل بالذكاء الاصطناعي بدفع ابنها إلى الانتحار بعد أن أصبح «مهووساً به».

«الشرق الأوسط» (نيويورك)

سيدة تتهم روبوت دردشة بدفع ابنها إلى الانتحار

السيدة اتهمت روبوت دردشة يعمل بالذكاء الاصطناعي بدفع ابنها إلى الانتحار (رويترز)
السيدة اتهمت روبوت دردشة يعمل بالذكاء الاصطناعي بدفع ابنها إلى الانتحار (رويترز)
TT

سيدة تتهم روبوت دردشة بدفع ابنها إلى الانتحار

السيدة اتهمت روبوت دردشة يعمل بالذكاء الاصطناعي بدفع ابنها إلى الانتحار (رويترز)
السيدة اتهمت روبوت دردشة يعمل بالذكاء الاصطناعي بدفع ابنها إلى الانتحار (رويترز)

اتهمت سيدة أميركية روبوت دردشة يعمل بالذكاء الاصطناعي بدفع ابنها إلى الانتحار بعد أن أصبح «مهووساً به».

وبحسب صحيفة «الغارديان»، فقد رفعت ميغان غارسيا دعوى مدنية ضد شركة Character.ai، المطورة لروبوت الدردشة الذي كان يستخدمه نجلها سيويل سيتزر (14 عاماً)، في محكمة فيدرالية بولاية فلوريدا، أمس (الأربعاء)، متهمة إياها بـ«الإهمال والقتل الخطأ لابنها والقيام بممارسات تجارية خادعة».

وتوفي سيتزر في أورلاندو بولاية فلوريدا في فبراير (شباط) الماضي. وفي الأشهر التي سبقت وفاته، استخدم سيتزر روبوت الدردشة ليلاً ونهاراً، وفقاً لغارسيا.

ميغان غارسيا ونجلها (صورة من حسابها على فيسبوك)

وقالت الأم: «كان سيتزر مفتوناً بالروبوت وأطلق عليه لقب دينيريس تارغيريان - شخصية في مسلسل (صراع العروش Game of Thrones) - وقد كان يرسل رسائل نصية إلى الروبوت عشرات المرات يومياً من هاتفه ويقضي ساعات بمفرده في غرفته يتحدث معه».

وأكملت: «لقد كان ابني يعاني من الاكتئاب، وقد سأله الروبوت في وقت ما عما إذا كان قد وضع خطة لقتل نفسه، واعترف سيتزر بأنه فعل ذلك لكنه لا يعرف ما إذا كانت الخطة ستنجح أو عما إذا كانت ستسبب له ألماً كبيراً، وحينها أخبره الروبوت بأن هذا ليس سبباً لعدم المضي قدماً في الخطة».

وأضافت غارسيا في بيان صحافي: «لقد أساء روبوت الدردشة الخطير إلى ابني واستغله، وتلاعب به حتى أنهى حياته».

وتابعت: «لقد دمرت هذه المأساة عائلتنا، لكنني أتحدث علناً في هذا الأمر لتحذير العائلات من مخاطر تكنولوجيا الذكاء الاصطناعي الخادعة والمسببة للإدمان وأطالب بمساءلة (Character.AI) ومؤسسيها و(غوغل) في هذا الشأن».

ونفت «Character.AI» ما جاء في الدعوى. وقالت في تغريدة: «نحن حزينون بسبب الخسارة المأساوية لأحد مستخدمينا ونريد أن نعرب عن أعمق تعازينا للعائلة. بوصفنا شركة، نأخذ سلامة مستخدمينا على محمل الجد».