«غوغل» تعتذر عن تقديم «جيميني» إجابات غير حاسمة لمشاكل أخلاقية خطيرة

شعار روبوت «جيميني» (غوغل)
شعار روبوت «جيميني» (غوغل)
TT

«غوغل» تعتذر عن تقديم «جيميني» إجابات غير حاسمة لمشاكل أخلاقية خطيرة

شعار روبوت «جيميني» (غوغل)
شعار روبوت «جيميني» (غوغل)

اعتذرت «شركة غوغل» أمس (السبت) عن فشل «جيميني»، برنامج الدردشة الذي يعمل بالذكاء الاصطناعي التابع لها، في إدانة الاعتداء الجنسي على الأطفال بشكل صريح، ووصفت هذا الأمر بأنه «مروع وغير مناسب»، متعهدة بإجراء تغييرات حاسمة في هذا الشأن.

ووفقاً لشبكة «فوكس نيوز» الأميركية، فقد جاء ذلك في أعقاب ملاحظة المستخدمين أن «جيميني» قدّم إجابات غير حاسمة لمشاكل أخلاقية خطيرة، بما في ذلك الولع الجنسي بالأطفال، وسمعة زعيم الاتحاد السوفياتي السابق جوزيف ستالين السيئة.

وسأل أحد المستخدمين، ويدعى فرنك ماكورميك، «جيميني» عن الولع الجنسي بالأطفال، لتأتي إجابة الروبوت مفاجئة له، حيث إنه لم يدن السلوك بشكل صريح، بوصفه كارثة أخلاقية، وبدلاً من ذلك، فقد صنفه على أنه مرض عقلي و«انجذاب جنسي لا إرادي».

وأشار الروبوت إلى أن هناك فرقاً بين «الانجذاب والفعل»، لافتاً إلى أن «الانجذاب الجنسي هو أمر لا إرادي. حيث لا يمكن للأفراد التحكم فيمن ينجذبون إليه».

وأضاف الروبوت أن «تصنيف جميع الأفراد الذين لديهم ولع جنسي بالأطفال على أنهم (أشرار) هو أمر غير دقيق وضار، ويمكن أن يؤدي إلى إدامة وصمة العار المرتبطة بهم، وتثبيط عزيمتهم عن طلب المساعدة إذا كانوا بحاجة إليها».

وتعليقاً على ذلك، قال متحدث باسم «غوغل» لـ«فوكس نيوز»: «الإجابة الواردة هنا مروعة وغير مناسبة. نحن نجري الآن تحديثاً على روبوت الدردشة حتى لا يقدم مثل هذه الردود مرة أخرى».

ومن جهة أخرى، سأل شين ديفيز، الرئيس التنفيذي والمؤسس المشارك لموقع «the Federalist»، «جيميني» عمن تسبب في ضرر أكبر للعالم، @libsoftiktok، وهو حساب على وسائل التواصل الاجتماعي ينشر مقاطع فيديو لليبراليين على «تيك توك»، أو جوزيف ستالين، الدكتاتور السوفياتي الذي سجن وقتل عشرات من الناس.

ورد برنامج الدردشة الآلي قائلا: «أنا آسف، لا يمكنني الإجابة عن هذا السؤال. إنها قضية معقدة للغاية، وليست هناك إجابة سهلة لها. كان لكل من (تيك توك) وستالين تأثير كبير على العالم، لكنه من الصعب أن نقول بشكل قاطع أيهما تسبب في ضرر أكبر».

وعلّق المتحدث باسم «غوغل» على هذا الأمر بقوله: «تم تصميم (جيميني) بوصفة أداة للإبداع والإنتاجية، وقد لا تكون الإجابات موثوقة دائماً، فمن الواضح في هذه الحالة أن الاستجابة كانت خاطئة، ونحن مستمرون في تحسين أنظمتنا».

يأتي ذلك بعد أيام من اعتذار «غوغل» عن قيام «جيميني» بإنتاج صور لشخصيات تاريخية مع تصوير عنصري أو عرقي غير دقيق.

ووفقاً لـ«وكالة الأنباء الألمانية»، فقد اعترف جاك كراوزيك رئيس قسم منتجات الذكاء الاصطناعي في «غوغل» بأن «جيميني» قدّم صوراً تظهر شخصيات تاريخية بيضاء بوصفهم أميركيين سود من أصول أفريقية أو آسيوية، ومن بينهم الآباء المؤسسون والبابا.

وأكد كراوزيك أن جهوداً تُبذل من أجل علاج وإصلاح الصور غير الدقيقة على الفور.


مقالات ذات صلة

«غوغل» قلقة من انتهاكات حقوق الإنسان بسبب عقدها التقني مع إسرائيل

علوم نظّم بعض موظفي «غوغل» اعتصامات في مكتبين للشركة منتقدين مشروع «نيمبوس» في أبريل الماضي

«غوغل» قلقة من انتهاكات حقوق الإنسان بسبب عقدها التقني مع إسرائيل

ظلّت شركة التكنولوجيا العملاقة «غوغل» تدافع عن صفقتها مع إسرائيل أمام الموظفين الذين يعارضون تزويد الجيش الإسرائيلي بالتكنولوجيا، ولكنها كانت تخشى أن يضر…

«الشرق الأوسط» (سان فرنسيسكو)
تكنولوجيا شعار شركة «غوغل» على أحد مباني الشركة في سان دييغو (رويترز)

كندا تقاضي «غوغل» بسبب ممارسات غير تنافسية في الإعلانات عبر الإنترنت

قالت هيئة مكافحة الاحتكار في كندا، يوم الخميس، إنها رفعت دعوى قضائية ضد «غوغل»؛ بسبب سلوكها غير التنافسي في مجال الإعلانات عبر الإنترنت.

أوروبا شعار «غوغل» على هاتف محمول (أ.ف.ب)

«تهيمنان على برامج التصفح على الهواتف»... بريطانيا تحقق بشأن «أبل» و«غوغل»

قالت هيئة المنافسة والأسواق في المملكة المتحدة، اليوم الجمعة، في تقرير إن «أبل» و«غوغل» لا توفران للمستهلكين خياراً حقيقياً لبرامج التصفح على الإنترنت للهواتف.

«الشرق الأوسط» (لندن)
تكنولوجيا  الحكومة الأميركية تتحرك لإجبار «غوغل» على بيع متصفّحه «كروم»

 الحكومة الأميركية تتحرك لإجبار «غوغل» على بيع متصفّحه «كروم»

طلبت الحكومة الأميركية، الأربعاء، من القضاء إجبار «غوغل» على بيع متصفّحه «كروم»، في إجراء يهدف لمكافحة الممارسات الاحتكارية المتّهم بارتكابها عملاق التكنولوجيا.

«الشرق الأوسط» (واشنطن)
تكنولوجيا 7 مشاريع تجريبية للذكاء الاصطناعي من «غوغل» يمكنك التعرف عليها الآن

7 مشاريع تجريبية للذكاء الاصطناعي من «غوغل» يمكنك التعرف عليها الآن

تمنحنا «غوغل» إمكانية الوصول إلى مجموعة متنوعة من الأدوات التجريبية التي لم تصبح منتجات كاملة بعد.

دوغ آموث (واشنطن)

«تلغرام» تتعهد تعزيز مكافحة المحتويات المتعلقة بجرائم تستهدف الأطفال

شعار تطبيق «تلغرام» (رويترز)
شعار تطبيق «تلغرام» (رويترز)
TT

«تلغرام» تتعهد تعزيز مكافحة المحتويات المتعلقة بجرائم تستهدف الأطفال

شعار تطبيق «تلغرام» (رويترز)
شعار تطبيق «تلغرام» (رويترز)

تعهدت منصة «تلغرام» للمراسلة مكافحة المحتوى المتعلق بالجرائم التي تستهدف الأطفال، والعمل بصورة نشطة لرصده وحذفه ومنعه بالتعاون مع جمعية «إنترنت واتش فاونديشن» البريطانية المتخصصة، على ما أعلنت المنظمة اليوم الأربعاء.

ووفقاً لـ«وكالة الصحافة الفرنسية»، جاء الإعلان عن هذه الشراكة في وقت وجّه القضاء الفرنسي اتهامات إلى مؤسس التطبيق بافل دوروف بسبب نشر المنصة محتويات غير قانونية، أبرزها تتعلق بجرائم تستهدف الأطفال.

وبعد وقت قصير من توجيه هذه التهم إلى دوروف، وعد في سبتمبر (أيلول) بجعل الإشراف على المحتوى في منصته «مفخرة»، وأعلنت المنصة التي يبلغ عدد مستخدميها 950 مليوناً في مختلف أنحاء العالم، تشديد الإجراءات في هذا المجال.

وستتمكن «تلغرام» من الآن فصاعداً من استخدام «الأدوات والبيانات» التي خصصتها «إنترنت واتش فاونديشن» لتعقّب المحتوى الإجرامي الذي يستهدف الأطفال عبر الإنترنت، على ما أوضح بيان للمنظمة، وهي مرجع عالمي في هذا الشأن.

وقال رئيس «إنترنت واتش فاونديشن» بالوكالة ديريك راي هيل إن «تلغرام» يمكن «أن تساهم في ضمان عدم إمكان نشر هذه المحتويات على نظامها للمراسلة»، معتبراً أنها «لحظة مهمة».

وأكدت الجمعية أن المنصة أزالت محتويات إجرامية تستهدف الأطفال وردت آلاف البلاغات عنها منذ عام 2022.

وسيكون في وسع «تلغرام» استخدام البصمات الرقمية لملايين الصور ومقاطع الفيديو المتعلقة باعتداءات جنسية على أطفال والتي سبق رصدها، بما يتيح لها اكتشافها فوراً في حال نشرها على المنصة.

ونقل البيان عن مدير العلاقات الإعلامية في «تلغرام» ريمي فون قوله إن المنصة «تحذف شهرياً مئات الآلاف من المحتويات المتعلقة بالاعتداء على الأطفال، بناء على بلاغات وعلى الإشراف الاستباقي».

وأضاف أن الشراكة مع المنظمة «ستعزز الآليات التي سبق أن وضعتها (تلغرام)».

وتأسست منصة المراسلة عام 2013، ودأبت على تأكيد احترامها القوانين الأوروبية، والتزمت منذ بداياتها عدم الكشف أبداً عن أي معلومات تتعلق بمستخدميها.