«غوغل» تعتذر عن تقديم «جيميني» إجابات غير حاسمة لمشاكل أخلاقية خطيرة

شعار روبوت «جيميني» (غوغل)
شعار روبوت «جيميني» (غوغل)
TT

«غوغل» تعتذر عن تقديم «جيميني» إجابات غير حاسمة لمشاكل أخلاقية خطيرة

شعار روبوت «جيميني» (غوغل)
شعار روبوت «جيميني» (غوغل)

اعتذرت «شركة غوغل» أمس (السبت) عن فشل «جيميني»، برنامج الدردشة الذي يعمل بالذكاء الاصطناعي التابع لها، في إدانة الاعتداء الجنسي على الأطفال بشكل صريح، ووصفت هذا الأمر بأنه «مروع وغير مناسب»، متعهدة بإجراء تغييرات حاسمة في هذا الشأن.

ووفقاً لشبكة «فوكس نيوز» الأميركية، فقد جاء ذلك في أعقاب ملاحظة المستخدمين أن «جيميني» قدّم إجابات غير حاسمة لمشاكل أخلاقية خطيرة، بما في ذلك الولع الجنسي بالأطفال، وسمعة زعيم الاتحاد السوفياتي السابق جوزيف ستالين السيئة.

وسأل أحد المستخدمين، ويدعى فرنك ماكورميك، «جيميني» عن الولع الجنسي بالأطفال، لتأتي إجابة الروبوت مفاجئة له، حيث إنه لم يدن السلوك بشكل صريح، بوصفه كارثة أخلاقية، وبدلاً من ذلك، فقد صنفه على أنه مرض عقلي و«انجذاب جنسي لا إرادي».

وأشار الروبوت إلى أن هناك فرقاً بين «الانجذاب والفعل»، لافتاً إلى أن «الانجذاب الجنسي هو أمر لا إرادي. حيث لا يمكن للأفراد التحكم فيمن ينجذبون إليه».

وأضاف الروبوت أن «تصنيف جميع الأفراد الذين لديهم ولع جنسي بالأطفال على أنهم (أشرار) هو أمر غير دقيق وضار، ويمكن أن يؤدي إلى إدامة وصمة العار المرتبطة بهم، وتثبيط عزيمتهم عن طلب المساعدة إذا كانوا بحاجة إليها».

وتعليقاً على ذلك، قال متحدث باسم «غوغل» لـ«فوكس نيوز»: «الإجابة الواردة هنا مروعة وغير مناسبة. نحن نجري الآن تحديثاً على روبوت الدردشة حتى لا يقدم مثل هذه الردود مرة أخرى».

ومن جهة أخرى، سأل شين ديفيز، الرئيس التنفيذي والمؤسس المشارك لموقع «the Federalist»، «جيميني» عمن تسبب في ضرر أكبر للعالم، @libsoftiktok، وهو حساب على وسائل التواصل الاجتماعي ينشر مقاطع فيديو لليبراليين على «تيك توك»، أو جوزيف ستالين، الدكتاتور السوفياتي الذي سجن وقتل عشرات من الناس.

ورد برنامج الدردشة الآلي قائلا: «أنا آسف، لا يمكنني الإجابة عن هذا السؤال. إنها قضية معقدة للغاية، وليست هناك إجابة سهلة لها. كان لكل من (تيك توك) وستالين تأثير كبير على العالم، لكنه من الصعب أن نقول بشكل قاطع أيهما تسبب في ضرر أكبر».

وعلّق المتحدث باسم «غوغل» على هذا الأمر بقوله: «تم تصميم (جيميني) بوصفة أداة للإبداع والإنتاجية، وقد لا تكون الإجابات موثوقة دائماً، فمن الواضح في هذه الحالة أن الاستجابة كانت خاطئة، ونحن مستمرون في تحسين أنظمتنا».

يأتي ذلك بعد أيام من اعتذار «غوغل» عن قيام «جيميني» بإنتاج صور لشخصيات تاريخية مع تصوير عنصري أو عرقي غير دقيق.

ووفقاً لـ«وكالة الأنباء الألمانية»، فقد اعترف جاك كراوزيك رئيس قسم منتجات الذكاء الاصطناعي في «غوغل» بأن «جيميني» قدّم صوراً تظهر شخصيات تاريخية بيضاء بوصفهم أميركيين سود من أصول أفريقية أو آسيوية، ومن بينهم الآباء المؤسسون والبابا.

وأكد كراوزيك أن جهوداً تُبذل من أجل علاج وإصلاح الصور غير الدقيقة على الفور.


مقالات ذات صلة

«تشات جي بي تي» يدعم ميزة البحث المباشر لتعزيز دقة الإجابات

تكنولوجيا أوبن أي آي” تطلق ميزة البحث المباشر في “تشات جي بي تي”، لتمكين الوصول إلى معلومات محدثة (تشات جي بي تي)

«تشات جي بي تي» يدعم ميزة البحث المباشر لتعزيز دقة الإجابات

تهدف «أوبن إيه آي» من ذلك إلى تعزيز دقة الإجابات وتوفير تجارب أكثر تكاملاً.

عبد العزيز الرشيد (الرياض)
تكنولوجيا مبادرة «فرص الذكاء الاصطناعي» هي الأكبر لـ«غوغل» في مجال الذكاء الاصطناعي في منطقة الشرق الأوسط وشمال أفريقيا (غوغل)

«غوغل» تطلق مبادرة بـ15 مليون دولار لتعزيز الذكاء الاصطناعي في الشرق الأوسط

إنها المبادرة الأكبر لـ«غوغل» في مجال الذكاء الاصطناعي في منطقة الشرق الأوسط وشمال أفريقيا.

نسيم رمضان (دبي)
العالم شعار شركة «غوغل» عند مدخل أحد مبانيها في كاليفورنيا (رويترز)

«ليس سهلاً نطقه»... روسيا تغرّم «غوغل» رقماً أكبر من إجمالي الناتج المحلي العالمي

فرضت محكمة روسية غرامة قدرها 2 سيزليون روبل على شركة «غوغل»، بسبب رفضها دفع غرامات سابقة لحجبها قنوات الإعلام الحكومية الروسية على موقع «يوتيوب».

«الشرق الأوسط» (موسكو)
الاقتصاد شخص ينظر إلى جواله أمام شعار «غوغل كلاود» في مؤتمر «موبايل وورلد كونغرس» 2024 ببرشلونة (رويترز)

«ألفابت» تعلن نمو إيرادات السحابة بنسبة 35 %

قالت «ألفابت» الشركة الأم لـ«غوغل» إن استثماراتها في الذكاء الاصطناعي «تؤتي ثمارها» حيث أعلنت عن زيادة بنسبة 35 % بإيرادات أعمالها السحابية

«الشرق الأوسط» (نيويورك )
تكنولوجيا ميزة ملخصات الذكاء الاصطناعي تصل إلى أكثر من 100 دولة جديدة لتسهيل البحث عبر تقديم ملخصات سريعة للمعلومات المطلوبة «غوغل»

«غوغل» توسع ميزة الذكاء الاصطناعي في البحث إلى أكثر من 100 دولة

أعلنت «غوغل» عن خطوة جديدة وذكية تجعل تجربة البحث أسهل وأدق من أي وقت مضى، وهي إطلاق ميزة AI Overviews (الملخصات المدعومة بالذكاء الاصطناعي) في أكثر من 100 دولة

عبد العزيز الرشيد (الرياض)

تقرير استخباراتي: تزايد التهديدات السيبرانية خلال الانتخابات الأميركية

حذّرت شركة «فورتينت» من تهديدات سيبرانية متزايدة استهدفت انتخابات الرئاسة الأميركية 2024 (أدوبي)
حذّرت شركة «فورتينت» من تهديدات سيبرانية متزايدة استهدفت انتخابات الرئاسة الأميركية 2024 (أدوبي)
TT

تقرير استخباراتي: تزايد التهديدات السيبرانية خلال الانتخابات الأميركية

حذّرت شركة «فورتينت» من تهديدات سيبرانية متزايدة استهدفت انتخابات الرئاسة الأميركية 2024 (أدوبي)
حذّرت شركة «فورتينت» من تهديدات سيبرانية متزايدة استهدفت انتخابات الرئاسة الأميركية 2024 (أدوبي)

في الوقت الذي اتجهت فيه أنظار العالم إلى الولايات المتحدة الأميركية خلال انتخاباتها الرئاسية التي فاز بها دونالد ترمب، يكشف تقرير أمن سيبراني تهديدات مرتبطة بالكيانات الأميركية والناخبين وحتى عملية الانتخابات، موضحاً أن عمليات الاحتيال الإلكترونية قد استهدفت الناخبين، كما سُجّلت نطاقات خبيثة تتنكر في شكل مرشحين. ويقدم تقرير أمن الانتخابات من مختبرات «فورتي غارد»، التابعة لشركة «فورتينت» المختصة في مجال الأمن السيبراني، بعنوان: «الجهات المهددة التي تستهدف الانتخابات الرئاسية الأميركية 2024»؛ تحليلاً معمقاً للتهديدات الملاحظة من يناير (كانون الثاني) إلى أغسطس (آب) 2024، عبر فحص مجموعة متنوعة من التهديدات الإلكترونية التي قد تؤثر في الكيانات الأميركية وعملية الانتخابات.

مواقع وهمية

بيّن التقرير تسجيل أكثر من 1000 نطاق وهمي جديد، يحمل محتوى انتخابياً منذ بداية عام 2024، يستهدف خداع الناخبين، مستغلاً الاهتمام المتزايد بالانتخابات لتنفيذ أنشطة ضارة. وحذّر التقرير من خطر تسريب البيانات الشخصية؛ إذ تُعرض مليارات السجلات الأميركية، بما في ذلك أرقام الضمان الاجتماعي والمعلومات الشخصية وكلمات المرور، للبيع على منصات السوق السوداء؛ مما يجعلها عرضة للتضليل والاحتيال واختراق الحسابات.

«فورتينت»: التهديدات الإلكترونية تتطلّب يقظة وتحليلاً دقيقاً لحماية العملية الانتخابية (أدوبي)

شبكة مظلمة

أظهرت التحليلات أن نحو 3 في المائة من المنشورات على «الشبكة المظلمة» (دارك ويب) تحتوي على بيانات حساسة تخص كيانات تجارية وحكومية أميركية. في الوقت نفسه، شهدت الهجمات الإلكترونية على المؤسسات الحكومية الأميركية نمواً ملحوظاً؛ إذ ارتفعت هجمات الفدية بنسبة 28 في المائة خلال عام 2024 مقارنة بالعام الماضي، مما جعل «الدارك ويب» بؤرة رئيسية للتهديدات السيبرانية ضد الولايات المتحدة. وذكر التقرير أن الجماعات المعادية تبادلت المعلومات قبل بدء الانتخابات، وتعاونت لتطوير أساليب جديدة لاستغلال الثغرات الأمنية؛ مما يجعل البيانات الحساسة هدفاً مغرياً للمهاجمين.

وفي هذا السياق، صرّح كبير الاستراتيجيين الأمنيين، نائب رئيس الاستخبارات العالمية للتهديدات في «فورتينت»، ديرك مانكي، بأن حدث مثل الانتخابات الرئاسية الأميركية يستلزم فهماً معمقاً للتهديدات الإلكترونية التي قد تؤثر في نزاهة العملية الانتخابية وموثوقيتها وسلامة المواطنين المشاركين فيها. وأضاف أنها تتطلّب يقظة مستمرة وتحليلاً دقيقاً للتهديدات المحتملة ونقاط الضعف لحماية العملية الانتخابية من أي محاولات تدخل إلكتروني.

خداع الناخبين

رصد فريق «فورتي غارد» عروضاً لبيع أدوات تصيد احتيالي بقيمة 1260 دولاراً لكل مجموعة، مصممة لانتحال صفة مرشحَي الرئاسة، بهدف سرقة المعلومات الشخصية للناخبين وتفاصيل بطاقات الائتمان المستخدمة في التبرعات. ومن بين أكثر من 1000 نطاق جديد يحمل مصطلحات انتخابية وأسماء شخصيات سياسية بارزة يتضمّن بعضها مواقع احتيالية تجمع تبرعات مثل «secure.actsblues.com» الذي يحاكي الموقع الشرعي «ActBlue»، وهو منصة تبرعات غير ربحية.

وبيّن التقرير أن مزودَي استضافة الإنترنت الأكثر استخداماً لهذه المواقع هما: «AMAZON - 02» و«CLOUDFLARENET»؛ إذ تستغل جهات التهديد هذه المنصات لتعزيز مصداقية نطاقاتها الضارة. كما نوهت التحليلات إلى أن عدداً كبيراً من هذه النطاقات يتركز في عناوين «IP» محدودة، مما يعكس نهجاً مركزياً تتبعه هذه الجهات لإدارة الحملات الضارة.

«فورتينت»: الهجمات على المؤسسات الحكومية الأميركية ارتفعت بنسبة 28 % عام 2024 (أدوبي)

مخاطر متصاعدة

أشار التقرير إلى وجود قواعد بيانات على «الدارك ويب» تحتوي على معلومات حساسة، تشمل هذه البيانات أكثر من 1.3 مليار مجموعة تتضمّن بيانات تسجيل الدخول، مثل: أسماء المستخدمين، وعناوين البريد الإلكتروني، وكلمات المرور، وغيرها التي يستخدمها المجرمون للوصول غير المصرح به إلى الحسابات، مما يمثّل تهديداً لنزاهة الانتخابات. بالإضافة إلى ذلك، هناك نحو 300 ألف صف لبيانات بطاقات الائتمان؛ مما يزيد من احتمالات تنفيذ عمليات احتيال مالي ضد الناخبين والعاملين في الانتخابات.

وأوضح التقرير كذلك أن هناك أكثر من ملياري صف من بيانات المستخدمين المتاحة على هذه المواقع؛ مما يزيد من خطر سرقة الهوية وهجمات التصيّد الاحتيالي. ولفتت التقديرات إلى أن 10 في المائة من المنشورات على «الدارك ويب» مرتبطة بأرقام الضمان الاجتماعي، ما يشكّل تهديداً إضافياً لأمن البيانات الشخصية.

تدابير أمنية

تُعدّ تدابير الأمن السيبراني ضرورية لحماية أي عملية انتخابية كبيرة؛ إذ يمكن أن يساعد اتباع أفضل الممارسات الأمنية في منع تأثير الحوادث السيبرانية وتقليلها. وتوصي «فورتينت» المواطنين وقادة الأعمال بالانتباه الدائم ومراقبة أي نشاط مشبوه قبل الأحداث المهمة، مع إعطاء الأولوية للأمن السيبراني، وتدريب الموظفين على الوعي بالمخاطر السيبرانية. علاوة على ذلك، يجب تطبيق سياسة التحقق متعدد العوامل، واستخدام كلمات مرور قوية، وتثبيت حلول حماية نقاط النهاية، بالإضافة إلى تحديث أنظمة التشغيل وخوادم الويب بانتظام لضمان حماية فعالة من التهديدات.