تقرير: «إكس» استغنت عن نحو 1200 موظف بمجال الإشراف على المحتوىhttps://aawsat.com/%D8%AA%D9%83%D9%86%D9%88%D9%84%D9%88%D8%AC%D9%8A%D8%A7/4783291-%D8%AA%D9%82%D8%B1%D9%8A%D8%B1-%C2%AB%D8%A5%D9%83%D8%B3%C2%BB-%D8%A7%D8%B3%D8%AA%D8%BA%D9%86%D8%AA-%D8%B9%D9%86-%D9%86%D8%AD%D9%88-1200-%D9%85%D9%88%D8%B8%D9%81-%D8%A8%D9%85%D8%AC%D8%A7%D9%84-%D8%A7%D9%84%D8%A5%D8%B4%D8%B1%D8%A7%D9%81-%D8%B9%D9%84%D9%89-%D8%A7%D9%84%D9%85%D8%AD%D8%AA%D9%88%D9%89
تقرير: «إكس» استغنت عن نحو 1200 موظف بمجال الإشراف على المحتوى
شعار منصة «إكس» (رويترز)
كانبيرا:«الشرق الأوسط»
TT
كانبيرا:«الشرق الأوسط»
TT
تقرير: «إكس» استغنت عن نحو 1200 موظف بمجال الإشراف على المحتوى
شعار منصة «إكس» (رويترز)
استغنت منصة «إكس»، التابعة للملياردير إيلون ماسك، عن أكثر من 1200 موظف في العالم في الأقسام المعنية بالإشراف على المحتويات، وفق أرقام جديدة نشرتها، اليوم (الخميس)، الهيئة الأسترالية الناظمة لقطاع الإنترنت، بحسب «وكالة الصحافة الفرنسية».
وعدّت هيئة «eSafety»، المعنية بتنظيم قطاع الإنترنت في أستراليا، أن هذه «الاقتطاعات العميقة»، وإعادة تفعيل آلاف الحسابات المحظورة، قد خلقت «أسوأ موقف» على صعيد نشر المحتويات السلبية عبر المنصة.
وفي الأشهر الأخيرة، ركّزت الهيئة التنظيمية بشكل خاص على منصة «إكس»، بعدما أكدت سابقاً أن شراءها من جانب إيلون ماسك تزامَن مع درجة قصوى من «السمية والكراهية» عبر المنصة المعروفة سابقاً باسم «تويتر».
الملياردير الأميركي إيلون ماسك (رويترز)
وباستخدام القانون الأسترالي للسلامة على الإنترنت، حصلت هيئة السلامة الإلكترونية على قائمة مفصلة بمهندسي البرمجيات ومشرفي المحتوى وغيرهم من موظفي الأمن العاملين في «إكس».
وأوضحت مفوضة الهيئة التنظيمية الأسترالية، جولي إنمان غرانت، وهي موظفة سابقة في «تويتر»، أن هذه المرة الأولى التي يتم فيها إعلان هذه الأرقام.
وبيّنت الأرقام أن 1213 متخصصاً في طاقم الإشراف، بينهم متعاونون خارجيون، تركوا منصة «إكس» منذ الاستحواذ عليها من جانب إيلون ماسك في أكتوبر (تشرين الأول) 2022، 80 في المائة منهم من مهندسي البرمجيات.
وقالت لـ«وكالة الصحافة الفرنسية»: «إن الاستغناء عن 80 في المائة من هؤلاء المهندسين المتخصصين أشبه باستغناء (فولفو)، المشهورة بمعايير السلامة الخاصة بها، عن مصمميها أو مهندسيها جميعاً».
ووفقاً لها، فإن هذا هو «الوضع الأسوأ. فأنت تخفض دفاعاتك بشكل كبير وتعيد مجدداً إدخال مرتكبي الانتهاكات المتكررة إلى المنصة».
وقادت أستراليا الجهود العالمية لتنظيم وسائل التواصل الاجتماعي؛ ما أجبر شركات التكنولوجيا على شرح كيفية تعاملها مع قضايا مثل خطاب الكراهية والاعتداء الجنسي على الأطفال.
في أكتوبر، فرضت هيئة السلامة الإلكترونية على «إكس» غرامة قدرها 610 آلاف و500 دولار أسترالي، أو 410 آلاف دولار أميركي، قائلة إن المنصة «فشلت في إثبات أنها تكافح انتشار محتوى الاعتداء الجنسي ضد القاصرين بشكل واضح».
لكن «إكس» تجاهلت المهلة النهائية لدفع الغرامة، قبل أن تتخذ إجراءات قانونية لإلغائها.
فتح الاتحاد الأوروبي، الثلاثاء، تحقيقاً في قيام برنامج الدردشة الآلي «غروك» على منصة «إكس» والمدعوم بالذكاء الاصطناعي، بتوليد صور جنسية بتقنية التزييف العميق.
دراسة تحذّر من الاعتماد على الذكاء الاصطناعي لتوليد كلمات المرورhttps://aawsat.com/%D8%AA%D9%83%D9%86%D9%88%D9%84%D9%88%D8%AC%D9%8A%D8%A7/5242102-%D8%AF%D8%B1%D8%A7%D8%B3%D8%A9-%D8%AA%D8%AD%D8%B0%D9%91%D8%B1-%D9%85%D9%86-%D8%A7%D9%84%D8%A7%D8%B9%D8%AA%D9%85%D8%A7%D8%AF-%D8%B9%D9%84%D9%89-%D8%A7%D9%84%D8%B0%D9%83%D8%A7%D8%A1-%D8%A7%D9%84%D8%A7%D8%B5%D8%B7%D9%86%D8%A7%D8%B9%D9%8A-%D9%84%D8%AA%D9%88%D9%84%D9%8A%D8%AF-%D9%83%D9%84%D9%85%D8%A7%D8%AA-%D8%A7%D9%84%D9%85%D8%B1%D9%88%D8%B1
دراسة تحذّر من الاعتماد على الذكاء الاصطناعي لتوليد كلمات المرور
يلجأ كثيرون إلى أنظمة الذكاء الاصطناعي لإنشاء كلمات مرور جديدة؛ حيث يقترح النظام في غضون لحظات كلمة مرور ويؤكد بثقة أنها قوية وآمنة.
ووفقاً لبحث لشركة «إرّيغلر» المتخصصة في الأمن السيبراني القائم على الذكاء الاصطناعي، فإن النماذج الرئيسية الثلاثة -«شات جي بي تي» و«كلاود» و«جيميناي»- أنتجت كلمات مرور يسهل التنبؤ بها، ما دفع دان لاهاف، المؤسس المشارك لشركة «إرّيغلر»، إلى توجيه نداء بشأن استخدام الذكاء الاصطناعي في إنشائها.
وقال لشبكة «سكاي نيوز» البريطانية: «يجب عليك ألا تفعل ذلك بالتأكيد. وإذا فعلت ذلك، فعليك تغيير كلمة مرورك فوراً. ونعتقد أن هذه المشكلة غير معروفة بما يكفي».
تُعدّ الأنماط القابلة للتنبؤ عدواً للأمن السيبراني الجيد؛ لأنها تعني إمكانية تخمين كلمات المرور بواسطة الأدوات الآلية التي يستخدمها مجرمو الإنترنت.
ولكن نظراً لأن نماذج اللغة الكبيرة (LLMs) لا تُنشئ كلمات مرور عشوائياً؛ بل تستخلص النتائج بناءً على أنماط في بيانات التدريب الخاصة بها، فإنها لا تُنشئ في الواقع كلمة مرور قوية؛ بل تُنشئ -فقط- ما يبدو كلمة مرور قوية؛ لكنها يسهل التنبؤ بها.
وتحتاج بعض كلمات المرور التي تُنشئها أنظمة الذكاء الاصطناعي إلى تحليل رياضي لكشف نقاط ضعفها، ولكن كثيراً منها نمطي لدرجة أنه واضح للعيان.
فعلى سبيل المثال، في عينة من 50 كلمة مرور أنشأها برنامج «إرّيغلر» باستخدام برنامج «كلاود إيه آي»، وجد أن منها 23 كلمة مرور فريدة فقط. إحدى كلمات المرور (K9#mPx$vL2nQ8wR) استُخدمت 10 مرات.
وحسب الشبكة البريطانية، كان أداء كل من «شات جي بي تي» من شركة «أوبن إيه آي» و«جيميناي» من «غوغل» أقل انتظاماً بعض الشيء، ولكنهما مع ذلك أنتجا كلمات مرور متكررة، وأنماطاً متوقعة في أحرف كلمات المرور.
كما كان نظام «نانوبانانا» من «غوغل» -وهو نظام لتوليد الصور- عرضة للخطأ نفسه عند تكليفه بإنشاء صور لكلمات المرور على أوراق لاصقة.
ويقول لاهاف: «أفضل تقدير لدينا هو أنه في الوقت الحالي، إذا كنت تستخدم نماذج التعلم الآلي لإنشاء كلمات المرور، فبإمكان حتى أجهزة الكومبيوتر القديمة اختراقها في وقت قصير نسبياً».
وفي السياق، قدَّم غرايم ستيوارت، رئيس القطاع العام في شركة الأمن السيبراني «تشيك بوينت»، بعض التطمينات، وقال: «الخبر السار هو أن هذه إحدى المشكلات الأمنية النادرة التي يمكن حلها بسهولة، فمن حيث مدى خطورتها، تندرج ضمن فئة «المشكلات التي يمكن تجنبها، والتي يكون تأثيرها كبيراً عند حدوثها»، وليست من فئة «الجميع مُعرّض للاختراق».
ولاحظ خبراء آخرون أن المشكلة تكمن في كلمات المرور نفسها، المعروفة بسهولة اختراقها، وقال روبرت هان، الخبير التقني في شركة «إن ترست»: «توجد طرق مصادقة أقوى وأسهل»، ونصح باستخدام كلمات مرور مثل التعرف على الوجه وبصمة الإصبع كلما أمكن، وإذا لم يكن ذلك خياراً متاحاً، فالنصيحة هي: اختر عبارة طويلة يسهل تذكرها، ولا تستخدم الذكاء الاصطناعي.
أعلنت منصة الفيديو «يوتيوب»، مساء أمس الثلاثاء، أنها عالجت العطل الذي أثّر على مئات الآلاف من مستخدميها في مختلف أنحاء العالم.
وأوضحت الشركة، على صفحة مساعدة المستخدمين: «حُلَّت المشكلة التي طرأت على نظام التوصيات، وعادت كل منصاتنا (...) إلى وضعها الطبيعي».
كان الموقع قد أفاد، قبل ذلك، بوجود «مشكلة» في نظام «التوصيات»، ما كان «يحول دون ظهور مقاطع الفيديو» على «يوتيوب»، بما في ذلك على التطبيق وعلى «يوتيوب كيدز».
وأشار موقع «داون ديتيكتور» المتخصص إلى أن أكثر من 300 ألف بلاغ عن مشاكل في الدخول إلى «يوتيوب» قُدّمت، وصلت إلى ذروتها قرابة الأولى بعد منتصف الليل بتوقيت غرينتش، وفق ما أفادت «وكالة الصحافة الفرنسية».
ويبلغ عدد المستخدمين النشِطين لموقع «يوتيوب»، التابع لمجموعة «غوغل»، أكثر من مليارين ونصف المليار شهرياً.
بسبب محتوى فاضح... تدقيق عالمي في روبوت الدردشة «غروك»https://aawsat.com/%D8%AA%D9%83%D9%86%D9%88%D9%84%D9%88%D8%AC%D9%8A%D8%A7/5241913-%D8%A8%D8%B3%D8%A8%D8%A8-%D9%85%D8%AD%D8%AA%D9%88%D9%89-%D9%81%D8%A7%D8%B6%D8%AD-%D8%AA%D8%AF%D9%82%D9%8A%D9%82-%D8%B9%D8%A7%D9%84%D9%85%D9%8A-%D9%81%D9%8A-%D8%B1%D9%88%D8%A8%D9%88%D8%AA-%D8%A7%D9%84%D8%AF%D8%B1%D8%AF%D8%B4%D8%A9-%D8%BA%D8%B1%D9%88%D9%83
شعار روبوت الدردشة «غروك» من «إكس إيه آي» التابعة لشركة «إكس» (رويترز)
واشنطن:«الشرق الأوسط»
TT
واشنطن:«الشرق الأوسط»
TT
بسبب محتوى فاضح... تدقيق عالمي في روبوت الدردشة «غروك»
شعار روبوت الدردشة «غروك» من «إكس إيه آي» التابعة لشركة «إكس» (رويترز)
تشنّ حكومات وجهات تنظيمية حول العالم حملة على محتوى جنسي فاضح ينتجه روبوت الدردشة «غروك» من «إكس إيه آي» التابعة لشركة «إكس» المملوكة للملياردير إيلون ماسك، تشمل تحقيقات وحظراً، وتطالب بضمانات، في إطار مسعى عالمي متنامٍ للحد من المواد غير القانونية. فيما يلي بعض ردود الفعل من حكومات وجهات تنظيمية حول العالم...
أوروبا
- فتحت المفوضية الأوروبية في 26 يناير (كانون الثاني) تحقيقاً بشأن ما إذا كان «غروك» ينشر محتوى غير قانوني في الاتحاد الأوروبي، يشمل صوراً جنسية معدلة. ويدرس التحقيق ما إذا كانت شركة «إكس» قيّمت المخاطر وحدّت منها على النحو المطلوب بموجب القواعد الرقمية للاتحاد.
- مددت المفوضية في 8 يناير أمراً أرسلته إلى «إكس» العام الماضي، يلزمها بالاحتفاظ بجميع الوثائق والبيانات الداخلية المتعلقة بـ«غروك» حتى نهاية 2026.
- فتحت هيئة حماية البيانات في آيرلندا تحقيقاً بشأن «غروك» في 17 فبراير (شباط) لاختبار طريقة تعامله مع البيانات الشخصية وقدراته على إنتاج صور ومقاطع فيديو جنسية ضارة بأشخاص، من بينهم قصر. وتشرف الهيئة على شركة «إكس» داخل الاتحاد، حيث يقع مقرها الأوروبي في آيرلندا.
- قال رئيس الوزراء الإسباني بيدرو سانتشيث إن الحكومة أمرت مدعين بالتحقيق مع شركات «إكس» و«ميتا» و«تيك توك» بتهمة توزيع مواد مولدة بالذكاء الاصطناعي تستغل الأطفال جنسياً.
- فتحت هيئة تنظيم الاتصالات البريطانية (أوفكوم) تحقيقاً بشأن «إكس» لتحديد ما إذا كانت الشركة قد أخلت بواجبها في حماية المستخدمين في بريطانيا من المحتوى الذي قد يكون غير قانوني بموجب إطار عمل قانون السلامة على الإنترنت، عن طريق إنتاج «غروك» مقاطع فيديو مزيفة عن علاقات جنسية.
- داهمت وحدة مكافحة الجرائم الإلكترونية التابعة لمكتب المدعي العام في باريس مقر شركة «إكس» في العاصمة الفرنسية يوم 3 فبراير (شباط)، وأمرت ماسك بالردّ على أسئلة ستوجه إليه في أبريل (نيسان) ضمن تحقيق موسع عما يقال عن تحيز الخوارزميات والتواطؤ في احتجاز ونشر صور أطفال ذات طبيعة إباحية وانتهاك حقوق الأفراد في الصور الشخصية، من خلال تزييفها بمحتوى جنسي فاضح.
- حذّرت هيئة حماية البيانات الإيطالية من أن استخدام أدوات الذكاء الاصطناعي لإنشاء صور مزيفة بدقة عالية و«فاضحة» لأشخاص حقيقيين دون موافقة يشكل انتهاكات خطيرة للخصوصية، ويشكل في بعض الحالات أيضاً جرائم جنائية.
شعار روبوت الدردشة «غروك» يظهر على شاشتين (أ.ف.ب)
آسيا
- أرسلت وزارة تكنولوجيا المعلومات في الهند مذكرة رسمية إلى «إكس» في 2 يناير بشأن اتهامات عن إنتاج صور جنسية فاضحة باستخدام إمكانات «غروك» وتداولها، وطالبت بإزالة هذا المحتوى، وطلبت تقريراً عن الإجراءات التي ستتخذ خلال 72 ساعة.
- حقّقت اليابان أيضاً مع «إكس» بشأن «غروك»، وقالت إن الحكومة ستدرس كل الخيارات الممكنة لمنع توليد صور غير لائقة.
- قالت وزارة الاتصالات والشؤون الرقمية في إندونيسيا إنها حظرت الوصول إلى «غروك»، وهي خطوة قالت وزيرة الاتصالات الإندونيسية، ميوتيا حفيظ، إنها تهدف إلى حماية النساء والأطفال من المحتوى الإباحي المزيف الذي ينتجه الذكاء الاصطناعي، مستندة إلى قوانين البلاد الصارمة لمكافحة تداول المواد الإباحية.
- ذكرت هيئة تنظيم الاتصالات في ماليزيا، يوم 23 يناير، أن البلاد أعادت إمكانية دخول المستخدمين على «غروك» بعد أن طبّقت «إكس» إجراءات أمان إضافية.
- أعلنت وحدة مكافحة الجرائم الإلكترونية في الفلبين، يوم 21 يناير، إعادة تفعيل «غروك» بعد أن تعهدت الشركة المطورة بإزالة أدوات التلاعب بالصور، التي أثارت مخاوف بشأن سلامة الأطفال.
الأميركتان
- قال حاكم ولاية كاليفورنيا والمدعي العام، في 14 يناير، إنهما طالبا «إكس إيه آي» بالردّ، في ظل انتشار صور جنسية على منصتها من دون موافقة المستخدمين.
- ذكرت هيئة حماية الخصوصية في كندا أنها توسع نطاق تحقيق قائم بشأن «إكس»، بعد ورود تقارير عن إنتاج «غروك» صوراً مفبركة ذات محتوى جنسي فاضح من دون موافقة المستخدمين.
- قالت الحكومة ومدعون في البرازيل، في بيان مشترك، صدر يوم 20 يناير، إنهما أمهلا شركة «إكس إيه آي» مهلة مدتها 30 يوماً لمنع روبوت الدردشة من نشر محتوى جنسي مفبرك.
منطقة الأوقيانوس
- قالت الهيئة المعنية بالسلامة الإلكترونية على الإنترنت في أستراليا (إي سيفتي)، في 7 يناير، إنها تحقق في صور جنسية رقمية «فاضحة» جرى إنتاجها بتزييف بالغ الدقة بواسطة «غروك»، وتقيّم محتوى إباحياً بموجب برنامجها المخصص لمكافحة الانتهاكات عبر الصور، مشيرة إلى أن الأمثلة الحالية المتعلقة بالأطفال التي راجعتها لا تفي بالحدّ القانوني لمواد تمثل انتهاكات جنسية للأطفال، بموجب القانون الأسترالي.
كيف ردّت «إكس إيه آي»؟
- قالت الشركة، في 14 يناير، إنها فرضت على مستخدمي «غروك» قيوداً على استخدام ميزة تعديل الصور، ومنعتهم بناء على مواقعهم الجغرافية من توليد صور لأشخاص يرتدون ملابس فاضحة في «المناطق التي يعدّ فيها ذلك غير قانوني». ولم تحدد هذه الدول.
- قصرت الشركة في وقت سابق استخدام خاصيتي توليد «غروك» للصور وتعديلها على من يدفعون اشتراكات فقط.
