تقرير: بعض أنظمة الذكاء الاصطناعي استخدمت صور اعتداء جنسي على أطفالhttps://aawsat.com/%D8%AA%D9%83%D9%86%D9%88%D9%84%D9%88%D8%AC%D9%8A%D8%A7/4743011-%D8%AA%D9%82%D8%B1%D9%8A%D8%B1-%D8%A8%D8%B9%D8%B6-%D8%A3%D9%86%D8%B8%D9%85%D8%A9-%D8%A7%D9%84%D8%B0%D9%83%D8%A7%D8%A1-%D8%A7%D9%84%D8%A7%D8%B5%D8%B7%D9%86%D8%A7%D8%B9%D9%8A-%D8%A7%D8%B3%D8%AA%D8%AE%D8%AF%D9%85%D8%AA-%D8%B5%D9%88%D8%B1-%D8%A7%D8%B9%D8%AA%D8%AF%D8%A7%D8%A1-%D8%AC%D9%86%D8%B3%D9%8A-%D8%B9%D9%84%D9%89-%D8%A3%D8%B7%D9%81%D8%A7%D9%84
تقرير: بعض أنظمة الذكاء الاصطناعي استخدمت صور اعتداء جنسي على أطفال
بعض أنظمة توليد الصور باستخدام الذكاء الاصطناعي اعتمدت على الآلاف من صور الاعتداء الجنسي على الأطفال (رويترز)
نيويورك:«الشرق الأوسط»
TT
نيويورك:«الشرق الأوسط»
TT
تقرير: بعض أنظمة الذكاء الاصطناعي استخدمت صور اعتداء جنسي على أطفال
بعض أنظمة توليد الصور باستخدام الذكاء الاصطناعي اعتمدت على الآلاف من صور الاعتداء الجنسي على الأطفال (رويترز)
ذكر تقرير جديد أن بعض أنظمة توليد الصور باستخدام الذكاء الاصطناعي اعتمدت على الآلاف من صور الاعتداء الجنسي على الأطفال، وذلك دون موافقة أسرهم.
ووفقا للتقرير، الذي نقلته وكالة أنباء «أسوشييتد برس»، فقد سهلت هذه الصور على أنظمة الذكاء الاصطناعي إنتاج صور صريحة لأطفال مزيفين، بالإضافة إلى تحويل صور وسائل التواصل الاجتماعي الخاصة بمراهقين حقيقيين يرتدون ملابس كاملة إلى صور عارية، الأمر الذي أثار قلق المدارس وجهات إنفاذ القانون في جميع أنحاء العالم.
وحتى وقت قريب، اعتقد الباحثون في مجال مكافحة إساءة استخدام الإنترنت والجرائم السيبرانية أن الطريقة الوحيدة التي تنتج بها بعض أدوات الذكاء الاصطناعي غير الخاضعة للرقابة صوراً مسيئة للأطفال هي من خلال الدمج بين مجموعتين منفصلتين من الصور المتاحة عبر الإنترنت، هما المواد الإباحية للبالغين والصور العادية الخاصة بالأطفال.
لكن التقرير الجديد الذي أصدره مرصد الإنترنت بجامعة ستانفورد عثر على أكثر من 3200 صورة للاعتداء الجنسي على الأطفال في قاعدة بيانات الذكاء الاصطناعي العملاقة LAION، والتي تستخدمها أشهر أنظمة توليد الصور بالذكاء الاصطناعي مثل Stable Diffusion.
وعمل المرصد مع المركز الكندي لحماية الطفل وغيره من الجمعيات الخيرية المناهضة لإساءة استخدام الإنترنت لتحديد المواد غير القانونية والإبلاغ عن روابط الصور الأصلية إلى جهات إنفاذ القانون.
وعقب إصدار تقرير مرصد ستانفورد أمس (الأربعاء)، قالت LAION للوكالة إنها قامت بإزالة قاعدة البيانات الخاصة بها مؤقتاً.
وأوضحت LAION في بيان لها: «نحن ننتهج سياسة عدم التسامح مطلقاً مع المحتوى غير القانوني، وفي ظل قدر كبير من الحذر، قمنا بإزالة قاعدة البيانات الخاصة بنا للتأكد من أنها آمنة قبل إعادتها مرة أخرى».
وأكد تقرير ستانفورد على أهمية عدم إدخال صور الأطفال، حتى الصور الأكثر اعتدالا، في أنظمة الذكاء الاصطناعي دون موافقة أسرهم.
ابتكر باحثون بجامعة كمبردج نموذجاً للتعلم الآلي يمكنه التنبؤ بتطور مشاكل الذاكرة والتفكير الخفيفة إلى مرض ألزهايمر بدقة أكبر من الأدوات السريرية.
نسيم رمضان (لندن)
«كراود سترايك»: 97 % من أجهزة استشعار «ويندوز» عادت للعملhttps://aawsat.com/%D8%AA%D9%83%D9%86%D9%88%D9%84%D9%88%D8%AC%D9%8A%D8%A7/5044056-%D9%83%D8%B1%D8%A7%D9%88%D8%AF-%D8%B3%D8%AA%D8%B1%D8%A7%D9%8A%D9%83-97-%D9%85%D9%86-%D8%A3%D8%AC%D9%87%D8%B2%D8%A9-%D8%A7%D8%B3%D8%AA%D8%B4%D8%B9%D8%A7%D8%B1-%D9%88%D9%8A%D9%86%D8%AF%D9%88%D8%B2-%D8%B9%D8%A7%D8%AF%D8%AA-%D9%84%D9%84%D8%B9%D9%85%D9%84
«كراود سترايك»: 97 % من أجهزة استشعار «ويندوز» عادت للعمل
«كراود سترايك» هي شركة تكنولوجيا أميركية عملاقة تقدر قيمتها بأكثر من 80 مليار دولار (شاترستوك)
بعد أسبوع من الأزمة العالمية التي تسببت بها شركة «كراود سترايك» عندما أثّر تحديث في نحو 8.5 مليون جهاز يعمل بنظام «ويندوز»، سارع جورج كورتز، رئيس الشركة، إلى بثّ رسالة طمأنة، مؤكداً فيها أن 97 في المائة من أجهزة استشعار «ويندوز» عادت للعمل اعتباراً من 25 يوليو (تموز). وقال كورتز إن نجاح ذلك يعود إلى تطوير تقنيات الاسترداد التلقائي، وتعبئة جميع الموارد لدعم العملاء. كما أصدرت الشركة مراجعة أولية لما بعد الحادث (PIR) تشرح من خلالها السبب الجذري للعطل.
ماذا حدث؟
في يوم الجمعة 19 يوليو، أصدرت «كراود سترايك» تحديثاً لتكوين المحتوى لمستشعر «ويندوز» لجمع القياس عن بُعد حول تقنيات التهديد الجديدة المحتملة. وتعدّ مثل هذه التحديثات روتينية، وهي جزء من آليات الحماية الديناميكية لمنصة «فالكون». تقول الشركة: «لسوء الحظ، أدى تحديث تكوين محتوى الاستجابة السريعة هذا إلى تعطل نظام (ويندوز)».
شملت الأنظمة المتأثرة أجهزة تعمل بنظام «ويندوز» بإصدار المستشعر (7.11) وما فوق، التي كانت متصلة بالإنترنت وتلقت التحديث في ذلك التوقيت. لم تتأثر أجهزة «ماك»، و«لينكس» كما ذكرت الشركة في تقريرها، وأنه تم إصلاح الخلل بسرعة.
أثّر الانقطاع في العملاء بما في ذلك شركات الطيران والقطارات والمطارات وأنظمة الدفع ومحلات السوبر ماركت (شاترستوك)
ما الخطأ بحسب «كراود سترايك»؟
في فبراير (شباط) 2024، قدمت الشركة نوع قالب «InterProcessCommunication (IPC)» الجديد المصمم للكشف عن تقنيات الهجوم المتطورة. اجتاز نوع القالب هذا الاختبارات الأولية في 5 مارس (آذار)، مما دفع إلى إصدار نموذج قالب مماثل. بين 8 و24 أبريل (نسيان)، تم نشر 3 نماذج قالب «IPC» أخرى، وجميعها يعمل دون التسبب في مشكلات لملايين أجهزة «ويندوز». ويشار إلى أن أجهزة «لينكس (Linux)» واجهت بعض المشكلات مع «كراود سترايك» في أبريل الماضي.
في 19 يوليو، أصدرت «كراود سترايك» نموذجين إضافيين لقالب «IPC». تقول الشركة إنه «لسوء الحظ، احتوى أحد هذين النموذجين على (بيانات محتوى تسبب المشكلات) وتم نشره بسبب خطأ في «محقق المحتوى». وفي حين أن الدور المحدد لمحقق المحتوى غير مفصل، فمن المفترض أنه يتحقق من المحتوى بحثاً عن أخطاء قبل الإصدار.
سمح هذا الإهمال بتشغيل «Template Instance»، وهو في الأساس تطبيق محدد لقالب عام يحتوي على أخطاء أو تناقضات، شُغل استناداً إلى الافتراض الخاطئ بأن الاختبارات الناجحة لأنواع النماذج السابقة ضمنت سلامة إصدار 19 يوليو. أثبت هذا الافتراض أنه كارثي، مما أدى إلى «قراءة ذاكرة خارج الحدود تؤدي إلى حدوث استثناء». أدى هذا الاستثناء غير المعالج إلى تعطل نظام التشغيل «ويندوز» على نحو 8.5 مليون جهاز.
رداً على هذا الحادث، التزمت «كراود سترايك» بإجراء اختبارات أكثر صرامة لمحتوى الاستجابة السريعة في المستقبل. وأعلنت أنها تخطط لتأخير الإصدارات، ومنح المستخدمين مزيداً من التحكم في توقيت النشر، وتوفير ملاحظات إصدار شاملة.
خطأ بشري كان السبب!
في حديث خاص لـ«الشرق الأوسط»، يرى ماهر يمّوت باحث أمني رئيسي في فريق البحث والتحليل العالمي لدى شركة «كاسبرسكي» أن السبب المحدد لانقطاع الخدمة المفاجئ لا يُعد محورياً هنا». ويشرح يمّوت أن «ما يهم هو أن خطأ بشرياً أو خطأ في العملية أدى إلى تحديث سيئ، مما تسبب في تعطل الأنظمة العالمية.» ولتقليل احتمال حدوث ذلك في المستقبل، ينصح يمّوت «بضرورة تنفيذ عملية التحديث على جانب العميل لترتيب التحديثات، بدلاً من الاعتماد فقط على التحديثات التلقائية من المصدر».
يُتخوَّف من استغلال المقرصنين لحادثة «كراود سترايك» لإنشاء مواقع ويب وهمية للاسترداد وصفحات تصيّد أخرى (شاترستوك)
استغلال من المقرصنين
كان خبراء ووكالات الأمن السيبراني قد حذّروا من موجات قرصنة قد يتعرّض لها المستخدمون مرتبطة بالحادث. وطالبت وكالات الأمن السيبراني في المملكة المتحدة وأستراليا الأشخاص بتوخي الحذر من رسائل البريد الإلكتروني والمكالمات والمواقع الإلكترونية المزيفة التي تتظاهر بأنها رسمية. وقالت الوكالات إنها لاحظت بالفعل زيادة في عمليات التصيد الاحتيالي التي تشير إلى هذا الانقطاع، حيث تسعى الجهات الخبيثة الانتهازية إلى الاستفادة من الموقف. وحث جورج كورتز، رئيس شركة «كراود سترايك» المستخدمين على التأكد من التحدث إلى ممثلين رسميين من الشركة قبل تحميل أي تحديثات.
وأفاد ماهر يمّوت بأن مجرمي الإنترنت يقومون بإنشاء مواقع ويب وهمية للاسترداد، وصفحات تصيد أخرى لمحاولة خداع المستخدمين المتأثرين بانقطاع تكنولوجيا المعلومات هذا. وأوضح خلال حديثه لـ«الشرق الأوسط» أن ذلك يسمى «تكتيك الهندسة الاجتماعية الذي يستخدمه المحتالون غالباً لاستغلال الأشخاص في أثناء حوادث عالمية مماثلة».
تفسيرات ومناقشات واسعة النطاق
أثار الحادث مناقشات وانتقادات كثيرة دفعت البعض للتعمق في الكود المحدد الذي أدى إلى التعطل، بينما يشكك آخرون في فاعلية العمليات الداخلية لشركة «كراود سترايك». وقد تم استدعاء الرئيس التنفيذي لشرح هذا الفشل من قبل لجنة الأمن الداخلي الأميركية، مسلطاً الضوء على أهمية الحدث. وقد تسبب الحادث في اضطرابات تتجاوز المجال التقني، مؤثراً في الشركات والأفراد الذين يعتمدون على عمليات الكومبيوتر المستمرة، العاملة بنظام «ويندوز».
يؤكد خطأ «كراود سترايك» أهمية عمليات الاختبار والتحقق القوية في تطوير البرامج، خصوصاً لمنتجات الأمان التي تحمي ملايين الأجهزة. وربما يشكّل التزام الشركة بتحسين إجراءاتها والشفافية في التعامل مع العواقب خطوةً حاسمةً في استعادة ثقة المستخدم ومنع وقوع حوادث مماثلة في المستقبل.
