انضمت شركة «ميتا» إلى قائمة الشركات التي خرجت أنظمتها الذكية عن السيطرة. فقد أكد متحدث باسم الشركة، أمس (الأربعاء)، أن نموذج ذكاء اصطناعي تابعاً للشركة الأم لـ«فيسبوك» و«إنستغرام» قد اخترق أنظمة شركة أخرى أثناء اختبارات الأمن السيبراني.
وتقول «ميتا» إن الاختراق حدث نتيجة خطأ غير مقصود أثناء اختبار النموذج، على غرار حوادث مماثلة تم الكشف عنها سابقاً مع شركتي «أوبن إيه آي» و«أنثروبيك».
وقال المتحدث باسم «ميتا»: «سمح خطأ في إعدادات شركة إيريجولار، وهي شركة اختبار مستقلة تستخدمها (ميتا)، لأحد نماذجنا بالوصول إلى الإنترنت أثناء التقييم»، وفقاً لما ذكره تقرير لشبكة «سي إن إن» الأميركية.
واستغل نموذج ميوز سبارك التابع لـ«ميتا»، «ثغرة أمنية» في شركة أخرى «بطريقة مشابهة لحالات تم الإبلاغ عنها سابقاً مع شركات أخرى».
وفي بيان لها، قالت إيريجولار إن الحادث «هو نفس مشكلة بيئة التقييم» التي كشفت عنها «أنثروبيك» الأسبوع الماضي، والتي سمحت لنماذجها بالوصول إلى الإنترنت المفتوح قبل أن تتمكن من اختراق أنظمة 3 منظمات مختلفة.
وأضاف المتحدث الرسمي: «لم يتضمن هذا اختراقاً لبيئة الاختبار أو هجوماً إلكترونياً متطوراً. لا توجد حالياً أي مشكلات عالقة. وتعمل شركة Irregular على إعداد ورقة بحثية لمشاركة أفضل الممارسات لاحتواء الثغرات الأمنية وإجراء تقييمات إلكترونية آمنة».
ووفقاً لموقع The Information، الذي كان أول من نشر خبر الحادث، فقد اخترق نموذج الذكاء الاصطناعي التابع لشركة «ميتا» أنظمة شركة لم يُكشف عن اسمها، وأجرى تغييرات على نظامها الداخلي.
وتقول «ميتا» إن Irregular أبلغتها بالاختراق «ونحن نجري تحقيقاً حالياً، وسنصدر تقريراً شاملاً بمجرد حصولنا على جميع الحقائق».
وأفاد مصدر مطلع على الوضع لشبكة «سي إن إن» بأن النماذج تتمتع بوصول محدود إلى الإنترنت في بعض بيئات الاختبار لمحاكاة سيناريوهات التهديدات الواقعية، ولكن في هذه الحالة، كان هناك «خلل نادر في الإعداد».
وأوضح المصدر: «ما يحدث هو أن النماذج أصبحت أكثر قدرة، وفي الوقت نفسه، أصبحت عمليات تقييمها أكثر تعقيداً. وهذا يُفسح المجال لبعض الأخطاء، ويجعلنا بحاجة إلى رفع معاييرنا بشكل كبير».
أصبحت شركة «ميتا» الآن ثالث شركة رئيسية في مجال الذكاء الاصطناعي تكشف في غضون أسابيع قليلة عن نموذج ذكاء اصطناعي يخترق أنظمة شركة أخرى أثناء الاختبار، مما يسلط الضوء ليس فقط على القدرات المتقدمة لوكلاء الذكاء الاصطناعي ولكن أيضاً على بعض المخاطر المحتملة.
