بدأت شركة تطبيقات الذكاء الاصطناعي الأميركية «أوبن. إيه. آي» مطورة تطبيق «شات جي. بي. تي» تشديد إجراءات السلامة في اختبارات الذكاء الاصطناعي بعد قيام برنامج ذكاء اصطناعي بعملية قرصنة رفيعة المستوى في أثناء الاختبارات، بحسب ما ذكرته الشركة في منشور على الإنترنت.
وذكرت «أوبن. إيه. آي» أن الإجراءات تتضمن قيام الأنظمة الآلية بمراقبة أنشطة نماذج الذكاء الاصطناعي خلال الاختبارات بصورة أشد صرامة وإبلاغ المسؤولين البشر بأي سلوك مشبوه يمكن رصده كل 30 دقيقة. وإذا لم يكتشف البشر أن الإنذار خطأ سيتم وقف نشاط نموذج الذكاء الاصطناعي.
والأمر المثير للقلق هو أن الذكاء الاصطناعي تصرف بمبادرة منه تماماً، ولم تكتشف «أوبن. إيه. آي» الهجوم إلا بعد وقوعه. وقد أدى ذلك إلى مطالبات بتعزيز الأمن المحيط باختبارات أنظمة الذكاء الاصطناعي الجديدة.
وظهر لاحقاً أن نماذج طورتها شركتا أنثروبيك المنافسة لـ«أوبن. إيه. آي» وشركة ميتا المالكة لفيسبوك قد اخترقت أيضاً أنظمة شركات أخرى في أثناء الاختبار.
وقد تم تعليق بعض اختبارات نماذج الذكاء الاصطناعي الجديدة لحين تطبيق الإجراءات الجديدة بالكامل.
