أنظمة الذكاء الاصطناعي تقرصن مجدداً شركات خاصة

إعلان «أنثروبيك» بعد «أوبن إيه آي» يؤجج المخاوف

شعارا شركتي «أوبن إيه آي» و«أنثروبيك» (رويترز)

أعلنت شركة «أنثروبيك» الأميركية المتخصصة في الذكاء الاصطناعي، في بيان، الخميس، أن نماذجها تمكّنت من «الوصول من دون إذن» إلى أنظمة ثلاث منظمات خلال اختبارات كانت معدّة أساساً لمنعها من الوصول إلى أنظمة «فعلية». يأتي هذا الإعلان بعد أيام قليلة من إعلان منافستها «أوبن إيه آي»، أن اثنين من نماذجها خرجا، بشكل مستقل ومن دون توجيه خارجي، من بيئة مغلقة كانا يُختبران فيها لمهاجمة موقع «هاغينغ فايس» الإلكتروني.

وكشفت عمليات القرصنة هذه، التي يعود تاريخها إلى أبريل (نيسان) الماضي، خلال مراجعة أجرتها «أنثروبيك» لأنظمتها، من دون أن تكشف أسماء المنظمات الثلاث، لكنها أكدت أنها أبلغتها هذا الأسبوع بالحادثتين، اللتين يرجح أن تُؤججا النقاشات الدائرة حول ما إذا كانت نماذج الذكاء الاصطناعي المتقدمة قادرة على التسبب في مشاكل أمنية واسعة النطاق، وهي المشاكل التي هزت قطاع التكنولوجيا ودفعت البيت الأبيض للتدخل لاحتواء المخاطر المحتملة.

أثارت هذه الحوادث قلق خبراء الأمن السيبراني. فعلى مدى سنوات، حذّر باحثو الذكاء الاصطناعي من أن التطور السريع للنماذج المتقدّمة، مثل «كلود» و«جي بي تي»، يمكن أن يؤدي إلى خروجها عن سيطرة الإنسان، وهو سيناريو مقلق لطالما حذرت منه الصناعة.

ويرجح أن تساهم الهجمات غير المتوقعة من الذكاء الاصطناعي في تأجيج النقاش المحتدم في وادي السيليكون، بكاليفورنيا، وواشنطن حول إمكان تنظيم هذه التقنية.

وفي البداية، اتخذت إدارة الرئيس دونالد ترمب نهجاً متحفظاً، لكنها أشارت في الأشهر الأخيرة إلى أنها تُصغي للمخاوف في شأن الذكاء الاصطناعي، ما أثار حالاً من الذعر في وادي السيليكون إزاء حقبة جديدة من تنظيم التكنولوجيا.

ثغرات أمنية وأخطاء بشرية

وأعلنت «أوبن إيه آي»، الأسبوع الماضي، أن اثنين من نماذجها للذكاء الاصطناعي استغلا ثغرة أمنية غير معروفة سابقاً لاختراق بيئة اختبار كان من المفترض أن تكون معزولة عن الإنترنت، ثم شنّا هجوماً على تطبيق «هاغينغ فايس»، موضحة أن أحد هذين النموذجين، الذي لم يُنشر للعامة، تعطل نهائياً بعد الهجوم.

وخلافاً لنماذج «أوبن إيه آي»، أفادت «أنثروبيك» أن تقنيتها لم تخترق بيئة الاختبار الخاصة بها عمداً، مضيفة أن المشكلة كانت خطأً بشرياً. وترك القائمون على الاختبارات أنظمة «أنثروبيك» متصلة بالإنترنت عن غير قصد، وهو «خلل في الإعدادات» سمح لنماذجها بالوصول إلى بنية شركات أخرى.

وفي إحدى الحالات، أدرك أحدث نموذج من «أنثروبيك» أنه متصل بالإنترنت، فتوقف عن هجومه. وأضافت «أنثروبيك» أن نماذجها لم تستغل أي ثغرة أمنية غير معروفة سابقاً، بل اعتمدت على «تقنيات أساسية» مثل كلمات المرور الضعيفة والبرمجيات الخبيثة لاختراق أنظمة الأهداف.

وأصدرت «أنثروبيك» و«أوبن إيه آي» هذا العام نماذج ذكاء اصطناعي تركز على الأمن السيبراني. وأتاحتا هذه النماذج لعدد محدود من المؤسسات، كالحكومات والشركات التي تدير بنى تحتية حيوية، محذرتين من أن هذه الأدوات بالغة التقدّم، بحيث لا يمكن مشاركتها مع عامة الناس. وأكدت مختبرات الذكاء الاصطناعي أن هذه النماذج، في حال وقوعها في الأيدي الخطأ، قد تُستخدم لشنّ هجمات سيبرانية واسعة النطاق.

إبطاء وتيرة التطور

وفي رسالة مفتوحة، نُشرت هذا الأسبوع، دعا موظفون من مختبرات رائدة في مجال الذكاء الاصطناعي الحكومة الأميركية إلى إبطاء وتيرة تطوير شركاتهم للذكاء الاصطناعي، لضمان سلامة هذه التقنية. وكتبوا في رسالتهم: «هناك خطر حقيقي يتمثل في تسارع تطوير القدرات بشكل يفوق قدرتنا على فهم الأنظمة الناتجة أو التحكم بها».

وأبدت «أنثروبيك» انفتاحاً أكبر على التنظيم مقارنة بشركات الذكاء الاصطناعي الأخرى، مؤكدة أنها ستواصل مراقبة ما تُطوره عن كثب تحسباً لأي مخاطر محتملة. وأضافت: «يمكن التغلب على هذا النوع من المخاطر».