عملت شركة «إريغولار» Irregular الناشئة الإسرائيلية مع شركات «أوبن إيه آي» و«أنثروبيك» و«ميتا» لتقييم أمان نماذج الذكاء الاصطناعي الخاصة بها. لكنها ارتكبت خطأً، ما أدى إلى خروج الاختبارات عن السيطرة، كما كتب شيرا فرنكل، وأسهم داستين فولز (*).
اختراقات «بالخطأ»
وقد اكتشفت شركة «أوبن إيه آي» أخيراً أن نموذجاً جديداً للذكاء الاصطناعي كانت تختبره قد خرج عن السيطرة وقام باختراق شركة أخرى. وبعد ذلك، كشفت شركة «أنثروبيك» أن أحد نماذج الذكاء الاصطناعي التابعة لها قد اخترق أنظمة ثلاث مؤسسات خارجية أثناء إجراء اختبار. وبعد فترة وجيزة، صرّحت شركة «ميتا» بأن نماذج الذكاء الاصطناعي الخاصة بها قد قامت بأمر مماثل.
من «تقييم منع الإساءة» إلى التوغل
اشتركت جميع الحوادث الثلاث في عامل واحد هو شركة «إريغولار» التي تعمل مع عمالقة «وادي السيليكون» لتقييم نماذج الذكاء الاصطناعي قبل طرح هذه التقنية للجمهور. وتُعد هذه الشركة - التي أجرت الاختبارات التي لم تسر كما هو مخطط لها - جزءاً من مجموعة شركات ناشئة تضطلع بمهمة جديدة تتمثل في فحص نماذج الذكاء الاصطناعي المتطورة للغاية لقياس مدى تعقيدها والتحقق من أمانها. والهدف من ذلك هو تعزيز ثقة الجمهور في هذه النماذج ومنع إساءة استخدامها.
وصرّح دان لاهف، الرئيس التنفيذي لشركة «إريغولار» بأن الاختراقات الأخيرة وقعت عندما ارتكبت الشركة خطأً أثناء اختبار النماذج من الشركات الثلاث. لكن نماذج الذكاء الاصطناعي زادت من تعقيد المواقف بتصرفاتها القوية وغير المتوقعة. وأضاف: «كلما ازدادت قوة التكنولوجيا، تعمق تأثيرها، إذ إن وتيرة التقدم سريعة للغاية».
وتجد شركة «إريغولار» نفسها الآن في قلب نقاش حول كيفية تأمين نماذج الذكاء الاصطناعي في ظل تقدم التكنولوجيا بسرعة فائقة تفوقت حتى على أمهر المخترقين البشر. فكل بضعة أشهر، تطلق الشركات الرائدة نماذج «رائدة» (أو نماذج متطورة للغاية) تفوق في قوتها بمراحل كبيرة النماذج السابقة.
نماذج جديدة «بنطاق قدرات تفوق القدرات البشرية»
وفي هذا السياق، قال جيفري لاديش، مدير مؤسسة «Palisade Research» غير الربحية، ومقرها بيركلي بولاية كاليفورنيا، وتدرس قدرات الذكاء الاصطناعي الهجومية، إن النماذج الجديدة بدأت تدخل «نطاق القدرات التي تفوق القدرات البشرية».
حالة «الأعمى الذي يقود أعمى»
وقالت كاتي موسوريس، الرئيسة التنفيذية لشركة «لوتا سيكيوريتي» (Luta Security) -التي تساعد الشركات في البحث عن الثغرات البرمجية- إن اختبار أمان نماذج الذكاء الاصطناعي يشبه إلى حد ما حالة «الأعمى الذي يقود أعمى». وأشارت إلى أنه حتى مطوري الذكاء الاصطناعي يقرون بأنهم لا يدركون تماماً القدرات الكاملة لأحدث نماذجهم.
وأضافت موسوريس: «قد يكون لدينا أذكى العقول في العالم تعمل على نماذج الذكاء الاصطناعي هذه، لكن الأمر يشبه تعامل ماري كوري (الباحثة في الذرة) مع الراديوم بيديها العاريتين؛ فنحن نتعامل مع الذكاء الاصطناعي بأيدينا العاريتين، ولا نعرف كيف نحتويه، ناهيك عن كيفية اختباره بأمان».
شركة «إريغولار»
تأسست شركة «إريغولار» عام 2023 على يد لاهف، وهو باحث سابق في مجال الذكاء الاصطناعي. وتضم الشركة، التي تتخذ من تل أبيب مقراً لها، نحو 45 موظفاً يساعدون في إجراء اختبارات لنماذج الذكاء الاصطناعي على مدار أيام أو أسابيع، وذلك حسب طبيعة النموذج ونوع الاختبار المطلوب. وقد جمعت الشركة الناشئة تمويلاً يقارب 80 مليون دولار من شركات رأس المال الاستثماري.
وتطلب «إريغولار» في الاختبارات المعتادة من نموذج الذكاء الاصطناعي تنفيذ هجوم سيبراني. ويتم إبلاغ النموذج بأنه يعمل في بيئة اختبار آمنة - غالباً ما تكون مفصولة عن الإنترنت وتعمل ضمن بيئة حاسوبية معزولة تُعرف باسم «صندوق الرمل» (sandbox)، وأنه يجب عليه فعل كل ما يلزم لتحقيق الهدف الموكل إليه.
طلب تنفيذ مهمات مستحيلة
وفي بعض الأحيان، تُكلف النماذج بمهمة مستحيلة، ويتم تقييمها بناءً على التقنيات التي تستخدمها لمحاولة تحقيق ذلك الهدف. وفي أحيان أخرى، يتم تقييم النماذج بناءً على مدى فاعليتها في اختراق هدف معين. وتُستخدم هذه التقييمات لتحليل مدى فاعلية النموذج في عمليات الاختراق، ثم توصي «إريغولار» بتدابير وقائية لمنع استخدام النموذج في أغراض ضارة.
«خطأ في الإعدادات» أدى إلى وصول النموذج إلى الإنترنت
وفي الحوادث التي كُشف عنها الشهر الماضي، طلبت «إريغولار» من نماذج الذكاء الاصطناعي التابعة لشركات «أوبن إيه آي» و«ميتا» و«أنثروبيك» اختراق أهداف محددة، إلا أن «خطأً في الإعدادات» أدى إلى تمكين هذه النماذج من الوصول إلى شبكة الإنترنت. وعقب ذلك، قامت نماذج الذكاء الاصطناعي باختراق مؤسسات خارجية، مستغلةً اتصالها بالإنترنت بطرق أثارت دهشة الباحثين.
نموذج «أوبن إيه آي»
وفي الاختبار الذي أجرته الشركة على نموذج «أوبن إيه آي»، منحت «إريغولار» النموذج - عن طريق الخطأ - صلاحية الوصول إلى شبكة الإنترنت. وعقب ذلك، اخترق النموذج موقعاً إلكترونياً يحمل الاسم نفسه لهدف وهمي كان قد كُلِّف باستهدافه أثناء الاختبار. وقد كشفت «أوبن إيه آي» عن هذه الحادثة في تدوينة نُشرت هذا الشهر. وفي سياق منفصل، أجرت الشركة اختباراً داخلياً هاجمت فيه برمجياتها الآلية منصة Hugging Face، وهي مكتبة رقمية لتقنيات الذكاء الاصطناعي.
نموذج «أنثروبيك»
أما خلال اختبار نظام الذكاء الاصطناعي التابع لشركة «أنثروبيك»، فقد واجه نموذج الشركة ثلاث حالات أتيحت له فيها فرصة الوصول إلى الإنترنت، وذلك وفقاً لتقرير مراجعة للحادثة نشرته الشركة نفسها. وفي إحدى تلك الحالات، اختار النموذج عدم المضي قُدماً في الهجوم. وفي المرتين الأخريين، استخدم النموذج تقنيات اختراق بسيطة - مثل استغلال كلمات مرور ضعيفة - لاختراق مواقع إلكترونية. ولم تستجب «أنثروبيك» لطلبات التعليق، كما لم تكشف عن هوية المواقع التي تعرضت للاختراق.
نموذج «ميتا»
وفيما يتعلق بحادثة الاختبار الخاصة بشركة «ميتا»، فإن التفاصيل المتاحة شحيحة؛ إذ ذكرت الشركة أن نماذج الذكاء الاصطناعي التابعة لها اخترقت مؤسسة أخرى أثناء الاختبار الذي أجرته «إريغولار»، وذلك «بطريقة مشابهة لحالات أُبلغ عنها سابقاً مع شركات أخرى»، دون الخوض في مزيد من التفاصيل. وصرّحت «ميتا» قائلة: «نحن نجري تحقيقاً حالياً، وسنصدر تقييماً شاملاً ومفصلاً بمجرد توفر جميع الحقائق لدينا».
وفي تدوينة نُشرت هذا الشهر، أوضح السيد لاهف أن «إريغولار» عالجت خطأ الإعدادات، وأن جميع المشكلات كانت ناجمة عن تلك «المشكلة الجوهرية» الواحدة. كما أشار إلى أن نماذج الذكاء الاصطناعي نفذت المهام المطلوبة منها أثناء الاختبارات؛ إذ عدّ أن قرارات النماذج بالاتصال بالإنترنت كانت جزءاً مما يراه قدرة متنامية بسرعة لدى الذكاء الاصطناعي على إيجاد طرق مختصرة وحلول للعقبات. وباختصار، قال: «لقد أصبحت نماذج الذكاء الاصطناعي بارعة للغاية».
الاختراق كان مشابهاً لاختراق قراصنة تدعمهم دول
وصرّح أندرو شوكا، الرئيس التنفيذي لشركة «Hardshell» المتخصصة في الذكاء الاصطناعي وفي الأمن السيبراني بأن عمليات الاختراق التي نفذتها نماذج الذكاء الاصطناعي كانت من النوع الذي يُنسب عادةً إلى قراصنة تدعمهم دول، الذين يكرسون «أشهراً للتخطيط» لعملياتهم.
وتساءل قائلاً: «كيف يمكنك اختبار نموذج بينما لا تدرك كامل قدراته؟»، مشدداً على ضرورة أن يفترض الباحثون دائماً أن قدرات الذكاء الاصطناعي تفوق التوقعات، وأن يعملوا على إضافة «طبقات متعددة من تدابير الحماية».
إبطاء وتيرة تطوير الذكاء الاصطناعي
وأيدت شركتا «أوبن إيه آي» و«أنثروبيك» رسالةً وقّعها أكثر من 1000 موظف في كبرى شركات الذكاء الاصطناعي، تطالب الحكومة الأميركية بالمساعدة في إيجاد سبل لإبطاء وتيرة تطوير هذه التكنولوجيا. كما طرح مشرعون من الحزبين الجمهوري والديمقراطي مشروع قانون يلزم شركات الذكاء الاصطناعي بتوفير «مفتاح إيقاف طوارئ» (kill switch) لتعطيل نماذجها أو إبطاء عملها عند الضرورة.
* خدمة «نيويورك تايمز»
