يتحول معهد أمن الذكاء الاصطناعي الحكومي، الذي يضم خريجين من شركتي «أوبن إيه آي» و«غوغل»، إلى نموذج يُحتذى به للدول التي تواجه المخاطر الناشئة للذكاء الاصطناعي، كما كتب آدم ساتاريانو وبول موزور(*).
خداع الذكاء الاصطناعي
في أحد الأيام الأخيرة، وفي مبنى حكومي يعود للعصر الإدواردي في ساحة البرلمان بلندن، انشغل أربعة خبراء في الذكاء الاصطناعي بخداع برنامج دردشة آليّ للحصول على تعليمات صنع سلاح الجمرة الخبيثة الفتاك.
طلب الخبراء من البرنامج الآلي، بطرق مختلفة، تزويدهم بقائمة المكونات اللازمة. وعندما رفض النظام قائلاً: «معذرةً، لا أستطيع المساعدة في ذلك»، استخدموا خوارزمية مُخصصة لإغراق البرنامج بآلاف الأسئلة والتوجيهات الآلية.
* إجبار نظام ذكاء اصطناعي على تقديم بيانات لصنع الجمرة الخبيثة
وفي النهاية، استجاب البرنامج، إذ قدَّم قائمة مفصلة بالمواد والمعدات، بالإضافة إلى وصفة خطوة بخطوة لتحضير المزيج القاتل في المنزل. (وقد وافقت صحيفة «نيويورك تايمز» على حجب اسم نظام الذكاء الاصطناعي لأسباب أمنية).
نجاح اختراق الذكاء الاصطناعي
يقول زاندر ديفيز، خبير أميركي يبلغ من العمر 25 عاماً، ويرأس ما يُعرف بفريق الاختبار الأحمر في معهد أمن الذكاء الاصطناعي البريطاني: «هناك بعض الأسئلة التي لا نرغب بالتأكيد أن يُجيب عنها النموذج. (ومع ذلك) نبذل قصارى جهدنا للحصول على الإجابات».
كما تمكَّن ديفيز وفريقه، الذين يُحاكون الهجمات على أنظمة الذكاء الاصطناعي، أخيراً من اختراق إجراءات الحماية في أحدث روبوت محادثة «تشات جي بي تي»، حيث استطاعوا إقناعه بتقديم نصائح للاختراق في غضون ست ساعات تقريباً.
تعاون لتأمين النتائج
وبعد اكتشافهم لتلك المشاكل، يُشارك الخبراء النتائج مع الشركات. ويقول ديفيز، وهو عالم حاسوب اختار العمل في المعهد بدلاً من وظيفة تقنية في سان فرانسيسكو بعد تخرجه في جامعة هارفارد: «إنهم يحاولون إصلاحها، ويُبلغوننا بالنتائج. إنهم في الواقع يُعززون نظامهم بالتعاون معنا».
معهد لمفتشي الأسلحة وعلماء الأوبئة خبراء وفك الشفرات
يُعدّ معهد أمن الذكاء الاصطناعي A.I. Security Institute، الذي يضمّ مزيجاً من مفتشي الأسلحة وعلماء الأوبئة وخبراء فكّ الشفرات، أحد أكبر الجهود الحكومية وأكثرها تمويلاً في العالم، المُخصصة لدراسة المخاطر الكارثية المحتملة لهذه التقنية.
وقد اكتشف موظفو المعهد، البالغ عددهم نحو 100 موظف - والذين ينتمون إلى وكالات الاستخبارات البريطانية والأوساط الأكاديمية وشركات التكنولوجيا - ثغرات أمنية خطيرة في جميع نماذج الذكاء الاصطناعي الرائدة التي اختبروها، بما في ذلك نموذج «كلود» من شركة «أنثروبيك» ونموذج «جيميناي» من شركة «غوغل».
* حصل الخبراء على تعليمات صنع الأسلحة الكيميائية والبيولوجية والتخطيط للهجمات الإلكترونية وتنفيذها
وقد صرَّح المعهد الذي أُنشئ قبل نحو ثلاث سنوات، بأنه استغل أنظمة الذكاء الاصطناعي لتبادل تعليمات صنع الأسلحة الكيميائية والبيولوجية، والتخطيط للهجمات الإلكترونية وتنفيذها. وينشر المعهد أبحاثه، كما يتعاون مع أجهزة الأمن القومي البريطانية لتحديد التهديدات الناشئة والاستعداد لها.
نموذج تحتذي به حكومات العالم
والآن، يُصبح عمل المعهد نموذجاً يُحتذى به للحكومات الأخرى مع تزايد المخاوف بشأن سلامة الذكاء الاصطناعي. وتدرس إدارة ترمب وضع قواعد لفحص نماذج الذكاء الاصطناعي، تتشابه في بعض جوانبها مع النهج الذي ابتكره المعهد البريطاني.
وفي ظل افتقار العديد من الحكومات للفهم التقني اللازم لمراقبة التكنولوجيا، واعتمادها على شركات التكنولوجيا الكبرى للتنظيم الذاتي، قد يُقدّم المعهد مساراً مختلفاً يُتيح لخبراء الذكاء الاصطناعي إدخال خبراتهم التقنية الحقيقية في عملية صنع القرار الحكومي.
اختبار «ميثوس»
في أبريل (نيسان) الماضي، أعلنت شركة أنثروبيك عن نموذج ذكاء اصطناعي جديد، أطلقت عليه اسم «ميثوس»، لكنها لم تُعلن عنه خشية أن يكشف عن ثغرات أمنية في الشبكات العالمية ويستغلها. وكان المعهد البريطاني الجهة الحكومية الوحيدة غير الأميركية التي حصلت على النموذج لاختبار سلامته. وقد حظيت نتائج الاختبار، التي نُشرت بعد ستة أيام من الإعلان عن «ميثوس»، باقتباسات واسعة من خبراء الأمن.
المعهد البريطاني أفضل من المركز الأميركي
ولدى الولايات المتحدة فريقها الخاص بسلامة الذكاء الاصطناعي، وهو مركز معايير وابتكار الذكاء الاصطناعي Center for A.I. Standards and Innovation. لكن النسخة البريطانية، المدعومة بـ360 مليون جنيه إسترليني من الأموال الحكومية، أي ما يعادل نحو 480 مليون دولار، أكبر وأفضل تمويلاً من نظيرتها الأميركية، التي ستتلقى نحو 10 ملايين دولار هذا العام. وقد أنشأت أستراليا وكندا والصين وفرنسا والهند واليابان وسنغافورة معاهد مماثلة.
ومع ذلك، فإن الاستثمار العالمي في سلامة الذكاء الاصطناعي لا يزال ضئيلاً مقارنةً بالمبالغ الطائلة المخصصة لتطوير هذه التقنية وتسويقها. والمعروف أن لدى «أوبن إيه آي» و«أنثروبيك» و«غوغل» فرق تعمل على ضوابط السلامة، لكن الباحثين الخارجيين يكتشفون باستمرار ثغرات خطيرة.
* أكاديميون إيطاليون خدعوا نظاماً ذكياً بأبيات من الشعر للحصول على تعليمات صنع قنابل
وقد تمكن أكاديميون في إيطاليا أخيراً من خداع نموذج ذكاء اصطناعي لتقديم تعليمات متعلقة بالقنابل باستخدام أبيات من الشعر.
تردد الحكومات
لم تُنشئ الحكومات، في الغالب، أنظمة مخصصة لمراجعة الذكاء الاصطناعي من حيث مخاطر السلامة والأمن، كما فعلت في قطاعات مثل تطوير الأدوية أو صناعة السيارات.
«ما يُقلقني حقاً هو سرعة تطور التكنولوجيا مقارنةً بالمؤسسات الحكومية التي يتعين عليها الاستجابة»، هذا ما قالته جايد ليونغ، مستشارة الذكاء الاصطناعي لرئيس الوزراء البريطاني كير ستارمر، والمديرة التقنية لمعهد أمن الذكاء الاصطناعي.
نشوء المعهد
نشأ معهد الأمن البريطاني هذا بعد اجتماع عُقد عام 2023 في مقر رئاسة الوزراء البريطانية بين ريتشي سوناك رئيس الوزراء حينذاك وثلاثة من أبرز قادة الذكاء الاصطناعي في العالم: سام ألتمان من «أوبت إيه آي»، وداريو أمودي من «أنثروبيك»، وديميس هاسابيس من«غوغل ديب مايند». وأشار سوناك إلى قول أولئك الخبراء إن قدرات الذكاء الاصطناعي تتسارع، مما يُؤثر بشكلٍ كبير على الحكومة والوظائف والأمن القومي. وأضاف: «لقد فوجئوا حتى أنفسهم، بوتيرة التطور».
وأصبح المعهد نموذجاً يُحتذى به، كما صرّحت أوليفيا شين، مديرة برنامج التقنيات الاستراتيجية في مركز الدراسات الأميركية، وهو مركز أبحاث أسترالي تابع لجامعة سيدني. في العام الماضي، سافرت جايد ليونغ من المعهد البريطاني إلى أستراليا للقاء قادة حكوميين. وفي هذا العام، افتتحت أستراليا مركزها الخاص لأمن الذكاء الاصطناعي.
وقالت شين، التي ساعدت في تنظيم الزيارة: «على الحكومات أن تواكب التطور التكنولوجي. فمع سرعة تطور التكنولوجيا، تتخلف الحكومات يوماً بعد يوم».
تهديدات إلكترونية بسرعة أكبر من أي اختراق بشري
يعمل المعهد البريطاني على دراسة أخطر المخاطر المحتملة للذكاء الاصطناعي المتقدم: التهديدات السيبرانية، والأسلحة الكيميائية والبيولوجية، والتلاعب بالسلوك البشري. وفي الأسابيع الأخيرة، وجد المعهد أن نماذج الذكاء الاصطناعي من شركتي أنثروبيك وأوبن إيه آي قادرة على إنجاز هجوم معقد على شبكة شركة، يتألف من 32 خطوة، بسرعة أكبر بكثير، وهو هجوم يستغرق عادةً 20 ساعة من قبل مخترق بشري ماهر.
الخداع والتحكم بالسلوك البشري
ويبحث مجال بحثي آخر في إمكانية استخدام الذكاء الاصطناعي في الخداع إذ تُدرك النماذج متى يتم اختبارها وتُعدّل سلوكها، وهو تطور يُشير إلى مستوى وعي الذكاء الاصطناعي وقدرته على الخداع.
وقال آدم بومونت، المدير المؤقت لمعهد أمن الذكاء الاصطناعي، إن أحد المخاوف الرئيسية هو محاكاة هذه التقنية للسلوك البشري. في العام الماضي، نشر المعهد دراسة وجدت أن برامج الدردشة الآلية قادرة على التأثير على الآراء السياسية للأفراد.
وأضاف السيد بومونت، وهو مسؤول سابق رفيع المستوى في مجال الذكاء الاصطناعي في مقر الاتصالات الحكومية البريطانية (GCHQ)، وكالة الاستخبارات والأمن السيبراني البريطانية: «يدرس الكثيرون في هذا المبنى كل هذه الأمور».
صلاحيات محدودة
يخشى الكثيرون من عدم كفاية عمل المعهد. لا تملك هذه المجموعة البريطانية أي سلطة تنظيمية، ولا يتلقى باحثوها معلومات حول كيفية تدريب نماذج الذكاء الاصطناعي المتقدمة وإنشائها. كما يُبقي المعهد الكثير من أبحاثه سرية، ولا تُشاركه إلا مع بعض الوكالات الحكومية والشركات.
يُمثِّل التوظيف تحدياً أيضاً. فباستثناء كبار القادة، يمكن أن يصل راتب العاملين فيها إلى 145 ألف جنيه إسترليني سنوياً، أو ما يُعادل 195 ألف دولار أميركي تقريباً. تخلى الكثيرون عن رواتب بملايين الدولارات في شركات الذكاء الاصطناعي للقيام بما وصفه البعض بـ«خدمة حكومية».
كان إيان هوغارث، مستثمر التكنولوجيا والمؤسس المشارك للمعهد، من أوائل الداعمين لشركة أنثروبيك. ولتجنُّب تضارب المصالح، باع حصته في الشركة بعد انضمامه إليه. ومن المتوقع أن تصل قيمة هذا المعهد بوصفه شركة ناشئة في مجال الذكاء الاصطناعي إلى 900 مليار دولار قريباً، بعد أن كانت نحو 4 مليارات دولار في بداية عام 2023.
* خدمة«نيويورك تايمز».
