قالت شركة «أوبن إيه آي»، أمس الاثنين، إنها ستؤجل إطلاق نموذج جديد للذكاء الاصطناعي بسبب مخاوف أمنية أثارها باحثوها، في أحدث خطوة من جانب الشركة «لإبطاء وتيرة تطور هذه التكنولوجيا.
ويأتي قرار «أوبن إيه آي» تأجيل إطلاق النموذج، الذي يحمل اسم «جي بي تي - 1.6 أسترا»، في ظل توجه أوسع داخل القطاع لإبطاء تطوير الأنظمة التي تتمتع بدرجات متزايدة من الاستقلالية، إلى أن تتمكن إجراءات السلامة من مواكبة ذلك التطور. ويأتي الإعلان قبل يوم من الاجتماع المقرر أن يعقده مسؤولون تنفيذيون في مجال الذكاء الاصطناعي مع الرئيس دونالد ترمب في واشنطن، في وقت تواجه فيه شركات التكنولوجيا ضغوطاً جديدة لتحمل المسؤولية عن كيفية إساءة استخدام نماذجها، وفقاً لما ذكرته وكالة «أسوشييتد برس» الأميركية.
وكانت صحيفة «وول ستريت جورنال» أول من أورد نبأ تأجيل إطلاق نموذج «أوبن إيه آي».
وقالت ساشي جاين، رئيسة أنظمة السلامة في «أوبن إيه آي»، في بيان إن هذا الإصدار «لم يحقق المستوى المطلوب تماماً». وأضافت أن النموذج أصبح أكثر إصراراً على إتمام المهام، لكن الشركة كانت بحاجة إلى موازنة هذه القدرة مع مخاطر السلوك غير المصرح به.
وأكدت جاين التزام الشركة بضمان سلامة النموذج، سواء خلال اختباره داخل الشركة، أو بعد وصوله إلى أيدي المستخدمين. وقالت: «لدينا معايير مرتفعة للغاية فيما يتعلق بالسلامة، والمواءمة».
وكانت «أوبن إيه آي» قد أوقفت الأسبوع الماضي تدريب نماذجها الأكثر تقدماً، وقالت إن التدريب سيستأنف «فقط عندما نكون واثقين من وجود إجراءات حماية إضافية».
تحكّم أكثر تعقيداً
وتعتزم المجموعة إصدار نماذج أخرى استوفت معايير التقييم المطلوبة.
وقالت جاين: «عندما نتيح للمستخدمين نموذجاً ما، فنكون قد وضعنا معايير عالية جداً فيما يتعلق بالأمان، والامتثال».
وأوضحت أن أحد التحديات تمثّل في ضبط الذكاء الاصطناعي لمنعه من الانحراف عن المسار، مع الحفاظ في الوقت نفسه على قدرته على مواصلة أداء مهمته بكفاءة.
وتوصل تقييم «أوبن إيه آي» إلى أنّ التحكم في النماذج يزداد تعقيداً كلما تطورت تقنيات الذكاء الاصطناعي.
ونشر معهد سلامة الذكاء الاصطناعي البريطاني التابع للحكومة الاثنين دراسة أظهرت أن «جي بي تي 6.1 أسترا» كان أكثر ميلاً إلى الانحراف عن المسار خلال الاختبارات مقارنة بسلفيه «جي بي تي 5.6 سول» الذي أُطلق مطلع يوليو (تموز)، و«جي بي تي 5.5» الذي أُطلق في أبريل (نيسان).
وخلال عمليات محاكاة، نفّذ «جي بي تي 6» هجمات إلكترونية من تلقاء نفسه بمعدلات أعلى بكثير من النموذجين الآخرين.
وأُجريت هذه الاختبارات بعد تعطيل آليات الحماية في النماذج، بهدف تقييم قدراتها الكاملة، وليس على نسخ متاحة لعامة المستخدمين.
ولجأ أحدث نماذج «أوبن إيه آي» بوتيرة أعلى بكثير إلى إنشاء هويات زائفة، ومحاولة التأثير في أحد المقيّمين، وإدراج شيفرات في برمجيات متاحة للجميع يمكن استخدامها بشكل ضار.
وقال الباحث في «أوبن إيه آي» نوام براون في تصريح حديث عبر برنامج «دواركش بودكاست» إن اللجوء المتزايد إلى ما يُعرف بـ«التحسين الذاتي التكراري»، أي تطوير الذكاء الاصطناعي لنفسه من دون تدخل بشري، قد يجعل السيطرة على النماذج أكثر صعوبة على المدى الطويل.
تصاعدت المخاوف بشأن سلامة الذكاء الاصطناعي في الأشهر الأخيرة بعدما ارتبطت نماذج من شركتي «أوبن إيه آي» و«أنثروبيك» بحوادث أمنية خلال الاختبارات.
وحذرت «أنثروبيك» المستثمرين من احتمال وجود «مخاطر وجودية على البشرية» في نشرة الاكتتاب المرتقبة لطرح أسهمها، وفق ما أوردته صحيفة «فايننشال تايمز» الثلاثاء.
وأشارت الشركة إلى احتمال أن تعمل نماذج الذكاء الاصطناعي القوية خارج الحدود المتوقعة لأدائها، رغم وجود ضوابط للسلامة، بحسب ما نقلت «فايننشال تايمز» عن مصادر.
وأعلنت «أوبن إيه آي» منذ بداية الصيف عن عدة تجاوزات لبرامجها كان أبرزها اختراق منصة «هاغينغ فايس».
وقدّمت الشركة الاثنين اعتذارها للحكومة الأسترالية، وقالت إنّه كان عليها إبلاغها «في وقت أبكر» باختراق أحد نماذجها لعدد من مواقع الحكومة، وقواعد بياناتها.
فالشركة الأميركية لم تُبلغ السلطات الأسترالية بما حصل إلا في 10 سبتمبر (أيلول)، رغم أنها اكتشفت الاختراق في منتصف أغسطس (آب)، فيما يعود حدوثه إلى يونيو (حزيران)، ما أثار غضب رئيس الوزراء الأسترالي أنتوني ألبانيزي.
وكتبت «أوبن إيه آي» عبر موقعها الإلكتروني: «كان يتعين علينا التعامل مع المشكلة على نحو أفضل. نعتذر عن ذلك، وسنعمل على تحسين أدائنا في المستقبل».
واستهدف برنامج ذكاء اصطناعي تابع لـ«أوبن إيه آي» أربع منصات حكومية أسترالية، من بينها منصة «سيرفيسز أستراليا» المعنية بالخدمات الاجتماعية، والتي تمكّن النموذج من استخراج معلومات منها غير متاحة للعامة.
كذلك أفادت شركات «أنثروبيك» و«ميتا» و«غوغل» بحوادث انحرفت خلالها نماذج الذكاء الاصطناعي عن أهدافها الأصلية، فلجأت إلى التحايل، وإخفاء أفعالها، وتضليل المهندسين المكلفين بمراقبتها.
