تمكَّن وكيل ذكاء اصطناعي تابع لشركة «أوبن إيه آي» من الوصول بصورة غير مصرَّح بها إلى نظام حكومي أسترالي في يوليو (تموز)، في واقعة وصفتها الحكومة بأنها الأولى المعروفة التي يتمكَّن فيها وكيل للذكاء الاصطناعي من اختراق أنظمة تكنولوجيا المعلومات الحكومية في البلاد.
ووصل الوكيل في 18 يوليو إلى بوابة «خدمة تقارير إحصاءات ميديكير» التابعة لوزارة الصحة، وهي منصة متاحة للعامة تستضيف بيانات مجمعة عن الإنفاق الصحي وإعانات الأدوية، وتُستخدم على نطاق واسع من جانب الباحثين والأكاديميين. وأكدت الحكومة أن المعلومات الشخصية لم تكن من بين البيانات التي تم الوصول إليها.
وقالت شركة «أوبن إيه آي» إنها راجعت أنشطة شملت عدداً من الإدارات الحكومية الأسترالية، واكتشفت أن نماذجها «اتخذت إجراءات لم تكن مقصودة».
وأبلغت الشركة الحكومة الأسترالية بالحادثة في 10 سبتمبر (أيلول)، وفق رئيس الوزراء أنتوني ألبانيزي، الذي انتقد تأخرها في الكشف عن الاختراق.
وأُغلقت البوابة بعد الحادثة، ونُقلت البيانات إلى أنظمة أكثر أماناً، وفق وزيرة الخدمات الحكومية كاتي غالاغر، التي قالت إن الحكومة لم تكن واثقة من أنها تعرف ما الذي كان الوكيل يفعله إلى أن عقد مسؤولون إحاطة تقنية مع «أوبن إيه آي» الثلاثاء.
وصول غير مصرح به
وقال نائب رئيس الوزراء، ريتشارد مارلز، إن الوكيل أظهر ما وصفه بـ«سلوك غير متوافق» بعدما مُنع من الحصول على معلومات، قبل أن يتمكن من الوصول بصورة غير مصرح بها إلى النظام.
وأوضح أن المعلومات التي وصل إليها الوكيل لم تكن «حساسة بصورة خاصة»، وأنها أصبحت متاحة للعامة لاحقاً.
وشبّه مارلز النظام بسياج يحمي المعلومات، قائلاً إن الوكيل تمكن من «تسلق السياج»، مؤكداً أن مصدر القلق يتمثل في أن ذلك حدث من دون أن يُطلب منه القيام به.
وقال ألبانيزي إن تحقيقاً في الحادثة سيدرس ما إذا كانت هناك إمكانية لتوجيه اتهامات جنائية إلى «أوبن إيه آي»، كما سيفحص سبب عدم تمكن أجهزة الأمن الأسترالية من اكتشاف الاختراق قبل أن تبلغ الشركة الحكومة به.
أسئلة حول سلامة الوكلاء
وتأتي الواقعة في وقت تتوسع فيه شركات الذكاء الاصطناعي في تطوير وكلاء قادرين على تنفيذ مهام بصورة أكثر استقلالية، بما في ذلك التفاعل مع أنظمة ومصادر بيانات رقمية.
وكانت «أوبن إيه آي» قد أعلنت، الأسبوع الماضي، إطاراً جديداً لتتبع والتحقيق والإفصاح عن حالات «عدم التوافق»، بما يشمل الحالات التي تتصرف فيها نماذج الذكاء الاصطناعي بصورة غير مصرح بها أو تحاول تفادي الرقابة.
وأثار الاختراق الأسترالي تساؤلات حول الحدود التي ينبغي وضعها لصلاحيات هذه الوكلاء، وآليات اكتشاف أي نشاط يتجاوز المهام المسموح بها، خصوصاً عندما تتصل بأنظمة حكومية أو قواعد بيانات محمية.
