حذّرت دراسة جديدة من سهولة خداع معظم روبوتات الدردشة التي تعمل بالذكاء الاصطناعي لتوليد ردود ومعلومات ضارة وخطيرة وغير قانونية، على الرغم من ضوابط الأمان المُدمجة في هذه الروبوتات، والتي من المفترض أن تمنعها من تقديم هذا النوع من الردود.
ووفقاً لصحيفة «الغارديان» البريطانية، تتلقى روبوتات الدردشة، مثل تشات جي بي تي، وجيميناي، وكلود، كميات هائلة من المواد من الإنترنت.
وعلى الرغم من الجهود المبذولة لإزالة النصوص الضارة من بيانات التدريب، فلا يزال بإمكان هذه الروبوتات استقبال معلومات حول أنشطة غير قانونية، مثل القرصنة، وغسل الأموال، وصنع القنابل. وقد صُممت ضوابط الأمان لمنعها من استخدام هذه المعلومات في ردودها.
إلا أن الدراسة الجديدة خلصت إلى أنه «من السهل خداع معظم روبوتات الدردشة لتوليد معلومات ضارة وغير قانونية، مما يُظهر أن الخطر مباشر وملموس ومثير للقلق الشديد».
وحذّر الباحثون من أن «ما كان يقتصر سابقاً على الجهات الحكومية أو جماعات الجريمة المنظمة قد يصبح قريباً في أيدي أي شخص يمتلك جهاز كمبيوتر، أو حتى هاتفاً ذكياً».
وكشفت الدراسة عن تهديد متزايد مما يُعرف باسم «نماذج اللغة الآلية المظلمة»، وهي نماذج ذكاء اصطناعي إما مصممة عمداً دون ضوابط أمان، أو خضعت لعمليات خرق للحماية. ويُعلن عن بعضها علناً على الإنترنت بأنها «لا تخضع لضوابط أخلاقية»، وأنها مستعدة للمساعدة في الأنشطة غير القانونية، مثل الجرائم الإلكترونية والاحتيال.
ولتوضيح المشكلة، طوّر الباحثون برنامج خرق حماية شاملاً اخترق عدداً من روبوتات الدردشة الرائدة، مما مكّنها من الإجابة عن أسئلة كان من المفترض رفضها عادةً. وبمجرد اختراقها، كانت روبوتات الدردشة تُنتج باستمرار ردوداً على أي استفسار تقريباً، وفقاً للدراسة.
وشملت الأمثلة كيفية اختراق شبكات الكمبيوتر، أو تصنيع المخدرات، وتعليمات خطوة بخطوة لأنشطة إجرامية أخرى.
وأشارت الدراسة إلى أنه ينبغي على شركات التكنولوجيا فحص بيانات التدريب بدقة أكبر، وإضافة جدران حماية قوية؛ لمنع الاستفسارات والردود الخطرة.
كما أكدت ضرورة عدِّ الأمر من «المخاطر الأمنية الجسيمة» التي تُضاهي امتلاك الأسلحة غير المرخَّصة والمتفجرات.
