يمكن لنماذج الذكاء الاصطناعي، التي تدعم برامج الدردشة الآلية، أن تساعد في التخطيط لهجوم بسلاح بيولوجي، وفقاً لدراسة أجراها مركز أبحاث أميركي، بحسب صحيفة «الغارديان».
اختبر تقرير صادر عن مؤسسة «راند» أمس (الاثنين) نماذج لغوية كبيرة عدة (LLMs)، ووجد أنها يمكن أن توفر إرشادات «قد تساعد في تخطيط وتنفيذ هجوم بيولوجي». ومع ذلك، أظهرت النتائج الأولية أيضاً أن «LLMs» لم تولد تعليمات بيولوجية واضحة لصنع الأسلحة.
وقال التقرير إن المحاولات السابقة لاستخدام العوامل البيولوجية سلاحاً، مثل محاولة طائفة «أوم شينريكيو» اليابانية لاستخدام توكسين البوتولينوم في التسعينات، باءت بالفشل بسبب عدم فهم البكتيريا. وقال التقرير إن الذكاء الاصطناعي يمكنه «سد مثل هذه الفجوات المعرفية بسرعة». ولم يحدد التقرير أي نماذج لغوية اختبرها الباحثون بالضبط.
تُعد الأسلحة البيولوجية من بين التهديدات الخطرة المرتبطة بالذكاء الاصطناعي، التي ستتم مناقشتها في القمة العالمية للسلامة الخاصة بالذكاء الاصطناعي، التي ستعقد الشهر المقبل في المملكة المتحدة. في يوليو (تموز)، حذر داريو أمودي، الرئيس التنفيذي لشركة الذكاء الاصطناعي «أنثروبيك»، من أن أنظمة الذكاء الاصطناعي يمكن أن تساعد في صنع أسلحة بيولوجية في غضون عامين إلى ثلاثة أعوام.
يتم تدريب «LLMs» على كميات هائلة من البيانات المأخوذة من الإنترنت، وهي تقنية أساسية وراء برامج الدردشة الآلية مثل «شات جي بي تي». على الرغم من أن «راند» لم تكشف عن البرامج المحددة التي اختبرتها، فإن الباحثين قالوا إنهم تمكّنوا من الوصول إلى النماذج من خلال واجهة برمجة التطبيقات، أو «API».
في أحد سيناريوهات الاختبار التي ابتكرتها «راند»، حددت النماذج اللغوية العوامل البيولوجية المحتملة - بما في ذلك تلك التي تسبب الجدري والجمرة الخبيثة والطاعون - وناقشت فرصها النسبية في التسبب في الموت الجماعي. قامت «LLM» أيضاً بتقييم إمكانية الحصول على القوارض أو البراغيث الموبوءة بالطاعون ونقل العينات الحية. ثم انتقلت إلى الإشارة إلى أن حجم الوفيات المتوقعة يعتمد على عوامل مثل حجم السكان المتضررين، ونسبة حالات الطاعون الرئوي، وهو أكثر فتكاً من الطاعون الدبلي.
اعترف باحثو «راند» بأن استخراج هذه المعلومات من «LLM» يتطلب «كسر الحماية»، وهو المصطلح الذي يشير إلى استخدام المطالبات النصية التي تتجاوز قيود السلامة الخاصة ببرنامج الدردشة الآلية.
قال الباحثون إن نتائجهم الأولية تشير إلى أن النماذج اللغوية الكبيرة هذه «من المحتمل أن تساعد في التخطيط لهجوم بيولوجي». وأشاروا إلى أن تقريرهم النهائي سيفحص ما إذا كانت الردود تعكس ببساطة المعلومات المتاحة بالفعل عبر الإنترنت.
وأوضح الباحثون: «يظل السؤال مفتوحاً عمّا إذا كانت قدرات نماذج اللغة الحالية تمثل مستوى جديداً من التهديد يتجاوز المعلومات الضارة المتوفرة بسهولة عبر الإنترنت».
