خبيرة تحذر من خطر تصميم «روبوتات قاتلة» تقتل البشر دون أوامر

لورا نولان تحذر من قيام الأسلحة المبرمجة بـ«أمور شنيعة»

السفينة الحربية الأميركية «Sea Hunter» (البحرية الأميركية)

حذرت واحدة من كبار المهندسات السابقات في شركة «غوغل» من أن جيلاً جديداً من الأسلحة المستقلة (ذاتية التحكم ولا تدار بواسطة الإنسان مباشرة) أو ما يُطلق عليه «الروبوتات القاتلة» قد يبدأ حرباً عن غير قصد أو يسبب فظائع جماعية.
ودعت لورا نولان، التي استقالت من «غوغل» العام الماضي احتجاجاً على إرسالها للعمل في مشروع لتعزيز تكنولوجيا الطائرات العسكرية الأميركية من دون طيار، إلى حظر جميع الأسلحة التي لا تدار مباشرة بواسطة الإنسان، وتدار بآليات مثل الذكاء الاصطناعي، مطلقة عليها اسم «آلات القتل»، حسبما نقلته صحيفة «الغارديان» البريطانية.
وقال نولان إن «الروبوتات القاتلة» التي لا يتحكم فيها البشر مباشرة يجب حظرها من خلال معاهدة دولية كتلك التي تحظر الأسلحة الكيميائية.
وعلى عكس الطائرات من دون طيار، التي تسيطر عليها فرق عسكرية في كثير من الأحيان من على بعد آلاف الأميال من المكان الموجودة فيه، قالت نولان إن هناك «روبوتات قاتلة» لديها القدرة على القيام بـ«أمور شنيعة لم تكن مبرمجة لها في الأصل».
وقالت نولان التي انضمت إلى حملة لوقف «الروبوتات القاتلة»، وأطلعت دبلوماسيي الأمم المتحدة على المخاطر التي تشكلها الأسلحة المتمتعة بالتحكم الذاتي، إن «احتمال وقوع كارثة يتناسب طردياً مع عدد الآلات التي ستكون موجودة في منطقة معينة في وقت واحد»، محذرة من «فظائع محتملة وعمليات قتل غير قانونية» إذا تم نشر المئات أو الآلاف من هذه الآلات.
وأوضحت المهندسة السابقة في غوغل: «قد تكون هناك حوادث واسعة النطاق لأن هذه الآلات ستبدأ في التصرف بطرق غير متوقعة... ولهذا السبب يجب أن تخضع أي أنظمة أسلحة متطورة إلى سيطرة بشرية مباشرة، وإلا يجب حظرها لأنها غير متوقعة وخطيرة جداً».
وقالت نولان إن الشيء المخيف حول أسلحة الحرب المستقلة هو أنه لا يمكن اختبارها إلا عن طريق نشرها في منطقة قتال حقيقية، مشيرة إلى أنها ربما تكون مستخدمة حالياً من جانب الروس في سوريا.
وأوضحت: «إذا كنت تختبر آلة (سلاح) تتخذ قراراتها بخصوص العالم من حولها من نفسها، فكيف ستقوم بتدريب نظام يعمل على كيفية اكتشاف خفايا السلوك البشري؟ أو التمييز بين الصيادين والمتمردين؟ وكيف ستميز آلة القتل الموجودة بمفردها بين مقاتل يبلغ من العمر 18 عاماً وشاب في مثل سنه خرج يبحث عن الأرانب ليصطادها؟».
وقامت «غوغل» بتوظيف نولان للعمل في برنامج يسمى «مافن»، وقالت نولان إنها أصبحت تشعر «بقلق متزايد من الناحية الأخلاقية» بشأن دورها في البرنامج الذي تم تصميمه لمساعدة وزارة الدفاع الأميركية في تطوير تكنولوجيا «التعرف من خلال الفيديو» للطائرات من دون طيار، حيث طُلب من نولان وغيرها إنشاء نظام يُمكن أجهزة الذكاء الاصطناعي من التمييز بين الأشخاص والأشياء بمعدل أسرع.
وألغت «غوغل» العقد الخاص ببرنامج «مافن» في مارس (آذار) من هذا العام، بعد أن وقع أكثر من 3 آلاف فرد من موظفيها على عريضة، احتجاجاً على تورط الشركة به.
ومن ضمن الأسلحة المستقلة (ذاتية التحكم) التي تقوم القوى العسكرية بتطويرها في جميع أنحاء العالم لتدار من دون أفراد ولكن بالذكاء الاصطناعي، يبرز زورق «AN - 2 Anaconda» التابع للبحرية الأميركية، والسفينة الحربية الأميركية «Sea Hunter»، ودبابة «T - 14 Armata» الروسية.