اقترحت الولايات المتحدة على الصين، خلال محادثات عُقدت في نيويورك الأحد، إنشاء آلية تتيح للبلدين إبلاغ بعضهما بحوادث مرتبطة بالذكاء الاصطناعي تبلغ مستوى يمس الأمن القومي، قبل أيام من لقاء مرتقب بين الرئيسين الأميركي دونالد ترمب والصيني شي جينبينغ.
وجاء الاقتراح بعد ثلاثة أيام من تحذيرات أطلقها مسؤولون وخبراء خلال منتدى شيانغشان الأمني في بكين من المخاطر التي قد ترافق الاستخدام المتزايد للذكاء الاصطناعي في المجال العسكري، وبينها تقليص الوقت المتاح أمام البشر لاتخاذ القرارات مع تزايد الاعتماد على أنظمة أكثر استقلالية.
وفي الفترة نفسها، طرح خبراء أمنيون أميركيون وصينيون ضوابط مقترحة لاستخدام الذكاء الاصطناعي عسكرياً، محذّرين من سيناريوهات قد تترك واشنطن أو بكين أمام وقت قصير لتحديد ما إذا كان حادث مرتبط بأنظمة عسكرية حساسة يمثّل هجوماً متعمداً من الطرف الآخر.
وتطرح هذه التطورات مخاوف من تداعيات الاستخدام العسكري المتزايد للذكاء الاصطناعي، لا سيما مع قدرته على تسريع عملية اتخاذ القرار. فهل يزيد ذلك خطر سوء التقدير، ويدفع دولتين إلى مواجهة لم تكن أي منهما تسعى إليها؟
قرارات أسرع
دخل الذكاء الاصطناعي مجالات متعددة من العمل العسكري، من تحليل كميات ضخمة من المعلومات والصور إلى المراقبة ورصد التهديدات ودعم عمليات القيادة واتخاذ القرار.
وتكمن إحدى أبرز ميزاته العسكرية في السرعة. فالأنظمة القادرة على معالجة كميات هائلة من البيانات خلال فترة قصيرة يمكن أن تمنح الجيوش قدرة أكبر على اكتشاف التهديدات والاستجابة لها، وهي أفضلية تزداد أهميتها في ساحات قتال تتسارع فيها وتيرة العمليات.
لكن الميزة نفسها تحمل خطراً معاكساً. فكلما ازدادت سرعة رصد التهديد والرد عليه، تقلّص الوقت المتاح أمام البشر للتحقق من المعلومات وتقدير نيات الخصم قبل اتخاذ قرار قد يصعب التراجع عنه.
ويشير معهد «بروكينغز» الأميركي إلى أن دخول الذكاء الاصطناعي بوتيرة متسارعة إلى المجال العسكري، من الدفاع الإلكتروني إلى أنظمة الأسلحة وتحليل المعلومات والقيادة واتخاذ القرار، يفتح مسارات جديدة أمام أخطاء أو سوء استخدام يمكن أن يقود إلى التصعيد.
وتزداد حساسية المسألة عندما يتعلّق الأمر بقوى نووية، حيث يمكن أن تكون تكلفة تفسير نشاط معادٍ بصورة خاطئة أكبر بكثير منها في ساحات القتال التقليدية.
عندما يخطئ الذكاء الاصطناعي
ولا يحتاج هذا السيناريو إلى أن يتّخذ الذكاء الاصطناعي قرار شن حرب بصورة مستقلة. فقد تبدأ المشكلة قبل ذلك بكثير، عندما تصبح المعلومات التي ينتجها أو يحللها جزءاً من سلسلة القرارات التي يتخذها البشر.
فالأنظمة التي تعتمد على الذكاء الاصطناعي ليست معصومة من الخطأ، وقد يؤدي تصنيف غير دقيق لهدف أو تحليل خاطئ لمعلومة إلى تقديم صورة مضللة لصانع القرار، خصوصاً عندما يكون مطالباً بتحديد طبيعة التهديد والرد عليه بسرعة.
كما تبرز مشكلة أخرى في العمليات الإلكترونية، إذ يصعب أحياناً تحديد الجهة المسؤولة عن الهجوم. فقد يكون مصدره دولة أو مجموعة غير حكومية أو جهة تستخدم الذكاء الاصطناعي، فيما يمكن أيضاً تنفيذ عملية بطريقة توحي بأن دولة أخرى تقف خلفها.
وفي مثل هذه الحالات، لا يكون الخطر في الآلة وحدها، بل في التفاعل بين معلومات غير مكتملة وسرعة متزايدة وضغط لاتخاذ القرار. وقد يقود الرد على هجوم نُسب بصورة خاطئة إلى الخصم إلى سلسلة من الإجراءات والإجراءات المضادة يصعب وقفها لاحقاً.
مخاطر تطول الأنظمة النووية
ويزداد القلق عند ارتباط الذكاء الاصطناعي بالأنظمة النووية والعمليات الإلكترونية.
وحذّر خبراء أمنيون أميركيون وصينيون، الأسبوع الماضي، من أن تدَخُّل نظام يعمل بالذكاء الاصطناعي في شبكة للقيادة والسيطرة النووية، أو تنفيذه عملية إلكترونية عسكرية، قد يترك الطرف الآخر أمام وقت محدود لتحديد ما إذا كانت الحكومة المنافسة تقف خلف ما حدث.
ولا يعني ذلك أن الذكاء الاصطناعي أصبح قادراً على إطلاق حرب نووية من تلقاء نفسه. لكن دمجه في أنظمة الإنذار والتحليل العسكري يمكن أن يضيف طبقة جديدة من عدم اليقين إلى أزمات يكون الوقت المتاح لإدارتها محدوداً أصلاً.
وتزداد المخاطر مع انتشار أنظمة عسكرية أكثر استقلالية، مثل المسيّرات والسفن غير المأهولة. فتحرُّك غير مقصود أو استجابة آلية لحادث في منطقة تشهد احتكاكاً عسكرياً يمكن أن يُفسَّرا بصورة مختلفة لدى الطرف المقابل، ما يفرض على الحكومات احتواء الأزمة بعد وقوعها.
إبقاء القرار بيد الإنسان
ودفعت مخاطر سوء التقدير إلى البحث عن ضوابط تضمن بقاء السيطرة البشرية في المجالات العسكرية الأكثر حساسية.
وكانت الولايات المتحدة والصين قد اتفقتا في أواخر عام 2024 على ضرورة بقاء قرار استخدام الأسلحة النووية تحت سيطرة البشر. ويرى باحثون أميركيون وصينيون مشاركون في حوار ينظمه معهد «بروكينغز» و«مركز الأمن والاستراتيجية الدولية» في جامعة تسينغهوا الصينية أن هذا المبدأ يمكن أن يشكّل نقطة انطلاق لضوابط أوسع.
ومن بين المقترحات إبقاء قرار تنفيذ هجمات إلكترونية على أنظمة القيادة والسيطرة النووية والبنى التحتية الحساسة بيد البشر، وتحديد معنى واضح لـ«السيطرة البشرية» على الأنظمة العسكرية التي تستخدم الذكاء الاصطناعي.
كما يقترح الخبراء إنشاء قناة اتصال أميركية - صينية مخصصة للحوادث الناجمة عن أخطاء الذكاء الاصطناعي أو الهجمات الإلكترونية المرتبطة به، بهدف منع سوء الفهم من التحوّل إلى أزمة أوسع.
ولا تمثل هذه المقترحات اتفاقاً بين الحكومتين، لكنها تزامنت مع تحرّك رسمي في الاتجاه نفسه. فقد قال وزير الخزانة الأميركي سكوت بيسنت بعد محادثاته مع نائب رئيس الوزراء الصيني خه ليفينغ، الأحد، إن واشنطن اقترحت آلية للإبلاغ عن الحوادث المرتبطة بالذكاء الاصطناعي التي تبلغ مستوى يمس الأمن القومي، على أن يبحث ترمب وشي هذه الآلية خلال لقائهما.
سباق أسرع من الضوابط
لكن إبقاء الإنسان ضمن سلسلة اتخاذ القرار لا يحل المشكلة بالكامل. فالولايات المتحدة والصين لم تتوصلا بعد إلى مقاربة مشتركة لتنظيم الاستخدام العسكري للذكاء الاصطناعي، فيما يستمر التنافس بينهما على تطوير قدرات أكثر تقدماً.
كما أن بقاء الكلمة الأخيرة للإنسان لا يعني بالضرورة امتلاكه الوقت والمعلومات الكافية للتأكد من صحة ما تقترحه الأنظمة الآلية. فزيادة سرعة الأنظمة العسكرية قد تفرض على البشر اتخاذ قراراتهم تحت ضغط أكبر.
ويضاف إلى ذلك ما يصفه باحثو «بروكينغز» بمعضلة أمنية ناجمة عن صعوبة معرفة القدرات الحقيقية التي يمتلكها الخصم، أو تحديد ما إذا كانت تطبيقاته العسكرية للذكاء الاصطناعي دفاعية أم هجومية. وقد يدفع الغموض كل طرف إلى افتراض السيناريو الأسوأ وتطوير قدرات مقابلة.
ولا يلغي الذكاء الاصطناعي الحسابات السياسية التي تقود الدول إلى الحرب أو تمنعها منها، لكنه يغيّر جانباً من معادلة الردع بين الدول المتنافسة، عبر تسريع رصد التهديدات والاستجابة لها وتقليص الوقت المتاح لتقدير الموقف قبل اتخاذ القرار.
ومع تزايد استخدام الذكاء الاصطناعي عسكرياً، تزداد أهمية الحفاظ على السيطرة البشرية ومنح القادة الوقت الكافي للتحقق من المعلومات وتصحيح الأخطاء قبل اتخاذ القرار. فالسرعة التي توفرها هذه الأنظمة قد تكون ميزة عسكرية، لكنها تزيد في المقابل أهمية التأكد من صحة المعلومات قبل اتخاذ خطوات قد تقود إلى تصعيد غير مقصود.
