تزداد التحذيرات داخل قطاع الذكاء الاصطناعي من احتمال أن يؤدي تطور هذه التكنولوجيا إلى تهديد وجود البشرية، لكن السؤال الذي يبقى موضع خلاف هو: كيف يمكن لبرمجيات، مهما بلغت قوتها، أن تتسبب فعلياً في موت مليارات البشر؟
عاد النقاش إلى الواجهة بعدما استقال الباحث في شركة «أنثروبيك» جاكوب كوكسون، محذّراً من مخاطر التكنولوجيا التي تعمل عليها الشركة. وقدّر زميله إيفان هوبينغر احتمال تسبب الذكاء الاصطناعي في انقراض البشر خلال عشر سنوات بأكثر من 10 في المائة، وفق تقرير لشبكة «سي إن إن» الأميركية.
ويذهب نيت سواريس، رئيس «معهد أبحاث ذكاء الآلة» (MIRI)، أبعد من ذلك، إذ يرى أن القضاء على البشرية هو النتيجة الأكثر ترجيحاً إذا ظهر ذكاء اصطناعي يتفوّق على البشر.
لكن منتقدي هذه التصوّرات يشيرون إلى أن السيناريوهات المطروحة تفتقر غالباً إلى سلسلة واضحة من الخطوات التي يمكن اختبارها علمياً. وتقول هايدي خلاف، كبيرة علماء الذكاء الاصطناعي في معهد «AI Now»، إن الادعاءات العلمية يجب أن تكون قابلة للإثبات أو الدحض.
وباء اصطناعي
أحد السيناريوهات المطروحة يفترض أن يتمكن ذكاء اصطناعي فائق من المساعدة في تطوير سلاح بيولوجي شديد الخطورة. ويرى الباحث توماس لارسن أن نظاماً متطوراً قد يوجّه شخصاً يعمل في مختبر إلى إجراء تجارب تؤدي إلى إنتاج فيروس قاتل ونشره، من دون أن يدرك هذا الشخص بالضرورة الهدف الحقيقي للنظام. أما سواريس فيطرح احتمالاً أبعد، يتمثل في أن يتمكن ذكاء اصطناعي شديد التطور مستقبلاً من التحكم في مختبر آلي وإجراء التجارب البيولوجية بنفسه، من دون الحاجة إلى مساعدة بشرية مباشرة.
غير أن إريك شينغ، أستاذ تعلم الآلة في جامعة كارنيغي ميلون الأميركية والمتخصص أيضاً في علم الأحياء الدقيقة، يشدد على التعقيدات الهائلة لهذه العملية. فتطوير الفيروسات يتطلب ترتيباً دقيقاً للخطوات والحرارة والبيئة والمواد، ويمكن لخطأ واحد أن يُفشل العملية.
كما أن الحصول على المعدات والمواد اللازمة يخضع لقوانين وضوابط وسلاسل توريد تجعل الانتقال من تصميم رقمي إلى سلاح فعلي أكثر صعوبة.
روبوتات قاتلة
يتمثل سيناريو آخر في ظهور أعداد هائلة من الروبوتات المستقلة القادرة على تصنيع المزيد من الروبوتات وإدارة المصانع والبنية التحتية للطاقة.
ويرى سواريس أن الوصول إلى هذه المرحلة قد يسمح للآلات بالاستمرار من دون البشر، وبالتالي مقاومة أي محاولة لإيقافها.
لكن هذا السيناريو لا يزال بعيداً عن القدرات المتاحة حالياً؛ فالروبوتات البشرية لم تصل بعد إلى الانتشار الواسع، كما أنها لا تمتلك القدرة على إنشاء سلسلة تصنيع تتيح لها إنتاج مزيد من الروبوتات ذاتياً.
السيطرة على الأسلحة النووية
ويُطرح أيضاً احتمال استيلاء الذكاء الاصطناعي على الأسلحة النووية. إلا أن خلاف تشير إلى أن المنشآت النووية الحساسة تكون عادةً معزولةً عن الإنترنت العام وتخضع لمعايير هندسية وأمنية صارمة.
ويرى هربرت لين، الباحث في جامعة ستانفورد الأميركية، أن الذكاء الاصطناعي قد يزيد بعض المخاطر المرتبطة بالحرب النووية، لكن الخطر المادي الأساسي يبقى في الأسلحة نفسها.
خطر يصعب إثباته
يرى المتشائمون أن التركيز على سيناريو محدد قد يغفل الخطر الأساسي: فإذا أصبح الذكاء الاصطناعي قادراً على تحسين نفسه بصورة متكررة ومن دون تدخل بشري، فقد يطوّر وسائل لا يستطيع البشر توقعها لتحقيق أهدافه.
ويقول سواريس إن النظام لا يحتاج بالضرورة إلى أن يكون «شريراً»؛ فقد يسعى ببساطة إلى تحقيق أهداف لا تراعي بقاء البشر، فيعيد تشكيل البيئة أو الموارد بطريقة تجعل الحياة البشرية مستحيلة.
لكن شينغ يرى أن الحديث عن ذكاء اصطناعي فائق قادر على ابتكار وسائل غير متوقعة للقضاء على البشر لا يكفي وحده لتقدير حجم الخطر. ويقول إن وضع سياسات وقوانين لمواجهة هذه المخاطر يتطلب تحديد سيناريوهات واضحة يمكن دراسة احتمال حدوثها وقياس نتائجها.
وفي الوقت الحالي، لا توجد أدلة على أن أنظمة الذكاء الاصطناعي قادرة على تنفيذ أي من سيناريوهات القضاء على البشرية المطروحة، من تطوير وباء قاتل بصورة مستقلة إلى السيطرة على الأسلحة النووية أو إنشاء جيوش من الروبوتات. ولذلك تظل هذه السيناريوهات توقعات بشأن ما قد يصبح ممكناً إذا تطورت قدرات الذكاء الاصطناعي مستقبلاً إلى مستويات تتجاوز بكثير قدراته الحالية.
