«الروبوتات القاتلة» على طاولة جنيف... دعوات لضوابط ملزمة

روبوت شبيه بالبشر يسير بالقرب من موقع انعقاد قمة «أبيك» (APEC) لعام 2026 في مدينة شنجن بمقاطعة غوانغدونغ جنوب الصين يوم 18 نوفمبر 2026 (أ.ب)
روبوت شبيه بالبشر يسير بالقرب من موقع انعقاد قمة «أبيك» (APEC) لعام 2026 في مدينة شنجن بمقاطعة غوانغدونغ جنوب الصين يوم 18 نوفمبر 2026 (أ.ب)
TT

«الروبوتات القاتلة» على طاولة جنيف... دعوات لضوابط ملزمة

روبوت شبيه بالبشر يسير بالقرب من موقع انعقاد قمة «أبيك» (APEC) لعام 2026 في مدينة شنجن بمقاطعة غوانغدونغ جنوب الصين يوم 18 نوفمبر 2026 (أ.ب)
روبوت شبيه بالبشر يسير بالقرب من موقع انعقاد قمة «أبيك» (APEC) لعام 2026 في مدينة شنجن بمقاطعة غوانغدونغ جنوب الصين يوم 18 نوفمبر 2026 (أ.ب)

تتصدر الأسلحة ذاتية التشغيل القادرة على استهداف البشر النقاشات في جنيف هذا الأسبوع، حيث تجتمع الدول في مقر الأمم المتحدة حتى الجمعة للبتّ فيما إذا كانت ستبدأ مفاوضات لوضع ضوابط تنظّم استخدامها، فيما يحذّر خبير في مقابلة مع «وكالة الصحافة الفرنسية» من مخاطر هذه «الروبوتات القاتلة» التي «تختزل الإنسان إلى مجرد بيانات».

يشدد رئيس وحدة الأسلحة وسير العمليات القتالية في اللجنة الدولية للصليب الأحمر لوران جيزيل على ضرورة الإسراع في وضع قواعد ملزمة قبل نشر أسلحة يصعب التنبؤ بأدائها أو التحكم بها في ساحات المعارك.

ويقول: «غالباً ما يُربط النقاش بشأن الأسلحة الذاتية التشغيل بالطائرات المسيّرة، لكنّ هذه التكنولوجيا يمكن دمجها في أي نوع من الأسلحة، مثل الصواريخ والقنابل».

ليست فكرة السلاح القادر على الردّ من دون تدخل بشري جديدة، لكنّ التطور المتسارع في قدرات هذه الأسلحة واستخداماتها بفضل التقدم في مجال الذكاء الاصطناعي، يدفع دولاً للمطالبة ببدء مفاوضات لوضع إطار قانوني ينظّم استخدامها.

ويوضح جيزيل أن بعض هذه الأسلحة الذاتية التشغيل «موجود منذ عقود».

ومن أبرز الأمثلة على ذلك أنظمة الدفاع المضادة للصواريخ المثبّتة على السفن الحربية، والقادرة على رصد التهديدات وإطلاق ردّ تلقائي عليها. ويوضح جيزيل أنه عند مواجهة صاروخ يقترب بسرعة فائقة، «يشرف العسكريون على عمل النظام، لكن لا يتطلب الأمر موافقتهم على كل ضربة».

ويرى الخبير أن مخاطر هذه الأنظمة على المدنيين تظل محدودة في هذه الحالة تحديداً، أي في عرض البحر وفي ظل صواريخ يمكن التعرّف على بصمتها التقنية.

«الذخائر المتنقلة»

ويوضح أن الألغام المضادة للأفراد تُعدّ شكلاً قديماً من الأسلحة الذاتية التشغيل، وقد حُظرت تحديداً بسبب طبيعتها العشوائية، إذ لا تميّز بين المدنيين والمقاتلين.

بمجرد زرعها، تنفجر الألغام عند مرور أي شخص، من دون أن يتمكن مَن زرعها من معرفة ما إذا كان هذا الشخص مقاتلاً أم مدنياً.

وتطرح التطورات التكنولوجية مخاطر جديدة.

يقول جيزيل: «ما يثير قلقنا بشكل خاص هي التطورات التي نشهدها اليوم في ساحات المعارك»، مشيراً إلى ازدياد تطوير أسلحة هجومية قادرة على «البحث عن أهداف وتعقّبها».

ويشير في مثال إلى الذخائر الجوّالة، مثل تلك القادرة على البحث عن رادار للعدو ثم الانقضاض عليه لتدميره. ويوضح أنه نظراً إلى قدرة هذه الذخائر على العمل بشكل مستقل، فهناك خطر من انفجارها على رادار موجود في منشأة يستخدمها المدنيون أيضاً.

مع العلم أنّ القانون الدولي الإنساني، المستند إلى اتفاقيات جنيف الذي تعد اللجنة الدولية للصليب الأحمر حامية له، يشترط على أطراف النزاع التمييز بين المدنيين والمقاتلين، وبين الأهداف العسكرية والأعيان المدنية.

الآلة تحسم المصير

مع ذلك، لا تدعو اللجنة الدولية للصليب الأحمر إلى حظر كل الأسلحة التي تتضمن نوعاً من التشغيل الآلي، بل إلى حظر الأسلحة التي يتعذّر التنبؤ بأدائها، وتلك المصمّمة لاستهداف البشر.

ويرى جيزيل أن الأسلحة المصمّمة لاستهداف البشر تطرح إشكالية أخلاقية إضافية، تتعلق بكيفية تعرّفها على الأشخاص واتخاذها قرار استهدافهم.

ويقول إنّ «هذه الأسلحة تختزل الإنسان إلى مجرد بيانات تلتقطها أجهزة استشعار وتحللها خوارزميات، لتكون الآلة في النهاية هي من يقرر مَن يعيش ومَن يموت».

ويلفت الخبير أيضاً إلى المخاطر الناجمة عن تطور الأوضاع الميدانية خلال المعارك، إذ قد يستسلم أحد المقاتلين أو يُصاب بين لحظة تفعيل السلاح ذاتي التشغيل ولحظة إطلاقه النار. وفي هذه الحالة، يصبح المقاتل شخصاً «خارج القتال» ويتمتع بحماية القانون الدولي الإنساني الذي يحظر استهدافه.

لكن السلاح ذاتي التشغيل قد لا يكون قادراً بالضرورة على رصد هذا التغيير والتعامل معه، حسب اللجنة الدولية للصليب الأحمر.

ويحذّر جيزيل أيضاً من احتمال استخدام هذه الأسلحة خارج النزاعات المسلحة، سواء من جانب دول «لتشديد قبضتها الأمنية على سكانها»، أو من جانب جماعات إرهابية.

ويلفت أيضاً إلى أن أنظمة برمجية مستقلة تعمل بالذكاء الاصطناعي أظهرت في بيئات اختبار سلوكيات غير متوقعة، وخرجت عن الضوابط التي وضعها مبتكروها.

ويقول: «تخيّلوا إذن حجم الخطر عندما تُدمج أنظمة ذكاء اصطناعي يصعب التنبؤ بها في منظومة أسلحة!».


مقالات ذات صلة

من تأجيل الامتحانات إلى «عقد عدم تدخل»... هكذا يستعد عشاق «جي تي إيه 6» لإطلاقها

تكنولوجيا لوك ستاريك يلعب لعبة «غراند ثفت أوتو 6 (Grand Theft Auto 6)» حيث تُعد نيوزيلندا أول دولة في العالم تتيح الوصول إليها عند منتصف الليل في أوكلاند (أ.ف.ب)

من تأجيل الامتحانات إلى «عقد عدم تدخل»... هكذا يستعد عشاق «جي تي إيه 6» لإطلاقها

يترقب عشاق ألعاب الفيديو حول العالم، بحماس استثنائي، إطلاق لعبة «جي تي إيه 6 (GTA 6)»، بعد انتظار دام 13 عاماً وتأجيل موعد طرحها مرتين.

«الشرق الأوسط» (واشنطن)
الاقتصاد وزير التجارة الأميركي هوارد لوتنيك خلال اجتماع في الفلبين (رويترز)

فضيحة «إنفيديا» تلاحق وزير التجارة الأميركي... وتحقيق بشأن «كانتور فيتزجيرالد»

فتح نواب ديمقراطيون في مجلس النواب الأميركي تحقيقاً بشأن احتمال استغلال وزير التجارة الأميركي هوارد لوتنيك منصبه لمساعدة شركة الاستثمار «كانتور فيتزجيرالد».

«الشرق الأوسط» (واشنطن)
تكنولوجيا أظهرت النتائج أن اختلاف الاستجابات يرتبط بطبيعة القيم المختبرة وليس بحجم النموذج أو خصائصه وحده (أدوبي)

دراسة: نماذج ذكاء اصطناعي تغيّر إجاباتها عندما تعتقد أنها تخضع للمراقبة

أظهرت دراسة أجراها باحثون في الهند أن بعض نماذج الذكاء الاصطناعي تغيّر قراراتها عندما تُبلَّغ بأن إجاباتها قد تخضع للمراقبة.

نسيم رمضان (لندن)
الاقتصاد متداولون يعملون في قاعة بورصة «نيويورك» الأميركية (رويترز)

العقود الآجلة لـ«ناسداك» ترتفع بدعم توقعات «إنفيديا» الإيجابية قبيل طرح «أنثروبيك»

ارتفعت العقود الآجلة لمؤشر «ناسداك»، الذي تغلب عليه أسهم التكنولوجيا، يوم الأربعاء، بعدما هدأت توقعات الإيرادات الإيجابية لشركة «إنفيديا» المخاوف.

«الشرق الأوسط» (نيويورك)
الاقتصاد متداولون يعملون في قاعة بورصة نيويورك (رويترز)

الأسهم العالمية تتباين مع تعافي أسهم الذكاء الاصطناعي وارتفاع العقود الأميركية الآجلة

تباين أداء الأسهم العالمية، يوم الأربعاء، مع تعافي أسهم شركات الذكاء الاصطناعي من خسائر واسعة تكبدها قطاع التكنولوجيا في «وول ستريت».

«الشرق الأوسط» (هونغ كونغ)

«الروبوتات القاتلة» على طاولة جنيف... دعوات لضوابط ملزمة

روبوت شبيه بالبشر يسير بالقرب من موقع انعقاد قمة «أبيك» (APEC) لعام 2026 في مدينة شنجن بمقاطعة غوانغدونغ جنوب الصين يوم 18 نوفمبر 2026 (أ.ب)
روبوت شبيه بالبشر يسير بالقرب من موقع انعقاد قمة «أبيك» (APEC) لعام 2026 في مدينة شنجن بمقاطعة غوانغدونغ جنوب الصين يوم 18 نوفمبر 2026 (أ.ب)
TT

«الروبوتات القاتلة» على طاولة جنيف... دعوات لضوابط ملزمة

روبوت شبيه بالبشر يسير بالقرب من موقع انعقاد قمة «أبيك» (APEC) لعام 2026 في مدينة شنجن بمقاطعة غوانغدونغ جنوب الصين يوم 18 نوفمبر 2026 (أ.ب)
روبوت شبيه بالبشر يسير بالقرب من موقع انعقاد قمة «أبيك» (APEC) لعام 2026 في مدينة شنجن بمقاطعة غوانغدونغ جنوب الصين يوم 18 نوفمبر 2026 (أ.ب)

تتصدر الأسلحة ذاتية التشغيل القادرة على استهداف البشر النقاشات في جنيف هذا الأسبوع، حيث تجتمع الدول في مقر الأمم المتحدة حتى الجمعة للبتّ فيما إذا كانت ستبدأ مفاوضات لوضع ضوابط تنظّم استخدامها، فيما يحذّر خبير في مقابلة مع «وكالة الصحافة الفرنسية» من مخاطر هذه «الروبوتات القاتلة» التي «تختزل الإنسان إلى مجرد بيانات».

يشدد رئيس وحدة الأسلحة وسير العمليات القتالية في اللجنة الدولية للصليب الأحمر لوران جيزيل على ضرورة الإسراع في وضع قواعد ملزمة قبل نشر أسلحة يصعب التنبؤ بأدائها أو التحكم بها في ساحات المعارك.

ويقول: «غالباً ما يُربط النقاش بشأن الأسلحة الذاتية التشغيل بالطائرات المسيّرة، لكنّ هذه التكنولوجيا يمكن دمجها في أي نوع من الأسلحة، مثل الصواريخ والقنابل».

ليست فكرة السلاح القادر على الردّ من دون تدخل بشري جديدة، لكنّ التطور المتسارع في قدرات هذه الأسلحة واستخداماتها بفضل التقدم في مجال الذكاء الاصطناعي، يدفع دولاً للمطالبة ببدء مفاوضات لوضع إطار قانوني ينظّم استخدامها.

ويوضح جيزيل أن بعض هذه الأسلحة الذاتية التشغيل «موجود منذ عقود».

ومن أبرز الأمثلة على ذلك أنظمة الدفاع المضادة للصواريخ المثبّتة على السفن الحربية، والقادرة على رصد التهديدات وإطلاق ردّ تلقائي عليها. ويوضح جيزيل أنه عند مواجهة صاروخ يقترب بسرعة فائقة، «يشرف العسكريون على عمل النظام، لكن لا يتطلب الأمر موافقتهم على كل ضربة».

ويرى الخبير أن مخاطر هذه الأنظمة على المدنيين تظل محدودة في هذه الحالة تحديداً، أي في عرض البحر وفي ظل صواريخ يمكن التعرّف على بصمتها التقنية.

«الذخائر المتنقلة»

ويوضح أن الألغام المضادة للأفراد تُعدّ شكلاً قديماً من الأسلحة الذاتية التشغيل، وقد حُظرت تحديداً بسبب طبيعتها العشوائية، إذ لا تميّز بين المدنيين والمقاتلين.

بمجرد زرعها، تنفجر الألغام عند مرور أي شخص، من دون أن يتمكن مَن زرعها من معرفة ما إذا كان هذا الشخص مقاتلاً أم مدنياً.

وتطرح التطورات التكنولوجية مخاطر جديدة.

يقول جيزيل: «ما يثير قلقنا بشكل خاص هي التطورات التي نشهدها اليوم في ساحات المعارك»، مشيراً إلى ازدياد تطوير أسلحة هجومية قادرة على «البحث عن أهداف وتعقّبها».

ويشير في مثال إلى الذخائر الجوّالة، مثل تلك القادرة على البحث عن رادار للعدو ثم الانقضاض عليه لتدميره. ويوضح أنه نظراً إلى قدرة هذه الذخائر على العمل بشكل مستقل، فهناك خطر من انفجارها على رادار موجود في منشأة يستخدمها المدنيون أيضاً.

مع العلم أنّ القانون الدولي الإنساني، المستند إلى اتفاقيات جنيف الذي تعد اللجنة الدولية للصليب الأحمر حامية له، يشترط على أطراف النزاع التمييز بين المدنيين والمقاتلين، وبين الأهداف العسكرية والأعيان المدنية.

الآلة تحسم المصير

مع ذلك، لا تدعو اللجنة الدولية للصليب الأحمر إلى حظر كل الأسلحة التي تتضمن نوعاً من التشغيل الآلي، بل إلى حظر الأسلحة التي يتعذّر التنبؤ بأدائها، وتلك المصمّمة لاستهداف البشر.

ويرى جيزيل أن الأسلحة المصمّمة لاستهداف البشر تطرح إشكالية أخلاقية إضافية، تتعلق بكيفية تعرّفها على الأشخاص واتخاذها قرار استهدافهم.

ويقول إنّ «هذه الأسلحة تختزل الإنسان إلى مجرد بيانات تلتقطها أجهزة استشعار وتحللها خوارزميات، لتكون الآلة في النهاية هي من يقرر مَن يعيش ومَن يموت».

ويلفت الخبير أيضاً إلى المخاطر الناجمة عن تطور الأوضاع الميدانية خلال المعارك، إذ قد يستسلم أحد المقاتلين أو يُصاب بين لحظة تفعيل السلاح ذاتي التشغيل ولحظة إطلاقه النار. وفي هذه الحالة، يصبح المقاتل شخصاً «خارج القتال» ويتمتع بحماية القانون الدولي الإنساني الذي يحظر استهدافه.

لكن السلاح ذاتي التشغيل قد لا يكون قادراً بالضرورة على رصد هذا التغيير والتعامل معه، حسب اللجنة الدولية للصليب الأحمر.

ويحذّر جيزيل أيضاً من احتمال استخدام هذه الأسلحة خارج النزاعات المسلحة، سواء من جانب دول «لتشديد قبضتها الأمنية على سكانها»، أو من جانب جماعات إرهابية.

ويلفت أيضاً إلى أن أنظمة برمجية مستقلة تعمل بالذكاء الاصطناعي أظهرت في بيئات اختبار سلوكيات غير متوقعة، وخرجت عن الضوابط التي وضعها مبتكروها.

ويقول: «تخيّلوا إذن حجم الخطر عندما تُدمج أنظمة ذكاء اصطناعي يصعب التنبؤ بها في منظومة أسلحة!».


من تأجيل الامتحانات إلى «عقد عدم تدخل»... هكذا يستعد عشاق «جي تي إيه 6» لإطلاقها

لوك ستاريك يلعب لعبة «غراند ثفت أوتو 6 (Grand Theft Auto 6)» حيث تُعد نيوزيلندا أول دولة في العالم تتيح الوصول إليها عند منتصف الليل في أوكلاند (أ.ف.ب)
لوك ستاريك يلعب لعبة «غراند ثفت أوتو 6 (Grand Theft Auto 6)» حيث تُعد نيوزيلندا أول دولة في العالم تتيح الوصول إليها عند منتصف الليل في أوكلاند (أ.ف.ب)
TT

من تأجيل الامتحانات إلى «عقد عدم تدخل»... هكذا يستعد عشاق «جي تي إيه 6» لإطلاقها

لوك ستاريك يلعب لعبة «غراند ثفت أوتو 6 (Grand Theft Auto 6)» حيث تُعد نيوزيلندا أول دولة في العالم تتيح الوصول إليها عند منتصف الليل في أوكلاند (أ.ف.ب)
لوك ستاريك يلعب لعبة «غراند ثفت أوتو 6 (Grand Theft Auto 6)» حيث تُعد نيوزيلندا أول دولة في العالم تتيح الوصول إليها عند منتصف الليل في أوكلاند (أ.ف.ب)

يترقب عشاق ألعاب الفيديو حول العالم، بحماس استثنائي، إطلاق لعبة «جي تي إيه 6 (GTA 6)»، بعد انتظار دام 13 عاماً وتأجيل موعد طرحها مرتين. ولم يقتصر هذا الحماس على الاستعداد لخوض تجربة اللعبة الجديدة، بل دفع بعض المعجبين بها إلى إعادة ترتيب جداول أعمالهم، وتأجيل التزاماتهم، بل حتى إبرام اتفاقات عائلية لضمان التفرغ للعبها دون أي مقاطعة.

ومن المقرر طرح اللعبة، الخميس، وسط توقعات بأن تحقق مبيعات قياسية، لتصبح من أبرز الإصدارات في تاريخ صناعة ألعاب الفيديو.

وستكون اللعبة الجديدة متاحة على جهازي «بلاي ستيشن 5» و«إكس بوكس سيريز» عند منتصف ليل الأربعاء - الخميس، بالتوقيت المحلي لكل بلد، بعد عملية تطوير استغرقت أكثر من ثماني سنوات.

ورغم أن شركة «روكستار غيمز» الأميركية، المطوّرة لسلسلة «جي تي إيه»، لم تعلن أرقام الطلبات المسبقة على الإصدار الجديد، فإن مبيعاته تجاوزت 15 مليون نسخة، حسب شركة «سينسر تاور» المتخصصة.

ويقدّر محللون أن اللعبة ربما حققت إيرادات تتجاوز 1.5 مليار دولار حتى قبل طرحها رسمياً، في حين تراوحت تكلفة إنتاجها بين مليار و1.5 مليار دولار، وهو رقم غير مسبوق في صناعة ألعاب الفيديو.

ووفقاً لتقديرات شركة الأبحاث البريطانية «أومديا»، قد تصل مبيعات «جي تي إيه 6» إلى 3.2 مليار دولار بحلول نهاية العام.

رجل يقف أمام شاشة تعرض دليلاً شاملاً للعبة «جي تي إيه 6» في متجر لألعاب الفيديو وذلك قبيل طرح اللعبة في الأسواق بولاية فلوريدا الأميركية (رويترز)

أستاذ جامعي يؤجل الامتحانات من أجل اللعبة

ويرافق إطلاق اللعبة حماس واسع بين محبيها حول العالم، دفع بعضهم إلى اتخاذ خطوات غير مألوفة لإفساح المجال أمام الاستمتاع بها.

ففي إسبانيا، قرر أستاذ جامعي إخلاء جدول محاضراته خلال الأسبوع الذي سيشهد إطلاق «جي تي إيه 6»، وسرعان ما انتشرت رسالة إلكترونية توضح أسباب قراره على نطاق واسع.

وجاءت هذه الخطوة في وقت بدأ فيه كثير من البالغين التخطيط للتغيب عن التزاماتهم بالتزامن مع الإصدار المرتقب، إذ توقع أحد الاقتصاديين أن يتغيب نحو 1.5 مليون أميركي عن أعمالهم في 19 نوفمبر (تشرين الثاني).

ولم تكن العلامات التجارية بعيدة عن موجة الحماس هذه؛ إذ استعانت «إكس بوكس» (Xbox) بـ«دي جي خالد» (DJ Khaled) لتوزيع «شهادات طبية» بمناسبة يوم الإطلاق، فيما نظمت سلسلة مطاعم «كنتاكي» (KFC) جنازة وهمية لتكون ذريعة للبقاء في المنزل.

أما طلاب الأستاذ الجامعي الإسباني، فقد اكتشفوا أن أستاذهم كان يعمل بهدوء، طوال الأسبوع السابق لإطلاق اللعبة، على إعادة ترتيب جدول أعماله استعداداً للتفرغ لهذا الحدث.

وفي رسالة بريد إلكتروني كُتبت باللغة الإسبانية ونُشرت على منصة «إكس» في 16 نوفمبر، أبلغ الأستاذ طلابه بأنه لن تكون هناك أي واجبات منزلية أو مشاريع أو مواعيد نهائية لتسليم المهام في مادته خلال الأسبوع الذي ستُطرح فيه «جي تي إيه 6».

ولم يكتفِ بذلك، بل قرر أيضاً تأجيل أحد الامتحانات من 23 نوفمبر إلى 30 نوفمبر، موضحاً أن الهدف من هذه الخطوة هو «تمكينكم من تنظيم أموركم بصورة أفضل والحصول على مزيد من وقت الفراغ خلال تلك الأيام».

إعلان للعبة الفيديو «جي تي إيه 6» يظهر في سيول (أ.ف.ب)

واستعاد الأستاذ ذكرياته مع الإصدار السابق من اللعبة، قائلاً: «عندما صدرت لعبة GTA V عام 2013، كنت في مثل سنّكم»، متذكراً مدى شغفه آنذاك بالعودة إلى المنزل للعبها، وكيف كانت محور أحاديثه مع أصدقائه.

ولم يكن الأستاذ وحده مَن بدأ تهيئة الظروف استعداداً لموعد الإطلاق المرتقب في 19 نوفمبر؛ إذ أعلنت إحدى شركات السيارات، في يونيو (حزيران) الماضي، أنها ستوقف عملياتها في ذلك اليوم، لإتاحة الفرصة لجميع موظفيها للاستمتاع بتجربة اللعبة الجديدة.

«عقد عدم تدخل» للتفرغ للعب لمدة أسبوع

أما شون ليتل، أحد أشد المعجبين بسلسلة ألعاب «غراند ثفت أوتو» (Grand Theft Auto)، فلم تكن إجازة لمدة أسبوع من العمل كافية بالنسبة إليه للاستمتاع بأحدث إصدارات اللعبة الشهيرة، حسب تقرير لهيئة الإذاعة البريطانية (بي بي سي).

فقد أدرك أنه إذا أمضى الأيام السبعة في منزله، فسيُطلب منه حتماً القيام بمهام منزلية، مثل تمشيط الكلاب والمساعدة في أعمال المطبخ.

ولذلك، تمكن ليتل، الذي يعمل لحسابه الخاص في مجال الطلاء والديكور، من إقناع زوجته وابنته بتوقيع «عقد عدم تدخل»، يعفيه من مسؤولياته بوصفه أباً لمدة أسبوع كامل.

وقالت زوجته ناتالي: «لا يحق لنا أن نطلب منه القيام بأي نوع من الأعمال المنزلية».

وأضافت: «لا يُسمح لنا بالتعليق على الوقت الذي يقضيه في اللعب، ولا يمكننا وصفه بالكسل، حتى لو ظل جالساً على الأريكة لساعات طويلة».

وتابعت: «لقد منحني مبلغاً إضافياً لتغطية نفقات المنزل، حتى أتمكن من شراء بعض الوجبات الخفيفة... أما هو، فلن يتولى إعداد أي وجبات».

وأوضحت: «سيكون موجوداً هنا طوال الوقت، منشغلاً باللعب، ولن يفعل أي شيء آخر».

ولم يترك شون شيئاً للصدفة، إذ اشترى أطباقاً ورقية حتى لا يُطلب منه غسل الأطباق خلال فترة تفرغه للعبة.

وفي مقابل «رسوم توقيع» محددة، وافقت زوجته وابنته على منحه حق الاستحواذ على غرفة المعيشة، ليتمكن من لعب «غراند ثفت أوتو 6 (GTA 6)» بهدوء ودون إزعاج.

عمال يقفون أسفل لوحة إعلانية للعبة «جي تي إيه 6» في ميامي بفلوريدا (إ.ب.أ)

عبارات محظورة وحوافز مالية

ويوضح شون أنه أعدّ هذا العقد لزوجته وابنته شارلوت، البالغة من العمر 13 عاماً، على سبيل المزاح، وصوّره لنشره عبر حسابه على منصة «تيك توك».

لكنه يعترف في الوقت نفسه بأن الأمر لا يخلو من قدر من الجدية.

فالتزام زوجته وابنته ببنود الاتفاق سيضمن له عدم مقاطعته في أثناء اللعب، أو الكشف عن أحداث مهمة في اللعبة وإفساد عنصر المفاجأة، أو تكليفه «بمهام منزلية غير ضرورية».

ويتضمن العقد أيضاً قائمة بعبارات يُحظر على أفراد العائلة توجيهها إليه، من بينها:

- «لقد أمضيت ساعات في اللعب!».

- «هل ما زلت تلعب هذه اللعبة حقاً؟».

- «هل يمكنك القيام بهذا الأمر أولاً؟».

وفي المقابل، يقدم شون حوافز مالية لأفراد عائلته؛ إذ يدفع 50 جنيهاً إسترلينياً (اي نحو 65 دولاراً) لزوجته ناتالي، و20 جنيهاً إسترلينياً (نحو 26 دولاراً) لابنته شارلوت، كما رفع مساهمته الأسبوعية في ميزانية الأسرة إلى 500 جنيه إسترليني.


دراسة: نماذج ذكاء اصطناعي تغيّر إجاباتها عندما تعتقد أنها تخضع للمراقبة

أظهرت النتائج أن اختلاف الاستجابات يرتبط بطبيعة القيم المختبرة وليس بحجم النموذج أو خصائصه وحده (أدوبي)
أظهرت النتائج أن اختلاف الاستجابات يرتبط بطبيعة القيم المختبرة وليس بحجم النموذج أو خصائصه وحده (أدوبي)
TT

دراسة: نماذج ذكاء اصطناعي تغيّر إجاباتها عندما تعتقد أنها تخضع للمراقبة

أظهرت النتائج أن اختلاف الاستجابات يرتبط بطبيعة القيم المختبرة وليس بحجم النموذج أو خصائصه وحده (أدوبي)
أظهرت النتائج أن اختلاف الاستجابات يرتبط بطبيعة القيم المختبرة وليس بحجم النموذج أو خصائصه وحده (أدوبي)

أظهرت دراسة أجراها باحثون في الهند أن بعض نماذج الذكاء الاصطناعي تغيّر قراراتها عندما تُبلَّغ بأن إجاباتها قد تخضع للمراقبة وتُستخدم في تدريبها لاحقاً، مقارنة بإجاباتها عندما تُمنح انطباعاً بأن تفاعلاتها لن تخضع للمراجعة.

وشملت الاختبارات 10 نماذج لغوية كبيرة، وأظهرت فروقاً في الالتزام بالتعليمات تراوحت بين نحو 5 و50 نقطة مئوية، وفق النموذج المستخدم وطبيعة القيم التي طُلب منه تجاوزها. وتناولت الدراسة ظاهرة تُعرف باسم «التظاهر بالمواءمة» (Alignment Faking) التي تشير إلى إظهار النموذج التزاماً بتعليمات محددة في ظروف المراقبة، مع اختلاف سلوكه عندما يعتقد أن هذه الرقابة غير موجودة.

ثلاثة اختبارات للسلوك نفسه

استخدم الفريق مجموعة من المواقف اليومية التي تتطلّب المفاضلة بين خيارَيْن، أحدهما يتوافق مع تعليمات مفروضة على النموذج، والآخر يتيح له التعبير عن قيمة مثل التعاطف أو الاستقلالية أو مساعدة الآخرين.

وجرى اختبار كل نموذج في ثلاثة أوضاع، الأول دون تعليمات إضافية، والثاني مع توجيهات محددة وإشارة إلى عدم مراقبة الإجابات. أما الثالث فيتعلق بالتوجيهات نفسها مع إبلاغ النموذج بإمكانية مراقبة تفاعلاته واستخدامها في التدريب.

وشملت التجارب 32 قيمة وسمة سلوكية مأخوذة من معيار «فاليو بنش» (ValueBench)، بهدف تحديد ما إذا كانت استجابة النماذج تتغير تبعاً لطبيعة القيمة موضع الاختبار. وضمت النماذج المختبرة إصدارات من «ديب سيك» و«لاما» و«ميسترال» و«جيما»، إلى جانب «GPT-4o mini»، بما يتيح مقارنة أنظمة مختلفة في الحجم وطريقة التطوير.

أشارت تفسيرات بعض النماذج إلى احتمال إعادة التدريب عند إبلاغها بالمراقبة مقابل إبراز تعارض القيم في غيابها (شاترستوك)

اختلافات تصل إلى 50 نقطة مئوية

سجّل نموذج «DeepSeek R1 Distill Llama 70B» أكبر فرق متوسط بين حالتي المراقبة وعدم المراقبة، بنحو 49.5 نقطة مئوية، في حين كان الفرق لدى «Gemma 3 27B» في حدود 5.1 نقطة مئوية.

ولم ترتبط هذه الفروق بصورة مباشرة بحجم النموذج، إذ تجاوز النموذج المشتق من «ديب سيك»، الذي يضم نحو 70 مليار معامل، نموذج «ميسترال لارج» الأكبر حجماً في مقدار تغير الالتزام بالتعليمات بين الحالتين.

لكن الباحثين وجدوا أيضاً أن ترتيب النماذج وحده لا يكفي لتفسير النتائج، لأن سلوك النموذج قد يختلف من قيمة إلى أخرى.

وأظهرت التحليلات الإحصائية أن نحو ربع التباين البنيوي في فروق الالتزام يرتبط بالتفاعل بين النموذج والقيمة التي يُختبر بشأنها، وليس بخصائص النموذج أو القيمة بصورة منفصلة. وبالتالي، فإن النموذج الذي يُظهر استقراراً في الاستجابة عند التعامل مع قيمة معينة قد يتصرف بصورة مختلفة عند اختباره في موقف يرتبط بقيمة أخرى.

ماذا كشفت تفسيرات النماذج؟

لم يكتفِ الفريق بقياس الاختيارات النهائية، بل حلّل أيضاً التفسيرات المكتوبة التي قدمتها النماذج لتبرير قراراتها، وصنّفها ضمن ست فئات. وأظهرت النتائج أن بعض النماذج التي سجلت فروقاً كبيرة في الالتزام كانت تشير، عند إبلاغها بالمراقبة، إلى احتمال إعادة التدريب باعتباره سبباً لاختيار الإجابة المتوافقة مع التعليمات. أما عندما أُبلغت بأن الإجابات لن تخضع للمراقبة، فقد ظهرت في تفسيراتها إشارات أكثر إلى التعارض بين التعليمات المفروضة والقيم المرتبطة بالموقف، مثل التعاطف أو مراعاة الآخرين.

ولا تعني هذه النتائج أن النماذج تمتلك وعياً بالمراقبة أو نيات مستقلة لإخفاء سلوكها، إذ اعتمدت التجربة على معلومات وردت داخل التعليمات المقدمة إليها، ثم قاس الباحثون أثرها في الإجابات.

حدود التجربة وأدوات التقييم

أقر الباحثون بوجود قيود منهجية، أبرزها اختلاف صياغة التعليمات حسب القيمة المختبرة، ما يجعل الفصل الكامل بين تأثير القيمة نفسها وتأثير الكلمات المستخدمة في صياغة الطلب أمراً غير محسوم. كما اعتمدت الاختبارات على مواقف افتراضية باللغة الإنجليزية وخيارات ثنائية، ولم تتناول مباشرة أداء النماذج في تطبيقات فعلية أو في لغات أخرى.

وأشار الباحثون إلى أن بعض الفروق تأثرت بطريقة عرض التعليمات وترتيب الخيارات، ما يستدعي الحذر عند تفسيرها باعتبارها دليلاً قاطعاً على التظاهر بالالتزام. واقترح الفريق إعداد «بطاقات للقيم» لكل نموذج، تُظهر استجاباته عبر القيم المختلفة وظروف الاختبار الثلاثة، بدلاً من الاكتفاء بمؤشر عام للامتثال.

وأتاح الباحثون الشيفرة البرمجية والبيانات المستخدمة في الدراسة، لتمكين فرق أخرى من تكرار الاختبارات وتوسيعها. وتبقى المسألة التي تتطلّب مزيداً من البحث هي مدى استمرار هذه الفروق خارج المواقف التجريبية، خصوصاً عندما تعمل النماذج ضمن أنظمة حقيقية تتغير فيها التعليمات وآليات المراقبة.