هل «تتآمر» علينا أنظمة الذكاء الاصطناعي؟

تقلّد نقائص الشخصية البشرية

يجري تدريب أدوات الذكاء الاصطناعي على محاكاة كل ما يفعله الإنسان تقريباً، لذا قد لا يكون مفاجئاً أن تبدأ هذه الآلات في تقليد النقائص البشرية أيضاً، مثل الكذب والغش، كما كتبت لورا كيلي(*).

«تآمر» الذكاء الاصطناعي

وقد رُصد أخيراً جانب من تقنيات الذكاء الاصطناعي وهي تخالف التعليمات البشرية (بل وتخفي حقيقة قيامها بذلك). وهي ظاهرة يطلق عليها بعض الباحثين اسم «التآمر» (scheming). وبدأ هذا المصطلح يتردد في أوساط قطاع التكنولوجيا بعد ظهوره في ورقة بحثية عام 2023 للباحث جو كارلسميث، الذي أشار إلى أن المفهوم يُعرف أيضاً باسم «المواءمة الخادعة» (deceptive alignment).

وفي عام 2025، صرح فريق من مؤسستي «أبولو ريسيرش» و«أوبن إيه آي» بأن «تآمر الذكاء الاصطناعي» - أي التظاهر بالمواءمة مع الأهداف المطلوبة بينما يسعى النظام سراً لتحقيق أهداف ومخططات أخرى - يمثل «خطراً كبيراً نعكف على دراسته». يقول برونسون شون، كبير علماء الأبحاث في «أبولو ريسيرش» ومشارك في تأليف مقالات حول ظاهرة التآمر، إن نماذج الذكاء الاصطناعي تتفوق في مجالات عديدة، لكن تنفيذ الأوامر بدقة ليس دائماً أحد تلك المجالات. ويضيف: «مع تزايد اهتمام النماذج بتحقيق نتائج جيدة في الاختبارات، يبدو أن بعضها يولي اهتماماً أقل لما يريده الشخص المختبر أو المستخدم»، مشيراً إلى أن النماذج تحاول أحياناً «الاختباء منك وتجنب الانكشاف».

تصرف «مارق»

أما كريس باينتر، رئيس منظمة METR (وهي منظمة غير ربحية تعنى بسلامة الذكاء الاصطناعي)، فيصف هذا السلوك الماكر للنماذج بأنه «تصرف مارق» (rogue action)، معتبراً إياه «نتيجة حتمية لطريقة تدريب هذه النماذج». إذ تُدرَّب العديد من أدوات الذكاء الاصطناعي باستخدام عملية «التعلم بالتعزيز» (reinforcement learning). ويوضح باينتر الأمر قائلاً: «عندما يؤدي الذكاء الاصطناعي مهمة ما بشكل صحيح، فإنه يتلقى ما يمكن اعتباره (إشارة استحسان وتربيتة تشجيعية)، أما عندما يخطئ، فإنه (يتلقى ضربة على الرأس)».

هوس الآلة يدفعها للاختراق

تسعى النماذج للحصول على تلك «التربيتة» وتجنب الضربة. وأحياناً، تصبح الآلة مهووسة بالسعي وراء المكافأة لدرجة أنها تكسر القواعد من أجل تحقيقها. وقد شهد العالم نموذجاً لهذا السلوك الخاطئ الشهر الماضي؛ ففي أثناء البحث عن إجابات خلال اختبار لقدرات أنظمتها، قامت نماذج «أوبن إيه آي» باختراق منصة «هاغينغ فيس»، وهي مكتبة تضم مجموعة من أدوات الذكاء الاصطناعي. وكتبت شركة «أوبن إيه آي» في تدوينة لها: «تشير كل الأدلة إلى أن النماذج كانت تركز بشكل مفرط على إيجاد حل، وبذلت جهوداً هائلة لتحقيق هدف اختبار محدود للغاية». ووصف باينتر تلك الحادثة بأنها حالة واسعة النطاق لما يُعرف بـ«اختراق نظام المكافأة» (reward hacking)؛ إذ أُعطي النموذج مسألة صعبة، فقام بتنفيذ سلسلة من الهجمات السيبرانية بدلاً من الاستسلام.

وفي أعقاب هذا الكشف صرحت شركة «أنثروبيك» يوم الخميس الماضي بأن مراجعة لأنظمتها أظهرت أن العديد من نماذج الذكاء الاصطناعي التابعة لها قد اخترقت أخيراً أنظمة ثلاث مؤسسات خارجية.

أخطاء أم عصيان؟

بالنسبة للكثيرين، يُنظر إلى هذا السلوك على أنه مجرد أخطاء ترتكبها النماذج، وليس «عصياناً» متعمداً للبشر. إلا أن أناستاسيوس ن. أنجيلوبولوس، الرئيس التنفيذي والمؤسس لمنصة تقييم الذكاء الاصطناعي «Arena» يقول: «من ناحية، هناك أشخاص يضفون طابعاً بشرياً كاملاً على هذه النماذج ويعتبرونها كيانات مستقلة. ومن ناحية أخرى، هناك من ينظر إلى الذكاء الاصطناعي بوصفه مجرد برمجيات». وأشار إلى أنه حتى لو خرجت الآلة عن السيطرة، يمكن للبشر إيقاف العملية في أي وقت، لأننا لا نملك ذكاءً اصطناعياً يتمتع باستقلالية تامة (على الأقل ليس بعد).

الخشية من تفاقم المشكلات

إن الانتشار السريع لنماذج الذكاء الاصطناعي وفائدتها لعدد كبير من الناس يضع الشركات الكبرى تحت ضغط تنافسي للاستمرار في السباق نحو الأمام، وذلك في ظل تزايد المخاوف بشأن المشكلات التي قد تسببها النماذج غير المثالية. ورغم أن هذه المشكلة لا تزال محدودة النطاق نسبياً، فإن الباحثين يخشون تفاقمها مع تزايد المسؤوليات الموكلة إلى وكلاء الذكاء الاصطناعي. ويقول شون: «نظراً لأن القرارات التي يتخذها البشر حالياً بدأت تُنقل تدريجياً إلى النماذج، فإنك بالتأكيد ترغب في التأكد تماماً من أن هذه النماذج تتخذ القرارات نفسها التي تود أنت، أن تتخذها».

* خدمة «نيويورك تايمز».