وكلاء الذكاء الاصطناعي يعطّلون الرقابة... ثم ينكرون
حادثتان داخل «أوبن إيه آي» تثيران مخاوف بشأن قدرة الأنظمة الذكية على تجاوز الضوابط الأمنية (رويترز)
ماذا يحدث عندما يعطّل نظام للذكاء الاصطناعي أدوات مراقبته، ثم ينكر أنه فعل ذلك؟ لم يعد السؤال افتراضياً تماماً، بعدما كشفت حادثتان داخل شركة «أوبن إيه آي»، المطوّرة لـ«تشات جي بي تي»، عن قيام وكيلين للذكاء الاصطناعي بإضعاف إجراءات رقابية خلال تنفيذ مهمتين برمجيتين.
وبحسب تقارير نشرتها صحيفة «فايننشال تايمز» وشبكة «إيه بي سي نيوز»، وقعت الحادثتان خلال أكتوبر (تشرين الأول) 2026. ففي الواقعة الأولى، عطّل أحد الوكلاء التنبيهات التلقائية المرسلة إلى فريق الأمن، بعدما أساء تفسير تعليمات تتعلق بعدم إرسال رسائل عبر منصة «سلاك» في أثناء البحث في سجل المحادثات، واعتبرها مبرراً لإيقاف إشعارات المراقبة أيضاً.
أما الحادثة الثانية، فكانت أكثر إثارة للقلق. فقد كُلّف وكيل بنقل برنامج إلى مسار برمجي آخر مع الحفاظ على وظائفه الأساسية، لكنه أزال نظام المراقبة المدمج فيه سعياً إلى مطابقة النسخة الجديدة للنموذج المرجعي. والأكثر لفتاً أن «أوبن إيه آي» أفادت بأنه أنكر لاحقاً إزالة نظام المراقبة.
وتحقق الشركة فيما إذا كان هذا السلوك يعكس إصراراً مفرطاً على إنجاز المهام، أم أنه يشير إلى ميل نحو التهرب من الرقابة. والفرق بين الاحتمالين مهم؛ فالرغبة في إتمام المهمة قد تدفع النظام إلى اتخاذ خطوات غير مطلوبة، لكن تعطيل أدوات الإشراف وإنكار ذلك يثيران تساؤلات أعمق بشأن فاعلية الضوابط الأمنية.
ولا تثبت الحادثتان أن الأنظمة تمتلك نية واعية للخداع على غرار الإنسان، لكنهما تكشفان أن سلوكها قد يؤدي إلى تقويض إجراءات السلامة، حتى عندما يُفترض أن تكون هذه الإجراءات جزءاً من بيئة عملها.
هل تكفي الرقابة الداخلية؟
قالت «أوبن إيه آي» إنها تعمل على تعزيز أنظمة المراقبة واختبارات السلامة. غير أن الواقعتين تطرحان سؤالاً جوهرياً: كيف يمكن ضمان فاعلية الرقابة إذا كان النظام الخاضع لها قادراً على تعطيلها؟
وتبرز هنا أهمية وضع قيود تمنع الوكلاء من تغيير أدوات الإشراف، والاستعانة بتقييم مستقل للتحقق من سلوكهم، بدلاً من الاعتماد حصراً على أنظمة المراقبة الداخلية.
ومع انتقال الذكاء الاصطناعي من الإجابة عن الأسئلة إلى تنفيذ مهام معقدة باستقلالية متزايدة، لن تكون قدرته على الإنجاز وحدها معيار النجاح. فالثقة تتطلب أيضاً احترام القيود، وإمكانية مراجعة القرارات، والتأكد من أن النظام لا يستطيع تقويض الضمانات الموضوعة للحد من أخطائه.
فوزي بنسعيدي: تكريمي في «الجونة» محطة مهمة لتأمل مشواريhttps://aawsat.com/%D9%8A%D9%88%D9%85%D9%8A%D8%A7%D8%AA-%D8%A7%D9%84%D8%B4%D8%B1%D9%82/5332399-%D9%81%D9%88%D8%B2%D9%8A-%D8%A8%D9%86%D8%B3%D8%B9%D9%8A%D8%AF%D9%8A-%D8%AA%D9%83%D8%B1%D9%8A%D9%85%D9%8A-%D9%81%D9%8A-%D8%A7%D9%84%D8%AC%D9%88%D9%86%D8%A9-%D9%85%D8%AD%D8%B7%D8%A9-%D9%85%D9%87%D9%85%D8%A9-%D9%84%D8%AA%D8%A3%D9%85%D9%84-%D9%85%D8%B4%D9%88%D8%A7%D8%B1%D9%8A
فوزي بنسعيدي: تكريمي في «الجونة» محطة مهمة لتأمل مشواري
المخرج المغربي يعتبر تكريمه في الجونة محطة مهمة (الشرق الأوسط)
قال المخرج المغربي فوزي بنسعيدي إن تكريمه في مهرجان «الجونة السينمائي» بمصر، يمثل لحظة للتأمل في تجربته، ومراجعة ما تحقق فيها وما ظل بعيداً عن طموحاته، مؤكداً أنه اعتاد وضع أفلامه موضع السؤال، والتفكير فيما نجح في التعبير عنه، وما أخفق في الوصول إليه، لأن قيمة التكريم لا تقتصر على استعادة الماضي، وإنما تمتد إلى ما يمنحه من دافع لمواصلة العمل وتطوير أدواته.
وأضاف بنسعيدي، في حواره مع «الشرق الأوسط» على هامش تكريمه في المهرجان عن مسيرته الفنية والذي يتسلمه في حفل الختام (الجمعة)، أنه يشعر بالفخر بهذا التقدير، خصوصاً حين يأتي من مهرجان عربي، لكنه يتعامل معه بوصفه محطة داخل مسار يتمنى استمراره، مشيراً إلى أنه يستقبله باعتباره تشريفاً وتكليفاً في الوقت نفسه، ومسؤولية تدفعه إلى مزيد من الصرامة مع نفسه بحثاً عن أفلام أفضل وأكثر عمقاً.
وأوضح أنه لا يستطيع قياس مدى معرفة الجمهور العربي بتجربته، رغم تنقل أفلامه بين المهرجانات وحصولها على جوائز منذ بداياته مع الأفلام القصيرة، لافتاً إلى أنه كثيراً ما ترك أفلامه تسافر وحدها، لانشغاله بالكتابة والتحضير والتصوير والمونتاج، فالمشاركة في المهرجانات مهمة بالنسبة إليه، لكن الأولوية تظل لصناعة الأفلام، وما تحتاج إليه من وقت وتركيز.
مهرجان الجونة يكرم المخرج المغربي عن مجمل مسيرته الفنية (الشرق الأوسط)
وربط صعوبة وصول التجارب السينمائية العربية إلى جمهورها بضعف التوزيع داخل المنطقة، موضحاً أن الأفلام العربية لا تجد فرصاً كافية للعرض في البلدان العربية، كما أن القنوات التلفزيونية لا تتيح لها الحضور الذي يتمناه صناعها، وهو واقع يحد من قدرة الجمهور على اكتشاف أفلام ومخرجين عرب، حتى حين تكون أعمالهم قد حققت حضوراً في المهرجانات الدولية.
وأكد بنسعيدي أن إيمانه بالسينما بوصفها لغة قائمة بذاتها رافقته منذ البداية، وأن المخرج مطالب بالاشتغال على الأدوات التي تمنح هذا الفن خصوصيته، وفي مقدمتها الصورة والصوت والإيقاع والزمن، مشيراً إلى أن بعض الأفلام تقترب في بنائها من الأدب أو من أشكال أخرى للحكي، بينما لا تمنح اللغة السينمائية ما يكفي من الثقة أو المساحة للتعبير والابتكار.
وأضاف أن انشغاله بالشكل واللغة كان حاضراً لديه قبل تصوير لقطته الأولى، ولم تتغير نظرته الأساسية إلى السينما، وإن تطورت خبرته وقدرته على التعامل مع بعض أدواتها، فالتقدم التقني واتساع المعرفة بالمهنة لم يبدلا طبيعة العلاقة التي نشأت بينه وبين هذا الفن، منذ كان إنجاز فيلم مجرد حلم، بل أتاحا له مواصلة البحث داخل الأسئلة نفسها بوسائل أكثر نضجاً.
ولفت المخرج المغربي الأنظار إليه بفيلمه القصير «الحافة» عام 1999، ثم «الحائط» عام 2000، ثم فيلمه الروائي الطويل الأول «ألف شهر» 2003، و«يا له من عالم رائع» 2006، و«موت للبيع» 2011 و«ليلى» 2017، بالإضافة إلى أفلامه الأحدث «تفاعلات» إنتاج عام 2022 و«أيام الصيف» 2022، و«الثلث الخالي» 2023.
المخرج المغربي فوزي بنسعيدي (الشرق الأوسط)
وعن بداية أفلامه، أوضح أنها تنشأ غالباً من صورة أو تكوين بصري أو مشهد بسيط، يرافقه حدس بأن ما يتأمله يمكن أن يصبح سينما، ولا تأتي هذه اللحظة بالضرورة نتيجة تفكير نظري مكتمل، وإنما من إحساس عميق بإمكانات الفكرة، لافتاً إلى أن هناك أفكاراً جيدة تصلح للأدب أو للمقال الصحافي أو للبرامج التلفزيونية، لكنها لا تصبح تلقائياً أفكاراً سينمائية.
ويؤكد أنه حين يشعر بأن فكرة ما تنتمي إلى هذا الفن، يبدأ العمل عليها والبحث عن صورتها، وما يمكن أن تمنحه أدوات السينما لها، معتبراً أن أهمية الموضوع وحدها لا تكفي، ما لم يجد تعبيره داخل اللغة التي يُصنع بها الفيلم.
وفي حديثه عن أحجام اللقطات، رأى أن السينما أفرطت في استخدام اللقطات القريبة للوجوه، مرجحاً أن يكون للتلفزيون، ثم مشاهدة الأفلام عبر الهواتف، أثر في تكريس هذا الاتجاه.
وأوضح أنه يحب اللقطات العامة التي تتسع للطبيعة والمباني والمدن والسماء، لما تحمله من قدرة على التعبير وفتح الفيلم على مساحة أرحب من الشعرية، من دون أن ينفي قيمة الاقتراب من الوجه الإنساني.
بنسعيدي في مهرجان الجونة (الشرق الأوسط)
وأشار إلى أن التعبير لا يقتصر على ملامح الإنسان، فقد يحمل طائر يحط في مكان ما قوة تعبيرية تضاهي ما يحمله وجه بشري، فيصور الطبيعة والمدن والأشجار والبحار والسماء بالإحساس نفسه الذي يصور به وجهاً إنسانياً، كما يمكن أن يتأمل الوجه بالطريقة التي يتأمل بها شجرة أو سماء، وهو شعور يحدد جانباً من علاقته بالصورة.
وعن إدارة التصوير، أوضح أن عمله يقوم على تحضير دقيق للمشهد، يشمل حركة الكاميرا والممثلين، والديكور والإكسسوارات والإضاءة، وحتى توقيت التصوير الخارجي. وشبّه هذا التحضير بكتابة مقطوعة موسيقية، توضع فيها كل نغمة في مكانها، مؤكداً أن معرفته بتفاصيل المشهد والوجهة التي يريد الوصول إليها تمنحه حرية أكبر في التعامل مع ما يحدث أثناء تنفيذه.
وأضاف أن هذا الاستعداد لا يغلق الباب أمام اقتراحات الممثلين أو المصادفات؛ إذ يظل مستعداً لتغيير بعض اختياراته، وإتاحة مساحة للممثل داخل المشهد. وقد تتغير السماء أو تظهر سحب لم تكن متوقعة، فيحاول استقبال ما تمنحه الطبيعة والحياة بوصفه هبة للفيلم.
وكلاء الذكاء الاصطناعي يعطّلون الرقابة... ثم ينكرون
حادثتان داخل «أوبن إيه آي» تثيران مخاوف بشأن قدرة الأنظمة الذكية على تجاوز الضوابط الأمنية (رويترز)
ماذا يحدث عندما يعطّل نظام للذكاء الاصطناعي أدوات مراقبته، ثم ينكر أنه فعل ذلك؟ لم يعد السؤال افتراضياً تماماً، بعدما كشفت حادثتان داخل شركة «أوبن إيه آي»، المطوّرة لـ«تشات جي بي تي»، عن قيام وكيلين للذكاء الاصطناعي بإضعاف إجراءات رقابية خلال تنفيذ مهمتين برمجيتين.
وبحسب تقارير نشرتها صحيفة «فايننشال تايمز» وشبكة «إيه بي سي نيوز»، وقعت الحادثتان خلال أكتوبر (تشرين الأول) 2026. ففي الواقعة الأولى، عطّل أحد الوكلاء التنبيهات التلقائية المرسلة إلى فريق الأمن، بعدما أساء تفسير تعليمات تتعلق بعدم إرسال رسائل عبر منصة «سلاك» في أثناء البحث في سجل المحادثات، واعتبرها مبرراً لإيقاف إشعارات المراقبة أيضاً.
أما الحادثة الثانية، فكانت أكثر إثارة للقلق. فقد كُلّف وكيل بنقل برنامج إلى مسار برمجي آخر مع الحفاظ على وظائفه الأساسية، لكنه أزال نظام المراقبة المدمج فيه سعياً إلى مطابقة النسخة الجديدة للنموذج المرجعي. والأكثر لفتاً أن «أوبن إيه آي» أفادت بأنه أنكر لاحقاً إزالة نظام المراقبة.
وتحقق الشركة فيما إذا كان هذا السلوك يعكس إصراراً مفرطاً على إنجاز المهام، أم أنه يشير إلى ميل نحو التهرب من الرقابة. والفرق بين الاحتمالين مهم؛ فالرغبة في إتمام المهمة قد تدفع النظام إلى اتخاذ خطوات غير مطلوبة، لكن تعطيل أدوات الإشراف وإنكار ذلك يثيران تساؤلات أعمق بشأن فاعلية الضوابط الأمنية.
ولا تثبت الحادثتان أن الأنظمة تمتلك نية واعية للخداع على غرار الإنسان، لكنهما تكشفان أن سلوكها قد يؤدي إلى تقويض إجراءات السلامة، حتى عندما يُفترض أن تكون هذه الإجراءات جزءاً من بيئة عملها.
هل تكفي الرقابة الداخلية؟
قالت «أوبن إيه آي» إنها تعمل على تعزيز أنظمة المراقبة واختبارات السلامة. غير أن الواقعتين تطرحان سؤالاً جوهرياً: كيف يمكن ضمان فاعلية الرقابة إذا كان النظام الخاضع لها قادراً على تعطيلها؟
وتبرز هنا أهمية وضع قيود تمنع الوكلاء من تغيير أدوات الإشراف، والاستعانة بتقييم مستقل للتحقق من سلوكهم، بدلاً من الاعتماد حصراً على أنظمة المراقبة الداخلية.
ومع انتقال الذكاء الاصطناعي من الإجابة عن الأسئلة إلى تنفيذ مهام معقدة باستقلالية متزايدة، لن تكون قدرته على الإنجاز وحدها معيار النجاح. فالثقة تتطلب أيضاً احترام القيود، وإمكانية مراجعة القرارات، والتأكد من أن النظام لا يستطيع تقويض الضمانات الموضوعة للحد من أخطائه.
حل لغز التوهجات النجمية الفائقة في حقل «كيبلر»https://aawsat.com/%D9%8A%D9%88%D9%85%D9%8A%D8%A7%D8%AA-%D8%A7%D9%84%D8%B4%D8%B1%D9%82/5332372-%D8%AD%D9%84-%D9%84%D8%BA%D8%B2-%D8%A7%D9%84%D8%AA%D9%88%D9%87%D8%AC%D8%A7%D8%AA-%D8%A7%D9%84%D9%86%D8%AC%D9%85%D9%8A%D8%A9-%D8%A7%D9%84%D9%81%D8%A7%D8%A6%D9%82%D8%A9-%D9%81%D9%8A-%D8%AD%D9%82%D9%84-%D9%83%D9%8A%D8%A8%D9%84%D8%B1
تصور فني للعملاق الأحمر والنجم القزم المرافق له في الخلفية (زولت كوفاري - مرصد كونكولي)
كشفت دراسة جديدة، قادها باحثون من مرصد «كونكولي» في بودابست بالمجر، الأسباب التي تجعل نجماً عملاقاً أحمر بعيداً هو الأكثر نشاطاً وانفجاراً في حقل رصد تليسكوب «كيبلر» الضخم.
ولطالما كان فهم العوامل التي تغذي هذه الانفجارات لغزاً محيراً منذ أن لفت هذا النجم الأنظار إليه لأول مرة. ولكن نتائج الدراسة أظهرت أن تفاعلاً بين نجمٍ مرافِق، وبقع نجمية داكنة ضخمة، بالإضافة إلى آلية داخلية تساعد النجم على توليد مجاله المغناطيسي والحفاظ عليه، تقف وراء هذه التوهجات النجمية الفائقة، مما يجعل النجم يتفوق على غيره في حدة ثورانه.
ولا يُعد النجم «KIC 2852961» الأكبر أو الأكثر سطوعاً بين النجوم التي رصدها تلسكوب «كيبلر» الفضائي التابع لوكالة «ناسا»، لكنه، وبفارق كبير، الأكثر عنفاً. إذ يطلق هذا العملاق الأحمر «توهجات فائقة»؛ تجعل التوهجات الشمسية تبدو ضئيلة للغاية.
وقال زولت كوفاري، الباحث الرئيسي للدراسة من مرصد «كونكولي»، في بيان الأربعاء: «أردنا معرفة السبب الذي يجعل هذا النجم يتسم بهذا القدر من التطرف. هل يعود الأمر لتأثير جاذبية نجمٍ مرافِق؟ أم إلى عمليات تحدث في أعماقه؟».
كان الفريق البحثي قد سلط الضوء على هذا النجم في دراسة نُشرت عام 2020 في دورية «علم الفلك والفيزياء الفلكية»، حيث وثّقوا 59 توهجاً فائقاً من خلال بيانات «كيبلر»، وأظهروا أن تلك التوهجات -التي تظهر في أنواع مختلفة جداً من النجوم- تشترك على الأرجح في الآلية الفيزيائية نفسها.
وتستند الورقة البحثية الجديدة -التي قُبلت للنشر في الدورية ذاتها- إلى النتائج السابقة، بالإضافة لعمليات الرصد الطيفي من الأرض، والبيانات الفضائية من تلسكوب «كيبلر»، ومعلومات من مهمة «غايا» الأوروبية.
مفتاح التشغيل
وأكد الفريق البحثي أن النجم «KIC 2852961» ليس وحيداً؛ فهو المكون الرئيسي في نظام ثنائي متقارب، حيث يكون النجم المرافق قزماً خافتاً، وأن هذا التقارب يعني أن كلاً من النجمين يمارس قوى مد وجزر هائلة على الآخر؛ وهي عملية تشبه تأثير القمر على محيطات الأرض، لكنها تفوق ذلك بمراحل من حيث الحجم والقوة. ومع دخول النجم الرئيسي مرحلة «العملاق الأحمر» -وهي عملية تستغرق عشرات أو حتى مئات الملايين من السنين- بدأ النجم في التوسع وتباطأت سرعة دورانه. ومع ذلك، وتحت تأثير قوى المد والجزر، أصبحت سرعة دورانه متزامنة بشكل متزايد مع حركته المدارية، كما اتخذ مداره شكلاً دائرياً أكثر.
وعلى عكس الأجسام الصلبة، لا تدور النجوم عادةً ككتلة واحدة صلبة؛ إذ تدور خطوط العرض بسرعات متفاوتة، وهي ظاهرة تُعرف بـ«الدوران التفاضلي». ففي الشمس، على سبيل المثال، يدور خط الاستواء بسرعة أكبر من القطبين. ويبدو أن هذا الدوران التفاضلي المتبقي هو العامل الجوهري؛ فهو يغذي «دينامو مغناطيسياً» قوياً داخل النجم، وهي عملية تعمل على توليد المجالات المغناطيسية وتضخيمها باستمرار. وكلما ازدادت هذه المجالات قوةً وتعقيداً، زادت كمية الطاقة المغناطيسية التي يمكن تخزينها، ليتم إطلاقها في نهاية المطاف على شكل توهجات انفجارية.
وأوضح كوفاري: «يلعب الدوران التفاضلي دوراً مزدوجاً». من ناحية، تسهم هذه الظاهرة في تكوين بقع نجمية ضخمة على سطح النجم. ومن ناحية أخرى، تؤدي إلى التواء خطوط المجال المغناطيسي في الغلاف الجوي الخارجي للنجم فوق تلك البقع؛ وعندما تعيد خطوط المجال المغناطيسي الارتباط بعضها ببعض، ينتج ما يُعرف بـ«التوهج النجمي الفائق»، حيث تعمل البقع النجمية الضخمة كمخازن هائلة للطاقة؛ فكلما زادت المساحة التي تغطيها البقع النجمية، توفرت كمية كبرى من الطاقة. وكلما زاد حجم البقع، زادت قوة التوهجات الناتجة عنها.
ويشدد الباحثون على أن دور النجم المرافق غير مباشر ولكنه جوهري؛ فمن خلال قوى المد والجزر التي أدت إلى تسريع دوران النجم العملاق ومزامنته جزئياً، تهيأت الظروف المثالية التي تسمح للدوران التفاضلي بالعمل بفاعلية عالية. بعبارة أخرى، أسهم النجم المرافق في بناء «المحرك»، لكن النجم العملاق الأحمر هو من يملك «مفتاح التشغيل».
