مستشار سوناك يحذر: الذكاء الاصطناعي قد «يقتل كثيراً من البشر» خلال عامينhttps://aawsat.com/%D8%AA%D9%83%D9%86%D9%88%D9%84%D9%88%D8%AC%D9%8A%D8%A7/4369401-%D9%85%D8%B3%D8%AA%D8%B4%D8%A7%D8%B1-%D8%B3%D9%88%D9%86%D8%A7%D9%83-%D9%8A%D8%AD%D8%B0%D8%B1-%D8%A7%D9%84%D8%B0%D9%83%D8%A7%D8%A1-%D8%A7%D9%84%D8%A7%D8%B5%D8%B7%D9%86%D8%A7%D8%B9%D9%8A-%D9%82%D8%AF-%C2%AB%D9%8A%D9%82%D8%AA%D9%84-%D9%83%D8%AB%D9%8A%D8%B1%D8%A7%D9%8B-%D9%85%D9%86-%D8%A7%D9%84%D8%A8%D8%B4%D8%B1%C2%BB-%D8%AE%D9%84%D8%A7%D9%84-%D8%B9%D8%A7%D9%85%D9%8A%D9%86
مستشار سوناك يحذر: الذكاء الاصطناعي قد «يقتل كثيراً من البشر» خلال عامين
الذكاء الاصطناعي (رويترز)
لندن:«الشرق الأوسط»
TT
لندن:«الشرق الأوسط»
TT
مستشار سوناك يحذر: الذكاء الاصطناعي قد «يقتل كثيراً من البشر» خلال عامين
الذكاء الاصطناعي (رويترز)
حذَّر مات كليفورد، مستشار رئيس الوزراء البريطاني ريشي سوناك، من أن الذكاء الاصطناعي يمكن أن يكون وراء التطورات التي «ستقتل كثيراً من البشر» في غضون عامين فقط.
وخلال مقابلة مع قناة «توك تي في»، أعرب كليفورد عن قلقه إزاء الافتقار إلى التنظيم العالمي لأنظمة الذكاء الاصطناعي، وقال إنها إذا تُركت دون تنظيم، فقد تصبح «قوية جداً»، ويصعب على البشر السيطرة عليها، مما يخلق مخاطر كبيرة على المدى القصير.
وأشار مستشار سوناك إلى إمكانية قيام الذكاء الاصطناعي بصنع أسلحة إلكترونية وبيولوجية خطيرة «يمكن أن تؤدي إلى مقتل كثير من البشر»، خلال عامين.
وقال كليفورد: «هناك كثير من أنواع المخاطر المختلفة، المتعلقة بالذكاء الاصطناعي، بما في ذلك المخاطر قصيرة المدى وطويلة المدى، وأنا أعتقد أن المخاطر قصيرة المدى مخيفة جداً في الواقع»، متوقعاً أن تتطور أجهزة الذكاء الاصطناعي بسرعة، وأن تتجاوز الذكاء البشري في فترة قصيرة.
وتابع: «أعتقد أن الشيء الذي يجب التركيز عليه، الآن، هو كيفية التحكم في هذه النماذج؛ لأننا لا نفعل ذلك، الآن، هذا الأمر يحتاج إلى تنظيم على النطاق العالمي، وليس فقط من قِبل الحكومات الوطنية».
وقد شارك عدد كبير من الخبراء كليفورد في مثل هذه المخاوف، كما يتضح من بيان نُشر، الأسبوع الماضي، من قِبل كبار رجال الأعمال وخبراء التكنولوجيا، حثّ على زيادة الاهتمام بهذا الشأن، والعمل من أجل التخفيف من مخاطر الذكاء الاصطناعي.
وقال الخبراء، في البيان، إن مخاطر الذكاء الاصطناعي تساوي المخاطر الناتجة عن الأوبئة والحروب النووية.
كما أيَّد جيفري هينتون، المعروف باسم «الأب الروحي للذكاء الاصطناعي»، البيان، محذراً من أن «هذه التقنية إذا وقعت في الأيادي الخاطئة، فقد يكون ذلك كارثياً على البشرية».
وكليفورد، رئيس «وكالة الأبحاث المتقدمة والاختراع» في المملكة المتحدة (ARIA)، يقدم حالياً المشورة لرئيس الوزراء بشأن تطوير فريق عمل يركز على التحقيق في نماذج روبوتات الدردشة التي تعمل بالذكاء الاصطناعي، مثل «شات جي بي تي»، و«غوغل بارد».
ابتكر باحثون بجامعة كمبردج نموذجاً للتعلم الآلي يمكنه التنبؤ بتطور مشاكل الذاكرة والتفكير الخفيفة إلى مرض ألزهايمر بدقة أكبر من الأدوات السريرية.
نسيم رمضان (لندن)
«كراود سترايك»: 97 % من أجهزة استشعار «ويندوز» عادت للعملhttps://aawsat.com/%D8%AA%D9%83%D9%86%D9%88%D9%84%D9%88%D8%AC%D9%8A%D8%A7/5044056-%D9%83%D8%B1%D8%A7%D9%88%D8%AF-%D8%B3%D8%AA%D8%B1%D8%A7%D9%8A%D9%83-97-%D9%85%D9%86-%D8%A3%D8%AC%D9%87%D8%B2%D8%A9-%D8%A7%D8%B3%D8%AA%D8%B4%D8%B9%D8%A7%D8%B1-%D9%88%D9%8A%D9%86%D8%AF%D9%88%D8%B2-%D8%B9%D8%A7%D8%AF%D8%AA-%D9%84%D9%84%D8%B9%D9%85%D9%84
«كراود سترايك»: 97 % من أجهزة استشعار «ويندوز» عادت للعمل
«كراود سترايك» هي شركة تكنولوجيا أميركية عملاقة تقدر قيمتها بأكثر من 80 مليار دولار (شاترستوك)
بعد أسبوع من الأزمة العالمية التي تسببت بها شركة «كراود سترايك» عندما أثّر تحديث في نحو 8.5 مليون جهاز يعمل بنظام «ويندوز»، سارع جورج كورتز، رئيس الشركة، إلى بثّ رسالة طمأنة، مؤكداً فيها أن 97 في المائة من أجهزة استشعار «ويندوز» عادت للعمل اعتباراً من 25 يوليو (تموز). وقال كورتز إن نجاح ذلك يعود إلى تطوير تقنيات الاسترداد التلقائي، وتعبئة جميع الموارد لدعم العملاء. كما أصدرت الشركة مراجعة أولية لما بعد الحادث (PIR) تشرح من خلالها السبب الجذري للعطل.
ماذا حدث؟
في يوم الجمعة 19 يوليو، أصدرت «كراود سترايك» تحديثاً لتكوين المحتوى لمستشعر «ويندوز» لجمع القياس عن بُعد حول تقنيات التهديد الجديدة المحتملة. وتعدّ مثل هذه التحديثات روتينية، وهي جزء من آليات الحماية الديناميكية لمنصة «فالكون». تقول الشركة: «لسوء الحظ، أدى تحديث تكوين محتوى الاستجابة السريعة هذا إلى تعطل نظام (ويندوز)».
شملت الأنظمة المتأثرة أجهزة تعمل بنظام «ويندوز» بإصدار المستشعر (7.11) وما فوق، التي كانت متصلة بالإنترنت وتلقت التحديث في ذلك التوقيت. لم تتأثر أجهزة «ماك»، و«لينكس» كما ذكرت الشركة في تقريرها، وأنه تم إصلاح الخلل بسرعة.
أثّر الانقطاع في العملاء بما في ذلك شركات الطيران والقطارات والمطارات وأنظمة الدفع ومحلات السوبر ماركت (شاترستوك)
ما الخطأ بحسب «كراود سترايك»؟
في فبراير (شباط) 2024، قدمت الشركة نوع قالب «InterProcessCommunication (IPC)» الجديد المصمم للكشف عن تقنيات الهجوم المتطورة. اجتاز نوع القالب هذا الاختبارات الأولية في 5 مارس (آذار)، مما دفع إلى إصدار نموذج قالب مماثل. بين 8 و24 أبريل (نسيان)، تم نشر 3 نماذج قالب «IPC» أخرى، وجميعها يعمل دون التسبب في مشكلات لملايين أجهزة «ويندوز». ويشار إلى أن أجهزة «لينكس (Linux)» واجهت بعض المشكلات مع «كراود سترايك» في أبريل الماضي.
في 19 يوليو، أصدرت «كراود سترايك» نموذجين إضافيين لقالب «IPC». تقول الشركة إنه «لسوء الحظ، احتوى أحد هذين النموذجين على (بيانات محتوى تسبب المشكلات) وتم نشره بسبب خطأ في «محقق المحتوى». وفي حين أن الدور المحدد لمحقق المحتوى غير مفصل، فمن المفترض أنه يتحقق من المحتوى بحثاً عن أخطاء قبل الإصدار.
سمح هذا الإهمال بتشغيل «Template Instance»، وهو في الأساس تطبيق محدد لقالب عام يحتوي على أخطاء أو تناقضات، شُغل استناداً إلى الافتراض الخاطئ بأن الاختبارات الناجحة لأنواع النماذج السابقة ضمنت سلامة إصدار 19 يوليو. أثبت هذا الافتراض أنه كارثي، مما أدى إلى «قراءة ذاكرة خارج الحدود تؤدي إلى حدوث استثناء». أدى هذا الاستثناء غير المعالج إلى تعطل نظام التشغيل «ويندوز» على نحو 8.5 مليون جهاز.
رداً على هذا الحادث، التزمت «كراود سترايك» بإجراء اختبارات أكثر صرامة لمحتوى الاستجابة السريعة في المستقبل. وأعلنت أنها تخطط لتأخير الإصدارات، ومنح المستخدمين مزيداً من التحكم في توقيت النشر، وتوفير ملاحظات إصدار شاملة.
خطأ بشري كان السبب!
في حديث خاص لـ«الشرق الأوسط»، يرى ماهر يمّوت باحث أمني رئيسي في فريق البحث والتحليل العالمي لدى شركة «كاسبرسكي» أن السبب المحدد لانقطاع الخدمة المفاجئ لا يُعد محورياً هنا». ويشرح يمّوت أن «ما يهم هو أن خطأ بشرياً أو خطأ في العملية أدى إلى تحديث سيئ، مما تسبب في تعطل الأنظمة العالمية.» ولتقليل احتمال حدوث ذلك في المستقبل، ينصح يمّوت «بضرورة تنفيذ عملية التحديث على جانب العميل لترتيب التحديثات، بدلاً من الاعتماد فقط على التحديثات التلقائية من المصدر».
يُتخوَّف من استغلال المقرصنين لحادثة «كراود سترايك» لإنشاء مواقع ويب وهمية للاسترداد وصفحات تصيّد أخرى (شاترستوك)
استغلال من المقرصنين
كان خبراء ووكالات الأمن السيبراني قد حذّروا من موجات قرصنة قد يتعرّض لها المستخدمون مرتبطة بالحادث. وطالبت وكالات الأمن السيبراني في المملكة المتحدة وأستراليا الأشخاص بتوخي الحذر من رسائل البريد الإلكتروني والمكالمات والمواقع الإلكترونية المزيفة التي تتظاهر بأنها رسمية. وقالت الوكالات إنها لاحظت بالفعل زيادة في عمليات التصيد الاحتيالي التي تشير إلى هذا الانقطاع، حيث تسعى الجهات الخبيثة الانتهازية إلى الاستفادة من الموقف. وحث جورج كورتز، رئيس شركة «كراود سترايك» المستخدمين على التأكد من التحدث إلى ممثلين رسميين من الشركة قبل تحميل أي تحديثات.
وأفاد ماهر يمّوت بأن مجرمي الإنترنت يقومون بإنشاء مواقع ويب وهمية للاسترداد، وصفحات تصيد أخرى لمحاولة خداع المستخدمين المتأثرين بانقطاع تكنولوجيا المعلومات هذا. وأوضح خلال حديثه لـ«الشرق الأوسط» أن ذلك يسمى «تكتيك الهندسة الاجتماعية الذي يستخدمه المحتالون غالباً لاستغلال الأشخاص في أثناء حوادث عالمية مماثلة».
تفسيرات ومناقشات واسعة النطاق
أثار الحادث مناقشات وانتقادات كثيرة دفعت البعض للتعمق في الكود المحدد الذي أدى إلى التعطل، بينما يشكك آخرون في فاعلية العمليات الداخلية لشركة «كراود سترايك». وقد تم استدعاء الرئيس التنفيذي لشرح هذا الفشل من قبل لجنة الأمن الداخلي الأميركية، مسلطاً الضوء على أهمية الحدث. وقد تسبب الحادث في اضطرابات تتجاوز المجال التقني، مؤثراً في الشركات والأفراد الذين يعتمدون على عمليات الكومبيوتر المستمرة، العاملة بنظام «ويندوز».
يؤكد خطأ «كراود سترايك» أهمية عمليات الاختبار والتحقق القوية في تطوير البرامج، خصوصاً لمنتجات الأمان التي تحمي ملايين الأجهزة. وربما يشكّل التزام الشركة بتحسين إجراءاتها والشفافية في التعامل مع العواقب خطوةً حاسمةً في استعادة ثقة المستخدم ومنع وقوع حوادث مماثلة في المستقبل.
