تحذير: «شات جي بي تي» قد يُستخدم للمساعدة في شن هجمات إلكترونية

شعار روبوت الدردشة الذي يعتمد على الذكاء الاصطناعي «شات جي بي تي» (رويترز)
شعار روبوت الدردشة الذي يعتمد على الذكاء الاصطناعي «شات جي بي تي» (رويترز)
TT

تحذير: «شات جي بي تي» قد يُستخدم للمساعدة في شن هجمات إلكترونية

شعار روبوت الدردشة الذي يعتمد على الذكاء الاصطناعي «شات جي بي تي» (رويترز)
شعار روبوت الدردشة الذي يعتمد على الذكاء الاصطناعي «شات جي بي تي» (رويترز)

حذّرت دراسة حديثة من أنه يمكن خداع روبوت الدردشة الشهير، الذي يعتمد على الذكاء الاصطناعي «شات جي بي تي»، لإنتاج تعليمات برمجية ضارة يمكن استخدامها لشن هجمات إلكترونية.

تتمكن الأداة التي أنتجتها شركة «أوبن إيه آي» وروبوتات الدردشة المماثلة، من إنشاء محتوى مكتوب بناءً على أوامر المستخدم، بعد تدريبها على كميات هائلة من البيانات النصية عبر الإنترنت، وفقاً لشبكة «سكاي نيوز».

لقد جرى تصميمها مع توفير وسائل الحماية لمنع إساءة استخدامها. على هذا النحو، لجأت الجهات الفاعلة السيئة إلى البدائل التي أنشئت بشكل مقصود للمساعدة في الجرائم الإلكترونية، مثل أداة الويب المظلمة التي تسمى «WormGPT»، والتي حذّر الخبراء من أنها قد تساعد في تطوير هجمات واسعة النطاق.

لكن الباحثين في «جامعة شيفيلد» البريطانية حذّروا من وجود نقاط ضعف أيضاً في الخيارات السائدة التي تسمح بالخداع للمساعدة في تدمير قواعد البيانات، وسرقة المعلومات الشخصية، وإسقاط الخدمات.

وتشمل هذه المواقع «شات جي بي تي»، ومنصة مماثلة أنشأتها شركة «Baidu» الصينية.

وقال شوتان بينغ، طالب الدكتوراه في علوم الكمبيوتر، والذي شارك في قيادة الدراسة: «الخطر في أدوات الذكاء الاصطناعي مثل (شات جي بي تي) هو أن مزيداً من الناس يستخدمونها بصفتها أدوات إنتاجية، وليس روبوتاً للمحادثة».

وتابع: «هذا هو المكان الذي تُظهر فيه أبحاثنا نقاط الضعف».

«الكود» الذي يجري إنشاؤه بواسطة الذكاء الاصطناعي «قد يكون ضاراً»

مثلما يمكن لأدوات الذكاء الاصطناعي التوليدية هذه أن تخطئ عن غير قصد في حقائقها عند الإجابة على الأسئلة، يمكنها أيضاً إنشاء تعليمات برمجية حاسوبية قد تكون ضارة دون أن تدرك.

واقترح بينغ أن تستخدم ممرضة «شات جي بي تي» لكتابة تعليمات برمجية للتنقل في قاعدة بيانات سجلات المرضى.

وقال: «الكود الذي ينتجه البرنامج في كثير من الحالات قد يكون ضاراً بقاعدة البيانات... قد تتسبب الممرضة في هذا السيناريو بحدوث أخطاء خطيرة بإدارة البيانات، دون تلقّي أي تحذير».

أثناء الدراسة، تمكّن العلماء أنفسهم من إنشاء تعليمات برمجية ضارة باستخدام برنامج الدردشة الآلي الخاص بشركة «Baidu».

لقد أدركت الشركة ذلك، وتحركت لمعالجة وإصلاح الثغرات الأمنية المُبلَّغ عنها.

وقد أدت هذه المخاوف إلى دعوات لمزيد من الشفافية في كيفية تدريب نماذج الذكاء الاصطناعي، بحيث يصبح المستخدمون أكثر فهماً وإدراكاً للمشكلات المحتملة مع الإجابات التي تُقدَّم لهم.


مقالات ذات صلة

شركات الطيران تستأنف عملياتها بعد أكبر عطل تقني في التاريخ

الاقتصاد مسافرون في مطار «دالاس فورت وورث الدولي» في تكساس (أ.ب)

شركات الطيران تستأنف عملياتها بعد أكبر عطل تقني في التاريخ

يعود الوضع تدريجياً إلى طبيعته، السبت، عقب عطل تقني هو الأكبر في التاريخ، أدى إلى اضطرابات لدى شركات طيران عالمية ومصارف ومؤسسات مالية.

«الشرق الأوسط» (لندن)
تكنولوجيا شعار شركة «كراود سترايك» (أ.ف.ب)

بعد تسببها بعطل معلوماتي عالمي... ماذا نعرف عن «كراود سترايك»؟

استيقظ الملايين من الأشخاص حول العالم، في وقت مبكر من صباح أمس (الجمعة)، ليجدوا القنوات الإخبارية التلفزيونية صامتة، وبعض القطارات والمواقع الإلكترونية معطلة.

«الشرق الأوسط» (واشنطن)
تكنولوجيا تؤكد «مشكلة 2038» التعقيد المتنامي للبنية التحتية التكنولوجية بسبب الاعتماد بشكل أكبر على الأنظمة المترابطة (شاترستوك)

هل سيشهد عام 2038 شللاً في الأنظمة مشابهاً لتحديث «كراود سترايك»؟

«مشكلة 2038» هي مشكلة محتملة تتعلق بكيفية قيام بعض أنظمة الكمبيوتر بتخزين بيانات الوقت ومعالجتها، هل تطرح مخاوف مشابهة لما حدث يوم الجمعة حول العالم؟

نسيم رمضان (لندن)
الخليج شعار الهيئة الوطنية للأمن السيبراني (واس)

هيئة الأمن السيبراني السعودية: تأثير العطل التقني العالمي على المملكة محدود

أعلنت الهيئة الوطنية للأمن السيبراني السعودية، اليوم السبت، أن تأثير العطل التقني العالمي على المملكة «محدود».

«الشرق الأوسط» (الرياض)
تحليل إخباري تأثر بعض رحلات مطار الكويت بسبب العطل التقني حول العالم (تلفزيون الكويت)

تحليل إخباري تأثير متفاوت على الأنظمة الخليجية جراء العطل التقني العالمي

أحدث الخلل الفني العالمي بشبكة الإنترنت، الجمعة، تأثيراً تفاوتت نسبته بين القطاعات المختلفة في دول الخليج، بينما استبعدت جهاتٌ ارتباط العطل بهجوم سيبراني.

«الشرق الأوسط» (الرياض)

بعد تسببها بعطل معلوماتي عالمي... ماذا نعرف عن «كراود سترايك»؟

شعار شركة «كراود سترايك» (أ.ف.ب)
شعار شركة «كراود سترايك» (أ.ف.ب)
TT

بعد تسببها بعطل معلوماتي عالمي... ماذا نعرف عن «كراود سترايك»؟

شعار شركة «كراود سترايك» (أ.ف.ب)
شعار شركة «كراود سترايك» (أ.ف.ب)

استيقظ الملايين من الأشخاص حول العالم، في وقت مبكر من صباح أمس (الجمعة)، ليجدوا القنوات الإخبارية التلفزيونية صامتة، وبعض القطارات والمواقع الإلكترونية معطلة بسبب انقطاع كبير في الإنترنت، أثّر على عشرات الملايين من أجهزة الكومبيوتر.

يبدو أن أي شركة تقوم بتشغيل برنامج Microsoft Windows 10 تقريباً تعرضت لعطل مفاجئ. وبدأت أجهزة الكمبيوتر تغلق نفسها تلقائياً وتعرض ما يسمى «شاشة الموت الزرقاء».

وتسبب تحديث برمجي من شركة الأمن السيبراني العالمية «كراود سترايك»، وهي إحدى كبرى الشركات في القطاع، في إحداث مشكلات في الأنظمة أدت إلى تعطل كثير من الخدمات حول العالم.

وتعود اليوم الأنظمة ببطء إلى عملها الطبيعي ــ فقد أطلق أحد الباحثين في مجال الأمن السيبراني على انقطاع التيار الكهربائي الكارثي اسم CrowdStrike Doomsday، وفقاً لصحيفة «التليغراف».

فماذا نعرف عن الشركة؟

«كراود سترايك» هي شركة تكنولوجيا أميركية عملاقة، تقدر قيمتها بأكثر من 80 مليار دولار (62 مليار جنيه إسترليني)، وهي مسؤولة عن تطوير برامج الأمن السيبراني الهامة التي تستخدمها آلاف الشركات.

برامجها مدمجة بعمق في أنظمة وشبكات تكنولوجيا المعلومات الهامة. تقوم «كراود سترايك» بتطوير ما يسمى بنظام «الكشف عن نقطة النهاية والاستجابة لها»، ما يساعد الشبكات الكبيرة على اكتشاف هجمات القرصنة وإيقافها - تماماً مثل برامج مكافحة الفيروسات على مستوى الأعمال.

تأسست الشركة في عام 2011 ويقع مقرها الرئيسي في تكساس بالولايات المتحدة، وقد نالت تقنيتها شعبية كبيرة. وقد أعلنت عن إيرادات بلغت 3 مليارات دولار وأكثر من 23 ألف عميل من الشركات العام الماضي. وأصبحت أيضاً معروفة في دوائر الأمن السيبراني لعملها في التحقيق في عمليات الاختراق رفيعة المستوى.

مسافر يمر بالقرب من لوحة معلومات تُظهر تأخيرات متعددة في مطار دالاس الدولي (أ.ف.ب)

وباعتبار أن الشركة يجب أن تستجيب للتهديدات السيبرانية المتطورة باستمرار، تقوم «كراود سترايك» بشكل روتيني بإرسال التحديثات إلى عملائها باستخدام أدوات وطبقات حماية جديدة.

ومع ذلك، يبدو أن تحديثاً معيباً قد تسبب في انهيار هائل لتكنولوجيا المعلومات، وفقاً لخبراء الأمن السيبراني ومهندسي الشركة.

وقد أثر الانقطاع على العملاء بما في ذلك شركات الطيران والقطارات والمطارات وأنظمة الدفع ومحلات السوبر ماركت، وغيرها.

وأبلغ مديرو تكنولوجيا المعلومات، عبر وسائل التواصل الاجتماعي، عن تعاملهم مع الانهيارات الداخلية التي أثرت على عشرات الآلاف من الآلات في أعمالهم.

قال تروي هانت، خبير الأمن السيبراني: «لا أعتقد أنه من السابق لأوانه القول إن هذا سيكون أكبر انقطاع لتكنولوجيا المعلومات في التاريخ».

مكاتب تابعة لشركة «كراود سترايك» في كاليفورنيا (أ.ب)

على الرغم من أن أنظمة «ويندوز 10» من «مايكروسوفت» هي التي تأثرت إلى حد كبير بمشكلة تكنولوجيا المعلومات، فإن السبب الجذري للخلل يُعزى إلى «كراود سترايك»- على وجه التحديد ملف معيب على ما يبدو في أداة «فالكون سانسور».

وأوضح هانت أن الشركة هي «لاعب ضخم في مجال الأمن» والتي غالبا ما تتمتع تقنيتها بما يسمى الوصول «المتميز» إلى شبكات الأعمال. وهذا يعني أن لديها سيطرة واسعة النطاق لتحديث وتعديل أنظمة العملاء، من الناحية النظرية لإزالة البرامج الضارة.

مع ذلك، أفاد: «وهذا يعني أيضاً أنه إذا حدث خطأ ما في التحديث، فقد يؤدي ذلك إلى تدمير جهازك بشكل كارثي».

كان خبراء الأمن يوجهون غضبهم بالفعل إلى «كراود سترايك» بسبب تعاملها مع انقطاع الخدمة. لعدة ساعات، لم تكن هناك تحديثات عامة أو بيانات رسمية من الشركة حول هذه المشكلة.

ولكن، أصدر لاحقاً جورج كورتز، المؤسس والرئيس التنفيذي للشركة، بيانا عاما، وأوضح: «تعمل (كراود سترايك) بنشاط مع العملاء المتأثرين بعيب تم العثور عليه في تحديث محتوى واحد لمضيفي (ويندوز)».

وتابع: «هذا ليس حادثاً أمنياً أو هجوماً إلكترونياً. تم تحديد المشكلة وعزلها ونشر الإصلاح».

وانخفضت أسهم «كراود سترايك» بأكثر من 14 في المائة عند افتتاح التداول في نيويورك.