الخبراء يسعون إلى إيجاد طريقة لجعل الذكاء الاصطناعي ينسى ما تعلمه

جعل الذكاء الاصطناعي ينسى بعض ما تلقّنه سيكون أمراً بالغ الأهمية في السنوات المقبلة (أ.ف.ب)
جعل الذكاء الاصطناعي ينسى بعض ما تلقّنه سيكون أمراً بالغ الأهمية في السنوات المقبلة (أ.ف.ب)
TT

الخبراء يسعون إلى إيجاد طريقة لجعل الذكاء الاصطناعي ينسى ما تعلمه

جعل الذكاء الاصطناعي ينسى بعض ما تلقّنه سيكون أمراً بالغ الأهمية في السنوات المقبلة (أ.ف.ب)
جعل الذكاء الاصطناعي ينسى بعض ما تلقّنه سيكون أمراً بالغ الأهمية في السنوات المقبلة (أ.ف.ب)

عندما اكتشف براين هود أن «تشات جي بي تي» نسب إليه ماضياً إجرامياً، وجد هذا السياسي الأسترالي نفسه في مواجهة معضلة ينكبّ المهندسون جاهدين على محاولة حلّها، وتتمثل في كيفية تعليم الذكاء محوَ الأخطاء.

فالخيار القانوني المتمثل في تلويح براين هود في أبريل (نيسان) الفائت برفع دعوى تشهير على شركة «أوبن إيه آي» (منشئة «تشات جبي بي تي») لا يبدو حلاً مناسباً. كذلك لا يكمن الحلّ في إعادة ضبط معايير الذكاء الاصطناعي بالكامل، إذ إن تدريب النموذج مجدداً يستغرق وقتاً طويلاً وهو مكلف جداً.

ويرى المختصون أن مسألة «إلغاء التعلّم» أي جعل الذكاء الاصطناعي ينسى بعض ما تلقّنه، ستكون بالغة الأهمية في السنوات المقبلة، خصوصاً في ضوء التشريعات الأوروبية لحماية البيانات.

وتؤكد أستاذة علوم المعلومات في جامعة «آر إم آي تي» في ملبورن ليسا غيفن أن «القدرة على محو البيانات الموجودة في قواعد بيانات التعلّم هي موضوع مهم جداً». لكنها ترى أن جهداً كبيراً لا يزال مطلوباً في هذا المجال نظراً إلى النقص الحالي في المعرفة في شأن كيفية عمل الذكاء الاصطناعي، وفق ما ذكرته وكالة الصحافة الفرنسية.

ففي ظل الكم الهائل من البيانات التي يُدرَّب الذكاء الاصطناعي عليها، يسعى المهندسون إلى حلول تتيح تحديداً أكبر، بحيث تُزال المعلومات الخاطئة من مجال معرفة أنظمة الذكاء الاصطناعي بغية وقف انتشارها.

شعار شركة «أوبن إيه آي» منشئة «تشات جي بي تي» (أ.ب)

واكتسب الموضوع زخماً خلال السنوات الثلاث أو الأربع الأخيرة، على ما يوضح لوكالة الصحافة الفرنسية الباحث الخبير في هذا المجال مقداد كرمانجي من جامعة وارويك البريطانية.

وعملت «غوغل ديب مايند» المتخصصة في الذكاء الاصطناعي على معالجة هذه المشكلة، إذ نشر خبراء من الشركة الأميركية الشهر المنصرم مع كورمانجي، خوارزمية مخصصة لمحو البيانات في نماذج لغوية مهمة، كنموذجَي «تشات جي بي تي» و«بارد» (من «غوغل»).

تصحيح بعض التحيزات

وانكبّ أكثر من 1000 خبير شاركوا في مسابقة أطلقتها الشركة الأميركية على العمل ما بين يوليو (تموز) وسبتمبر (أيلول) لتحسين أساليب «إلغاء تعلّم» الذكاء الاصطناعي.

وتتمثل الطريقة المستخدمة المشابهة لما توصلت إليه أبحاث أخرى في هذا المجال، في إدخال خوارزمية تأمر الذكاء الاصطناعي بعدم أخذ بعض المعلومات المكتسبة في الاعتبار، ولا تتضمن تعديل قاعدة البيانات.

ويؤكد مقداد كرمانجي أن هذه العملية يمكن أن تكون «أداة مهمة جداً» لتمكين أدوات البحث من الاستجابة مثلاً لطلبات الحذف، عملاً بقواعد حماية البيانات الشخصية.

ويؤكد أن الخوارزمية التي جرى التوصل إليها أثبتت فاعليتها أيضاً في إزالة المحتوى المحميّ بموجب حقوق المؤلف أو في تصحيح بعض التحيزات.

لكنّ آخرين كمسؤول الذكاء الاصطناعي في «ميتا» (فيسبوك وإنستغرام) يان لوكان، يبدون أقل اقتناعاً بهذه الفاعلية.

ويوضح لوكان لوكالة الصحافة الفرنسية أنه لا يقول إن هذه الخوارزمية «غير مجدية أو غير مثيرة للاهتمام أو سيئة»، بل يرى أن «ثمة أولويات أخرى».

ويعد أستاذ الذكاء الاصطناعي في جامعة إدنبره مايكل روفاتسوس أن «الحل التقني ليس الحل الناجع».

ويشرح أن «إلغاء التعلم» لن يتيح طرح أسئلة أوسع، ككيفية جمع البيانات، ومن المستفيد منها، أو من يجب أن يكون مسؤولاً عن الضرر الذي يسببه الذكاء الاصطناعي.

ومع أن قضية براين هود عولجت، من دون تفسير، بعدما حظيت باهتمام إعلامي واسع أثمرَ تصحيح البيانات التي تعالجها «تشات جي بي تي»، فإنه يرى أن الأساليب التي ينبغي استخدامها في الوقت الحالي يجب أن تبقى يدوية.

ويقول الرجل الأسترالي: «ينبغي أن يتحقق المستخدمون من كل شيء، في الحالات التي تعطي فيها روبوتات الدردشة معلومات خاطئة».


مقالات ذات صلة

تحليل إخباري تأثر بعض رحلات مطار الكويت بسبب العطل التقني حول العالم (تلفزيون الكويت)

تحليل إخباري تأثير متفاوت على الأنظمة الخليجية جراء العطل التقني العالمي

أحدث الخلل الفني العالمي بشبكة الإنترنت، الجمعة، تأثيراً تفاوتت نسبته بين القطاعات المختلفة في دول الخليج، بينما استبعدت جهاتٌ ارتباط العطل بهجوم سيبراني.

«الشرق الأوسط» (الرياض)
تكنولوجيا تأثرت مئات الرحلات في مطارات عدة حول العالم نتيجة العطل الذي أصاب الشاشات التي تعمل بنظام «ويندوز» (إ.ب.أ)

تحديث برمجي أمني يعطل ملايين الأجهزة العاملة بنظام «ويندوز 10» حول العالم

تعطلت ملايين أجهزة الكومبيوتر التي تعمل بنظام التشغيل «ويندوز» في جميع أنحاء العالم نتيجة تحديث برمجي تابع لشركة الأمن السيبراني «كراود سترايك»، فماذا حدث؟

نسيم رمضان (لندن)
الخليج تعمل «سدايا» على تأسيس بُنى تحتية للجهات الحكومية بأحدث التقنيات التي تكفل جودتها وسلامتها من أي مخاطر محتملة (واس)

لماذا لم تتأثر أنظمة الحكومة السعودية بالعطل العالمي؟

لم تتأثر أنظمة الهيئة السعودية للبيانات والذكاء الاصطناعي (سدايا)، وأنظمة الحكومة السعودية التي تستضيفها لتقديم الخدمات، بالعطل التقني الذي اجتاح العالم.

جبير الأنصاري (الرياض)
الاقتصاد مسافرون ينظرون إلى لوحة زمنية بعد انقطاع عالمي لتكنولوجيا المعلومات في مطار برلين (رويترز)

خلل عالمي يضغط على الأسهم الأميركية والأسواق المالية

انخفضت العقود الآجلة للأسهم الأميركية، يوم الجمعة، حيث تحول المتداولون بعيداً عن أسهم شركات التكنولوجيا العملاقة باهظة الثمن.

«الشرق الأوسط» (نيويورك)

تحديث برمجي أمني يعطل ملايين الأجهزة العاملة بنظام «ويندوز 10» حول العالم

تأثرت مئات الرحلات في مطارات عدة حول العالم نتيجة العطل الذي أصاب الشاشات التي تعمل بنظام «ويندوز» (إ.ب.أ)
تأثرت مئات الرحلات في مطارات عدة حول العالم نتيجة العطل الذي أصاب الشاشات التي تعمل بنظام «ويندوز» (إ.ب.أ)
TT

تحديث برمجي أمني يعطل ملايين الأجهزة العاملة بنظام «ويندوز 10» حول العالم

تأثرت مئات الرحلات في مطارات عدة حول العالم نتيجة العطل الذي أصاب الشاشات التي تعمل بنظام «ويندوز» (إ.ب.أ)
تأثرت مئات الرحلات في مطارات عدة حول العالم نتيجة العطل الذي أصاب الشاشات التي تعمل بنظام «ويندوز» (إ.ب.أ)

لم يكن ما أصبح عليه الملايين حول العالم يوم الجمعة إلا دليلاً آخر على أن حياتنا تعتمد على شيء واحد؛ تكنولوجيا الإنترنت. ففي اللحظة التي تتوقف فيها الإنترنت تتوقف أعمال كثيرين، بل حياتهم.

وهذا ما حدث بالفعل عندما أعلنت عدة المطارات وشركات ووسائل نقل ومواقع إنترنت عن تعطيل أصاب أجهزة الكومبيوتر التي تعمل بنظام التشغيل «ويندوز 10» لديها.

يتم تحديث المنتجات بانتظام للتعامل مع التهديدات الإلكترونية الجديدة المحتملة وغالباً ما تتم إضافة أدوات جديدة تلقائياً إلى أجهزة الكومبيوتر (أ.ف.ب)

ماذا حدث؟

لم يكن هجوماً سيبرانياً كما يظن البعض عادة عند حدوث وضع كهذا، بل المشكلة تتعلق بالجانب البرمجي في إحدى شركات الأمن السيبراني التي تسمى «كراود سترايك».

لكن ما علاقة «كراود سترايك» بأنظمة «ويندوز»؟

المسألة تتعلق بأحد البرامج الكثيرة التي تقدمها «كراود سترايك» لعملائها يدعى «كراود سترايك فالكون» (CrowdStrike Falcon). تصف الشركة البرنامج بأنه يوفر «مؤشرات هجوم في الوقت الفعلي، وكشفاً دقيقاً للغاية، وحماية آلية» من التهديدات السيبرانية المحتملة، وتستخدمه آلاف الشركات حول العالم لحماية بياناتها، وليس «مايكروسوفت» فقط. ويُعتقد أن الخادم الخاص بذلك المنتج قد تعطل، وأدى إلى العطل العالمي في منتجات «مايكروسوفت».

من المعروف أن شركات الأمن السيبراني تجري تحديثات منتظمة لمنتجاتها للتعامل مع التهديدات الإلكترونية، لكن كيف يمكن أن يؤدي تحديث إلى تعطل بهذا الشكل؟ يقول ماركو مسعد، الخبير في الأمن السيبراني والذكاء الاصطناعي، في حديث لـ«الشرق الأوسط» من واشنطن، إن «المشكلة قد تعود إلى (الكود) الذي تم استخدامه لبناء التحديث، ولم تظهر أي مشاكل فيه بالشكل الصحيح خلال مراحل الاختبار والجودة». وبما أن «كراود سترايك» لم تنشر تحليلاً تقنياً مفصلاً عن الحادث بعد، يشكّ مسعد في أن التحديث نفسه قد جعل مستشعر «فالكون» يعمل بشكل أكبر، وطريقة أحسن، ما يؤدي إلى تداخل مع نظام الحماية الخاص بـ«ويندوز»، الذي يكون قد رأى أن هذا التحديث هو « تهديد» بحد ذاته، ما أدى إلى توقيفه عن العمل نتيجة عدم وجود ربط بين نقاط النهاية بين «فالكون» ونظام الحماية في «ويندوز».

ولتوضيح ذلك، يضرب مسعد مثالاً بأن يكون لديك جهاز إنذار في منزلك، ويأتي حارس للتأكد من وجود خطر ما، فيعدّ جهاز الإنذار أن الحارس هو التهديد بحد ذاته، فيقوم بقفل الأبواب.

محللون: الشركة المسؤولة عن انقطاع خدمة «مايكروسوفت» ليست في الواقع شركة «مايكروسوفت» على الإطلاق (إ.ب.أ)

شركة الأمن السيبراني الأميركية أعلنت في وقت سابق من هذا الأسبوع عن تحديث «Falcon»، مشيرة إلى أنه سيوفر «سرعة ودقة غير مسبوقة» لكشف الاختراقات الأمنية. ولم تذكر حتى الآن إذا كانت لذلك التحديث علاقة مباشرة بالتعطل الذي حدث يوم الجمعة.

وفور الحادث، سارعت «كراود سترايك» عبر منصة «X» إلى القول إنها «على علم بتقارير الأعطال التي تحدث على نظام التشغيل (ويندوز) فيما يتعلق بمستشعر (فالكون)»، مؤكدة أن مستخدمي «ماك» و«لينكس» لم يتأثروا بذلك.

وفي مقابلة مع شبكة «NBC» يوم الجمعة، قال جورج كورتز، الرئيس التنفيذي ورئيس «كراود سترايك»، إن الشركة «تأسف بشدة للتأثير الذي سبّبناه للعملاء والمسافرين وأي شخص تأثر بهذا الأمر».

وقوبل المتصلون بالخط الهاتفي للدعم الفني للشركة برسالة هاتفية مسجلة، تفيد بأنهم على علم بالمشكلات صباح اليوم. كما نصحت «كراود سترايك» العملاء المتأثرين بتسجيل الدخول إلى بوابة خدمة العملاء الخاصة بهم للحصول على المساعدة.

أما «مايكروسوفت» فقالت، في بيان، حصلت «الشرق الأوسط» على نسخة منه، إنها « على علم بالمشكلة، التي حدثت في 18 يوليو (تموز)، والتي أثّرت على مجموعة فرعية من عملاء (أزور) Azure الذين لديهم موارد في منطقة جنوب وسط الولايات المتحدة، بالإضافة إلى مجموعة فرعية من عملاء (Microsoft 365) في أميركا. سيشهد جميع العملاء تقريباً انتعاشاً في هذه المرحلة». إلا أن ماركو مسعد يرى، في حديثه لـ«الشرق الأوسط»، أن هناك جانباً من المسؤولية يقع على عاتق «مايكروسوفت»، إذ «كان يجب أن تحمي نفسها ولا تلجأ إلى طرف آخر»، في إشارة إلى الحماية الأمنية التي تقدمها «كراود سترايك» لنقاط النهاية الخاصة بـ«مايكروسوفت»، ما قد يؤدي إلى الاختراقات وتعطل الخوادم.

يرى خبراء تقنيون أن معظم أجهزة الكومبيوتر المتأثرة ستحتاج إلى إعادة الضبط اليدوي إلى نقطة زمنية سابقة واحداً تلو آخر (شاترستوك)

ما الحل إذن؟

بالرغم من أن «كراود سترايك» تراجعت عن التحديث الذي سبّب المشكلة، فإن هذا لا يحل الأمر لدى أجهزة الكومبيوتر التي تأثرت بالفعل وعرضت «شاشة الموت الزرقاء»، ما يشير إلى خطأ فادح، وتم إجبارها على الدخول في عملية تمهيد ومنعها من التشغيل.

وما يزيد من تفاقم المشكلة أنه لا يبدو أن هناك حلاً عالمياً وسهلاً لهذه المشكلة. ستحتاج معظم أجهزة الكومبيوتر المتأثرة إلى إعادة ضبطها يدوياً لنقطة زمنية سابقة، واحداً تلو آخر. وإلى أن تصبح تلك الأجهزة قابلة للتشغيل، لن تتمكن من تلقي آخر تحديث من «كراود سترايك». ونصحت الشركة عملاءها بتشغيل الأجهزة المتأثرة في «الوضع الآمن»، ومن ثم حذف ملف معين. وقال متحدث باسم الشركة: «نحيل العملاء إلى بوابة الدعم للحصول على آخر التحديثات، وسنستمر في تقديم تحديثات كاملة ومستمرة على موقعنا الإلكتروني».

هل هو الحادث الأول؟

لا، بل إن آخر مرة حدث فيها انقطاع للإنترنت على نطاق واسع كان عندما تعطلت خدمة تسمى «فاستلي» (Fastly) عام 2021، وقتها نتج هذا الانقطاع عن خلل برمجي في أنظمة «فاستلي»، مزودة شبكة توصيل المحتوى (CDN). وقد تأثر عدد كبير من مواقع الويب والخدمات عبر الإنترنت نتيجة ذلك لمدة ساعة فقط! وقد سلطت تلك الحادثة حينها الضوء على أهمية إجراء اختبار قوي للبرامج، والتأثير المحتمل لأخطاء البرامج البسيطة على البنية التحتية الحيوية. وتم تنفيذ التغييرات بسرعة على أنظمة «فاستلي» لمنع وقوع حوادث مماثلة في المستقبل.

من هي «كراود سترايك»؟

إنها واحدة من أكبر شركات تكنولوجيا الأمن السيبراني في العالم، تقدر قيمتها بأكثر من 80 مليار دولار. وتُعرف تقنيتها النموذجية باسم اكتشاف نقطة النهاية والاستجابة لها، وهو نوع من برامج مكافحة الفيروسات يستخدم للتعامل مع تهديدات القرصنة. تأسست «كراود سترايك» منذ 11 عاماً في ولاية تكساس الأميركية، وغالباً ما يتم استدعاؤها من قبل المنظمات بعد حدوث انتهاكات كبيرة للأمن السيبراني للتحقيق في الأخطاء التي حدثت. وتشمل هذه الأحداث اختراق شركة «Sony Pictures» عام 2014.

ما حدث الجمعة هو تذكير بمدى دعم الإنترنت من خلال البنية التحتية المشتركة، ما يجعلها عرضة لمشكلات واسعة النطاق مثل هذه. والآثار التي شهدناها في تراجع أسعار أسهم كثير من الشركات وتعطل أعمالها، أثّرت أيضاً على كثير من الأشخاص على المستوى الفردي، بدءاً من تعطيل خطط العطلات إلى منع الوصول إلى خدمات الطوارئ.