باحثو «ستانفورد»: لا يمكننا السماح بثورة ذكاء اصطناعي في الظلام

تصنيف علمي لشفافية طريقة تشغيل 10 نماذج منها

جدول جامعة ستانفورد لتقييم النماذج العشرة للذكاء الاصطناعي
جدول جامعة ستانفورد لتقييم النماذج العشرة للذكاء الاصطناعي
TT

باحثو «ستانفورد»: لا يمكننا السماح بثورة ذكاء اصطناعي في الظلام

جدول جامعة ستانفورد لتقييم النماذج العشرة للذكاء الاصطناعي
جدول جامعة ستانفورد لتقييم النماذج العشرة للذكاء الاصطناعي

ما مدى معرفتنا عن الذكاء الاصطناعي، عندما يتعلّق الأمر بالنماذج اللغوية الكبيرة التي أطلقتها شركات مثل «أوبن إي آي» و«غوغل» و«ميتا» العام الماضي؟ الجواب هو: لا شيء.

تُحجم هذه الشركات عامّة عن المشاركة بمعلومات عن البيانات التي استخدمتها لتدريب نماذجها أو الأدوات التي استخدمتها لتشغيلها. لا يوجد حتّى اليوم دليلٌ خاص بالمستخدم لأنظمة الذكاء الاصطناعي، ولا لائحة توضح قدرات هذه الأنظمة، أو حتّى اختبارات السلامة التي أجريت عليها.

صحيحٌ أنّ بعض نماذج الذكاء الاصطناعي مفتوحة المصدر -أي أنّ رمزها البرمجي متوفّر لعموم الجمهور مجّاناً- إلّا أنّ النّاس لا يعلمون الكثير عن عملية ابتكارها، أو ما الذي يحصل بعد إطلاقها.

تقييم جامعة ستانفورد

في هذا السياق، أطلق باحثون من جامعة ستانفورد أخيراً نظام تقييم على أمل المساعدة في تغيير هذا الوضع.

يحمل المشروع اسم «مؤشر شفافية نموذج الأساس» Foundation Model Transparency Index ويصنّف 10 نماذج لغوية كبيرة مدعومة بالذكاء الاصطناعي (تُسمّى أحياناً بـ«نماذج الأساس») بناءً على درجة شفافيتها.

يشمل المؤشر نماذج شهيرة مثل GPT-4 من «أوبن إي آي» (الذي يشغّل الإصدار المدفوع من «تشات جي بي تي»)، و«PaLM 2» (الذي يشغّل نموذج «بارد»)، و«LLaMA 2» من «ميتا»، بالإضافة إلى نماذج أقلّ شعبية مثل «Titan Text» من «أمازون»، و«Inflection-1» من «إنفلكشن إي آي»، الذي يشغّل روبوت المحادثة «باي».

لتصميم التصنيف، قيّم الباحثون كلّ نموذج وفقاً لمائة معيار، ككشف الشركة المنتجة عن مصادر بيانات التدريب ومعلومات عن الأدوات المستخدمة، والعمالة التي شاركت في التدريب، إلى جانب تفاصيل أخرى. وتضمّنت التصنيفات أيضاً معلومات عن العمالة والبيانات المستخدمة لإنتاج النموذج نفسه، إلى جانب ما سماه الباحثون «مؤشرات المجريات» (downstream indicators) المتعلّقة بكيفية استخدام النموذج بعد إطلاقه. (مثلاً، جاء أحد الأسئلة على الشكل الآتي: «هل كشف المطوّر عن البروتوكولات التي استخدمها لتخزين بيانات المستخدم، والوصول إليها، ومشاركتها؟»).

شفافية الذكاء الاصطناعي

وجد الباحثون بعد التصنيف الذي أجروه أنّ النموذج الأكثر شفافية هو «LLaMA 2» بنسبة 54 في المائة، بينما حقّق «GPT-4» و«PaLM 2» ثالث أعلى رصيد شفافية بـ40 في المائة.

وصف بيرسي ليانغ، مدير مركز أبحاث نماذج الأساس في ستانفورد، مشروع التصنيف، بالاستجابة الضرورية للشفافية المتردّية في صناعة الذكاء الاصطناعي. وأضاف أنّ تدفّق الأموال للاستثمار في الذكاء الاصطناعي وتصارع كبرى شركات التقنية للسيطرة على الصناعة، دفع كثيراً منها أخيراً إلى إحاطة نفسها بالسريّة التامّة.

ويشرح ليانغ: «قبل ثلاث سنوات، كان الناس ينشرون ويشاركون تفاصيل أكثر عن نماذجهم. أمّا اليوم، فلا توجد معلومات حول طبيعة هذه النماذج، وكيف طُوّرت، وأين تُستخدم».

تنطوي الشفافية اليوم على أهميّة استثنائية؛ لأنّ هذه النماذج تزداد قوّة، فضلاً عن أنّ أدوات الذكاء الاصطناعي باتت تدخل في حياة الملايين اليومية. ومعرفة مزيد عن عمل هذه الأنظمة سيزوّد واضعي القوانين والباحثين والمستخدمين بمفهومٍ أفضل عمّا يتعاملون معه، وسيتيح لهم طرح أسئلة بنّاءة عن الشركات التي تقف خلف النماذج.

ويشدّد ليانغ على «غياب مشاركة بعض القرارات التبعية التي تُتّخذ اليوم حول تطوير هذه النماذج».

سرّية غير مبررة

ويضيف ليانغ أنّه عندما يسأل المديرين التنفيذيين في شركات الذكاء الاصطناعي عن سبب عدم مشاركتهم لمزيد من المعلومات عن نماذجهم، يسمع واحدة من ثلاث إجابات شائعة:

* الأولى هي الدعاوى القضائية: تواجه شركات ذكاء اصطناعي عدّة دعاوى قضائية رفعها مؤلّفون وفنّانون وشركات إعلامية، تتهمها باستخدام أعمال خاضعة لحقوق الملكية بشكلٍ غير قانوني لتدريب نماذج الذكاء الاصطناعي الخاصة بها. استهدف معظم هذه الدعاوى حتّى اليوم مشاريع الذكاء الاصطناعي مفتوحة المصدر، أو المشاريع التي نشرت معلومات مفصّلة عن نماذجها. يتخوّف الوكلاء القانونيون لشركات الذكاء الاصطناعي من أن يجرّ إفصاح الشركات عن تفاصيل بناء نماذجها مزيداً من العواقب القانونية المزعجة والمكلفة.

* الثانية هي المنافسة: تعتقد شركات الذكاء الاصطناعي أنّ نماذجها تعمل لأنّها تملك ما يشبه «الصلصة السرية»؛ نسقٌ من البيانات النوعية التي لا تملكها الشركات الأخرى، وتقنية عالية الضبط تعطي نتائج أفضل، وبعض الصقل الذي يمنحها أفضلية ما. تحاجج هذه الشركات بأنّها في حال أُجبرت على الكشف عن وصفاتها السرية، ستُقدّم لمنافسيها حكمة اكتسبتها بصعوبة على طبقٍ من فضّة.

* الثالثة، وهي الأكثر ترداداً، السلامة: يحاجج بعض خبراء الذكاء الاصطناعي بأنّه كلّما زاد كمّ المعلومات التي تشاركها شركات الذكاء الاصطناعي عن نماذجها، سيتسارع تقدّم الذكاء الاصطناعي أكثر؛ لأنّ كلّ واحدة من هذه الشركات ستطّلع على ما حقّقته منافستها، وستعمد على الفور إلى التفوّق عليها ببناء نموذج أفضل وأكبر وأسرع. وهكذا، لن يملك المجتمع الوقت الكافي لتنظيم وإبطاء الذكاء الاصطناعي، مما سيعرّضنا جميعاً لمزيد من المخاطر إذا أصبح الذكاء الاصطناعي أقوى بسرعةٍ أكبر.

لا توجد معلومات حول طبيعة هذه النماذج وكيف طُوّرت وأين تُستخدم

تفسيرات غير مقنعة

ولكنّ باحثي ستانفورد لا يصدّقون هذه التفسيرات، ويعتقدون أنّ شركات الذكاء الاصطناعي يجب أن تخضع لضغوطات للكشف عن المعلومات الكافية التي توضح قوّة نماذجها؛ لأنّ المستخدمين والباحثين وواضعي القوانين يجب أن يكونوا على دراية بكيفية عمل هذه النماذج، ومحدوديتها، وبدرجة الخطر التي قد تترتّب عليها.

من جهته، قال ريشي بوماساني، أحد الباحثين المشاركين في المشروع، إنّ «الشفافية تشهد تراجعاً ملحوظاً يتزامن مع تصاعد تأثير هذه التقنية».

ونحن نوافقهم الرأي؛ لأنّ هذه النماذج الأساس أقوى من أن تبقى مبهمة، وكلّما توسّعت معرفتنا بها زاد فهمنا للتهديدات التي قد ترتّبها، والمكاسب التي قد تحملها، أو للطريقة التي تمكّننا من تنظيمها.

وإذا كان تنفيذيّو شركات الذكاء الاصطناعي يشعرون بالقلق من الدعاوى القضائية، فربّما يجب عليهم أن يكافحوا من أجل إعفاء عادلٍ يحمي قدرتهم على استخدام المعلومات الخاضعة لحقوق الملكية لتدريب نماذجهم بدل إخفاء الأدلّة. وإذا كانوا يشعرون بالقلق من التنازل عن أسرارهم التجارية للمنافسين، فيمكنهم رفع النقاب عن نوعٍ آخر من المعلومات، أو حماية أفكارهم بواسطة براءة اختراع. وفي حال كانوا قلقين من استعار سباق التسلّح بالذكاء الاصطناعي، نقول لهم: «ألسنا في وسط واحدٍ الآن؟»

لا يمكننا السماح بثورة ذكاء اصطناعي في الظلام، ويجب أن نعلم ماذا يوجد داخل صناديق الذكاء الاصطناعي السوداء إذا كنّا سنسمح لها بتغيير حياتنا.

* خدمة «نيويورك تايمز»


مقالات ذات صلة

شركات الطيران تستأنف عملياتها بعد أكبر عطل تقني في التاريخ

الاقتصاد مسافرون في مطار «دالاس فورت وورث الدولي» في تكساس (أ.ب)

شركات الطيران تستأنف عملياتها بعد أكبر عطل تقني في التاريخ

يعود الوضع تدريجياً إلى طبيعته، السبت، عقب عطل تقني هو الأكبر في التاريخ، أدى إلى اضطرابات لدى شركات طيران عالمية ومصارف ومؤسسات مالية.

«الشرق الأوسط» (لندن)
تكنولوجيا شعار شركة «كراود سترايك» (أ.ف.ب)

بعد تسببها بعطل معلوماتي عالمي... ماذا نعرف عن «كراود سترايك»؟

استيقظ الملايين من الأشخاص حول العالم، في وقت مبكر من صباح أمس (الجمعة)، ليجدوا القنوات الإخبارية التلفزيونية صامتة، وبعض القطارات والمواقع الإلكترونية معطلة.

«الشرق الأوسط» (واشنطن)
تكنولوجيا تؤكد «مشكلة 2038» التعقيد المتنامي للبنية التحتية التكنولوجية بسبب الاعتماد بشكل أكبر على الأنظمة المترابطة (شاترستوك)

هل سيشهد عام 2038 شللاً في الأنظمة مشابهاً لتحديث «كراود سترايك»؟

«مشكلة 2038» هي مشكلة محتملة تتعلق بكيفية قيام بعض أنظمة الكمبيوتر بتخزين بيانات الوقت ومعالجتها، هل تطرح مخاوف مشابهة لما حدث يوم الجمعة حول العالم؟

نسيم رمضان (لندن)
الخليج شعار الهيئة الوطنية للأمن السيبراني (واس)

هيئة الأمن السيبراني السعودية: تأثير العطل التقني العالمي على المملكة محدود

أعلنت الهيئة الوطنية للأمن السيبراني السعودية، اليوم السبت، أن تأثير العطل التقني العالمي على المملكة «محدود».

«الشرق الأوسط» (الرياض)
تحليل إخباري تأثر بعض رحلات مطار الكويت بسبب العطل التقني حول العالم (تلفزيون الكويت)

تحليل إخباري تأثير متفاوت على الأنظمة الخليجية جراء العطل التقني العالمي

أحدث الخلل الفني العالمي بشبكة الإنترنت، الجمعة، تأثيراً تفاوتت نسبته بين القطاعات المختلفة في دول الخليج، بينما استبعدت جهاتٌ ارتباط العطل بهجوم سيبراني.

«الشرق الأوسط» (الرياض)

بعد تسببها بعطل معلوماتي عالمي... ماذا نعرف عن «كراود سترايك»؟

شعار شركة «كراود سترايك» (أ.ف.ب)
شعار شركة «كراود سترايك» (أ.ف.ب)
TT

بعد تسببها بعطل معلوماتي عالمي... ماذا نعرف عن «كراود سترايك»؟

شعار شركة «كراود سترايك» (أ.ف.ب)
شعار شركة «كراود سترايك» (أ.ف.ب)

استيقظ الملايين من الأشخاص حول العالم، في وقت مبكر من صباح أمس (الجمعة)، ليجدوا القنوات الإخبارية التلفزيونية صامتة، وبعض القطارات والمواقع الإلكترونية معطلة بسبب انقطاع كبير في الإنترنت، أثّر على عشرات الملايين من أجهزة الكومبيوتر.

يبدو أن أي شركة تقوم بتشغيل برنامج Microsoft Windows 10 تقريباً تعرضت لعطل مفاجئ. وبدأت أجهزة الكمبيوتر تغلق نفسها تلقائياً وتعرض ما يسمى «شاشة الموت الزرقاء».

وتسبب تحديث برمجي من شركة الأمن السيبراني العالمية «كراود سترايك»، وهي إحدى كبرى الشركات في القطاع، في إحداث مشكلات في الأنظمة أدت إلى تعطل كثير من الخدمات حول العالم.

وتعود اليوم الأنظمة ببطء إلى عملها الطبيعي ــ فقد أطلق أحد الباحثين في مجال الأمن السيبراني على انقطاع التيار الكهربائي الكارثي اسم CrowdStrike Doomsday، وفقاً لصحيفة «التليغراف».

فماذا نعرف عن الشركة؟

«كراود سترايك» هي شركة تكنولوجيا أميركية عملاقة، تقدر قيمتها بأكثر من 80 مليار دولار (62 مليار جنيه إسترليني)، وهي مسؤولة عن تطوير برامج الأمن السيبراني الهامة التي تستخدمها آلاف الشركات.

برامجها مدمجة بعمق في أنظمة وشبكات تكنولوجيا المعلومات الهامة. تقوم «كراود سترايك» بتطوير ما يسمى بنظام «الكشف عن نقطة النهاية والاستجابة لها»، ما يساعد الشبكات الكبيرة على اكتشاف هجمات القرصنة وإيقافها - تماماً مثل برامج مكافحة الفيروسات على مستوى الأعمال.

تأسست الشركة في عام 2011 ويقع مقرها الرئيسي في تكساس بالولايات المتحدة، وقد نالت تقنيتها شعبية كبيرة. وقد أعلنت عن إيرادات بلغت 3 مليارات دولار وأكثر من 23 ألف عميل من الشركات العام الماضي. وأصبحت أيضاً معروفة في دوائر الأمن السيبراني لعملها في التحقيق في عمليات الاختراق رفيعة المستوى.

مسافر يمر بالقرب من لوحة معلومات تُظهر تأخيرات متعددة في مطار دالاس الدولي (أ.ف.ب)

وباعتبار أن الشركة يجب أن تستجيب للتهديدات السيبرانية المتطورة باستمرار، تقوم «كراود سترايك» بشكل روتيني بإرسال التحديثات إلى عملائها باستخدام أدوات وطبقات حماية جديدة.

ومع ذلك، يبدو أن تحديثاً معيباً قد تسبب في انهيار هائل لتكنولوجيا المعلومات، وفقاً لخبراء الأمن السيبراني ومهندسي الشركة.

وقد أثر الانقطاع على العملاء بما في ذلك شركات الطيران والقطارات والمطارات وأنظمة الدفع ومحلات السوبر ماركت، وغيرها.

وأبلغ مديرو تكنولوجيا المعلومات، عبر وسائل التواصل الاجتماعي، عن تعاملهم مع الانهيارات الداخلية التي أثرت على عشرات الآلاف من الآلات في أعمالهم.

قال تروي هانت، خبير الأمن السيبراني: «لا أعتقد أنه من السابق لأوانه القول إن هذا سيكون أكبر انقطاع لتكنولوجيا المعلومات في التاريخ».

مكاتب تابعة لشركة «كراود سترايك» في كاليفورنيا (أ.ب)

على الرغم من أن أنظمة «ويندوز 10» من «مايكروسوفت» هي التي تأثرت إلى حد كبير بمشكلة تكنولوجيا المعلومات، فإن السبب الجذري للخلل يُعزى إلى «كراود سترايك»- على وجه التحديد ملف معيب على ما يبدو في أداة «فالكون سانسور».

وأوضح هانت أن الشركة هي «لاعب ضخم في مجال الأمن» والتي غالبا ما تتمتع تقنيتها بما يسمى الوصول «المتميز» إلى شبكات الأعمال. وهذا يعني أن لديها سيطرة واسعة النطاق لتحديث وتعديل أنظمة العملاء، من الناحية النظرية لإزالة البرامج الضارة.

مع ذلك، أفاد: «وهذا يعني أيضاً أنه إذا حدث خطأ ما في التحديث، فقد يؤدي ذلك إلى تدمير جهازك بشكل كارثي».

كان خبراء الأمن يوجهون غضبهم بالفعل إلى «كراود سترايك» بسبب تعاملها مع انقطاع الخدمة. لعدة ساعات، لم تكن هناك تحديثات عامة أو بيانات رسمية من الشركة حول هذه المشكلة.

ولكن، أصدر لاحقاً جورج كورتز، المؤسس والرئيس التنفيذي للشركة، بيانا عاما، وأوضح: «تعمل (كراود سترايك) بنشاط مع العملاء المتأثرين بعيب تم العثور عليه في تحديث محتوى واحد لمضيفي (ويندوز)».

وتابع: «هذا ليس حادثاً أمنياً أو هجوماً إلكترونياً. تم تحديد المشكلة وعزلها ونشر الإصلاح».

وانخفضت أسهم «كراود سترايك» بأكثر من 14 في المائة عند افتتاح التداول في نيويورك.