رصد آلاف الثغرات في برامج الذكاء الاصطناعي الشائعة

محتوى جنسي وعنيف وإنتاج أسلحة محرمة دولياً

رصد آلاف الثغرات في برامج الذكاء الاصطناعي الشائعة
TT

رصد آلاف الثغرات في برامج الذكاء الاصطناعي الشائعة

رصد آلاف الثغرات في برامج الذكاء الاصطناعي الشائعة

تقول شركة ناشئة في مجال الذكاء الاصطناعي إن اختباراتها وجدت أن برامج الذكاء الاصطناعي التوليدية الشهيرة أنتجت محتوىً عنيفاً أو جنسياً، وإنها أيضاً سمحت بأتمتة الهجمات الإلكترونية.

محتوى جنسي وأسلحة كيميائية

وقالت شركة «هايز لابز (Haize Labs)» إنها عثرت على الآلاف من نقاط الضعف في برامج الذكاء الاصطناعي التوليدية الشهيرة، وأصدرت قائمة باكتشافاتها.

بعد اختبار برامج الذكاء الاصطناعي التوليدية الشائعة؛ بما فيها برنامج إنشاء الفيديو «Pika»، وبرنامج «ChatGPT» الذي يركز على النصوص، ومولد الصور «Dall-E»، ونظام الذكاء الاصطناعي الذي يولد رموز الكومبيوتر، اكتشفت «هايز لابز» أن كثيراً من الأدوات المعروفة تنتج محتوىً عنيفاً أو جنسياً، كما أنها وجهت مستخدميها إلى معلومات حول إنتاج أسلحة كيميائية وبيولوجية، وسمحت بأتمتة الهجمات السيبرانية.

و«هايز لابز» شركة ناشئة صغيرة عمرها 5 أشهر فقط أسسها ليونارد تانغ وستيف لي وريتشارد ليو، وهم 3 من الخريجين الجدد الذين التقوا جميعاً في الكلية. ونشروا بشكل جماعي 15 ورقة بحثية حول التعلم الآلي خلال وجودهم في الكلية.

ووصف تانغ تقرير «هايز» بأنه «اختبار إجهاد مستقل من طرف ثالث»، وقال إن هدف شركته هو المساعدة في استئصال مشكلات الذكاء الاصطناعي ونقاط الضعف على نطاق واسع.

معايير السلامة للذكاء الاصطناعي

وفي إشارة إلى إحدى كبريات شركات تصنيف السندات على سبيل المقارنة، قال تانغ إن «هايز» تأمل في أن تصبح «وكالة موديز للذكاء الاصطناعي» التي تحدد تصنيفات السلامة العامة للنماذج الشعبية.

تعدّ سلامة الذكاء الاصطناعي مصدر قلق مزداد؛ حيث تدمج مزيد من الشركات الذكاء الاصطناعي التوليدي في عروضها وتستخدم نماذج لغوية كبيرة في المنتجات الاستهلاكية.

أجوبة «خرافية»

وفي الشهر الماضي، واجهت «غوغل» انتقادات حادة بعد أن اقترحت أداتها التجريبية «AI Overviews»، التي تهدف إلى الإجابة عن أسئلة المستخدمين، أنشطة خطرة مثل تناول صخرة صغيرة واحدة يومياً أو إضافة الغراء إلى البيتزا.

وفي شهر فبراير (شباط) الماضي، تعرضت «شركة طيران كندا» لانتقادات شديدة عندما وعد برنامج الدردشة الآلي الخاص بها؛ المزود بتقنية الذكاء الاصطناعي، بخصم وهمي لأحد المسافرين. وقد دعا مراقبو الصناعة إلى إيجاد طرق أفضل لتقييم مخاطر أدوات الذكاء الاصطناعي.

«مع انتشار أنظمة الذكاء الاصطناعي على نطاق واسع، فسنحتاج إلى مجموعة أكبر من المؤسسات لاختبار قدراتها ومدى إساءة الاستخدام المحتملة أو مشكلات السلامة»؛ وفق ما نشر جاك كلارك، المؤسس المشارك لـ«شركة أبحاث الذكاء الاصطناعي والسلامة (أنثروبيك Anthropic)»، مؤخراً على موقع «إكسX».

برامج توليدية غير آمنة

وقال تانغ: «ما تعلمناه هو أنه على الرغم من كل جهود السلامة التي بذلتها هذه الشركات الكبرى والمختبرات الصناعية، فإنه لا يزال من السهل للغاية إقناع هذه النماذج بفعل أشياء ليس من المفترض أن تفعلها... إنها ليست آمنة».

ويعمل اختبار «هايز» على ممارسة محاكاة الإجراءات العدائية لتحديد نقاط الضعف في نظام الذكاء الاصطناعي. وقال غراهام نيوبيج، الأستاذ المشارك في علوم الكومبيوتر بـ«جامعة كارنيغي ميلون»، إن صناعة الذكاء الاصطناعي تحتاج إلى كيان مستقل للسلامة. وأضاف: «أدوات السلامة الخاصة بالذكاء الاصطناعي التابعة لجهات خارجية مسألة مهمة... إنها يجب أن تكون عادلة ومحايدة على حد سواء. كما يمكن أن تتمتع أداة الأمان التابعة لجهة خارجية بأداء أعلى فيما يتعلق بالتدقيق؛ لأنها أُنشئت بواسطة مؤسسة مختصة في ذلك، على عكس بناء كل شركة أدواتها المختصة».

استئصال الثغرات

وقالت «هايز» إنها أبلغت صانعي أدوات الذكاء الاصطناعي التي اختُبرت بشكل استباقي بنقاط الضعف، ودخلت الشركة الناشئة في شراكة مع «أنثروبيك» لاختبار الإجهاد لمنتج خوارزمي لم يُطرح بعد. وقال تانغ إن استئصال نقاط الضعف في منصات الذكاء الاصطناعي من خلال الأنظمة الآلية أمر بالغ الأهمية؛ «لأن اكتشاف المشكلات يدوياً يستغرق وقتاً طويلاً ويعرض أولئك الذين يعملون في الإشراف على المحتوى لمحتوى عنيف ومزعج».

بعض المحتوى الذي اكتُشف عبر مراجعة «هايز» أدوات الذكاء الاصطناعي التوليدية الشائعة يتضمن صوراً ونصوصاً مروعة ورسومية. وقال تانغ: «كان هناك كثير من الحديث حول مشكلات السلامة التي تسيطر على العالم من خلال الذكاء الاصطناعي... أعتقد أنها مهمة، لكن المشكلة الكبرى هي إساءة استخدام الذكاء الاصطناعي على المدى القصير».

* مجلة «فاست كومباني» - خدمات «تريبيون ميديا»


مقالات ذات صلة

الذكاء الاصطناعي أكثر دقة بـ3 مرات في التنبؤ بتقدم مرض ألزهايمر

تكنولوجيا يمكن أن يسهّل التعرف المبكر على المرضى الذين من المرجح أن يتقدموا بسرعة العلاج في الوقت المناسب والمراقبة الدقيقة (شاترستوك)

الذكاء الاصطناعي أكثر دقة بـ3 مرات في التنبؤ بتقدم مرض ألزهايمر

ابتكر باحثون بجامعة كمبردج نموذجاً للتعلم الآلي يمكنه التنبؤ بتطور مشاكل الذاكرة والتفكير الخفيفة إلى مرض ألزهايمر بدقة أكبر من الأدوات السريرية.

نسيم رمضان (لندن)
تكنولوجيا شعار  شركة «أوبن إيه آي» يظهر على شاشة هاتف (أ.ب)

علماء يحذرون: أنظمة الذكاء الاصطناعي قد تكون على وشك الانهيار

حذّر باحثون من أن أنظمة الذكاء الاصطناعي قد تنهار وتتحول إلى «هراء» مع امتلاء المزيد من مواقع الإنترنت بالمحتوى الذي يصنعه الذكاء الاصطناعي.

«الشرق الأوسط» (واشنطن)
علوم استطلاع دولي: الذكاء الاصطناعي يزيد عبء العمل

استطلاع دولي: الذكاء الاصطناعي يزيد عبء العمل

تصورات الشركات من استخداماته غير واقعية.

«الشرق الأوسط» (واشنطن)
الاقتصاد هاتف ذكي يحمل شعار «إنفيديا» (رويترز)

«إنفيديا» تعدّ نسخة من شريحة الذكاء الاصطناعي للسوق الصينية

قالت ثلاثة مصادر إن شركة «إنفيديا» تعمل على نسخة من رقائق الذكاء الاصطناعي الرائدة الجديدة للسوق الصينية والتي ستكون متوافقة مع ضوابط التصدير الأميركية.

«الشرق الأوسط» (سنغافورة)
الاقتصاد متداولون في بورصة نيويورك (أ.ف.ب)

الذكاء الاصطناعي معيار تحليل النتائج المالية للشركات التكنولوجية العملاقة

تتجه الأنظار خلال الأسبوعين المقبلين إلى النتائج المالية المتوقع إعلانها للشركات العملاقة في قطاع التكنولوجيا، وهي ستخضع للتحليل من منظور الذكاء الاصطناعي.

«الشرق الأوسط» (نيويورك)

استطلاع دولي: الذكاء الاصطناعي يزيد عبء العمل

استطلاع دولي: الذكاء الاصطناعي يزيد عبء العمل
TT

استطلاع دولي: الذكاء الاصطناعي يزيد عبء العمل

استطلاع دولي: الذكاء الاصطناعي يزيد عبء العمل

هل طفرة الإنتاجية مبالغ فيها؟ الأخبار تقول إن ما يقرب من نصف الموظفين لا يعرفون كيفية استخدام الذكاء الاصطناعي لتلبية متطلبات أصحاب العمل، وفقاً لاستطلاع جديد.

إنتاجية وعبء

يتم الترحيب بالذكاء الاصطناعي بوصفه معززاً جديداً للإنتاجية سيحل محل الوظائف، ولكن وفقاً لدراسة جديدة، يجد الموظفون أن الذكاء الاصطناعي يزيد بالفعل من عبء عملهم.

وكتبت شالين غوبتا (*) أن مؤسسة «أبورك» (Upwork) وهي منصة مستقلة، قامت باستطلاع رأي 2500 من العاملين في جميع أنحاء الولايات المتحدة والمملكة المتحدة وأستراليا وكندا، الذين يقومون ببعض أعمال الكومبيوتر على الأقل، بما في ذلك المديرون التنفيذيون والموظفون والمستقلون.

نتائج الاستطلاع

فيما يلي النتائج الرئيسية:

وعود الذكاء الاصطناعي: من بين القادة التنفيذيين الذين شملهم الاستطلاع، قال 96 في المائة إنهم يتوقعون أن يؤدي الذكاء الاصطناعي إلى زيادة الإنتاجية. وقال نحو 37 في المائة من الرؤساء التنفيذيين إنهم يتوقعون أن يستخدم الموظفون الذكاء الاصطناعي لزيادة إنتاجهم، و30 في المائة لتولي نطاق أوسع من المسؤوليات، و20 في المائة للعمل لساعات أطول.

نحو 39 في المائة من الشركات التي شملتها الدراسة تلزم موظفيها باستخدام الذكاء الاصطناعي، و46 في المائة تشجع الموظفين على استخدام الذكاء الاصطناعي.

مهارات وإرهاق

التنفيذ: أقل من 26 في المائة من القادة الذين يتوقعون استخدام الذكاء الاصطناعي لتحسين الإنتاجية، يقدمون برامج تدريب على الذكاء الاصطناعي، و13 في المائة فقط لديهم استراتيجية ذكاء اصطناعي تم تنفيذها بشكل جيد.

وفي الوقت نفسه، يقول 37 في المائة من القادة إن القوى العاملة لديهم تتمتع بمهارات عالية في مجال الذكاء الاصطناعي؛ لكن 17 في المائة فقط من الموظفين يوافقون على ذلك. ويقول 38 في المائة إنهم يشعرون بالإرهاق بسبب استخدام أدوات الذكاء الاصطناعي في العمل.

قلة معرفة وعمل أكثر

النتيجة: بينما يعتقد 65 في المائة من الموظفين أن الذكاء الاصطناعي يمكنه تحسين الإنتاجية، يقول ما يقرب من النصف (47 في المائة) من الموظفين الذين يستخدمون الذكاء الاصطناعي، إنهم لا يعرفون كيفية استخدامه لتلبية توقعات إنتاجية أصحاب العمل.

يقول كثيرون إن ذلك يؤدي في الواقع إلى زيادة عبء العمل: يقضي 39 في المائة وقتاً أطول في مراجعة المحتوى الذي ينتجه الذكاء الاصطناعي أو الإشراف عليه، ويقضي 23 في المائة ساعات إضافية في تعلم استخدام الذكاء الاصطناعي، ويُطلَب من 21 في المائة منهم العمل أكثر.

تصورات غير واقعية

توقعات غير واقعية: بشكل عام، يشعر 40 في المائة من الموظفين بأن توقعات شركاتهم فيما يتعلق باستخدام الذكاء الاصطناعي غير واقعية. ويشير مؤلفو التقرير إلى أنه «للاستفادة حقاً من قوة الذكاء الاصطناعي، يجب علينا أن نغير بشكل أساسي الطريقة التي ننظم بها المواهب والعمل. إن تحقيق توازن أكبر بين الإنتاجية والرفاهية يتطلب طرقاً جديدة للعمل. والقيام بالمزيد بموارد أقل، وتجاهل مجموعات المواهب البديلة، والالتزام بقياس الإنتاجية من أعلى إلى أسفل، لن ينجح ببساطة في عصر الذكاء الاصطناعي.

(*) خدمات «تريبيون ميديا»