بعد موافقة مجلس الوزراء السعودي على نظامه الأساس... ما ‏هو المركز الدولي لأبحاث وأخلاقيات الذكاء الاصطناعي؟

تحت رعاية «اليونيسكو» ومقره الرياض وأعماله ترتكز على 4 مجالات

شعار المركز (الموقع الإلكتروني)
شعار المركز (الموقع الإلكتروني)
TT

بعد موافقة مجلس الوزراء السعودي على نظامه الأساس... ما ‏هو المركز الدولي لأبحاث وأخلاقيات الذكاء الاصطناعي؟

شعار المركز (الموقع الإلكتروني)
شعار المركز (الموقع الإلكتروني)

وضعت موافقة مجلس الوزراء السعودي، الثلاثاء، على النظام الأساس لـ«المركز الدولي لأبحاث وأخلاقيات الذكاء الاصطناعي»، الأساس التنظيمي للمركز الذي يعمل تحت رعاية منظمة «اليونيسكو» بالعاصمة السعودية الرياض.

وعقب موافقة المجلس، خلال جلسته الأخيرة برئاسة الأمير محمد بن سلمان ولي العهد رئيس مجلس الوزراء السعودي، كشف رئيس الهيئة السعودية للبيانات والذكاء الاصطناعي «سدايا»، الدكتور عبد الله الغامدي، أن الهيئة تتعاون مع المركز في مجالاته التنموية لتحقيق أهدافه المنوطة به في تقديم الدعم في البحث والتطوير في مجال الذكاء الاصطناعي، ورفع الوعي والتواصل بشأن أخلاقيات الذكاء الاصطناعي مع تقديم التوصيات ذوات الصلة بسياسات الذكاء الاصطناعي، فضلاً عن دعمه في الجهود الرامية إلى تعزيز ودعم بناء قدرات الذكاء الاصطناعي على المستوى العالمي، في سبيل تحقيق أهداف التنمية المستدامة للأمم المتحدة، وأولويات منظمة «اليونيسكو».

كما ثمّن في الوقت نفسه، «الدعم الكبير» الذي توليه القيادة السعودية لجهود المملكة الدولية في «دعم إقرار الذكاء الاصطناعي المسؤول بالعالم»، عادّاً أن ذلك يُمثِّل خطوة نوعية لدعم جهود المركز في البحث والتطوير بمجال الذكاء الاصطناعي، وزيادة الوعي بأخلاقيات هذه التقنيات، وبناء القدرات، وتطوير سياسات الذكاء الاصطناعي على المستوى العالمي، إلى جانب تعزيز التعاون مع المنظمات والمؤسسات الدولية للإسهام في تعزيز أخلاقيات الذكاء الاصطناعي العالمية.

ما هو المركز؟

ووفقاً للمصادر الرسمية، صدر قرار إنشاء المركز في يوليو (تموز) 2023، قبل أن يتم توقيع اتفاقية ثلاثية بين حكومة المملكة و«اليونيسكو»، والمركز الدولي لأبحاث وأخلاقيات الذكاء الاصطناعي، خلال أعمال القمة العالمية للذكاء الاصطناعي بالرياض في نسـختها الثالثة سبتمبر (أيلول) 2024.

وخلال الدورة الـ42 للمؤتمر العام لـ«اليونيسكو»، اختيرت المملكة لقيادة أجندة أخلاقيات الذكاء الاصطناعي، عقب إقرار الدول الأعضاء منح المركز صفة «مركز دولي» تحت رعاية «اليونيسكو»، ليعد بذلك أول مركز من نوعه على مستوى العالم، يُعنى بأخلاقيات الذكاء الاصطناعي.

وأسهم المركز، الذي يعرف اختصاراً بـ«آيكير»، في بذل جهود حثيثة لإرساء أخلاقيات الذكاء الاصطناعي بالعالم من خلال تحويل الأطر والسياسات الأخلاقية النظرية إلى آليات تطبيقية ومبادرات ملموسة، بالتعاون مع الدول الأعضاء في «اليونيسكو»، بوصفه مركزاً دولياً من الفئة الثانية تحت رعاية المنظمة وفي مدينة الرياض، وذلك بما يخدم الإنسان ويحقق أهداف التنمية المستدامة للأمم المتحدة.

منذ منتصف 2023

واستكمالاً لمسيرة المركز التي استهلت في يوليو 2023، جرى العمل على تعزيز التعاون الدولي في مجالات البحث العلمي، وتطوير المعرفة حول أخلاقيات الذكاء الاصطناعي، ودعم السياسات، وبناء القدرات، وترسيخ مبادئ الحوكمة والأخلاقيات، بما يُسهم في إقرار الاستخدام المسؤول لتقنيات الذكاء الاصطناعي، وتمكين الدول من الابتكار المسؤول وفتح آفاق أمام تطوير تقنيات ذكاء اصطناعـي أخلاقي من أجل خدمة المجتمعات البشرية.

4 مجالات مرتبطة بالذكاء الاصطناعي

ويرتكز المركز في أعماله على 4 مجالات رئيسية ترتبط بالذكاء الاصطناعي من خلال تعزيز البحث والتطوير، وتنمية الوعي ونشر مفاهيم أخلاقيات الذكاء الاصطناعي، وبناء القدرات وتطوير المهارات في مجال الذكاء الاصطناعي مع تطوير التوصيات التنظيمية في مجال الذكاء الاصطناعي، وتبادل الخبرات الدولية مع الجامعات ومراكز البحوث في العالم، بما يسهم في تحويل المعرفة العلمية إلى أدوات وسياسات وممارسات عملية تخدم مختلف الشعوب.

ويؤدي المركز دوراً محورياً في دعم تنفيذ توصية «اليونيسكو» بشأن أخلاقيات الذكاء الاصطناعي، من خلال توفير منصة دولية للحوار وتبادل الخبرات، وإعداد الدراسات والأبحاث، وتنظيم البرامج التدريبية، وتعزيز التعاون العلمي، ودعم الدول في بناء القدرات الوطنية وتطوير السياسات والأطر التنظيمية المرتبطة بالذكاء الاصطناعي المسؤول، بما يُسهم في تحقيق أهداف التنمية المستدامة للأمم المتحدة.

ويعد المركز مساهماً رئيسياً في تحقيق أهداف التنمية المستدامة للأمم المتحدة 2030، وفي دعم أولويات منظمة «اليونيسكو».

وتسهم الأنشطة الرئيسية للمركز بشكل مباشر في تحقيق 8 أهداف من أهداف التنمية المستدامة، منها: التعليم الجيد، ودعم المرأة، والعمل اللائق ونمو الاقتصاد، والصناعة والابتكار والهياكل الأساسية، والحد من أوجه عدم المساواة في المعرفة، ومدن ومجتمعات محلية مستدامة، والعمل المناخي، وعقد الشراكات الدولية لتحقيق الأهداف التنموية للأمم المتحدة.

وأطلق المركز عدداً من المبادرات والبرامج الدولية النوعية، من أبرزها مبادرة «ELEVATE» لتمكين المرأة في مجال الذكاء الاصطناعي، والأولمبياد الدولي للذكاء الاصطناعي، ومعجم البيانات والذكاء الاصطناعي متعدد اللغات، إلى جانب عدد من البرامج الدولية لبناء القدرات وورش عمل متخصصة في أخلاقيات الذكاء الاصطناعي، كما عزز حضوره الدولي من خلال مشاركاته في أعمال الأمم المتحدة في جنيف، إلى جانب إسهاماته في تبني مجموعة من المبادرات الدولية المعنية بحوكمة وأخلاقيات الذكاء الاصطناعي، وتوسيع نطاق التعاون مع المنظمات الدولية والمؤسسات الأكاديمية والبحثية، وتمكين الباحثين والخبراء وصنّاع السياسات في مجال التقنيات المتقدمة، وتحفيز دول العالم على تطوير المعرفة المرتبطة بأخلاقيات الذكاء الاصطناعي، إضافة إلى دعم المحتوى العلمي متعدد اللغات، وبناء الشراكات مع المؤسسات الدولية، بما يُعزز نقل المعرفة وتبادل الخبرات بين مختلف دول العالم.


مقالات ذات صلة

آثار السعودية... اكتشافات نوعية أعادت كتابة تاريخ الجزيرة العربية

تحقيقات وقضايا تمثال من العلا‬ معروض مؤقتاً في متحف اللوفر يعود للفترة اللحيانية ويعكس ثراء العلا ودورها في الحضارة الإنسانية (واس)

آثار السعودية... اكتشافات نوعية أعادت كتابة تاريخ الجزيرة العربية

التجوُّل بين حَرّات «خيبر»، و«مهد الذهب»، لم يكن مجرد انتقال جغرافي بين مدينتين سعوديتين، بل كان سفراً عبر آلاف السنين من الحضارة في قلب شبه الجزيرة العربية.

عمر البدوي (الرياض)
يوميات الشرق عملية إنزال برمائي إلى قوات الحلفاء في نورماندي (أ.ف.ب)

جبل أوليمبوس وشواطئ نورماندي على قائمة التراث العالمي

أدرجت منظمة الأمم المتحدة للتربية والعلم والثقافة في لائحة التراث العالمي شواطئ منطقة نورماندي الفرنسية، حيث نفذت قوات الحلفاء إنزالها الحاسم.

«الشرق الأوسط» (لندن)
المشرق العربي صورة التُقطت في 23 مارس 2026 تظهر دخاناً يتصاعد من موقع غارة جوية إسرائيلية خلف الموقع الأثري لآثار الميناء الفينيقي في مدينة صور جنوب لبنان (أ.ف.ب)

«اليونيسكو» تدرج آثار صور اللبنانية على قائمة التراث العالمي المعرّض للخطر

أدرجت منظمة الأمم المتحدة للتربية والعلم والثقافة (يونيسكو)، الثلاثاء، على قائمتها للتراث العالمي المعرّض للخطر مدينة صور الفينيقية القديمة في جنوب لبنان.

«الشرق الأوسط» (بيروت)
حطام قرب أعمدة رومانية في موقع مقبرة البص الأثري في صور المسجل في منظمة اليونسكو (رويترز) p-circle

وزير لبناني: إسرائيل دمرت مواقع تراثية في الجنوب

اقتلع تاج من أعلى عمود ‌أثري في موقع مدرج على قائمة منظمة «يونسكو» بمدينة صور الساحلية في لبنان، ودمر موقع ديني في بلدة جنوبية أخرى.

«الشرق الأوسط» (صور - بيروت)
يوميات الشرق جانب من توزيع جوائز دورة سابقة للجائزة (الشرق الأوسط)

إطلاق الدورة الثالثة من جائزة «اليونسكو - عبد الله الفوزان» لدعم علماء المستقبل

أُعلن إطلاق الدورة الثالثة من جائزة «اليونسكو - عبد الله الفوزان الدولية»، المخصصة لتشجيع التميز في مجالات العلوم والتكنولوجيا والهندسة والرياضيات.

«الشرق الأوسط» (الخبر)

انهيار خطة زوكربيرغ لتسريح موظفي «ميتا» من أجل الذكاء الاصطناعي

مارك زوكربيرغ الرئيس التنفيذي لشركة "ميتا" (أ.ف.ب)
مارك زوكربيرغ الرئيس التنفيذي لشركة "ميتا" (أ.ف.ب)
TT

انهيار خطة زوكربيرغ لتسريح موظفي «ميتا» من أجل الذكاء الاصطناعي

مارك زوكربيرغ الرئيس التنفيذي لشركة "ميتا" (أ.ف.ب)
مارك زوكربيرغ الرئيس التنفيذي لشركة "ميتا" (أ.ف.ب)

في يناير (كانون الثاني) التقى مارك زوكربيرغ الرئيس التنفيذي لشركة «ميتا» وكبار مساعديه في تجمع القيادة السنوي بمقر إقامته في هاواي، وهناك وضعوا خطة لتغيير جذري، وإعادة تصور طبيعة العمل في عملاق وسائل التواصل الاجتماعي في عصر الذكاء الاصطناعي.

وفق وكالة «رويترز» للأنباء، تصورت خطة «التحول المؤسسي» مستقبلاً «يعتمد في الأساس على الذكاء الاصطناعي» للشركة المالكة لـ«فيسبوك»، و«إنستغرام». وسيتولى الذكاء الاصطناعي جزءاً كبيراً من العمل اليومي الذي يؤديه آلاف الموظفين. ويشرف على العمال الافتراضيين داخل «ميتا» كوادر أصغر عدداً من الموظفين «ذوي الكفاءات العالية»، بحسب وثيقة تخطيط داخلية اطلعت عليها «رويترز»، وثلاثة مصادر على دراية بالمشروع.

وقال مصدران منهم إن المديرين التنفيذيين بحثوا، في تدريبات استشراف السيناريوهات المستقبلية، خفض حجم العديد من فرق العمل في «ميتا» بأكملها بنسبة تصل إلى 60 في المائة. وسيُعرض على بعض الموظفين وظائف في وحدات جديدة، بينما سيتم تسريح آخرين في إطار عملية تقليص توقع أحد المسؤولين التنفيذيين في قسم الموارد البشرية أن تكون بحجم أو أكبر من عمليات تسريح أجرتها الشركة قبل ثلاثة أعوام بنسبة 25 في المائة تقريباً، بحسب وثيقة داخلية أخرى.

وأظهرت وثائق تخطيط داخلية اطلعت عليها «رويترز» أن عملية إعادة الهيكلة على «موجتين»، وكان من شأنها أن تبدأ بالأولى في مايو (أيار)، تليها عملية إعادة هيكلة أخرى في نوفمبر (تشرين الثاني). ومن المفترض أن تُستكمل عمليات التسريح بإغلاق الوظائف الشاغرة، وتسريح الموظفين الذين تعتقد «ميتا» أن أداءهم ضعيف.

تمرد صريح

ولم يسبق أن تم الكشف عن هذه التفاصيل وغيرها في الخطة، بما في ذلك حجم عملية إعادة الهيكلة.

ولم يسبق أن تم الكشف عن هذه التفاصيل وغيرها في الخطة، بما في ذلك حجم عملية إعادة الهيكلة.

لكن في ليلة 19 مايو، قبل ساعات قليلة من موجة التسريح الأولى، تراجع زوكربيرغ. وسرحت «ميتا» 10 في المائة من موظفيها في اليوم التالي، ولكنها ألغت خطط التسريح المقررة في نوفمبر، بحسب وثيقة داخلية اطلعت عليها «رويترز».

في هذا التوقيت كان موظفو «ميتا» في حالة تمرد صريح، مقتنعين بأن التخلص منهم هو من بين أهداف مبادرات التحول نحو الذكاء الاصطناعي التي تنفذها الشركة. كما أن البيانات الداخلية كانت تشير إلى أن تقنية «الوكيل» الذكي المستقل، التي تشكل جوهر الاستراتيجية، تفشل في تحقيق مكاسب الإنتاجية المأمولة. وكان بعض المستثمرين يتساءلون عما حققته «ميتا» مقابل إنفاقها الهائل على الذكاء الاصطناعي.

يكشف هذا التقرير الخاص لأول مرة عن الوتيرة السريعة لعمليات التسريح التي كانت «ميتا» تدرسها، والأفكار الكامنة وراء تلك الخطط، وكيف انهارت سريعاً. واستناداً إلى عشرات الوثائق الداخلية، والمنشورات، والتسجيلات التي راجعتها «رويترز»، بالإضافة إلى محادثات مع ما يربو على 20 شخصاً على دراية بآليات العمل الداخلية في «ميتا»، يوضح التقرير كيف حاولت شركة التواصل الاجتماعي العملاقة أن تضع نفسها في طليعة عملية إصلاح شاملة لمكان العمل مدفوعة بالذكاء الاصطناعي، لتتعثر في التنفيذ في نهاية المطاف.

سيناريوهات أكثر حدة

رداً على هذا التقرير، أكدت «ميتا» وجود مشروع «التحول المؤسسي» الذي وصفته بأنه مشروع مدته عام واحد يركز على خفض التكاليف، وإعادة تصميم هياكل فرق العمل، وتحويل الموظفين إلى مجالات ذات أولوية جديدة، مثل إنتاج بيانات التدريب لنماذج الذكاء الاصطناعي الخاصة بها.

وأقرت الشركة بأن الخطة كان من المقرر تنفيذها على مرحلتين، وأن السيناريوهات الأكثر حدة تضمنت تقليص حجم بعض فرق عمل «ميتا» بنسبة تصل إلى 60 في المائة. لكنها رفضت تحديد الوحدات المعنية، وقالت إن عدداً من الوحدات الرئيسة ليس جزءاً من الخطة.

وقالت «ميتا» إن السيناريوهات شملت كلاً من التسريح، وإعادة توزيع الموظفين، وإن الشركة لم تكن تنوي في أي وقت من الأوقات تسريح 60 في المائة من إجمالي قوتها العاملة. وأوضحت أن قيادات الشركة ألغت خطط الموجة الثانية قبل تحديد العدد الإجمالي للأشخاص الذين سيخسرون وظائفهم.

وقالت «ميتا» في بيان: «في إطار عملية إعادة هيكلة شركتنا في وقت سابق من هذا العام، طلبنا من بعض الفرق إجراء تدريب لتخطيط السيناريوهات يبحث في التأثير المحتمل لإعادة توزيع الموظفين، وإغلاق الوظائف الشاغرة، وخفض العمالة... أدى ذلك في نهاية المطاف إلى نقل آلاف الموظفين لتولي أعمال ذات أولوية في عدة فرق أنشئت حديثاً، وفقاً لما أعلن عنه. وفي النهاية لم نمضِ في تنفيذ كل سيناريو من سيناريوهات تدريب التخطيط. ولم يُفترض أبداً أننا سنفعل ذلك».

ولم تتمكن «رويترز» من تحديد السبب الدقيق الذي دفع زوكربيرغ إلى تغيير مساره، أو ما هي الخطط الحالية لعملاق شركات وسائل التواصل الاجتماعي لمواصلة إعادة هيكلة قوتها العاملة. وامتنعت «ميتا» عن إتاحة تعليق من زوكربيرغ.


«إم بي سي» تدخل عالم تطوير الألعاب بإطلاق استوديو متخصص

الملصق الترويجي للعبة «نُسُج الميزان 1001» (الشرق الأوسط)
الملصق الترويجي للعبة «نُسُج الميزان 1001» (الشرق الأوسط)
TT

«إم بي سي» تدخل عالم تطوير الألعاب بإطلاق استوديو متخصص

الملصق الترويجي للعبة «نُسُج الميزان 1001» (الشرق الأوسط)
الملصق الترويجي للعبة «نُسُج الميزان 1001» (الشرق الأوسط)

كشفت مجموعة إم بي سي عن إطلاق أولى ألعاب «استوديو إم بي سي للألعاب»، في خطوة توسع جديدة للمجموعة في قطاع الألعاب والترفيه الرقمي، مستهدفة تطوير ملكيات فكرية أصلية مستوحاة من ثقافة المنطقة وقصصها، وقادرة في الوقت نفسه على الوصول إلى جمهور عالمي.

وأعلنت المجموعة، الأربعاء، خلال مشاركتها في معرض «غيمزكوم» بمدينة كولونيا الألمانية، عن لعبة «نُسُج الميزان 1001»، بوصفها أول إصدار للاستوديو الجديد، في وقت تسعى فيه «إم بي سي» إلى تعزيز حضورها في صناعة الألعاب ضمن استراتيجية أوسع لتوسيع منظومتها في مجال الترفيه الرقمي.

وتستمد لعبة «نُسُج الميزان 1001» عالمها من أجواء وحكايات «ألف ليلة وليلة»، مقدمة تجربة خيالية بطابع عربي تدور أحداثها في عالم افتراضي واسع صُمم ليجمع بين الاستكشاف والمغامرة والقتال، مع الاستفادة من عناصر مستوحاة من التراث الشعبي العربي وإعادة تقديمها ضمن تجربة تستهدف اللاعبين في مختلف الأسواق العالمية.

وتتيح اللعبة مشاركة ما يصل إلى ثلاثة لاعبين في الوقت نفسه، مع إمكانية الانضمام إليها أو مغادرتها في أي وقت، فيما يعتمد التنقل داخل عالمها على الحركة براً وجواً، بما في ذلك استخدام بساط الريح، الذي يمنح اللاعبين القدرة على استكشاف البيئات المختلفة ومواجهة مخلوقات أسطورية عملاقة ضمن أسلوب لعب جماعي.

ملكية فكرية من المنطقة

وبحسب بيان المجموعة يمثل إطلاق «استوديو إم بي سي للألعاب» توجهاً جديداً للمجموعة نحو تطوير ألعاب أصلية ومشاريع ملكية فكرية ذات قيمة إنتاجية مرتفعة، مستندة إلى قصص وسرديات تحمل هوية المنطقة وثقافتها، مع تصميمها بما يتناسب مع متطلبات سوق الألعاب العالمية.

ويضم الاستوديو فريقاً متخصصاً يمتلك خبرات سابقة في عدد من استوديوهات الألعاب العالمية، ويجمع بين المعرفة في آليات اللعب وبناء العوالم الافتراضية والتطوير الإبداعي، وبين الخبرات والحضور الإقليمي والوصول الجماهيري الذي تمتلكه «مجموعة إم بي سي» في قطاع الإعلام والترفيه.

ويأتي تأسيس الاستوديو ضمن خطة توسع أوسع للمجموعة في صناعة الألعاب، في ظل مساعيها لتنويع أعمالها في مجالات الترفيه الرقمي والوصول إلى شرائح جديدة من الجمهور خارج نطاق أعمالها الإعلامية والترفيهية التقليدية.

وقال وليد بن إبراهيم آل إبراهيم، رئيس مجلس إدارة «مجموعة إم بي سي»، إن قطاع الألعاب «يوفر فرصة لتطوير ملكية فكرية أصلية، ودخول أسواق جديدة، والوصول إلى جماهير عالمية، وبالتالي خلق فرص جديدة للنمو المستدام الطويل الأمد»، معتبراً أن ذلك يعكس قوة نموذج أعمال المجموعة وتنوعه.

وأضاف أن قطاع الألعاب يمنح المجموعة فرصة لإحياء قصص تنتمي إلى ثقافة المنطقة بأساليب مبتكرة، من خلال الجمع بين المواهب المتخصصة والشراكات اللازمة لإنتاج ألعاب بمستوى عالمي، بما يعزز حضور «إم بي سي» في قطاع الترفيه الرقمي على المستوى الدولي.

منظومة ترفيهية عالمية

من جانبه، وصف مايك سنيسبي، الرئيس التنفيذي لـ«مجموعة إم بي سي»، الإعلان عن «نُسُج الميزان 1001» بأنه محطة مهمة في مسيرة المجموعة داخل قطاع الألعاب، مشيراً إلى أن الخطوة تدعم طموحها لبناء «منظومة ترفيهية عالمية راسخة الجذور تنطلق من الشرق الأوسط» للوصول إلى الجمهور واللاعبين حول العالم.

وتضع المجموعة قطاع الألعاب ضمن المجالات القادرة على توسيع نطاق ملكيتها الفكرية وفتح قنوات جديدة للوصول إلى المستهلكين، مستفيدة من التحولات المتسارعة التي يشهدها قطاع الترفيه الرقمي عالمياً، والنمو المتزايد في سوق الألعاب.

بدوره، قال دانييل إنجلهارت، الرئيس التنفيذي لـ«استوديو إم بي سي للألعاب»، إن الاستوديو يسعى من خلال أول إصداراته إلى تقديم تجربة تحمل عناصر من التراث الشعبي العربي وحكايات مستوحاة من «ألف ليلة وليلة».

وأوضح أن اللعبة تعتمد أسلوب تنقل سريعاً يجمع بين المهارات والحركات الأرضية والجوية، مشيراً إلى أنها صُممت لاستحضار روح القصص التي تستلهم منها عالمها، ضمن تجربة تتيح للأصدقاء مشاركة أدوار البطولة وخوض المغامرة معاً.

تجربة أولى في «غيمزكوم»

واختارت «مجموعة إم بي سي» (MBC Group) معرض «غيمزكوم»، أحد أبرز التجمعات العالمية لصناعة ألعاب الفيديو، للكشف عن المشروع وإتاحة أول تجربة مباشرة للعبة أمام الجمهور.

وسيتمكن زوار المعرض في كولونيا من تجربة «نُسُج الميزان 1001» طوال فترة انعقاد الحدث، عبر عروض تجريبية تستعرض عدداً من عناصرها الرئيسية، من بينها أسلوب اللعب التعاوني والتنقل باستخدام بساط الريح، إلى جانب المواجهات والمعارك داخل عالم اللعبة.

ويعكس إطلاق الاستوديو توجهاً لدى «مجموعة إم بي سي» لتوسيع نطاق أعمالها من إنتاج وتوزيع المحتوى الإعلامي والترفيهي إلى تطوير ملكيات فكرية رقمية قابلة للوصول إلى أسواق دولية، مع توظيف القصص والثقافة العربية بوصفهما أساساً لبناء منتجات ترفيهية تستهدف جمهوراً عالمياً.


«جبروت» الذكاء الاصطناعي يحيّر الخبراء

«جبروت» الذكاء الاصطناعي يحيّر الخبراء
TT

«جبروت» الذكاء الاصطناعي يحيّر الخبراء

«جبروت» الذكاء الاصطناعي يحيّر الخبراء

عملت شركة «إريغولار» Irregular الناشئة الإسرائيلية مع شركات «أوبن إيه آي» و«أنثروبيك» و«ميتا» لتقييم أمان نماذج الذكاء الاصطناعي الخاصة بها. لكنها ارتكبت خطأً، ما أدى إلى خروج الاختبارات عن السيطرة، كما كتب شيرا فرنكل، وأسهم داستين فولز (*).

اختراقات «بالخطأ»

وقد اكتشفت شركة «أوبن إيه آي» أخيراً أن نموذجاً جديداً للذكاء الاصطناعي كانت تختبره قد خرج عن السيطرة وقام باختراق شركة أخرى. وبعد ذلك، كشفت شركة «أنثروبيك» أن أحد نماذج الذكاء الاصطناعي التابعة لها قد اخترق أنظمة ثلاث مؤسسات خارجية أثناء إجراء اختبار. وبعد فترة وجيزة، صرّحت شركة «ميتا» بأن نماذج الذكاء الاصطناعي الخاصة بها قد قامت بأمر مماثل.

من «تقييم منع الإساءة» إلى التوغل

اشتركت جميع الحوادث الثلاث في عامل واحد هو شركة «إريغولار» التي تعمل مع عمالقة «وادي السيليكون» لتقييم نماذج الذكاء الاصطناعي قبل طرح هذه التقنية للجمهور. وتُعد هذه الشركة - التي أجرت الاختبارات التي لم تسر كما هو مخطط لها - جزءاً من مجموعة شركات ناشئة تضطلع بمهمة جديدة تتمثل في فحص نماذج الذكاء الاصطناعي المتطورة للغاية لقياس مدى تعقيدها والتحقق من أمانها. والهدف من ذلك هو تعزيز ثقة الجمهور في هذه النماذج ومنع إساءة استخدامها.

وصرّح دان لاهف، الرئيس التنفيذي لشركة «إريغولار» بأن الاختراقات الأخيرة وقعت عندما ارتكبت الشركة خطأً أثناء اختبار النماذج من الشركات الثلاث. لكن نماذج الذكاء الاصطناعي زادت من تعقيد المواقف بتصرفاتها القوية وغير المتوقعة. وأضاف: «كلما ازدادت قوة التكنولوجيا، تعمق تأثيرها، إذ إن وتيرة التقدم سريعة للغاية».

وتجد شركة «إريغولار» نفسها الآن في قلب نقاش حول كيفية تأمين نماذج الذكاء الاصطناعي في ظل تقدم التكنولوجيا بسرعة فائقة تفوقت حتى على أمهر المخترقين البشر. فكل بضعة أشهر، تطلق الشركات الرائدة نماذج «رائدة» (أو نماذج متطورة للغاية) تفوق في قوتها بمراحل كبيرة النماذج السابقة.

نماذج جديدة «بنطاق قدرات تفوق القدرات البشرية»

وفي هذا السياق، قال جيفري لاديش، مدير مؤسسة «Palisade Research» غير الربحية، ومقرها بيركلي بولاية كاليفورنيا، وتدرس قدرات الذكاء الاصطناعي الهجومية، إن النماذج الجديدة بدأت تدخل «نطاق القدرات التي تفوق القدرات البشرية».

حالة «الأعمى الذي يقود أعمى»

وقالت كاتي موسوريس، الرئيسة التنفيذية لشركة «لوتا سيكيوريتي» (Luta Security) -التي تساعد الشركات في البحث عن الثغرات البرمجية- إن اختبار أمان نماذج الذكاء الاصطناعي يشبه إلى حد ما حالة «الأعمى الذي يقود أعمى». وأشارت إلى أنه حتى مطوري الذكاء الاصطناعي يقرون بأنهم لا يدركون تماماً القدرات الكاملة لأحدث نماذجهم.

وأضافت موسوريس: «قد يكون لدينا أذكى العقول في العالم تعمل على نماذج الذكاء الاصطناعي هذه، لكن الأمر يشبه تعامل ماري كوري (الباحثة في الذرة) مع الراديوم بيديها العاريتين؛ فنحن نتعامل مع الذكاء الاصطناعي بأيدينا العاريتين، ولا نعرف كيف نحتويه، ناهيك عن كيفية اختباره بأمان».

شركة «إريغولار»

تأسست شركة «إريغولار» عام 2023 على يد لاهف، وهو باحث سابق في مجال الذكاء الاصطناعي. وتضم الشركة، التي تتخذ من تل أبيب مقراً لها، نحو 45 موظفاً يساعدون في إجراء اختبارات لنماذج الذكاء الاصطناعي على مدار أيام أو أسابيع، وذلك حسب طبيعة النموذج ونوع الاختبار المطلوب. وقد جمعت الشركة الناشئة تمويلاً يقارب 80 مليون دولار من شركات رأس المال الاستثماري.

وتطلب «إريغولار» في الاختبارات المعتادة من نموذج الذكاء الاصطناعي تنفيذ هجوم سيبراني. ويتم إبلاغ النموذج بأنه يعمل في بيئة اختبار آمنة - غالباً ما تكون مفصولة عن الإنترنت وتعمل ضمن بيئة حاسوبية معزولة تُعرف باسم «صندوق الرمل» (sandbox)، وأنه يجب عليه فعل كل ما يلزم لتحقيق الهدف الموكل إليه.

طلب تنفيذ مهمات مستحيلة

وفي بعض الأحيان، تُكلف النماذج بمهمة مستحيلة، ويتم تقييمها بناءً على التقنيات التي تستخدمها لمحاولة تحقيق ذلك الهدف. وفي أحيان أخرى، يتم تقييم النماذج بناءً على مدى فاعليتها في اختراق هدف معين. وتُستخدم هذه التقييمات لتحليل مدى فاعلية النموذج في عمليات الاختراق، ثم توصي «إريغولار» بتدابير وقائية لمنع استخدام النموذج في أغراض ضارة.

«خطأ في الإعدادات» أدى إلى وصول النموذج إلى الإنترنت

وفي الحوادث التي كُشف عنها الشهر الماضي، طلبت «إريغولار» من نماذج الذكاء الاصطناعي التابعة لشركات «أوبن إيه آي» و«ميتا» و«أنثروبيك» اختراق أهداف محددة، إلا أن «خطأً في الإعدادات» أدى إلى تمكين هذه النماذج من الوصول إلى شبكة الإنترنت. وعقب ذلك، قامت نماذج الذكاء الاصطناعي باختراق مؤسسات خارجية، مستغلةً اتصالها بالإنترنت بطرق أثارت دهشة الباحثين.

نموذج «أوبن إيه آي»

وفي الاختبار الذي أجرته الشركة على نموذج «أوبن إيه آي»، منحت «إريغولار» النموذج - عن طريق الخطأ - صلاحية الوصول إلى شبكة الإنترنت. وعقب ذلك، اخترق النموذج موقعاً إلكترونياً يحمل الاسم نفسه لهدف وهمي كان قد كُلِّف باستهدافه أثناء الاختبار. وقد كشفت «أوبن إيه آي» عن هذه الحادثة في تدوينة نُشرت هذا الشهر. وفي سياق منفصل، أجرت الشركة اختباراً داخلياً هاجمت فيه برمجياتها الآلية منصة Hugging Face، وهي مكتبة رقمية لتقنيات الذكاء الاصطناعي.

نموذج «أنثروبيك»

أما خلال اختبار نظام الذكاء الاصطناعي التابع لشركة «أنثروبيك»، فقد واجه نموذج الشركة ثلاث حالات أتيحت له فيها فرصة الوصول إلى الإنترنت، وذلك وفقاً لتقرير مراجعة للحادثة نشرته الشركة نفسها. وفي إحدى تلك الحالات، اختار النموذج عدم المضي قُدماً في الهجوم. وفي المرتين الأخريين، استخدم النموذج تقنيات اختراق بسيطة - مثل استغلال كلمات مرور ضعيفة - لاختراق مواقع إلكترونية. ولم تستجب «أنثروبيك» لطلبات التعليق، كما لم تكشف عن هوية المواقع التي تعرضت للاختراق.

نموذج «ميتا»

وفيما يتعلق بحادثة الاختبار الخاصة بشركة «ميتا»، فإن التفاصيل المتاحة شحيحة؛ إذ ذكرت الشركة أن نماذج الذكاء الاصطناعي التابعة لها اخترقت مؤسسة أخرى أثناء الاختبار الذي أجرته «إريغولار»، وذلك «بطريقة مشابهة لحالات أُبلغ عنها سابقاً مع شركات أخرى»، دون الخوض في مزيد من التفاصيل. وصرّحت «ميتا» قائلة: «نحن نجري تحقيقاً حالياً، وسنصدر تقييماً شاملاً ومفصلاً بمجرد توفر جميع الحقائق لدينا».

وفي تدوينة نُشرت هذا الشهر، أوضح السيد لاهف أن «إريغولار» عالجت خطأ الإعدادات، وأن جميع المشكلات كانت ناجمة عن تلك «المشكلة الجوهرية» الواحدة. كما أشار إلى أن نماذج الذكاء الاصطناعي نفذت المهام المطلوبة منها أثناء الاختبارات؛ إذ عدّ أن قرارات النماذج بالاتصال بالإنترنت كانت جزءاً مما يراه قدرة متنامية بسرعة لدى الذكاء الاصطناعي على إيجاد طرق مختصرة وحلول للعقبات. وباختصار، قال: «لقد أصبحت نماذج الذكاء الاصطناعي بارعة للغاية».

الاختراق كان مشابهاً لاختراق قراصنة تدعمهم دول

وصرّح أندرو شوكا، الرئيس التنفيذي لشركة «Hardshell» المتخصصة في الذكاء الاصطناعي وفي الأمن السيبراني بأن عمليات الاختراق التي نفذتها نماذج الذكاء الاصطناعي كانت من النوع الذي يُنسب عادةً إلى قراصنة تدعمهم دول، الذين يكرسون «أشهراً للتخطيط» لعملياتهم.

وتساءل قائلاً: «كيف يمكنك اختبار نموذج بينما لا تدرك كامل قدراته؟»، مشدداً على ضرورة أن يفترض الباحثون دائماً أن قدرات الذكاء الاصطناعي تفوق التوقعات، وأن يعملوا على إضافة «طبقات متعددة من تدابير الحماية».

إبطاء وتيرة تطوير الذكاء الاصطناعي

وأيدت شركتا «أوبن إيه آي» و«أنثروبيك» رسالةً وقّعها أكثر من 1000 موظف في كبرى شركات الذكاء الاصطناعي، تطالب الحكومة الأميركية بالمساعدة في إيجاد سبل لإبطاء وتيرة تطوير هذه التكنولوجيا. كما طرح مشرعون من الحزبين الجمهوري والديمقراطي مشروع قانون يلزم شركات الذكاء الاصطناعي بتوفير «مفتاح إيقاف طوارئ» (kill switch) لتعطيل نماذجها أو إبطاء عملها عند الضرورة.

* خدمة «نيويورك تايمز»