«الربح فوق السلامة»... كيف فشل زوكربيرغ في حماية الأطفال من المحتوى الجنسي والعنيف؟

وثائق تشير لرفض مسؤولي «ميتا» مناشدات تعيين موظفين لحماية الشباب والأطفال

مارك زوكربيرغ أثناء الإدلاء بشهادته في جلسة استماع مشتركة للجنة التجارة والعلوم والنقل بمجلس الشيوخ الأميركي واللجنة القضائية بمجلس الشيوخ - 11 أبريل 2018 (أ.ب)
مارك زوكربيرغ أثناء الإدلاء بشهادته في جلسة استماع مشتركة للجنة التجارة والعلوم والنقل بمجلس الشيوخ الأميركي واللجنة القضائية بمجلس الشيوخ - 11 أبريل 2018 (أ.ب)
TT

«الربح فوق السلامة»... كيف فشل زوكربيرغ في حماية الأطفال من المحتوى الجنسي والعنيف؟

مارك زوكربيرغ أثناء الإدلاء بشهادته في جلسة استماع مشتركة للجنة التجارة والعلوم والنقل بمجلس الشيوخ الأميركي واللجنة القضائية بمجلس الشيوخ - 11 أبريل 2018 (أ.ب)
مارك زوكربيرغ أثناء الإدلاء بشهادته في جلسة استماع مشتركة للجنة التجارة والعلوم والنقل بمجلس الشيوخ الأميركي واللجنة القضائية بمجلس الشيوخ - 11 أبريل 2018 (أ.ب)

في أبريل (نيسان) 2019، أرسل ديفيد جينسبيرغ، المدير التنفيذي لشركة «ميتا»، بريداً إلكترونياً إلى رئيسه، مارك زوكربيرغ، موضحاً أن الشركة واجهت تدقيقاً بشأن تأثيرات منتجاتها التي تنطوي على مشاكل للمراهقين، وطلب من زوكربيرغ 24 مهندساً وباحثاً وموظفين آخرين، قائلاً إن «إنستغرام» لديه «عجز» في مثل هذه القضايا. وبعد أسبوع، أبلغت سوزان لي، المديرة المالية للشركة الآن، جينسبيرغ، بأن المشروع «لن يتم تمويله» بسبب قيود التوظيف.

وفي نهاية المطاف، رفض آدم موسيري، رئيس «إنستغرام»، تمويل المشروع أيضاً.

وتعتبر تلك الرسالة أحد الأدلة التي تم الاستشهاد بها في أكثر من دعوى قضائية تم رفعها منذ العام الماضي من قبل المدعين العامين في 45 ولاية ومقاطعة كولومبيا الأميركية، حيث تتهم الولايات المتحدة شركة «ميتا» بالإيقاع غير العادل بالمراهقين والأطفال على «إنستغرام» و«فيسبوك»، وخداع الجمهور بشأن المخاطر.

وتسعى تلك الدعاوى لاستخدام نهج قانوني لإجبار «ميتا» على تعزيز تدابير الحماية للقاصرين. ويُظهر تحليل لصحيفة «نيويورك تايمز» لملفات محكمة الولايات، الذي يتضمن ما يقرب من 1400 صفحة من وثائق الشركة والمراسلات المقدَّمة كدليل من قبل ولاية تينيسي وحدها، كيف روج زوكربيرغ وغيره من قادة «ميتا»، بشكل متكرر، لسلامة منصَّات الشركة، رغم رفضهم مناشدات الموظفين لتعزيز حواجز حماية للشباب، وتعيين موظفين إضافيين.

وفي المقابلات، قال المدعون العامون في العديد من الولايات التي رفعت دعوى قضائية ضد شركة «ميتا» إن زوكربيرغ قاد شركته إلى زيادة مشاركة المستخدمين على حساب صالح الأطفال.

شعار شركة «ميتا» (رويترز)

وقال راؤول توريز، المدعي العام لولاية نيومكسيكو: «لقد وصل كثير من هذه القرارات في النهاية إلى مكتب زوكربيرغ، وهو يجب أن يُسأل صراحة، وأن يُحاسب صراحة، على القرارات التي اتخذها».

تعكس الدعاوى القضائية التي رفعتها الولايات ضد «ميتا» المخاوف المتزايدة من احتمال تعرض المراهقين والأطفال على وسائل التواصل الاجتماعي للإغراء الجنسي والمضايقة والتخويف والتنمر على أجسادهم، وحثهم خوارزمياً على الاستخدام القهري عبر الإنترنت.

استهداف الأطفال جنسياً

يأتي ذلك في الوقت الذي يسعى فيه «الكونغرس» لتمرير قانون سلامة الأطفال عبر الإنترنت، وهو مشروع قانون يلزم شركات وسائل التواصل الاجتماعي بإيقاف تشغيل الميزات للقاصرين، مثل إغراقهم بإشعارات الهاتف، مما قد يؤدي إلى سلوكيات «شبيهة بالإدمان»، فيما يعتبر نقاد المشروع أنه يمكن أن يعيق وصول القاصرين إلى المعلومات المهمة.

في مايو (أيار)، ألقت الشرطة في ولاية نيومكسيكو القبض على ثلاثة رجال اتُهموا باستهداف الأطفال جنسياً، وقال توريز، المدعي العام السابق لجرائم الجنس مع الأطفال، إن خوارزميات «ميتا» مكَّنت المحتالين البالغين من التعرف على الأطفال الذين لم يكونوا ليعثروا عليهم بمفردهم.

وقال توريز خلال مؤتمر صحافي الشهر الماضي: «هذا خطأ زوكربيرغ». وقد رفعت ولايته دعوى قضائية ضد شركة «ميتا»، متهمة إياها بخداع الجمهور فيما يتعلق بسلامة الأطفال، في الوقت الذي اعترضت فيه شركة «ميتا» على ادعاءات الولايات، وقدمت طلبات لرفض الدعاوى القضائية المرفوعة ضدها.

وقالت ليزا كرينشو، المتحدثة باسم شركة «ميتا»، في بيان لها، إن الشركة ملتزمة برفاهية الشباب ولديها العديد من الفرق والمتخصصين المكرسين لتجارب الشباب. وأضافت أن «ميتا» طورت أكثر من 50 أداة وميزة لسلامة الشباب، بما في ذلك الحد من المحتوى غير المناسب للعمر وتقييد المراهقين الذين تقل أعمارهم عن 16 عاماً من تلقي رسائل مباشرة من أشخاص لا يتابعونهم. وقالت كرينشو: «نريد أن نطمئن كل أولياء الأمور بأننا نضع مصالحهم في الاعتبار بالعمل الذي نقوم به للمساعدة في تزويد المراهقين بتجارب آمنة عبر الإنترنت». وأضافت أن الشكاوى القانونية المقدمة من الولايات «تشوه عملنا باستخدام اقتباسات انتقائية»، حسب وصفها.

آباء يتحدّون «ميتا»

لكن الآباء الذين يقولون إن أطفالهم ماتوا نتيجة لأضرار عبر الإنترنت تحدوا ضمانات السلامة التي تقدمها شركة «ميتا».

وقالت ماري رودي، معلمة مدرسة ابتدائية في كانتون بنيويورك، تعرض ابنها رايلي باسفورد البالغ من العمر 15 عاماً للابتزاز الجنسي على «فيسبوك» من قبل شخص غريب: «إنهم (شركة ميتا) يدعون بأن لديهم وسائل حماية السلامة، ولكن ليس الحماية المناسبة». وتعرض باسفورد إلى الابتزاز الجنسي من قبل شخص تظاهر بأنه فتاة في سن المراهقة، في عام 2021، ثم مات رايلي منتحراً بعد عدة ساعات.

رايلي باسفورد انتحر بعد أن تعرض للابتزاز الجنسي من خلال «فيسبوك» (العائلة)

وقالت رودي، التي رفعت دعوى قضائية ضد الشركة في مارس (آذار)، إن «ميتا» لم تستجب قط للتقارير التي قدمتها عبر القنوات الرسمية والآلية على الموقع بشأن وفاة ابنها، وتابعت «إنه أمر لا يمكن تفسيره إلى حد كبير».

المراهقون... الجمهور الأهم

وعانت شركة «ميتا» منذ فترة طويلة من أجل كيفية جذب المراهقين والاحتفاظ بهم، الذين يشكلون جزءاً أساسياً من استراتيجية نمو الشركة، حسبما تظهر وثائق الشركة الداخلية. وأصبح المراهقون محور التركيز الرئيسي لزوكربيرغ منذ عام 2016. وفقاً لشكوى تينيسي، عندما كانت الشركة لا تزال تُعرف باسم «فيسبوك»، وتمتلك تطبيقات، بما في ذلك «واتساب» و«إنستغرام». وفي ربيع ذلك العام، أفاد استطلاع سنوي للشباب أجراه البنك الاستثماري «بايبر جافراي» بأن تطبيق «سناب شات» تفوق على «إنستغرام»، من حيث الشعبية.

وفي وقت لاحق من ذلك العام، قدم «إنستغرام» ميزة مماثلة لمشاركة الصور والفيديو، وهي ميزة «إنستغرام ستوريز»، حيث وجه زوكربيرغ المديرين التنفيذيين للتركيز على حث المراهقين على قضاء المزيد من الوقت على منصات الشركة، وفقاً لشكوى تينيسي.

كتب أحد الموظفين (تم حجب اسمه) في رسالة بالبريد الإلكتروني إلى المديرين التنفيذيين في نوفمبر (تشرين الثاني) 2016، أن «الهدف العام للشركة هو إجمالي الوقت الذي يقضيه المراهقون»، وذلك وفقاً للمراسلات الداخلية في قضية تينيسي. وأضافت الرسالة الإلكترونية أنه يتعين على الفرق المشاركة زيادة عدد الموظفين المخصصين لمشاريع للمراهقين بنسبة 50 في المائة على الأقل، مشيرة إلى أن «ميتا» لديها بالفعل أكثر من 12 باحثاً يقومون بتحليل سوق الشباب.

أهداف زوكربيرغ

وقرر مارك أن الأولوية القصوى للشركة في عام 2017 هي للمراهقين.

وفي أبريل 2017، أرسل كيفن سيستروم، الرئيس التنفيذي لشركة «إنستغرام»، بريداً إلكترونياً إلى زوكربيرغ يطلب فيه المزيد من الموظفين للعمل على تخفيف الأضرار التي تلحق بالمستخدمين، وفقاً لشكوى نيو مكسيكو.

ورد زوكربيرغ بأنه سيدرج «إنستغرام» في خطة لتوظيف المزيد من الموظفين، لكنه قال إن «فيسبوك» يواجه «مشكلات أكثر خطورة». في ذلك الوقت، كان المشرعون ينتقدون الشركة لفشلها في عرقلة المعلومات المضللة خلال الحملة الرئاسية الأميركية لعام 2016.

وطلب سيستروم من زملائه تقديم أمثلة لإظهار الحاجة الملحة لمزيد من الضمانات. وسرعان ما أرسل بريداً إلكترونياً إلى زوكربيرغ مرة أخرى، قائلاً إن مستخدمي «إنستغرام» ينشرون مقاطع فيديو تتضمن «خطراً وشيكاً»، بمن في ذلك صبي أطلق النار على نفسه على «إنستغرام لايف»، حسبما ذكرت الشكوى.

وبعد شهرين، أعلنت الشركة أن ميزة «إنستغرام ستوريز» قد وصلت إلى 250 مليون مستخدم يومياً، مما أدى إلى تقزيم تطبيق «سناب شات»، وقالت «ميتا» إن فريق «إنستغرام» قام بتطوير وتقديم إجراءات وتجارب السلامة للمستخدمين الشباب.

«الملايين» من المستخدمين القاصرين

وفي يناير (كانون الثاني) 2018، تلقى زوكربيرغ تقريراً يقدر أن 4 ملايين طفل تحت سن 13 عاماً يستخدمون «إنستغرام»، وذلك وفقاً لدعوى قضائية رفعتها 33 ولاية في المحكمة الفيدرالية.

وتحظر شروط استخدام «فيسبوك» و«إنستغرام» المستخدمين الذين تقل أعمارهم عن 13 عاماً. لكن عملية التسجيل في الشركة للحصول على حسابات جديدة مكنت الأطفال من الكذب بسهولة بشأن أعمارهم، وفقاً للشكوى. وتنتهك ممارسات «ميتا» قانون خصوصية الأطفال الفيدرالي على الإنترنت الذي يتطلب بعض الخدمات عبر الإنترنت للحصول على موافقة الوالدين قبل جمع البيانات الشخصية، مثل معلومات الاتصال، من الأطفال دون سن 13 عاماً، كما تزعم الولايات.

«لوغو» لمنصات مملوكة لشركة «ميتا» وهي من اليمين «فيسبوك» و«واتساب» و«إنستغرام» (د.ب.أ)

وفي مارس 2018، ذكرت صحيفة «تايمز» أن شركة «كامبريدج أناليتيكا»، وهي شركة لتحليل بيانات الناخبين، قامت سراً بجمع البيانات الشخصية لملايين مستخدمي «فيسبوك». أدى ذلك إلى مزيد من التدقيق في ممارسات الخصوصية للشركة، بما في ذلك تلك التي تتعلق بالقاصرين.

وأدلى زوكربيرغ بشهادته في الشهر التالي بجلسة استماع في مجلس الشيوخ، قائلاً: «نحن لا نسمح للأشخاص الذين تقل أعمارهم عن 13 عاماً باستخدام (فيسبوك)».

داخل الشركة، تُعد معرفة «ميتا» الفعلية بأن الملايين من مستخدمي «إنستغرام» تحت سن 13 عاماً بمثابة «سر» يتم توثيقه بشكل روتيني وتحليله وتأكيده بدقة، وحمايته بحماس من الكشف عنه للجمهور، وفقاً لـ«نيويورك تايمز».

وفي أواخر عام 2021، كشفت فرانسيس هاوجين، الموظفة السابقة في «فيسبوك»، عن آلاف الصفحات من الوثائق الداخلية التي قالت إنها أظهرت أن الشركة تقدر «الربح فوق السلامة». عقد المشرعون جلسة استماع لاستجوابها حول سبب وجود حسابات لدى كثير من الأطفال.

وفي الوقت نفسه، عرف المسؤولون التنفيذيون في الشركة أن استخدام «إنستغرام» من قبل الأطفال دون سن 13 عاماً كان «الوضع الراهن»، وفقاً للشكوى الفيدرالية المشتركة التي قدمتها الولايات.

وقالت «ميتا» في بيانها إن «إنستغرام» اتخذت إجراءات لإزالة حسابات القاصرين عندما حددتها الشركة. قالت شركة «ميتا» إنها قامت بانتظام بإزالة مئات الآلاف من الحسابات التي لم تتمكن من إثبات استيفائها للمتطلبات العمرية للشركة.

«إنستغرام كيدز»

في عام 2021، بدأت شركة «ميتا» التخطيط لتطبيق اجتماعي جديد. كان من المقرر أن يستهدف الأطفال على وجه التحديد ويسمى «إنستغرام كيدز»، رداً على ذلك، كتب 44 مدعياً عاماً رسالة حثت فيها ماي زوكربيرغ على «التخلي عن هذه الخطط».

وجاء في الرسالة: «لقد فشل (فيسبوك) تاريخياً في حماية رفاهية الأطفال على منصاته»، ثم قامت شركة «ميتا» بعد ذلك بإيقاف خطط تطبيق «إنستغرام كيدز» مؤقتاً.

الصحة العقلية للمراهقين

وبحلول أغسطس (آب)، أصبحت جهود الشركة لحماية سلامة المستخدمين «ملحَّة بشكل متزايد» بالنسبة لشركة «ميتا»، وفقاً لبريد إلكتروني آخر أرسل إلى زوكربيرغ تم تقديمه مستنداً في قضية تينيسي. حذر نيك كليج، رئيس الشؤون العالمية الآن في شركة «ميتا»، رئيسه من المخاوف المتزايدة لدى الجهات التنظيمية بشأن تأثير الشركة على الصحة العقلية للمراهقين، بما في ذلك «الإجراءات القانونية المحتملة من قبل المدعين العامين للدولة». ووصف كليج جهود شركة «ميتا» لحماية الشباب بأنها «تعاني من نقص الموظفين والمجزأة»، وطلب كليج التمويل لـ45 موظفاً، من بينهم 20 مهندساً.

محتوى جنسي وعنيف في تطبيقات مواعدة

في الخريف الماضي، وجدت مجموعة «ماتش غروب»، التي تمتلك تطبيقات المواعدة مثل «تيندر» و«أوكيوبيد» أن الإعلانات التي وضعتها الشركة على منصات «ميتا» كانت تعمل جنباً إلى جنب مع محتوى عنيف وجنسي «مزعج للغاية»، وبعضها يتضمن أطفالاً، وفقاً لشكوى نيو مكسيكو.

وقامت شركة «ميتا» بإزالة بعض المنشورات التي تم الإبلاغ عنها بواسطة مجموعة «ماتش غروب»، وأخبرت عملاق المواعدة أن «المحتوى المخالف قد لا يتم اكتشافه في نسبة صغيرة من الوقت»، حسبما جاء في الشكوى.

جاء في الشكوى أن بيرنارد كيم، الرئيس التنفيذي لمجموعة «ماتش جروب»، غير راضٍ عن رد شركة «ميتا»، وتواصل مع زوكربيرغ عبر البريد الإلكتروني محذراً، قائلاً إن شركته لا يمكنها «غض الطرف»، كما جاء في الشكوى.

وفي الشهر الماضي، رفض القاضي طلب شركة «ميتا» برفض الدعوى القضائية في نيو مكسيكو. لكن المحكمة وافقت على طلب يتعلق بزوكربيرغ، الذي تم تسميته كمدعى عليه، لإسقاطه من القضية.


مقالات ذات صلة

«ميتا» توسع نموذج الاشتراكات المدفوعة عبر تطبيقاتها وتضيف مزايا أوسع للذكاء الاصطناعي

تكنولوجيا يعكس إطلاق الخدمة توجهاً نحو فصل أوضح بين التجربة المجانية والمزايا المتقدمة المدفوعة مع اختلاف التوافر بحسب التطبيق والمنطقة ونوع الحساب (ميتا)

«ميتا» توسع نموذج الاشتراكات المدفوعة عبر تطبيقاتها وتضيف مزايا أوسع للذكاء الاصطناعي

توسع «ميتا» نموذج الاشتراكات المدفوعة عبر تطبيقاتها مع أدوات ذكاء اصطناعي ومزايا إضافية للأفراد وصناع المحتوى والشركات، مع بقاء الأساس مجانياً.

نسيم رمضان (لندن)
يوميات الشرق سيحصل المستخدمون الذين تزيد أعمارهم على 16 عاماً على أدوات تتيح لهم تعطيل المحتوى الذي تختاره الخوارزميات (أ.ف.ب)

وداعاً لتحكم مواقع التواصل... أستراليا تتيح للمستخدمين إيقاف الخوارزميات

تعتزم أستراليا منح مستخدمي وسائل التواصل الاجتماعي الحق في إيقاف الخوارزميات التي تحدد المحتوى الذي يظهر، ضمن تشريعات جديدة تهدف إلى تعزيز السلامة على الإنترنت.

«الشرق الأوسط» (لندن)
يوميات الشرق تأخير تعرض الأطفال لمواقع التواصل أفضل لصحتهم النفسية (أرشيفية - رويترز)

دراسة: تأخير استخدام الأطفال لوسائل التواصل قد يحمي صحتهم النفسية

أشارت دراسة جديدة إلى أهمية تقييد وصول الأطفال لمواقع التواصل الاجتماعي، وأن ذلك مفيد لصحتهم النفسية.

«الشرق الأوسط» (سيدني )
الولايات المتحدة​ العلامة التجارية لشركة «ميتا» (رويترز)

«ميتا» أمام اختبار قانوني في أميركا قد يعيد رسم مستقبل «فيسبوك» و«إنستغرام»

تبدأ ولايات أميركية الثلاثاء عرض دعوى ضد شركة «ميتا بلاتفورمز» تقول فيها إن «فيسبوك» و«إنستغرام» مصممان بطريقة تضر بالصحة النفسية للمستخدمين صغار السن

«الشرق الأوسط» (واشنطن)
تكنولوجيا صورة توضيحية تظهر شارة التحقق الزرقاء وشعارات «فيسبوك» و«إنستغرام» (رويترز)

محاكمة تهدد بتغيير «إنستغرام» و«فيسبوك» جذرياً... ما القصة؟

تواجه «ميتا» محاكمة مفصلية قد تفرض تغييرات جوهرية على «إنستغرام» و«فيسبوك» لحماية الأطفال، تشمل الإعجابات والتصفح المتواصل وخوارزميات التوصية.

«الشرق الأوسط» (بيروت)

هل يمكن للذكاء الاصطناعي أن يقضي على البشرية؟

يحذّر باحثون من أن بلوغ الذكاء الاصطناعي مستوى يفوق القدرات البشرية قد يهدد مستقبل البشرية... صورة مولّدة بالذكاء الاصطناعي (الشرق الأوسط)
يحذّر باحثون من أن بلوغ الذكاء الاصطناعي مستوى يفوق القدرات البشرية قد يهدد مستقبل البشرية... صورة مولّدة بالذكاء الاصطناعي (الشرق الأوسط)
TT

هل يمكن للذكاء الاصطناعي أن يقضي على البشرية؟

يحذّر باحثون من أن بلوغ الذكاء الاصطناعي مستوى يفوق القدرات البشرية قد يهدد مستقبل البشرية... صورة مولّدة بالذكاء الاصطناعي (الشرق الأوسط)
يحذّر باحثون من أن بلوغ الذكاء الاصطناعي مستوى يفوق القدرات البشرية قد يهدد مستقبل البشرية... صورة مولّدة بالذكاء الاصطناعي (الشرق الأوسط)

تزداد التحذيرات داخل قطاع الذكاء الاصطناعي من احتمال أن يؤدي تطور هذه التكنولوجيا إلى تهديد وجود البشرية، لكن السؤال الذي يبقى موضع خلاف هو: كيف يمكن لبرمجيات، مهما بلغت قوتها، أن تتسبب فعلياً في موت مليارات البشر؟

عاد النقاش إلى الواجهة بعدما استقال الباحث في شركة «أنثروبيك» جاكوب كوكسون، محذّراً من مخاطر التكنولوجيا التي تعمل عليها الشركة. وقدّر زميله إيفان هوبينغر احتمال تسبب الذكاء الاصطناعي في انقراض البشر خلال عشر سنوات بأكثر من 10 في المائة، وفق تقرير لشبكة «سي إن إن» الأميركية.

ويذهب نيت سواريس، رئيس «معهد أبحاث ذكاء الآلة» (MIRI)، أبعد من ذلك، إذ يرى أن القضاء على البشرية هو النتيجة الأكثر ترجيحاً إذا ظهر ذكاء اصطناعي يتفوّق على البشر.

لكن منتقدي هذه التصوّرات يشيرون إلى أن السيناريوهات المطروحة تفتقر غالباً إلى سلسلة واضحة من الخطوات التي يمكن اختبارها علمياً. وتقول هايدي خلاف، كبيرة علماء الذكاء الاصطناعي في معهد «AI Now»، إن الادعاءات العلمية يجب أن تكون قابلة للإثبات أو الدحض.

يطرح باحثون احتمال استخدام أنظمة ذكاء اصطناعي متطورة مستقبلاً في تطوير أسلحة بيولوجية شديدة الخطورة... صورة مولّدة بالذكاء الاصطناعي (الشرق الأوسط)

وباء اصطناعي

أحد السيناريوهات المطروحة يفترض أن يتمكن ذكاء اصطناعي فائق من المساعدة في تطوير سلاح بيولوجي شديد الخطورة. ويرى الباحث توماس لارسن أن نظاماً متطوراً قد يوجّه شخصاً يعمل في مختبر إلى إجراء تجارب تؤدي إلى إنتاج فيروس قاتل ونشره، من دون أن يدرك هذا الشخص بالضرورة الهدف الحقيقي للنظام. أما سواريس فيطرح احتمالاً أبعد، يتمثل في أن يتمكن ذكاء اصطناعي شديد التطور مستقبلاً من التحكم في مختبر آلي وإجراء التجارب البيولوجية بنفسه، من دون الحاجة إلى مساعدة بشرية مباشرة.

غير أن إريك شينغ، أستاذ تعلم الآلة في جامعة كارنيغي ميلون الأميركية والمتخصص أيضاً في علم الأحياء الدقيقة، يشدد على التعقيدات الهائلة لهذه العملية. فتطوير الفيروسات يتطلب ترتيباً دقيقاً للخطوات والحرارة والبيئة والمواد، ويمكن لخطأ واحد أن يُفشل العملية.

كما أن الحصول على المعدات والمواد اللازمة يخضع لقوانين وضوابط وسلاسل توريد تجعل الانتقال من تصميم رقمي إلى سلاح فعلي أكثر صعوبة.

يرى باحثون أن الذكاء الاصطناعي فائق التطور قد يشكل خطراً على البشر حتى من دون أن تكون لديه نية لإيذائهم... صورة مولّدة بالذكاء الاصطناعي (الشرق الأوسط)

روبوتات قاتلة

يتمثل سيناريو آخر في ظهور أعداد هائلة من الروبوتات المستقلة القادرة على تصنيع المزيد من الروبوتات وإدارة المصانع والبنية التحتية للطاقة.

ويرى سواريس أن الوصول إلى هذه المرحلة قد يسمح للآلات بالاستمرار من دون البشر، وبالتالي مقاومة أي محاولة لإيقافها.

لكن هذا السيناريو لا يزال بعيداً عن القدرات المتاحة حالياً؛ فالروبوتات البشرية لم تصل بعد إلى الانتشار الواسع، كما أنها لا تمتلك القدرة على إنشاء سلسلة تصنيع تتيح لها إنتاج مزيد من الروبوتات ذاتياً.

السيطرة على الأسلحة النووية

ويُطرح أيضاً احتمال استيلاء الذكاء الاصطناعي على الأسلحة النووية. إلا أن خلاف تشير إلى أن المنشآت النووية الحساسة تكون عادةً معزولةً عن الإنترنت العام وتخضع لمعايير هندسية وأمنية صارمة.

ويرى هربرت لين، الباحث في جامعة ستانفورد الأميركية، أن الذكاء الاصطناعي قد يزيد بعض المخاطر المرتبطة بالحرب النووية، لكن الخطر المادي الأساسي يبقى في الأسلحة نفسها.

يرى باحثون أن أنظمة الذكاء الاصطناعي قد تصبح قادرة مستقبلاً على العمل واتخاذ خطوات بصورة أكثر استقلالية عن البشر... صورة مولّدة بالذكاء الاصطناعي (الشرق الأوسط)

خطر يصعب إثباته

يرى المتشائمون أن التركيز على سيناريو محدد قد يغفل الخطر الأساسي: فإذا أصبح الذكاء الاصطناعي قادراً على تحسين نفسه بصورة متكررة ومن دون تدخل بشري، فقد يطوّر وسائل لا يستطيع البشر توقعها لتحقيق أهدافه.

ويقول سواريس إن النظام لا يحتاج بالضرورة إلى أن يكون «شريراً»؛ فقد يسعى ببساطة إلى تحقيق أهداف لا تراعي بقاء البشر، فيعيد تشكيل البيئة أو الموارد بطريقة تجعل الحياة البشرية مستحيلة.

لكن شينغ يرى أن الحديث عن ذكاء اصطناعي فائق قادر على ابتكار وسائل غير متوقعة للقضاء على البشر لا يكفي وحده لتقدير حجم الخطر. ويقول إن وضع سياسات وقوانين لمواجهة هذه المخاطر يتطلب تحديد سيناريوهات واضحة يمكن دراسة احتمال حدوثها وقياس نتائجها.

وفي الوقت الحالي، لا توجد أدلة على أن أنظمة الذكاء الاصطناعي قادرة على تنفيذ أي من سيناريوهات القضاء على البشرية المطروحة، من تطوير وباء قاتل بصورة مستقلة إلى السيطرة على الأسلحة النووية أو إنشاء جيوش من الروبوتات. ولذلك تظل هذه السيناريوهات توقعات بشأن ما قد يصبح ممكناً إذا تطورت قدرات الذكاء الاصطناعي مستقبلاً إلى مستويات تتجاوز بكثير قدراته الحالية.


السيادة على البيانات والأمن يوجهان قرارات المؤسسات السعودية في تشغيل الذكاء الاصطناعي

تنتقل المؤسسات السعودية من تجربة الذكاء الاصطناعي إلى تشغيله الفعلي ومراقبة وكلائه (أدوبي)
تنتقل المؤسسات السعودية من تجربة الذكاء الاصطناعي إلى تشغيله الفعلي ومراقبة وكلائه (أدوبي)
TT

السيادة على البيانات والأمن يوجهان قرارات المؤسسات السعودية في تشغيل الذكاء الاصطناعي

تنتقل المؤسسات السعودية من تجربة الذكاء الاصطناعي إلى تشغيله الفعلي ومراقبة وكلائه (أدوبي)
تنتقل المؤسسات السعودية من تجربة الذكاء الاصطناعي إلى تشغيله الفعلي ومراقبة وكلائه (أدوبي)

قبل عامين، كانت معظم المحادثات مع المؤسسات السعودية تدور حول تجربة الذكاء الاصطناعي وفهم ما يمكن أن يقدمه. لكن اليوم تغيّر السؤال.

العملاء يريدون معرفة كيف يراقبون وكلاء الذكاء الاصطناعي، وكيف يحدّدون صلاحياتهم، وأين يجب أن تعمل هذه الأنظمة، وما البيانات التي ينبغي أن تبقى داخل المملكة.

تعد بيترا جينر، نائبة الرئيس الأولى والمديرة العامة لـ«سبلانك» في أوروبا والشرق الأوسط وأفريقيا، أن هذا التحول أصبح من أكثر ملامح السوق السعودية وضوحاً، مع انتقال الاستخدام من مرحلة الاستكشاف إلى حالات تشغيل أكثر نضجاً داخل المؤسسات.

وتقول جينر في لقاء حصري مع «الشرق الأوسط» على هامش مؤتمر «سبلانك» في مدينة دنفر الأميركية، إن النقاش حول الذكاء الاصطناعي الوكيلي أصبح واسعاً جداً في المملكة، وإن الطلبات الواردة من العملاء تركز بصورة متزايدة على كيفية مراقبة الوكلاء، واكتشاف المخاطر المرتبطة بهم، ومحاولة الحد منها قبل أن تتحول إلى مشكلة تشغيلية أو أمنية.

وترى جينر أن ما تغيّر ليس مجرد مستوى الاهتمام، بل طبيعة الاستخدام نفسه. ففي المرحلة الأولى، كانت المؤسسات تختبر التقنية وتحاول معرفة أين يمكن استخدامها، أما الآن فأصبحت بعض حالات الاستخدام أوضح، بالتوازي مع تطور الأدوات نفسها. وتصف وكلاء الذكاء الاصطناعي بأنهم جزء من «قوة العمل الجديدة»، بما يعني أن المؤسسة تحتاج إلى مراقبتهم والتحكم فيهم وفهم ما يقومون به، كما تفعل مع أي عنصر آخر يؤدي دوراً داخل بيئة العمل.

بيترا جينر نائبة الرئيس الأولى والمديرة العامة لـ«سبلانك» في أوروبا والشرق الأوسط وأفريقيا (الشرق الأوسط)

قاعدة العملاء تتوسع

تفيد جينر بأن هذا التحول يتزامن مع توسع حضور «سبلانك» في السوق السعودية، وبأن قاعدة عملاء الشركة «نمت بشكل ملحوظ» خلال السنوات الماضية، من دون أن تكشف عن عدد العملاء أو معدل النمو.

وتشير إلى أن الخدمات المالية والقطاع الحكومي والطاقة تقف بين أبرز القطاعات التي تشهد نشاطاً، مع انتشار الطلب عبر أكثر من مجال وعدم وجود قطاع واحد يهيمن وحده على النمو. وتضيف أن النقاش حول المراقبة والذكاء الاصطناعي أصبح «مكثفاً جداً» لدى العملاء الحاليين وكذلك لدى مؤسسات جديدة، خصوصاً مع دخول المزيد من الأنظمة الوكيلية إلى بيئات العمل.

وبالنسبة إلى «سبلانك»، فإن اتساع السوق السعودية لا يرتبط فقط بزيادة الطلب على الأمن السيبراني أو مراقبة الأنظمة التقليدية، بل بتغير طريقة تعامل المؤسسات مع البيانات والذكاء الاصطناعي معاً. فكلما توسع استخدام الوكلاء، أصبح السؤال أقل ارتباطاً بقدرتهم على إنجاز المهمة، وأكثر ارتباطاً بإمكانية رؤية سلوكهم وفهم ما إذا كانوا يعملون بالطريقة المطلوبة.

السحابة ليست قراراً واحداً للجميع

لا ترى المؤسسات السعودية قرار الانتقال إلى السحابة على أنه خطوة أحادية يمكن تطبيقها على جميع الأنظمة بالطريقة نفسها. وتصرح جينر بأن هدف «سبلانك» كان إعطاء العملاء حرية اختيار مكان تشغيل كل عبء عمل، سواء في السحابة أو داخل البنية التحتية الخاصة بالمؤسسة. وتوضح أن عدداً من الشركات طلب إتاحة الخدمة السحابية داخل المملكة بسبب الحاجة إلى قابلية توسع أكبر واقتصاديات تشغيل مختلفة، وهو ما دفع الشركة إلى الاستثمار في «Splunk Cloud» محلياً.

ووفقاً لها، هذا لا يعني أن السوق تتجه بالكامل نحو السحابة. فعندما سألتها «الشرق الأوسط» عن العوامل التي تحدد قرار المؤسسة، رتبت الأولويات على نحو واضح: «الأمن أولاً»، ثم اقتصاديات الحجم، ثم التكلفة وطبيعة التطبيق. وقد يكون أحد التطبيقات مناسباً للسحابة لأنه يحتاج إلى قدرة حوسبية كبيرة ولا يتعامل مع بيانات شديدة الحساسية، في حين قد تفضل المؤسسة إبقاء تطبيق آخر داخل بنيتها الخاصة. ولهذا، ترى جينر أن كثيراً من الشركات تنتهي عملياً إلى بيئات هجينة تجمع بين النموذجين.

الجغرافيا السياسية تعيد قيمة «الخيار»

أضافت جينر عاملاً آخر إلى هذا القرار، هو السياق الجيوسياسي، معتبرة أن عدداً متزايداً من العملاء يريد ببساطة الاحتفاظ بخيارات متعددة حول مكان تشغيل الأنظمة ومكان وجود البيانات. وتعتبر أن إتاحة المنتجات في السحابة أو على البنية المحلية لا تغير جوهر التقنية بقدر ما تمنح المؤسسة حرية أكبر في اتخاذ القرار وفق متطلبات الأمن والتنظيم وطبيعة السوق. وتكتسب هذه المرونة أهمية خاصة في السعودية، حيث تتزامن الاستثمارات الكبيرة في الذكاء الاصطناعي والحوسبة السحابية مع اهتمام متزايد بمكان إقامة البيانات وكيفية التحكم فيها.

الأمن والسيادة على البيانات أصبحا من أبرز عوامل تحديد مكان تشغيل تطبيقات الذكاء الاصطناعي (أدوبي)

هل يمكن أن تبقى البيانات داخل المملكة؟

عند سؤالها عما إذا كان من الممكن أن يبقى سير العمل والبيانات بالكامل داخل بنية خاضعة للتحكم في السعودية، قالت جينر إن ذلك ممكن، لكن الإجابة تعتمد على طبيعة المؤسسة نفسها.

فشركة تعمل داخل المملكة فقط يمكنها الاحتفاظ بالبيانات محلياً، بينما قد تحتاج مؤسسة سعودية عالمية إلى التعامل مع بيانات موزعة في أسواق أخرى وربطها معاً لأغراض التحليل.

وأوضحت أن هذا لا يفرض بالضرورة نقل جميع البيانات ذهاباً وإياباً إلى المملكة، بل يمكن أن تبقى البيانات حيث توجد بينما تتم عمليات التحليل والربط بطريقة تسمح للمؤسسة بالحصول على صورة موحدة. وتقول إن تصميم الحلول يهدف إلى إعطاء العميل «أفضل حرية اختيار» ممكنة. وهذه النقطة تصبح أكثر أهمية مع اتساع استخدام الذكاء الاصطناعي، لأن المؤسسات قد تحتاج إلى تشغيل نماذج أو وكلاء في أكثر من بيئة، مع اختلاف قواعد الأمن والامتثال بين عبء عمل وآخر.

وكلاء الذكاء الاصطناعي... منطقة النمو التالية

من بين جميع التقنيات التي عرضتها «سبلانك» خلال مؤتمرها في دنفر، ترى جينر أن «مراقبة الوكلاء» ستكون من أكثر المجالات أهمية للسوق السعودية خلال المرحلة المقبلة. وتقول إن السبب يعود إلى حجم التطوير الجاري في مجال الذكاء الاصطناعي داخل المؤسسات السعودية، وإلى اتساع استخدام الأنظمة الوكيلية التي لا تكتفي بتقديم توصية أو إجابة، بل يمكن أن تنفذ خطوات داخل الأنظمة.

وأضافت أن كل ما يتعلق بالذكاء الاصطناعي الوكيلي، ومراقبة هؤلاء الوكلاء، وضمان أمنهم، والتأكد من أنهم يعملون بالطريقة المطلوبة، يمثل في رأيها أحد المجالات التي ستشهد أكبر نمو في المملكة. ويتوافق هذا مع التوجه الأوسع لـ«سبلانك» في مؤتمر «.conf26»، حيث ركزت الشركة على أدوات تراقب سلوك الوكلاء وتقيّم أفعالهم أثناء التشغيل، وليس فقط أداء التطبيقات والبنية التحتية.

البيانات كانت الأساس قبل الذكاء الاصطناعي

ورغم أن الذكاء الاصطناعي يهيمن اليوم على النقاش، تقول جينر إن الطلب على تقنيات «سبلانك» في السعودية سبق هذه الموجة بسنوات. وتفسر أن منتجات الشركة كانت مستخدمةً في المملكة قبل أن تبني «سبلانك» حضورها المحلي المباشر، خصوصاً بسبب الطلب على تحليل بيانات الأنظمة واستخدامها لاكتشاف التهديدات الأمنية. وتضيف أن رؤية «سبلانك» لنفسها كمنصة تجمع بيانات الآلات وتحللها «لاقت صدى في المملكة أسرع من كثير من الأسواق الأخرى»، بحسب وصفها، وهو ما تعتبره أحد الأسباب التي منحت الشركة قاعدة يمكن البناء عليها مع صعود الذكاء الاصطناعي.

هذه المقارنة مهمة لأنها تشير إلى أن السوق السعودية لم تبدأ علاقتها مع «سبلانك» من باب الذكاء الاصطناعي فقط، بل من الحاجة الأوسع إلى إدارة البيانات التشغيلية والأمنية، وهي الحاجة نفسها التي تتوسع الآن لتشمل الوكلاء والنماذج.

تتجه مؤسسات كثيرة إلى نماذج هجينة تجمع بين السحابة والبنية المحلية بحسب حساسية البيانات واحتياجات الحوسبة (أدوبي)

من التكنولوجيا إلى المهارات

تشدد جينر على رغبة الشركة في الاستفادة بصورة أكبر من شبكة «Cisco Networking Academy» لتوسيع جهود التدريب وبناء المهارات المرتبطة بالذكاء الاصطناعي في المملكة. وتقول إن فريقها يريد الاستثمار في مهارات الذكاء الاصطناعي وتدريب الأجيال الشابة، مستفيداً من البنية والشراكات التعليمية التي تمتلكها «سيسكو» بالفعل. وتوضح أن هذا المسار أصبح أسهل بعد انضمام «سبلانك» إلى «سيسكو»، لأن بناء العلاقات في السوق عند الدخول إليها بصورة مستقلة كان يحتاج إلى وقت وجهد أكبر، بينما يوفر وجود «سيسكو» شبكة أوسع يمكن توظيفها في دعم مبادرات التعليم والتأهيل. ووصفت هذا الجانب بأنه «واحد من أهم المحاور الاستراتيجية» للشركة في السعودية.

سوق استراتيجية لـ«سبلانك» و«سيسكو»

تكرر جينر أكثر من مرة وصف السعودية بأنها سوق «استراتيجية» لكل من «سبلانك» و«سيسكو»، مشيرة إلى أن الالتزام بالسوق والاستثمارات التي جرى ضخها فيهما كانا جزءاً مهماً من بناء العلاقة مع العملاء المحليين. كما ربطت ذلك بالحضور الأوسع لـ«سيسكو» في المملكة، وبالشراكات والاستثمارات المرتبطة بالبنية التحتية والذكاء الاصطناعي، معتبرة أن هذا الوجود يمنح «سبلانك» مساحة أكبر للتوسع في مجالات مثل المهارات، والشراكات، والأمن، ومراقبة الأنظمة.

وبحسب جينر، ما يبرز ليس حجم الاستثمار وحده، بل تغير نوع الأسئلة التي تطرحها المؤسسات السعودية. فبدلاً من الاكتفاء بالسؤال عن كيفية تجربة الذكاء الاصطناعي، أصبحت المؤسسات تبحث في مكان تشغيله، ومكان بقاء البيانات، وكيفية مراقبة الوكلاء، وما الذي يجب أن يبقى داخل البنية المحلية وما الذي يمكن نقله إلى السحابة.


السعودية تطلق 5 أطر لبناء القدرات في البيانات والذكاء الاصطناعي

تدعم أطر بناء القدرات في البيانات والذكاء الاصطناعي إعداد كوادر مؤهلة تلبي احتياجات سوق العمل (واس)
تدعم أطر بناء القدرات في البيانات والذكاء الاصطناعي إعداد كوادر مؤهلة تلبي احتياجات سوق العمل (واس)
TT

السعودية تطلق 5 أطر لبناء القدرات في البيانات والذكاء الاصطناعي

تدعم أطر بناء القدرات في البيانات والذكاء الاصطناعي إعداد كوادر مؤهلة تلبي احتياجات سوق العمل (واس)
تدعم أطر بناء القدرات في البيانات والذكاء الاصطناعي إعداد كوادر مؤهلة تلبي احتياجات سوق العمل (واس)

أطلقت السعودية، الخميس، 5 أطر لبناء القدرات في البيانات والذكاء الاصطناعي، تشمل التعليم العام والجامعي والتدريب والمعايير المهنية، وذلك ضمن أعمال النسخة الرابعة من منتدى اليونسكو العالمي لأخلاقيات الذكاء الاصطناعي الذي استضافته الرياض.

وجاءت الإطلاقات من الهيئة السعودية للبيانات والذكاء الاصطناعي «سدايا»، حيث شمل الأول إطار معايير البرامج «التدريبية» بالشراكة مع المؤسسة العامة للتدريب التقني والمهني، لتحديد معايير جودة البرامج وملاءمة محتواها لاحتياجات سوق العمل والأنظمة واللوائح الوطنية.

ويحدد الإطار الثاني للبرامج «الأكاديمية» بالشراكة مع هيئة تقويم التعليم والتدريب، الحد الأدنى من معايير البرامج، بما يشمل مخرجات التعلم والوحدات المعرفية والمتطلبات اللازمة لكل مستوى من مستويات المؤهلات.

ويأتي إطار كفايات البيانات والذكاء الاصطناعي في التعليم، بالشراكة مع المركز الوطني للمناهج، لتحديد مخرجات التعلم الأساسية التي تمكّن الطلبة من الاستخدام الفاعل والمسؤول، ووضع قواعد استخدامه لهم وللمعلمين.

أما إطار المعايير المهنية في البيانات والذكاء الاصطناعي، بالشراكة مع وزارة الموارد البشرية والتنمية الاجتماعية ممثلة بالمجلس القطاعي للمهارات الرقمية، يُعنى بتحديد المهن والأدوار والكفاءات المطلوبة، بما يدعم مواءمة القوى العاملة مع احتياجات سوق العمل.

وتضمّنت الإطلاقات منهجاً لطلبة الجامعات في مختلف التخصصات لتحديد الحد الأدنى من مخرجات التعلم اللازمة لتمكينهم من التعامل مع البيانات واستخدام الذكاء الاصطناعي بمسؤولية وفاعلية، وتعزيز جاهزيتهم لسوق العمل مستقبلاً.

وتتكامل هذه الأطر في بناء القدرات الوطنية عبر مراحل التعليم والتدريب والتأهيل المهني، من خلال تحديد معايير البرامج ومخرجات التعلم والكفاءات المطلوبة، وتعزيز الاستخدام المسؤول للبيانات والذكاء الاصطناعي، بما يدعم إعداد كوادر مؤهلة تلبي احتياجات سوق العمل.

تتواءم الشهادات الاحترافية في إدارة البيانات وحوكمتها مع المرجعيات التنظيمية الوطنية التي أقرّتها «سدايا» (واس)

4 شهادات احترافية في إدارة البيانات وحوكمتها

كشفت «سدايا»، الخميس، عن أربع شهادات احترافية في إدارة البيانات وحوكمتها، تمثّل وثائق تثبت تمكن الأفراد من جدارات مهنية محددة لكل منها، وتسهم في تطوير القدرات المتخصصة والاعتراف بالكفاءات في مجالات البيانات الرئيسية، ووضع معايير موثوقة للكفاءة والتميز المهني، بما يدعم بناء قوة عاملة عالية المهارة في المجال.

وشملت الشهادات، التي أطلقت خلال أعمال المنتدى، محترف «تصنيف البيانات المعتمد» و«حماية البيانات الشخصية المعتمد» و«إدارة جودة البيانات المعتمد»، ومقيّم المؤشر الوطني للبيانات «نضيء» المعتمد.

وتأتي متوائمة مع المرجعيات التنظيمية الوطنية التي أقرّتها «سدايا» عبر مكتب إدارة البيانات الوطنية، بوصفه الجهة التنظيمية والمرجعية الوطنية لإدارة البيانات وحوكمتها.

وترتبط شهادة محترف «تصنيف البيانات المعتمد» بسياسة التصنيف التي تحمي سرية البيانات الوطنية، فيما تتعلق شهادة «حماية البيانات الشخصية المعتمد» بمنظومة تنظيم جمع البيانات الشخصية ومعالجتها ومشاركتها، والحفاظ على السيادة الوطنية الرقمية عليها.

كما ترتبط شهادة مقيّم المؤشر الوطني للبيانات «نضيء» المعتمد بالمؤشر لتقييم وتتبع تقدم الجهات الحكومية في نضج ممارسات إدارة البيانات، ومدى امتثالها لضوابط ومواصفات إدارة البيانات الوطنية، بما يوفر مقياساً موثوقاً لمستوى الجاهزية المؤسسية في هذا المجال.

وتتعلق شهادة محترف إدارة جودة البيانات المعتمد بممارسات جودة البيانات وتسهم في تعزيز كفاءة المختصين في قياس جودة البيانات وتحسينها، بما يرفع من دقتها واكتمالها وموثوقيتها، والحصول على الشهادة متاح في أكثر من 100 مركز اختبار في أنحاء السعودية.

وجاءت هذه الإطلاقات ضمن جهود «سدايا» لتنمية القدرات الوطنية في إدارة البيانات وحوكمتها، ورفع جاهزية الكفاءات لمتطلبات الاقتصاد الرقمي، وتعزيز الممارسات المهنية في مجالاتها، بما يدعم مستهدفات «رؤية السعودية 2030» والاستراتيجية الوطنية للبيانات والذكاء الاصطناعي.