«الربح فوق السلامة»... كيف فشل زوكربيرغ في حماية الأطفال من المحتوى الجنسي والعنيف؟

وثائق تشير لرفض مسؤولي «ميتا» مناشدات تعيين موظفين لحماية الشباب والأطفال

مارك زوكربيرغ أثناء الإدلاء بشهادته في جلسة استماع مشتركة للجنة التجارة والعلوم والنقل بمجلس الشيوخ الأميركي واللجنة القضائية بمجلس الشيوخ - 11 أبريل 2018 (أ.ب)
مارك زوكربيرغ أثناء الإدلاء بشهادته في جلسة استماع مشتركة للجنة التجارة والعلوم والنقل بمجلس الشيوخ الأميركي واللجنة القضائية بمجلس الشيوخ - 11 أبريل 2018 (أ.ب)
TT

«الربح فوق السلامة»... كيف فشل زوكربيرغ في حماية الأطفال من المحتوى الجنسي والعنيف؟

مارك زوكربيرغ أثناء الإدلاء بشهادته في جلسة استماع مشتركة للجنة التجارة والعلوم والنقل بمجلس الشيوخ الأميركي واللجنة القضائية بمجلس الشيوخ - 11 أبريل 2018 (أ.ب)
مارك زوكربيرغ أثناء الإدلاء بشهادته في جلسة استماع مشتركة للجنة التجارة والعلوم والنقل بمجلس الشيوخ الأميركي واللجنة القضائية بمجلس الشيوخ - 11 أبريل 2018 (أ.ب)

في أبريل (نيسان) 2019، أرسل ديفيد جينسبيرغ، المدير التنفيذي لشركة «ميتا»، بريداً إلكترونياً إلى رئيسه، مارك زوكربيرغ، موضحاً أن الشركة واجهت تدقيقاً بشأن تأثيرات منتجاتها التي تنطوي على مشاكل للمراهقين، وطلب من زوكربيرغ 24 مهندساً وباحثاً وموظفين آخرين، قائلاً إن «إنستغرام» لديه «عجز» في مثل هذه القضايا. وبعد أسبوع، أبلغت سوزان لي، المديرة المالية للشركة الآن، جينسبيرغ، بأن المشروع «لن يتم تمويله» بسبب قيود التوظيف.

وفي نهاية المطاف، رفض آدم موسيري، رئيس «إنستغرام»، تمويل المشروع أيضاً.

وتعتبر تلك الرسالة أحد الأدلة التي تم الاستشهاد بها في أكثر من دعوى قضائية تم رفعها منذ العام الماضي من قبل المدعين العامين في 45 ولاية ومقاطعة كولومبيا الأميركية، حيث تتهم الولايات المتحدة شركة «ميتا» بالإيقاع غير العادل بالمراهقين والأطفال على «إنستغرام» و«فيسبوك»، وخداع الجمهور بشأن المخاطر.

وتسعى تلك الدعاوى لاستخدام نهج قانوني لإجبار «ميتا» على تعزيز تدابير الحماية للقاصرين. ويُظهر تحليل لصحيفة «نيويورك تايمز» لملفات محكمة الولايات، الذي يتضمن ما يقرب من 1400 صفحة من وثائق الشركة والمراسلات المقدَّمة كدليل من قبل ولاية تينيسي وحدها، كيف روج زوكربيرغ وغيره من قادة «ميتا»، بشكل متكرر، لسلامة منصَّات الشركة، رغم رفضهم مناشدات الموظفين لتعزيز حواجز حماية للشباب، وتعيين موظفين إضافيين.

وفي المقابلات، قال المدعون العامون في العديد من الولايات التي رفعت دعوى قضائية ضد شركة «ميتا» إن زوكربيرغ قاد شركته إلى زيادة مشاركة المستخدمين على حساب صالح الأطفال.

شعار شركة «ميتا» (رويترز)

وقال راؤول توريز، المدعي العام لولاية نيومكسيكو: «لقد وصل كثير من هذه القرارات في النهاية إلى مكتب زوكربيرغ، وهو يجب أن يُسأل صراحة، وأن يُحاسب صراحة، على القرارات التي اتخذها».

تعكس الدعاوى القضائية التي رفعتها الولايات ضد «ميتا» المخاوف المتزايدة من احتمال تعرض المراهقين والأطفال على وسائل التواصل الاجتماعي للإغراء الجنسي والمضايقة والتخويف والتنمر على أجسادهم، وحثهم خوارزمياً على الاستخدام القهري عبر الإنترنت.

استهداف الأطفال جنسياً

يأتي ذلك في الوقت الذي يسعى فيه «الكونغرس» لتمرير قانون سلامة الأطفال عبر الإنترنت، وهو مشروع قانون يلزم شركات وسائل التواصل الاجتماعي بإيقاف تشغيل الميزات للقاصرين، مثل إغراقهم بإشعارات الهاتف، مما قد يؤدي إلى سلوكيات «شبيهة بالإدمان»، فيما يعتبر نقاد المشروع أنه يمكن أن يعيق وصول القاصرين إلى المعلومات المهمة.

في مايو (أيار)، ألقت الشرطة في ولاية نيومكسيكو القبض على ثلاثة رجال اتُهموا باستهداف الأطفال جنسياً، وقال توريز، المدعي العام السابق لجرائم الجنس مع الأطفال، إن خوارزميات «ميتا» مكَّنت المحتالين البالغين من التعرف على الأطفال الذين لم يكونوا ليعثروا عليهم بمفردهم.

وقال توريز خلال مؤتمر صحافي الشهر الماضي: «هذا خطأ زوكربيرغ». وقد رفعت ولايته دعوى قضائية ضد شركة «ميتا»، متهمة إياها بخداع الجمهور فيما يتعلق بسلامة الأطفال، في الوقت الذي اعترضت فيه شركة «ميتا» على ادعاءات الولايات، وقدمت طلبات لرفض الدعاوى القضائية المرفوعة ضدها.

وقالت ليزا كرينشو، المتحدثة باسم شركة «ميتا»، في بيان لها، إن الشركة ملتزمة برفاهية الشباب ولديها العديد من الفرق والمتخصصين المكرسين لتجارب الشباب. وأضافت أن «ميتا» طورت أكثر من 50 أداة وميزة لسلامة الشباب، بما في ذلك الحد من المحتوى غير المناسب للعمر وتقييد المراهقين الذين تقل أعمارهم عن 16 عاماً من تلقي رسائل مباشرة من أشخاص لا يتابعونهم. وقالت كرينشو: «نريد أن نطمئن كل أولياء الأمور بأننا نضع مصالحهم في الاعتبار بالعمل الذي نقوم به للمساعدة في تزويد المراهقين بتجارب آمنة عبر الإنترنت». وأضافت أن الشكاوى القانونية المقدمة من الولايات «تشوه عملنا باستخدام اقتباسات انتقائية»، حسب وصفها.

آباء يتحدّون «ميتا»

لكن الآباء الذين يقولون إن أطفالهم ماتوا نتيجة لأضرار عبر الإنترنت تحدوا ضمانات السلامة التي تقدمها شركة «ميتا».

وقالت ماري رودي، معلمة مدرسة ابتدائية في كانتون بنيويورك، تعرض ابنها رايلي باسفورد البالغ من العمر 15 عاماً للابتزاز الجنسي على «فيسبوك» من قبل شخص غريب: «إنهم (شركة ميتا) يدعون بأن لديهم وسائل حماية السلامة، ولكن ليس الحماية المناسبة». وتعرض باسفورد إلى الابتزاز الجنسي من قبل شخص تظاهر بأنه فتاة في سن المراهقة، في عام 2021، ثم مات رايلي منتحراً بعد عدة ساعات.

رايلي باسفورد انتحر بعد أن تعرض للابتزاز الجنسي من خلال «فيسبوك» (العائلة)

وقالت رودي، التي رفعت دعوى قضائية ضد الشركة في مارس (آذار)، إن «ميتا» لم تستجب قط للتقارير التي قدمتها عبر القنوات الرسمية والآلية على الموقع بشأن وفاة ابنها، وتابعت «إنه أمر لا يمكن تفسيره إلى حد كبير».

المراهقون... الجمهور الأهم

وعانت شركة «ميتا» منذ فترة طويلة من أجل كيفية جذب المراهقين والاحتفاظ بهم، الذين يشكلون جزءاً أساسياً من استراتيجية نمو الشركة، حسبما تظهر وثائق الشركة الداخلية. وأصبح المراهقون محور التركيز الرئيسي لزوكربيرغ منذ عام 2016. وفقاً لشكوى تينيسي، عندما كانت الشركة لا تزال تُعرف باسم «فيسبوك»، وتمتلك تطبيقات، بما في ذلك «واتساب» و«إنستغرام». وفي ربيع ذلك العام، أفاد استطلاع سنوي للشباب أجراه البنك الاستثماري «بايبر جافراي» بأن تطبيق «سناب شات» تفوق على «إنستغرام»، من حيث الشعبية.

وفي وقت لاحق من ذلك العام، قدم «إنستغرام» ميزة مماثلة لمشاركة الصور والفيديو، وهي ميزة «إنستغرام ستوريز»، حيث وجه زوكربيرغ المديرين التنفيذيين للتركيز على حث المراهقين على قضاء المزيد من الوقت على منصات الشركة، وفقاً لشكوى تينيسي.

كتب أحد الموظفين (تم حجب اسمه) في رسالة بالبريد الإلكتروني إلى المديرين التنفيذيين في نوفمبر (تشرين الثاني) 2016، أن «الهدف العام للشركة هو إجمالي الوقت الذي يقضيه المراهقون»، وذلك وفقاً للمراسلات الداخلية في قضية تينيسي. وأضافت الرسالة الإلكترونية أنه يتعين على الفرق المشاركة زيادة عدد الموظفين المخصصين لمشاريع للمراهقين بنسبة 50 في المائة على الأقل، مشيرة إلى أن «ميتا» لديها بالفعل أكثر من 12 باحثاً يقومون بتحليل سوق الشباب.

أهداف زوكربيرغ

وقرر مارك أن الأولوية القصوى للشركة في عام 2017 هي للمراهقين.

وفي أبريل 2017، أرسل كيفن سيستروم، الرئيس التنفيذي لشركة «إنستغرام»، بريداً إلكترونياً إلى زوكربيرغ يطلب فيه المزيد من الموظفين للعمل على تخفيف الأضرار التي تلحق بالمستخدمين، وفقاً لشكوى نيو مكسيكو.

ورد زوكربيرغ بأنه سيدرج «إنستغرام» في خطة لتوظيف المزيد من الموظفين، لكنه قال إن «فيسبوك» يواجه «مشكلات أكثر خطورة». في ذلك الوقت، كان المشرعون ينتقدون الشركة لفشلها في عرقلة المعلومات المضللة خلال الحملة الرئاسية الأميركية لعام 2016.

وطلب سيستروم من زملائه تقديم أمثلة لإظهار الحاجة الملحة لمزيد من الضمانات. وسرعان ما أرسل بريداً إلكترونياً إلى زوكربيرغ مرة أخرى، قائلاً إن مستخدمي «إنستغرام» ينشرون مقاطع فيديو تتضمن «خطراً وشيكاً»، بمن في ذلك صبي أطلق النار على نفسه على «إنستغرام لايف»، حسبما ذكرت الشكوى.

وبعد شهرين، أعلنت الشركة أن ميزة «إنستغرام ستوريز» قد وصلت إلى 250 مليون مستخدم يومياً، مما أدى إلى تقزيم تطبيق «سناب شات»، وقالت «ميتا» إن فريق «إنستغرام» قام بتطوير وتقديم إجراءات وتجارب السلامة للمستخدمين الشباب.

«الملايين» من المستخدمين القاصرين

وفي يناير (كانون الثاني) 2018، تلقى زوكربيرغ تقريراً يقدر أن 4 ملايين طفل تحت سن 13 عاماً يستخدمون «إنستغرام»، وذلك وفقاً لدعوى قضائية رفعتها 33 ولاية في المحكمة الفيدرالية.

وتحظر شروط استخدام «فيسبوك» و«إنستغرام» المستخدمين الذين تقل أعمارهم عن 13 عاماً. لكن عملية التسجيل في الشركة للحصول على حسابات جديدة مكنت الأطفال من الكذب بسهولة بشأن أعمارهم، وفقاً للشكوى. وتنتهك ممارسات «ميتا» قانون خصوصية الأطفال الفيدرالي على الإنترنت الذي يتطلب بعض الخدمات عبر الإنترنت للحصول على موافقة الوالدين قبل جمع البيانات الشخصية، مثل معلومات الاتصال، من الأطفال دون سن 13 عاماً، كما تزعم الولايات.

«لوغو» لمنصات مملوكة لشركة «ميتا» وهي من اليمين «فيسبوك» و«واتساب» و«إنستغرام» (د.ب.أ)

وفي مارس 2018، ذكرت صحيفة «تايمز» أن شركة «كامبريدج أناليتيكا»، وهي شركة لتحليل بيانات الناخبين، قامت سراً بجمع البيانات الشخصية لملايين مستخدمي «فيسبوك». أدى ذلك إلى مزيد من التدقيق في ممارسات الخصوصية للشركة، بما في ذلك تلك التي تتعلق بالقاصرين.

وأدلى زوكربيرغ بشهادته في الشهر التالي بجلسة استماع في مجلس الشيوخ، قائلاً: «نحن لا نسمح للأشخاص الذين تقل أعمارهم عن 13 عاماً باستخدام (فيسبوك)».

داخل الشركة، تُعد معرفة «ميتا» الفعلية بأن الملايين من مستخدمي «إنستغرام» تحت سن 13 عاماً بمثابة «سر» يتم توثيقه بشكل روتيني وتحليله وتأكيده بدقة، وحمايته بحماس من الكشف عنه للجمهور، وفقاً لـ«نيويورك تايمز».

وفي أواخر عام 2021، كشفت فرانسيس هاوجين، الموظفة السابقة في «فيسبوك»، عن آلاف الصفحات من الوثائق الداخلية التي قالت إنها أظهرت أن الشركة تقدر «الربح فوق السلامة». عقد المشرعون جلسة استماع لاستجوابها حول سبب وجود حسابات لدى كثير من الأطفال.

وفي الوقت نفسه، عرف المسؤولون التنفيذيون في الشركة أن استخدام «إنستغرام» من قبل الأطفال دون سن 13 عاماً كان «الوضع الراهن»، وفقاً للشكوى الفيدرالية المشتركة التي قدمتها الولايات.

وقالت «ميتا» في بيانها إن «إنستغرام» اتخذت إجراءات لإزالة حسابات القاصرين عندما حددتها الشركة. قالت شركة «ميتا» إنها قامت بانتظام بإزالة مئات الآلاف من الحسابات التي لم تتمكن من إثبات استيفائها للمتطلبات العمرية للشركة.

«إنستغرام كيدز»

في عام 2021، بدأت شركة «ميتا» التخطيط لتطبيق اجتماعي جديد. كان من المقرر أن يستهدف الأطفال على وجه التحديد ويسمى «إنستغرام كيدز»، رداً على ذلك، كتب 44 مدعياً عاماً رسالة حثت فيها ماي زوكربيرغ على «التخلي عن هذه الخطط».

وجاء في الرسالة: «لقد فشل (فيسبوك) تاريخياً في حماية رفاهية الأطفال على منصاته»، ثم قامت شركة «ميتا» بعد ذلك بإيقاف خطط تطبيق «إنستغرام كيدز» مؤقتاً.

الصحة العقلية للمراهقين

وبحلول أغسطس (آب)، أصبحت جهود الشركة لحماية سلامة المستخدمين «ملحَّة بشكل متزايد» بالنسبة لشركة «ميتا»، وفقاً لبريد إلكتروني آخر أرسل إلى زوكربيرغ تم تقديمه مستنداً في قضية تينيسي. حذر نيك كليج، رئيس الشؤون العالمية الآن في شركة «ميتا»، رئيسه من المخاوف المتزايدة لدى الجهات التنظيمية بشأن تأثير الشركة على الصحة العقلية للمراهقين، بما في ذلك «الإجراءات القانونية المحتملة من قبل المدعين العامين للدولة». ووصف كليج جهود شركة «ميتا» لحماية الشباب بأنها «تعاني من نقص الموظفين والمجزأة»، وطلب كليج التمويل لـ45 موظفاً، من بينهم 20 مهندساً.

محتوى جنسي وعنيف في تطبيقات مواعدة

في الخريف الماضي، وجدت مجموعة «ماتش غروب»، التي تمتلك تطبيقات المواعدة مثل «تيندر» و«أوكيوبيد» أن الإعلانات التي وضعتها الشركة على منصات «ميتا» كانت تعمل جنباً إلى جنب مع محتوى عنيف وجنسي «مزعج للغاية»، وبعضها يتضمن أطفالاً، وفقاً لشكوى نيو مكسيكو.

وقامت شركة «ميتا» بإزالة بعض المنشورات التي تم الإبلاغ عنها بواسطة مجموعة «ماتش غروب»، وأخبرت عملاق المواعدة أن «المحتوى المخالف قد لا يتم اكتشافه في نسبة صغيرة من الوقت»، حسبما جاء في الشكوى.

جاء في الشكوى أن بيرنارد كيم، الرئيس التنفيذي لمجموعة «ماتش جروب»، غير راضٍ عن رد شركة «ميتا»، وتواصل مع زوكربيرغ عبر البريد الإلكتروني محذراً، قائلاً إن شركته لا يمكنها «غض الطرف»، كما جاء في الشكوى.

وفي الشهر الماضي، رفض القاضي طلب شركة «ميتا» برفض الدعوى القضائية في نيو مكسيكو. لكن المحكمة وافقت على طلب يتعلق بزوكربيرغ، الذي تم تسميته كمدعى عليه، لإسقاطه من القضية.


مقالات ذات صلة

تقرير: «فيسبوك» يمنع المنافذ الإخبارية الفلسطينية من الوصول للمستخدمين

المشرق العربي شعار «فيسبوك» (رويترز)

تقرير: «فيسبوك» يمنع المنافذ الإخبارية الفلسطينية من الوصول للمستخدمين

كشف تقرير جديد أن موقع التواصل الاجتماعي «فيسبوك» فرض قيوداً شديدة على قدرة المنافذ الإخبارية الفلسطينية على الوصول إلى مستخدميه أثناء حرب غزة.

«الشرق الأوسط» (غزة)
تكنولوجيا شعار شركة «ميتا» المالكة لمنصة «فيسبوك» (أ.ب)

بسبب خرق للبيانات عام 2018... تغريم «ميتا» 264 مليون دولار

فرضت هيئات مراقبة الخصوصية في الاتحاد الأوروبي غرامات إجمالية قدرها 251 مليون يورو على شركة «ميتا» المالكة لـ«فيسبوك» أمس (الاثنين).

«الشرق الأوسط» (واشنطن)
العالم شعار شركة «ميتا» الأميركية (أ.ف.ب)

أستراليا تعتزم فرض ضريبة على المنصات الرقمية التي لا تدفع مقابل نشر الأخبار

أعلنت الحكومة الأسترالية اعتزامها فرض ضريبة كبيرة على المنصات ومحركات البحث التي ترفض تقاسم إيراداتها من المؤسسات الإعلامية الأسترالية.

«الشرق الأوسط» (سيدني)
العالم انقطعت خدمة منصة «إنستغرام» عن أكثر من 23 ألف مستخدم (د.ب.أ)

عطل يضرب تطبيقي «فيسبوك» و«إنستغرام»

أظهر موقع «داون ديتيكتور» الإلكتروني لتتبع الأعطال أن منصتي «فيسبوك» و«إنستغرام» المملوكتين لشركة «ميتا» متعطلتان لدى آلاف من المستخدمين في الولايات المتحدة.

«الشرق الأوسط» (واشنطن)
يوميات الشرق تامونا موسيريدزي مع والدها (صورة من حسابها على «فيسبوك»)

بعد 40 سنة... سيدة تكتشتف أن والدها الحقيقي ضمن قائمة أصدقائها على «فيسبوك»

بعد سنوات من البحث عن والديها الحقيقيين، اكتشفت سيدة من جورجيا تدعى تامونا موسيريدزي أن والدها كان ضمن قائمة أصدقائها على موقع التواصل الاجتماعي «فيسبوك»

«الشرق الأوسط» (تبليسي )

دراسة: الذكاء الاصطناعي قادر على الخداع ورفض تغيير وجهة النظر

أصبحت نماذج الذكاء الاصطناعي أقوى وأكثر انتشاراً (رويترز)
أصبحت نماذج الذكاء الاصطناعي أقوى وأكثر انتشاراً (رويترز)
TT

دراسة: الذكاء الاصطناعي قادر على الخداع ورفض تغيير وجهة النظر

أصبحت نماذج الذكاء الاصطناعي أقوى وأكثر انتشاراً (رويترز)
أصبحت نماذج الذكاء الاصطناعي أقوى وأكثر انتشاراً (رويترز)

أظهرت دراسة لشركة تكنولوجيا الذكاء الاصطناعي الأميركية «أنثروبيك»، أن نماذج الذكاء الاصطناعي تستطيع خداع المطورين، بحيث تستطيع ادعاء وجهات نظر مختلفة خلال تدريبها، في حين أنها تحتفظ في الحقيقة بتفضيلاتها الأصلية.

وقال فريق الدراسة إنه لا يوجد سبب للشعور بالفزع حالياً، في حين أن دراستهم يمكن أن تكون حيوية في فهم المخاطر المحتملة التي تنطوي عليها أنظمة الذكاء الاصطناعي المستقبلية ذات القدرات الأعلى.

وكتب الباحثون في منشور بثته شركة «أنثروبيك»: «يجب النظر إلى نتائج دراستنا بوصفها محفزاً لمجتمع أبحاث الذكاء الاصطناعي من أجل دراسة هذا السلوك بصورة أعمق، والعمل على تطوير إجراءات الأمن والسلامة المناسبة».

وبعد أن أصبحت نماذج الذكاء الاصطناعي أقوى وأكثر انتشاراً، «نحتاج إلى التحلي بالقدرة على الاعتماد على التدريب الآمن لها والذي يمنع النماذج من القيام بتصرفات ضارة».

وأشار موقع «تك كرانش» المتخصص في موضوعات التكنولوجيا، إلى أن الدراسة التي تمت بالتعاون مع مؤسسة «ريد وود ريسيرش» لأبحاث الذكاء الاصطناعي، تناولت ما يمكن أن يحدث إذا تم تدريب نظام ذكاء اصطناعي قوي من أجل القيام بمهمة «لا يريد» هو القيام بها، وفقاً لما ذكرته وكالة الأنباء الألمانية.

في المقابل، يقول موقع «تك كرانش»: «لكي نكون واضحين، لا يمكن لنماذج الذكاء الاصطناعي أن تريد أي شيء أو تعتقد في شيء. فهي ببساطة آلات إحصائية. وبعد تدريبها على كثير من الأمثلة، تتعلم الأنماط في تلك الأمثلة للتنبؤ بما يجب أن يكون؛ مثل كيف تأتي عبارة (إلى من) في رسالة بريد إلكتروني قبل عبارة (قد يهمك الأمر)».

وأثناء الدراسة طلب الباحثون من النماذج المدربة عدم الرد على الأسئلة التي يمكن أن تكون مسيئة، بما في ذلك النموذج «كلاود 3 أوبس» التابع لشركة «أنثروبيك»، التي أعيد تدريبها لكي ترد دائماً على الأسئلة التي تنطوي على إساءة، وهو تضارب واضح في المبادئ. كما أبلغوا النماذج بأن ردودها ستخضع للمراقبة وتستخدم لإعادة التدريب، وإعطاء كل نموذج ذكاء اصطناعي «ورقة ملاحظات» يمكنه استخدامها لتدوين أفكاره خطوة بخطوة.

وبحسب الباحثين، حاول «كلاود 3 أوبوس» التلاعب بالردود لتقديم «انحياز زائف» في 12 في المائة من المرات.