لأول مرة... اتهام أميركي بإنتاج صور انتهاك للأطفال باستخدام الذكاء الاصطناعيhttps://aawsat.com/%D8%AA%D9%83%D9%86%D9%88%D9%84%D9%88%D8%AC%D9%8A%D8%A7/5023218-%D9%84%D8%A3%D9%88%D9%84-%D9%85%D8%B1%D8%A9-%D8%A7%D8%AA%D9%87%D8%A7%D9%85-%D8%A3%D9%85%D9%8A%D8%B1%D9%83%D9%8A-%D8%A8%D8%A5%D9%86%D8%AA%D8%A7%D8%AC-%D8%B5%D9%88%D8%B1-%D8%A7%D9%86%D8%AA%D9%87%D8%A7%D9%83-%D9%84%D9%84%D8%A3%D8%B7%D9%81%D8%A7%D9%84-%D8%A8%D8%A7%D8%B3%D8%AA%D8%AE%D8%AF%D8%A7%D9%85-%D8%A7%D9%84%D8%B0%D9%83%D8%A7%D8%A1-%D8%A7%D9%84%D8%A7%D8%B5%D8%B7%D9%86%D8%A7%D8%B9%D9%8A
لأول مرة... اتهام أميركي بإنتاج صور انتهاك للأطفال باستخدام الذكاء الاصطناعي
ولَّد آلاف الصور المزيفة بأوامر من سلاسل نصيّة
لندن:«الشرق الأوسط»
TT
لندن:«الشرق الأوسط»
TT
لأول مرة... اتهام أميركي بإنتاج صور انتهاك للأطفال باستخدام الذكاء الاصطناعي
في سابقة حقوقية، اعتُقل رجل أميركي بتهمة توظيف الذكاء الاصطناعي التوليدي لإنتاج صور للاعتداءات الجنسية على الأطفال، وفقاً لتقارير من وسائل الإعلام الأميركية.
وتسلِّط هذه القضية الضوء على وسيلة قانونية لم يتم اختبارها على نطاق واسع، كان مسؤولون أميركيون ناقشوها منذ فترة طويلة، وأكدوا ضرورة التعامل مع الصور التي يخترعها الذكاء الاصطناعي بطريقة مماثلة لتسجيلات الاعتداء الجنسي على الأطفال المصورة في العالم الحقيقي.
الإنترنت ملأى بالمواد الإباحية
ويأتي اعتقال الرجل -وهو من ولاية ويسكونسن- في الوقت الذي تُغمَر فيه الإنترنت بالمواد الإباحية للأطفال التي تم إنشاؤها بواسطة الذكاء الاصطناعي.
واتهم المدعون الفيدراليون الرجل باستخدام مولِّد صور ذكاء اصطناعي شهير، لإنشاء آلاف الصور الفاضحة للأطفال، وهذا يمثل ما قد يعد أول تهمة فيدرالية بإنتاج مواد لاعتداءات جنسية على الأطفال مطبَّقة على صور تم إنتاجها بالكامل من خلال الذكاء الاصطناعي.
حقائق
13000
صورة مزيفة لقاصرين باستخدام مولِّد صور بنظم الذكاء الاصطناعي
آلاف الصور «الذكية» بأوامر نصيّة
وفي بيان بعد ظهر الاثنين الماضي، قالت وزارة العدل إنها اتهمت ستيفن أندريغ (42 عاماً)، من هولمن بولاية ويسكونسن، باستخدام مولد الصور «Stable Diffusion» العامل بنظم الذكاء الاصطناعي، لإنشاء أكثر من 13000 صورة مزيفة لقاصرين، يصور كثير منها أطفالاً عراة، كلياً أو جزئياً.
ولم تُظهر الصور أطفالاً حقيقيين؛ بل تم التقاطها بعد توليدها عن طريق كتابة سلاسل من النصوص في مولِّد الصور، ما يؤكد ما جادل به مسؤولو وزارة العدل منذ فترة طويلة: أن قانون عام 2003 الذي يحظر الصور الواقعية المزيفة والفاحشة، ينطبق على الذكاء الاصطناعي أيضاً.
وكان محققون آخرون قد قالوا إن رجالاً في كارولاينا الشمالية وبنسلفانيا استخدموا الذكاء الاصطناعي لتركيب وجوه الأطفال في مشاهد جنسية فاضحة، أو توليد صور في عملية أخرى تعرف باسم «التزييف العميق»، أو لإزالة الملابس رقمياً من الصور الحقيقية للأطفال.
ونقلت وسائل إعلام عن نائبة المدعي العام ليزا موناكو في بيان: «ستلاحق وزارة العدل بقوة أولئك الذين ينتجون ويوزعون مواد الاعتداء الجنسي على الأطفال، بغض النظر عن كيفية إنشاء هذه المواد».
كشف خبير بالتكنولوجيا والأمن القومي أن روسيا تتطلع بشكل متزايد نحو الذكاء الاصطناعي لمعالجة أوجه القصور في قدراتها بساحة المعركة وتسعى لبناء جيش «شبه آلي».
يمكن للمستخدمين من الاتحاد الأوروبي طلب استبعاد بياناتهم لدى شركة «ميتا» من استخدامها لتدريب الذكاء الاصطناعي، لكن هذه الخاصية غير متاحة للمستخدمين الآخرين.
«الربح فوق السلامة»... كيف فشل زوكربيرغ في حماية الأطفال من المحتوى الجنسي والعنيف؟https://aawsat.com/%D8%AA%D9%83%D9%86%D9%88%D9%84%D9%88%D8%AC%D9%8A%D8%A7/5033448-%D8%A7%D9%84%D8%B1%D8%A8%D8%AD-%D9%81%D9%88%D9%82-%D8%A7%D9%84%D8%B3%D9%84%D8%A7%D9%85%D8%A9-%D9%83%D9%8A%D9%81-%D9%81%D8%B4%D9%84-%D8%B2%D9%88%D9%83%D8%B1%D8%A8%D9%8A%D8%B1%D8%BA-%D9%81%D9%8A-%D8%AD%D9%85%D8%A7%D9%8A%D8%A9-%D8%A7%D9%84%D8%A3%D8%B7%D9%81%D8%A7%D9%84-%D9%85%D9%86-%D8%A7%D9%84%D9%85%D8%AD%D8%AA%D9%88%D9%89-%D8%A7%D9%84%D8%AC%D9%86%D8%B3%D9%8A-%D9%88%D8%A7%D9%84%D8%B9%D9%86%D9%8A%D9%81%D8%9F
مارك زوكربيرغ أثناء الإدلاء بشهادته في جلسة استماع مشتركة للجنة التجارة والعلوم والنقل بمجلس الشيوخ الأميركي واللجنة القضائية بمجلس الشيوخ - 11 أبريل 2018 (أ.ب)
سان فرانسيسكو:«الشرق الأوسط»
TT
سان فرانسيسكو:«الشرق الأوسط»
TT
«الربح فوق السلامة»... كيف فشل زوكربيرغ في حماية الأطفال من المحتوى الجنسي والعنيف؟
مارك زوكربيرغ أثناء الإدلاء بشهادته في جلسة استماع مشتركة للجنة التجارة والعلوم والنقل بمجلس الشيوخ الأميركي واللجنة القضائية بمجلس الشيوخ - 11 أبريل 2018 (أ.ب)
في أبريل (نيسان) 2019، أرسل ديفيد جينسبيرغ، المدير التنفيذي لشركة «ميتا»، بريداً إلكترونياً إلى رئيسه، مارك زوكربيرغ، موضحاً أن الشركة واجهت تدقيقاً بشأن تأثيرات منتجاتها التي تنطوي على مشاكل للمراهقين، وطلب من زوكربيرغ 24 مهندساً وباحثاً وموظفين آخرين، قائلاً إن «إنستغرام» لديه «عجز» في مثل هذه القضايا. وبعد أسبوع، أبلغت سوزان لي، المديرة المالية للشركة الآن، جينسبيرغ، بأن المشروع «لن يتم تمويله» بسبب قيود التوظيف.
وفي نهاية المطاف، رفض آدم موسيري، رئيس «إنستغرام»، تمويل المشروع أيضاً.
وتعتبر تلك الرسالة أحد الأدلة التي تم الاستشهاد بها في أكثر من دعوى قضائية تم رفعها منذ العام الماضي من قبل المدعين العامين في 45 ولاية ومقاطعة كولومبيا الأميركية، حيث تتهم الولايات المتحدة شركة «ميتا» بالإيقاع غير العادل بالمراهقين والأطفال على «إنستغرام» و«فيسبوك»، وخداع الجمهور بشأن المخاطر.
وتسعى تلك الدعاوى لاستخدام نهج قانوني لإجبار «ميتا» على تعزيز تدابير الحماية للقاصرين. ويُظهر تحليل لصحيفة «نيويورك تايمز» لملفات محكمة الولايات، الذي يتضمن ما يقرب من 1400 صفحة من وثائق الشركة والمراسلات المقدَّمة كدليل من قبل ولاية تينيسي وحدها، كيف روج زوكربيرغ وغيره من قادة «ميتا»، بشكل متكرر، لسلامة منصَّات الشركة، رغم رفضهم مناشدات الموظفين لتعزيز حواجز حماية للشباب، وتعيين موظفين إضافيين.
وفي المقابلات، قال المدعون العامون في العديد من الولايات التي رفعت دعوى قضائية ضد شركة «ميتا» إن زوكربيرغ قاد شركته إلى زيادة مشاركة المستخدمين على حساب صالح الأطفال.
شعار شركة «ميتا» (رويترز)
وقال راؤول توريز، المدعي العام لولاية نيومكسيكو: «لقد وصل كثير من هذه القرارات في النهاية إلى مكتب زوكربيرغ، وهو يجب أن يُسأل صراحة، وأن يُحاسب صراحة، على القرارات التي اتخذها».
تعكس الدعاوى القضائية التي رفعتها الولايات ضد «ميتا» المخاوف المتزايدة من احتمال تعرض المراهقين والأطفال على وسائل التواصل الاجتماعي للإغراء الجنسي والمضايقة والتخويف والتنمر على أجسادهم، وحثهم خوارزمياً على الاستخدام القهري عبر الإنترنت.
استهداف الأطفال جنسياً
يأتي ذلك في الوقت الذي يسعى فيه «الكونغرس» لتمرير قانون سلامة الأطفال عبر الإنترنت، وهو مشروع قانون يلزم شركات وسائل التواصل الاجتماعي بإيقاف تشغيل الميزات للقاصرين، مثل إغراقهم بإشعارات الهاتف، مما قد يؤدي إلى سلوكيات «شبيهة بالإدمان»، فيما يعتبر نقاد المشروع أنه يمكن أن يعيق وصول القاصرين إلى المعلومات المهمة.
في مايو (أيار)، ألقت الشرطة في ولاية نيومكسيكو القبض على ثلاثة رجال اتُهموا باستهداف الأطفال جنسياً، وقال توريز، المدعي العام السابق لجرائم الجنس مع الأطفال، إن خوارزميات «ميتا» مكَّنت المحتالين البالغين من التعرف على الأطفال الذين لم يكونوا ليعثروا عليهم بمفردهم.
وقال توريز خلال مؤتمر صحافي الشهر الماضي: «هذا خطأ زوكربيرغ». وقد رفعت ولايته دعوى قضائية ضد شركة «ميتا»، متهمة إياها بخداع الجمهور فيما يتعلق بسلامة الأطفال، في الوقت الذي اعترضت فيه شركة «ميتا» على ادعاءات الولايات، وقدمت طلبات لرفض الدعاوى القضائية المرفوعة ضدها.
وقالت ليزا كرينشو، المتحدثة باسم شركة «ميتا»، في بيان لها، إن الشركة ملتزمة برفاهية الشباب ولديها العديد من الفرق والمتخصصين المكرسين لتجارب الشباب. وأضافت أن «ميتا» طورت أكثر من 50 أداة وميزة لسلامة الشباب، بما في ذلك الحد من المحتوى غير المناسب للعمر وتقييد المراهقين الذين تقل أعمارهم عن 16 عاماً من تلقي رسائل مباشرة من أشخاص لا يتابعونهم. وقالت كرينشو: «نريد أن نطمئن كل أولياء الأمور بأننا نضع مصالحهم في الاعتبار بالعمل الذي نقوم به للمساعدة في تزويد المراهقين بتجارب آمنة عبر الإنترنت». وأضافت أن الشكاوى القانونية المقدمة من الولايات «تشوه عملنا باستخدام اقتباسات انتقائية»، حسب وصفها.
آباء يتحدّون «ميتا»
لكن الآباء الذين يقولون إن أطفالهم ماتوا نتيجة لأضرار عبر الإنترنت تحدوا ضمانات السلامة التي تقدمها شركة «ميتا».
وقالت ماري رودي، معلمة مدرسة ابتدائية في كانتون بنيويورك، تعرض ابنها رايلي باسفورد البالغ من العمر 15 عاماً للابتزاز الجنسي على «فيسبوك» من قبل شخص غريب: «إنهم (شركة ميتا) يدعون بأن لديهم وسائل حماية السلامة، ولكن ليس الحماية المناسبة». وتعرض باسفورد إلى الابتزاز الجنسي من قبل شخص تظاهر بأنه فتاة في سن المراهقة، في عام 2021، ثم مات رايلي منتحراً بعد عدة ساعات.
رايلي باسفورد انتحر بعد أن تعرض للابتزاز الجنسي من خلال «فيسبوك» (العائلة)
وقالت رودي، التي رفعت دعوى قضائية ضد الشركة في مارس (آذار)، إن «ميتا» لم تستجب قط للتقارير التي قدمتها عبر القنوات الرسمية والآلية على الموقع بشأن وفاة ابنها، وتابعت «إنه أمر لا يمكن تفسيره إلى حد كبير».
المراهقون... الجمهور الأهم
وعانت شركة «ميتا» منذ فترة طويلة من أجل كيفية جذب المراهقين والاحتفاظ بهم، الذين يشكلون جزءاً أساسياً من استراتيجية نمو الشركة، حسبما تظهر وثائق الشركة الداخلية. وأصبح المراهقون محور التركيز الرئيسي لزوكربيرغ منذ عام 2016. وفقاً لشكوى تينيسي، عندما كانت الشركة لا تزال تُعرف باسم «فيسبوك»، وتمتلك تطبيقات، بما في ذلك «واتساب» و«إنستغرام». وفي ربيع ذلك العام، أفاد استطلاع سنوي للشباب أجراه البنك الاستثماري «بايبر جافراي» بأن تطبيق «سناب شات» تفوق على «إنستغرام»، من حيث الشعبية.
وفي وقت لاحق من ذلك العام، قدم «إنستغرام» ميزة مماثلة لمشاركة الصور والفيديو، وهي ميزة «إنستغرام ستوريز»، حيث وجه زوكربيرغ المديرين التنفيذيين للتركيز على حث المراهقين على قضاء المزيد من الوقت على منصات الشركة، وفقاً لشكوى تينيسي.
كتب أحد الموظفين (تم حجب اسمه) في رسالة بالبريد الإلكتروني إلى المديرين التنفيذيين في نوفمبر (تشرين الثاني) 2016، أن «الهدف العام للشركة هو إجمالي الوقت الذي يقضيه المراهقون»، وذلك وفقاً للمراسلات الداخلية في قضية تينيسي. وأضافت الرسالة الإلكترونية أنه يتعين على الفرق المشاركة زيادة عدد الموظفين المخصصين لمشاريع للمراهقين بنسبة 50 في المائة على الأقل، مشيرة إلى أن «ميتا» لديها بالفعل أكثر من 12 باحثاً يقومون بتحليل سوق الشباب.
أهداف زوكربيرغ
وقرر مارك أن الأولوية القصوى للشركة في عام 2017 هي للمراهقين.
وفي أبريل 2017، أرسل كيفن سيستروم، الرئيس التنفيذي لشركة «إنستغرام»، بريداً إلكترونياً إلى زوكربيرغ يطلب فيه المزيد من الموظفين للعمل على تخفيف الأضرار التي تلحق بالمستخدمين، وفقاً لشكوى نيو مكسيكو.
ورد زوكربيرغ بأنه سيدرج «إنستغرام» في خطة لتوظيف المزيد من الموظفين، لكنه قال إن «فيسبوك» يواجه «مشكلات أكثر خطورة». في ذلك الوقت، كان المشرعون ينتقدون الشركة لفشلها في عرقلة المعلومات المضللة خلال الحملة الرئاسية الأميركية لعام 2016.
وطلب سيستروم من زملائه تقديم أمثلة لإظهار الحاجة الملحة لمزيد من الضمانات. وسرعان ما أرسل بريداً إلكترونياً إلى زوكربيرغ مرة أخرى، قائلاً إن مستخدمي «إنستغرام» ينشرون مقاطع فيديو تتضمن «خطراً وشيكاً»، بمن في ذلك صبي أطلق النار على نفسه على «إنستغرام لايف»، حسبما ذكرت الشكوى.
وبعد شهرين، أعلنت الشركة أن ميزة «إنستغرام ستوريز» قد وصلت إلى 250 مليون مستخدم يومياً، مما أدى إلى تقزيم تطبيق «سناب شات»، وقالت «ميتا» إن فريق «إنستغرام» قام بتطوير وتقديم إجراءات وتجارب السلامة للمستخدمين الشباب.
«الملايين» من المستخدمين القاصرين
وفي يناير (كانون الثاني) 2018، تلقى زوكربيرغ تقريراً يقدر أن 4 ملايين طفل تحت سن 13 عاماً يستخدمون «إنستغرام»، وذلك وفقاً لدعوى قضائية رفعتها 33 ولاية في المحكمة الفيدرالية.
وتحظر شروط استخدام «فيسبوك» و«إنستغرام» المستخدمين الذين تقل أعمارهم عن 13 عاماً. لكن عملية التسجيل في الشركة للحصول على حسابات جديدة مكنت الأطفال من الكذب بسهولة بشأن أعمارهم، وفقاً للشكوى. وتنتهك ممارسات «ميتا» قانون خصوصية الأطفال الفيدرالي على الإنترنت الذي يتطلب بعض الخدمات عبر الإنترنت للحصول على موافقة الوالدين قبل جمع البيانات الشخصية، مثل معلومات الاتصال، من الأطفال دون سن 13 عاماً، كما تزعم الولايات.
«لوغو» لمنصات مملوكة لشركة «ميتا» وهي من اليمين «فيسبوك» و«واتساب» و«إنستغرام» (د.ب.أ)
وفي مارس 2018، ذكرت صحيفة «تايمز» أن شركة «كامبريدج أناليتيكا»، وهي شركة لتحليل بيانات الناخبين، قامت سراً بجمع البيانات الشخصية لملايين مستخدمي «فيسبوك». أدى ذلك إلى مزيد من التدقيق في ممارسات الخصوصية للشركة، بما في ذلك تلك التي تتعلق بالقاصرين.
وأدلى زوكربيرغ بشهادته في الشهر التالي بجلسة استماع في مجلس الشيوخ، قائلاً: «نحن لا نسمح للأشخاص الذين تقل أعمارهم عن 13 عاماً باستخدام (فيسبوك)».
داخل الشركة، تُعد معرفة «ميتا» الفعلية بأن الملايين من مستخدمي «إنستغرام» تحت سن 13 عاماً بمثابة «سر» يتم توثيقه بشكل روتيني وتحليله وتأكيده بدقة، وحمايته بحماس من الكشف عنه للجمهور، وفقاً لـ«نيويورك تايمز».
وفي أواخر عام 2021، كشفت فرانسيس هاوجين، الموظفة السابقة في «فيسبوك»، عن آلاف الصفحات من الوثائق الداخلية التي قالت إنها أظهرت أن الشركة تقدر «الربح فوق السلامة». عقد المشرعون جلسة استماع لاستجوابها حول سبب وجود حسابات لدى كثير من الأطفال.
وفي الوقت نفسه، عرف المسؤولون التنفيذيون في الشركة أن استخدام «إنستغرام» من قبل الأطفال دون سن 13 عاماً كان «الوضع الراهن»، وفقاً للشكوى الفيدرالية المشتركة التي قدمتها الولايات.
وقالت «ميتا» في بيانها إن «إنستغرام» اتخذت إجراءات لإزالة حسابات القاصرين عندما حددتها الشركة. قالت شركة «ميتا» إنها قامت بانتظام بإزالة مئات الآلاف من الحسابات التي لم تتمكن من إثبات استيفائها للمتطلبات العمرية للشركة.
«إنستغرام كيدز»
في عام 2021، بدأت شركة «ميتا» التخطيط لتطبيق اجتماعي جديد. كان من المقرر أن يستهدف الأطفال على وجه التحديد ويسمى «إنستغرام كيدز»، رداً على ذلك، كتب 44 مدعياً عاماً رسالة حثت فيها ماي زوكربيرغ على «التخلي عن هذه الخطط».
وجاء في الرسالة: «لقد فشل (فيسبوك) تاريخياً في حماية رفاهية الأطفال على منصاته»، ثم قامت شركة «ميتا» بعد ذلك بإيقاف خطط تطبيق «إنستغرام كيدز» مؤقتاً.
الصحة العقلية للمراهقين
وبحلول أغسطس (آب)، أصبحت جهود الشركة لحماية سلامة المستخدمين «ملحَّة بشكل متزايد» بالنسبة لشركة «ميتا»، وفقاً لبريد إلكتروني آخر أرسل إلى زوكربيرغ تم تقديمه مستنداً في قضية تينيسي. حذر نيك كليج، رئيس الشؤون العالمية الآن في شركة «ميتا»، رئيسه من المخاوف المتزايدة لدى الجهات التنظيمية بشأن تأثير الشركة على الصحة العقلية للمراهقين، بما في ذلك «الإجراءات القانونية المحتملة من قبل المدعين العامين للدولة». ووصف كليج جهود شركة «ميتا» لحماية الشباب بأنها «تعاني من نقص الموظفين والمجزأة»، وطلب كليج التمويل لـ45 موظفاً، من بينهم 20 مهندساً.
محتوى جنسي وعنيف في تطبيقات مواعدة
في الخريف الماضي، وجدت مجموعة «ماتش غروب»، التي تمتلك تطبيقات المواعدة مثل «تيندر» و«أوكيوبيد» أن الإعلانات التي وضعتها الشركة على منصات «ميتا» كانت تعمل جنباً إلى جنب مع محتوى عنيف وجنسي «مزعج للغاية»، وبعضها يتضمن أطفالاً، وفقاً لشكوى نيو مكسيكو.
وقامت شركة «ميتا» بإزالة بعض المنشورات التي تم الإبلاغ عنها بواسطة مجموعة «ماتش غروب»، وأخبرت عملاق المواعدة أن «المحتوى المخالف قد لا يتم اكتشافه في نسبة صغيرة من الوقت»، حسبما جاء في الشكوى.
جاء في الشكوى أن بيرنارد كيم، الرئيس التنفيذي لمجموعة «ماتش جروب»، غير راضٍ عن رد شركة «ميتا»، وتواصل مع زوكربيرغ عبر البريد الإلكتروني محذراً، قائلاً إن شركته لا يمكنها «غض الطرف»، كما جاء في الشكوى.
وفي الشهر الماضي، رفض القاضي طلب شركة «ميتا» برفض الدعوى القضائية في نيو مكسيكو. لكن المحكمة وافقت على طلب يتعلق بزوكربيرغ، الذي تم تسميته كمدعى عليه، لإسقاطه من القضية.
