أدوات الذكاء الاصطناعي تزيد خطر نشر محتوى الأطفال على الإنترنت

خطوات تقنية للحدّ من انتشار صور الصغار والأحداث

أدوات الذكاء الاصطناعي تزيد خطر نشر محتوى الأطفال على الإنترنت
TT

أدوات الذكاء الاصطناعي تزيد خطر نشر محتوى الأطفال على الإنترنت

أدوات الذكاء الاصطناعي تزيد خطر نشر محتوى الأطفال على الإنترنت

تشكل أدوات الذكاء الاصطناعي الجديدة سبباً إضافياً للمزيد من الحذر عند نشر صور القاصرين على الإنترنت.

من الطبيعي أن يرغب الأهل في مشاركة ضحكات أولادهم البريئة ولحظات السعادة والإنجازات التي تستحقّ الاحتفال مع العالم. وأيضاً، ومن جهة أخرى، يعي معظم النّاس أنّه يجب عدم نشر صور الأطفال والمراهقين والمراهقات بكثرة على الشبكة.

صور حقيقية وزائفة

لقد بتنا نُدرك مخاطر مشاركة صور وفيديوهات القاصرين عبر المواقع الإلكترونية وتطبيقات التواصل الاجتماعي، حيث يمكن استغلالها للتنمر أو الإساءة من قبل الغرباء. واليوم، نواجه خطراً ناشئاً هو أدوات الذكاء الاصطناعي الآخذة في التطوّر وبوتيرة سريعة جداً؛ إذ تُغذّى هذه الأدوات بصور حقيقية لصناعة مواد «التزييف العميق».

وتقول هيذر كيلي المختصة في واشنطن بملاحقة الأخبار التقنية إن هذه الأمور بدأت تحدث حقاً؛ فقد استخدم طلّاب من ثانوية في نيو جيرسي أدوات الذكاء الاصطناعي لفبركة صورٍ جنسية لزملائهم بالاعتماد على «صور حقيقية» العام الماضي. وفي حادثة أخرى، استخدم تلميذ في ثانوية من إساكوه، واشنطن، صوراً حقيقية لزملائه في الصف لفبركة صورٍ جنسية جرى تداولها. وفي إسبانيا، كشف آباء وأمّهات أكثر من 20 فتاة تتراوح أعمارهنّ بين 11 و17 عاماً، أنّ صور بناتهن خضعت لتعديلات باستخدام أدوات ذكاء اصطناعي لصناعة صور إباحية.

يقول وائل عبد المجيد، عالم بارز ومدير البحوث في معهد علوم المعلومات التّابع لجامعة جنوب كاليفورنيا، إنّ أدوات الذكاء الاصطناعي «لا تحتاج إلى أكثر من صورة واحدة. يمكنكم تدريب الذكاء الاصطناعي على انتقاء ملامح وجه أحدهم؛ ما يعني أنّ الذكاء الاصطناعي يستطيع انتقاء ملامح أي طفل، ويمكنكم استبدالها في مقطع فيديو».

صور الإنترنت باقية

كم من الصور والفيديوهات تستطيعون الحذف حقاً؟ لا يوجد زرّ حذف سحري لإزالة جميع الصور والفيديوهات لشخصٍ ما من على الإنترنت. والأمر سهل، إذا كنتم تعرفون سلفاً المواد التي تريدون إزالتها. أمّا إذا كنتم تتعاملون مع طفل يملك عدداً كبيراً من المعجبين، فستكون المهمّة شاقّة وشبه مستحيلة.

ويعلّق عبد المجيد على هذا الأمر قائلاً: «ما يُعرض على الإنترنت يبقى على الإنترنت، ولا يمكن أن يختفي».

وتشهد الصور والفيديوهات مشاركة وإعادة مشاركة، وتعمد الشركات إلى حفظ نسخٍ منها وأرشفتها، أو يمكن حفظها ومشاركتها في محادثات مشفّرة أو على الشبكة المظلمة، حتّى إنّ إزالة صورة لقاصر من نتائج «بحث غوغل» لا يسحبها من الإنترنت بالكامل، لأنّها ستبقى على الموقع الذي كان يستضيفها.

سواء كانت الإزالة تهدف لتنظيف الماضي، أو السيطرة على بالمستقبل، يُعدّ إبقاء البيانات خارج الإنترنت التزاماً كبيراً، وقد يكون غير منطقي لمعظم العائلات. وتقترح إيفورا هيتنر، مؤلّفة كتاب «الكبر في العلن - التقدّم في السنّ في عالم رقمي»، التفكير بالمستقبل ومنح الطفل حرية القرار إذا ما كان يريد مشاركة صوره وأين يريد مشاركتها على الشبكة.

حذف الصور من المواقع والمنصّات

كيف تجري عملية الحذف على «غوغل» و«تيك توك» و«فيسبوك»؟ يملك معظم شركات التقنية الكبرى نظاماً لطلب سحب الصور، وتقدّم الكاتبة هيذر كيلي حصيلة بأسس هذه الأنظمة لدى «غوغل» و«تيك توك» و«فيسبوك» و«إنستغرام»، ولكن، طبعاً، توجد استثناءات لأنّه لا يمكن حذف جميع الصور. مع تقدّم أولادكم في العمر، قد تواجهون أيضاً مشكلات في رغبتهم بمشاركة المزيد عن أنفسهم بدرجة غير مريحة بالنسبة لكم - تسمح معظم الخدمات للقاصرين بإنشاء حساباتهم الخاصّة ما داموا أتمّوا 13 عاماً.

• «بحث غوغل»، و«صور غوغل»، و«غوغل درايف»: يملك القاصر والوصي عليه أو أي شخص مخوّل التصرّف بالنيابة عنه، الحقّ في طلب إزالة أي محتوى، سواء أكان صورة أو مقطع فيديو أو نصاً، من نتائج «بحث غوغل» باستخدام استمارة متوفرة على موقع الشركة. ولكن توجد بعض العوائق لهذا الطلب، إذ إنّه يزيل المحتوى من «نتائج غوغل» فقط وليس من موقعه الأصلي.

علاوة على ذلك، قد ترفض شركة «غوغل» إزالة المحتوى، إذا كان موجوداً على صفحتكم الخاصة على التواصل الاجتماعي، وقد تردّ الطلب أيضاً إذا كانت الصور تخدم الصالح العام - أي إذا كان الطفل معروفاً، أو إذا كانت الصورة من حدثٍ مهمّ.

تتطلّب العملية بضعة أيّام، وإذا كانت الصورة موجودة على «صور غوغل» أو «غوغل درايف»، يمكنكم التبليغ عنها في المكان المحدّد على الموقع. وإذا كانت الصورة لا تزال تظهر في نتائج البحث رغم إزالتها، توجد أدوات يمكنكم الاستعانة بها.

• «يوتيوب»: يستطيع القاصر أو أي ممثل قانوني عنه أن يطلب حذف فيديو عن «يوتيوب» بملء استمارة على الموقع. وكانت المنصّة قد أضافت المواد المصنوعة بواسطة الذكاء الاصطناعي إلى سياساتها ليتمكّن المستخدمون من طلب إزالتها أيضاً.

• «فيسبوك» و«إنستغرام»: تتيح المنصّتان للأبوين فقط طلب إزالة محتوى القاصرين ما دون 13 عاماً. وإذا كان المستخدم بين 13 و17 عاماً، يجب أن يتقدّم بطلب الحذف بنفسه.

• «تيك توك»: إذا أردتم طلب إزالة فيديو لقاصر عن «تيك توك»، على الشخص الظاهر في المقطع أو الوصي القانون أن يملأ استمارة خصوصية متوفرة على الموقع. تبدأ العملية بالنقر على «التبليغ عن انتهاك خصوصية» في لائحة الخيارات. لا ينتهك نشر محتوى لقاصر من دون إذنهم معايير المنصّة، ولكن إذا حصل وتمّ التبليغ عنه، تقول الشركة إنّها مجبرة على إزالته.

تحديد الصور المطلوبة

كيف تجدون الصور التي تريدون إزالتها؟ ابدأوا بالبحث على «غوغل» باستخدام اسم القاصر، وفتشوا في حسابات التواصل الاجتماعي الخاصة بكم وبأفراد العائلة والمدارس والنوادي التي ارتادها. وإذا كنتم تبحثون عن نسخٍ لصورة محدّدة، فجرّبوا البحث العكسي عن الصورة. اذهبوا إلى images.google.com، وانقروا على رمز الكاميرا للبحث بالصورة.

تعتمد بعض شركات رصد الوجوه المثيرة للجدل كـ «كلير فيو إي آي». Clearview AI و«بيم آيز» PimEyes على صورة واحدة لأي شخص وترصد ما يطابقها على شبكة الإنترنت.

لسوء الحظّ، لم تُصمم خدمات هذه الشركات لمساعدة الأشخاص الذين يسعون لحماية خصوصيتهم. توفّر «بيم آيز» خدماتها لجميع الناس، ولكنّها صرّحت أخيراً أنّها لن تُدرج بعد اليوم صوراً لأشخاص مبلغ عنهم على أنّهم قاصرون في أنظمة الذكاء الاصطناعي خاصتها. بدورها، تقول «كلير فيو» إنّ قاعدة بياناتها مصممة للتعاون مع الكيانات كوكالات إنفاذ القانون، وليس مع الأفراد.

ماذا عن المستقبل؟ الأسهل يكون بوضع قواعد وقوانين لمشاركة المحتوى في المستقبل وليس بتنظيف الماضي. وعندما يتعلّق الأمر بالأطفال الصغار، تقع هذه المسؤولية على عاتق البالغين المحيطين بهم.

يجب الاكتفاء بمشاركة صور وفيديوهات أطفالكم بخصوصية، والطريقة الأكثر أماناً هي استخدام مجموعات محادثة مشفّرة كـ «آي مسجز» iMessage من «آبل» أو «سيغنال» Signal. وإذا كنتم تفضّلون النطاق الأوسع من التواصل الاجتماعي، يمكنكم نشر الصور العائلية بوجوه غير واضحة، أو استخدموا خيارات «تختفي» كقصص «إنستغرام». وطبعاً، يجب أن تصرّحوا بهذه التفضيلات لأفراد العائلة الكبيرة، بإعلام الجدّ أنّكم لا ترغبون بمشاركة صور الرضيع على «فيسبوك» مثلاً.



أستراليا تستدعي رئيسي «أوبن إيه آي» و«أنثروبيك» لتحقيق بسبب اختراق للذكاء الاصطناعي

سام ألتمان الرئيس التنفيذي لـ«أوبن إيه آي» (أرشيفية - رويترز)
سام ألتمان الرئيس التنفيذي لـ«أوبن إيه آي» (أرشيفية - رويترز)
TT

أستراليا تستدعي رئيسي «أوبن إيه آي» و«أنثروبيك» لتحقيق بسبب اختراق للذكاء الاصطناعي

سام ألتمان الرئيس التنفيذي لـ«أوبن إيه آي» (أرشيفية - رويترز)
سام ألتمان الرئيس التنفيذي لـ«أوبن إيه آي» (أرشيفية - رويترز)

قالت السيناتور الأسترالية سارة هانسون-يونغ، اليوم (الأحد)، إنه جرى استدعاء الرئيسين التنفيذيَّين لشركتَي «أوبن إيه آي» و«أنثروبيك» للمثول أمام لجنة تحقيق بمجلس الشيوخ الأسترالي بشأن الذكاء الاصطناعي، وذلك بعد أيام من الكشف عن اختراق روبوت تابع لـ«أوبن إيه آي» لقاعدة بيانات النظام الصحي في البلاد.

وأثار اختراق نظام «ميديكير» الصحي، الذي ندَّد به رئيس الوزراء أنتوني ألبانيزي، اهتماماً واسعاً بوصفه من أبرز الوقائع التي تَمكَّن فيها وكلاء ذكاء اصطناعي من الوصول إلى أنظمة خارج الولايات المتحدة، وفق ما أفادت وكالة «رويترز» للأنباء.

وقال متحدث باسم السيناتور هانسون-يونغ من حزب «الخضر» الأسترالي، والتي تترأس التحقيق، إن سام ألتمان الرئيس التنفيذي لـ«أوبن إيه آي» وداريو أمودي الرئيس التنفيذي لـ«أنثروبيك» تلقيا طلبين خطيين للمثول أمام اللجنة، التي تعتزم عقد جلسات استماع علنية في العاصمة كانبيرا يوم الخميس.

ويبحث تحقيق مجلس الشيوخ التأثيرات المحتملة للذكاء الاصطناعي ومراكز البيانات على المجتمعات والصناعات الأسترالية، فضلاً عن الموارد المائية والطاقة. وهو واحد من تحقيقات عدة على مستوى الولايات والحكومة الاتحادية بشأن الذكاء الاصطناعي.

وقالت هانسون-يونغ في بيان: «هناك أسئلة جدية يتعين على سام ألتمان الإجابة عنها بشأن اختراق (أوبن إيه آي) مواقع إلكترونية حكومية أسترالية». وأضافت أن ألتمان وأمودي «يجب أن يمثلا أمام مجلس الشيوخ ويجيبا عن أسئلته ويجريا نقاشاً صريحاً بشأن شكل التنظيم الفعال والدائم الذي ينبغي أن يخضع له هذا القطاع».

ووصف ألبانيزي، الذي كشف يوم الخميس عن الاختراق الذي استهدف بيانات «ميديكير» في يونيو (حزيران)، الأمر بأنه «غير مقبول». وقال إنه عبَّر عن «قلقه البالغ» لألتمان.


«أوبن إيه آي» توقف تدريب أحدث نماذجها بعد سلوك غير متوقع لوكلاء في مواقع حكومية

شعار «أوبن إيه آي» ومنافستها «أنثروبيك» (رويترز)
شعار «أوبن إيه آي» ومنافستها «أنثروبيك» (رويترز)
TT

«أوبن إيه آي» توقف تدريب أحدث نماذجها بعد سلوك غير متوقع لوكلاء في مواقع حكومية

شعار «أوبن إيه آي» ومنافستها «أنثروبيك» (رويترز)
شعار «أوبن إيه آي» ومنافستها «أنثروبيك» (رويترز)

قالت شركة «أوبن إيه آي» إنها أوقفت تدريب أحدث نماذجها للذكاء الاصطناعي مؤقتاً، في وقت تزداد فيه التقارير عن خروج وكلاء الذكاء الاصطناعي عن السيطرة.

وجاء قرار وقف التطوير بعد ساعات فقط من إفصاح الشركة، أمس (الجمعة)، عن أنها تراجع حوادث عدة وقعت خلال الصيف، تصرَّف فيها وكلاء تابعون لـ«أوبن إيه آي» في أثناء بحثهم في مواقع إلكترونية للحكومة الفيدرالية بطرق غير متوقعة تجاوزت ما طُلب منهم، خلال جمع المعلومات وتوزيعها.

وبشكل منفصل، قالت شركة «ترانسلويس» المتخصصة في تقييم أنظمة الذكاء الاصطناعي، إن وكلاء بدا أنهم تابعون لـ«أوبن إيه آي» حاولوا، دون نجاح، اختراق موقع إلكتروني لوزارة التعليم الأميركية، وهي واقعة لم تؤكدها «أوبن إيه آي»، حسبما أفاد تقرير لوكالة «أسوشييتد برس».

وقالت «أوبن إيه آي»، في بيان، إنها ستستأنف التدريب «فقط عندما نكون واثقين من وجود إجراءات حماية إضافية»، مضيفة أنها تتوقع أن تضطر إلى «التوقف مؤقتاً» مرة أخرى مع تطور الذكاء الاصطناعي وظهور مشكلات أخرى.

وتواجه مختبرات الذكاء الاصطناعي ضغوطاً من المشرعين وخبراء التكنولوجيا لإبطاء وتيرة التطوير، حتى تتمكَّن من وضع ضوابط تمنع الوكلاء من التصرُّف من تلقاء أنفسهم، واختراق المواقع الإلكترونية، والكشف عن معلومات غير متاحة للعامة. كما دعا رئيسا «أوبن إيه آي» ومنافستها «أنثروبيك» إلى إبطاء التطوير.

وهذه المرة الثانية خلال 3 أشهر التي توقف فيها «أوبن إيه آي» تطوير نماذجها. وكانت المرة الأولى في يوليو (تموز)، بعد الكشف عن هجوم إلكتروني استهدف شركة «هاغينغ فيس» الناشئة في مجال الذكاء الاصطناعي، في حادثة أثارت مخاوف من أن الصناعة بدأت تفقد السيطرة.

وخلال اجتماع مع الرئيس الصيني شي جينبينغ، هذا الأسبوع، وافق الرئيس الأميركي دونالد ترمب على تبادل المعلومات بشأن مخاطر الذكاء الاصطناعي وتنسيق الجهود للحفاظ على سلامته. لكن ترمب يرى أن المخاوف من الذكاء الاصطناعي مبالغ فيها، وأشار لاحقاً إلى أنه لا يعتزم اتخاذ إجراءات صارمة من جانبه.

وقال ترمب للصحافيين خارج البيت الأبيض: «لن نضع فرامل». وأضاف: «إنهم يريدون وقف تقدمنا لأننا نتفوق على الصين بفارق كبير، وسنحافظ على ذلك».

ولم تبدُ الحوادث الأخيرة التي تورطت فيها «أوبن إيه آي» متضمنة الكشف عن أي معلومات غير متاحة للعامة، لكنها كانت مثيرة للقلق بما يكفي لدفع الشركة إلى تحذير الوكالات الفيدرالية المعنية.

وفي حادثة وزارة التعليم، عثر وكلاء «أوبن إيه آي» على «مفاتيح مطورين (developer keys)» تتيح الوصول إلى بيانات حكومية عبر واجهة برمجة التطبيقات (API)، لكنهم جمعوا في النهاية معلومات متاحة للعامة فقط.

وفي حالة أخرى تتعلق بلجنة الأوراق المالية والبورصات الأميركية (SEC)، عثر الوكلاء على معلومات متاحة للجميع، لكنهم نشروا هذه المعلومات لاحقاً في مكان آخر على الإنترنت، وهو تصرف تجاوز ما طُلب منهم القيام به.

وقال المتحدث باسم لجنة الأوراق المالية والبورصات، كيرت هوبفنسبرغر، السبت، إنه «لم يتم الوصول إلى أي معلومات غير متاحة للعامة».

وقالت وزارة التعليم في وقت سابق إنها لم تجد «أي دليل على حدوث تأثير في موقعها الإلكتروني أو قواعد بياناتها».

وكشفت شركات عدة أخرى للذكاء الاصطناعي عن حوادث خرجت فيها نماذجها عن السيطرة، بل وتمكنت من اختراق مواقع إلكترونية.

وقال الرئيس التنفيذي لـ«أوبن إيه آي»، سام ألتمان، في منشور على وسائل التواصل الاجتماعي، الجمعة، إن حادثة «هاغينغ فيس... لا تزال أخطر حادثة شهدناها».

وسبق أن نشرت «أوبن إيه آي» 6 تقارير أخرى عن سلوكيات «غير متوقعة أو مثيرة للقلق» في نماذج الذكاء الاصطناعي، وأطلقت إطاراً لتتبع هذه الحالات وفحصها والإفصاح عنها.


«أوبن إيه آي» تقر بتسريب 53 صورة بالخطأ أرسلها مستخدمون عبر «تشات جي بي تي»

شعار «أوبن إيه آي» على هاتف (أ.ب)
شعار «أوبن إيه آي» على هاتف (أ.ب)
TT

«أوبن إيه آي» تقر بتسريب 53 صورة بالخطأ أرسلها مستخدمون عبر «تشات جي بي تي»

شعار «أوبن إيه آي» على هاتف (أ.ب)
شعار «أوبن إيه آي» على هاتف (أ.ب)

أقرت شركة «أوبن إيه آي»، أمس (الجمعة)، بأن أدواتها للذكاء الاصطناعي نشرت على الإنترنت 53 صورة أرسلها مستخدمون عبر منصتها «تشات جي بي تي»، في تسريب جديد يطول هذه المرة بيانات مستخدمي الشركة نفسها.

كما كشفت الشركة العملاقة في مجال الذكاء الاصطناعي التي تتخذ مقراً في سان فرانسيسكو، أن أدواتها اخترقت مواقع تابعة لوكالات فيدرالية أميركية، مؤكدة بذلك معلومات أوردتها صحيفة «نيويورك تايمز» سابقاً، لكنها أشارت إلى أنها لم تجمع فيها سوى معلومات متاحة للعموم.

وأوضحت «أوبن إيه آي» أن الروابط للصور الـ53 لم تكن متاحة للعلن، ونُشرت عن طريق الخطأ على مواقع استضافة إلكترونية، وأشارت إلى أن معظمها أزيل بمساعدة مقدمي الخدمات المضيفين المعنيين، وأن العمل يجري على إزالة الصور المتبقية، وفق ما أفادت وكالة الصحافة الفرنسية.

وكانت هذه الصور أُرسلت من حسابات وافق أصحابها على استخدام بياناتهم لتطوير نماذج الشركة. ومرت قبل استخدامها عبر مصفاة لخصوصية البيانات الشخصية، وأكدت الشركة أنه لم يعد بالإمكان ربط الصور بالمستخدمين الذين أرسلوها.

ولم توضح «أوبن إيه آي» ما إذا كانت هذه الصور تظهر أشخاصاً يمكن التعرف عليهم أو بيانات حساسة، ولم تكشف المزيد من التفاصيل رداً على أسئلة وكالة الصحافة الفرنسية.

ونُشرت الصور نتيجة سلوك «وكلاء للذكاء الاصطناعي»، وهي برمجيات مصممة بناءً على نماذج ذكاء اصطناعي وقادرة على تنفيذ سلسلة من المهام المتتالية بصورة ذاتية.

وأوضحت الشركة أن أدوات ذكاء اصطناعي وكيلة يجري استخدامها في إطار أبحاثها، نقلت إلى خدمات خارجية بيانات تدريب لم تكن بمعظمها صادرة عن مستخدمين، ولفتت إلى أن عمليات النقل جرت بمعظمها قبل أن تعزز الأمن حول أبحاثها في أغسطس (آب).

وأكدت أنها تجري حالياً عملية مسح شاملة لأنشطة أدواتها الوكيلة السابقة، في عملية ستستغرق عدة أشهر.

وأقر الرئيس التنفيذي للشركة سام ألتمان، الجمعة، بأنه «لم نكن بالسرعة التي كنا نتمناها» في عمليات المراجعة والكشف عن الحوادث، مبرراً ذلك بالحجم الهائل من البيانات الواجب تحليلها.

وقال متحدث باسم «أوبن إيه آي» لوكالة الصحافة الفرنسية إن «غالبية الأنشطة التي خضعت للتدقيق حتى الآن كانت من ضمن مهام البحث الاعتيادية، كالوصول إلى محتويات متاحة للعموم على الإنترنت للإجابة عن أسئلة».

وأضاف أن «بعض هذه الأنشطة شملت مواقع حكومية، إذ غالباً ما تلجأ نماذجنا إليها باعتبارها مصادر مرجعية للمعلومات العامة».

وبذلك أكدت الشركة أن نماذجها وصلت إلى معلومات عامة على مواقع هيئة الأوراق المالية والبورصات الأميركية، الجهة الناظمة للأسواق المالية، قبل أن تنشر جزءاً منها على صفحة أخرى على الإنترنت، مشددةً على أنها لم تجد أي أثر للنفاذ إلى معلومات غير متاحة للعموم.