أدوات الذكاء الاصطناعي تزيد خطر نشر محتوى الأطفال على الإنترنت

خطوات تقنية للحدّ من انتشار صور الصغار والأحداث

أدوات الذكاء الاصطناعي تزيد خطر نشر محتوى الأطفال على الإنترنت
TT

أدوات الذكاء الاصطناعي تزيد خطر نشر محتوى الأطفال على الإنترنت

أدوات الذكاء الاصطناعي تزيد خطر نشر محتوى الأطفال على الإنترنت

تشكل أدوات الذكاء الاصطناعي الجديدة سبباً إضافياً للمزيد من الحذر عند نشر صور القاصرين على الإنترنت.

من الطبيعي أن يرغب الأهل في مشاركة ضحكات أولادهم البريئة ولحظات السعادة والإنجازات التي تستحقّ الاحتفال مع العالم. وأيضاً، ومن جهة أخرى، يعي معظم النّاس أنّه يجب عدم نشر صور الأطفال والمراهقين والمراهقات بكثرة على الشبكة.

صور حقيقية وزائفة

لقد بتنا نُدرك مخاطر مشاركة صور وفيديوهات القاصرين عبر المواقع الإلكترونية وتطبيقات التواصل الاجتماعي، حيث يمكن استغلالها للتنمر أو الإساءة من قبل الغرباء. واليوم، نواجه خطراً ناشئاً هو أدوات الذكاء الاصطناعي الآخذة في التطوّر وبوتيرة سريعة جداً؛ إذ تُغذّى هذه الأدوات بصور حقيقية لصناعة مواد «التزييف العميق».

وتقول هيذر كيلي المختصة في واشنطن بملاحقة الأخبار التقنية إن هذه الأمور بدأت تحدث حقاً؛ فقد استخدم طلّاب من ثانوية في نيو جيرسي أدوات الذكاء الاصطناعي لفبركة صورٍ جنسية لزملائهم بالاعتماد على «صور حقيقية» العام الماضي. وفي حادثة أخرى، استخدم تلميذ في ثانوية من إساكوه، واشنطن، صوراً حقيقية لزملائه في الصف لفبركة صورٍ جنسية جرى تداولها. وفي إسبانيا، كشف آباء وأمّهات أكثر من 20 فتاة تتراوح أعمارهنّ بين 11 و17 عاماً، أنّ صور بناتهن خضعت لتعديلات باستخدام أدوات ذكاء اصطناعي لصناعة صور إباحية.

يقول وائل عبد المجيد، عالم بارز ومدير البحوث في معهد علوم المعلومات التّابع لجامعة جنوب كاليفورنيا، إنّ أدوات الذكاء الاصطناعي «لا تحتاج إلى أكثر من صورة واحدة. يمكنكم تدريب الذكاء الاصطناعي على انتقاء ملامح وجه أحدهم؛ ما يعني أنّ الذكاء الاصطناعي يستطيع انتقاء ملامح أي طفل، ويمكنكم استبدالها في مقطع فيديو».

صور الإنترنت باقية

كم من الصور والفيديوهات تستطيعون الحذف حقاً؟ لا يوجد زرّ حذف سحري لإزالة جميع الصور والفيديوهات لشخصٍ ما من على الإنترنت. والأمر سهل، إذا كنتم تعرفون سلفاً المواد التي تريدون إزالتها. أمّا إذا كنتم تتعاملون مع طفل يملك عدداً كبيراً من المعجبين، فستكون المهمّة شاقّة وشبه مستحيلة.

ويعلّق عبد المجيد على هذا الأمر قائلاً: «ما يُعرض على الإنترنت يبقى على الإنترنت، ولا يمكن أن يختفي».

وتشهد الصور والفيديوهات مشاركة وإعادة مشاركة، وتعمد الشركات إلى حفظ نسخٍ منها وأرشفتها، أو يمكن حفظها ومشاركتها في محادثات مشفّرة أو على الشبكة المظلمة، حتّى إنّ إزالة صورة لقاصر من نتائج «بحث غوغل» لا يسحبها من الإنترنت بالكامل، لأنّها ستبقى على الموقع الذي كان يستضيفها.

سواء كانت الإزالة تهدف لتنظيف الماضي، أو السيطرة على بالمستقبل، يُعدّ إبقاء البيانات خارج الإنترنت التزاماً كبيراً، وقد يكون غير منطقي لمعظم العائلات. وتقترح إيفورا هيتنر، مؤلّفة كتاب «الكبر في العلن - التقدّم في السنّ في عالم رقمي»، التفكير بالمستقبل ومنح الطفل حرية القرار إذا ما كان يريد مشاركة صوره وأين يريد مشاركتها على الشبكة.

حذف الصور من المواقع والمنصّات

كيف تجري عملية الحذف على «غوغل» و«تيك توك» و«فيسبوك»؟ يملك معظم شركات التقنية الكبرى نظاماً لطلب سحب الصور، وتقدّم الكاتبة هيذر كيلي حصيلة بأسس هذه الأنظمة لدى «غوغل» و«تيك توك» و«فيسبوك» و«إنستغرام»، ولكن، طبعاً، توجد استثناءات لأنّه لا يمكن حذف جميع الصور. مع تقدّم أولادكم في العمر، قد تواجهون أيضاً مشكلات في رغبتهم بمشاركة المزيد عن أنفسهم بدرجة غير مريحة بالنسبة لكم - تسمح معظم الخدمات للقاصرين بإنشاء حساباتهم الخاصّة ما داموا أتمّوا 13 عاماً.

• «بحث غوغل»، و«صور غوغل»، و«غوغل درايف»: يملك القاصر والوصي عليه أو أي شخص مخوّل التصرّف بالنيابة عنه، الحقّ في طلب إزالة أي محتوى، سواء أكان صورة أو مقطع فيديو أو نصاً، من نتائج «بحث غوغل» باستخدام استمارة متوفرة على موقع الشركة. ولكن توجد بعض العوائق لهذا الطلب، إذ إنّه يزيل المحتوى من «نتائج غوغل» فقط وليس من موقعه الأصلي.

علاوة على ذلك، قد ترفض شركة «غوغل» إزالة المحتوى، إذا كان موجوداً على صفحتكم الخاصة على التواصل الاجتماعي، وقد تردّ الطلب أيضاً إذا كانت الصور تخدم الصالح العام - أي إذا كان الطفل معروفاً، أو إذا كانت الصورة من حدثٍ مهمّ.

تتطلّب العملية بضعة أيّام، وإذا كانت الصورة موجودة على «صور غوغل» أو «غوغل درايف»، يمكنكم التبليغ عنها في المكان المحدّد على الموقع. وإذا كانت الصورة لا تزال تظهر في نتائج البحث رغم إزالتها، توجد أدوات يمكنكم الاستعانة بها.

• «يوتيوب»: يستطيع القاصر أو أي ممثل قانوني عنه أن يطلب حذف فيديو عن «يوتيوب» بملء استمارة على الموقع. وكانت المنصّة قد أضافت المواد المصنوعة بواسطة الذكاء الاصطناعي إلى سياساتها ليتمكّن المستخدمون من طلب إزالتها أيضاً.

• «فيسبوك» و«إنستغرام»: تتيح المنصّتان للأبوين فقط طلب إزالة محتوى القاصرين ما دون 13 عاماً. وإذا كان المستخدم بين 13 و17 عاماً، يجب أن يتقدّم بطلب الحذف بنفسه.

• «تيك توك»: إذا أردتم طلب إزالة فيديو لقاصر عن «تيك توك»، على الشخص الظاهر في المقطع أو الوصي القانون أن يملأ استمارة خصوصية متوفرة على الموقع. تبدأ العملية بالنقر على «التبليغ عن انتهاك خصوصية» في لائحة الخيارات. لا ينتهك نشر محتوى لقاصر من دون إذنهم معايير المنصّة، ولكن إذا حصل وتمّ التبليغ عنه، تقول الشركة إنّها مجبرة على إزالته.

تحديد الصور المطلوبة

كيف تجدون الصور التي تريدون إزالتها؟ ابدأوا بالبحث على «غوغل» باستخدام اسم القاصر، وفتشوا في حسابات التواصل الاجتماعي الخاصة بكم وبأفراد العائلة والمدارس والنوادي التي ارتادها. وإذا كنتم تبحثون عن نسخٍ لصورة محدّدة، فجرّبوا البحث العكسي عن الصورة. اذهبوا إلى images.google.com، وانقروا على رمز الكاميرا للبحث بالصورة.

تعتمد بعض شركات رصد الوجوه المثيرة للجدل كـ «كلير فيو إي آي». Clearview AI و«بيم آيز» PimEyes على صورة واحدة لأي شخص وترصد ما يطابقها على شبكة الإنترنت.

لسوء الحظّ، لم تُصمم خدمات هذه الشركات لمساعدة الأشخاص الذين يسعون لحماية خصوصيتهم. توفّر «بيم آيز» خدماتها لجميع الناس، ولكنّها صرّحت أخيراً أنّها لن تُدرج بعد اليوم صوراً لأشخاص مبلغ عنهم على أنّهم قاصرون في أنظمة الذكاء الاصطناعي خاصتها. بدورها، تقول «كلير فيو» إنّ قاعدة بياناتها مصممة للتعاون مع الكيانات كوكالات إنفاذ القانون، وليس مع الأفراد.

ماذا عن المستقبل؟ الأسهل يكون بوضع قواعد وقوانين لمشاركة المحتوى في المستقبل وليس بتنظيف الماضي. وعندما يتعلّق الأمر بالأطفال الصغار، تقع هذه المسؤولية على عاتق البالغين المحيطين بهم.

يجب الاكتفاء بمشاركة صور وفيديوهات أطفالكم بخصوصية، والطريقة الأكثر أماناً هي استخدام مجموعات محادثة مشفّرة كـ «آي مسجز» iMessage من «آبل» أو «سيغنال» Signal. وإذا كنتم تفضّلون النطاق الأوسع من التواصل الاجتماعي، يمكنكم نشر الصور العائلية بوجوه غير واضحة، أو استخدموا خيارات «تختفي» كقصص «إنستغرام». وطبعاً، يجب أن تصرّحوا بهذه التفضيلات لأفراد العائلة الكبيرة، بإعلام الجدّ أنّكم لا ترغبون بمشاركة صور الرضيع على «فيسبوك» مثلاً.



«كراود سترايك»: 97 % من أجهزة استشعار «ويندوز» عادت للعمل

«كراود سترايك» هي شركة تكنولوجيا أميركية عملاقة تقدر قيمتها بأكثر من 80 مليار دولار (شاترستوك)
«كراود سترايك» هي شركة تكنولوجيا أميركية عملاقة تقدر قيمتها بأكثر من 80 مليار دولار (شاترستوك)
TT

«كراود سترايك»: 97 % من أجهزة استشعار «ويندوز» عادت للعمل

«كراود سترايك» هي شركة تكنولوجيا أميركية عملاقة تقدر قيمتها بأكثر من 80 مليار دولار (شاترستوك)
«كراود سترايك» هي شركة تكنولوجيا أميركية عملاقة تقدر قيمتها بأكثر من 80 مليار دولار (شاترستوك)

بعد أسبوع من الأزمة العالمية التي تسببت بها شركة «كراود سترايك» عندما أثّر تحديث في نحو 8.5 مليون جهاز يعمل بنظام «ويندوز»، سارع جورج كورتز، رئيس الشركة، إلى بثّ رسالة طمأنة، مؤكداً فيها أن 97 في المائة من أجهزة استشعار «ويندوز» عادت للعمل اعتباراً من 25 يوليو (تموز). وقال كورتز إن نجاح ذلك يعود إلى تطوير تقنيات الاسترداد التلقائي، وتعبئة جميع الموارد لدعم العملاء. كما أصدرت الشركة مراجعة أولية لما بعد الحادث (PIR) تشرح من خلالها السبب الجذري للعطل.

ماذا حدث؟

في يوم الجمعة 19 يوليو، أصدرت «كراود سترايك» تحديثاً لتكوين المحتوى لمستشعر «ويندوز» لجمع القياس عن بُعد حول تقنيات التهديد الجديدة المحتملة. وتعدّ مثل هذه التحديثات روتينية، وهي جزء من آليات الحماية الديناميكية لمنصة «فالكون». تقول الشركة: «لسوء الحظ، أدى تحديث تكوين محتوى الاستجابة السريعة هذا إلى تعطل نظام (ويندوز)».

شملت الأنظمة المتأثرة أجهزة تعمل بنظام «ويندوز» بإصدار المستشعر (7.11) وما فوق، التي كانت متصلة بالإنترنت وتلقت التحديث في ذلك التوقيت. لم تتأثر أجهزة «ماك»، و«لينكس» كما ذكرت الشركة في تقريرها، وأنه تم إصلاح الخلل بسرعة.

أثّر الانقطاع في العملاء بما في ذلك شركات الطيران والقطارات والمطارات وأنظمة الدفع ومحلات السوبر ماركت (شاترستوك)

ما الخطأ بحسب «كراود سترايك»؟

في فبراير (شباط) 2024، قدمت الشركة نوع قالب «InterProcessCommunication (IPC)» الجديد المصمم للكشف عن تقنيات الهجوم المتطورة. اجتاز نوع القالب هذا الاختبارات الأولية في 5 مارس (آذار)، مما دفع إلى إصدار نموذج قالب مماثل. بين 8 و24 أبريل (نسيان)، تم نشر 3 نماذج قالب «IPC» أخرى، وجميعها يعمل دون التسبب في مشكلات لملايين أجهزة «ويندوز». ويشار إلى أن أجهزة «لينكس (Linux)» واجهت بعض المشكلات مع «كراود سترايك» في أبريل الماضي.

في 19 يوليو، أصدرت «كراود سترايك» نموذجين إضافيين لقالب «IPC». تقول الشركة إنه «لسوء الحظ، احتوى أحد هذين النموذجين على (بيانات محتوى تسبب المشكلات) وتم نشره بسبب خطأ في «محقق المحتوى». وفي حين أن الدور المحدد لمحقق المحتوى غير مفصل، فمن المفترض أنه يتحقق من المحتوى بحثاً عن أخطاء قبل الإصدار.

سمح هذا الإهمال بتشغيل «Template Instance»، وهو في الأساس تطبيق محدد لقالب عام يحتوي على أخطاء أو تناقضات، شُغل استناداً إلى الافتراض الخاطئ بأن الاختبارات الناجحة لأنواع النماذج السابقة ضمنت سلامة إصدار 19 يوليو. أثبت هذا الافتراض أنه كارثي، مما أدى إلى «قراءة ذاكرة خارج الحدود تؤدي إلى حدوث استثناء». أدى هذا الاستثناء غير المعالج إلى تعطل نظام التشغيل «ويندوز» على نحو 8.5 مليون جهاز.

رداً على هذا الحادث، التزمت «كراود سترايك» بإجراء اختبارات أكثر صرامة لمحتوى الاستجابة السريعة في المستقبل. وأعلنت أنها تخطط لتأخير الإصدارات، ومنح المستخدمين مزيداً من التحكم في توقيت النشر، وتوفير ملاحظات إصدار شاملة.

خطأ بشري كان السبب!

في حديث خاص لـ«الشرق الأوسط»، يرى ماهر يمّوت باحث أمني رئيسي في فريق البحث والتحليل العالمي لدى شركة «كاسبرسكي» أن السبب المحدد لانقطاع الخدمة المفاجئ لا يُعد محورياً هنا». ويشرح يمّوت أن «ما يهم هو أن خطأ بشرياً أو خطأ في العملية أدى إلى تحديث سيئ، مما تسبب في تعطل الأنظمة العالمية.» ولتقليل احتمال حدوث ذلك في المستقبل، ينصح يمّوت «بضرورة تنفيذ عملية التحديث على جانب العميل لترتيب التحديثات، بدلاً من الاعتماد فقط على التحديثات التلقائية من المصدر».

يُتخوَّف من استغلال المقرصنين لحادثة «كراود سترايك» لإنشاء مواقع ويب وهمية للاسترداد وصفحات تصيّد أخرى (شاترستوك)

استغلال من المقرصنين

كان خبراء ووكالات الأمن السيبراني قد حذّروا من موجات قرصنة قد يتعرّض لها المستخدمون مرتبطة بالحادث. وطالبت وكالات الأمن السيبراني في المملكة المتحدة وأستراليا الأشخاص بتوخي الحذر من رسائل البريد الإلكتروني والمكالمات والمواقع الإلكترونية المزيفة التي تتظاهر بأنها رسمية. وقالت الوكالات إنها لاحظت بالفعل زيادة في عمليات التصيد الاحتيالي التي تشير إلى هذا الانقطاع، حيث تسعى الجهات الخبيثة الانتهازية إلى الاستفادة من الموقف. وحث جورج كورتز، رئيس شركة «كراود سترايك» المستخدمين على التأكد من التحدث إلى ممثلين رسميين من الشركة قبل تحميل أي تحديثات.

وأفاد ماهر يمّوت بأن مجرمي الإنترنت يقومون بإنشاء مواقع ويب وهمية للاسترداد، وصفحات تصيد أخرى لمحاولة خداع المستخدمين المتأثرين بانقطاع تكنولوجيا المعلومات هذا. وأوضح خلال حديثه لـ«الشرق الأوسط» أن ذلك يسمى «تكتيك الهندسة الاجتماعية الذي يستخدمه المحتالون غالباً لاستغلال الأشخاص في أثناء حوادث عالمية مماثلة».

تفسيرات ومناقشات واسعة النطاق

أثار الحادث مناقشات وانتقادات كثيرة دفعت البعض للتعمق في الكود المحدد الذي أدى إلى التعطل، بينما يشكك آخرون في فاعلية العمليات الداخلية لشركة «كراود سترايك». وقد تم استدعاء الرئيس التنفيذي لشرح هذا الفشل من قبل لجنة الأمن الداخلي الأميركية، مسلطاً الضوء على أهمية الحدث. وقد تسبب الحادث في اضطرابات تتجاوز المجال التقني، مؤثراً في الشركات والأفراد الذين يعتمدون على عمليات الكومبيوتر المستمرة، العاملة بنظام «ويندوز».

يؤكد خطأ «كراود سترايك» أهمية عمليات الاختبار والتحقق القوية في تطوير البرامج، خصوصاً لمنتجات الأمان التي تحمي ملايين الأجهزة. وربما يشكّل التزام الشركة بتحسين إجراءاتها والشفافية في التعامل مع العواقب خطوةً حاسمةً في استعادة ثقة المستخدم ومنع وقوع حوادث مماثلة في المستقبل.