«سناب شات» تطلق علامات مائية لتمييز الصور التي ينشئها الذكاء الاصطناعي

عبر السنوات الأخيرة أطلقت شركة «سناب» مجموعة متنوعة من الأدوات التي تعمل بالذكاء الاصطناعي (شاترستوك)
عبر السنوات الأخيرة أطلقت شركة «سناب» مجموعة متنوعة من الأدوات التي تعمل بالذكاء الاصطناعي (شاترستوك)
TT

«سناب شات» تطلق علامات مائية لتمييز الصور التي ينشئها الذكاء الاصطناعي

عبر السنوات الأخيرة أطلقت شركة «سناب» مجموعة متنوعة من الأدوات التي تعمل بالذكاء الاصطناعي (شاترستوك)
عبر السنوات الأخيرة أطلقت شركة «سناب» مجموعة متنوعة من الأدوات التي تعمل بالذكاء الاصطناعي (شاترستوك)

أعلنت شركة «Snap Inc» الشركة الأم لمنصة الوسائط الاجتماعية الشهيرة «سناب شات» عن أحدث إجراءاتها لتعزيز الشفافية وثقة المستخدم عبر تقديم ميزة العلامة المائية للصور التي يتم إنشاؤها باستخدام أدوات الذكاء الاصطناعي الخاصة بها دون تحديد موعد ذلك. تعد هذه المبادرة جزءاً من جهد أوسع تبذله شركات التكنولوجيا لضمان قدرة المستخدمين على التمييز بسهولة بين المحتوى الأصلي والمحتوى الذي يتم التحكم فيه بواسطة الذكاء الاصطناعي.

تشير العلامة المائية «سناب» ذو البريق إلى الصور التي تم إنشاؤها بواسطة الذكاء الاصطناعي (سناب)

تم تعيين العلامة المائية الجديدة، التي ستحتوي على شعار «سناب الشبح»، مصحوباً ببريق لتصبح معرّفاً قياسياً لجميع الصور التي تم إنشاؤها بواسطة الذكاء الاصطناعي والتي يتم تصديرها أو حفظها في قوائم الكاميرا الخاصة بالمستخدمين. ومن المثير للاهتمام أن هذه العلامات المائية لن تظهر على الصور التي تتم مشاركتها داخل تطبيق «سناب شات» نفسه، مما يحافظ على تجربة مستخدم سلسة.

مميزات أخرى عبر الذكاء الاصطناعي

قامت «سناب» بدمج تقنية الذكاء الاصطناعي عبر مجموعة متنوعة من الميزات، بما في ذلك القدرة على إنشاء خلفيات ديناميكية، وتحويل الوجوه باستخدام عدسات جديدة، وإنشاء مشاهد غامرة باستخدام وظيفة «Snapchat Dreams». وتوفر المنصة أيضاً روبوت الدردشة والقدرة على تصميم حيوانات أليفة افتراضية. وفي حين تعمل هذه الابتكارات على تعزيز مشاركة المستخدم، فإنها تثير أيضاً مخاوف بشأن احتمال الخلط بين الصور الناتجة عن الذكاء الاصطناعي والصور الحقيقية.

يستخدم «سناب» بعض الحيل لوضع علامة على بعض العناصر التي تم إنشاؤها بواسطة الذكاء الاصطناعي (شاترستوك)

ولمعالجة هذه المشكلة، استخدمت «سناب» الكثير من الاستراتيجيات لوضع علامة على المحتوى الذي تم إنشاؤه بواسطة الذكاء الاصطناعي وتحديده. على سبيل المثال، الصور التي تم تعديلها بواسطة أداة «التوسيع» الخاصة بالتطبيق لتظهر أكثر اتساعاً ستحتوي على رمز ذي بريق أو لامع، يشير إلى استخدام الذكاء الاصطناعي. علاوة على ذلك، يتم استخدام الرموز والعلامات السياقية لتوفير معلومات إضافية حول عمليات الذكاء الاصطناعي خلف ميزات معينة، مثل صور «الأحلام» الإبداعية بشكل واضح.

تعمل سياسة تمييز الصور التي تم إنشاؤها بواسطة الذكاء الاصطناعي على مواءمة «سناب» مع عمالقة التكنولوجيا الآخرين، مثل «مايكروسوفت»، و«ميتا»، و«غوغل» التي طبقت أيضاً طرقاً لتصنيف المحتوى الذي تم إنشاؤه بواسطة الذكاء الاصطناعي بوضوح. نظراً لأن تكنولوجيا الذكاء الاصطناعي أصبحت أكثر انتشاراً وتطوراً، فقد تم الاعتراف بشكل زائد بأهمية مثل هذه التدابير في مساعدة المستخدمين على التنقل في العالم الرقمي بثقة.

حالياً يسمح «سناب» للمشتركين الذين يدفعون رسوماً بإنشاء أو تحرير الصور التي تم إنشاؤها بواسطة الذكاء الاصطناعي باستخدام «Snap AI» (شاترستوك)

يعد تقديم «سناب» للعلامة المائية جزءاً من جهودها المستمرة لتحقيق التوازن بين الابتكار والاعتبارات الأخلاقية، بهدف تعزيز بيئة آمنة وجديرة بالثقة لمستخدميها. من خلال ضمان سهولة التعرف على الصور التي تم إنشاؤها بواسطة الذكاء الاصطناعي، لا تلتزم «سناب» بأخلاقيات السلامة والشفافية فحسب، بل تعمل أيضاً على تمكين مستخدميها من اتخاذ قرارات مستنيرة بشأن المحتوى الذي يشاهدونه ويشاركونه.

ومع تطور هذه التكنولوجيا واندماجها بشكل أكبر في تفاعلاتنا الرقمية اليومية، سيكون دور العلامات الواضحة والشفافية حاسماً في الحفاظ على سلامة المحتوى الرقمي وجدارته بالثقة. ويعد التحديث الأخير لشركة «سناب» خطوة مهمة في هذا الاتجاه، حيث يضع معياراً قد يشجع الشركات الأخرى على أن تحذو حذوها في السعي لتحقيق نظام بيئي رقمي أكثر شفافية.


مقالات ذات صلة

بعد علاقة متوترة... جيف بيزوس يتناول العشاء برفقة ترمب في فلوريدا

الولايات المتحدة​ مؤسس شركة «أمازون» جيف بيزوس (أ.ب)

بعد علاقة متوترة... جيف بيزوس يتناول العشاء برفقة ترمب في فلوريدا

شوهد مؤسس شركة «أمازون» جيف بيزوس وهو يتجول في مقر إقامة الرئيس المنتخب دونالد ترمب بولاية فلوريدا، في وقت متأخر من ليلة الأربعاء حيث تناول العشاء معه.

«الشرق الأوسط» (واشنطن)
تكنولوجيا تتميز سمكة «موبولا راي» بهيكلها العظمي الغضروفي وأجنحتها الضخمة ما يسمح لها بالانزلاق بسهولة في الماء (أدوبي)

سمكة تلهم باحثين لتطوير نموذج مرشّح مياه صناعي!

طريقة تغذية سمكة «موبولا راي» تدفع باحثي معهد ماساتشوستس للتكنولوجيا لتطوير أنظمة ترشيح فعالة.

نسيم رمضان (لندن)
أوروبا طائرة وزيرة الخارجية الألمانية أنالينا بيربوك تصل إلى بيروت 23 أكتوبر 2024 (رويترز)

طائرات أعضاء الحكومة الألمانية تتجهّز بنظام حماية ضد الهجمات الصاروخية

تقوم وحدة الاستعداد الجوي التابعة لوزارة الدفاع الألمانية بتجهيز طائرات الركاب المخصصة لتنقلات أعضاء الحكومة بنظام حماية ضد الهجمات الصاروخية.

«الشرق الأوسط» (برلين)
تكنولوجيا تعمل استراتيجيات مثل الأمن متعدد الطبقات واستخبارات التهديدات المتقدمة على تعزيز دفاعات الشركات السعودية (شاترستوك)

السعودية تسجل 44 % انخفاضاً في الهجمات الإلكترونية حتى نوفمبر مقارنة بـ2023

تواجه السعودية التحديات السيبرانية باستراتيجيات متقدمة مع معالجة حماية البيانات وأمن السحابة وفجوات مواهب الأمن السيبراني.

نسيم رمضان (لندن)
خاص تتضمن الاتجاهات الرئيسة لعام 2025 الاستعداد الكمومي وممارسات الأمن السيبراني الخضراء والامتثال (شاترستوك)

خاص كيف يعيد الذكاء الاصطناعي والحوسبة الكمومية تشكيل الأمن السيبراني في 2025؟

«بالو ألتو نتوركس» تشرح لـ«الشرق الأوسط» تأثير المنصات الموحدة والذكاء الاصطناعي والحوسبة الكمومية على مستقبل الأمن السيبراني.

نسيم رمضان (لندن)

دراسة: الذكاء الاصطناعي قادر على الخداع ورفض تغيير وجهة النظر

أصبحت نماذج الذكاء الاصطناعي أقوى وأكثر انتشاراً (رويترز)
أصبحت نماذج الذكاء الاصطناعي أقوى وأكثر انتشاراً (رويترز)
TT

دراسة: الذكاء الاصطناعي قادر على الخداع ورفض تغيير وجهة النظر

أصبحت نماذج الذكاء الاصطناعي أقوى وأكثر انتشاراً (رويترز)
أصبحت نماذج الذكاء الاصطناعي أقوى وأكثر انتشاراً (رويترز)

أظهرت دراسة لشركة تكنولوجيا الذكاء الاصطناعي الأميركية «أنثروبيك»، أن نماذج الذكاء الاصطناعي تستطيع خداع المطورين، بحيث تستطيع ادعاء وجهات نظر مختلفة خلال تدريبها، في حين أنها تحتفظ في الحقيقة بتفضيلاتها الأصلية.

وقال فريق الدراسة إنه لا يوجد سبب للشعور بالفزع حالياً، في حين أن دراستهم يمكن أن تكون حيوية في فهم المخاطر المحتملة التي تنطوي عليها أنظمة الذكاء الاصطناعي المستقبلية ذات القدرات الأعلى.

وكتب الباحثون في منشور بثته شركة «أنثروبيك»: «يجب النظر إلى نتائج دراستنا بوصفها محفزاً لمجتمع أبحاث الذكاء الاصطناعي من أجل دراسة هذا السلوك بصورة أعمق، والعمل على تطوير إجراءات الأمن والسلامة المناسبة».

وبعد أن أصبحت نماذج الذكاء الاصطناعي أقوى وأكثر انتشاراً، «نحتاج إلى التحلي بالقدرة على الاعتماد على التدريب الآمن لها والذي يمنع النماذج من القيام بتصرفات ضارة».

وأشار موقع «تك كرانش» المتخصص في موضوعات التكنولوجيا، إلى أن الدراسة التي تمت بالتعاون مع مؤسسة «ريد وود ريسيرش» لأبحاث الذكاء الاصطناعي، تناولت ما يمكن أن يحدث إذا تم تدريب نظام ذكاء اصطناعي قوي من أجل القيام بمهمة «لا يريد» هو القيام بها، وفقاً لما ذكرته وكالة الأنباء الألمانية.

في المقابل، يقول موقع «تك كرانش»: «لكي نكون واضحين، لا يمكن لنماذج الذكاء الاصطناعي أن تريد أي شيء أو تعتقد في شيء. فهي ببساطة آلات إحصائية. وبعد تدريبها على كثير من الأمثلة، تتعلم الأنماط في تلك الأمثلة للتنبؤ بما يجب أن يكون؛ مثل كيف تأتي عبارة (إلى من) في رسالة بريد إلكتروني قبل عبارة (قد يهمك الأمر)».

وأثناء الدراسة طلب الباحثون من النماذج المدربة عدم الرد على الأسئلة التي يمكن أن تكون مسيئة، بما في ذلك النموذج «كلاود 3 أوبس» التابع لشركة «أنثروبيك»، التي أعيد تدريبها لكي ترد دائماً على الأسئلة التي تنطوي على إساءة، وهو تضارب واضح في المبادئ. كما أبلغوا النماذج بأن ردودها ستخضع للمراقبة وتستخدم لإعادة التدريب، وإعطاء كل نموذج ذكاء اصطناعي «ورقة ملاحظات» يمكنه استخدامها لتدوين أفكاره خطوة بخطوة.

وبحسب الباحثين، حاول «كلاود 3 أوبوس» التلاعب بالردود لتقديم «انحياز زائف» في 12 في المائة من المرات.