انتشر، في أكتوبر (تشرين الأول) الماضي، مقطع فيديو على تطبيق «تيك توك» يُظهر امرأة تُجري مقابلة مع مراسلة تلفزيونية حول بيع قسائم الطعام (التي تمنح في أميركا لضعيفي الدخل)، كما كتب ستيفن لي مايرز وستيوارت إيه طومسون(*).
لم تكن المرأة حقيقية، ولم يحدث هذا الحوار أصلاً؛ فقد تم توليد الفيديو بواسطة الذكاء الاصطناعي. ومع ذلك، بدا أن الناس يعتقدون أن هذا حوار حقيقي حول بيع قسائم الطعام مقابل المال، وهو ما يُعد جريمة.
وقد انخدعت قناة «فوكس نيوز» بفيديو مزيف مماثل، معتبرة إياه مثالاً على الغضب الشعبي إزاء إساءة استخدام قسائم الطعام، وذلك في مقال تم حذفه لاحقاً من موقعها الإلكتروني.
تُظهر مقاطع الفيديو، مثل المقابلة المُفبركة التي تم إنشاؤها باستخدام تطبيق «سورا» الجديد من «أوبن إيه آي»، مدى سهولة التلاعب بالرأي العام، بواسطة أدوات قادرة على خلق واقع بديل، من خلال سلسلة من التوجيهات البسيطة.
وفي الشهرين الماضيين منذ إطلاق «سورا»، انتشرت مقاطع الفيديو المُضللة بشكل كبير على منصات «تيك توك»، و«إكس»، و«يوتيوب»، و«فيسبوك»، و«إنستغرام»، وفقاً لخبراء مُختصين في رصدها. وقد أثار هذا الانتشار الواسع مخاوف بشأن جيل جديد من المعلومات المُضللة والأخبار الكاذبة.
عدم كفاية وسائل ضبط التضليل
تتبنى معظم شركات التواصل الاجتماعي الكبرى سياسات تُلزم بالإفصاح عن استخدام الذكاء الاصطناعي، وتحظر بشكل عام المحتوى الذي يهدف إلى التضليل. إلا أن هذه الضوابط أثبتت عدم كفايتها بشكل كبير، لمواكبة التطورات التكنولوجية الهائلة التي تُمثلها أدوات «أوبن إيه آي».
وبينما يُقدم العديد من مقاطع الفيديو صوراً ساخرة أو صوراً مُفبركة لأطفال وحيوانات أليفة؛ فإن بعضها الآخر يهدف إلى تأجيج الكراهية التي غالباً ما تُهيمن على النقاشات السياسية على الإنترنت. وقد استخدمت هذه المقاطع بالفعل في عمليات التأثير الأجنبي.
مسؤوليات الشركات
وقال باحثون تتبعوا الاستخدامات الخادعة إن المسؤولية تقع الآن على عاتق الشركات لبذل المزيد من الجهد لضمان معرفة الناس بالحقيقي والمزيف.
وتساءل سام غريغوري، المدير التنفيذي لمنظمة «ويتنس Witness» (الشاهد) المعنية بحقوق الإنسان التي تركز على مخاطر التكنولوجيا: «هل بإمكانهم تحسين إدارة المحتوى ومكافحة المعلومات المضللة والمغلوطة؟ من الواضح أنهم لا يفعلون ذلك. هل بإمكانهم بذل المزيد من الجهد في البحث الاستباقي عن المعلومات المولدة بواسطة الذكاء الاصطناعي وتصنيفها بأنفسهم؟ الإجابة هي: (نعم) أيضاً - أي أنهم لا يفعلون ذلك».
ولم تستخدم الفيديوهات المُفبركة للسخرية من الفقراء فقط، بل من الرئيس ترمب أيضاً.
وحتى الآن، اعتمدت هذه المنصات بشكل كبير على مُنشئي المحتوى للكشف عن أن المحتوى الذي ينشرونه غير حقيقي، لكن هؤلاء لا يفعلون ذلك دائماً. ورغم وجود طرق تُمكّن منصات، مثل «يوتيوب» و«تيك توك» وغيرهما، من اكتشاف أن الفيديو مُفبرك باستخدام الذكاء الاصطناعي، إلا أنها لا تُنبّه المشاهدين دائماً على الفور.
وقالت نبيهة سيد، المديرة التنفيذية لمؤسسة «موزيلا»، وهي مؤسسة غير ربحية تُعنى بسلامة التكنولوجيا وتدعم متصفح «فايرفوكس»، مُعلقة على شركات التواصل الاجتماعي: «كان ينبغي عليهم أن يكونوا مُستعدين».
علامات رصد التزييف
تؤكد الشركات المطورة لأدوات الذكاء الاصطناعي أنها تسعى لتوضيح طبيعة المحتوى المُنشأ بواسطة الكومبيوترات، للمستخدمين. وتقوم كل من «سورا» والأداة المنافسة «فيو» التي تقدمها «غوغل»، بوضع علامة مائية مرئية على مقاطع الفيديو التي تنتجها. فعلى سبيل المثال، تضع «سورا» علامة «سورا» على كل فيديو. كما تُضيف الشركتان بيانات وصفية غير مرئية، يمكن قراءتها بواسطة الحاسوب، لتحديد مصدر كل فيديو مزيف.
وتتمثل الفكرة في إعلام المستخدمين بأن ما يشاهدونه ليس حقيقياً، وتزويد المنصات التي تعرض هذه الفيديوهات بالإشارات الرقمية اللازمة لكشفها تلقائياً.
تستخدم بعض المنصات هذه التقنية؛ فقد أعلنت منصة «تيك توك»، استجابة على ما يبدو للمخاوف بشأن مدى إقناع الفيديوهات المزيفة، الأسبوع الماضي، أنها ستشدد قواعدها المتعلقة بالإفصاح عن استخدام الذكاء الاصطناعي. كما وعدت بأدوات جديدة تُمكّن المستخدمين من تحديد مقدار المحتوى المُصطنع - مقارنة بالمحتوى الحقيقي - الذي يرغبون بمشاهدته.
ويستخدم «يوتيوب» العلامة المائية غير المرئية لتقنية «سورا» لإضافة ملصق صغير يُشير إلى أن فيديوهات الذكاء الاصطناعي «مُعدّلة أو مُصطنعة».
وقال جاك مالون، المتحدث باسم «يوتيوب»: «يرغب المشاهدون بشكل متزايد في مزيد من الشفافية حول ما إذا كان المحتوى الذي يشاهدونه مُعدّلاً أم مُصطنعاً».
سهولة التحايل
مع ذلك، قد تظهر الملصقات أحياناً بعد أن يشاهد الفيديوهات آلاف أو حتى ملايين الأشخاص. وفي بعض الأحيان، لا تظهر على الإطلاق.
وقد اكتشف أصحاب النيات الخبيثة سهولة التحايل على قواعد الإفصاح. فبعضهم يتجاهلها ببساطة، بينما يقوم آخرون بالتلاعب بالفيديوهات لإزالة العلامات المائية التعريفية. ووجدت صحيفة «نيويورك تايمز» عشرات الأمثلة على فيديوهات «سورا» التي تظهر على «يوتيوب» من دون العلامة الآلية.
وقد ظهرت عدة شركات تقدم خدمات إزالة الشعارات والعلامات المائية. كما أن تعديل الفيديوهات أو مشاركتها قد يؤديان إلى إزالة البيانات الوصفية المضمنة في الفيديو الأصلي، التي تشير إلى أنه تم إنشاؤه باستخدام الذكاء الاصطناعي.
وحتى عندما تبقى الشعارات ظاهرة، قد لا يلاحظها المستخدمون أثناء التصفح السريع على هواتفهم.
انخداع المشاهدين
ووفقاً لتحليل التعليقات الذي أجرته صحيفة «نيويورك تايمز»، الذي استخدم أدوات الذكاء الاصطناعي للمساعدة في تصنيف محتوى التعليقات، فإن ما يقرب من الثلثين، من ضمن أكثر من 3000 مستخدم علّقوا على فيديو «تيك توك» حول قسائم الطعام، تعاملوا معه كما لو كان حقيقياً.
وفي بيان لها، قالت «أوبن إيه آي» إنها تحظر الاستخدامات الخادعة أو المضللة لـ«سورا»، وتتخذ إجراءات ضد منتهكي سياساتها. وأضافت الشركة أن تطبيقها ليس سوى واحد من بين عشرات الأدوات المماثلة القادرة على إنشاء فيديوهات واقعية بشكل متزايد لا يطبق العديد منها أي ضمانات أو قيود على الاستخدام.
وأضافت الشركة: «تُنشأ مقاطع الفيديو المُولّدة بواسطة الذكاء الاصطناعي، وتُشارك عبر العديد من الأدوات المختلفة، لذا فإنّ معالجة المحتوى المُضلّل تتطلّب جهداً شاملاً من جميع الأطراف المعنية».
من جهته قال متحدث باسم شركة «ميتا»، المالكة لـ«فيسبوك» و«إنستغرام»، إنّه ليس من الممكن دائماً تصنيف جميع مقاطع الفيديو المُولّدة بواسطة الذكاء الاصطناعي، لا سيما مع التطور السريع لهذه التقنية. وأضاف أنّ الشركة تعمل على تحسين أنظمة تصنيف المحتوى.
ولم تستجب منصتا «إكس» و«تيك توك» لطلبات التعليق على انتشار مقاطع الفيديو المُزيّفة المُولّدة بواسطة الذكاء الاصطناعي.
لا يوجد حافز مالي لتقييد نشر الفيديوهات
وقال ألون يامين، الرئيس التنفيذي لشركة «Copyleaks»، وهي شركة تُعنى بكشف محتوى الذكاء الاصطناعي، إنّ منصات التواصل الاجتماعي لا تملك أي حافز مالي لتقييد انتشار مقاطع الفيديو طالما استمرّ المستخدمون في النقر عليها.
وأضاف: «على المدى البعيد، عندما يُصبح 90 في المائة من حركة المرور على المحتوى في منصّتك مُولّداً بواسطة الذكاء الاصطناعي، فإنّ ذلك يُثير تساؤلات حول جودة المنصّة والمحتوى.. لذا ربما على المدى الطويل، قد تكون هناك حوافز مالية أكبر لضبط محتوى الذكاء الاصطناعي فعلياً. لكن على المدى القصير، لا يمثل ذلك أولوية رئيسية».
* خدمة «نيويورك تايمز»
