«تيك توك» تحذف نحو 3.9 مليون محتوى مخالف في السعودية نهاية 2025

إزالة 91 % من المحتوى المخالف عالمياً عبر تقنيات الرصد التلقائي

تعتمد «تيك توك» بشكل متزايد على التقنيات الآلية لرصد وحذف غالبية المحتوى المخالف قبل الإبلاغ عنه من المستخدمين (رويترز)
تعتمد «تيك توك» بشكل متزايد على التقنيات الآلية لرصد وحذف غالبية المحتوى المخالف قبل الإبلاغ عنه من المستخدمين (رويترز)
TT

«تيك توك» تحذف نحو 3.9 مليون محتوى مخالف في السعودية نهاية 2025

تعتمد «تيك توك» بشكل متزايد على التقنيات الآلية لرصد وحذف غالبية المحتوى المخالف قبل الإبلاغ عنه من المستخدمين (رويترز)
تعتمد «تيك توك» بشكل متزايد على التقنيات الآلية لرصد وحذف غالبية المحتوى المخالف قبل الإبلاغ عنه من المستخدمين (رويترز)

أظهر أحدث بيانات منصة «تيك توك» أن المملكة العربية السعودية كانت من بين أكثر الأسواق نشاطاً في تطبيق سياسات السلامة الرقمية خلال الربع الثالث من عام 2025، مع حذف ما يقرب من 3.9 مليون مقطع فيديو لمخالفتها إرشادات المجتمع؛ في مؤشر على تشديد الرقابة الاستباقية على المحتوى داخل المنصة.

ووفق تقرير إنفاذ إرشادات المجتمع الصادر عن «تيك توك» للفترة من يوليو (تموز) إلى سبتمبر (أيلول) 2025، بلغ معدل الحذف الاستباقي في السعودية 99.2 في المائة، فيما أُزيل نحو 96.7 في المائة من المحتوى المخالف خلال أقل من 24 ساعة، ما يعكس سرعة الاستجابة وفعالية أنظمة الإشراف المعتمدة داخل المملكة.

ويأتي ذلك ضمن إطار أوسع شهد حذف أكثر من 17.4 مليون مقطع فيديو مخالف في منطقة الشرق الأوسط وشمال أفريقيا خلال الربع ذاته، شمل مصر والإمارات والعراق ولبنان والمغرب، مع اعتماد متزايد على التقنيات الآلية في رصد المحتوى المخالف قبل الإبلاغ عنه من المستخدمين.

إشراف استباقي وتكنولوجيا آلية

على المستوى الإقليمي والعالمي، سجل الربع الثالث من 2025 أعلى مستويات الاعتماد على الأنظمة الآلية في تاريخ المنصة، حيث جرى حذف 91 في المائة من المحتوى المخالف باستخدام تقنيات الرصد التلقائي، إلى جانب حذف 99.3 في المائة من المحتوى قبل تلقي أي بلاغات من المستخدمين. كما أزيل 94.8 في المائة من المقاطع المخالفة خلال أقل من 24 ساعة.

وتشير هذه المؤشرات إلى انتقال متزايد في نموذج الإشراف من المعالجة اللاحقة إلى التدخل المبكر، بما يقلص احتمالات تعرض المستخدمين لمحتوى مخالف، ويتيح لفرق السلامة البشرية التركيز على مراجعة الحالات المعقدة وطلبات الاستئناف والتعامل مع الأحداث المتسارعة.

كثفت المنصة إجراءات حماية القُصّر لإزالة حسابات يُشتبه في عودتها لأشخاص دون 13 عاماً على المستوى العالمي (أ.ب)

حماية الفئات العمرية الأصغر

وفي سياق متصل، كثفت «تيك توك» إجراءاتها المرتبطة بحماية القُصّر، إذ حذفت عالمياً أكثر من 22 مليون حساب يُشتبه في عودتها لأشخاص دون سن 13 عاماً خلال الربع الثالث من 2025. ويعكس ذلك تركيز المنصة على ضبط التجارب الرقمية للفئات العمرية الأصغر، بما يشمل منطقة الشرق الأوسط وشمال أفريقيا.

وتندرج هذه الجهود ضمن مساعٍ أوسع لتعزيز بيئة رقمية أكثر أماناً، لا سيما في الأسواق ذات القاعدة الشبابية الواسعة، مثل السعودية، حيث يحظى المحتوى الرقمي بتفاعل مرتفع وانتشار واسع.

البث المباشر تحت الرقابة

وشهدت سياسات البث المباشر (LIVE) تشديداً إضافياً خلال الفترة نفسها، إذ علّقت المنصة عالمياً أكثر من 32.2 مليون بث مباشر مخالف، وحظرت 623 ألف مضيف بث مباشر، في إطار تعزيز أدوات الإشراف على هذا النمط من المحتوى عالي التفاعل.

وعلى مستوى المنطقة، أوقفت «تيك توك» بشكل استباقي أكثر من 2.48 مليون بث مباشر في عدد من الدول العربية، ما يعكس توسع تطبيق القرارات الآلية بالتوازي مع التوسع في استخدام خاصية البث المباشر.

الاستئناف واستعادة المحتوى في السعودية

وفيما يتعلق بآليات الشفافية، أظهر التقرير أن السعودية جاءت في المرتبة الثانية إقليمياً من حيث عدد مقاطع الفيديو التي أُعيدت بعد قبول طلبات الاستئناف، بواقع 195711 مقطعاً. وتوضح هذه الأرقام حجم التفاعل مع نظام الاعتراض، ودوره في تحقيق توازن بين الإنفاذ الصارم لسياسات المنصة وضمان حق المستخدمين في مراجعة القرارات.

تفرض «تيك توك» رقابة مشددة على البث المباشر مع تعليق ملايين البثوث المخالفة وحظر عدد كبير من المضيفين (شترستوك)

إنفاذ سياسات تحقيق الدخل

كما واصلت «تيك توك» نشر بيانات متعلقة بسلامة تحقيق الدخل، إذ اتخذت خلال الربع الثالث من 2025 إجراءات شملت التحذير أو إيقاف تحقيق الدخل لأكثر من 3.9 مليون بث مباشر و2.1 مليون صانع محتوى على مستوى العالم، بسبب مخالفات لإرشادات تحقيق الدخل.

وتهدف هذه السياسات إلى دعم المحتوى الآمن والأصيل وعالي الجودة، مع الحد من الممارسات التي قد تستغل البث المباشر لأغراض مخالفة.

الشفافية ركيزة أساسية

ويعكس تقرير الربع الثالث من 2025 اعتماد «تيك توك» المتواصل على نموذج إشراف هجين، يجمع بين التقنيات المتقدمة وخبرات فرق متخصصة في مجالي الثقة والسلامة، في إطار سعيها لتعزيز بيئة رقمية أكثر أماناً في الأسواق الإقليمية، وعلى رأسها السعودية.

وتؤكد المنصة أن نشر تقارير الشفافية بشكل دوري يشكل عنصراً أساسياً في بناء الثقة مع المستخدمين والجهات التنظيمية، في وقت يتزايد فيه الاهتمام العالمي بتنظيم المحتوى الرقمي وحوكمة المنصات الاجتماعية.


مقالات ذات صلة

اتهامات بانتهاك «الملكية الفكرية» تلاحق «تيك توك»

إعلام اتهامات بانتهاك «الملكية الفكرية» تلاحق «تيك توك»

اتهامات بانتهاك «الملكية الفكرية» تلاحق «تيك توك»

لاحقت اتهامات بانتهاك حقوق الملكية الفكرية شركة «بيت دانس» الصينية، مالكة منصة «تيك توك»، ما دفع الشركة لإعلان عزمها اتخاذ خطوات لتعزيز الحماية في هذا الصدد.

فتحية الدخاخني (القاهرة)
خاص كثافة الإعلانات دون معنى تؤدي إلى إرهاق الجمهور بينما يتفوق المحتوى المرتبط بالثقافة والسياق (رويترز)

خاص «تيك توك» لـ«الشرق الأوسط»: التفاعل الرمضاني ينمو 1.7 مرة سنوياً

«تيك توك»: رمضان يتحول إلى موسم نوايا وتخطيط ممتد، حيث تتفوق الملاءمة والقيم على كثافة الإعلانات التقليدية.

نسيم رمضان (لندن)
تكنولوجيا رئيس الوزراء الإسباني بيدرو سانشيز (إ.ب.أ)

بسبب محتوى يضر الأطفال... إسبانيا تحقق مع «إكس» و«ميتا» و«تيك توك»

قال رئيس الوزراء الإسباني بيدرو سانشيز، اليوم الثلاثاء، إن الحكومة وجَّهت ممثلي الادعاء للتحقيق مع منصات ​التواصل الاجتماعي «إكس» و«ميتا» و«تيك توك».

«الشرق الأوسط» (مدريد)
يوميات الشرق موضة قطع التواصل مع الأهل منتشرة في أوساط الجيل زد (بكسلز)

جيل اللا تواصل والقطيعة مع الأهل... بروكلين بيكهام ليس سوى عيِّنة من موضة رائجة

على «تيك توك» تُحصى مُشاهَدات الفيديوهات المُرفقة بهاشتاغ «عائلة سامّة» و«لا تواصل» بالملايين. يأتي ذلك في سياق موضة قطع العلاقات مع الوالدَين.

كريستين حبيب (بيروت)
إعلام "تيك توك" تأمل في أن تكون منصة اقتصاد إبداعي في منطقة الشرق الأوسط. (الشرق الأوسط)

«تيك توك» تركز على «دعم الاقتصاد الإبداعي» في المنطقة

قالت المديرة العامة الإقليمية لشؤون العمليات لدى «تيك توك» في الشرق الأوسط إن استراتيجية المنصة في المنطقة ترتكز على دعم بناء «اقتصاد إبداعي مستدام».

مساعد الزياني (الرياض)

كيف يعيد الذكاء الاصطناعي تشكيل قدرات الإنسان الذهنية؟

مع وفرة الذكاء والتحليل عبر الآلة تنتقل القيمة من المعرفة إلى إنتاج المعنى والعمق الإنساني
مع وفرة الذكاء والتحليل عبر الآلة تنتقل القيمة من المعرفة إلى إنتاج المعنى والعمق الإنساني
TT

كيف يعيد الذكاء الاصطناعي تشكيل قدرات الإنسان الذهنية؟

مع وفرة الذكاء والتحليل عبر الآلة تنتقل القيمة من المعرفة إلى إنتاج المعنى والعمق الإنساني
مع وفرة الذكاء والتحليل عبر الآلة تنتقل القيمة من المعرفة إلى إنتاج المعنى والعمق الإنساني

مع تسارع أنظمة الذكاء الاصطناعي في أتمتة مهام كانت تُعدّ في صميم القدرات البشرية؛ من الكتابة والتحليل إلى دعم اتخاذ القرار، تركّزت معظم النقاشات على الإنتاجية والكفاءة، وفقدان الوظائف. لكن خلف هذه التحولات الظاهرة، يبرز تغيّر أعمق بكثير، يطال ليس فقط طريقة عملنا، بل تعريفنا للذكاء والقيمة، وحتى معنى أن نكون بشراً.

بالنسبة للمؤلف العالمي في تطوير الذات، ديريك ريدال، لا يمثل هذا التحول مجرد نقلة تقنية، بل لحظة فلسفية واجتماعية مفصلية، حيث تتعرض مفاهيم راسخة حول الذكاء لإعادة نظر جذرية.

يقول ريدال خلال مقابلة خاصة مع «الشرق الأوسط» إن «السؤال الأعمق ليس ما إذا كان الذكاء الاصطناعي يعيد تعريف الذكاء، بل ما إذا كنا قد عرّفناه بشكل صحيح منذ البداية».

لعقود طويلة، ارتبط مفهوم الذكاء بالقدرة على معالجة المعلومات، والتعرُّف إلى الأنماط، وحل المشكلات. وقد شكّلت هذه القدرات أساس أنظمة التعليم وسوق العمل والهياكل الاقتصادية. لكن مع تفوق الذكاء الاصطناعي في هذه المهام بسرعة وتكلفة أقل، يفقد هذا التعريف تفرده.

ديريك ريدال - مؤلف عالمي في تطوير الذات

من الذكاء إلى المعنى

مع تحوُّل الذكاء إلى مورد وفير، تبدأ قيمته الاقتصادية بالتراجع. ويختصر ريدال هذه الفكرة بقاعدة بسيطة، وهي أن «القيمة تتجه نحو ما هو نادر».

في هذا السياق، قد يصبح الذكاء بمعناه التقليدي مشابهاً للأكسجين، أي متاحاً للجميع، لكنه لم يعد عاملاً مميزاً. وعندما تصبح المعرفة والتحليل متاحين على نطاق واسع، تنتقل القيمة إلى بُعد آخر أقل قابلية للقياس، لكنه أكثر إنسانية. ويضيف ريدال أن «هناك المادة... وهناك ما له معنى».

فاللحظات التي تدفع البشر إلى الفعل، كالحب والإبداع والرسالة، نادراً ما تكون نتاج حسابات منطقية. إنها تنبع من إدراك أعمق يتجاوز البيانات، وهو ما يجعل القدرة على إنتاج المعنى محوراً جديداً للقيمة.

خطر انهيار الهوية

ورغم أن فقدان الوظائف يشغل حيزاً كبيراً من النقاش، يرى ريدال أن الخطر الأعمق يكمن في الهوية نفسها؛ فقد بنى الناس عبر أجيال تعريفهم لذواتهم على ما يفعلونه. لم تكن الوظيفة مجرد مصدر دخل، بل إطار للمعنى والانتماء. لكن مع قدرة الذكاء الاصطناعي على أداء هذه الأدوار، ينهار هذا الإطار. ويردف: «لن يفقد الناس وظائفهم فقط، بل سيفقدون الإجابة عن سؤال: من أنا؟».

وقد بدأت ملامح هذه الأزمة تظهر بالفعل في ازدياد الشعور بالعزلة وفقدان المعنى. ومع غياب الغاية، تتجاوز التأثيرات الجانب الاقتصادي لتطال الاستقرار النفسي والاجتماعي.

لا يعيد الذكاء الاصطناعي فقط تشكيل العمل، بل يفرض إعادة تعريف جوهر الذكاء الإنساني نفسه (شاترستوك)

وهم الاستعانة بالآلة في التفكير

في موازاة ذلك، يبرز خطر آخر أقل وضوحاً كتفويض التفكير للآلة. يحذر ريدال قائلاً: «عندما تفوّض تفكيرك النقدي، لا تحصل فقط على إجابة أسرع، بل تفقد تدريجياً القدرة على معرفة ما إذا كانت الإجابة صحيحة».

وهذا ما يسميه «التراجع الإنساني»، أي تآكلاً بطيئاً للقدرات الذهنية والقدرة على الحكم المستقل. والخطر هنا ليس فورياً، بل يتخفى خلف الراحة والكفاءة، بينما تتراجع القدرات الأساسية، دون أن نلاحظ.

تعزيز أم اعتماد؟

هذا يقود إلى سؤال محوري: هل يعزز الذكاء الاصطناعي قدرات الإنسان أم يستبدلها؟ يجيب ريدال: «السؤال الحقيقي هو ما إذا كان الإنسان خلف الأداة ينمو أم يتضاءل بهدوء».

عندما يُستخدم الذكاء الاصطناعي كأداة، يمكنه تطوير التفكير والإبداع. لكن عندما يحل محل الجهد الذهني، فإنه يضعف هذه القدرات. والاختبار هنا بسيط: إذا ابتعدت عن الأداة، هل تبقى لديك القدرة؟

أما على مستوى المؤسسات، فإن الاعتماد المفرط على الذكاء الاصطناعي قد يؤدي إلى كفاءة ظاهرية، لكنه يخلق ثقافات عمل «فارغة». في المقابل، المؤسسات التي تستخدمه لتعزيز التفكير البشري تبني ميزة تنافسية مستدامة. ويصف ريدال هذه الميزة بـ«الإنسانية المصنوعة يدوياً» أي العمق والأصالة اللذين لا يمكن تحويلهما إلى سلعة.

يرى الكاتب أن الخطر الأكبر لا يكمن في فقدان الوظائف بل في اهتزاز هوية الإنسان المرتبطة بما يفعله

إعادة التفكير في التعليم

تكشف هذه التحولات أيضاً حدود أنظمة التعليم الحالية، التي صُممت لنقل المعرفة، وهي مهمة يتفوق فيها الذكاء الاصطناعي، اليوم. ويرى ريدال أن التعليم يجب أن يُعاد بناؤه حول الإبداع والحكمة والشخصية. الإبداع يعني القدرة على إنتاج أفكار جديدة. والحكمة تنبع من التجربة والتأمل، لا من المعلومات فقط. أما الشخصية، فتشمل القيم والقدرة على بناء علاقات إنسانية حقيقية. وفي مناطق، مثل الشرق الأوسط، حيث لا تزال تقاليد التعلم المجتمعي، ونقل الحكمة حاضرة، قد تمثل هذه المقومات ميزة استراتيجية في عصر الذكاء الاصطناعي.

ما بعد الاقتصاد التقليدي

يذهب ريدال أبعد من ذلك، مشيراً إلى أن الذكاء الاصطناعي قد يعيد تشكيل الاقتصاد نفسه؛ ففي عالم قد لا يعتمد على العمل البشري بالشكل التقليدي، تصبح مفاهيم، مثل الإنتاجية والناتج المحلي، بحاجة إلى إعادة تعريف. وقد تنتقل القيمة إلى معايير تتعلق بجودة الحياة والمعنى والعلاقات الإنسانية. لكن هل يمكن للآلة أن تحل محل الحدس؟

يرد ريدال، عادّاً أن جزءاً من الحدس يمكن تفسيره كتعرُّف سريع على الأنماط، لكن هناك بُعداً أعمق يسميه «المعرفة التلقائية»، وهو إدراك لا يعتمد على التحليل، بل على الحضور الذهني العميق؛

فكثير من الاكتشافات الكبرى لم تأتِ من التفكير المكثف، بل من لحظات صفاء. وما إذا كان هذا النوع من الإدراك يمكن للآلة الوصول إليه، يبقى سؤالاً مفتوحاً.

تحدّ تنظيمي يتجاوز الاقتصاد

مع توسع الذكاء الاصطناعي، تتجاوز آثاره الجانب الاقتصادي لتشمل الإدراك والصحة النفسية. ويؤكد ريدال ضرورة أن تأخذ السياسات العامة هذه الجوانب بعين الاعتبار، محذراً من «أن عدم القيام بذلك يمثل فشلاً تنظيمياً لا عذر لنا فيه». في النهاية، لا يتمثل التحدي في تطور الذكاء الاصطناعي، بل في قدرة الإنسان على الحفاظ على استقلاله. ويؤكد ريدال أن الحل يبدأ بالوعي الذاتي حيث إن «تنمية الوعي ليست رفاهية... بل شرط أساسي للبقاء إنساناً كاملاً».


مدير تسويق متعدد الوكلاء يعمل بالذكاء الاصطناعي بشكل كامل

منصة ذكاء اصطناعي تقدم حلول تسويق مؤتمتة متعددة الوكلاء (أوكارا)
منصة ذكاء اصطناعي تقدم حلول تسويق مؤتمتة متعددة الوكلاء (أوكارا)
TT

مدير تسويق متعدد الوكلاء يعمل بالذكاء الاصطناعي بشكل كامل

منصة ذكاء اصطناعي تقدم حلول تسويق مؤتمتة متعددة الوكلاء (أوكارا)
منصة ذكاء اصطناعي تقدم حلول تسويق مؤتمتة متعددة الوكلاء (أوكارا)

في تطور لافت ضمن سباق تقنيات الذكاء الاصطناعي، أعلنت شركة «أوكارا للذكاء الاصطناعي» (Okara AI) عن إطلاق خدمة جديدة توصف بأنها الأولى من نوعها، تتمثل في «رئيس تسويق تنفيذي» (CMO) يعمل بالكامل عبر الذكاء الاصطناعي، في محاولة لإعادة تشكيل مفهوم التسويق الرقمي وإدارة النمو للشركات الناشئة، والمؤسسات التقنية.

وتقوم الفكرة على تقديم نظام متكامل من «وكلاء الذكاء الاصطناعي» يعملون بتناغم ضمن بيئة واحدة، بهدف إدارة مختلف قنوات التسويق الرقمي دون تدخل بشري مباشر، بدءاً من تحسين محركات البحث، ووصولاً إلى إدارة الحضور على المنصات الاجتماعية، والمجتمعات التقنية.

تحول في مفهوم التسويق الرقمي

يأتي هذا الإعلان في وقت تشهد فيه أدوات تطوير البرمجيات المدعومة بالذكاء الاصطناعي، مثل منصات كتابة الأكواد وبناء التطبيقات، تسارعاً غير مسبوق، حيث بات بالإمكان تحويل الأفكار إلى منتجات رقمية خلال فترة زمنية قصيرة. إلا أن التحدي الأكبر ظل يتمثل في «التوزيع»، أو الوصول إلى المستخدمين، وهي الفجوة التي تسعى «Okara AI» إلى معالجتها.

وبحسب الشركة، فإن «مدير التسويق الذكي» الجديد يتولى تشغيل مجموعة من الوكلاء المتخصصين يومياً، من بينهم كاتب محتوى آلي، ووكيل تحسين محركات البحث (SEO). أيضاً من مهام «مدير التسويق الذكي» تحسين الظهور في محركات الذكاء الاصطناعي (GEO) وإدارة الظهور على منصات مثل «Reddit» و«X» و«Hacker News».

تهدف هذه المنظومة إلى تنفيذ استراتيجية تسويقية متكاملة تشمل إنتاج المحتوى، وتوزيعه، وتحسين ظهوره عبر محركات البحث التقليدية، والجيل الجديد من محركات البحث المعتمدة على الذكاء الاصطناعي.

نظام قابل للتكامل مع القنوات الرقمية لإدارة التسويق عبر منصة موحدة (أوكارا)

خفض التكاليف وتعزيز الكفاءة

تطرح شركة «أوكارا للذكاء الاصطناعي» (Okara AI) خدمتها الجديدة بوصفها بديلاً منخفض التكلفة مقارنة بالنموذج التقليدي لإدارة التسويق، الذي يتطلب فريقاً متكاملاً يضم مدير تسويق، وخبراء تحسين محركات البحث، وكتاب محتوى، ومديري مجتمعات رقمية.

وتشير تقديرات السوق إلى أن تكلفة هذا الفريق قد تتراوح بين 60 ألفاً و160 ألف دولار سنوياً، في حين توفر الخدمة الجديدة بديلاً رقمياً مقابل اشتراك شهري يبدأ من نحو 99 دولاراً، ما يعكس توجهاً متزايداً نحو أتمتة الوظائف المعرفية، وتقليل الاعتماد على الموارد البشرية.

يعالج انخفاض الزيارات عبر تحسين ترتيب صفحات الموقع (أوكارا)

ظهور مفهوم «تحسين محركات الذكاء الاصطناعي»

من أبرز ما يميز الخدمة الجديدة اعتمادها على مفهوم حديث نسبياً يعرف بـ«تحسين محركات التوليد» (Generative Engine Optimization-GEO)، والذي يركز على تحسين ظهور المحتوى داخل منصات الذكاء الاصطناعي، مثل محركات البحث التوليدية، بدلاً من الاقتصار على محركات البحث التقليدية.

ويعكس هذا التوجه تحولات أعمق في سلوك المستخدمين الذين باتوا يعتمدون بشكل متزايد على أدوات الذكاء الاصطناعي للحصول على المعلومات، ما يفرض على الشركات إعادة صياغة استراتيجياتها التسويقية لتواكب هذا التحول.

نحو مستقبل تسويقي مؤتمت

يمثل إطلاق «مدير التسويق الذكي» من «Okara AI» خطوة إضافية في مسار أتمتة العمليات الرقمية، ويعكس اتجاهاً متنامياً نحو الاعتماد على الذكاء الاصطناعي في إدارة النمو والتسويق.

وفي حين لا يبدو أن هذه الأنظمة ستلغي دور البشر بشكل كامل في المدى القريب، إلا أنها تؤسس لنموذج هجين يجمع بين قدرات الذكاء الاصطناعي وسرعته، وبين الرؤية الاستراتيجية والإبداع البشري، وهو ما قد يعيد رسم ملامح قطاع التسويق الرقمي خلال السنوات المقبلة.


الذكاء الاصطناعي يُعقّد مخاطر الخصوصية

الذكاء الاصطناعي يُعقّد مخاطر الخصوصية
TT

الذكاء الاصطناعي يُعقّد مخاطر الخصوصية

الذكاء الاصطناعي يُعقّد مخاطر الخصوصية

قضى قاضٍ فيدرالي هذا الشهر، بأن محادثات أي شخص مع برنامج الدردشة الآلي «كلود»، التابع لشركة «أنثروبيك»، لا تتمتع بحماية الحفاظ على السرية، التي تحظى بها محادثات المحامي وموكله، حتى وإن كان استخدام البرنامج بهدف للتحضير لمقابلة محامين.

خروق «ذكية»

وقبل أسابيع، أثارت شركة «رينغ»، المملوكة لشركة «أمازون»، والمتخصصة في صناعة كاميرات أجراس الأبواب، غضباً واسع النطاق عندما نشرت إعلاناً خلال مباراة «سوبر بول»، يُظهر كيف يمكن استخدام الذكاء الاصطناعي للعثور على الكلاب الضائعة. وسرعان ما أشار النقاد إلى إمكانية استخدامه كذلك لمراقبة حيّ بأكمله. ومنذ ذلك الحين، أعلنت الشركة اعتذارها مرات عدة.

وأظهر إعلان شركة «رينغ»، صاحب كلب مفقود يستخدم ميزة «البحث الجماعي»، التي تستخدم الذكاء الاصطناعي، وصوراً من شبكة كاميرات مراقبة منزلية للعثور على الكلب المفقود. وأوضحت الشركة أن مالكي كاميرات «رينغ» مُلزمون بالموافقة على مشاركة المعلومات من خلال طلب «البحث الجماعي».

امرأة قاتلة تحادثت مع «جي بي تي»

وخلال الأسبوع الماضي، ظهرت أنباء تفيد بأن شركة «أوبن إيه آي»، المطورة لبرنامج «تشات جي بي تي»، كانت على علم بتفاعلات امرأة من مقاطعة كولومبيا البريطانية مع برنامج الدردشة الآلي، وأن الشركة فكرت في إبلاغ السلطات عنها قبل أشهر من ارتكابها جريمة إطلاق نار جماعي.

وفي الوقت الذي تواجه «أوبن إيه آي» تساؤلات حول ما إذا كان ينبغي عليها أن تكون أكثر استباقية في الإبلاغ عما كتبته هذه السيدة، تسلط هذه الحادثة الضوء على احتمال تعرض شركات الذكاء الاصطناعي لمزيد من الضغوط لمشاركة سجلات المحادثات الخاصة مع السلطات.

في قلب هذه العناوين، احتل الذكاء الاصطناعي التوليدي موقع الصدارة - التكنولوجيا التي شاع استخدامها بفضل برامج الدردشة الآلية، والتي بدأت تتغلغل في الأدوات اليومية، التي يستخدمها الناس للبحث عبر الإنترنت وكتابة المقالات والبرمجة. ويثير التواتر المستمر للتقارير الإخبارية المتعلقة بخصوصية المستهلك، تساؤلات حول ما إذا كان الذكاء الاصطناعي قد كشف معلومات شخصية للأفراد، أكثر مما كان عليه في السابق.

في هذا الصدد، عبَّر خبراء معنيون بالخصوصية عن اعتقادهم بأنه على أرض الواقع، فإن المخاطر المرتبطة بمشاركة البيانات مع شركات التكنولوجيا لا تزال كما هي تقريباً دونما تغيير؛ فأي بيانات تُرسل إلى خوادم الشركة قد تكون متاحة أمام الموظفين أو الجهات الحكومية أو المحامين أو حتى المجرمين، الذين استولوا على البيانات من خلال ثغرات أمنية.

مخاطر المحادثات الحميمة مع الأدوات الذكية

بيد أن الطبيعة الحميمة للمحادثات مع برامج الدردشة الآلية تضيف بعداً جديداً لمشكلة قديمة؛ فالناس اليوم يشاركون معلومات أكثر بكثير مما كانوا يفعلون في السابق. وعلى عكس أدوات البحث التقليدية على الإنترنت، تدعو برامج الدردشة الآلية المستخدمين إلى كتابة أفكارهم كاملةً وطرح مزيد من الأسئلة؛ ما يكشف عن نواياهم بشكل أوضح.

في هذا السياق، شرح كريس جيليارد، الباحث المستقل بمجال الخصوصية في ديترويت، أنه: «في كثير من الحالات، تتشابه المشكلات، لكننا نعاين اليوم طريقة جديدة للتفاعل مع التكنولوجيا لم تكن مألوفة من قبل. وعندما يحدث ذلك، يحتاج الناس إلى إعادة صياغة رؤيتهم للمخاطر والأضرار».

الحقيقة أن هذا درسٌ اضطر مستخدمو الإنترنت إلى تعلمه مرة بعد أخرى. فقبل نحو ثماني سنوات، تعرضت شركة «ميتا»، المعروفة سابقاً باسم «فيسبوك»، لانتقادات حادة عندما انتشر خبر جمع شركة «كمبردج أناليتيكا»، المعنية بالاستشارات السياسية، بيانات 87 مليون مستخدم لـ«فيسبوك» بطريقة غير مشروعة.

عدم تسجيل المحادثات المؤقتة

كانت تلك لحظة فارقة دفعت الناس إلى إعادة النظر في مشاركة بياناتهم الشخصية عبر الإنترنت. ومع ذلك، يبدو أن هذا الدرس قد طواه النسيان في عصر روبوتات الدردشة، التي يلجأ إليها الناس طلباً للمساعدة في العمل، والعلاج النفسي، وحتى الرفقة الحقيقية.

من جهتها، أعلنت «أوبن إيه آي» أنها منحت المستخدمين تحكماً كاملاً في كيفية استخدام بياناتهم، بما في ذلك خيار استخدام محادثات مؤقتة لا تُسجل في سجل «تشات جي بي تي». كما أكدت «أنثروبيك» التزامها بالقوانين المعمول بها، وأنها قد تُطالب بمشاركة المعلومات عند تقديم طلبات قانونية مشروعة.

وفي حادثة المرأة مطلِقة النار جيسي فان روتسيلار أكدت شركة «أوبن إيه آي» في بيان لها أن: «حماية الخصوصية والأمان في (تشات جي بي تي) أمر بالغ الأهمية، ونحن نولي الأولوية للأمان عندما يكون هناك تخطيط موثوق ووشيك لإحداث ضرر حقيقي في العالم الواقعي. وتتولى أنظمتنا الآلية تصعيد الحالات الحرجة، مثل تشكيل تهديد للحياة أو التهديد بإلحاق الأذى الجسيم بالآخرين، لإخضاعها مراجعة بشرية محدودة لاتخاذ الإجراءات اللازمة».

مناقشات قانونية

وفي حين أنه ليس من المستغرب أن يكون لدى «أوبن إيه آي»، كغيرها من الشركات، نظام لمراقبة إساءة استخدام خدماتها، فإن الحادثة سالفة الذكر من المحتمل أن تثير نقاشاً في أوساط الخبراء القانونيين، حول ما إذا كان ينبغي تحميل شركات الذكاء الاصطناعي المسؤولية عن المحادثات، التي يجريها المستخدمون مع روبوتات الدردشة، ومتى يصبح من الضروري مشاركة البيانات مع جهات إنفاذ القانون، حسب ما ذكرته جينيفر غرانيك، المحامية المتخصصة في شؤون المراقبة والأمن السيبراني، لدى «الاتحاد الأميركي للحريات المدنية».

وأضافت أن المادة 230 من قانون آداب الاتصالات تضفي حماية عامة على شركات الإنترنت من المسؤولية عن المحتوى، الذي ينشره المستخدمون عبر مواقع مثل «فيسبوك»، لكن من غير الواضح ما إذا كان ينبغي تطبيق هذه السياسات بالمثل على روبوتات الدردشة، بالنظر إلى اختلاف طبيعة المحادثات عن المنشورات عبر المنصات. وقالت: «سنبدأ الفترة المقبلة في معاينة المزيد من الدعاوى القضائية لتوضيح طبيعة مسؤولية الإبلاغ لجهات إنفاذ القانون».

قاضٍ يبتّ بقضية احتيال

وتُبيّن قصة برنامج الدردشة الآلي «كلود»، التابع لشركة «أنثروبيك»، كيف يمكن أن تحدث حالة من الارتباك، عندما يتعامل الناس مع برامج الدردشة الآلية التجارية كأداة لتدوين الملاحظات والبحث. وقد قرر قاضٍ فيدرالي السماح للمدعين العامين بالاطلاع على نصوص محادثات رجل متهم بالاحتيال الإلكتروني، كان قد تواصل مع «كلود» في خضم استعداده للحديث مع المحامين. وكان مبرر القاضي أن «كلود» ليس محامياً، وبالتالي لا يتمتع بحماية الحفاظ على سرية تفاعلات المحامي مع موكله. وقد أثار قرار القاضي جدلاً واسعاً بين المحامين في جميع أنحاء البلاد؛ لأنه سلّط الضوء على المخاطر المحتملة لاستخدام الذكاء الاصطناعي مقارنةً بالأدوات التقليدية.

في المقابل، إذا دوّن المتهم ملاحظات وشاركها مع محاميه فقط، فقد تكون محمية بموجب سرية العلاقة بين المحامي وموكله، كما أوضحت لورا ريبوسو فاندروف، الشريكة في مكتب كيلي دراي للمحاماة، والمعنية بشؤون خصوصية المستهلك وأمن البيانات. ونظراً لأن المحادثات مع روبوت الدردشة يجري تخرينها على خوادم الشركة، فقد لا تكون محمية قانونياً.

من جهتها، أوضحت شركة «أنثروبيك» أن المتهم الذي حاول حماية نصوص محادثاته مع «كلود»، بموجب سرية العلاقة بين المحامي وموكله، قدّم النصوص مباشرةً إلى المحكمة عندما صادرت السلطات الفيدرالية أجهزته، ما يعني أن «أنثروبيك» لم تشارك البيانات.

* خدمة «نيويورك تايمز»