«تلغرام»... هل هو بوابة لـ«الإنترنت المظلم» في جيبك؟

شعار تطبيق «تلغرام» (رويترز)
شعار تطبيق «تلغرام» (رويترز)
TT

«تلغرام»... هل هو بوابة لـ«الإنترنت المظلم» في جيبك؟

شعار تطبيق «تلغرام» (رويترز)
شعار تطبيق «تلغرام» (رويترز)

قبل نحو 9 أشهر، وخلال بحث جو تيدي، مراسل شؤون الأمن الإلكتروني في هيئة الإذاعة البريطانية (بي بي سي)، عن قصة صحافية جديدة، وجد نفسه مُضافاً إلى قناة كبيرة على تطبيق «تلغرام» تركز على بيع المخدرات، ثم تمّت إضافته إلى قناة تختص بالقرصنة، ثم أخرى تبيع كل الممنوعات من بطاقات الائتمان المسروقة حتى الأسلحة.

وأدرك تيدي وقتها أن إعدادات «تلغرام» الخاصة به جعلت من الممكن للأشخاص إضافته إلى قنواتهم دون أن يفعل أي شيء، وأبقى الإعدادات كما هي لمعرفة ما سيحدث بعد ذلك، وفي غضون بضعة أشهر تمّت إضافته إلى 82 مجموعة مختلفة.

وبعد أن غيّر إعداداته لإيقاف ذلك، وجد أنه «في كل مرة يقوم فيها بتسجيل الدخول يتلقى آلاف الرسائل الجديدة من عشرات المجموعات غير القانونية النشطة للغاية» وفق قوله.

وأشعل اعتقال بافيل دوروف، مالك ومؤسس «تلغرام»، في فرنسا نقاشاً حول الإشراف على تطبيقه.

وتم توجيه الاتهام إلى دوروف بالتواطؤ «المشتبه به» في السماح للمعاملات غير المشروعة، والاتجار بالمخدرات والاحتيال ونشر صور الاعتداء الجنسي على الأطفال، بالانتشار على موقعه.

الإنترنت المظلم

وحسب تيدي، فلا شك أن الجريمة تحدث على شبكات التواصل الاجتماعي الأخرى أيضاً، لكن «تلغرام» يسهّل الأمر بصورة تجعل المشكلة «أوسع نطاقاً» وتسبب قلقاً متزايداً للعاملين في إنفاذ القانون.

ويصف مقدم البرامج المتخصصة في الأمن السيبراني، باتريك غراي، تطبيق «تلغرام» منذ أشهر بأنه «الويب أو الإنترنت المُظلم في جيبك». ويعدّ «الويب المظلم» جزءاً من الإنترنت لا يمكن الوصول إليه إلا باستخدام برامج متخصصة، ويُستخدم في بيع السلع والخدمات غير القانونية.

وفي تعليقه على اعتقال دوروف، قال غراي إن «تلغرام كان ملاذاً للجريمة لفترة طويلة». وأضاف: «نحن نتحدث عن مواد الاعتداء الجنسي على الأطفال، ونتحدث عن بيع المخدرات، ونتحدث عن مستويات من الجريمة لا تحدث إلا على الويب المظلم ولا يفعل التطبيق شيئاً حيالها».

ويحب المجرمون شبكة الويب المظلمة؛ لأنها تسمح لهم بعدم الكشف عن هوياتهم، وهو ما يسمح به «تلغرام». ويقول الباحثون في شركة الأمن السيبراني «Intel471»: «قبل ظهور (تلغرام)، كان النشاط الإجرامي يتم بشكل أساسي باستخدام خدمات الويب المظلمة. لكن بالنسبة لمجرمي الإنترنت من المستوى الأدنى والأقل مهارة، أصبح (تلغرام) إحدى أكثر الوجهات شعبية عبر الإنترنت».

مواد إساءة معاملة الأطفال

تقول هيئة الإذاعة البريطانية: «في حين يستجيب (تلغرام) لبعض طلبات إزالة هذه المواد التي تقدم من الشرطة أو الجمعيات الخيرية، فإن التطبيق لا يشارك في البرامج التي تهدف إلى منع انتشار صور ومقاطع إساءة معاملة الأطفال جنسياً بشكل استباقي، ولا يبذل جهداً كافياً لمراقبة مواد إساءة معاملة الأطفال جنسياً»، وهو أحد الادعاءات الرئيسية من قبل المدعين العامين الفرنسيين.

بدوره، أخبر التطبيق هيئة الإذاعة البريطانية أنه يبحث «بشكل استباقي عن الأنشطة غير القانونية، بما في ذلك إساءة معاملة الأطفال جنسياً». وقال إن إجراءات «غير معلنة» تم اتخاذها ضد 45 ألف مجموعة في أغسطس (آب) وحده.

عدم التعاون مع الشرطة

ويعد الإشراف على المحتوى جزءاً من المشكلة التي يواجهها «تلغرام»، لكن نهجهه في التعامل مع طلبات الشرطة بإزالة المحتوى غير القانوني أو «تمرير الأدلة» يعد مشكلة أخرى.

ويمكن لـ«تلغرام» قراءة كل المحتوى المتداول عليه، وتمريره إلى الشرطة إذا أراد ذلك، لكنه ينص في شروطه وأحكامه على ألا يفعل ذلك.

وأشارت السلطات الفرنسية، فيما يخص الاتهامات بشأن دوروف، إلى أن الشرطة في فرنسا وفي بلجيكا أيضاً «كانت تعاني تاريخياً» من «انعدام شبه كامل للاستجابة من (تلغرام) للطلبات القانونية».


مقالات ذات صلة

قراصنة إيرانيون يسيطرون على قناة «تلغرام» خاصة بصحافيين إسرائيليين

شؤون إقليمية صورة قاسم سليماني تظهر في قناة «تلغرام» الخاصة بالصحافيين الإسرائيليين (إكس)

قراصنة إيرانيون يسيطرون على قناة «تلغرام» خاصة بصحافيين إسرائيليين

استولى قراصنة إيرانيون على قناة «تلغرام» خاصة بالصحافيين الإسرائيليين يارون أبراهام من القناة 12 الإخبارية ويانير كوزين من إذاعة الجيش الإسرائيلي.

«الشرق الأوسط» (تل أبيب)
شؤون إقليمية إسرائيل هي الهدف الأول للعمليات السيبرانية التي تنفذها إيران منذ بدء الحرب في غزة (رويترز)

«مايكروسوفت»: إسرائيل الهدف الأول للعمليات السيبرانية الإيرانية منذ أكتوبر 2023

أصبحت إسرائيل الهدف الأول للعمليات السيبرانية التي تنفذها إيران منذ بدء الحرب في غزة بينما كانت الولايات المتحدة أول أهدافها سابقاً.

«الشرق الأوسط» (باريس)
أوروبا استنفار للشرطة الألمانية تحسباً لهجوم إرهابي (غيتي)

ألمانيا: توجيه الاتهامات لـ 4 مراهقين بالتحضير لعمليات إرهابية

وجهت السلطات الألمانية اتهامات إلى 4 مراهقين تتراوح أعمارهم بين 15 و16عاماً، تتعلق بالتخطيط لارتكاب أعمال إرهابية.

راغدة بهنام (برلين)
أوروبا رجل يلتقط صورة تذكارية مع ملصق يحمل صورة الرئيس الروسي فلاديمير بوتين يقول: «لماذا نريد مثل هذا العالم إذا لم تكن روسيا موجودة فيه؟» (رويترز)

«فليحفظ الرب القيصر»... مؤيدون يهنئون بوتين بعيد ميلاده الثاني والسبعين

وصف بعض المؤيدين الرئيس الروسي فلاديمير بوتين بـ«القيصر»، في عيد ميلاده الثاني والسبعين، الاثنين، وقالوا إنه أعاد لروسيا وضعها، وسينتصر على الغرب بحرب أوكرانيا.

«الشرق الأوسط» (موسكو)
الخليج الشراكة قائمة على تعزيز التعاون وتوسيع التنسيق حيال الوقاية ومكافحة الإرهاب والتطرف العنيف (الشرق الأوسط)

«اعتدال» السعودي ومنصة «تلغرام» يزيلان 129 مليون محتوى متطرف

تمكن مركز «اعتدال» بالتعاون مع منصة «تلغرام» من إزالة أكثر من 129 مليون محتوى متطرف، وإغلاق أكثر من 14 ألف قناة متطرفة على المنصة.

«الشرق الأوسط» (الرياض)

دراسة جديدة: نماذج الذكاء الاصطناعي اللغوية تفتقر لفهم حقيقي للعالم

بحسب الدراسة أظهرت نماذج الذكاء الاصطناعي أنها لا تتعلم بالفعل الحقائق الكامنة عن العالم (أدوبي)
بحسب الدراسة أظهرت نماذج الذكاء الاصطناعي أنها لا تتعلم بالفعل الحقائق الكامنة عن العالم (أدوبي)
TT

دراسة جديدة: نماذج الذكاء الاصطناعي اللغوية تفتقر لفهم حقيقي للعالم

بحسب الدراسة أظهرت نماذج الذكاء الاصطناعي أنها لا تتعلم بالفعل الحقائق الكامنة عن العالم (أدوبي)
بحسب الدراسة أظهرت نماذج الذكاء الاصطناعي أنها لا تتعلم بالفعل الحقائق الكامنة عن العالم (أدوبي)

أظهرت نماذج اللغة الكبيرة (LLMs)، مثل النماذج التي يقوم عليها نموذج «GPT-4»، قدرات مذهلة في توليد النصوص، سواء أكان ذلك في كتابة الشعر، أو تأليف المقالات، حتى تقديم حلول برمجية. تُدرَّب هذه النماذج، المعتمدة على بنى معمارية متقدمة تُعرف باسم «المحوّلات» (Transformers)، على توقع تسلسل الكلمات، ما يمكّنها من الاستجابة للمطالبات بطرق تحاكي فهماً يشبه البشري. ومع ذلك، تشير أبحاث حديثة إلى أن هذه النماذج، على الرغم من قدراتها المثيرة للإعجاب، قد لا تتعلم بالفعل الحقائق الكامنة عن العالم.

خريطة لمدينة نيويورك الأميركية (أدوبي)

التنقل في مدينة نيويورك دون خريطة

في دراسة حديثة قادها آشِش رامباتشان، أستاذ مساعد في الاقتصاد وباحث في مختبر نظم المعلومات واتخاذ القرار بمعهد ماساتشوستس للتكنولوجيا (LIDS)، قام الباحثون باختبار مدى قدرة نموذج لغوي مبني على «المحوّلات» على التنقل في مدينة نيويورك. وبينما أظهر النموذج دقة عالية في تقديم توجيهات دقيقة خطوة فخطوة عبر شبكة شوارع المدينة، تراجع أداؤه بشكل كبير عندما تمت إضافة عراقيل مثل إغلاق بعض الشوارع والتحويلات.

وعندما حلّل الباحثون أنماط التنقل التي أنتجها النموذج، اكتشفوا أن «خرائط» مدينة نيويورك التي كوّنها النموذج كانت تحتوي على مسارات غير واقعية، مثل شوارع غير موجودة وروابط غير دقيقة بين تقاطعات متباعدة. هذا الاكتشاف أثار تساؤلات حول حدود هذه النماذج، خاصة في البيئات التي تتطلب دقة كبيرة.

التداعيات في العالم الحقيقي

تنطوي هذه القيود على تداعيات هامة. فعلى الرغم من أن نماذج الذكاء الاصطناعي تبدو قادرة على التعامل مع مهام معقدة، فإن أداءها قد يتراجع بشكل كبير عندما تتغير المتغيرات البيئية، ولو بشكل بسيط. على سبيل المثال، قد يتمكن النموذج من التنقل في خريطة ثابتة لمدينة نيويورك، لكنه يتعثر عند مواجهة تحديات غير متوقعة، مثل إغلاق الشوارع. ويحذر فريق البحث من أن استخدام هذه النماذج في تطبيقات حقيقية قد يؤدي إلى فشل غير متوقع إذا واجهت سيناريوهات خارجة عن بيانات التدريب.

لعبة «أوثيللو» هي لعبة ألواح استراتيجية يشارك فيها لاعبان يلعبان على لوح مقسم إلى 8 × 8 مربعات غير مختلفة اللون (أدوبي)

مقاييس لتقييم الفهم

لمزيد من التعمق في مدى قدرة نماذج الذكاء الاصطناعي على تكوين «نماذج للعالم»، أي تمثيلات داخلية للقواعد والهيكليات، طوّر الفريق مقياسين جديدين للتقييم، هما «تمييز التسلسل» و«ضغط التسلسل».

يقيس «تمييز التسلسل» قدرة النموذج على التمييز بين سيناريوهات مختلفة، مثل تمييز موضعين مختلفين على لوحة لعبة «أوثيللو». ويقيّم المقياس ما إذا كان النموذج يفهم أن مدخلات مختلفة تحمل دلالات مختلفة.

أما مقياس «ضغط التسلسل» فيقيّم قدرة النموذج على إدراك الحالات المتطابقة، مثل وضعين متطابقين على لوحة لعبة «أوثيللو»، ويفهم أن خطوات التحرك التالية من كل وضع يجب أن تكون متشابهة.

قام الفريق باختبار هذه المقاييس على فئة معينة من المسائل تشمل تسلسلاً محدداً من الحالات والقواعد، مثل التنقل في شبكة شوارع أو لعب «أوثيللو». من خلال هذه التقييمات، سعى الباحثون لفهم ما إذا كانت النماذج قد طوّرت بالفعل نماذج منطقية للعالم.

العشوائية قد تؤدي إلى فهم أعمق

كشف البحث عن نتيجة غير متوقعة، حيث أظهرت النماذج التي دربت على تسلسلات عشوائية قدرة أكبر على بناء نماذج داخلية دقيقة مقارنة بتلك التي دربت على بيانات منظمة. على سبيل المثال، في لعبة «أوثيللو»، كانت النماذج المدربة على حركات عشوائية قادرة على التعرف على جميع الحركات الممكنة، حتى الحركات غير المثلى التي لا يلجأ إليها اللاعبون المحترفون.

وأوضح كيون فافا، الباحث الرئيسي وأستاذ زائر في جامعة هارفارد، أنه «من الناحية النظرية، عندما يتم تدريب النموذج على حركات عشوائية، فإنه يرى مجموعة كاملة من الاحتمالات، بما في ذلك الخيارات غير المحتملة». ويبدو أن هذا التعرض الواسع «يساعد النموذج في تكوين نموذج أكثر دقة للعالم، وإن لم يلتزم بالأسلوب الأمثل».

ورغم هذه النتائج، لم يستطع أي من النماذج تكوين نموذج منطقي متكامل للعالم في مهمة التنقل. وعندما أضاف الباحثون تحويلات إلى خريطة نيويورك، فشلت جميع النماذج في التكيف. وأشار فافا إلى أن «التراجع في الأداء كان مفاجئاً؛ إغلاق واحد في المائة فقط من الشوارع تسبب في انخفاض الدقة بشكل حاد، من أداء شبه مثالي إلى 67 بالمائة فقط».

تراجع أداء نماذج الذكاء الاصطناعي بشكل كبير عندما تتغير المتغيرات البيئية ولو بشكل بسيط (أدوبي)

بناء نماذج للعالم موثوقة

تسلط نتائج هذه الدراسة الضوء على تحدٍ كبير، يتمثل في أنه عندما تبدو المحوّلات قادرة على أداء مهام معينة، فإنها قد تفتقر إلى الفهم الأساسي للقواعد. وشدّد رامباتشان على ضرورة الحذر، قائلاً: «غالباً ما يفترض الناس أنه بما أن هذه النماذج تحقق نتائج رائعة، فلا بد أنها طوّرت فهماً جوهرياً للعالم. لكن دراستنا تشير إلى أننا بحاجة إلى النظر في هذا الافتراض بعناية وعدم الاعتماد على الحدس فقط».

ويخطط الباحثون لتوسيع دراستهم لتشمل تحديات أكثر تعقيداً حيث قد تكون القواعد غير معروفة كلياً أو متغيرة. وباستخدام مقاييسهم التقييمية على هذه المجالات، يأملون في فهم حدود نماذج الذكاء الاصطناعي بشكل أفضل وتوجيه تطويرها في المستقبل.

تداعيات أوسع وأهداف مستقبلية

تتجاوز تداعيات هذا البحث فهم العالم الافتراضي، وتمس التطبيقات العملية. إذا كانت نماذج الذكاء الاصطناعي غير قادرة على تكوين نماذج داخلية دقيقة للعالم، فإن ذلك يثير تساؤلات حول استخدامها في مجالات تتطلب منطقاً دقيقاً، مثل القيادة الذاتية، والأبحاث العلمية، والتخطيط اللوجستي. ويقول الباحثون إن الحاجة ملحة لإعادة التفكير في كيفية تدريب هذه النماذج وتقييمها لتكون أكثر تكيفاً وموثوقية.

هذا البحث مدعوم من قبل عدة مؤسسات، بما في ذلك مبادرة علوم البيانات في جامعة هارفارد، ومؤسسة العلوم الوطنية، ومؤسسة ماك آرثر. سيتم عرض الدراسة في مؤتمر نظم معالجة المعلومات العصبية، حيث سيواصل الباحثون مناقشة تعقيدات نماذج الذكاء الاصطناعي واستكشاف مسارات جديدة لتطويرها.