بحث يحذر: محادثاتك مع الذكاء الاصطناعي قد لا تكون بالخصوصية التي تعتقدها

الدراسة شملت «شات جي بي تي» و«كلود» و«غروك» و«بيربلكسيتي»

الدراسة تقول إن بعض منصات الذكاء الاصطناعي ترسل بيانات محادثات إلى أدوات تتبع خارجية (د.ب.أ)
الدراسة تقول إن بعض منصات الذكاء الاصطناعي ترسل بيانات محادثات إلى أدوات تتبع خارجية (د.ب.أ)
TT

بحث يحذر: محادثاتك مع الذكاء الاصطناعي قد لا تكون بالخصوصية التي تعتقدها

الدراسة تقول إن بعض منصات الذكاء الاصطناعي ترسل بيانات محادثات إلى أدوات تتبع خارجية (د.ب.أ)
الدراسة تقول إن بعض منصات الذكاء الاصطناعي ترسل بيانات محادثات إلى أدوات تتبع خارجية (د.ب.أ)

كشفت دراسة بحثية منشورة على موقع «LeakyLM» عن مخاطر خصوصية قالت إنها تطول عدداً من أبرز منصات الذكاء الاصطناعي التوليدي، من بينها «شات جي بي تي» و«كلود» و«غروك» و«بيربلكسيتي»، عبر ما وصفه الباحثون بتسرب بيانات المحادثات والبيانات التعريفية إلى خدمات تتبع وإعلانات تابعة لجهات خارجية. ووفقاً للبحث، فإن المشكلة لا تتعلق فقط بوجود أدوات تحليل ومتابعة داخل هذه الخدمات، بل أيضاً بالطريقة التي يمكن أن ترتبط بها روابط المحادثات وبيانات المستخدمين بمعرفات إعلانية وملفات تعريف على الإنترنت.

ويقول القائمون على الدراسة إنهم اختبروا أربع منصات للذكاء الاصطناعي، ووجدوا أكثر من 13 أداة تتبع خارجية، مع الإشارة إلى أن جميع المنصات الأربع التي شملها الاختبار كانت متأثرة بدرجات مختلفة. كما يذكر الموقع أن هذه الممارسات لا تُشرح للمستخدمين بشكل مباشر وواضح، رغم أن سياسات الخصوصية الخاصة بالشركات تؤكد جمع المحادثات وبيانات الاستخدام والاعتماد على ملفات تعريف الارتباط الخاصة بجهات خارجية لأغراض تتعلق بالتحليلات والإعلانات.

الباحثون رصدوا أكثر من 13 أداة تتبع داخل أربع منصات شهيرة للذكاء الاصطناعي (أ.ف.ب)

روابط تكشف المحادثات

تتركز إحدى أكثر النقاط حساسية في الدراسة حول روابط المحادثات نفسها. فالباحثون يعدون أن روابط بعض المحادثات تُرسل إلى خدمات تتبع مثل «Meta Pixel» و«Google Analytics»، في حين قد تكون هذه الروابط، في بعض الحالات، كافية للوصول إلى محتوى المحادثة أو إلى معلومات تكشف موضوعها. ويضيف التقرير أن العناوين أو عناوين الصفحات الخاصة بالمحادثات يمكن أن تحمل بدورها مؤشرات حساسة حول اهتمامات المستخدم أو مشكلاته أو طبيعة الموضوع الذي يناقشه مع المساعد الذكي.

ووجد الباحثون أن «شات جي بي تي» كان يرسل رابط المحادثة الكامل وعنوان الصفحة إلى «Google Analytics» عند تحميل الصفحة للمستخدمين المسجلين ضمن الفئة المجانية، بصرف النظر عن قبول أو رفض ملفات تعريف الارتباط، وفقاً لما أورده التقرير. كما رصدوا في «Grok» تسرب رابط المحادثة وعنوانها إلى «Google Analytics» و«DoubleClick»، وفي بعض الحالات إلى «TikTok» و«Meta»، مع ملاحظة أن بعض المحادثات أو الصور المرتبطة بها قد تكون متاحة علناً في سياقات المشاركة.

أما في حالة «Claude»، فتشير الدراسة إلى وجود تسربات من نوع مختلف، منها إرسال عناوين البريد الإلكتروني وعنوان المحادثة إلى «Intercom»، إضافة إلى إشارات لربط نشاط المستخدم عبر أدوات متعددة على الجانب الخادمي عند قبول ملفات تعريف الارتباط غير الأساسية. وفي «Perplexity»، تقول الدراسة إن الشركة أوقفت «Meta Pixel» في أبريل (نيسان) 2026، لكن الباحثين رصدوا استمرار إرسال بيانات أخرى مثل عنوان البريد الإلكتروني الخام أو عنوان المحادثة وبيانات وصفية إلى أدوات مثل «Datadog» و«Singular».

التقرير يحذر من إمكانية ربط المحادثات بهوية المستخدم وملفه الإعلاني (رويترز)

ربط المحادثة بالهوية

يذهب التقرير إلى أن الخطر لا يتوقف عند نقل رابط أو عنوان صفحة فقط، بل يمتد إلى إمكانية الربط بين المحادثة وهوية المستخدم. ويشرح الباحثون أن بعض خدمات التتبع تتلقى مع روابط المحادثات ملفات تعريف ارتباط ومعرفات أخرى يمكن أن تساعد، وفق سياسات تلك الشركات نفسها، في ربط النشاط الإلكتروني بملفات تعريف سلوكية أو إعلانية. وفي بعض الحالات، يقول التقرير إن عمليات التتبع تتضمن أيضاً تجزئات للبريد الإلكتروني أو آليات مزامنة ملفات تعريف، بما قد يسهّل إعادة التعرف على المستخدم أو إزالة هويته المجهولة.

وتكتسب هذه النتائج حساسية أكبر، بحسب الدراسة؛ لأن مستخدمي المساعدات الذكية يشاركون معها كثيراً من المعلومات الشخصية والحساسة باعتبارها مساعدات موثوقة. ويشير الموقع إلى أبحاث سابقة أظهرت أن المستخدمين يكشفون للأنظمة التوليدية بيانات شخصية في سياقات غير متوقعة، تشمل مسائل صحية أو نفسية أو شخصية. ويرى الباحثون أن هذه المخاطر لا تقتصر على الأفراد، بل تمتد أيضاً إلى الشركات والقطاع العام؛ إذ يمكن أن تتسرب ملكية فكرية أو معلومات مؤسسية حساسة.

بعض روابط المحادثات قد تكشف موضوع النقاش أو تتيح الوصول إلى محتواه (الشركة)

ضبابية في الخصوصية

ينتقد البحث ما يصفه بالضبابية في أدوات الخصوصية. ويفيد بأن المنصات المدروسة توفر إعدادات للتحكم في الخصوصية ورؤية المحادثات، لكنها قد توحي بحماية أقوى مما يتم تطبيقه فعلياً في بعض السيناريوهات. ويضيف أن نماذج الموافقة على ملفات تعريف الارتباط نفسها تعاني من نقص في الشفافية؛ لأن الباحثين رصدوا حالات يحدث فيها التتبع رغم خيارات المستخدم، أو بطريقة يصعب رصدها عبر المتصفح بسبب استخدام قنوات تتبع خادمية.

ولا يزعم التقرير أنه يملك دليلاً على أن هذه الجهات الخارجية «تقرأ» المحادثات فعلاً، لكنه يقول إن إمكانية الوصول أو الربط موجودة من الناحية التقنية، وهذا في حد ذاته يخلق خطراً هيكلياً على الخصوصية. ومن هنا، يخلص الباحثون إلى أن ما يحدث يعكس انتقال نموذج الويب القائم على التتبع والإعلانات إلى بيئة المساعدات التوليدية أيضاً، في وقت تتوسع فيه هذه الخدمات بسرعة، وتصبح جزءاً أساسياً من حياة المستخدمين اليومية والعملية.

وتسلط الدراسة بذلك الضوء على جانب أقل بروزاً في سباق الذكاء الاصطناعي متعلق بأنه ليس فقط ماذا تستطيع هذه المنصات فعله، بل أيضاً بكيفية بنية اقتصاداتها الرقمية، وكيف تُدار محادثات المستخدمين داخلها، وإلى أي مدى تبقى هذه المحادثات خاصة بالفعل.


مقالات ذات صلة

واشنطن تكشف أنها استخدمت «غروك» في الحرب على إيران

الولايات المتحدة​ شعار برنامج الدردشة الآلي «غروك» التابع للملياردير إيلون ماسك يظهر على شاشة هاتف (رويترز) p-circle

واشنطن تكشف أنها استخدمت «غروك» في الحرب على إيران

كشفت الحكومة الأميركية في مذكرة قانونية، أنها استخدمت برنامج «غروك» للذكاء الاصطناعي العائد لمنصة «إكس» المملوكة لإيلون ماسك، في شنّ ضربات على إيران.

«الشرق الأوسط» (واشنطن)
تكنولوجيا يختبر تطبيق «رسائل غوغل» أداة تكشف ما إذا كانت الصور أُنشئت أو عُدلت باستخدام الذكاء الاصطناعي

أداة جديدة في «رسائل غوغل» لكشف الصور المنشأة بالذكاء الاصطناعي

يختبر «رسائل غوغل» أداة تتيح التحقق من مصدر الصور وتعديلات الذكاء الاصطناعي، لمساعدة المستخدمين على اكتشافها داخل المحادثات بسهولة.

نسيم رمضان (لندن)
يوميات الشرق مشهد من فيلم «أحلام البنفسج» المصنوع بالكامل بالذكاء الاصطناعي (شركة الإنتاج Fountain0)

سابقة سينمائية... فيلم إيراني مصنوع بالذكاء الاصطناعي يخترق «مهرجان تريبيكا العالمي»

للمرة الأولى في التاريخ يدخل الذكاء الاصطناعي المهرجانات السينمائية العريقة. والانطلاقة من «تريبيكا» الذي استضاف العرض الأول للفيلم الإيراني «أحلام البنفسج».

كريستين حبيب (بيروت)
خاص يفرض مونديال 2026 تعقيداً تقنياً وتشغيلياً غير مسبوق بسبب 104 مباريات و48 منتخباً وإقامته في 3 دول (شاترستوك)

خاص «لينوفو» لـ«الشرق الأوسط»: كأس العالم 2026 هو الأكثر تعقيداً تقنياً في تاريخ البطولة

تدير «لينوفو» بنية مونديال 2026 عبر الذكاء الاصطناعي والحوسبة الطرفية لدعم العمليات والبث والتحليل وتجربة الجماهير والمنتخبات عالمياً.

نسيم رمضان (لندن)
تكنولوجيا يوسّع مونديال 2026 دور المشجع من متابع للمباريات إلى مشارك في تجربة رقمية مستمرة (شاترستوك)

مونديال أكثر تفاعلاً... كيف تعيد التكنولوجيا تشكيل تجربة الجماهير؟

يوسّع مونديال 2026 دور المشجع عبر التصويت والتوقع و«الفانتازي» والخدمات الرقمية لتصبح المتابعة تجربة تفاعلية تتجاوز زمن المباراة.

نسيم رمضان (لندن)

تقنية جديدة تمنح الروبوتات ذاكرة للمكان والزمان

النظام يمنح الروبوتات ذاكرة طويلة الأمد تربط الأشياء بالأماكن والأوقات التي ظهرت فيها (الجامعة)
النظام يمنح الروبوتات ذاكرة طويلة الأمد تربط الأشياء بالأماكن والأوقات التي ظهرت فيها (الجامعة)
TT

تقنية جديدة تمنح الروبوتات ذاكرة للمكان والزمان

النظام يمنح الروبوتات ذاكرة طويلة الأمد تربط الأشياء بالأماكن والأوقات التي ظهرت فيها (الجامعة)
النظام يمنح الروبوتات ذاكرة طويلة الأمد تربط الأشياء بالأماكن والأوقات التي ظهرت فيها (الجامعة)

طوّر باحثون في معهد ماساتشوستس للتكنولوجيا إطاراً جديداً للذاكرة طويلة الأمد، يهدف إلى تمكين الروبوتات من تذكّر الأماكن والأشياء والأحداث التي رصدتها في أثناء تحركها في البيئات الحقيقية.

وقد يتيح هذا التوجه مستقبلاً للروبوت الإجابة عن أسئلة بسيطة مثل: أين تركت محفظتي؟ أو أين وُضع الجزء الذي كنا نعمل عليه بالأمس؟ لكن النظام لا يزال مشروعاً بحثياً، ولم يتحول بعد إلى أداة منزلية جاهزة للبحث عن الأشياء المفقودة.

يحمل النظام اسم «دام» ( DAAAM) وهو اختصار لعبارة تعني «وصف أي شيء، في أي مكان، وفي أي وقت». ويجمع بين الخرائط الثلاثية الأبعاد والرؤية الحاسوبية والنماذج اللغوية، لبناء ذاكرة مكانية وزمنية يستطيع الروبوت البحث فيها باستخدام اللغة الطبيعية.

ذاكرة مرتبطة بالعالم الحقيقي

تستطيع روبوتات كثيرة اليوم رسم خريطة للمكان وتحديد موقعها داخله، لكن هذه الخرائط تركز غالباً على الأبعاد الهندسية والعوائق والمسارات، ولا تحتفظ بالضرورة بوصف غني للأشياء الموجودة في كل موقع.

أما نماذج الرؤية متعددة الوسائط، فيمكنها التعرف على محتوى الصور ووصف الأجسام والمشاهد، لكنها قد لا تكون مصممة لتخزين هذه المعلومات داخل خريطة واسعة ومتغيرة عبر الزمن.

يحاول «DAAAM» الجمع بين القدرتين، على سبيل المثال، عند تحركه داخل منزل أو مصنع أو حرم جامعي، يسجل الأشياء التي يراها ويربط أوصافها بمواقعها على خريطة ثلاثية الأبعاد.

فقد يتذكر أن دراجة حمراء ذات إطار مثقوب كانت موجودة في موقف خارج مبنى معين، أو أن قطعة صناعية تُركت في صندوق تخزين في منطقة محددة خلال اليوم السابق. ويسمح هذا الربط للروبوت بفهم السؤال من حيث المكان والزمن والصفات، بدلاً من البحث عن اسم الشيء وحده.

اختيار الصور الأكثر فائدة

تتمثل إحدى العقبات أمام بناء هذا النوع من الذاكرة في كمية المعلومات التي يلتقطها الروبوت. فقد تمر أمام كاميراته مئات الأشياء خلال دقائق، بينما يستغرق وصف كل جسم على حدة وقتاً وقدرة حاسوبية كبيرين. لمعالجة ذلك، يجمع النظام الأشياء المتقاربة في مجموعات، ثم يختار لقطات رئيسية توفر أوضح رؤية لأكبر عدد منها. وبعد ذلك، يمكنه وصف عدة أشياء بالتوازي بدلاً من تحليل كل جسم بصورة منفصلة.

ويقول الباحثون إن هذه الطريقة تسرّع عملية إنشاء الأوصاف بنحو عشرة أضعاف، ما يسمح للنظام بالعمل في الوقت الحقيقي داخل بيئات واسعة. كما يحاول الإطار تجنب تكرار معالجة الجسم نفسه؛ إذ يسجل وصفه مرة واحدة ثم يربطه بموقعه داخل الخريطة.

تساعد التقنية الروبوتات على استرجاع مواقع الأدوات والأغراض داخل المنازل والمصانع على أن تكون قد رصدتها مسبقاً (الجامعة)

البحث باللغة الطبيعية

بعد بناء الذاكرة، يظل التحدي في الوصول بسرعة إلى المعلومة المناسبة وسط قاعدة بيانات كبيرة من المواقع والأجسام والأوصاف. ولهذا يستخدم النظام نموذجاً لغوياً يمكنه اختيار أدوات بحث مختلفة بحسب السؤال؛ فإذا سأل المستخدم عن منحوتة رآها الروبوت، يستطيع النظام البحث دلالياً عن كلمة «منحوتة». أما إذا تضمن السؤال موقع مبنى معين، فيمكنه استخدام أداة بحث مكانية. وتسمح هذه الآلية للنظام بتقسيم السؤال إلى عناصر محددة، بدلاً من الاعتماد على النموذج اللغوي وحده لتخمين الإجابة. ويرى الباحثون أن ذلك يساعد على تقليل الهلوسة؛ لأن الإجابة تستند إلى سجلات فعلية جمعها الروبوت من البيئة. وفي الاختبارات، تفوّق «DAAAM» على طرق منافسة بنسب تراوحت بين 21 و53 في المائة، بحسب نوع السؤال المستخدم في التقييم.

من المصانع إلى الواقع المعزز

قد تكون المصانع من أوائل البيئات المستفيدة من ذاكرة مكانية طويلة الأمد، حيث يمكن للعامل أن يطلب من روبوت العثور على أداة أو مكوّن تُرك في وردية سابقة، بدلاً من توجيهه يدوياً إلى الموقع. كما يمكن استخدام الفكرة في أنظمة الواقع المعزز المخصصة لفنيي الصيانة، بحيث تساعدهم على تذكّر مواضع المعدات أو رصد التغيرات غير المعتادة. وقد تفيد أيضاً في الملاحة داخل المباني والأماكن المعقدة.

لكن قدرة النظام الحالية تتركز على الأشياء والمواقع التي رصدها الروبوت بالفعل. فهو لا يعرف مكان المفاتيح إلا إذا كانت كاميراته قد شاهدتها، وربطت وصفها بموقع واضح، واحتفظت بهذه المعلومة داخل الذاكرة.

الخطوات التالية

يعمل الباحثون الآن على توسيع الإطار حتى يتمكن من تسجيل الأحداث المهمة، وليس فقط أوصاف الأجسام والمواقع. كما يخططون لإضافة مستويات ثقة إلى الإجابات، كي يوضح الروبوت مدى يقينه من المعلومة التي يقدمها. والهدف الأبعد هو تطوير روبوتات عامة تستطيع تنفيذ أنواع مختلفة من المهام بناءً على أوامر لغوية بسيطة. ويتطلب ذلك ألا ترى البيئة فقط، بل إن تتذكر كيف تغيرت بمرور الوقت، وأن تسترجع التفاصيل المناسبة عند الحاجة. بهذا المعنى، لا يقدم البحث روبوتاً منزلياً يعثر فوراً على المفاتيح المفقودة، لكنه يضع أساساً لذاكرة تجعل الآلات أكثر قدرة على فهم العالم بالطريقة التي يستخدم بها البشر المكان والزمن واللغة.


تعلّمْ كيفية التعلٌّم باستخدام الذكاء الاصطناعي

تعلّمْ كيفية التعلٌّم باستخدام الذكاء الاصطناعي
TT

تعلّمْ كيفية التعلٌّم باستخدام الذكاء الاصطناعي

تعلّمْ كيفية التعلٌّم باستخدام الذكاء الاصطناعي

لطالما تطوّرت التكنولوجيا، لكن هذا «التطوّر» يحدث عادةً بوتيرة بطيئة ومدروسة. إلا أنّ مشاهدة كيفية تطوّر الذكاء الاصطناعي وتحسينه وتوسّعه حالياً تُشبه مشاهدة أحد مقاطع الفيديو بتقنية التصوير الزمني السريع لناطحة سحاب قيد الإنشاء -أو مياه الفيضان وهي ترتفع- هذا ما يجعلك تشعر بالإلهام أو بالإحباط. هناك شعور بأنّه لا يُمكن وقفه، كما كتب غاي سوليفان(*).

رغبة في التعلم والتعليم

والأمل أن يتمكّن الناس من تحويل ذلك إلى تحدٍّ للانخراط في الذكاء الاصطناعي وتبنّيه، وفي نهاية المطاف الاستفادة منه إلى أقصى حد. وسيتطلّب هذا الموقف رغبةً في التعلّم. كما سيتطلّب، بالنسبة إلى كثيرين، رغبةً في التعليم -لتعليم أدوات الذكاء الاصطناعي مع ازدياد تعقيدها، وتعليم الزملاء في أثناء اكتشافهم كيفية استخدام الذكاء الاصطناعي في سير عملهم اليومي.

من التدريب التقليدي إلى التعلم الشخصي المدعوم بالذكاء الاصطناعي

تقيس معظم المؤسسات نمو الموظف وجاهزيته للترقية من خلال مقارنته بـ«نموذج الكفاءة». ولكن كيف يمكن قياس تطور الموظف في ظل تغير المعايير بهذه السرعة في عصر الذكاء الاصطناعي؟

وفقاً لبريت لوكاسيو، المدير الإداري في شركة «كيه بي إم جي (KPMG LLP)» الأميركية المتخصصة في التدقيق والضرائب والاستشارات، فإن الأمر يتعلق بتغيير ثقافة التعلم. يقول: «نحن نطور تصاميم تركز على الأفراد وتعمل في كلا الاتجاهين... إذ نستخدم الذكاء الاصطناعي لإطلاق العنان لقوة التعلم، ونستخدم التعلم لإطلاق العنان لقوة الذكاء الاصطناعي».

كيف تطبق الشركات الذكاء الاصطناعي لتحويل التعلم عملياً؟

يعيد لوكاسيو وفريقه النظر في كيفية تطبيق الذكاء الاصطناعي في مختلف جوانب عملهم، متجاوزين الأساليب التقليدية لتحقيق قيمة كبرى من الأدوات المتاحة لهم، لا سيما من خلال علاقات «كيه بي إم جي» الاستراتيجية مع شركاء التحالف مثل «غوغل»، و«أنثروبيك»، و«مايكروسوفت».

يستخدم لوكاسيو وفريقه أدوات الذكاء الاصطناعي لإنشاء تجارب تدريبية جديدة ومبتكرة بوتيرة أسرع من أي وقت مضى. أشار لوكاسيو إلى أن «عديداً من الناس يتعلمون بطرق مختلفة ولديهم مجموعة مهارات مميزة لإتقانها». وأضاف: «يُمكّننا الذكاء الاصطناعي من استهداف تجارب التعلم وتخصيصها بشكل أفضل بما يتناسب مع كل فرد، مما يُعزز أثرها على نمو المشاركين».

جعل التعلم أسرع وأكثر إنسانية

سمح الترويج المبكر لأدوات الذكاء الاصطناعي واعتمادها شركة «كيه بي إم جي» برؤية نتائج سريعة، لا سيما فيما يتعلق بتصميم وتطوير برامج التعلم. وأوضح لوكاسيو: «انخفض الوقت اللازم لإعداد المسودة الأولى لبرنامج تدريبي بنسبة 75 في المائة في كثير من الحالات». وأضاف: «هذا يُمكّن الموظفين من التركيز على القيمة المضافة في العملية التي لا تتحقق إلا من خلال الخبرة واللمسة الإنسانية». وأضاف أن «هذا الجانب يتعلق بتعزيز أداء موظفينا ليكونوا أكثر ابتكاراً واستراتيجية وتأثيراً».

ويُعدّ دمج مكونات الذكاء الاصطناعي في تجارب التعلم أمراً أساسياً، وليس اختيارياً. ويُمكّن الذكاء الاصطناعي متخصصي التدريب والتطوير من إثراء تجارب التعلم التقليدية الرسمية بنماذج تعلم تفاعلية تتطلب مشاركة كبرى.

ودعت الشركة إلى تبادل الخبرات بشكل غير رسمي حول ما وجدوه مفيداً وكيف تعلموا استخدام الذكاء الاصطناعي في مختلف جوانب عملهم. ولتحقيق أقصى استفادة من هذا النهج، شجعت على المشاركة على جميع المستويات الوظيفية لأن إشراك مشاركين ذوي مستويات خبرة متفاوتة وانفتاح على الابتكار يُعزز أفضل النتائج.

كفاءة ذكاء اصطناعي مدعومة بالحكمة البشرية

بدأت فرق التعلم والتطوير في «كيه بي إم جي» وعديد من الشركات الأخرى التي تحدثت معها، في الارتقاء بالذكاء الاصطناعي إلى مستوى جديد، وذلك من خلال تبنيه أداةً لمساعدة المحترفين على التفكير بشكل مختلف. ذلك أن الذكاء الاصطناعي لن يحل محل الحكمة البشرية الحقيقية، ولكنه يُمكن أن يُوفر وقتاً للتركيز على جوانب العمل التي تتطلب هذه الحكمة. وهذا هو الرأي نفسه السائد أكثر في عدد من مؤسسات القطاعات القانونية والمالية وحتى التقنية.

* خدمات «تريبيون ميديا».


أداة جديدة في «رسائل غوغل» لكشف الصور المنشأة بالذكاء الاصطناعي

يختبر تطبيق «رسائل غوغل» أداة تكشف ما إذا كانت الصور أُنشئت أو عُدلت باستخدام الذكاء الاصطناعي
يختبر تطبيق «رسائل غوغل» أداة تكشف ما إذا كانت الصور أُنشئت أو عُدلت باستخدام الذكاء الاصطناعي
TT

أداة جديدة في «رسائل غوغل» لكشف الصور المنشأة بالذكاء الاصطناعي

يختبر تطبيق «رسائل غوغل» أداة تكشف ما إذا كانت الصور أُنشئت أو عُدلت باستخدام الذكاء الاصطناعي
يختبر تطبيق «رسائل غوغل» أداة تكشف ما إذا كانت الصور أُنشئت أو عُدلت باستخدام الذكاء الاصطناعي

تعمل «غوغل» على تطوير أداة داخل تطبيق «رسائل غوغل» قد تساعد المستخدمين على معرفة ما إذا كانت الصور المتداولة في المحادثات قد أُنشئت أو عُدلت باستخدام الذكاء الاصطناعي. ولا يبدو أن الميزة ستكتفي بإصدار حكم مبسط بأن الصورة «حقيقية» أو «مولّدة»، بل قد تعرض معلومات أكثر تفصيلاً عن طريقة إنشائها والتعديلات التي أُجريت عليها، حسب موقع «آندرويد أوثوروتي».

ظهرت مؤشرات الميزة الجديدة خلال تحليل نسخة تجريبية من التطبيق على نظام «أندرويد»، لكن الأداة ليست متاحة للمستخدمين حتى الآن. كما لم تؤكد «غوغل» موعد إطلاقها. وقد تتغيّر خصائصها أو لا تصل إلى النسخة العامة، نظراً إلى أن المعلومات المتاحة تستند إلى شيفرة وعبارات موجودة في إصدار لا يزال قيد التطوير.

تفاصيل تتجاوز التصنيف البسيط

تشير العبارات المكتشفة داخل التطبيق إلى أن «رسائل غوغل» قد يميز بين صور أُنشئت بالكامل بالذكاء الاصطناعي، وأخرى التُقطت بالكاميرا ثم عُدلت بأدوات ذكية.

ومن بين الأوصاف التي يجري إعدادها داخل التطبيق «وسائط أُنشئت باستخدام الذكاء الاصطناعي»، و«عُدلت باستخدام أدوات ذكاء اصطناعي متعددة»، و«أجزاء من هذه الوسائط أُنشئت بالذكاء الاصطناعي». كما تظهر أوصاف أخرى لصور التُقطت بالكاميرا من دون تعديلات برمجية، أو جُمعت من عدة صور، أو عُدّلت بأدوات غير قائمة على الذكاء الاصطناعي.

هذا التفصيل مهم، لأن استخدام التقنية في الصور لا يأخذ شكلاً واحداً. فقد تكون الصورة مولدة بالكامل، أو قد تكون صورة حقيقية خضعت لتغيير محدود، مثل إزالة عنصر أو استبدال الخلفية. وفي حالات أخرى، قد يجري دمج صور حقيقية مع أجزاء اصطناعية، ما يجعل التصنيف الثنائي بين «حقيقي» و«مزيف» غير كافٍ.

يتوقع أن تظهر معلومات المنشأ والتعديل عند فتح الصورة واختيار عرض التفاصيل داخل المحادثة (رويترز)

الوصول إلى المعلومات من المحادثة

وفقاً للمؤشرات الموجودة في النسخة التجريبية، قد يصل المستخدم إلى هذه المعلومات عبر فتح صورة داخل المحادثة، ثم اختيار «عرض التفاصيل» من القائمة. وقد تظهر عندها بيانات مرتبطة بمصدر الصورة والجهة أو الأداة التي أنشأتها أو عدلتها.

ولا توجد حتى الآن إشارة مؤكدة إلى ظهور ملصق تحذيري تلقائي فوق كل صورة داخل المحادثة. فقد تتطلّب الميزة من المستخدم فتح التفاصيل والتحقق بنفسه، بدلاً من عرض النتيجة مباشرة في واجهة الدردشة.

ورغم أن ذلك يضيف بعض الخطوات، فإنه قد يجعل فحص مصدر الصور أسهل من نقلها إلى تطبيق آخر أو استخدام خدمة منفصلة للتحقق منها.

الاعتماد على بيانات مصدر المحتوى

يبدو أن الأداة تعتمد على معيار «بيانات اعتماد المحتوى» التابع لتحالف «C2PA»، وهو معيار مفتوح يسجل معلومات عن منشأ الوسائط الرقمية والتغييرات التي مرت بها.

تعمل هذه البيانات بطريقة تشبه السجل الرقمي المرفق بالصورة. ويمكن أن توضح ما إذا كانت الوسائط خرجت مباشرة من كاميرا داعمة للمعيار، أو خضعت لتعديلات لاحقة، أو مرت عبر أدوات للذكاء الاصطناعي.

ولا يقوم النظام بالضرورة بتحليل شكل الصورة بحثاً عن علامات التزييف، كما تفعل بعض أدوات الكشف التقليدية. بدلاً من ذلك، يقرأ بيانات موثقة مرتبطة بتاريخ الملف وطريقة إنشائه. ويعني ذلك أن فاعليته تعتمد على وجود بيانات اعتماد متوافقة داخل الصورة وعلى عدم فقدانها أو إزالتها خلال عمليات الحفظ والنقل.

لا تزال الميزة قيد التطوير كما أن غياب بيانات الاعتماد لا يعني تلقائياً أن الصورة مزيفة أو غير موثوقة (أ.ف.ب)

توجه أوسع لدى «غوغل»

لا تأتي التجربة في «رسائل غوغل» بمعزل عن تحركات أخرى للشركة. فقد وسّعت «غوغل» أدوات التحقق من المحتوى داخل تطبيق «جيميناي». كما أعلنت دعم التحقق من بيانات «C2PA» في خدمات أخرى، بهدف إظهار ما إذا كان المحتوى أصلياً من الكاميرا أو خضع لتعديلات، والأدوات التي استُخدمت في ذلك.

وتستخدم الشركة أيضاً تقنية «SynthID»، التي تطورها «غوغل ديب مايند»، لإضافة علامات مائية رقمية غير مرئية إلى المحتوى المنشأ أو المعدل بأدواتها للذكاء الاصطناعي. ويمكن لأنظمة متوافقة فحص هذه العلامات للمساعدة على تحديد مصدر المحتوى.

لكن «C2PA» و«SynthID» لا يعملان بالطريقة نفسها. فالأول هو معيار لتوثيق تاريخ المحتوى ومصدره عبر بيانات اعتماد رقمية، في حين يعتمد الثاني على علامة مائية مضمنة داخل الصورة أو الوسائط التي تنتجها أدوات «غوغل».

الحاجة إلى الحذر

قد تساعد الميزة المستخدم على فهم الصور التي تصل إليه عبر الرسائل، لكنها لن تكون ضماناً مطلقاً لصحة كل صورة. فالملف الذي لا يحتوي على بيانات اعتماد لا يعني تلقائياً أنه مزيف. كما أن غياب علامة مرتبطة بالذكاء الاصطناعي لا يثبت أن الصورة لم تخضع لأي تعديل.

وقد تُفقد بعض البيانات عند ضغط الصور، أو التقاط لقطة شاشة منها، أو تمريرها عبر تطبيقات لا تحتفظ بالمعلومات المرفقة. لذلك، تقدم هذه الأدوات سياقاً إضافياً حول مصدر المحتوى، لكنها لا تلغي الحاجة إلى التحقق من السياق والمرسل والمصدر الأصلي.

إذا وصلت الميزة إلى الإصدار العام، فستجعل «رسائل غوغل» جزءاً من توجه أوسع لنقل أدوات التحقق من الصور إلى الخدمات التي يستخدمها الناس يومياً. فبدلاً من انتظار المستخدم ليشك في صورة ويبحث عن أداة مستقلة، قد تصبح معلومات المصدر متاحة من داخل المحادثة نفسها.

Your Premium trial has endedYour Premium trial has ended