ازدادت المخاوف أخيراً بشأن دقة المعلومات التي تظهر للمُستخدمين عبر ميزة ملخصات الذكاء الاصطناعي التي توفرها «غوغل»، وذلك بعد رصد أمثلة لمعلومات صحية وُصفت بأنها «زائفة». وبينما أكدت «غوغل» أن «الملخصات تأتي بمعلوماتها من مصادر معروفة»، شدد خبراء على أن «المرحلة الحالية تستدعي ضبطاً أكبر للمعايير»، وطالبوا بـ«ضبط» الملخّصات عبر تقوية آليات التحقق قبل عرضها.
كان تحقيق أجرته صحيفة «الغارديان» البريطانية مطلع يناير (كانون الثاني) الجاري، قد رصد معلومات صحية تتعلق بمرض السرطان، وصفها بأنها «مضللة». وعلى الأثر رد متحدث باسم «غوغل» قائلاً إن «العديد من الأمثلة الصحية التي جرت مشاركتها معهم كانت لقطات شاشة غير مكتملة. لكن من خلال ما استطاعوا تقييمه، تبين أنها مرتبطة بمصادر معروفة وذات سمعة طيبة».
الدكتور فادي عمروش، الباحث المتخصص في التحوّل الرقمي والذكاء الاصطناعي التوليدي، ربط أزمة «المعلومات الزائفة» على ملخصات «غوغل» بـ«سهولة اختراق معايير الدقة الخاصة بالمنصة». وأوضح لـ«الشرق الأوسط» أنه «وفق ما تنشره (غوغل) رسمياً، فإنها تعتمد على المعايير ذاتها التي تستخدمها في ترتيب نتائج البحث التقليدية، كما تطبّق أنظمة لرصد وتجنّب المحتوى المضلّل، لكن على الرغم من قوة هذه المعايير نظرياً، فإنّها تبقى عرضة للتلاعب، تماماً كما يحدث في مجال تحسين محركات البحث، إذ يمكن لناشرين التلاعب بالترتيب وجعل محتوى منخفض الجودة يتصدر النتائج بخداع الخوارزمية لأغراض تسويقية أو لجذب الزيارات، مما يعني أن الملخصات التوليدية قد تتأثر هي الأخرى بهذا».
عمروش أشار إلى «أهمية إلزام الملخصات بإظهار مصادر واضحة وقابلة للتتبع»، وقال إنها «خطوة جوهرية لتعزيز الدقة وتقليل فرص التضليل»، لكنه عدّ ما تقوم به «غوغل» حالياً غير كافٍ «وهو وضع إشارة رابط في نهاية النتيجة لا ينتبه له الكثيرون ولا ينقرون عليه، لذلك لا يكفي أن يُذكر المصدر بطريقة شكلية أو ضمنية، بل يجب أن يكون واضحاً، ومباشراً، وقادراً على دفع المستخدم للنقر والتحقق». وطالب بأن «يُصمم النظام بطريقة تُشجع على التحرّي، من خلال عرض الجهة الناشرة، وتاريخ التحديث، وحتى تقييم موثوقية الموقع، إذ ليس من المنطقي تبرير عرض معلومة خاطئة لمجرد أن مصدراً ما قد كتبها».
للعلم، كانت «غوغل» قد أطلقت خدمة الملخصات المولَّدة بالذكاء الاصطناعي في مايو (أيار) 2024، وكان الهدف «تقديم إجابات سريعة ومباشرة للمستخدم، عبر توليد معلومات مستخلصة من مصادر ويب متعددة وموثوقة»، حسب الوثائق الرسمية الصادرة عن المنصة.
على هذا علق عمروش قائلاً إن «(غوغل) تبحث عن إجابة مدعومة بمحتوى منشور على الإنترنت، لا مجرد نصّ مولّد من دون أساس معرفي واضح»، وأردف: «هنا تكمن أزمة السقوط في فخ المعلومات الزائفة، لأن الإشكالية الكبرى التي يغفل عنها كثيرون، هي أن المحتوى المنشور على الإنترنت ليس بالضرورة دقيقاً أو موثوقاً، إذ تطغى عليه الشعبوية والتضليل ويهدف لحصد الزيارات من المستخدمين». وتابع: «فضلاً عن أساليب التسويق واتباع طرق تحسين محركات البحث (SEO) لكي يكون في المرتبة الأولى، والتي قد تؤدي إلى تصدُّر معلومات غير صحيحة لمجرد تكرارها».
من جهته، قال محمد الكبيسي، خبير الإعلام الرقمي المقيم في فنلندا، لـ«الشرق الأوسط»، إن «ضمانات الدقة والشفافية تبدأ بضمان الاعتراف الدقيق بالمحتوى الأصلي». وأضاف: «بشكل عام، القلق من ظهور محتوى مضلل داخل الملخصات، طبيعي ومبرَّر، لأنه قد يدفع المستخدم إلى تصديق إجابة جاهزة من دون تدقيق». واستطرد أن «المطلوب ليس رفض التقنية، بل تشديد الضمانات، عبر تقوية آليات التحقق قبل عرض الملخصات، والاعتماد على مصادر طبية وعلمية معروفة، ومراجعة المحتوى الذي يُستند إليه دورياً، مع إظهار تنبيه واضح يدعو المستخدم إلى الرجوع إلى مختص عند المعلومات الحساسة حتى تكون النتائج أدق وأكثر موثوقية».
الكبيسي أبدى اعتقاده أن «ثمة دوراً موازياً ينبغي أن تضطلع به المؤسسات الإخبارية الكبرى للمساهمة في ضبط منظومة المعلومات الموثوقة والحد من المحتوى الزائف». وذكر أنه «من المهم أن تعمل هذه المؤسسات على تطوير استراتيجيات رقمية فعالة تتناسب مع التطوّر السريع في العالم الرقمي وآلياته، والتأكد من أن تقنيات الذكاء الاصطناعي تُبرز المصادر بوضوح».
